금융 접근성이 낮은 사람들에게 희망이 될 것이란 기치를 내걸고 많은 관심 속에 등장했던 ‘애플카드’(Apple Card)가 성차별 논란에 휩싸였다. 같은 조건을 가지고, 심지어 여성의 신용점수가 더 높은데도 남성의 신용한도가 10~20배 이상 높게 나와 이용자들이 문제를 제기한 것이다.
미국 CNN 등 현지매체들은 10일(이하 현지시간) 트위터 등 사회관계망서비스(SNS)에 애플카드의 신용한도를 두고 성차별을 성토하는 게시글이 잇달아 올라왔다고 보도했다. 애플이 대형 투자은행 골드만삭스와 함께 출시한 신용카드인 애플카드가 강조했던 ‘차별 없는’ 서비스와 정반대의 결과를 보였다는 것이다. 이에 뉴욕 금융당국이 조사에 착수했다.
이 같은 문제는 지난 8일 트위터를 통해 제기됐다. 웹개발회사인 ‘베이스캠프’(Basecamp)의 설립자 겸 최고기술책임자인 데이비드 핸슨이 “나와 내 아내는 같은 납세자료를 제출했고 커뮤니티 하우스에서 함께 살고 있으며 오랫동안 결혼 생활을 유지하고 있는데 아내의 신용카드 한도는 나와 비교하면 20분의 1밖에 되지 않는다”며 “이런 성차별적 프로그램이라니!”라는 글을 올린 것이 계기가 됐다.
워즈니악도 핸슨과 같은 경험을 했다며 “나도 같은 케이스”라면서 “똑같은 조건에서 내 신용한도가 아내의 10배”라고 시정을 요구했다. 특히 그는 아내와 모든 재산과 계좌를 공유하고 있는데도 불구하고 신용한도가 10배의 차이가 났다고 말했다. 그러면서 “일부 사람들은 (금융사인) 골드만삭스에 책임이 있다고 말하지만 애플도 그 책임을 공유해야 한다”고 주장했다.
이에 린다 레이스웰 뉴욕 DFS 감독관은 “관련 부처가 애플과 골드만삭스의 신용한도 설정 관행이 뉴욕주법을 위반했는지 조사하고 있다”며 “어떤 알고리즘이 됐든 고의로 남녀간에 신용한도상 차별을 둔다면 관련 법률을 위반한 것이 된다”고 말했다.
애플카드는 지난 8월 새롭게 ‘소비자 중심’ 구조를 만드는 노력의 일환으로 애플페이 프로그램과 골드만삭스의 결합을 통해 탄생했다는 점에서 많은 찬사를 받으며 출시됐다. 하지만 사용자들에게 신용한도를 부여하는 AI(인공지능)에 사회적 편견이 내재돼있다는 지적이 제기되면서 문제가 수면 위로 드러났다.
그간 연구자들은 AI로 작동되는 알고리즘에 문제가 있다는 사실을 밝혀낸 바 있다. 얼굴 인식 소프트웨어는 유색인종 여성을 식별하지 못했고, 범죄자를 구별해냄에 있어 흑인 미국인에게 편견이 있는 것으로 나타났다. 이와 관련해 페이스북은 지난 3년간 플랫폼에 노출되는 대출 및 보험 가입 권유 광고가 여성과 노년층을 겨냥해 차별을 조장했다는 의혹을 받아 집단 소송을 진행 중이다.
레이스웰은 자신의 트위터에 “금융 서비스 회사들은 그들이 사용하는 알고리즘이 의도치 않게 보호받는 그룹을 차별하지 않도록 할 책임이 있다”고 강조했다.
정진영 기자 young@kmib.co.kr