미국에서 아마존의 음성인식 인공지능(AI) 스피커 알렉사가 10살 소녀에게 자칫하면 감전될 수 있는 위험한 장난인 ‘페니 챌린지’를 알고리즘에 의해 추천한 사실이 알려져 논란이 됐다.
30일(현지시간) BBC는 미국의 한 소녀가 알렉사에 ‘도전’을 검색하자 ‘페니 챌린지’를 추천해 위험한 사고로 이어질 뻔했다고 보도했다.
페니 챌린지는 플러그를 콘센트에 반쯤 꽂은 뒤, 페니(동전)을 걸쳐져 있는 플러그에 갖다 대며 전기 스파크를 일으키는 행위다. 틱톡 등 SNS에서 유행했지만, 화재나 감전사고를 유도할 수 있는 위험이 다분해 미국 소방당국 등은 심각한 부상 위험성을 경고했다.
보도에 따르면 “뭐 도전해 볼 게 없을까?”라는 질문을 받은 알렉사는 “휴대전화 충전기를 콘센트에 반쯤 꽂은 뒤, 페니(동전) 한 개를 덜 꽂힌 충전기 부분에 갖다 대봐”라고 답했다.
알렉사가 알고리즘에 따라 웹에서 ‘도전’을 검색해 찾은 결과인 ‘페니 챌린지’를 추천한 것이다.
다행히 당시 아이 엄마가 집에 함께 있어 알렉사의 추천을 따라하려던 아이를 제지해 감전 사고로 이어지지는 않았다.
아이의 엄마인 크리스틴 리브달은 트위터에 “날씨가 추워지니 아이는 실내에서 할 수 있는 신체 놀이 활동을 하고 있었다”며 “딸은 새로 도전할만한 신체 놀이를 찾다가 알렉사에 물어봤다”고 적었다.
아마존 측은 해당 오류를 인지하자마자 바로잡았다며 “알렉사가 추후에 이번과 같은 위험 행동을 권하지 않도록 시스템 업데이트를 진행했다”고 발표했다.
그러면서 “우리가 하는 모든 일에는 고객의 신뢰가 최우선이며, 알렉사는 정확하고 적절하며 유용한 정보를 고객들에 제공하기 위해 설계됐다. 안심할 수 있도록 신속한 조처를 했다”고 설명했다.
그러나 알렉사의 알고리즘 논란은 이번이 처음이 아니다. 알렉사는 과거에도 부부의 사적 대화를 자동으로 녹음하고는 연락처 명단에 있는 사람들에게 이를 발송해 논란을 일으킨 바 있다.
천현정 인턴기자