명령어만 입력하면 이미지를 곧바로 생성하는 인공지능(AI)이 최근 실존 인물과는 다른 엉뚱한 이미지를 그려내면서 AI가 현실을 왜곡할 수 있다는 우려가 일고 있다. 문제는 AI 학습에 있었다. AI의 편향된 학습에 따른 부작용을 줄이려고 편향성을 최소화하는 학습을 AI에 시킨 결과 왜곡 문제가 더 커졌다. AI 기술 개발의 한계를 드러낸 것 아니냐는 지적이다.
4일 정보기술(IT) 업계에 따르면 최근 구글과 메타의 이미지 생성형 AI가 현실을 왜곡하는 이미지를 생성하는 논란에 휩싸였다. 지난 2일(현지시간) 악시오스 등 외신은 메타의 생성형 AI ‘이메진’이 편향되거나 역사적으로 사실과 다른 이미지를 생성했다고 보도했다. 예를 들어 ‘교황 이미지를 그려줘’라고 이메진에 입력하면 흑인 교황 이미지를 생성하는 식이다. ‘미국 식민지에 어떤 사람이 거주하고 있었나’라고 물었을 때 이메진은 아시아 여성들을 그렸다. 역사적 사실과 동떨어진 이미지를 생성한 것이다.
구글의 생성형 AI 모델 ‘제미나이’ 역시 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 묘사한 것으로 나타났다. 제미나이는 독일 나치군을 아시아 인종으로 그리기도 했다. 결국 구글은 지난달 22일 제미나이의 인물 이미지 생성 기능 서비스를 중단했다. 순다르 피차이 구글 CEO는 사내 공지를 통해 “(오류는) 완전히 받아들일 수 없고 우리가 잘못한 것”이라며 “이 문제를 해결하기 위해 24시간 노력하고 있다”고 밝혔다. 구글 내부에서는 AI 경쟁에서 구글이 뒤처진 결과라면서 피차이 CEO에 대한 사임 요구도 불거진 상태다.
과거에는 AI의 편향된 학습이 편향된 결과물을 낳는다고 여겨졌다. 생성형 AI 기술을 주도하는 빅테크가 대부분 미국 기업이다 보니 AI는 영어나 영어권 문화를 주로 학습했다. 이로 인해 AI는 다른 문화권에 대한 학습이 부족했고, 주로 영어권의 고정관념이 반영된 결과물을 내놓았다. 지난해 블룸버그통신이 이미지 생성형 AI 스테이블디퓨전에 ‘패스트푸드 직원’이라는 키워드를 넣은 결과 70% 이상이 어두운 피부색의 인물을 그려낸 사례가 대표적이다. 고정관념이 반영된 결과물을 AI가 다시 학습하면서 고정관념이 더 굳어지는 문제도 나타났다.
이후 빅테크를 중심으로 AI의 편향성을 없애려는 노력이 이뤄졌다. 인종, 성별, 직업 등에 대한 편향성을 없애기 위해 다양성을 극대화하는 학습을 시킨 것이다. 그러나 이 같은 편향을 없애려는 ‘보정’이 문제를 일으켰다. 생성형 AI가 역사적 사실을 무시하고 다양성만 추구하는 결과물을 만드는 부작용을 나타낸 것이다. 구글은 “다양성에 대한 지침이 오히려 과잉 보정을 초래할 수 있다”고 분석했다. 김명주 서울여대 정보보호학과 교수는 “학습 편향을 줄이면 AI가 윤리적 판단을 내릴 거라는 예측이 틀렸다는 점을 보여주는 사례”라며 “AI에 대한 신뢰도를 떨어뜨리는 기폭제가 될 수도 있다”고 말했다.
전성필 기자 feel@kmib.co.kr