[여의도포럼] AI 앞에서 찬물도 못 마신다

중국에서는 생성형 인공지능(AI)이나 AI 음성비서를 사용할 때 ‘시진핑’ 등 언급이 제한되는 단어들이 존재한다. 중국 당국이 민감어를 지정하고 AI 사용을 검열하는 이유는 사회주의의 가치 훼손이나 지도층의 권력 누수 현상을 차단하기 위함이다. AI 사용자들이 국가 체제나 최고지도자에 대해 나누는 부정적 대화를 AI가 학습하고 AI 사용자들에게 전파하면 국가 체제나 최고지도자에 대한 부정적 여론이 사회 전반에 조성될 수 있기 때문이다. 시진핑 주석이나 사회주의 체제에 대한 대화 내용이 긍정적인 면보다 부정적인 면이 많다는 방증일 수도 있다.

인간이 환경과 상호작용하는 방법의 절반은 유전적 요인으로부터 영향을 받지만 나머지 절반은 환경과 상호작용을 하면서 축적되는 경험의 영향을 받는다. 그리고 경험이 축적되는 과정에서 지각과 의사결정의 기준이 되는 가치관이 형성된다. 생성형 AI도 개발자의 설계를 기반으로 자가학습을 통해 진화해 간다. 그리고 인간은 성장하는 과정에서 자신의 가치관에 대한 의문이 생길 때 기존의 가치관이 변하는 경우보다 기존의 가치관이 강화되는 경우가 대부분이다. 성인이 돼서는 더욱 그렇다. 기존의 가치관으로 인한 편견과 오류에 의해 합리적인 지각과 의사결정이 제한되기 때문이다.

AI에 대한 기대는 편견과 오류로부터 자유로운 지각을 통해 보다 합리적인 의사결정이 가능할 것이라는 믿음에서 비롯된다. 사법부가 불합리한 판결을 내리거나 입법부가 이념 편향적인 입법 활동을 전개할 때마다 향후 사법부와 입법부의 역할을 AI로 대체해야 한다는 목소리가 힘을 얻는 이유다. AI는 현재 다양한 분야에 적용돼 인간의 역할을 보조하거나 일부를 대신하면서 생산성을 높이고 있지만 여전히 성장기에 있다. 사법부와 입법부의 역할을 대신할 만큼 발전하려면 좀더 시간이 소요될 것이다. 하지만 문제는 시간이 아닌 AI의 학습 환경이다.

도덕과 윤리가 무너지고 있는 현실에서 AI가 부도덕한 행위와 비윤리적인 가치들을 학습하면 AI는 어떤 모습으로 진화해갈까. 위안부 후원금 횡령, 택시기사 폭행 후 증거인멸, 해직교사 부당 특혜 채용, 자녀 입시비리, 조폭으로부터의 뇌물수수 등 민생 사범과는 거리가 먼 범죄 혐의로 실형을 선고받고 형기를 절반도 채우지 않은 정치인들이 대거 사면되면서 검찰 독재 종식을 외치고 있다. 이러한 상황을 지켜보는 사회 구성원들은 이념에 따라 견해를 달리하고 있지만 반감은 예상보다 크지 않은 듯하다.

이전에는 비도덕적 행위를 저지른 경우 그 행위가 윤리적인 가치와 충돌하면서 겪는 인지 부조화로 인한 심리적 불편함을 지우기 위해 부도덕한 행위를 바로잡으려 노력했다. 하지만 이제는 비도덕적 행위를 정당화하기 위해 윤리적인 가치를 저버리는 접근을 통해 심리적 불편함을 지우려는 듯하다. 어쩌면 인지 부조화조차 느끼지 못하는지도 모르겠다. 이러한 인구가 늘면서 우리 사회의 가치 체계도 흔들리고 있다. ‘아이들 앞에선 찬물도 못 마신다’는 속담이 있다. 이제 자라나는 아이들에게 무엇을 가르쳐야 할지에 대한 고민과 함께 AI가 무엇을 보고 배울지에 대한 두려움 또한 커진다.

지금은 검색 시장 축소와 AI 시장 확대 현상이 미세하게 나타나고 있지만 본격적으로 AI 시대가 열리면 AI를 매개로 세상을 보고 환경과 상호작용을 하면서 우리의 가치 체계는 AI에 지배될 가능성이 높다. 눈앞에 다가온 AI 시대를 준비하기 위해 관련 인재 양성과 재정 지원을 통해 기술 경쟁력을 확보하고 제도 개선을 통해 AI를 기반으로 시장 경쟁력도 높여야 하겠지만, AI가 성숙기에 접어들기 이전에 윤리와 도덕을 바로 세워야 한다. 그러지 못하면 결과가 과정을 포장하는 사회, 단기적인 이익에 함몰돼 방향성을 잃어버린 사회, 구성원 간의 질서 있는 상호작용이 불가능한 사회와 마주할지도 모른다.

AI는 초인간적인 완전체가 아니다. 인간처럼 학습을 통해 성장하는 존재다. 그리고 AI 역시 학습 과정에서 편견과 오류로부터 완전히 자유로울 수는 없다. AI가 더 많은 도덕적인 콘텐츠를 접하면서 윤리적인 가치를 학습할 수 있는 환경을 구현하기 위해 사회 지도층의 각성이 요구된다. 일반 시민들의 언행보다 사회 지도층의 언행은 온라인 공간에서 더 많은 콘텐츠를 생산하고 더 큰 파급효과를 만들어내기 때문이다.

박희준
연세대 교수
산업공학과

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지