러셀 “인류가 기계에 설득 당하는 상황 우려” 스런 “AI가 아무리 똑똑해도 인간 능가 못해”

“인간이 (AI에 밀려) 고릴라가 돼 버릴 수 있는 리스크의 속성을 찾아봐야 합니다. 생각지도 못한 위협이 올 수 있는 거죠. 의문이 들었을 때 인간이 AI의 전원을 끌 수 있어야 합니다.”

스튜어트 러셀 미국 UC버클리 교수가 19일 서울 동대문디지털플라자에서 열린 ‘SDF 서울디지털포럼 2016’ 개막식에 기조연설자로 참석해 “우리가 만드는 인공지능 시스템은 능력이 많아서 상상하지도 못했던 것들을 만들어내고 발명할 수 있다. 하지만 그 목표가 인간이 원치 않는 것일 수 있다”고 경고했다. 러셀 교수는 AI 교과서 중 하나인 ‘인공지능: 현대적 접근방식’의 저자로 인공지능 분야 세계적인 석학이다.

러셀 교수는 AI가 인류에 긍정적인 측면과 부정적인 측면 모두 있음을 전제로 이야기를 이어나갔다. 질병, 빈곤, 환경파괴 등의 문제가 AI의 도움을 받아 해결이 가능해질 것이라는 긍정적인 전망을 먼저 내놨다. 하지만 AI가 문명의 능력을 무한정으로 늘려나가다 보면 새로운 무기, 대량 살상과 생각지도 못했던 문제들이 튀어나올 수 있다는 점을 강조했다.

러셀 교수는 손에 닿는 모든 게 금으로 바뀌어 굶어 죽은 미다스 왕의 이야기를 교훈 삼아야 한다고 했다. 그가 들려준 사례가 꽤나 실감난다. 아이들을 돌봐주는 가정용 AI 로봇이 하나 있다. 어느 날 이 로봇이 끔찍한 사고를 친다. 일하고 돌아온 부모가 냉장고를 열어보니 고양이가 들어있었다. 로봇은 배고픈 아이를 위해 반려 고양이를 식재료로 선택한 것이다.

러셀 교수는 “인간의 가치와 감정을 100% 이해할 수 없는 AI 로봇이 이런 재난을 일으킬 수 있다”며 “이런 문제가 일어나지 않으려면 기계가 인간의 가치를 이해할 수 있어야 하고 무엇이 옳고 그른지를 이해할 수 있도록 AI의 발전 방향이 바뀌어야 한다”고 했다.

그는 또 목표지향적인 AI 기술은 자칫 인간이 기계에 설득당하는 상황을 초래할 수도 있다고 경고했다. 목표를 달성한 이후 인류가 어떻게 될 것인지에 대한 고민과 준비의 필요성을 강조했다.

하지만 또 다른 기조강연자인 세바스찬 스런 온라인 교육 플랫폼 유다시티 회장은 인공지능의 밝은 미래를 강조했다. 그는 구글X 창립자이자 구글 최초 자율주행차 리더였다.

스런은 현재 상황에 집중했을 때 AI가 아직 인류에 위협이 되지는 않는다고 했다. 이세돌과 바둑 대결을 펼쳐 이긴 알파고를 예로 들며 머신 러닝이 무한한 가능성을 만들어낼 것이라고 역설했다. 그는 기계가 항상 인류에 도움이 돼 왔다는 것, 신체적 노동을 기계가 대신함으로써 인간은 창의적인 활동을 할 수 있게 됐다는 점을 강조했다. 기계가 아무리 똑똑해져도 인간을 능가할 수는 없을 것이라는 낙관적인 전망도 내놓았다.

스런 회장은 “지금 당장의 문제를 살펴야 한다. 고용을 유지하고, 교육은 어떻게 바뀌어야 하는지, AI의 긍정적인 면을 발전시켜서 좀 더 나은 삶을 살도록 하는 데 천착해야 한다”고 말했다.

문수정 기자 thursday@kmib.co.kr