지난해 국내 한 유명 사립대학에서 중간고사 도중 응시자 다수가 오픈AI 챗GPT로 부정행위를 한 것이 알려지며 대학가가 발칵 뒤집혔다. ‘인공지능(AI) 커닝’을 방지하기 위해 학생들의 AI 사용을 전면 금지해야 한다는 목소리까지 나왔다. 하지만 인간과 AI 간 상호작용 방식을 주목해온 김주호 카이스트 전산학부 교수 생각은 다르다. 김 교수는 “커닝이 가능한 과제와 시험의 유효기간은 이제 끝났다”고 단언했다. 과제·시험에서 AI를 활용하더라도 결국 사람이 스스로 생각해 답을 찾도록 평가 방식이 바뀌어야 한다는 의미다.
김 교수는 카이스트 인터랙션 연구실(KIXLAB)을 이끌고 있으며, AI 기반 업무 혁신 플랫폼 ‘스킬벤치’ 공동창업자이기도 하다. 최근 한국인으로는 유일하게 유엔(UN) ‘독립 국제 인공지능 과학패널’ 위원으로 선정됐다. 김 교수를 지난 4일 서울 강남구 한 카페에서 만나 AI 시대를 맞아 인간과 AI 관계는 어떻게 정의돼야 할지, 교육과 산업은 어떻게 바뀔지 등에 대한 의견을 들었다. 다음은 김 교수와의 일문일답.
-AI와 인간 간 관계를 어떻게 바라봐야 하나.
“지금 사회는 AI의 성능에 지나치게 집중하고 있다. AI의 성능이 인간을 능가하느냐는 질문은 더 이상 핵심 쟁점이 아니라고 본다. 중요하게 살펴봐야 할 점은 AI와 인간이 상호작용하는 방식이다. 여기서 말하는 상호작용은 ‘인간이 어떤 의도를 가지고 AI를 사용하는가’의 문제다. 예를 들어 AI에게 보고서를 맡길 때도 단순히 ‘보고서를 써달라’고 하는 것이 아니라, 보고서 작성의 배경을 설명하고 예시를 제시하는 등 분명한 의도를 담아 명령해야 한다. 앞으로는 사람이 AI를 어떤 질문과 목적을 가지고 활용하는 지가 점점 더 중요해질 것이다.”
-상호작용 방식이 중요한 이유는 무엇인가.
“요즘 ‘AI에게 뇌를 맡긴다’는 표현을 자주 쓴다. 아무 생각 없이 모든 일을 AI에게 맡긴다는 건데, AI에 대한 인간의 과도한 의존을 단적으로 보여주는 말이다. 인간이 AI를 활용하면서도 스스로 의미를 고민하지 않게 되면 궁금증이 사라지고 하고 싶은 일 역시 줄어들 수 있다. 그렇게 되면 인간이 AI를 활용하는 것이 아니라 오히려 AI가 만들어 놓은 결과를 정리하는 역할을 하게 되는 것이다. 결국 인간이 AI 뒤를 정리하는 부속품 같은 존재로 전락하는 디스토피아적 상황이 나타날 가능성도 있다.”
-이상적인 인간과 AI의 상호작용을 설명해달라.
“크게 두 가지로 나눌 수 있다. 첫 번째는 주도권이다. 사용자가 단순히 AI에 끌려가서는 안 된다. AI가 제시하는 내용을 비판 없이 받아들이는 것은 위험하다. 실제로 변호사가 존재하지 않는 판례를 제출하거나, 기업이 검증되지 않은 AI 결과를 활용했다가 소송에 휘말린 사례도 있다. 이는 인간이 AI를 제대로 통제하지 않았기 때문에 발생한 문제다. 결국 좋은 AI 시스템은 사용자가 제어권을 가지고, 주도적으로 활용할 수 있어야 한다. 두 번째는 투명성이다. AI가 어떤 근거로 결과를 도출했는지, 어떤 과정을 거쳐 답을 내렸는지가 공개돼야 한다. 단순히 완성도 높은 답을 제시하는 것만으로는 충분하지 않다. AI가 어떤 과정을 거쳐 결론에 이르렀는지, 이른바 생각의 흐름을 사용자가 확인할 수 있어야 한다. 이런 투명성이 확보돼야 인간과 AI 사이 신뢰도 형성될 수 있다고 본다.”
-AI 시대 교육 방식은 어떻게 달라져야 하나.
“이제는 ‘커닝을 해도 되는 숙제와 시험’의 유효기간은 끝났다고 생각한다. 학생들에게 AI 사용을 무조건 금지하는 것은 근본적인 해결책이 아니다. 과거 산업사회에서는 정보를 빠르게 암기하고 문제를 풀어내는 능력이 신입사원에게 요구되는 중요한 역량이었다. 하지만 지금은 상황이 달라졌다. AI가 요약이나 보고서 작성 같은 업무를 인간보다 더 잘하는 경우가 많다. 결국 앞으로는 훨씬 어린 나이부터, 혹은 신입 단계부터도 ‘매니저’의 역할이 요구될 수 있다. 이른바 ‘AI 수습들’을 데리고 일하는 매니저처럼 AI를 활용하고 관리할 수 있는 능력이 중요한 역량이 될 것이다.”
-업무 현장에서 AI와의 협업 방식은 어떻게 바뀌어야 하나.
“사람이 해야 하는 일을 먼저 정의하고 나머지 업무에 AI를 어떻게 활용할까를 고민해야 한다. 이미 글로벌 기업들은 채용 과정에서 AI 활용 능력을 함께 평가하는 경우가 많다. 업무를 시킬 때도 AI를 활용해 결과물을 제출하도록 요구하기도 한다. 앞으로는 AI가 내린 답을 그대로 제출하는 것이 아니라 그 결과를 선별하고 종합하며 판단하는 능력이 더 중요해질 것이다.”
-국내 AI 시장에 바라는 점이 있다면.
“소버린 AI, 즉 주권을 가진 AI가 필요하다. 교육과 군사 등 민감한 분야에서 안정적으로 활용하려면 한국이 통제할 수 있는 모델이 필요하다. 동시에 AI 산업은 더 글로벌해져야 하며 해외 인재들이 쉽게 협업할 수 있는 개방적인 생태계를 만드는 것도 중요하다.”
-AI는 사람의 일자리를 없앨 것으로 보나.
“오히려 일자리가 늘어날 것으로 전망한다. 과거에는 시간과 비용 등의 한계 때문에 일정 수준의 일만 가능했다. 앞으로는 AI가 그동안 사람이 하던 일을 대신하게 되면서 사람이 그동안 시도하지 못했던 새로운 업무 영역을 발견할 수 있다.”
-그럼에도 아날로그로 남겨두고 싶은 부분이 있다면.
“사람의 실패 경험이 남아있어야 한다고 본다. AI가 모든 것을 보조해 실수를 바로잡아 주기만 하면 오히려 학습이 일어나지 않을 수 있다. 실패를 통해 배우고 성장하는 과정 같은 아날로그적인 경험은 앞으로도 여전히 필요하다.”
-소셜미디어 등을 통해 활발히 소통하고 있는데.
“연구 내용을 공개하고 다양한 피드백을 얻기 위해 소셜미디어를 활용하고 있다. 앞으로는 결과물뿐 아니라 그 사람이 어떤 생각과 철학으로 연구하는지가 중요해질 것이라고 보고, 연구의 과정과 고민을 기록하고 공유하려 한다. 이는 AI 시대에 나만의 몸부림이라고 할 수 있다.”
차민주 기자 lali@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
