[여현덕의 AI Thinking] 생성형 넘어 추론형까지 진화한 AI… 기술+혁신전략에 달렸다

근래 인공지능(AI)의 추론 수준이 인간을 닮아가면서 기계와 ‘만물의 영장’인 인간은 경쟁 관계에 돌입했다. 도대체 ‘추론형 AI’란 무엇인가. 지난주 MIT 테크놀로지 리뷰에서는 추론 AI를 보여주는 흥미로운 그림이 등장했다.

왼쪽은 ‘암기에 의존하는 AI’(Reciting)를 나타내고, 오른쪽은 ‘추론 기반 AI’(Reasoning)를 나타낸다. 즉 왼쪽 그림은 AI 로봇이 수학책을 보면서 “27+62=89가 답!”이라고 말한다. 이는 학습한 데이터를 그대로 암기하고 검색하는 방식이다. 오른쪽 그림은 AI가 스스로 계산해 “7+2=9, 올림 없음, 2+6=8이니 답은 89가 됨!”이라고 문제를 푸는데, 이는 단순한 데이터 검색이 아니라 논리를 기반으로 새로운 정보를 도출하는 방식이다. 기존 AI는 주어진 데이터베이스에서 정답을 직접 검색하는 방식이 주를 이뤘지만, 최근 AI 기술은 ‘생성형 AI’를 넘어 ‘추론형 AI’로 발전하고 있다.

생성형 AI는 기존 데이터를 바탕으로 새로운 콘텐츠를 생성하는 유형이고, 추론형 AI는 기존 정보를 활용해 정답을 유추하거나 패턴을 분석하는 유형이다. 생성형 AI는 주어진 데이터에서 확률적으로 정보를 생성하는 방식 때문에 ‘통계적 앵무새(stochastic parrot)’에 비유되기도 한다.

근래 들어 단순한 정보 연결이 아니라 문제를 해결하기 위해 논리적으로 사고하고 추론하는 AI에 대한 관심이 부쩍 커지고 있다. 이제 AI는 단순한 정보 제공에서 벗어나 인간처럼 논리적·창의적 사고를 할 수 있느냐에 관심이 모이고 있다. 기존의 머신러닝과 통계 분석에 더해 추론형 AI는 추론 관련 알고리즘(사고의 사슬, 전문가 지식 접목, 지식 증류 등)을 결합해 최적의 정답을 도출한다. 생성형 AI도 추론 기능을 포함하지만 모든 생성형 AI가 추론 AI인 것은 아니다. 생성형 AI는 챗GPT, Dall-E와 같이 콘텐츠(텍스트, 이미지, 음성, 음악 등)의 생성에 강점을 가지며 추론 AI는 추천 시스템, 의료 진단, 금융사기 탐지 등 좀 더 복잡한 상황에서 큰 역할을 한다. 더 고도화된 추론 AI 모델이 나오면 체스, 프로그래밍, 교육, 의료, 사무 등 다양한 분야에서도 영향을 미칠 수 있으며 체스 게임에서 승리하기 위해 계략을 쓸 수도 있을 것이다(MIT Tech Review, 2025년 3월 5일). 추론 AI가 활성화되면 추론 칩과 특수 하드웨어 발전, 실시간 데이터 처리 수요 증가, 자율주행, 의료 진단, 스마트 어시스턴트 등의 AI 활용 확대, 그리고 데이터센터 및 에지 컴퓨팅에서 AI 성능과 에너지 효율성을 높일 수 있다.


지난해 말 나온 추론 AI인 구글 제미나이 2.0 모델은 단순한 정보 검색을 넘어 인간이 하는 복잡한 인지 과정을 모방하고자 했다. 일명 ‘제미나이 싱킹’이다. 하이브리드 AI 시스템을 도입해 간단한 질문은 경량 모델로 즉시 응답하고, 복잡한 질문은 대형 모델로 처리해 연산량을 자동 조절하면서 빠르고 효율적인 응답을 도출한다. 이때 타임 스케일링(Time Scaling) 기법은 테스트 중 시간이 허용하면 AI가 더 깊은 연산을 수행해 정확도를 개선한다. 지식 증류(Knowledge Distillation)는 대형 AI 모델의 지식을 작은 AI 모델로 전이해 성능은 유지하면서 연산량을 줄이는 모델 최적화 기법이다. 그리고 플래시 싱킹(Flash Thinking)은 짧은 시간 안에 직관적으로 빠르고 창의적인 결정을 내리게 한다.

한편 올해 초 공개된 딥시크 R1 역시 제미나이 싱킹과 유사한 알고리즘을 조합하고 있다. 그러나 강화 학습을 활용해 AI가 스스로 문제를 해결하는 차별화된 전략을 도입함으로써 기존 지도학습이나 파인튜닝을 대체하려고 했다. 구글 제미나이 2.0이 텍스트, 이미지, 코드, 영상, 오디오 등을 동시에 처리할 수 있는 멀티모달 기능과 AI 에이전트화에 집중하는 반면 딥시크 R1 모델은 오픈소스 확산과 초저비용 AI 구현을 목표로 하며 강화 학습 기반의 추론 능력 향상을 핵심 전략으로 삼고 있다.


AI 시장에서 저비용 AI 모델 경쟁이 치열하다. AI 모델은 더 적은 비용으로 높은 성능을 구현하는 방향으로 빠르게 전개되고 있다. 중국에서 딥시크 AI가 낮은 비용의 토큰 가격을 제시하자 알리바바 AI는 가격을 최대 97% 인하했다. 이어서 바이두, 텐센트, 바이트댄스 등도 가세하면서 경쟁은 심해지고 있다.

미국에서도 스탠퍼드·워싱턴대는 50달러 미만의 비용과 26분의 훈련 시간으로 고성능 추론이 가능한 s1 모델을 선보였다. 이 모델 역시 학습에 필요한 뉴런만 선택해 불필요한 연산을 줄였다. 그밖에 전문가 지식 접목, 저비용 미세 조정 등의 기법을 사용해 최소한의 데이터와 비용으로 고성능 추론이 가능하도록 설계됐다

우리나라에서도 카이스트, LG, 삼성, 리벨리온 및 일부 스타트업들이 추론 AI를 개발하고 있고 글로벌 경쟁이 가능한 기술력도 보유하고 있다. 하지만 기술 발전만으로 AI 시장을 주도하는 데는 한계가 있다. 왜냐하면 AI 기술은 상호 벤치마킹하고 업그레이드되면서 빠르게 상향 평준화되고 있기 때문이다. 따라서 AI의 지속적인 발전을 위해서는 혁신적인 알고리즘과 칩, 산업 현장에 맞는 비용 전략 등을 종합적으로 고려해야 한다.

근래 AI 발전의 패러다임은 기술 개발에서 +비즈니스 혁신 전략으로 이동하고 있다. 이제 AI 경쟁은 단순히 기술만을 생각할 때가 아니다. 창의적이고 효율적인 혁신 전략이 더해지면서 승부가 결정될 것이다. 따라서 최신 트렌드를 쫓아가는 근시안적 경쟁이 아니라 게임의 규칙을 바꾸는 총체적인 혁신 전략을 생각해야 할 때다.

여현덕 KAIST-NYU 석좌교수

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지