인공지능(AI) 챗봇이 문서 찾기, 보고서 작성 등 공무원의 업무를 대신해 주는 새로운 행정 지원 시스템이 구축된다.
서울시는 공무원의 반복적인 행정 업무를 생성형 AI로 대체하는 ‘챗봇 2.0’ 사업을 시작한다고 7일 밝혔다. 우선 올해 내부망에 자체 LLM(초거대 언어모델)을 도입해 일부 부서를 대상으로 챗봇을 시범 운영한다. 내년부터 내부 행정 시스템과 연계한 고도화 기능을 순차적으로 확대한다.
챗봇 2.0 시스템이 본격 가동되면 문서 작성, 규정 조회, 질의응답 등 반복적이고 정형화된 업무를 AI가 대체할 것으로 전망된다. AI가 내부 시스템과 연계된 정보를 기반으로 실시간 응답해 직원이 부서로 문의하거나 자료를 요청할 필요가 없어지는 것이다. 행정 효율성과 속도가 획기적으로 높아질 것으로 기대된다.
챗봇 2.0의 가장 큰 특징은 시의 자체 LLM을 내부망에 도입한다는 점이다. 민감한 공공데이터를 안전하게 처리할 수 있는 독립적 인프라를 바탕으로 생성형 AI 서비스를 구축하는 셈이다. 시는 올해 GPU 서버를 도입하고 내년까지 GPU 서버 3대를 추가 확보할 계획이다. 폐쇄망 내에서도 고도화된 생성형 AI 서비스가 시행될 수 있게 하는 것이다.
서울시는 단계적 확장 전략이 필요하다는 전문가 자문에 따라 내년부터 행정 시스템과 연계된 LLM API와 AI 에이전트도 도입한다. 이는 문서 자동화, 의사결정 지원 등 고도화된 기능을 지원하는 시스템이다.
강옥현 시 디지털도시국장은 “챗봇 2.0 도입으로 공무원은 더 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답받는 새로운 행정 서비스 시대가 열릴 것으로 기대된다”고 말했다.
김용헌 기자 yong@kmib.co.kr