“피고 측에서 낸 의견서에 들어간 판례는 검색해 봐도 나오지 않는데요. 혹시 이거 챗GPT로 검색해서 제출한 건가요.” A변호사는 최근 법정에서 자신의 사건 심리가 시작되기를 기다리던 중 이 같은 재판장 지적에 깜짝 놀랐다. 잠시 침묵이 이어졌고 질문에 답을 찾지 못한 B변호사는 마른침을 삼켰다. 재판장은 “확인해 보고 다시 제출하세요”라고 질책했다. A변호사는 “이후에도 재판장이 법정에서 인공지능(AI) 사용 여부를 의심하는 경우를 몇 차례 목격했다”고 전했다.
법조계에서 AI 활용이 거스를 수 없는 대세로 자리 잡고 있다. 기록이나 판례 요약뿐 아니라 간단한 의견서 작성까지 AI가 대신하는 상황이다. 한 변호사는 29일 “20~30시간씩 걸리던 판례 검색 및 요약 작업을 AI를 잘만 활용하면 1~2시간 수준으로까지 단축할 수 있다. 변호사 관점에서 AI 활용은 이제 선택이 아닌 기본 소양으로 자리 잡고 있다”고 말했다. 법원도 예외는 아니다. 법원은 올해 초부터 민사·가사·행정 사건 전자소송 시스템에 AI 판례 추천 기능을 탑재한 데 이어 2028년까지 사건 쟁점 정리·검토보고서 작성 기능 등을 갖춘 자체 AI 모델을 구축할 계획이다.
다만 AI 재판 조력 시대가 닥쳤지만 AI가 만드는 오류를 어떻게 잡아낼지를 두고는 뚜렷한 해법을 찾지 못한 모습이다. C변호사는 “챗GPT 같은 범용 모델들은 100번 검색하면 99번은 틀리다 보니 변호사들 사이에서도 쓸모없다고 평가한다”고 말했다. 국내 판례를 집중적으로 학습한 AI 모델들은 정확성이 나쁘지 않은 만큼 변호사들은 주로 해당 모델을 사용하지만 긴장을 완전히 놓기는 어렵다는 설명이다. D변호사는 “허위 판례는 검색하면 바로 알 수 있지만 존재하는 법령이나 판례 해석을 엉터리로 한 것은 확인에 시간이 걸리고 일반인은 확인하기 어렵다는 점도 문제로 보인다”고 했다.
AI가 만드는 오류가 변호사들의 일을 줄여주는 것이 아니라 늘리는 경우도 발생한다. E변호사는 “한번은 의뢰인이 A4 용지 20장에다 대법원, 지방법원, 행정법원 판결 요약 내용을 잔뜩 채워와 사무실 직원들이 온종일 매달린 적이 있었다”며 “사건과 맞는 판례가 한 개도 없다는 게 황당했다”고 밝혔다.
해외에선 ‘AI 오류’ 변호사 징계도
해외에서도 AI가 만든 오류가 소송 과정에서 발견되는 과정이 늘면서 각국 당국이 대책 마련에 분주하다. 미국변호사협회(ABA)는 지난해 7월 AI 결과물을 검토하지 않은 변호사들을 전문성 의무 위반으로 제재할 수 있다고 경고했다. 하지만 ‘AI 환각(hallucination) 서류’ 제출 사례가 이달 들어 하루에 한 건꼴로 보고되는 등 문제 해결 기미가 보이지 않고 있다. 미국 내 각 법원에서는 AI 환각 서류를 제출했다는 것이 밝혀질 경우 소송 당사자에게 경고하거나 사안이 심각할 경우에는 변호사와 법무법인 등에 벌금을 물리는 방식으로 대응하고 있다. 지난해에는 연방법원 판사가 허위 판례를 인용한 변호사에게 1년 정직 징계를 내리기도 했다.
영국의 잉글랜드·웨일스 고등법원은 지난 6월 AI로 생성된 ‘가짜 자료’를 재판에 활용하는 변호인들은 법정모독죄로 기소될 수 있다고 밝혔다. 제출된 자료를 검토해 보니 45건 중 18건은 존재하지 않는 기록 등을 낸 사례인 것으로 보고되자 제재에 나선 것이다. 지난 5월에는 사무 변호사가 존재하지 않는 사건을 25건 제출하고도 끝까지 AI를 사용하지 않았다며 발뺌하는 사례도 나왔다. 호주에서는 법원이 지난달 AI로 만들어낸 허위 자료를 제출한 변호사에게 소송 비용을 물 것을 명령했다.
국내에서는 AI 모델이 발생시킨 오류로 문제가 발생했을 때 어떤 법을 적용해 제재할 수 있을지 불투명하다. 오류를 법원이나 의뢰인이 효과적으로 잡아낼 방법도 마땅히 없다 보니 변호사 개개인의 책임감에 기대야 하는 구조다. 한 판사는 “한국에는 영미법상의 법정모독죄 같은 제재 수단이 없다”며 “판사가 직접 고발하는 것도 가능은 하겠지만 입증 과정이 쉽지 않고 부담도 될 것”이라고 말했다. 위계에 의한 공무집행 방해나 소송사기 등의 죄를 묻기 위해서는 허위 자료 제출로 인해 직무 집행이 방해됐다는 증거나 변호사가 소송 상대방이나 재판부를 속이려고 했다는 고의성을 입증해야 하는데 이 과정이 쉽지 않을 것이라는 의견도 있다.
법조계 “AI 사용 공개 의무화 필요”
서울변호사협회 관계자는 “아직 국내에서는 AI 사용이 문제가 된 사례가 알려진 건 없지만 AI 활용이 대세가 돼 가고 있는 만큼 관련 논의가 필요할 것으로 보인다”고 말했다. AI가 만들어낸 결과를 검토하지 않고 제출한 행동을 변호사로서의 신의성실 의무를 위반한 것으로 볼 수 있다는 견해도 있다. 이 경우 변호사법상 품위유지 의무 위반 사유로 협회 차원에서 징계할 수 있다는 설명이다.
소송 과정에서 AI를 활용한 부분에 대해 법원이 공개를 강제할 권한을 주는 방안도 대안으로 거론된다. 법원 인공지능연구회가 지난 2월 발표한 가이드라인에는 소송 당사자들이 AI 사용 여부를 의무적으로 밝히도록 민·형사소송규칙 개정도 검토할 필요가 있다는 내용이 담겼다. 다만 가이드라인 스스로도 “현재 기술로는 감정하더라도 AI 사용 여부를 밝히지 못할 위험성이 높다”고 인정하고 있어 실효성에는 물음표가 찍힌다. F변호사는 “더 충실한 변론을 위해 AI를 사용했더라도 선입견을 줄까봐 굳이 밝히지 않으려 하는데 어떤 변호사가 AI 사용 사실을 공개적으로 인정하겠느냐”고 말했다.
윤준식 기자 semipro@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
