최근 한 지방법원 민사재판부 판사는 황당한 소장(訴狀)을 발견했다. 빌린 돈을 갚으라고 낸 소송인데 핵심 주장을 담은 부분에 ‘Gemini(제미나이)에 따르면’이라는 문구가 적혀 있었다. 생성형 AI(인공지능)로 소장을 만들면서 미처 지우지 않은 것이었다. 판사들은 요즘 생성형 AI로 만든 소송 서류들 때문에 애를 먹는다고 말한다. 변호사 없이 나홀로 소송을 하는 사람들이 AI 도움을 받아 수십 쪽씩 서면을 만들어 제출하다 보니 이해하기 어려운 서류들이 적잖다는 것이다. 한 부장판사는 “나중에 물어보면 서면을 낸 당사자도 무슨 말인지 모르는 경우가 많다”면서 “‘소장이 이런 의미가 맞냐’ ‘이런 취지로 답변서를 낸 게 맞냐’ 같은 질문을 하고, 답변을 받아 다시 정리하는 데만 며칠씩 걸린다”고 했다. 모바일 릴게임야마토 이 부장판사는 “마치 원고 ‘챗GPT’, 피고 ‘제미나이’를 두고 재판하고 있는 느낌”이라고 했다. 일러스트=김성규 변호사도 근거 자료를 제출하며 출처를 ‘챗GPT’로 적는 경우도 있다. 수도권 한 법원에서 진행된 손해배상 사건 재판이었다. 원고 측 변호사가 일주일 동안 짐을 맡겨야 하는 보관이사 비용을 청구하는 내용을 정리한 서류를 제출하면서 계산 근거를 ‘챗GPT에 따르면’이라며 적어 놓은 것이다. 이에 재판장은 “보관이사 업체에 물어봐서 객관적인 자료를 다시 제시하라”고 지적했다고 한다. 판사들을 더 힘들게 하는 건 AI가 찾아낸 ‘가짜 판례’다. 사실이 아니거나 무의미한 정보를 마치 사실인 것처럼 만들어내는 ‘AI의 환각(hallucination)’ 현상이다. 바다이야기 기프트 전환 한 판사는 “당사자가 제시한 판례를 아무리 찾아봐도 없어서 근거를 물었더니 ‘법률 전문가’라고 하다가, ‘챗GPT가 법률 전문가냐’ 하면서 추궁하니 결국 AI를 활용했다고 털어놨다”고 했다. 대법원 법원행정처는 지난 3월 가짜 판례를 인용할 경우 재판부가 과태료를 부과하고, 변호사가 이런 일을 할 경우 대한변호사협회에 징계를 의뢰할 수 있게 하는 방안을 발표했다. 하지만 강제력이 없고, 변호사 없이 진행하는 나 홀로 소송에선 실효성이 떨어진다. AI가 무분별하게 제시하는 ‘진짜 판례’도 판사들을 괴롭힌다. 유료 AI의 경우, 하급심 판결도 다수 제공한다. 그런데 일부 변호사가 법적 구속력도 없는 하급심 판결을 마치 대법원 판례처럼 부풀려 인용하는 경우가 종종 있다는 것이다. 한 부장판사는 “이미 상급심에서 파기된 판결을 그대로 갖다 쓰기도 해 최근엔 하급심 판결을 판례로 제출하지 못하도록 했다”고 했다. w: hidden'