AI가 생성한 허위 판례를 인용한 서면 제출이 잇따르면서 법원이 대응에 나섰다.
3일 법조계에 따르면, 한 지방법원 부장판사는 최근 민사 판결문 각주에 이례적인 내용을 남겼다. 재판부는 “원고가 참고서면으로 제출하며 인용한 판례는 실존하지 않거나, 실제 내용이 원고가 적시한 판결과 다르다”고 지적했다.
원고 측이 제출한 서면에 인공지능(AI)이 만들어낸 존재하지 않는 판례와 사건번호가 포함됐다는 사실을 판결문에 직접 명시한 것이다.
이처럼 AI가 생성한 ‘가짜 판례’ 문제가 실제 재판 과정에서 드러나는 사례가 잇따르자 사법부도 대응에 나섰다. 다만 법조계에서는 현재 방안이 재판부 재량에 맡겨져 있어 실효성이 제한적일 수 있다는 지적이 나온다.
최근 전국 각급 법원에서는 AI의 환각(hallucination) 현상으로 인해 존재하지 않는 판례나 사건번호가 서면에 인용되는 사례가 빈번하게 발생하고 있다.
대법원에 제출된 상고이유서에서는 쟁점과 무관하거나 아예 존재하지 않는 사건번호의 판결이 인용된 사례가 확인됐다.
대구고법에서는 변호사가 존재하지 않는 대법원 판결을 인용하자 재판부가 “정확한 사건번호 확인이 필요하다”고 석명을 요구했지만, 해당 변호사는 같은 허위 판례를 다시 인용하며 “사건번호가 부정확할 수 있다”는 취지로 주장한 것으로 전해졌다.
문제는 판례에 그치지 않는다. 실제 법률 조항을 기재하면서도 조문 내용과 전혀 다른 내용을 적어 제출하는 사례까지 나타나고 있다.
이 같은 상황이 반복되면서 일부 법원은 판결문 각주 등을 통해 허위 인용 사실을 명시하고 있다. 서울북부지법, 춘천지법, 전주지법, 광주지법 등에서 이러한 방식이 확인됐다.
법조계에서는 대응 부담도 커지고 있다. 상대방이 제출한 서면에 허위 판례가 포함될 경우 이를 일일이 검증하고 반박해야 하는 상황이 발생하면서 불필요한 추가 서면 제출과 비용 증가로 이어지고 있다는 지적이다.
서초동의 한 변호사는 “나홀로 소송에서는 이미 AI 허위 인용 문제가 확산돼 있었지만, 최근에는 변호사가 대리하는 사건에서도 반복되고 있다”며 “허위 주장 배척을 위해 추가 서면을 제출해야 하는 등 소송 부담이 커지고 있다”고 말했다.
실제로 지방변호사회에는 관련 변호사에 대한 진정도 접수된 것으로 알려졌다.
이 같은 문제에 대응하기 위해 법원행정처는 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 구성하고 지난달 31일 결과를 발표했다. TF는 약 5개월간 각급 법원의 사례와 해외 동향 등을 조사했다.
TF는 현행법 체계 내에서 가능한 대응으로 ▲허위 인용으로 소송 지연이나 비용 증가가 발생한 경우 해당 비용을 당사자에게 부담시키는 방안 ▲변론에서 해당 주장 진술 제한 ▲판결문에 허위 사실 명시 등을 제시했다.
또 변호사가 이를 검증하지 않고 인용한 경우 대한변호사협회에 징계를 의뢰할 수 있도록 했다. 다만 이러한 조치는 모두 재판부의 재량에 맡겨진다.
아울러 제도 개선 방안도 함께 제시됐다. 민사소송규칙을 개정해 AI 활용 사실을 재판부와 상대방에게 고지하도록 하고, 민사소송법을 개정해 허위 법령이나 판례 인용 시 과태료를 부과하는 방안이다.
하지만 법조계에서는 보다 강제력 있는 제도 마련이 필요하다는 의견이 나온다.
국가AI위원회 법제도분과위원장을 지낸 강민구 변호사는 “이번 방안은 경고적 의미는 있지만 실제로 재판장이 곧바로 과태료를 부과하거나 징계를 하기에는 한계가 있다”며 “소송법이나 대법원 규칙 개정을 통해 명확한 근거를 마련해야 한다”고 지적했다.
부장판사 출신 변호사 역시 “허위 판례 제출은 시간 낭비를 넘어 추가 법률비용까지 발생시키는 문제”라며 “특히 법률 전문가인 변호사의 경우 더 강한 제재가 필요하다”고 말했다.
정형근 경희대 법학전문대학원 객원교수는 “AI 시대에는 직무상 주의의무가 더욱 강화될 수밖에 없다”며 “법원장이 직접 징계 개시를 신청할 수 있는 제도적 장치도 검토할 필요가 있다”고 제언했다.
AI 활용이 급속히 확산되는 가운데, 허위 판례 인용 문제는 단순한 기술 오류를 넘어 재판 신뢰를 흔들 수 있는 새로운 위험 요소로 떠오르고 있다.
