생성형 인공지능(AI)이 만들어낸 허위 판례와 존재하지 않는 사건번호가 법원에 제출되는 사례가 잇따르면서 사법부의 부담이 커지고 있다. 허위 법령·판례 인용으로 인한 사법 자원 낭비를 줄이기 위해 국회도 제도 개선에 나섰다.

7일 법조계에 따르면 생성형 AI의 '할루시네이션(환각)' 현상으로 실제 존재하지 않는 판례나 사건번호, 법리를 소송 서면에 인용하는 사례가 전국 법원에서 잇따르고 있다. AI가 그럴듯한 형식의 허위 판례를 생성한 뒤 이를 충분히 검증하지 않은 채 소송 서면에 인용하는 경우도 늘고 있는 것이다.

초기에는 변호사 없이 직접 소송을 진행하는 이른바 '나홀로 소송'에서 주로 나타났지만, 최근에는 변호사가 작성한 준비서면에서도 허위 판례나 존재하지 않는 사건번호가 확인되면서 법조계 전반의 문제로 번지고 있다.

실제로 지난 4월 서울고등법원 민사33부는 보증금 반환 사건 판결문에서 피고 측 항소이유서에 기재된 대법원과 하급심 사건번호에 대해 "모두 존재하지 않는 사건번호로 보인다"는 취지의 내용을 각주에 적시했다.

허위 판례는 재판 과정에서 걸러지더라도 검증에 상당한 시간과 인력이 투입된다. 허위 법리가 충분한 검증 없이 재판이나 후속 사건에서 인용될 경우 사법 신뢰를 훼손할 수 있다는 우려도 나온다.

판사 출신인 한 변호사는 "재판부가 대부분 걸러내겠지만 수많은 사건번호와 판례를 일일이 확인하는 데는 현실적인 한계가 있다"며 "재판을 불필요하게 지연시키는 사례도 적지 않아 일정 수준의 제재는 불가피한 측면이 있다"고 말했다.

이 같은 문제의식 속에 국회에서도 관련 입법이 추진되고 있다. 지난 3일 이성윤 더불어민주당 의원은 허위 법령과 판례 인용에 대한 제재 규정을 담은 민사소송법·형사소송법 일부개정법률안을 대표발의했다.

개정안은 민사사건의 당사자와 대리인 등 소송관계인, 형사사건의 피고인과 변호인을 대상으로 한다. 이들이 고의 또는 과실로 존재하지 않는 법령이나 판례를 인용하거나 그 주요 내용을 허위로 적시한 경우 법원은 결정으로 500만원 이하의 과태료를 부과할 수 있도록 했다.

적용 대상에는 법령과 행정규칙, 자치법규뿐 아니라 법원의 판결·결정, 헌법재판소 결정, 행정심판 재결, 행정청 유권해석 등이 포함된다. 대법원규칙이 정하는 논문 등 관련 자료도 포함된다.

이 의원은 제안 이유에서 "허위 물적 증거를 제출하는 행위는 현행법상 증거인멸죄나 문서위조 관련 범죄 등으로 처벌할 수 있지만, 허위 법령이나 판례를 인용한 법률상 주장에 대해서는 제재 규정이 명확하지 않았다"고 밝혔다.

이어 "사법 자원 낭비를 줄이고 공정하고 신속한 재판을 받을 권리를 실질적으로 보장하기 위한 것"이라고 덧붙였다.

한편 법원행정처는 지난 2월부터 재판 당사자가 판결서의 존재 여부를 확인할 수 있는 '허위 사건번호 확인' 서비스를 사법정보공개포털에서 제공하고 있다. 사건번호를 입력하면 해당 판결서의 존재 여부를 확인할 수 있다.