개혁신당이 자당 후보의 선거 벽보를 인공지능(AI)으로 중국어 형태로 조작해 유포한 이들을 선거관리위원회에 고발하며 강경 대응에 나섰다. 지방선거를 앞두고 AI 기반 허위정보와 딥페이크 게시물이 급증하면서 선관위와 경찰도 대응 수위를 끌어올리고 있다.

이준석 개혁신당 대표는 지난 26일 페이스북을 통해 “개혁신당 후보자의 벽보를 AI로 중국어 형태로 조작한 뒤, 후보자가 실제 중국어 벽보를 배포한 것처럼 허위사실을 게시·유포한 이들을 선거관리위원회에 고발 조치했다”고 밝혔다.

문제가 된 이미지는 김주연 서울 광진구의원 후보의 선거 벽보를 한자 중심의 중국어 형태로 변형한 합성물이다. 게시물에는 “대한민국임? 중국 아님?”이라는 취지의 문구도 담겼다.

개혁신당 측은 후보자와 당이 중국어 선거 벽보를 제작하거나 배포한 사실이 없다고 반박했다.

이 대표는 “SNS상에서 단순 공유 버튼을 누른 유포자까지 선처 없이 전원 사법처리하겠다”며 “이미 20만 명 이상에게 노출된 게시물인 만큼 중형이 예상된다”고 주장했다.

지방선거 과정에서 AI 허위정보가 빠르게 확산하고 있다. 중앙선거관리위원회에 따르면 지난 25일 기준 선관위가 플랫폼 사업자에 삭제를 요청한 선거 관련 딥페이크 게시물은 9956건으로 집계됐다. 이는 2024년 제22대 총선 당시 적발된 388건보다 약 25배 늘어난 수치다.

실제 선거 현장에서는 AI 기술을 이용해 후보 주변에 지지 인파가 몰린 것처럼 꾸민 이미지나 언론 보도 형식을 모방한 허위 홍보물이 잇따라 확산하고 있다.

일부 지지자들은 후보 공약이나 경력을 AI 음성·노래 형태로 제작해 온라인에 게시했다가 선관위의 삭제 조치를 받기도 했다.

현행 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 선거운동을 목적으로 실제와 구분하기 어려운 AI 기반 음향·이미지·영상 등을 제작·편집·유포하는 행위를 제한하고 있다.

또 후보자가 실제 발언하거나 행동한 것처럼 보이도록 만든 딥페이크 제작물은 가상 제작물임을 명확히 표시하도록 규정하고 있다. 이를 위반할 경우 최대 7년 이하의 징역 또는 5000만원 이하의 벌금형에 처해질 수 있다.

한편 선관위와 경찰은 지방선거를 앞두고 급증한 AI 기반 허위정보에 대응하기 위해 특별 모니터링과 수사 체계를 강화해 운영 중이다.

선관위는 지난해 12월부터 440여 명 규모의 허위사실공표·비방 특별대응팀을 가동하고 있다. 또 국립과학수사연구원과 한국전자기술연구원이 공동 개발한 딥페이크 식별 프로그램 ‘아이기스’를 도입해 집중 감시에 나섰다.

경찰청 국가수사본부도 지방선거 후보자 등록 시점에 맞춰 선거사범 대응 체계를 최고 단계로 격상했다. 전국 관서별로 선거사범 수사전담팀 2096명을 운영 중이며, 허위·가짜뉴스 유포 등 흑색선전에 대해서는 무관용 원칙으로 대응한다는 방침이다.

경찰은 특히 AI 기술을 악용한 허위정보 유포에 대응하기 위해 ‘AI 조작콘텐츠 분석 대응 체제’를 가동하고 있다. 단순 진위 판별을 넘어 디지털 증거 분석 기법을 활용해 콘텐츠 제작부터 유포 과정까지 추적하고, 범죄 혐의 입증에 나선다는 계획이다.