정부가 생성형 인공지능(AI)을 활용한 광고 확산에 대응하기 위해 표시 의무제와 징벌적 손해배상 도입을 공식적으로 검토하겠다는 뜻을 내비쳤다.

김민석 국무총리는 10일 정부서울청사에서 열린 제7회 국가정책조정회의 모두발언에서 “(AI를 이용한) 허위 과장 광고가 극심하다”며 우려를 내비쳤다.

최근 SNS·쇼핑몰·뷰티·식품 분야를 중심으로 AI가 만들어낸 이미지나 영상을 실제 제품 사진처럼 사용하는 사례가 늘어나면서 소비자 오인 가능성이 급격히 커진 것이 배경으로 분석된다.

김 총리는 “최근 (허위 광고가) SNS를 통해 더욱 급속히 확산하고 있다”고 지적하며 현행 제도로는 급격히 진화하는 AI 기반 상업행위를 규율하기 어렵다는 문제의식을 드러냈다.

김 총리는 특히 AI 생성 이미지가 자연스러운 사진·영상과 구분되지 않는다는 점을 들어, 고의적이든 아니든 소비자가 사실상 기만당하는 구조가 만들어지고 있다고 언급했다.

그는 “(AI 광고 등은) 시장 질서 교란뿐 아니라 소비자 피해가 심한 중대한 범죄 행위로 판단한다”며 기존 온라인 광고 규제 수준을 넘어선 강력한 대응 필요성을 강조했다.

이에 따라 정부는 허위·과장 광고를 사전에 차단하기 위한 기술적·법적 장치 도입을 예고했다.

김 총리는 “정부는 AI를 활용한 허위·과장 광고에 대해 사전 유통 예방뿐 아니라 신속한 사후 차단도 추진하고자 한다”고 밝혀, 플랫폼·광고주·생산자 모두에게 적용될 새로운 관리 체계 마련을 시사했다.

구체적으로 김 총리는 “AI 생성물 표시의무제를 도입하고, 허위 광고 시정에 필요한 심의 속도를 단축하겠다”고 밝혔다.

이는 AI로 생성한 이미지나 영상을 의무적으로 표시해, 소비자가 실제 촬영물인지 생성 콘텐츠인지 즉시 파악할 수 있도록 하여 광고 투명성을 높이겠다는 취지다.

또한 김총리는 “과징금을 대폭 상향하고, 징벌적 손해배상을 도입하겠다”고 강조했다.

징벌적 손해배상은 단순히 피해자가 입은 손해를 보전하는 차원을 넘어, 실제 손해액보다 훨씬 큰 금액을 배상하게 하는 제도다.

현행 표시광고법상 제재만으로는 고의적 기만 광고를 막기 어렵다는 판단에 따라, 반복·상습적인 위반행위에 강력한 재정적 불이익을 부과하겠다는 목적이다.