인공지능(AI) 기술의 투명성과 책임을 제도화한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'이 22일부터 시행됐다. 생성형 AI 결과물에 대한 표시 의무와 고영향 인공지능에 대한 안전·신뢰 확보 체계를 법률로 규정한 것은 세계 최초다.

과학기술정보통신부에 따르면 AI기본법은 지난해 1월 제정된 이후 후속 시행령과 가이드라인을 마련하는 절차를 거쳐 이날부터 시행됐다. 법 시행으로 생성형 AI 서비스 제공자는 AI가 생성한 결과물이라는 사실을 이용자가 인식할 수 있도록 사전에 고지하거나 표시해야 한다.

워터마크 제도의 핵심은 AI가 만든 콘텐츠임을 이용자가 쉽게 구별할 수 있도록 하는 데 있다. 챗봇 응답, 이미지·영상 생성 서비스, 게임 내 AI 기능 등 생성형 AI가 활용된 다양한 서비스가 표시 의무 대상이 된다.

일반적인 AI 생성물의 경우 화면에 표시되는 가시적 워터마크뿐 아니라 기계가 인식할 수 있는 비가시적 워터마크 방식도 허용된다. 다만 실제 영상이나 음성과 구별하기 어려운 딥페이크 형태의 콘텐츠는 이용자가 명확히 인식할 수 있도록 가시적 표시가 원칙적으로 의무화된다.

예술 작품이나 창작 콘텐츠처럼 표시 방식이 작품 감상에 영향을 줄 수 있는 경우에는 예외적으로 비가시적 표시가 허용될 수 있다.

구체적인 표시 방식과 기준은 과학기술정보통신부가 마련한 AI 투명성 가이드라인에 따라 운영된다.

또 AI기본법은 사회적 영향이 큰 ‘고영향 인공지능’ 개념을 도입했다. 에너지, 금융(대출심사), 먹는 물, 교통, 채용, 교육 등 10개 분야에서 인간의 권리나 안전에 중대한 영향을 미칠 가능성이 있는 AI 시스템이 대상이다. 다만 채용이나 교육 등 영역에서도 사람이 최종 판단을 내리는 구조라면 고영향 AI로 분류되지 않는다.

정부는 현재 기술 수준을 고려할 때 레벨 4 이상 자율주행 등 일부 영역을 제외하면 단기간 내 적용 대상이 크게 확대되지는 않을 것으로 보고 있다.

고영향 AI를 제공하는 사업자는 위험관리 체계 구축, 이용자 보호 조치, 사람의 관리·감독 체계 마련, 관련 문서 작성 및 보관 등 안전성과 신뢰성을 확보하기 위한 조치를 마련해야 한다. 일부 정보는 홈페이지 등을 통해 공개하도록 하고 관련 자료는 일정 기간 보관하도록 규정됐다.

법을 위반할 경우 정부는 사실조사와 시정명령을 내릴 수 있으며 최대 3000만원의 과태료를 부과할 수 있다. 다만 제도 도입 초기 혼선을 고려해 최소 1년 이상의 계도기간을 운영하고, 이 기간 동안에는 과태료 부과와 사실조사를 원칙적으로 유예할 방침이다.

예외적으로 인명 피해가 발생했거나 중대한 인권 침해, 국가적 피해 우려가 있는 경우에는 계도기간이라도 조사에 착수할 수 있다.

정부는 기업의 제도 적응을 돕기 위해 전담 상담 창구도 운영한다. 과학기술정보통신부는 ‘AI 기본법 지원 데스크’를 통해 기업들이 법 적용 여부와 의무 범위, 워터마크 적용 방식 등을 확인할 수 있도록 안내와 맞춤형 컨설팅을 제공할 계획이다.

과기부 관계자는 “제도 시행 초기에는 산업 현장의 부담을 최소화하면서도 AI 서비스의 투명성과 안전 원칙을 분명히 하는 데 중점을 둘 것”이라며 “AI 산업 경쟁력과 이용자 보호가 함께 달성될 수 있도록 제도를 운영하겠다”고 말했다.