미국 교정시설에서 수감자의 전화·영상 통화와 메시지를 인공지능(AI)으로 분석해 범죄 징후를 감시하는 시스템이 도입되면서 과도한 감시와 인권 침해 논란이 커지고 있다.

MIT 테크놀로지 리뷰는 2일(현지시간) 미국 교정 보안업체 시큐러스 테크놀로지스(Securus Technologies)가 2023년부터 텍사스 주 교도소의 7년치 통화 데이터를 기반으로 AI 모델을 구축했다고 보도했다.

회사는 이를 바탕으로 주·카운티 단위의 별도 모델 개발을 확대하고 있으며, 일부 시설에서는 수감자 대화를 실시간 분석하는 파일럿 프로그램도 운영 중인 것으로 전해졌다.

해당 AI 시스템은 통화·문자·이메일을 자동 분석해 갱단 활동, 인신매매, 불법 물품 반입 가능성 등을 탐지하고 특정 패턴이 포착되면 수사관에게 즉시 경고를 발송하는 방식이다. 시큐러스 측은 이 기술이 “범죄 예방에 기여했다”고 주장하지만, 구체적인 적발 사례나 효과는 공개하지 않았다.

문제는 수감자와 통화 상대가 ‘녹음 사실’은 알고 있어도, 해당 데이터가 AI 학습에 활용된다는 점은 명확히 고지되지 않는다는 점이다.

교도소 인권단체 ‘워스 라이지스(Worth Rises)’의 비앙카 타일렉 대표는 “수감자에게 가족과 연결될 유일한 통로를 이용해 데이터를 확보하는 것은 사실상 ‘강요된 동의’”라며 “AI 훈련에 쓰이는 데이터에 대한 보상은커녕 통화 요금까지 수감자 가족이 부담하는 현실”이라고 비판했다.

안나 고메즈(Anna Gomez) 연방통신위원회(FCC) 위원 역시 “교정시설 감시 비용을 수감자 가족이 지불하는 것은 부당하다”며 규제 검토 과정에서 강한 반대 의견을 냈다.

미국 내에서 교정시설 감시 기술의 법적·윤리적 기준을 재정비해야 한다는 요구가 확산하는 가운데, FCC는 관련 규정 최종 시행에 앞서 추가 의견 수렴 절차를 진행할 예정이다.