최근 다양한 생성형 AI가 저마다의 성능을 뽐내며 등장하고 있다. 오픈에이아이(OpenAI), 구글 등 주요 기술 기업들이 선보인 모델은 단순한 정보 검색을 넘어 인간의 사고와 창작 영역까지 빠르게 침투하고 있다.

이러한 흐름은 산업 전반의 생산성과 효율성을 획기적으로 끌어올리는 동시에, 인간의 노동과 의사결정 구조 자체를 재편하는 전환점으로 평가된다.

하지만 일론 머스크를 비롯해 최첨단 IT 전선에 있는 리더들이 공통으로 경고하는 지점이 있다. 바로 ‘AI로 인한 인류의 위험’이다. 이들이 말하는 위험은 단순히 기계의 반란이 아니라, 인간보다 뛰어난 지능을 가진 존재가 모든 정보를 독점하고 인간을 통제하는 사회에 대한 공포다.

최근 미국의 AI 기업 ‘앤스로픽(Anthropic)’과 미국 국방부(DoD) 사이에서 벌어진 논쟁은 시사하는 바가 크다. 국방부는 AI 프로그램을 공급받으며 어떠한 제한도 없는 ‘순수한 형태’의 프로그램을 원했다.

일촉즉발의 분쟁 상황에서 AI가 윤리적 판단을 이유로 명령을 거부하는 상황이 발생해서는 안 된다는 논리였다. “명령 거부를 해제해달라고 매번 기업에 전화할 수는 없지 않느냐”는 국방부의 주장은, 민간 기업인 앤스로픽이 국가 기관보다 우위에서 결정권을 행사하게 되는 상황에 대한 우려를 담고 있다.

반면 앤스로픽의 입장은 단호했다. AI가 독자적으로 판단하여 살상을 수행하는 무기에 적용되는 것과, AI를 통해 국민을 감시하는 시스템으로 활용되는 것에는 강력히 반대했다.

자신들의 기술이 피도 눈물도 없는 ‘터미네이터’가 되거나, 시민을 옥죄는 통제 수단이 되는 것만은 막겠다는 기업 윤리를 앞세운 것이다. 이윤을 추구하는 사기업이 거대 정부 사업에서의 불이익을 감수하고 내린 이 결정은 충분히 주목할 만하다.

시선을 우리 사회로 돌려보자. 현재 대한민국은 CCTV 안면 인식 기술을 통한 감시망을 넘어, 모든 행정 자료를 AI로 통합 관리하려는 움직임을 보이고 있다. 이러한 현상에 대해 필자는 “모든 정보가 하나의 기관이나 서버에 통합 관리되어서는 안 된다”라고 거듭 주장한다.

효율성이라는 미명 아래 추진되는 정보의 통합은 국민을 완벽하게 통제할 수 있는 절대 권력, 즉 ‘빅브라더’의 등장을 알리는 전초전이기 때문이다. 조지 오웰의 소설 ‘1984’에 등장하는 빅브라더는 모든 시민의 행동과 사상을 감시하고, 기록과 언어까지 통제하는 절대 권력의 상징이다.

이 사회에서는 개인의 일상과 대화는 물론, 내면의 사고까지 감시 대상이 되며, 권력에 불리한 정보는 삭제되거나 재구성된다.

주목할 점은 이러한 통제가 노골적인 강압이 아니라 감시가 일상화된 환경 속에서 자연스럽게 내면화된다는 점이다. 오늘날처럼 인공지능과 데이터 기술이 결합될 경우 이러한 통제 구조는 더욱 정교하고 보이지 않는 방식으로 구현될 수 있으며, 과거 어느 시대보다 강력한 권력으로 작동할 가능성이 있다.

우리 모두는 ‘자유’의 소중함을 잘 알고 있다. 자유란 내가 하고 싶은 말을 하고 가고 싶은 곳에 갈 수 있는 가장 기본적인 권리이며, 이는 타인의 감시로부터 자유로울 때 비로소 완성된다.

그러나 행정적 편의 등을 이유로 국민의 일거수일투족이 CCTV에 포착되고 모든 개인정보가 통합 관리되는 세상이 온다면 어떨까. 만약 권력자가 이를 악용한다면, 특정 개인을 온라인상에서 삭제하여 사회적으로 말살시키는 것은 그리 어려운 일도 아닐 것이다.

더욱 무서운 것은 그 독재자가 AI 통합 관리망 뒤로 숨어버릴 때, 피해자는 하소연할 곳조차 찾지 못하게 된다는 점이다. 이는 진보와 보수를 떠나 모든 권력이 품는 위험한 본능이기도 하다. 우리나라에서는 AI가 가져올 미래에 대해 우려하기보다 편의성과 효율성만을 이야기하는 목소리가 높다.

하지만 10년 뒤, 영화 ‘터미네이터’ 속 미래가 현실이 되지 않으리라는 보장은 없다. 어느 순간 우리의 메시지, 통화기록, 동선이 실시간으로 감시당하고, AI의 위협에 대해 경고하는 글을 쓰면 ‘명예훼손 및 악플 방지’라는 명분으로 도입된 AI가 즉각 삭제하고 통제하는 시대가 올지도 모른다.

인간의 자유는 복잡하지 않다. 누군가의 눈치를 보지 않고, 감시받지 않으며, 내가 하고 싶은 말을 편하게 내뱉고 가고 싶은 곳을 가는 것, 그것이 전부다. AI 기술이 인간의 존엄과 자유를 앞지르지 않도록 지금 우리가 그 편의성 뒤에 숨은 칼날을 직시해야 하는 이유다.

기술은 늘 편리함을 약속하지만, 그 이면에는 통제의 가능성이 함께 존재한다. 문제는 그 경계가 언제, 누구에 의해, 어떤 방식으로 설정되느냐에 있다. 우리가 지금 이 문제를 고민하지 않는다면, 그 판단은 언젠가 우리 의지와 무관한 방식으로 내려질 수도 있다.

결국 중요한 것은 기술의 발전 속도가 아니라, 그 방향을 결정하는 기준이 누구에게 있는지에 대한 질문일 것이다.