인공지능 기술과 표현의 자유: 현대 사회의 감시 이야기와 윤리적 선택

🔍 미국에서 벌어진 충격적인 사건 – 인공지능, 이민자, 그리고 표현의 자유가 맞물린 이야기

요즘 뉴스에서 자주 등장하는 ‘생성형 AI’와 ‘감시 기술’, 그리고 ‘표현의 자유’에 관한 이야기가 있습니다. 그런데 이 세 키워드가 어쩌면 너무나 현실적으로, 그리고 아주 위험하게 서로 엮여 있다는 걸 알고 계셨나요?

놀랍게도, 이와 관련한 한 실화가 최근 미국에서 벌어졌고, 이 이야기는 우리 일상과도 밀접한 관련이 있습니다. 바로 영국 출신의 저널리스트이자 코넬대학교 박사과정생이었던 아만들라 토마스-존슨(Amandla Thomas-Johnson)의 사례입니다.

💣 프롤로그: “나는 그저 평화 시위를 했을 뿐이야”

토마스-존슨은 다인종, 다문화 정체성을 가진 평화로운 활동가였습니다. 가디언(The Guardian)에 실린 그의 기고문에서 그는 이렇게 시작합니다. “나는 단 한 번도 범죄 혐의를 받은 적이 없었고, 그저 팔레스타인 지지를 위한 시위에 5분간 참여했을 뿐이다.”

하지만 단 ‘5분’의 시위 참여가 그의 인생을 완전히 뒤바꿔 놓았습니다.

🚨 시위 참여 후의 대가: 감시, 추적, 추방

그가 참석한 시위는 보잉(Boeing)과 L3해리스 같은 무기 기업이 가담했던 채용 박람회를 겨냥한 것이었습니다. 이 시위가 있은 후, 그는 캠퍼스 출입금지를 당하고, 미국 이민세관단속국(ICE)의 감시망에 오르게 됩니다.

그리고 이 감시는 단순한 추측이 아닙니다. 실제로 토마스-존슨은 몇 달 후 Google과 코넬대학교로부터 경악스러운 이메일을 받게 됩니다.

✉️ 이메일 1: “당신의 학생비자가 취소되었습니다.”
✉️ 이메일 2: “귀하의 데이터를 미국 국토안보부(DHS)에 제출했습니다.” (by Google)

이 90분 간격으로 도착한 이메일은 명확히 말해 줍니다. 그는 미국 정부의 ‘감시 대상자’였다는 사실을.

🤖 기술이 검열하는 세상: AI, 빅데이터, 그리고 편향된 감시

이 사건의 핵심에는 ‘암시적 감시’에 사용된 인공지능 시스템이 있습니다. Amnesty International(앰네스티 인터내셔널)에 따르면, 미 정부는 바벨 스트리트(Babel Street)에서 만든 Babel X라는 AI 기반 감시 툴을 사용해 수천 개의 SNS 게시글을 실시간으로 분석하고, 특정 "테러 가능성"을 예측한다고 합니다.

문제는 이 기술이 종종 편향적이라는 겁니다. 팔레스타인 지지 관련 게시물을 ‘반유대주의’ 콘텐츠로 잘못 분류하거나, 평화적인 시위마저도 ‘잠재적 위험’으로 처리할 수 있다는 것입니다.

그리고 무엇보다 무서운 점은 이 기술이 일반인을 대상으로도 적용될 수 있다는 점이죠.

📦 또 다른 감시툴: ImmigrationOS

Palantir(팔란티어)가 제공하는 ImmigrationOS는 이민자 정보와 활동을 전자 파일로 통합 관리하는 시스템입니다. 이 소프트웨어 덕분에 ICE는 토마스-존슨의 ‘자진 출국’ 경로를 추적할 수 있었으며, 언제 어디서든 재입국을 막을 수 있었습니다. 또 다른 AI가 개인의 이동 동선을 예측하고 행동을 판단한 것입니다.

🧠 데이터는 전부 여러분의 ‘퍼블릭 페르소나’를 덧칠합니다

이러한 기술들은 대개 “훌륭한 안보 도구”로 묘사되지만, 그 이면에는 심각한 프라이버시 침해와 차별의 위험이 잠재되어 있습니다. 특히 유색인종, 무슬림, 외국인 유학생이라는 다중 정체성을 가진 사람들에게는, 이 기술이 단순 감시 도구를 넘어 ‘디지털 족쇄’가 될 수 있습니다.

조금 더 현실적인 예를 들어볼까요?

📍 실제 사례: 내가 소비하는 콘텐츠, 내가 누르는 ‘좋아요’, 내가 올리는 게시물

만약 여러분이 인권을 주제로 한 콘텐츠를 자주 소비하고, 중동 문제에 공감하는 의견을 SNS에 작성한다면? 이러한 행위가 여러분에 대한 ‘리스크 지수’로 환산될 수도 있습니다. 추천 알고리즘만이 아니라, 감시 알고리즘도 작동하고 있는 것입니다.

그리고 이건 먼 나라 이야기만이 아닙니다.
우리나라에서도 사이버 수사, 감시 기술 도입, 심지어 외국 플랫폼 기반의 인공지능 도구 활용이 지속적으로 증가하고 있습니다.

🛡️ 우리가 기억해야 할 것: 기술은 도구일 뿐, 윤리는 사람의 몫입니다

인공지능이 아무리 똑똑해졌다고 하더라도, 그것을 어떻게 사용하느냐는 결국 ‘사람’의 손에 달려 있습니다. 감시 기술이 민주주의를 억압할 도구로 악용되는 현실은, 반드시 제동이 필요합니다.

🌍 나의 정보는 나의 권리이자 존엄입니다

이 블로그 포스트를 통해 여러분이 꼭 기억해야 할 메시지는 명확합니다.

  • 표현의 자유, 프라이버시, 인권은 우리가 지켜야 할 기본 권리입니다
  • 인공지능 기술은 혁신이자 위험이 될 수 있으며, 투명한 사용과 감시가 필요합니다
  • 그리고, 내가 "단지" 누군가의 정체성(흑인, 무슬림, 외국인)이기 때문에 감시받는다면, 그건 기술의 실패일 뿐 아니라, 사회 정의의 실패이기도 합니다

📝 마치며: 기술의 시대, 우리는 무엇을 선택할 것인가?

토마스-존슨의 이야기는 그저 미국이라는 거대한 나라에서 일어난 한 가지 사례일 수 있습니다. 하지만 이 사례가 말해주는 건, 기술과 권력, 그리고 시민의 권리에 대해 지금 우리가 어떤 선택을 해야 할지에 대한 물음입니다.

무엇보다 중요한 건, 기술을 만들고 사용하는 사람들의 ‘의지’입니다. 우리 모두는 기술의 소비자이자, 동시에 감시의 가능성이 될 수 있는 사람입니다.

더 이상 ‘감시받는 중’이라는 말을 농담처럼 넘기지 마세요.

💬 독자 여러분은 어떻게 생각하시나요?
당신이 사용하는 SNS, 검색 기록, 메일… 누군가 들여다보고 있다고 느낀 적 있나요?

댓글이나 메일로 여러분의 생각을 공유해주세요. 지금 이 순간에도 우리의 디지털 흔적은 수집되고 있습니다. 그 디지털 흔적이 여러분의 목소리가 될 수 있도록 행동해 주세요.

📌 관련 포스트 추천:

  • 생성형 AI란? 장점과 오용 사례까지 완전 정리
  • 프라이버시 보호를 위한 브라우저 설정 가이드
  • AI로 인한 감시 사회 – 우리가 주의해야 할 5가지 신호

✍️ 블로그 by: 디지털 윤리 & 인공지능 정책 칼럼니스트
📅 작성일: 2025.10.06


✔️ 공유하고 싶은 분이 있다면 페이스북이나 인스타그램, 카카오톡으로 바로 공유해주세요.
📥 뉴스레터 신청하기: 매주 최신 테크사회 이슈를 이메일로 받아보세요.

댓글 달기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

위로 스크롤