생성형 AI의 사회적 책임: 극우 정치에서의 활용과 그에 따른 문제점

생성형 AI, 극우의 정치 무기가 되다: 유럽 사례를 중심으로

최근 생성형 AI(Generative AI)의 활용이 급격히 증가하며 사회와 정치 전반에 큰 영향을 미치고 있습니다. 특히 유럽 전역에서 극우 정치 집단들이 AI 기술을 활용해 허위 정보를 생산하고 여론을 조작하려는 시도가 늘어나고 있다는 점은 주목할 만한 이슈입니다. 본 포스트에서는 극우 단체들이 AI 기술로 어떤 전략을 구사하고 있으며, 이러한 움직임이 어떤 결과를 초래하고 있는지 살펴보겠습니다.

생성형 AI, 새로운 정치적 무기로 떠오르다

생성형 AI는 이미지, 텍스트, 동영상 등을 손쉽게 제작할 수 있는 기술입니다. 과거에는 고도의 기술 지식과 장비가 필요했던 일들이 이제는 누구나 간단히 구현할 수 있습니다. 이런 기술적 접근성 덕분에 극우 단체들은 AI를 활용해 다음과 같은 방식을 사용하고 있습니다:

1. 허위 정보 생성
   예를 들어, 극우 단체들은 이민자를 제목으로 한 가짜 이미지를 대량 생산해 “이민자의 침공”이라는 공포를 조장하고 있습니다. 한 독일 계정에서는 금발의 백인 여성이 ‘멈춰’라는 제스처를 취하는 AI 생성 이미지를 배포하며 반(反)이민 메시지를 전달했습니다. 이는 독일 대중들에게 ‘이민자 증가로 인한 사회적 문제’를 암시하려는 의도를 담고 있습니다.

2. 사회적 갈등 유발
   폭력적 사건이 발생한 직후, AI 생성 이미지를 활용해 특정 집단을 겨냥한 콘텐츠를 제작하고 있습니다. 예시: 영국에서는 남학생들의 사건 이후, 이슬람교 커뮤니티를 암암리에 비난하는 AI 이미지를 만들어 배포하기도 했습니다.

국가별 생성형 AI 활용 사례

1. 독일

독일의 극우 정당 AfD(독일을 위한 대안당)는 AI를 적극 활용하며 이민자 반대 캠페인을 전개하고 있습니다. AI로 생성된 이미지는 유럽의 ‘이상적인’ 생활상을 선전하며, 히잡을 쓴 여성과 같은 특정 집단을 배제시키는 메시지를 전달합니다. 나아가, Halal(이슬람 허용 음식)에 대한 근거 없는 조롱을 담은 이미지까지 생성하며 문화적 갈등을 증폭시키고 있습니다.

2. 프랑스

프랑스에서는 극우 정당인 내셔널 랠리(National Rally)와 같은 단체들이 유럽 의회 및 대통령 선거에서 역시 AI를 적극 활용했습니다. AI를 사용해 보트에서 사람들이 내리는 장면을 연출하고, 이를 이민자 문제에 결부시킨 가짜 이미지를 다수 제작했습니다. 이는 단순한 이미지만이 아니라 특정 정서를 부추기는 데 사용되고 있습니다.

3. 아일랜드

아일랜드의 극우 단체는 시위 후 AI 생성 콘텐츠를 활용해 공공문제를 심화시키는 데 기여했습니다. 유명 격투기 선수 코너 맥그리거가 등장하는 AI 생성 비디오가 대표적 사례입니다. 그는 정부 정책을 비판하는 방식으로 활용되었으며, 이 짧은 영상이 트위터에서 2000만 이상의 조회수를 기록하며 큰 반향을 불러일으켰습니다.

AI 콘텐츠, 문제는 무엇인가?

1. 콘텐츠 검증의 어려움
   AI 생성 콘텐츠는 사실과 허구의 경계가 모호합니다. 이미지가 너무나 현실적이기에 일반 대중은 이를 가짜로 인지하기 어렵습니다. 한 전문가는 “AI가 기존 콘텐츠와 유사한 이미지를 빠르고 쉽게 제작할 수 있기 때문에 진위를 식별하기가 매우 어렵다”고 지적했습니다.

2. 윤리적 책임 부족
   극우 단체들은 해당 이미지에 워터마크나 출처를 명시하지 않습니다. 이는 사용자들이 AI 콘텐츠라는 사실조차 모른 채 영향을 받을 가능성을 높입니다. 반면, 주류 정당들은 이런 기술을 사용할 때 윤리적 책임과 투명성을 강조하며 보수적인 접근을 취한다는 점이 차이점으로 꼽힙니다.

3. 사회적 분열 심화

특정 집단을 겨냥한 허위 정보는 분열과 공포를 조장하며, 사회적 신뢰를 무너뜨리는 결과를 초래합니다. 이로 인해 근거 없는 혐오와 갈등이 확대될 위험이 있습니다.

우리가 배워야 할 점: 생성형 AI의 바람직한 활용법

AI 기술 자체는 중립적입니다. 다만 이를 어떻게 활용하느냐가 중요합니다. 생성형 AI의 악용 사례를 방지하기 위해 다음과 같은 노력이 필요합니다.

1. 정확한 내용 검증
   AI를 통해 만들어진 콘텐츠는 엄격한 검증 기준을 적용하고, 검증되지 않은 콘텐츠는 차단해야 합니다. 메타(Meta)의 콘텐츠 감독위원회가 진행하는 조사와 같은 방식이 한 예가 될 수 있습니다.

2. 기술 활용 윤리 강조
   각 정당과 기업들이 AI 윤리 강령을 도입하고, 이를 통해 기술의 유익한 사용 사례를 늘려야 할 것입니다.

3. 교육 강화

시민들에게 AI와 관련된 미디어 문해력을 교육함으로써, 허위 정보와 진실을 구분하는 능력을 강화하는 것도 중요합니다.

마무리 생각

생성형 AI는 사회적 영향력이 큰 기술입니다. 하지만, 그 잠재력은 이를 사용하는 주체에 따라 긍정적이거나 부정적인 결과를 낳을 수 있습니다. 우리는 AI가 갈등을 부추기는 도구가 아닌, 사회를 더 나은 방향으로 이끄는 데 활용될 수 있도록 윤리적이고 책임감 있는 사용 원칙을 마련할 시점에 있습니다.

여러분의 생각은 어떠신가요? AI 기술의 활용과 윤리에 대한 여러분의 의견을 댓글로 남겨주세요! 🚀