AI 필터 버블: 진짜와 가짜 사이, 우리는 무엇을 믿어야 할까?
최근 발렌시아에서 발생한 '비 폭탄' 사건을 기억하시나요? 이 심각한 자연재해는 8시간 만에 연간 강수량을 넘는 비를 뿌렸습니다. 그 결과 거대한 SUV가 장난감처럼 튕겨지고, 주차되어 있던 차량들이 도시의 좁은 거리에서 쌓여 있는 충격적인 장면을 남겼죠. 이 사건을 생생히 담은 사진은 그야말로 초현실적이었습니다. 마치 재난 영화의 한 장면처럼, 다양한 크기의 차량들이 각기 다른 방향으로 엉켜있었으니까요.
그런데, 인터넷에서 이 사진을 본 사람들의 첫 반응은 다소 예상 밖이었습니다. 많은 이들이 그 이미지를 보고 “AI로 만들어진 사진 아니야?” 라고 물었던 것입니다.
믿음의 위기: AI 생성물의 홍수
사실, 이 반응은 전혀 놀랍지 않습니다. 최근 몇 년 동안 생성형 AI는 번개처럼 빠르게 발전해왔습니다. ChatGPT, DALL-E, 그리고 Midjourney 같은 생성형 AI 도구들은 상상 속의 이미지를 멋지게 구현해 냅니다. 이런 기술이 대중화되면서, 인터넷에는 AI가 만들어낸 모든 것이 넘실거립니다. 그 결과, 우리는 진짜를 보면서도 의심하게 되는 세상에 살고 있습니다.
이 사례는 제가 AI 슬롭(AI-generated slop)이라는 용어를 처음 접했을 때 떠올랐던 내용입니다. AI 슬롭이라는 단어가 생기기 전에는 우리가 상상하지 못했던 것들이 폭포처럼 쏟아지고 있습니다. “가짜 뉴스”가 아닌 “가짜 사진”이 주류가 된 것이죠. 문제는, 진짜가 AI 작품 같아 보인다면, 우리는 과연 무엇을 믿어야 할까요?
소셜 미디어, 어디로 가는가?
사실 소셜 미디어 기업들은 이러한 상황이 별로 불편하지 않은 듯 보입니다. 메타(Meta), 페이스북(Facebook)의 모회사를 운영하는 마크 저커버그는 AI가 만들어내는 이 콘텐츠가 사람들의 참여를 적극 유도할 것이라고 주장해왔습니다. AI가 생성한 피드나 요약 콘텐츠는 이제 사용자를 더 오래 '붙잡아두기' 위한 또 다른 수단이 된 것이죠.
결국 “사용자의 참여가 곧 돈” 이라는 논리가 여기서도 반복되는 것입니다. 사용자가 더 오래 머물고, 더 많이 '좋아요'와 '공유'를 클릭하도록 유도하는 이러한 AI 콘텐츠는 그 양만큼 성장하고 있습니다.
한편, 인도의 소셜 미디어 분석가가 제시한 내용에 따르면, AI로 만들어진 자극적인 콘텐츠는 그 효율성도 뛰어납니다. 그는 인간 골격이 드러난 노인이 벌레들에게 공격받는 이미지로 큰 돈을 벌었다고 합니다. 사람들이 감정적으로 반응하리라 예측한 그의 전략은 정확히 적중했고, 그 이미지는 '좋아요'와 댓글을 폭발적으로 이끌어 냈습니다. “천개의 좋아요당 100달러의 수익”, 그야말로 감정 자극에 기반한 경이로운 비즈니스 모델이라 할 수 있습니다.
AI 슬롭의 다크사이드: 긍정적 피드백 루프의 부작용
우리는 이 과정에서 하나의 명료한 결론을 도출할 수 있습니다. 생성형 AI로 인해 강화된 긍정적 피드백 루프가 시작되었고, 그 루프는 끊임없이 우리를 자극하고 있습니다. 단순한 AI 생성물이 아닌 자극적인 AI 콘텐츠가 우리를 매혹하고 있다면, 그로 인해 얻는 것은 무엇일까요? 이는 결국 "플랫폼의 엔쉬티피케이션(enshittification, '품질 저하 과정')" 으로 이어질 수 있습니다. 처음에는 쓸만했던 플랫폼들이 AI로 범벅이 되며 질이 떨어지는 콘텐츠로 가득 차는 과정 말입니다.
결국, 진짜와 가짜의 경계는 어디로 갈까요?
AI의 순기능, 그럼에도 불구하고…
이쯤 되면 AI가 사람들에게 미치는 긍정적인 영향도 함께 살펴봐야 합니다. AI는 단순한 이미지나 텍스트 생성 뿐만 아니라 더 광범위한 영역에서 새로운 가능성을 열어주고 있습니다. 예를 들어, 의료 산업에서 AI는 각종 데이터를 분석해 신약 개발과 맞춤형 치료를 돕고 있습니다.
또한, AI는 언어 번역, 장애인을 위한 보조 기술, 소프트웨어 프로그래밍 자동화와 같은 영역에서도 큰 변화를 이끌어내고 있습니다. 즉, AI는 도구일 뿐, 그것이 선용될지 악용될지는 전적으로 우리의 선택에 달렸습니다.
결론: 우리에게 남겨진 선택
AI는 계속해서 발전할 것이며, 그의 역할은 앞으로 더 확대될 것입니다. 그러나 우리가 마주할 하나의 중요한 질문은 여전히 남아 있습니다. “우리는 무엇을 믿을 것인지를 어떻게 판단할 것인가?”
생성형 AI의 미래가 흥미로운 가능성들로 가득 차 있는 만큼, 그와 함께 클 수 있는 의심과 반박의 문화도 더 커져갈 것입니다. 그 속에서 진짜와 가짜를 구별하는 것은 여러분의 몫입니다.
계속해서 말입니다.
