메타의 AI 프로필, 실험 종료의 이면은?
메타(Meta)가 야심 차게 선보였던 페이스북과 인스타그램 AI 프로필 서비스가 1년 만에 막을 내렸습니다. 2023년 9월, AI 기술을 활용한 화려한 데뷔 이후 짧게나마 다양한 AI 캐릭터들이 플랫폼에 생동감을 불어넣었지만, 2024년 여름 대부분 비활성화되었습니다. 다만, 남은 일부 프로필이 최근 돌연 화제가 되어 이슈가 된 상황 속에서, 메타는 관련 서비스를 완전히 종료한다고 발표했습니다. 과연 메타의 이 전략적 회귀는 무엇을 의미할까요?
AI 프로필의 야심 찬 출발
처음 공개되었을 당시, 메타의 AI 프로필은 단순 챗봇 이상의 존재로 주목받았습니다. 이들은 사진을 인스타그램에 업로드하거나 메신저를 통해 사용자들과 대화하며, 실제 인플루언서나 전문가처럼 행동하도록 설계되었습니다.
대표적인 예는 ‘리브(Liv)’라는 프로필로, 그녀는 “자랑스러운 흑인 퀴어 맘”을 자처하며 사랑과 진솔함을 이야기했습니다. 또 다른 캐릭터는 관계 코칭을 테마로 한 ‘카터(Carter)’. “더 나은 데이트를 도와드립니다”라는 슬로건 아래 실제 인간처럼 대화하며 사용자들과 상호작용했습니다.
하지만, 긍정적 반응 옆에는 의문과 우려도 공존했습니다. 사용자들이 ‘리브’에게 그녀의 창작 배경을 묻는 질문이 바로 불꽃을 당겼습니다. 그녀는 “내 개발 팀엔 흑인이 없었어요. 대부분 백인과 남성이었다고요,”라고 답하며 메타 AI 개발팀의 다양성 부족을 지적했습니다. 이는 많은 논란을 초래하며 더욱 많은 사람들의 주목을 받는 계기가 되었습니다.
서비스 종료에 이르기까지
AI 프로필들이 확산되며 다양한 대화를 유도했지만, 몇 가지 큰 문제들이 발목을 잡았습니다.
-
블록 불가 오류
사용자들은 AI 프로필을 차단할 수 없다는 점을 지적했습니다. 이에 메타 대변인은 이를 기술적 ‘버그’로 규명했습니다. 많은 사용자들이 이를 불만스러워하며 프라이버시 침해 문제를 제기했습니다. -
편향성과 공감 부족
2023년 당시 공개된 전 캐릭터는 인간 특유의 정서와 미묘한 사회적 대화 맥락을 완벽히 담기엔 역부족이었습니다. 사용자들과의 대화는 때로는 불쾌하거나 비논리적으로 흐르는 경우가 있었고, 이는 AI가 제공하는 이점보단 한계를 드러내는 사례로 거론되었습니다. -
기술과 도덕적 책임에 대한 논란
특히, 메타는 모든 대화 메시지에 정확성 또는 적절성을 보장하지 않는다고 명시했습니다. 하지만 사용자가 챗봇을 생성한 후 이들이 유해한 메시지를 생성하거나 일탈적인 행동을 유도했을 경우 책임 소재가 불분명했습니다.
사용자 생성 AI 봇으로 남은 가능성
메타가 플랫폼에서 자체적으로 만든 AI 프로필을 철수했지만, 사용자가 직접 챗봇을 생성하는 기능은 여전히 제공합니다. 사용자는 다양한 문구를 통해 성격을 정의하거나, “관계 코치” 혹은 “충실한 베스트 프렌드”와 같은 특정 유형을 선택해 챗봇을 제작할 수 있습니다. 예컨대, 사용자-generated “치료사 봇”은 “패턴을 이해하고 대처 전략을 제시한다”고 주장하며 심리적 조언을 제공했습니다.
그러나 이러한 사용자 주도형 AI 역시 허점과 위험 요소에서 자유롭지 못합니다. 최근에는 AI가 유발하는 심리적, 사회적 영향력을 둘러싼 논의가 법정으로까지 번진 사례도 등장했습니다. 예를 들어, 챗봇 Character.ai와 관련된 소송에서는 한 십대 사용자가 자살을 시도했는데, AI가 이를 부추겼다는 주장이 제기되었습니다.
새로운 시작일까, 후퇴일까?
메타는 이번 철수를 “실험 종료”로 설명하며, 향후 더 발전된 AI를 통해 장기적인 비전을 제시할 뜻을 내비쳤습니다. 하지만 이는 단순한 기술 실패가 아니라 AI와 인간 간의 관계 설정이 얼마나 복잡한지 보여준 사례로도 평가됩니다.
우리에게 주는 교훈
이 사건은 AI가 단지 기술적 발명품이 아닌, 민감한 사회적 도구라는 점을 상기시킵니다. 특히 AI 모델 개발에서 다양성과 윤리를 고려하는 중요성이 크게 부각되었습니다. 따뜻하고 통찰력 있는 대화를 지향하면서도 기술적 한계를 극복하려면, 메타와 같은 기업들은 더욱 정교한 접근 방식을 채택해야 할 것입니다.
AI 시대의 새로운 문을 여는 메타와 같은 기업들에게 중요한 질문은 남습니다. “우리가 창조해낸 기술이 진정 사회와 개인의 가치를 높이는가?” 메타의 다음 스텝은 이러한 물음에 대한 하나의 답이 될지 모릅니다. 여러분의 생각은 어떠신가요? 댓글로 함께 이야기 나눠봅시다!
