영국 정부의 AI 사용, 투명성이 부족하다는 비판을 받다
인공지능(AI)은 인간의 삶을 급격히 변화시키고 있는 혁신적인 기술 중 하나입니다. 정부 또한 행정 절차를 개선하고 서비스 효율성을 높이기 위한 목적으로 AI를 점점 더 많이 도입하고 있습니다. 하지만 AI 기술이 투명하게 관리되지 않는다면, 그로 인해 발생할 수 있는 사회적 문제는 간과될 수밖에 없습니다.
최근 영국 정부가 공공 부문에서 AI와 알고리즘 활용에 대한 정보를 의무적으로 등록하도록 했지만, 이와 관련된 투명성이 부족하다는 점이 큰 논란을 일으키고 있습니다. 정부는 올해 2월부터 모든 부처가 AI 사용 내역을 알고리즘 투명성 공개 등록부에 기록하도록 요구했지만, 실제로 등록된 사례는 극히 드문 것으로 나타났습니다. 이는 공공 부문의 AI 도입이 국민적 감시와 신뢰 속에서 이루어져야 한다는 원칙을 위배하고 있다는 비판으로 이어지고 있습니다.
AI 기반 행정 및 그늘 속 문제
현재 영국 공공 부문에서 AI는 어디에서 어떻게 사용되고 있을까요?
-
복지 시스템(DWP)
복지 정책을 담당하는 노동연금부(DWP)는 문서 요약을 자동화하거나 사기와 오작동을 탐지하는 시스템을 도입한 것으로 알려졌습니다. 예를 들어, AI는 매일 2만 건 이상의 문서를 분석해 요약하고 이 정보를 직원들에게 전달하고 있습니다. 또한, 직업 상담사들이 AI로 유니버설 크레딧에 대한 지침을 쉽게 풀이할 수 있도록 지원하고 있습니다. -
이민과 난민 관리(Home Office)
AI는 이민 행정에도 깊이 개입하고 있습니다. 이 "로보-케이스워커" 시스템은 이민자 관련 데이터를 분석하고 우선순위를 정하는 데 사용되며, 특히 추방과 관련된 사례 관리에 도움을 준다고 합니다. 하지만 이 과정에서 사람들의 권리를 적절히 보장하지 못할 가능성이 있다는 우려가 있습니다. -
경찰의 얼굴 인식 소프트웨어
얼굴 인식 기술은 이미 메트로폴리탄 경찰과 에식스 및 사우스 웨일스 경찰에서 범죄 용의자를 추적하기 위해 사용되고 있습니다. 그러나 이 기술이 광범위한 대중 감시에 악용될 가능성이 있다는 지적 역시 제기됩니다.
- 국민보건서비스(NHS)
NHS는 미국 기업 팔란티어(Palantir)와의 계약을 통해 환자 데이터를 분석하는 거대한 AI 데이터 플랫폼을 개발 중입니다. 이를 통해 의료 시스템의 효율성을 높이려 하지만, 민감한 의료 데이터의 프라이버시 침해 가능성에 대한 우려는 계속되고 있습니다.
투명성 부족이 낳은 문제
영국 정부의 AI 사용에 대한 불투명성은 신뢰 부족으로 이어지고 있습니다. 구체적으로, 알고리즘 투명성 공개 등록부에 기재된 정보는 2022년 이후 단 3건에 불과하며, 이마저도 AI가 사용되는 전체 사례 중 일부에 지나지 않습니다.
- 등록된 사례
- 캐비닛 오피스의 AI 기반 디지털 기록 관리 시스템
- 케임브리지 지역의 AI 기반 보행자 분석 시스템
- NHS 리뷰 분석 시스템
하지만 반대로, 기록되지 않은 시스템은 164건의 AI 관련 공공 계약 중 대부분을 차지하고 있습니다. 이는 규정 준수와 실질적 실행 사이의 거리가 얼마나 큰지 보여주는 방증입니다.
전문가의 경고: AI 관리 접근 방식의 변화 필요
AI 기술이 행정적 효율성을 높인다는 점은 분명합니다. 하지만 이를 무작정 도입한다면 오작동이나 차별적 결과를 초래할 위험이 큽니다.
아다 러브레이스 연구소의 연구원 이모젠 파커는 **"투명성이 부족한 상태에서는 공공 부문이 AI 기술을 관리하거나 그 사회적 영향을 학습할 기회를 잃고 있다"**고 경고했습니다.
한편, 빅 브라더 워치(Big Brother Watch) 같은 단체는 정부의 얼굴 인식 소프트웨어 계약이 관련 법률 부재 속에서 추진되고 있다는 점을 지적하며 이 기술이 대중의 자유와 데이터 권리를 침해할 가능성을 우려하고 있습니다.
윤리적 AI 활용, 어떻게 가능할까?
영국 정부는 AI 시스템과 알고리즘 활용에 있어 더욱 엄격한 윤리 기준과 투명성 제고가 필요합니다.
- 공공 알고리즘 레코드의 철저한 관리
모든 AI 사용 사례를 빠짐없이 등록하고 이를 대중에게 공개해야 합니다. - 철저한 검토와 테스트
AI 시스템은 채택 전, 정밀한 윤리적 검토와 테스트를 통과해야 합니다. - 대중 참여와 피드백 수렴
국민들에게 AI 정책과 사용 사례를 알리고, 이에 대한 피드백을 적극 반영해야 합니다.
마무리하며
AI는 양날의 검과 같은 기술입니다. 잘 사용하면 정부와 국민 모두에게 큰 이익을 가져올 수 있지만, 그렇지 않으면 신뢰 결여와 불공정한 결과를 초래할 수 있습니다.
따라서 AI를 고려하는 모든 조직은 기술 도입 이전에 충분한 투명성 확보와 윤리적 이슈들에 대한 고민을 선행해야 합니다. 영국 정부의 상황은 AI 활용을 계획 중인 다른 정부와 기관들에게 중요한 교훈을 제공하고 있으며, 이는 대한민국을 포함한 전 세계 공공기관에도 시사하는 바가 큽니다.
AI가 우리의 삶을 변화시킬 때, 변화의 방향은 기술 그 자체보다 이를 사용하는 사람의 책임에 달려있습니다.
