AI, 판결을 그르치다: 호주 변호사의 ‘거짓 인용’ 사건에서 우리가 배워야 할 교훈
요즘 법조계도 디지털 혁신의 물결을 타고 있습니다. 특히 생성형 AI의 도입은 판례 검색부터 서면 작성까지 변호사들의 업무 방식 자체를 바꾸고 있는데요. 하지만 기술의 편리함에 의존하다 자칫 큰 대가를 치를 수도 있음을 보여주는 사건이 호주에서 벌어졌습니다.
2024년 7월, 호주 빅토리아주에서 한 변호사가 가정법원 소송에 제출한 서류에 AI가 만든 ‘가짜 판례 인용’을 포함시킨 것이 발각되어, 결국 그는 자신의 법무법인 운영 자격을 박탈당하는 징계를 받게 되었습니다. 이는 호주 최초 사례로 기록됐으며, 많은 이들에게 “AI 사용도 결국은 사람의 책임 아래 있다”는 사실을 다시금 상기시켰습니다.
📌 사건의 전말: AI가 만들어낸 ‘허상’으로 법원 기만
해당 사건의 중심에는 한 익명의 변호사가 있었습니다. 그는 한 부부의 분쟁을 대리하면서 가정법원에 과거 사례 리스트를 제출했는데요. 이를 요청한 판사, 아만다 험프리(Justice Amanda Humphreys)는 이상한 낌새를 알아차리게 됩니다. 리스트에 있는 판례들이 전혀 검색되지 않았기 때문입니다. 재차 확인 결과, 해당 인용문들은 실제 존재하지 않는 ‘허구’였고, 이는 AI 법률 도구를 활용해 작성된 문서였던 것으로 밝혀졌습니다.
변호사는 "해당 AI 도구가 정확하게 어떤 방식으로 작동하는지 몰랐다"고 해명하며, 법정에서 무조건적인 사과문을 제출했고, 다른 당사자 측의 소송 비용도 보전해줬습니다.
하지만 법원은 단순 실수로 끝내지 않았습니다. “공공 이익을 위해선 이 사건을 조사기관에 회부할 필요가 있다”며, 빅토리아 법률서비스위원회(Victorian Legal Services Board)로 사건을 넘겼습니다.
그 결과, 그는 더 이상 주도적으로 법무법인을 운영하거나 신탁자금을 다룰 수 없으며, 향후 2년간 ‘감독 하에’ 근무하는 조건으로만 변호사 활동을 할 수 있게 되었습니다.
💡 왜 이 사건이 중요한가요?
오늘날 많은 법률인들은 GPT 기반 법률 도우미, 자동화된 판례 분석 도구 등 생성형 AI 도구들을 적극적으로 사용하고 있습니다. 실제로 AI를 활용한 서류 작성은 시간과 인건비를 절약할 수 있어, 소송 과정의 효율화를 꾀할 수 있다는 장점이 있습니다.
하지만, 이번 사례처럼 AI가 만들어낸 정보가 검증되지 않은 채 그대로 법정에 제출될 경우, 변호사의 전문성과 신뢰성은 땅에 떨어지고 고객에게도 큰 피해가 돌아갈 수 있습니다.
🎯 비슷한 사례는 또 없을까?
유사한 문제는 호주 전역에서 확산되고 있습니다.
- 2025년 8월, 서호주의 한 변호사도 존재하지 않는 사건 판례를 인용한 문서를 제출해 제재 대상이 되었습니다.
- 뉴사우스웨일스에서도 자가 변호인이 ChatGPT를 활용해 작성했다 주장한 문서가 제출됐으나, 해당 문서는 ChatGPT가 대중에게 공개되기 전 작성된 것으로 밝혀져 오히려 공문서 위조 의혹에 휘말리게 됩니다.
이처럼 생성형 AI는 실제로는 존재하지 않는 사례나 사실을 그럴듯하게 구성할 수 있습니다. 이는 ‘할루시네이션(hallucination)’이라 불리는 생성형 AI의 고질적인 문제 중 하나로, 법적 판단을 좌우하는 영역에서는 특히 위험합니다.
📚 결국, 중요한 건 ‘AI 감시하는 인간의 시선’
호주 법률위원회의 공식 입장도 분명합니다. “AI를 사용했더라도, 변호사 스스로가 그 정보를 검증하고 자신의 윤리적 의무를 다해야 합니다.” 법조계는 AI 도입 자체를 반대하지 않습니다. 오히려 광범위한 도입이 필연적으로 예상되는 가운데, 이 기술이 전문성을 대체할 수 없다는 점을 분명히 하고 있습니다.
🧭 그것이 알고 싶다: AI 시대 법률인의 준수 5계명
-
💻 AI는 도구일 뿐, 최종 판단은 인간이 한다
→ 법률문서를 제출하기 전 반드시 모든 인용과 자료의 사실 여부를 검토해야 합니다. -
🧠 도구에 ‘무지하다’는 변명이 될 수 없다
→ 사용하는 생성형 AI의 작동 원리와 한계를 이해하려는 노력이 필요합니다. -
🧑⚖️ 윤리적 책임은 여전히 법조인 자신에게
→ 법의 심판대 앞에서는 “기계가 했다”는 변명은 통하지 않습니다. -
📂 기록과 출처는 투명하게
→ 생성형 도구를 활용했다면, 그 내역을 명시하고 출처 정보를 함께 기록하세요. -
💬 협력보다 중요한 건 확인
→ AI와 협업하는 시대에는 AI가 아닌 자신과의 검증 루틴이 더욱 중요해졌습니다.
📝 마무리: AI 시대, 법조인의 책임은 더 커지고 있다
생성형 AI는 틀림없이 우리 삶을 더 편리하게 만들어 줄 기술입니다. 그러나 특히 정밀성과 신뢰성이 핵심인 법률 분야라면, 기술을 맹신하기보다는 정확히 이해하고 책임 있게 활용해야 합니다.
이번 호주의 사례는 “편리한 기술도 반드시 윤리적 감시와 검증 위에 있어야 한다”는 중요한 경고로 기억될 것입니다.
💬 여러분은 어떻게 보시나요?
AI 시대의 전문직, 언제나 인간의 역할은 ‘책임’에서 시작된다는 점을 잊지 말아야겠습니다.
—
✍️ 블로그 운영자 한마디
혹시 생성형 AI를 업무에 도입 중이신가요? 기술은 빠르게 발전하고 있지만, 그만큼 우리 모두가 조심해야 할 것들이 몇 배 더 늘어나고 있습니다. 오늘 사례는 다른 나라 얘기가 아닌, 우리 스스로도 꼭 돌아봐야 할 문제입니다. 현명하게 AI와 함께 성장해 나가길 바랍니다!
#생성형AI #법조계AI #호주법원 #신뢰와검증 #AI오남용 #변호사윤리 #AI할루시네이션 #AI활용팁 #챗GPT위험성
