영국 검찰, AI 환각으로 존재하지 않는 판례 고등법원에 제출
영국 왕립검찰청(CPS) 소속 고위 검사가 고등법원 사건에서 실제로 존재하지 않는 판례를 인용한 사실이 드러나 사법 시스템 내 AI 오류 문제에 대한 우려가 다시 커지고 있습니다.
해당 사건은 11세 남아가 7세 여동생을 성폭행한 혐의로 기소될지 여부를 다툰 사건입니다. CPS의 성범죄 전담부서 소속 고위 검사 라빈더 딜런은 기소 결정을 지지하는 논거로 'CPS – R v J [2024] EWCA Crim 3529'라는 판례를 상세히 인용했으나, 해당 판례는 존재하지 않는 것으로 밝혀졌습니다. 법원 문서에 따르면 이 가상의 판례는 인터넷 검색 중 생성된 AI 요약에서 비롯된 것으로 파악됩니다.
딜런 검사는 10월에 오류를 인정하며 실제로는 15년 전의 다른 실존 판결을 참조하려 했다고 해명했으나, 고등법원 판사 두 명은 이 설명이 '불충분하다'고 판단했습니다. 아일랜드 메이누스대학교의 AI·법학 전문가 브라이언 플래너건 부교수는 이를 '심각한 실패'라고 규정하며, 국가 권력을 행사하는 공직자가 존재하지 않는 법원 판례를 인용한 것은 법에 대한 신뢰 규범을 훼손한다고 지적했습니다.
CPS는 앞서 올해 2월에도 루마니아인 범죄자 관련 송환 사건에서 AI로 인한 가짜 판례 인용 오류를 인정한 바 있습니다. 이번 사건으로 영국의 AI 관련 법원 오류 추적 건수는 101건으로 늘었으며, 실제 사례는 이보다 훨씬 많을 수 있다는 지적도 나옵니다. 고등법원은 지난 6월 이미 AI 환각 문제를 '긴급 사안'으로 규정하고 변호사단체에 대책 마련을 촉구한 바 있습니다.
CPS는 AI 사용을 엄격히 제한하는 내부 정책이 있으며, 오류 발생 직후 내부 검토를 실시하고 판례는 반드시 신뢰할 수 있는 법률 데이터베이스에서 인용해야 한다는 교훈을 공유했다고 밝혔습니다.
