호주 정부, AI 자동 결정 시스템 '로보데트 재현' 우려

호주 연방정부가 알고리즘과 인공지능(AI)을 활용한 자동 의사결정(ADM) 시스템을 충분한 법적 규제 없이 사용하고 있다는 지적이 제기됐습니다. 독립 싱크탱크 '공공청렴센터(Centre for Public Integrity)'는 목요일 '컴퓨터가 거절한다(Computer Says No)'는 제목의 보고서를 발표하며, 정부의 ADM 사용에 대한 시급한 개혁을 촉구했습니다.

보고서를 발표한 캐서린 윌리엄스 최고경영자는 정부가 '또 다른 로보데트 사태로 몽유병처럼 걸어 들어가고 있다'고 경고했습니다. 특히 노인 재가 지원 수준을 결정하는 '통합 평가 도구(IAT)'에 알고리즘이 사용되고 있는 점을 우려의 핵심으로 꼽았습니다. IAT는 대상자의 필요를 반복적으로 과소평가하는 것으로 드러났으며, 노인 돌봄 담당자들은 잘못된 알고리즘 결정을 수정하는 것이 금지돼 있는 것으로 알려졌습니다.

보고서는 8가지 권고안을 담고 있으며, 모든 ADM 사용에 대한 의무 감사와 공개 등록부 마련, 그리고 정부를 감시·조사할 수 있는 독립 감독 기구 설립을 요구했습니다. 지난 10월 연방 옴부즈만 보고서도 정부가 IAT 개발 및 도입 과정에서 로보데트 왕립위원회의 투명성 권고를 무시했다고 지적한 바 있습니다.

법무장관부는 ADM 프레임워크를 개발 중이며 공개 의견 수렴은 2025년 1월 종료됐습니다. 미셸 롤런드 법무장관은 프레임워크 완성 시점에 대해서는 답하지 않았지만, 정부가 안전하고 책임 있는 ADM 사용에 전념하고 있다고 밝혔습니다. 무소속 의원 케이트 체이니는 지난 9월 ADM 관련 최초의 법제화 의무 프레임워크를 수립하는 사적 의원 입법안을 제출한 상태입니다.

호주에 거주하는 한인 중 노인 재가 지원 서비스를 이용하거나 정부 복지 결정의 영향을 받는 경우, 자신의 지원 수준이 알고리즘에 의해 결정됐을 수 있으며 이에 대한 이의 제기 경로가 불명확할 수 있습니다. 향후 ADM 관련 법제화 논의를 주목할 필요가 있습니다.