[한국법률일보] 최근 생성형 인공지능(AI)이 만들어낸 가짜 사건번호와 판결문을 인용한 문서를 법원에 제출하는 사례가 점차 증가하면서 문제가 되자, 대법원이 ‘허위사건번호 확인 서비스’라는 자구책을 마련해 2월 20일부터 서비스를 시작했다.
생성형 AI는 ‘2023다12345’와 같은 사건번호의 패턴을 학습해 임의의 번호를 조합해내고, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있다.
실제로 미국에서는 원고측 변호사가 챗GPT를 사용해 준비서면을 작성했으나, 인용된 6건의 판례가 모두 AI가 지어낸 가짜 판례로 밝혀지면서 5,000달러의 벌금과 함께 징계를 받은 사례가 있고, 국내에서도 울산지방노동위원회의 부당해고구제신청 사건에 제출된 사용자측 답변서에서 공인노무사가 인용한 판례 10건이 모두 AI가 만든 가짜로 확인되거나 경기 용인동부경찰서에서 AI를 활용해 작성한 불송치 결정문에 존재하지 않는 판례를 인용한 사실이 드러나기도 하는 등 최근 유사한 사례가 계속 발생하고 있다.
법원행정처는 “최근 챗GPT(ChatGPT), 클로드(Claude) 등 생성형 AI의 대중화로 이를 활용한 법률정보 검색 및 서면작성 활용이 급증하고 있는데, 거대언어모델 (LLM)의 특성상 환각현상(Hallucination)이 발생하는 경우가 상당함에도 사용자가 언어모델이 제공하는 사건번호 내지 판결이 존재하는지 여부를 검증할 마땅한 방법이 없어 이에 대한 개선 방안을 마련했다.”면서, “허위 사건번호로 인한 사용자의 혼선을 방지하고, 사법 정보의 신뢰도를 제고하기 위해 2026. 2. 20.부터 사법정보공개포털사이트를 통 해 ‘허위 사건번호 확인’ 기능을 서비스한다.”고 밝혔다.
법원행정처는 사용자가 사건번호를 입력해 해당 사건번호가 실제로 존재하는지 확인할 수 있도록 하고, 사건번호가 존재하는 경우 해당 판결의 내용을 구체적으로 확인하도록 안내함에 따라, 허위 사건 인용을 어느 정도 예방할 수 있을 것으로 기대한다고 설명했다.
이번 대법원의 조치는 생성형 AI의 오남용에 대응하는 시의적절한 조치임에는 분명하지만, 정작 중요한 문제는 AI가 왜 가짜 판례를 만들어내는가에 있다.
2025년 12월 미확정 형사사건의 하급심 판결문도 일정 요건 아래 공개하도록 형사소송법 개정안이 국회를 통과해 공포됐고, 판결문 공개 확대에 관한 후속 입법이 계속 추진되고 있음에도, 사법부는 개인정보보호, 판결 정보의 상업적 이용, 법관 성향 분석이나 재판에 영향을 미치기 위한 악용 등을 이유로 판결문 전면 공개를 여전히 미루고 있다.
이러한 판결 정보의 폐쇄성이 생성형 AI에도 가짜 판례 생성이라는 부작용을 낳고 있는 것이다. 공개된 판결문이 부족하다 보니 AI는 파편화된 정보를 바탕으로 법리를 추론하게 되고, 이 과정에서 환각 현상은 더욱 심화된다.
이번 허위사건번호 확인서비스를 통해 사용자가 사건번호의 실존 여부는 확인할 수 있게 되었지만, 판결문의 ‘원문’ 전체를 즉시 대조하기는 여전히 까다롭다. 결국 ‘사건번호는 진짜지만 내용은 가짜’인 판례에 속아 넘어갈 위험은 여전하다.
대법원은 이번 서비스를 통해 허위 사건 인용을 어느 정도 예방할 수 있을 것으로 기대하고 있지만 이는 결국 임시방편적 대응에 불과하다는 지적이 나오는 이유다.
법원이 판결정보의 문턱을 낮추지 않는 한, AI가 던지는 ‘그럴듯한 거짓말’과의 싸움은 계속될 수밖에 없다. 이번 ‘허위사건번호 확인 서비스’ 개시가 판결문 전면 공개라는 사법개혁의 본질로 나아가는 마중물이 되기를 기대한다.
시민을 위한 법률전문 인터넷신문 ‘한국법률일보’ 손견정 기자 lawfact.desk@gmail.com
생성형 AI는 ‘2023다12345’와 같은 사건번호의 패턴을 학습해 임의의 번호를 조합해내고, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있다.실제로 미국에서는 원고측 변호사가 챗GPT를 사용해 준비서면을 작성했으나, 인용된 6건의 판례가 모두 AI가 지어낸 가짜 판례로 밝혀지면서 5,000달러의 벌금과 함께 징계를 받은 사례가 있고, 국내에서도 울산지방노동위원회의 부당해고구제신청 사건에 제출된 사용자측 답변서에서 공인노무사가 인용한 판례 10건이 모두 AI가 만든 가짜로 확인되거나 경기 용인동부경찰서에서 AI를 활용해 작성한 불송치 결정문에 존재하지 않는 판례를 인용한 사실이 드러나기도 하는 등 최근 유사한 사례가 계속 발생하고 있다.법원행정처는 “최근 챗GPT(ChatGPT), 클로드(Claude) 등 생성형 AI의 대중화로 이를 활용한 법률정보 검색 및 서면작성 활용이 급증하고 있는데, 거대언어모델 (LLM)의 특성상 환각현상(Hallucination)이 발생하는 경우가 상당함에도 사용자가 언어모델이 제공하는 사건번호 내지 판결이 존재하는지 여부를 검증할 마땅한 방법이 없어 이에 대한 개선 방안을 마련했다.”면서, “허위 사건번호로 인한 사용자의 혼선을 방지하고, 사법 정보의 신뢰도를 제고하기 위해 2026. 2. 20.부터 사법정보공개포털사이트를 통 해 ‘허위 사건번호 확인’ 기능을 서비스한다.”고 밝혔다.법원행정처는 사용자가 사건번호를 입력해 해당 사건번호가 실제로 존재하는지 확인할 수 있도록 하고, 사건번호가 존재하는 경우 해당 판결의 내용을 구체적으로 확인하도록 안내함에 따라, 허위 사건 인용을 어느 정도 예방할 수 있을 것으로 기대한다고 설명했다.이번 대법원의 조치는 생성형 AI의 오남용에 대응하는 시의적절한 조치임에는 분명하지만, 정작 중요한 문제는 AI가 왜 가짜 판례를 만들어내는가에 있다.2025년 12월 미확정 형사사건의 하급심 판결문도 일정 요건 아래 공개하도록 형사소송법 개정안이 국회를 통과해 공포됐고, 판결문 공개 확대에 관한 후속 입법이 계속 추진되고 있음에도, 사법부는 개인정보보호, 판결 정보의 상업적 이용, 법관 성향 분석이나 재판에 영향을 미치기 위한 악용 등을 이유로 판결문 전면 공개를 여전히 미루고 있다.이러한 판결 정보의 폐쇄성이 생성형 AI에도 가짜 판례 생성이라는 부작용을 낳고 있는 것이다. 공개된 판결문이 부족하다 보니 AI는 파편화된 정보를 바탕으로 법리를 추론하게 되고, 이 과정에서 환각 현상은 더욱 심화된다.이번 허위사건번호 확인서비스를 통해 사용자가 사건번호의 실존 여부는 확인할 수 있게 되었지만, 판결문의 ‘원문’ 전체를 즉시 대조하기는 여전히 까다롭다. 결국 ‘사건번호는 진짜지만 내용은 가짜’인 판례에 속아 넘어갈 위험은 여전하다.대법원은 이번 서비스를 통해 허위 사건 인용을 어느 정도 예방할 수 있을 것으로 기대하고 있지만 이는 결국 임시방편적 대응에 불과하다는 지적이 나오는 이유다.법원이 판결정보의 문턱을 낮추지 않는 한, AI가 던지는 ‘그럴듯한 거짓말’과의 싸움은 계속될 수밖에 없다. 이번 ‘허위사건번호 확인 서비스’ 개시가 판결문 전면 공개라는 사법개혁의 본질로 나아가는 마중물이 되기를 기대한다.시민을 위한 법률전문 인터넷신문 ‘한국법률일보’ 손견정 기자 lawfact.desk@gmail.com