[법 곁의 기술②] AI는 도구일 뿐, 판결 책임은 사람에게… 기술이 보장 않는 공정성 권원명 특허법원 판사, "사법부 AI 도입, 역량 집중·사법 접근성 향상 위한 것이어야" AI가 이 계약서에서 위험조항을 추려드릴게요.법률 서비스를 받는 풍경이 조금씩 바뀌고 있다. 리걸테크(Legal Tech), 즉 인공지능(AI)과 기술을 활용한 법률 서비스 플랫폼이 법조계 안으로 스미고 있다.힘을 실어줄 관련 정책은 논의 단계이고, 법원은 조심스럽다. 리걸테크를 바라보는 시각 차가 쉽게 좁혀지지 않는 가운데 기술은 이미 문을 두드리고 있다.이번 시리즈는 정책·실무 현장·기술 기업의 세 관점에서 리걸테크의 현 주소를 살펴본다.AI 기술이 빠른 속도로 발전하면서 사람들은 그 놀라운 편리성을 기대하고 열망하는 한편, '어떤 직업을 대체하게 될까' 두려워했다. 그러면서도 사법 분야에서는 '기계의 공정성'이 인간의 판단의 오류와 이에 영향을 미칠 사적 요소들을 배제시켜줄 것이라 기대하고 있다. AI는 과연 공정하고 적법한 판단을 내려줄 수 있을까.법관에 의한 재판을 받을 권리는 리걸테크 기술의 발전 여부와 무관하게 지켜져야 할 가치다.권원명 특허법원 판사는 지난 20일 서울 삼성동 코엑스에서 진행된 '2025 리걸테크 AI 특별 전시회(Legal Tech & AI Show·LTAS)' 강연에 나서 AI는 법관의 판단을 보조하는 수단이라고 선을 그었다.권 판사는 이날 발표에서 리걸테크의 활용 가능성은 분명히 있다고 보면서도, 기술이 법적 판단의 주체가 되어선 안 된다는 점을 거듭 강조했다. 재판이라는 공적인 결정에 대해 책임지는 것이 바로 법관이고, 기계는 아무리 발전해도 도구에 불과하다는 것이다.그는 AI는 법관을 대체하기 위한 것이 아니라, 재판의 효율성과 소송당사자의 사법 접근성을 높이기 위한 수단이라고 말했다.이어 일부 판사들이 유료 AI 서비스를 활용하고 있지만, 아직까지 법적 사실 판단이나 법리 검토에서 법조인의 수준을 대체할 정도는 아니다라고 했다.그는 LLM(대규모 언어 모델)의 결과물이 반드시 진실인 것도 아니고, 훈련 데이터의 오류나 편견을 반영할 수도 있다. 특히 딥러닝은 특정 입력값에 발생하는 출력값의 이유를 명확히 설명하기도 어렵다라고 이유를 들었다.권 판사는 AI와 사법의 국면을 △심리 대상으로서의 AI △소송절차에서 소송당사자의 사용 △사법부의 AI 도입 △법관의 AI 사용 등 네 가지로 분류했다.앞서 권 판사는 법원 인공지능연구회가 지난 3월 발간한 '사법에서의 AI 활용에 관한 가이드라인' 제작에 참여했다.그는 가이드라인은 기본권 보장을 사법부의 핵심 책무로 규정하고, AI는 더 나은 재판을 위한 보조 수단으로 사용돼야 한다고 명시했다며 최종 판단의 책임은 언제나 법관에게 있다는 점을 분명히 했다. 이어 AI의 결과물을 먼저 보면 맞다고 생각할 수 있는 편향을 방지하기 위해 AI를 사용하기 전 AI의 편향성과 환각 현상 등에 관한 기본적인 이해를 갖추도록 하는 내용을 포함했다고 설명했다. 아울러 가이드라인에서는 AI 작성이 의심되는 소장이나 준비서면, 의견서 등 주장 서면이 제출된 경우 법원은 이를 제출한 측에 AI를 사용한 것인지 밝히도록 요구할 수 있게 했다며 딥페이크로 의심되는 문서, 사진, 음성, 영상 등이 증거로 제출된 경우 이를 제출한 측에 AI를 사용한 것인지 밝히도록 요구하도록 명시했다고 덧붙였다.사법부에 도입되는 AI 시스템의 방향성에 대해서는 △기본권 및 헌법적 가치 △신뢰성의 원칙 △합법성의 원칙 △책임성의 원칙 △투명성 △미래 지향성 등을 갖춰야 한다고 말했다.권 판사는 사법부에 도입되는 AI는 그 사용 목적에 부합하도록 정확성이 담보돼야 한다며 대한민국 전체 법질서와 조화돼야 하고 필요한 경우 형사소송 규칙이과 민사소송 규칙 등에 시스템의 활용 근거 및 한계가 규정될 필요가 있다고 말했다.이어 법관이 AI를 이용해 자료를 생성하거나 법적 판단에 도움을 받는 경우에도 사용자인 법관이 최종 책임을 부담해야 한다며 사용자가 결과물의 정확성을 확인하고 검증할 수 있는 시스템은 반드시 갖춰져야 할 것이라고 강조했다.

[법 곁의 기술②] AI는 도구일 뿐, 판결 책임은 사람에게… 기술이 보장 않는 공정성

권원명 특허법원 판사, "사법부 AI 도입, 역량 집중·사법 접근성 향상 위한 것이어야"

기사입력 2025-06-23 16:06:42

[산업일보]

"AI가 이 계약서에서 위험조항을 추려드릴게요."

법률 서비스를 받는 풍경이 조금씩 바뀌고 있다. 리걸테크(Legal Tech), 즉 인공지능(AI)과 기술을 활용한 법률 서비스 플랫폼이 법조계 안으로 스미고 있다.

힘을 실어줄 관련 정책은 논의 단계이고, 법원은 조심스럽다. 리걸테크를 바라보는 시각 차가 쉽게 좁혀지지 않는 가운데 기술은 이미 문을 두드리고 있다.

이번 시리즈는 정책·실무 현장·기술 기업의 세 관점에서 리걸테크의 현 주소를 살펴본다.

AI 기술이 빠른 속도로 발전하면서 사람들은 그 놀라운 편리성을 기대하고 열망하는 한편, '어떤 직업을 대체하게 될까' 두려워했다. 그러면서도 사법 분야에서는 '기계의 공정성'이 인간의 판단의 오류와 이에 영향을 미칠 사적 요소들을 배제시켜줄 것이라 기대하고 있다. AI는 과연 공정하고 적법한 판단을 내려줄 수 있을까.

권원명 특허법원 판사

"법관에 의한 재판을 받을 권리는 리걸테크 기술의 발전 여부와 무관하게 지켜져야 할 가치다."

권원명 특허법원 판사는 지난 20일 서울 삼성동 코엑스에서 진행된 '2025 리걸테크 AI 특별 전시회(Legal Tech & AI Show·LTAS)' 강연에 나서 "AI는 법관의 판단을 보조하는 수단"이라고 선을 그었다.

권 판사는 이날 발표에서 리걸테크의 활용 가능성은 분명히 있다고 보면서도, 기술이 법적 판단의 주체가 되어선 안 된다는 점을 거듭 강조했다. 재판이라는 공적인 결정에 대해 책임지는 것이 바로 법관이고, 기계는 아무리 발전해도 도구에 불과하다는 것이다.

그는 "AI는 법관을 대체하기 위한 것이 아니라, 재판의 효율성과 소송당사자의 사법 접근성을 높이기 위한 수단"이라고 말했다.

이어 "일부 판사들이 유료 AI 서비스를 활용하고 있지만, 아직까지 법적 사실 판단이나 법리 검토에서 법조인의 수준을 대체할 정도는 아니다"라고 했다.

그는 "LLM(대규모 언어 모델)의 결과물이 반드시 진실인 것도 아니고, 훈련 데이터의 오류나 편견을 반영할 수도 있다. 특히 딥러닝은 특정 입력값에 발생하는 출력값의 이유를 명확히 설명하기도 어렵다"라고 이유를 들었다.

권 판사는 AI와 사법의 국면을 △심리 대상으로서의 AI △소송절차에서 소송당사자의 사용 △사법부의 AI 도입 △법관의 AI 사용 등 네 가지로 분류했다.

앞서 권 판사는 법원 인공지능연구회가 지난 3월 발간한 '사법에서의 AI 활용에 관한 가이드라인' 제작에 참여했다.

그는 "가이드라인은 기본권 보장을 사법부의 핵심 책무로 규정하고, AI는 더 나은 재판을 위한 보조 수단으로 사용돼야 한다고 명시했다"며 "최종 판단의 책임은 언제나 법관에게 있다"는 점을 분명히 했다. 이어 "AI의 결과물을 먼저 보면 맞다고 생각할 수 있는 편향을 방지하기 위해 AI를 사용하기 전 AI의 편향성과 환각 현상 등에 관한 기본적인 이해를 갖추도록 하는 내용을 포함했다"고 설명했다.

아울러 "가이드라인에서는 AI 작성이 의심되는 소장이나 준비서면, 의견서 등 주장 서면이 제출된 경우 법원은 이를 제출한 측에 AI를 사용한 것인지 밝히도록 요구할 수 있게 했다"며 "딥페이크로 의심되는 문서, 사진, 음성, 영상 등이 증거로 제출된 경우 이를 제출한 측에 AI를 사용한 것인지 밝히도록 요구하도록 명시했다"고 덧붙였다.

사법부에 도입되는 AI 시스템의 방향성에 대해서는 △기본권 및 헌법적 가치 △신뢰성의 원칙 △합법성의 원칙 △책임성의 원칙 △투명성 △미래 지향성 등을 갖춰야 한다고 말했다.

권 판사는 "사법부에 도입되는 AI는 그 사용 목적에 부합하도록 정확성이 담보돼야 한다"며 "대한민국 전체 법질서와 조화돼야 하고 필요한 경우 형사소송 규칙이과 민사소송 규칙 등에 시스템의 활용 근거 및 한계가 규정될 필요가 있다"고 말했다.

이어 "법관이 AI를 이용해 자료를 생성하거나 법적 판단에 도움을 받는 경우에도 사용자인 법관이 최종 책임을 부담해야 한다"며 "사용자가 결과물의 정확성을 확인하고 검증할 수 있는 시스템은 반드시 갖춰져야 할 것"이라고 강조했다.