[NIE] AI판사를 도입해야 할까?
1. 주제 다가서기 미래 사회에서 인공지능은 인간이 하는 많은 일을 대체한다고 한다. 이런 상황에서 인간 판사를 AI 판사로 대체해야 한다는 목소리가 나오고 있다. 미국의 몇몇 주에서는 이미 AI가 인간 판사에게 판결을 제안하고 있으며, 북유럽에 있는 에스토니아에선 2019년부터 일부 사건에 대한 판결을 AI 판사에게 맡기고 있다. 최근 우리나라에서도 강간, 아동학대, 성범죄를 저질렀음에도 심신미약, 우발적 범행 등의 이유로 감형되는 사례로 인해 점점 법관을 신뢰하지 않게 되면서 인간 판사대신 AI 판사의 도입을 주장하고 있다. 하지만 AI 판사의 판결 오류를 둘러싼 우려의 목소리도 적지 않은 상황이다. 이런 상황에서 우리 학생들에게 쟁점 질문을 던져본다. “우리는 AI 판사를 도입해야 할까?” 2. 주제 관련 신문기사 ▶ 중앙일보, 2023년 6월 26일, "인간 판사와 79% 답 같았다"…시간 아끼는 'AI 판사' 나올까, 허정원 기자. ▶ 전북일보, 2024년 12월 4일, “일부 판사, 지나친 조정 강요하고 고압적인 태도로 재판 진행” 전북변호사회, 전주지법 법관 평가, 엄승현 기자. 3. 신문 읽기 [읽기자료1] "인간 판사와 79% 답 같았다"…시간 아끼는 'AI 판사' 나올까 혈중알코올농도 면허취소 수준, 음주운행 거리 20㎞, 적발시간 오후 8시35분경. 인공지능(AI) 법률상담 플랫폼에서 형량을 예측하기 위해 지난 25일 발생한 한 현직 경찰관의 음주운전 기록을 입력해봤다. A씨가 과거 같은 전과가 없고, 집행유예 기간에 일어난 사고가 아니라고 추가로 입력하자 평균 형량이 벌금 600만원이라는 답이 나왔다. 좀 더 구체적인 결과를 알아보기 위해 이미 재판 결과가 나온 다른 음주운전 사건의 조건도 입력해봤다. 지난해 7월 18일 오후 11시쯤 경기 부천시에서 서울 양천구까지 약 10㎞를 혈중알코올농도 0.182%(면허취소 이상) 상태로 운전한 B씨는 과거 음주운전으로 벌금형 전과가 3회 있었다. 심지어 징역 1년에 집행유예 2년을 받은 지 두달여 만에 면허증도 없는 상태에서 적발됐다. 이런 조건들을 AI에 입력하자 징역 10개월이 나왔다. 실제로 B씨는 징역 10개월을 선고받고 복역중이다. 26일 ‘AI와 양형’을 주제로 열린 대법원 양형연구회 심포지엄에 참석한 법조계 전문가들은 AI가 판사의 양형 보조 역할을 할 수 있다는 데 공감대를 이뤘다. 양형위는 양형 기준을 마련할 때 최근 5년간 선고·확정된 특정 범죄군의 사건을 모(母)집단으로 보고, 양형인자가 될 만한 사정을 고려해 통계 프로그램으로 분석한다. AI도 대량의 데이터를 학습해 통계적으로 추론한다는 점에서 공통점이 뚜렷하다는 것이다. 이날 발제를 맡은 오세용 인천지법 부장판사는 “유사 사건을 검색해 사건별 양형 분포를 파악하는데 시간·노력 절감 효과가 있고, 신속하게 형량 범위를 판단할 수 있어 복잡한 다른 쟁점에 집중할 수 있다”는 점을 강조했다. AI가 재판 등에 활용된 국내외 사례도 제시됐다. 민간 리걸테크 기업인 ㈜로이어드컴퍼니가 개발한 ‘AI알법’은 3만건 이상의 판례를 토대로 음주운전·강제추행·사기 등에 대한 형량 예측 서비스를 제공 중이다. 미국의 경우 2013년 2월 위스콘신주 법원이 총격 사건에 사용된 차량을 무단으로 운전해 경찰로부터 도주한 에릭 루미스 사건에서 컴파스(COMPAS)라는 알고리즘을 활용했다. 당시 컴파스가 재범 위험성을 높게 평가하자, 법원은 이를 양형 자료로 참작해 루미스에게 가석방 없는 징역 6년을 선고했다. 유럽 인권재판소의 재판예측 알고리즘이 실제 판결과 79% 일치한다는 점도 소개됐다. 그러나 AI가 조력자의 지위를 넘어 단독으로 판결을 내릴 수 있는 ‘판결 기계’로 진화할 수 있는지에 대해선 대다수의 전문가가 우려의 목소리를 냈다. 김정환 연세대 법학전문대학원 교수는 AI가 내린 결과에 대해 피고인 등이 이의를 제기할 경우 합리적인 판단 근거와 논리를 설명할 수 없다는 ‘블랙박스’ 문제에 대해 언급했다. AI가 대량의 데이터를 학습할 순 있어도 판단 결과의 이유를 역추적하는 것은 현재 기술로는 불가능해서다. 김 교수는 “민간 AI와 법원의 AI 판단이 일치하지 않을 수 있는데, 이때 법원 AI가 항상 옳다는 이유도 제시할 수 없을 것”이라며 “구체적인 이유를 제시해야 사법부의 신뢰도 확보할 수 있을 것”이라고 말했다. 오 부장판사도 “시대정신의 변화에 따라 판례를 바꿔야 하는 경우, 인공지능은 과거 자료를 토대로 판단하기 때문에 한계가 있다”고 말했다. AI가 기존 데이터의 편견까지 학습해 따라갈 수 있다는 것이다. AI가 학습할 수사·재판 자료를 민간에 공개할 수 있는지도 현실적인 어려움으로 제시됐다. 이종원 서울중앙지검 검사는 “현재 판결문마저도 일부만 공개되고, 공개된 판결문도 개인정보 부분은 삭제된다”며 “영리 목적으로 AI를 만들어 법원에 팔 목적으로 형사소송 기록을 보겠다는 것은 현행법상 문제”라고 말했다. 이 검사는 또 “피고인·증인의 진술이 법관이 느끼기에 신빙성이 있는지, 어떤 태도였는지 등 비언어적인 부분은 문서화하기 어렵다”며 “숙련된 법조인의 관찰력에 준하는 비언어적 음성인식 분석 기술은 언제쯤 개발될지 의문”이라고 말했다. “재판 데이터에 접근할 수 있도록 각종 소송기록 공개에 관한 법령·제도를 정비하고, 재판 과정을 촬영·녹음하는 설비 문제에서부터 AI 도입 논의를 시작해야 한다”며 “AI가 어떤 로직으로 결론에 이르렀는지 사고의 흐름을 볼 수 있는 인터페이스를 개발해야 한다”라는 의견도 나왔다. (출처 : 중앙일보, 2023년 6월 26일) [읽기자료2] “일부 판사, 지나친 조정 강요하고 고압적인 태도로 재판 진행” 전북변호사회, 전주지법 법관 평가 ‘짜증을 내거나 신경질적으로 말하거나 고압적인 태도로 재판을 진행함’, ‘사건의 쟁점을 파악하지 않아 불필요한 부분을 심리함’, ‘재판이 지나치게 지연됨’. 전북 변호사들이 재판에 참여해 판사들을 목도한 내용들로, 전북지방변호사회(전북변회)가 4일 발표한 법관(판사)평가조사결과에 담긴 사례들이다. 전북변회(회장 김학수, 법관평가특별위원회 위원장 심병연)는 4일 광주고등법원 전주재판부와 전주지방법원 및 관내 지원 소속 법관 90명을 대상으로 한 ‘2023년도 법관평가조사 결과’를 발표했다. 올해로 12번째를 맞는 전북지역의 법관 평가에서 전북변협은 최우수판사 1명과 우수판사 5명을 선정했다. 또 하위 판사의 나쁜 사례 9개도 소개됐다. 전북변회가 발표한 구체적인 법관들의 나쁜 사례는 △조정을 지나치게 강요함 △증거조사가 끝나기 전임에도 예단을 드러냄 △짜증을 내거나 신경질적으로 말하거나 고압적인 태도로 재판을 진행함 △사건의 쟁점을 파악하지 않아 불필요한 부분을 심리함 △합리적인 이유 설명 없이 증거신청을 기각하여 입증기회를 박탈함 △재판이 지나치게 지연됨 △신청 사건의 심문이 종결된 후 결정을 지나치게 늦게 함 △종결된 사건을 자주 재개함 △판단 근거를 충분히 설명하지 않아 판결이 설득력이 없음 등이다. 이 같은 나쁜 사례들을 기반으로 전북변회는 실명을 밝히지 않았지만 5명의 하위판사도 선정했으며 이들의 평균 점수는 100점 만점에 71.53점이었다. 이는 지난해 하위법관 5명의 평균 점수(67.57점)보다 5.86% 올랐다. 반면 우수 판사 5명의 평균점수는 92.36점으로 지난해(93.09점)보다 소폭 감소했다. 평가는 공정, 품위·친절, 신속·적정, 직무능력·직무성실 등에 관련한 10개의 평가 문항을 제시하고 매우 우수부터 매우 미흡까지 5등급 평가를 했다. 대상은 전주지법 본원과 예하 지원 판사 90명이며 전북변회 소속 변호사 174명(참여율 55.77%)이 참여했다. 전북지방변호사회가 4일 2023 법관평가 결과를 발표했다. 특히 전북변회는 올해 처음으로 최우수판사를 선정했으며 대상에는 전주지법 김도형 부장판사가 이름을 올렸다. 이어 우수판사에는 전주지법 군산지원 강동원 부장판사, 남원지원 김유정 부장판사(지원장), 전주지법 노종찬 부장판사, 정읍지원 이영호 부장판사(지원장), 전주지법 장석준 부장판사(가나다순) 5명이 선정됐다. 전주지법 판사들에 대한 평가결과는 전주지법과 광주고법, 대법원에 전달됐다. 법조계 일각에서는 피고인과 이해관계에 있는 변호사들의 법관 평가가 주관적일 수 있는 만큼 신뢰성과 공정성 면에서 재고된다는 이야기가 나온다. 법관평가가 진행된 지 10여 년이 흘렀음에도 매년 비슷한 나쁜 사례가 반복되는 상황에서 개선 효과에 대한 의구심도 제기되고 있다. 이에 대해 전북변회 관계자는 “재판 과정에서 변호사는 원고 또는 피고로서 임하게 되는 상황에서 법관의 부당한 재판은 한쪽만 이익을 볼 수 있게 된다”며 “이 때문에 평가에 있어 부분적으로는 감정이 개입될 수 있으나 사건의 이해관계로부터 법관에 대한 평가에 있어 신뢰성이나 공정성이 크게 훼손될 정도로 반영되지 않는다”고 말했다. 그러면서 “법관평가제도의 성과와 한계점을 지속적으로 점검해 부족한 점을 보완하고 개선해 더욱 신뢰받는 법관평가가 될 수 있도록 노력하겠다”고 덧붙였다. (출처 : 전북일보, 2023년 12월 4일) 4. 생각열기 (1) [읽기자료 1, 2]를 읽고 신문기사나 내용에서 핵심낱말과 핵심문장을 찾아 색깔 펜으로 줄을 긋고, 2~3줄로 정리해 봅시다. (2) 기사에서 모르는 단어를 찾아 쓰고 단어의 뜻을 사전에서 찾아 써 봅시다. (3) [읽기자료1, 2]를 읽고 아래 쟁점 질문에 대한 찬성과 반대 주장을 찾아 정리해 봅시다. 쟁점질문 찬성 반대 AI판사를 도입해야 할까? (예시) 네. 왜냐하면 AI판사가 인간판사 보다 객관적이고 공정하기 때문이다. (예시) 아니다. 왜냐하면 AI판사는 가치 판단을 할 수 없기 때문이다. 5. 생각 키우기 (1) 대화형 인공지능 프로그램인 챗GPT에게 AI판사 도입에 대한 찬성 반대 의견을 물어봤다. 아래 챗GPT의 대답을 바탕으로 관련 질문들을 만들어 친구 혹은 가족과 함께 자유롭게 이야기 나눠 봅시다. 찬성 첫째, AI 판사를 도입하면 인간 판사들의 업무 부담을 줄일 수 있어, 민원 처리 및 사건 해결이 빨라질 것입니다. 둘째, AI는 프로그래밍된 규칙과 데이터에 기반하여 일관된 판결을 내릴 수 있습니다. 이는 법률의 안정성을 높일 수 있고, 동일한 사건에 대해 일관성 있는 결정을 내릴 수 있습니다. 셋째, AI 기술은 지속적으로 발전하고 있어, 판사 업무에 필요한 새로운 정보와 기능을 적용하기가 용이합니다. 따라서 판사의 지식과 역량을 지속적으로 향상시킬 수 있습니다. 반대 첫째, 어떤 사건은 감정, 윤리, 유연한 판단이 필요한 경우가 있습니다. AI는 감정적 판단과 인간적인 고려를 할 수 없어, 특히 복잡하고 많은 변수를 고려해야 하는 사건에서 한계를 보일 수 있습니다. 둘째, 도덕적 판단과 윤리적 고려: 판사의 업무에는 도덕적인 측면과 윤리적인 판단이 필수적입니다. 이러한 측면에서는 인간의 판단이 불가피하며, AI는 도덕적 윤리를 적용하는 데 제한이 있을 수 있습니다. 셋째, AI 시스템은 데이터의 품질과 학습 데이터의 편향으로 인해 오류를 내기도 합니다. 또한 해킹 등에 의한 보안 위협도 고려되어야 합니다. 이로 인해 판결에 오류가 발생할 우려가 있습니다. (2) 인공지능이 미래 사회에 미치게 될 긍정적인 영향과 부정적인 영향에는 어떤 것이 있을지 생각해 보고 또한 앞으로 AI 판사 이외에 인공지능을 어떤 분야에서 어떻게 활용할 수 있을지 친구 혹은 가족들과 함께 이야기 나눠 봅시다. 6. 생각 넓히기 (1) ‘AI판사를 도입해야 한다.’라는 주제로 가족 혹은 친구들과 팀을 정해 찬성, 반대 입안문을 작성해 봅시다. (2) ‘AI판사를 도입해야 한다.’라는 주제로 아래 순서와 시간을 참고하여 디베이트(Debate)를 해 봅시다. ▶ 디베이트 순서와 시간 ① 팀을 정한 뒤 동전던지기를 통해 찬성과 반대, 먼저와 나중을 정한다. ② 먼저팀이 입안을 한다 (3분) / 나중팀이 입안을 한다 (3분) ③ 전체 교차질의를 한다 (3분) ④ 먼저팀이 반박을 한다 (3분) / 나중팀이 반박을 한다 (3분) ⑤ 전체 교차질의를 한다 (3분) ⑥ 먼저팀이 마지막 정리를 한다 (2분) / 나중팀이 마지막 정리를 한다 (2분) ⑦ 돌아가며 자신의 소감을 이야기 해본다. (3) ‘AI판사를 도입해야 한다.’라는 주제로 진행했던 디베이트에 관해 에세이 형식으로 자신의 생각을 써 봅시다. 7. 학생의 글 찬성합니다. 저는 “AI 판사를 도입해야 한다.” 에 찬성합니다. 첫 번째, AI 판사의 경우 데이터를 기반으로 하여 인간 판사보다 일관성 있는 판결을 할 수 있습니다. 일례로 법률정보 사이트 네플라는 편파적인 결론을 도출할 가능성이 있는 요인들을 모두 제거한 후 500만 건에 이르는 재판 기록을 사용하여 형법 범죄자들의 위험도를 측정하는 PSA를 소개했습니다. 하지만 인간 판사의 경우 상태에 따라 객관성을 잃어버리는 사례가 나왔는데, 콜롬비아 대학 연구팀에 따르면 “맨 처음 재판을 받는 3명은 그날 맨 마지막으로 재판을 받는 3명보다 2~6배가량 석방될 확률이 높았다”라고 합니다. 이러한 사례들을 본다면 AI 판사가 인간 판사보다 일관성 있는 판결을 할 수 있다는 것을 알 수 있습니다. 두 번째, 인공지능 판사의 업무처리 속도가 법원 내 업무 부담을 완화할 것입니다. 많은 사건으로 인해 길어지고 복잡해지는 형사소송 처리 기간을 단축하는 데 AI가 도움이 되기 때문입니다. 그 예시로 형사 재판 1심 기준, 끝나기까지 138일이 걸리지만, 그에 비해 국내에서 개발된 법률 전문 인공지능에 계약서 파일을 보여줬을 때, 인간 변호사는 1시간에 걸쳐 수정하는 계약서를 5초 만에 16곳이나 수정하는 속도를 보였다고 2022년 KBS에서 보도한 바 있습니다. 따라서 AI 판사는 복잡해지는 사건 처리 기간을 단축할 수 있을 것입니다. 세 번째, 인공지능 판사는 각 사건의 특성을 고려할 수 있습니다. AI 판사에 경우 인간보다 더 많은 판례와 양형기준, 증거 등을 참조하여서 피고인 개개인의 사건에 최대한 비슷한 사건을 찾아 기존 사건을 분석하여서 인간 판사보다 피고인 개인에 상황에 맞는 판결을 할 수 있습니다. 일례로 오세용 인천지법 부장판사는 “ AI 판사의 경우 유사 사건을 검색해 사건별 양형을 파악하는데 시간 절감 효과가 있고, 신속하게 형량 범위를 판단할 수 있어 복잡한 다른 쟁점에 집중할 수 있다”라고 했습니다. 즉, 각 사건에 맞는 다른 쟁점에 인간 판사보다 집중하여 판결할 수 있다는 뜻입니다. 그래서 저는 이런 이유를 바탕으로 이번 주제인 AI 판사를 도입해야 한다는 것에 찬성하는 바입니다. 반대합니다. 저는 “AI 판사를 도입해야 한다.” 에 반대합니다. 첫 번째, 데이터가 편향적입니다. AI 판사는 인간 판사의 판례를 기준으로 판결하는데, 이때 데이터 자체에 편향성이 있다면 AI 판사의 판결 또한 편향적인 판결이 됩니다. 일례로 프로퍼블리카에서 보도한 바에 따르면 형사피고인 중 흑인은 재범 가능성이 높은 고위험군으로 예측되었지만 실제로 재범을 하지 않은 사람의 비율이 백인보다 흑인이 두 배 가까이 높은 것으로 나타났습니다. 이에 관해 연구한 포항공대의 논문에 따르면 이것은 데이터의 편향성 문제로 인해 생긴 결과라는 결론이 나왔습니다. 이처럼 AI가 아무리 완벽해져도 데이터의 편향성 문제를 해결하지 못한다면 AI 판사를 도입할 수 없다고 생각합니다. 두 번째, AI를 판사로 도입하는 것은 헌법을 위반합니다. 현재 존재하는 AI는 결론이 어떻게 도출된 것인지 설명할 수 없는 ‘블랙박스’ 문제를 가지고 있습니다. 그러나 우리나라는 헌법 제12조, 적법절차 원칙에 따라 법원은 모든 국민을 정당한 사유에 근거해 체포, 구속할 수 있습니다. 그 때문에 AI 판사는 어떤 이유로 유죄인지, 무죄인지 결정하는 것을 XAI라는 시스템을 통해 일부 해결이 가능하지만, XAI기술은 근본적으로 알고리즘을 해석하는 방식을 사용합니다. XAI가 만들어진 이유가 AI에 오류를 잡기 위해서 만든 기술입니다. 이런 것을 본다면 AI가 완벽하지 않다는 반응임과 동시에 알고리즘에 유출 가능성으로 회사에서 공개하지 않을 수 있다는 것입니다. 일례로 에픽 오리진에 의하면 컴파스 회사에서는 실제로 XAI에 기술이 있지만 공개하지 않은 사례가 있습니다. 세 번째, AI는 변화된 가치에 맞는 판결을 할 수 없습니다. 현재의 AI 판사는 기존에 있던 판례와 양형기준을 따르는 판결을 하게 되어있습니다. 그러나 경희대 김재인 교수는 “인공지능 판사가 절대로 할 수 없는 일은 판례의 변경이다”라고 합니다. 즉 사회에 변화된 가치에 부합하는 판결을 할 수 없는 AI 판사의 판결을 신뢰할 수 없습니다. 그래서 저는 이런 이유를 바탕으로 이번 주제인 AI 판사를 도입해야 한다는 것에 반대하는 바입니다. / 밀알두레학교 정진우 교사
