Judging AI

인공지능(AI)과 사법 시스템 간의 증가하는 상호작용에 관한 기술 전문가들과의 대화는 판사들이 기술 발전, 잠재적 위협과 도전 과제, 그리고 기회에 대해 올바르게 이해하는 데 필수적일 것입니다. 다음은 최근 싱가포르와 인도 대법원이 뉴델리에서 개최한 첫 번째 기술 회의에서 싱가포르 대법원장 Sundaresh Menon이 ‘인공지능 시대의 사법 책임’이라는 제목으로 발표한 기조연설의 편집된 버전입니다.

기술이 매우 빠른 속도로 발전하고 있으며, 그 영향 또한 광범위하고 깊이 있습니다. 따라서 우리 판사들에게 기술 발전에 대한 올바른 이해는 필수적입니다. 특히 지난 1년 반 동안 생성형 AI의 발전이 세계를 놀라게 하였고, 미래 사회와 시스템에 대한 우리의 대화를 근본적으로 재편했습니다. Mary Shelley의 시대를 초월한 소설 <프랑켄슈타인>은 1800년대 초에 집필됐지만, 창조자와 그의 통제할 수 없는 창조물의 이미지는 오늘날까지 대중의 의식 속에 남아 있습니다. 현대의 ‘프랑켄슈타인 콤플렉스’는 AI가 인간의 이해와 통제를 초월하는 지점인 ‘기술적 특이점’의 가능성에 초점을 맞추고 있습니다.

일부 사람들은 언젠가 AI와 기계가 법적 문제 해결에 있어 인간 변호사와 판사만큼, 아니 그보다 더 뛰어난 ‘법적 특이점’에 도달할 수 있을 것이라고 제안했습니다. 이는 법을 적용하고 심지어 작성하는 데 있어서도 마찬가지일 수 있습니다.

우리는 아직 그 지점에 도달하지 않았고, 아마도 대부분의 사람은 그 지점에 도달하지 않기를 바랄지 모르지만, AI의 능력은 계속해서 성장할 것이라는 점을 명심해야 합니다. Richard Susskind 교수의 말을 빌리자면, 오늘날의 AI 시스템은 ‘역대 최악의 시스템’이며, 기술의 큰 중요성은 현재의 모습이 아니라 앞으로 어떻게 될 것인가에 있습니다.

기술이 어떻게 발전할지를 생각할 때, 우리는 그러한 발전의 중요성은 기술이 인간이 역사적으로 해왔던 일을 모방하거나 더 저렴하고 인간과 유사한 대안을 제공하는 데 있지 않다는 점을 인식해야 합니다. 오히려, 기술의 끊임없이 성장하는 능력의 중요성은 우리가 수백 년 동안 변호사와 판사로서 해결해 온 문제들과는 완전히 다른 방식으로 세계가 직면한 법적 문제들에 대한 해결책을 제공할 수 있는 능력에 있을 것입니다.

길을 찾기 위해 종이 지도를 사용했던 사람들에게 Google Maps가 어떻게 완전히 다른 해결책을 제공했는지 생각해 보십시오. 이메일과 스마트폰이 우리가 소통하고 정보에 접근하는 방식을 어떻게 변화시켰는지도 마찬가지입니다. 이러한 변화는 디지털 이전의 버전을 복제하는 것과는 아무런 관련이 없습니다. 또 다른 예로는, 로봇이 인간을 모방하여 운전하는 것이 아니라 데이터와 컴퓨팅 파워를 활용하여 운전하는 자율 주행 차량에 대한 Susskind 교수의 예가 있습니다.

이것을 이해하는 것이 중요한 이유는 기술과 기술 발전의 영향으로 인해 우리가 오늘날 상상조차 하지 못했던 방식으로 사법 시스템에 지대한 변화를 가져올 수 있는 전환점에 서 있기 때문입니다.

그러나 우리가 AI의 엄청난 잠재력을 탐구하고 우리 주변에서 일어나는 변화에 적응할 때, 우리는 먼저 변하지 말아야 할 것, 우리가 고수해야 할 것에 대해 성찰해야 합니다. 오늘 저의 중심 논지는 무엇보다도 법치주의를 보존하고 강화한다는 목표를 따라야 한다는 것입니다. 왜냐하면 그것이 우리 사회(인도와 싱가포르)가 설립된 기반이고, 그 유지와 보호는 궁극적으로 사법부의 책임이기 때문입니다.

이는 우리가 두 가지 서로 다른 그러나 상호 보완적인 역할을 수행하는 방식에 지침이 돼야 합니다. 즉, 전통적인 재판 역할과 빠르게 중요성이 커지고 있는 시스템적 역할입니다. 이를 통해 AI 시대에 법의 지배가 기술의 지배로 대체되지 않도록 보장해야 합니다.

판결에 대한 책임

판사로서 재판에 대한 우리의 역할은 전통적인 역할입니다. 즉, 각 사건에서 법을 공정하고 원칙적으로 해석하고 적용하는 것입니다. AI의 매력과 ‘AI 판사’의 가능성에 현혹돼서는 안 되며, 판결이 본질적으로 인간의 노력으로 남아야 한다는 점을 잊어서는 안 됩니다.

이는 우리의 재판에 대한 책임에서 지속돼야 할 측면들입니다. 그러나 동시에, AI가 우리의 분쟁 해결 시스템에 미칠 수 있는 잠재적인 변화적 영향은 무시하거나 되돌릴 수 없으며, 인간 판사들이 판결 과정에서 AI의 사용을 효과적으로 관리할 수 있는 것이 중요할 것입니다. 따라서 재판에 대한 책임의 일부 측면은 진화할 것입니다.

판결하려는 인간의 노력

지속돼야 할 판결의 측면들부터 시작하겠습니다. Michael Sandel 교수는 아마도 이 시대의 가장 어려운 철학적 질문은 인생에서 가장 중요한 것들을 결정하는 데 있어 ‘스마트 기계’가 아닌 인간의 판단이 어떤 역할을 할 것인가라고 제안했습니다.

Sandel 교수는 일반적인 인간 판단의 인지적 활동에 대해 이야기했지만, 이 질문은 우리 판사들에게 특히 공감이 됩니다. 우리의 직업은 사회가 어떻게 조직되는지에 대한 문제에 대해 판단을 내리는 것에 중점을 두고 있기 때문입니다. 여기에는 사람의 유죄 또는 무죄에 대한 결정, 범죄자에 대한 적절한 처벌, 그리고 파탄난 가정의 자녀들을 위한 조치 등이 포함됩니다. 이러한 결정의 무게와 함의를 고려할 때, 정의가 실현되고 느껴지기 위해서는 적어도 특정 분야에서는 AI가 판단의 과정과 결과를 대체해서는 안 되는 측면이 있습니다.

판결 과정에서 여전히 인간의 손길이 필요한 세 가지 측면을 제안하겠습니다.

첫째, 판사는 재판 과정의 여러 단계에서 당사자들과 소통할 때 공감해야 하며, 이를 통해 당사자들이 자신의 이야기가 충분히 전달됐고 판사가 각 사건에 관련된 사람들에게 미칠 수 있는 영향을 이해하고 있다는 느낌을 받을 수 있어야 합니다.

인간이 아닌 재판관은 공감을 흉내 낼 수는 있겠지만, 인간 판사처럼 진정한 공감과 사회적 지능을 발휘하고 전달하기는 어려울 것입니다.

둘째, 판결 과정은 우리 사법 제도의 가치를 반영해야 합니다. 이러한 가치는 우리 사회에서 정의의 얼굴 역할을 하도록 선택된 인간 재판관들에게 주입되는 반면, AI 도구에는 이러한 가치가 내재돼 있지 않습니다.

특히, 형사 재판은 인간의 통제 하에 유지돼야 한다는 설득력 있는 주장이 있습니다. 인간은 일반적으로 우리의 도덕적 관점과 추론 방식을 공유하며, 형법은 본질적으로 우리 사회가 촉진하고 방어하려는 가치의 표현이기 때문입니다.

셋째, 더 넓게 보면, 판결은 우리의 공통된 인간성과 얽혀 있는 행위입니다. 호주 연방 법원의 전 대법원장인 James Allsop은 사회가 우리 사법 시스템에 충성하는 이유는 단지 우리의 결과물의 정확성과 일관성 때문만이 아니라, 법과 판사가 분쟁을 검토하고 법을 적용하는 임무를 성실히 수행하면서 정의 앞에 선 사람들의 존엄성과 인간성을 인식하며 신중하게 처리하는 ‘정의할 수 없는 혼합물’ 때문이라고 주장했습니다.

적어도 내가 아는 한 이것은 기계로는 모방할 수 없습니다. 이러한 이유로 일부 사람들은 소송 당사자가 ‘인간의 결정에 대한 권리’를 가질 수 있다고 주장해 왔습니다.

판결 과정 외에도, 인간 판사와 그들의 판단은 우리 사법 시스템이 기대하는 결과 중 적어도 일부를 도출하는 데 필수적일 수 있다고 제안합니다.

첫째, 판결은 종종 중요한 평가적 판단을 요구합니다. 이는 서로 경쟁하는 고려 사항들을 균형 있게 조정하는 것을 포함하며, 이러한 고려 사항들은 상황에 따라 다른 비중을 가질 수 있고, 심지어는 비교하지 못할 수도 있습니다. 이와 관련하여 판사들은 개별화되고 맞춤화된 해결책을 제공해야 합니다.

둘째, 법률 원칙의 발전은 판사들이 법에 대해 동등하게 그럴듯한 여러 가지 해석 중에서 선택하거나 기존 규칙을 업데이트하거나 벗어날지 여부를 결정하도록 요구할 수 있습니다. 이러한 상황은 기존 지식을 기계적으로 되돌아보며 적용하는 것이 아니라, 법이 봉사하는 더 넓은 사회적 맥락을 고려하여 우리의 법학이 어떻게 발전해야 하는지에 대한 의식적이고 이성적이며 미래지향적인 결정을 요구합니다.

이것은 특히 판례가 관습법의 ‘원자적 구성 요소’인 관습법 체계에서 중요합니다. 1881년 Oliver Wendell Holmes의 이 말은 오늘날에도 여전히 유효합니다: “법의 생명은 논리가 아니라 경험입니다. 왜냐하면 법은 한 국가의 발전 이야기를 담고 있고, 수학 교과서의 공리와 추론만을 포함하는 것처럼 다룰 수 없기 때문입니다.”

AI 시대의 판결

판결의 이러한 근본적으로 인간적인 측면은 ‘AI 판사’가 인간 판사를 대체할 가능성이 멀고도 먼 일임을 시사합니다. 그러나 AI 시대에 인간 판사의 역할 자체도 진화해야 할 것입니다. 판결 책임을 다하는 과정에서 사법부는 AI가 판결 과정에서 어떻게 사용되어야 하고, 어떻게 사용되지 말아야 하는지에 대한 질문을 점점 더 많이 다뤄야 할 것입니다.

적절하게 사용된다면, AI는 의사 결정의 질을 향상시키고 판사들이 일반적인 인간의 한계를 뛰어넘을 수 있게 하는 매우 유용한 보조 도구가 될 수 있습니다. AI는 오늘날 많은 분쟁 유형에서 볼 수 있는 기술적, 증거적 및 법적 복잡성이 증가하는 것을 처리하는 데 필수적일 수 있습니다.

AI 도구는 판사들이 대량의 문서와 증거를 관리하고 이해하는 데 도움을 줄 수 있으며, 방대한 법적 판례와 권위 자료를 통해 연구를 용이하게 할 수 있습니다. 또한 AI 도구는 판사들의 결정에서 나타나는 경향을 분석하여 인간 판사의 맹점과 무의식적인 편견을 식별하는 데 도움을 줄 수 있습니다.

하지만 이러한 기술 발전은 또한 AI를 판결 과정에 사용하는 것이 법치를 훼손하지 않도록 판사들이 경계해야 할 새로운 함정도 가져옵니다. 세 가지 주요 위험을 강조해 보겠습니다.

(1) 거짓 정보의 확산

첫 번째는 아마도 가장 잘 알려진 문제로, AI ‘할루시네이션’과 거짓 정보의 확산입니다. 생성형 AI 도구는 겉으로 보기에는 신뢰할 수 있는 완전히 거짓된 출력을 매우 빠르게 생성할 수 있기 때문에 강력한 허위 정보의 원천이 됩니다. 법률 전문가와 달리 이러한 도구는 정직과 성실성 같은 직업적 윤리적 의무나 가치를 따르지 않습니다.

따라서 판사들은 변호사와 당사자들이 AI 도구를 오용하거나 부주의하게 사용하는 것에 대해 특히 경계해야 합니다. 이는 사법부가 법정 절차에서 AI 사용을 관리하기 위해 적극적인 조치를 취해야 할 필요성을 강조하며, 개별 판사들이 관련 주제와 AI 도구에 충분히 익숙해져서 문제가 발생할 가능성에 대해 항상 주의하고 경계해야 함을 의미합니다.

AI가 거짓 정보를 확산시키는 위험은 사법계나 법조계에만 국한된 것은 아니지만, 법의 지배는 진실을 추구하여 정의를 실현하는 데 뿌리를 두고 있기 때문에 우리에게는 특히 중요한 문제입니다. 통제되지 않은 거짓 정보가 사법 절차와 판결을 오염시키는 것은 법원에 대한 공공의 신뢰를 훼손하고, 궁극적으로 우리 사법 시스템의 무결성을 손상시킬 수 있습니다.

(2) 투명성과 책임성의 저하

두 번째 주요 위험은 판결에서 AI 도구에 지나치게 의존하는 것에서 비롯됩니다. 사법적 의사결정이 합리적이고 이해하기 쉽게 하려면 판사들이 자신들이 사용하는 AI 도구를 이해하고, 그 도구들이 결정 과정에서 어떤 역할을 하는지 설명할 수 있어야 함을 의미합니다. 그렇지 않으면 사법적 의사결정의 일부가 투명성이 결여된 ‘블랙박스’가 될 위험이 있으며, 더 중요하게도 책임성을 약화시킬 수 있습니다.

그러나 AI 도구의 사용은 종종 ‘불투명성 문제’를 동반합니다. 이는 알고리즘과 기본 데이터 세트가 일반인에게 공개되지 않거나 이해할 수 없기 때문에 발생하며, 그들이 생성하는 결과에 의미 있는 문제를 제기할 수 없게 만듭니다. 여기서 ‘일반인’이라고 할 때, 이는 대다수의 판사를 포함합니다. 우리는 법적 추론을 설명할 수 있는 능력을 갖추고 있을지 모르지만, 기술적 훈련의 부족과 관련 도구의 불투명성은 이러한 도구를 적절히 조사하고, 특정 발견이나 결론에 어떻게 기여했는지 이해하고 정확히 설명하는 능력을 저해할 수 있습니다.

AI 시대를 헤쳐 나가면서, 판사들은 우리가 사용하는 AI 도구를 이해하고, 더 중요한 것은 그 한계를 인식할 수 있도록 충분한 기술적 및 도메인 지식을 갖춰야 합니다.

AI 도구의 불투명성은 정의가 실현되는지 여부에 영향을 미칠 뿐만 아니라, 실제로 정의가 실현되는지에 대한 의문을 제기할 수도 있습니다. AI 도구는 체계적인 인종적, 민족적 또는 기타 편견을 포함할 수 있는 데이터로 훈련되며, 이는 신뢰성을 저해하고 종종 불공정한 결과를 초래할 수 있습니다. 따라서 판사들은 ‘자동화 편향’에 대해 경계해야 합니다. 이는 알고리즘 출력이 객관적이거나 과학적인 과정에 의해 생성된 것처럼 보이기 때문에 독립적인 검증 없이 권위적으로 받아들이는 경향을 말합니다.

(3) 판결에서 인간적 요소의 폐지

AI 사용이 초래하는 세 번째이자 더 광범위한 위험은, 판사들이 이러한 도구를 사용함으로써 앞서 언급한 판결의 근본적인 인간적 측면을 포기할 위험입니다. James Allsop이 말했듯이: “위험은 기계가 인간이 되는 것이 아니라, 인간이 기계가 되는 것입니다.”

AI 도구를 사용하면 이전보다 훨씬 짧은 시간에 자료를 찾고, 정리하고, 종합하는 작업을 완료할 수 있습니다. 그러나 이는 우리가 인간의 손길이 필요한 판결의 측면에 더 많은 생각과 주의를 기울일 수 있고, 따라서 기울여야 한다는 것을 의미합니다. 심지어 – 그리고 아마도 특히 – 이러한 작업을 AI에 위임하고 싶은 유혹이 들 때에도 말입니다.

따라서 AI 도구 사용과 관련된 기술적 전문 지식을 함양하는 것 외에도, 판사들은 각 사건의 판결 과정과 결과를 공정하고 완전하게 관리하기 위해 자신의 직업적 의무와 윤리적 책임을 새롭게 다짐해야 합니다.