한국은 세계에서 두 번째로 인공지능(AI)을 규제하는 법안을 도입한 관할권이란 선례를 세웠지만, 이는 AI를 촉진하면서도 동시에 억제하는, 균형을 맞추는 행위로 보입니다. Brian Yap이 보도합니다.
한국이 규제된 AI 개발의 새로운 시대로 나아감에 따라, 시니어 법률 전문가들은 로펌이 AI 서비스와 그 제공업체를 신중하게 선택하는 것이 중요하다고 경고했다. 윤석열 대통령의 계엄령 선포와 이후 탄핵이라는 정치적 불확실성을 배경으로, 국회는 2024년 12월 26일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안'(AI 기본법)을 통과시켰다.
2026년 1월 발효 예정인 이 법은 19개의 개별 AI 법안을 통합한 것으로, 2024년 5월 유럽연합(EU)의 인공지능법에 이어 세계에서 두 번째로 포괄적인 AI 규제 법률로 통과됐다.
서울에 위치한 법무법인 광장의 기술, 미디어 및 통신(TMT) 그룹 파트너 변호사인 고환경 변호사와 성남에 위치한 가천대학교의 인공지능·빅데이터 정책연구센터장이자 법학과 교수인 최경진 교수는 법률 전문가로 지난해 9월 국회에서 열린 AI 기본법 관련 공청회에 참석한 바 있었다.
고 변호사는 Asia Business Law Journal에 로펌이 법률 자문이나 서비스를 제공하기 위해 AI를 단순히 활용하는 것만으로 AI 기본법의 적용을 받게 될 가능성은 작지만, 고객 정보를 보호하기 위해 AI 서비스 제공업체와 협력할 때는 신중한 검토가 여전히 중요할 것이라고 전했다.
고 변호사는 “AI 서비스는 로펌, 개업, 사내 변호사 포함한 많은 전문가 이용자들에게 큰 효율성을 제공할 것”이라면서도 “그러나 생성형 AI의 환각(hallucination) 문제, 불충분한 법률 교육 데이터로 인한 한계, 그리고 이러한 서비스의 신뢰성에 대한 우려 등 몇 가지 과제가 여전히 존재한다”고 지적했다.
한국인공지능법학회 회장이기도 한 최 교수는 고객이나 소속 회사가 고영향 AI 관련 제품이나 서비스를 개발하거나 제공하는 경우, 로펌과 변호사들에 새로운 법률 준수가 “문제가 될 수 있다”고 경고했다.
최 교수는 “따라서 로펌과 변호사는 AI 기본법이 부과하는 다양한 의무를 숙지하고 준수하는 것이 중요해졌다”고 덧붙였다.
EU의 AI 법안과 유사하게, 한국의 AI 기본법은 AI 시스템을 고영향 AI와 생성형 AI로 구분한다.
고영향 AI 시스템은 10개의 특정 분야 중 한 곳에서 사용될 때 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 수 있는 시스템을 말한다. 이러한 분야에는 에너지 공급과 의료 기기의 개발 등이 포함된다.
생성형 AI 시스템은 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 시스템으로 정의된다.
이 법에 따라, AI를 개발하거나 사용하고 관련 제품과 서비스를 고객에게 제공하는 기업은 해당 제품과 서비스가 고영향 AI나 생성형 AI에 의해 구동되는 경우 사용자에게 사전에 통지해야 한다. 또한, 해당 기업은 AI 시스템의 안전성과 신뢰성을 보장해야 하고, 위험 관리 계획, 영향 평가 및 사용자 보호 전략 등을 수립해야 한다.
그러나 현재로서는 고영향 AI의 정의에 대한 구체적인 해석이나 정부 지침은 없다. 이는 대통령령 및 관련 하위 법령을 통해 명확히 될 예정이며, 법 시행 전에 발표될 것으로 예상된다.
과학기술정보통신부 웹사이트에 따르면, 하위 법령은 2025년 상반기 내에 완성될 예정이다. 그러나 특히 기술 분야의 기업에는 여전히 많은 의문점이 남아 있다.
서울에 위치한 Microsoft Korea의 김금선 변호사는 “특히 고영향 AI 운영자는 안전성과 신뢰성을 보장하기 위해 구체적인 조치를 취해야 한다”며 “그러나 ‘AI 사업 운영자’라는 용어는 AI 개발자와 AI를 사용하는 사업 운영자를 모두 포함하기 때문에, 어떤 특정 운영자가 이러한 의무를 부담해야 하는지 명확하지 않다”고 말했다.
김 변호사는 이러한 조항을 위반하면 과학기술정보통신부에 의한 사실조사, 시정명령 및 과태료로 이어질 수 있으므로 주의가 필요하다고 주장했다. 그는 AI 법안 도입 논의 중에 제기된 AI 모델 학습과 관련된 저작권 문제도 여전히 해결되지 않았다고 말했다.
김 변호사는 사내 변호사들이 이 법이 자사에 적용되는지 철저히 분석하고, 자사가 개발하거나 사용하는 AI 시스템을 식별하며, 관련된 위험을 평가해야 할 필요가 있다고 지적했다. 만약 이 법이 적용된다고 판단될 경우, 사내 변호사들은 포괄적인 규제 컴플라이언스 계획을 수립하고 새로운 규정을 준수하기 위해 필요한 조치를 취해야 한다고 그는 말했다.
균형을 맞추기
AI 기본법은 최근 몇 년간 AI의 급속한 발전에 그 뿌리를 두고 있다. 이러한 발전 속도는 AI와 관련된 잠재적 위험에 대비하기 위한 광범위한 논의를 촉발시켰다.
광장의 고 변호사는 기존 법률에 따라 AI를 규제하는 데 어려움이 있고, 고위험 분야에서 인간의 개입 없이 AI에 과도하게 의존하는 등의 문제에 대한 우려가 커지고 있다고 지적했다.
이전에는 명확한 AI 규제 프레임워크가 부재했던 탓에 개별 법률의 적용에 의존해야 했다. 이로 인해 법적 안정성과 예측 가능성이 저하될 우려가 제기됐으며, AI 관련 인프라에 대한 적극적인 기업 투자를 저해할 가능성도 우려됐다.
AI 기본법은 주로 AI에 대한 과도한 규제를 방지하고, 딥페이크와 같은 AI 기술의 오용을 완화하기 위한 투명성 규정을 도입하며, AI의 안전성과 신뢰성을 보장하기 위한 자율 규제 조치를 마련하는 것을 목표로 하고 있다.
가천대의 최 교수는 ABLJ에 한국이 AI 기본법을 제정할 때 EU의 AI 법안과 미국의 자율 규제 방식을 주요 모델로 고려했다고 말했다.
미국에는 AI를 규제하거나, 그 사용을 명시적으로 금지하거나 제한하는 포괄적인 연방 법률은 없다. 대신, 기존 연방 법률과 지침을 통해 AI를 관리하며, 연방 및 주 정부, 산업계, 법원을 통해 이를 규제하고 있다.
그러나 최 교수는 한국이 미국과 같은 수준의 AI 경쟁력을 갖추지 못했으며 법률 체계도 다르기 때문에 미국의 접근 방식을 직접적으로 채택하는 데 어려움을 겪었다고 말했다.
한국의 법률 체계는 EU의 대륙법 체계와 유사하지만, EU의 엄격한 규제는 한국 AI 산업의 발전을 저해할 수 있다는 우려가 있었다. 이로 인해 EU 법안과 한국의 AI 기본법 간에는 규제 프레임워크, 제재 수준, 구체적인 조항에서 상당한 차이가 나타났다.
최 교수는 “한국은 미국 방식과 유사하게 자율적인 AI 개발을 촉진하는 동시에 EU보다 덜 엄격한 법적 규제 프레임워크를 도입하기로 했다”고 말했다.
EU AI 법안은 인공지능에 대해 위험 기반 접근 방식을 채택하여 AI를 금지된 AI, 고위험 AI, 특정 유형의 AI로 분류하고, 범용 AI 모델에 대해 별도의 규제를 부과한다.
또한 AI의 제공자, 배포자, 수입자 및 유통자에게 포괄적이고 차별화된 의무를 부과한다. 이를 준수하지 않을 경우, 전 세계 연간 매출의 최대 7% 또는 EU 내에서 금지된 AI 서비스를 제공한 경우 최대 3500만 유로(약 3620만 달러)의 벌금이 부과될 수 있다.
반면, 한국의 AI 기본법은 특정 유형의 AI를 명시적으로 금지하는 조항을 포함하지 않는다. 대신, 고위험 AI가 아닌 고영향 AI의 안전성과 신뢰성을 보장하고, 생성형 AI에 대한 투명성 규제 및 고영향 AI의 사용에 중점을 두고 있다. 이러한 조항을 위반할 경우 최대 3000만원(약 2만 500달러)의 벌금과 같은 처벌이 부과된다.
고 변호사는 EU의 포괄적인 규제 프레임워크와 엄격한 제재를 채택하지 않기로 한 결정은 AI 기술에 대한 사회적 수용의 차이에서도 기인한다고 설명했다. 그는 “이는 또한 AI 기술과 산업 발전에 대한 한국의 낙관적인 전망, 그리고 한국의 독특한 AI 생태계에 맞춘 국가 전략과 정책을 반영한 것”이라고 말했다.
기회의 문이 열리다
한국 로펌들은 이미 다양한 산업의 국내외 기업들로부터 해당 법안 준수에 대한 법률 자문을 요청받고 있다.
서울에 위치한 법무법인 태평양의 지식재산권 실무 그룹 및 데이터 보호 팀의 파트너 변호사인 강태욱 변호사는 지금까지 대부분의 문의는 각 기업의 특정 상황에 맞춘 준비, 예를 들어 규제 컴플라이언스 조치와 법적 리스크 관리에 초점을 맞추고 있었다고 말했다. 그는 “추가적으로, AI 기본법의 개별 조항의 구체적인 의미와 그 함의, 그리고 실질적인 적용 가능성에 대한 상세한 질문도 많이 있었다”고 말했다.
서울에 위치한 법무법인 화우의 신사업 그룹 부그룹장이자 파트너 변호사인 이근우 변호사는 AI를 포함한 지식재산권 및 신기술 분야를 전문으로 하고 있다. 법안 통과 이후 반도체, 2차전지, 클라우드 서비스, 게임 등 다양한 산업 분야의 고객들이 이 변호사를 찾고 있다.
이 변호사는 “일부 고객들은 이 법이 클라우드 비즈니스에 어떤 영향을 미칠지 분석하고 대응하길 원한다”며 “게임사들의 경우 역시 현재의 게임 개발과 관련하여 어떠한 영향을 미치는지 분석하고 대응하기를 원한다”고 밝혔다.
이 변호사는 고객들이 AI를 통한 리걸테크가 사내 변호사 업무에 어떠한 영향을 미치는지, AI 기술 발전에 대비하기 위한 기업의 전략, 그리고 AI를 도입할 때 주의해야 할 윤리적 및 법적 문제와 같은 사안에 대한 검토와 종합적인 대응을 요청하고 있다고 덧붙였다.
