한국 AI 기본법의 주요 특징과 의의

이재명 대통령은 AI를 글로벌 경제 패러다임을 변화시킬 “게임 체인저”로 명확히 규정하며, 재임 기간 동안 이를 한국 기술 중심 성장의 핵심 동력으로 제시했다.

이러한 국가 전략과 목표에 발맞춰, 새로운 AI 기본법은 2026년 1월부터 시행됐다. 이는 EU AI 법과 유사하게, 인간의 생명, 신체 안전 및 기본권에 중대한 위험을 초래할 수 있는 AI 시스템을 고영향 AI 영역으로 규율하는 한편, AI 기술 및 관련 산업의 발전과 국민 안전 확보에 대한 정부의 의지를 반영했다.

이 법은 또한 비록 규제 조항의 시행은 1년간 유예됐지만, 고영향 AI 사업자에 대한 의무 규제를 도입한 세계 최초의 집행 가능한 법으로서 글로벌 주목을 받고 있다.

AI 기본법의 주요 내용

1. 고영향 AI 영역의 규제 원칙. AI 기본법에서 “고영향 AI”의 정의는 EU AI 법의 “고위험 시스템”과 동일하여, 사업자 규제 메커니즘 또한 매우 유사함을 시사한다. 다만, AI 기본법은 사업자가 먼저 자율적으로 AI의 안전성과 신뢰성을 확보하기 위한 조치를 취하고, 이후 과학기술정보통신부(MSIT) 장관의 사후 감독이 이루어지는 구조라는 점에서 두드러진 특징을 가진다. 위반 시 제재가 존재하긴 하지만, 최대 행정벌은 3천만원(약 2만300달러) 수준이다.
   구체적으로, AI 기본법은 EU AI 법과 같은 수준의 강제적 제재 중심 규제 체계를 갖추고 있지 않다. 대신 AI 사업자가 스스로 고영향 AI 해당 여부를 사전에 검토하도록 요구하고, 사업자 의무 및 관련 고시를 통해 위험 관리 계획 수립을 권고하는 구조이다.
   EU AI 법의 규제 체계와 달리 –고위험 AI 모델 개발자가 사전에 검증(적합성 평가)을 거치고 시장 유통을 위해 CE 마킹을 부착하도록 요구하는 것과는 달리– 고영향 AI 시스템에 대해서는 사업자가 MSIT 장관에게 고영향 AI 해당 여부 확인을 자발적으로 요청하는 경우를 제외하고는 의무적인 사전 시장 규제가 존재하지 않는다. MSIT 장관은 해당 제품 또는 서비스가 고영향 AI로 분류될 수 있는지 여부를 판단할 법적 권한을 부여받는다.
2. AI 기술 개발 및 산업 활성화. AI 기본법은 고영향 AI에 대한 관리감독 체계를 통해 이용자 보호를 도모하는 동시에, AI 활용에 대한 정부의 지원과 촉진 정책도 함께 규정하고 있다. 구체적으로 정부의 역할을 AI 기술 개발 지원, 안전한 이용 촉진, 기술 표준화 지원 등으로 명시하고 있다.
   또한 AI 산업 지원 정책 시행 시 중소기업을 우선 고려하도록 하고, 스타트업 육성 및 외국인 투자 유치 관련 규정을 포함하고 있다. 더 나아가 관련 기업과 기관의 기능적·물리적·지역적 집적을 위한 AI 클러스터 지정이 가능하도록 하고, AI 데이터센터 관련 정책도 강조하고 있다.
3. 범용 AI(GPAI) 모델에 대한 규제 공백. AI 기본법은 EU AI 법과 유사하게 모델 생애주기 전반에 걸친 위험 식별, 평가 및 완화 등 고영향 AI 사업자의 안전 확보 의무를 규정하고 있다. 그러나 학습에 필요한 누적 연산량 기준을 EU보다 10배 높게 설정하여, 사실상 국내 사업자를 해당 규제 범위에서 제외하는 효과를 낳고 있다.
   즉, AI 기본법은 초대규모 GPAI 모델에 대해서는 의도적인 규제 공백을 두는 대신, 산업 특화형(수직형) GPAI 모델 개발을 장려하는 구조로 볼 수 있다.
4. 고영향 AI 영역. AI 기본법은 10개의 고영향 규제 영역을 규정하고 있으나, 그 범위는 EU AI 법에 비해 더 좁을 수 있다. 예를 들어 금융 분야에서는 “대출 심사에서의 판단 또는 평가”만을 고영향 AI로 규정하고 있어, EU AI 법이 규율하는 “신용도 평가” 및 “신용 점수 산정” 전반보다 적용 범위가 훨씬 제한적이다.
   마찬가지로, AI 기본법은 채용 과정에서의 AI 활용만을 고영향으로 분류하고, 근로자 관리 영역은 규율하지 않는 등 EU AI 법과 차이를 보인다.
5. 사업자 의무.

a. 투명성 확보: AI 기본법은 고영향 또는 생성형 AI를 활용하여 제품 또는 서비스를 제공하는 경우, AI가 사용되고 있다는 사실을 고지하거나 표시하도록 하는 투명성 의무를 부과함으로써 최종 이용자를 보호한다. EU AI 법은 모델 제공자에게 투명성 의무를 부과하여 배포자가 AI 결과를 이해하고 적절히 활용할 수 있도록 하는 반면, AI 기본법은 AI 사용 사실을 최종 이용자에게 알리는 수준의 투명성 의무만을 규정하고 있다.

b. 저작권 문제: AI 기본법은 GPAI에 관한 특별 규정을 두고 있지 않기 때문에, EU AI 법과 달리 저작권법 준수에 관한 명시적 규정이 없다. 또한 한국의 현행 저작권법에는 TDM (text and data mining)과 같은 예외 규정이 없어, AI 모델 학습 및 개발 과정에서 저작권 침해 분쟁이 중요한 법적 쟁점으로 부상할 가능성이 있다. 이를 고려하여 AI 기본법은 MSIT 장관이 학습 데이터의 생성, 수집, 관리, 유통 및 활용을 촉진하기 위한 정책을 추진하도록 규정하고 있다.

c. 안전성 확보 의무: 사업자 의무에 대한 기술적 기준이 EU AI 법보다 10배 높게 설정된 점을 고려할 때, 이러한 의무는 현실적으로 한국 시장에서 사업을 수행하는 글로벌 빅테크 GPAI 사업자를 주요 대상으로 한다. 이에 따라 이러한 해외 사업자들은 AI 기본법에 따라 국내 대리인을 지정하도록 함으로써 간접적으로 규제될 수 있다.

d. 기본권 영향 평가: 이는 고영향 AI 모델 배포자가 시장 출시 전에 기본권에 대한 부정적 영향을 체계적으로 식별하고 분석한 뒤, 자발적으로 시정 조치를 취할 수 있도록 허용하는 자율적 권고이다. EU AI 법과 달리, 모델 제공자에게 배포자가 AI 출력 결과를 적절히 활용할 수 있도록 돕는 의무적 투명성 의무를 부과하는 것과는 다르게, AI 기본법 시행령은 당사자 간 데이터 요청 및 협력만을 규정하고 있으며, 이용자에게 기본권 영향 평가를 수행하도록 장려하는 수준에 머물러 있다.

법에 대한 평가

1. 1. MSIT가 AI 기본법의 주무 부처인 반면, 일반 행정을 담당하는 행정안전부(MOIS)는 최근 공공 AI 법을 제정했다. 이에 따라 한국은 공공행정을 지원하기 위해 공공 데이터를 중심으로 전자정부 행정 시스템 내에서 AI가 활용되는 별도의 규제 체계를 갖추게 됐다.

공공 AI 법이 공공 데이터를 기반으로 한 AI 활용을 위한 특별법이라면, AI 기본법은 사업자를 통해 AI의 개발 및 활용에 관한 기본 원칙과 지침을 구체화하는 일반법이다. 상징적으로, AI 기본법은 제3조에서 안전성과 신뢰성을 바탕으로 AI가 국민의 삶의 질을 향상시켜야 한다는 점을 기본 원칙으로 선언하며, 기술 발전과 산업적 활용과 더불어 모든 국민이 AI로 인한 변화에 안정적으로 적응할 수 있도록 국가가 필요한 조치를 마련할 책임이 있음을 규정하고 있다.

1. 2. AI 기본법은 범정부 차원의 AI 진흥 계획을 수립함에 있어 기존 「지능정보화 기본법」에 따른 종합계획 및 실행계획을 고려하도록 요구한다. 그러나 동시에 대통령을 위원장으로 하는 국가 AI 전략위원회를 설치하여 AI 발전을 위한 주요 정책을 심의의결하고 신뢰 기반을 구축하도록 하고 있다. 이는 AI 글로벌 3대 강국 도약이라는 국가 목표를 최우선 과제로 설정한 이재명 정부의 강한 의지를 보여주며, AI 관련 정책과 의사결정을 국가 최우선 과제로 끌어올린 것을 의미한다.
   3. AI 기본법은 기본법으로서의 성격을 가지므로, 향후 MOIS의 공공 AI 법을 비롯한 다양한 분야의 개별 법률이 제정되거나 개정되더라도, 정부 내 AI 관련 조직의 거버넌스, 정부의 역할, 그리고 AI 관련 사업자의 의무는 AI 기본법의 틀 내에서 유지될 것으로 예상된다.

이 과정에서 국가 AI 전략위원회는 국가 차원의 최종 컨트롤타워로 기능할 것으로 보이며, 최근 부총리급으로 격상된 MSIT 장관은 행정부 내에서 조정 역할을 수행할 것으로 예상된다. 특히 MSIT 장관은 「데이터 산업진흥 및 이용촉진에 관한 기본법」을 기반으로 데이터 산업 관련 정책을 추진하고 있는 만큼, MSIT의 역할과 위상은 그 어느 때보다 강화되고 있다.

법무법인 린
13F, 10, Seochojungang-ro 24-gil,
Seocho-gu, Seoul 06606, Korea
전화: +82 2 3477 8695
이메일: lin@law-lin.com
www.law-lin.com