AI 규제에 대한 방향 설정

생성형 AI와 대규모 언어 모델이 기업에 상당한 혜택을 가져올 것으로 기대되는 가운데, 아시아 정부들은 잠재적인 오용을 규제하기 위해 열의를 보이고 있습니다.

중국

홍콩

인도

일본

필리핀

러시아

대만

중국 AI 규제의 형태와 전망

2025년 설 명절 동안, 중국의 AI 모델 DeepSeek는 ChatGPT를 제치고 중국과 미국 Apple 앱 스토어에서 가장 많이 다운로드된 앱이 되어 전 세계적인 주목을 받았다. 이는 중국의 AI 발전을 보여주며 국가 전략과도 일치한다.

2017년, 국무원은 ‘3단계’ 법제 로드맵을 담은 신세대 AI 개발 계획을 발표했다. 2020년까지는 글로벌 AI 기준에 부합하는 것이 목표였으며, 2025년까지 중국은 AI 이론에서 주요 돌파구를 마련하고 산업 및 사회 발전을 위한 세계 선도 기술 및 응용 프로그램 개발을 추진하고자 했다. 2030년을 바라보며, 중국은 AI 분야에서 글로벌 리더가 되려고 하고 있다.

이 기고문은 중국의 AI 규제를 살펴보며, 입법 프레임워크, 컴플라이언스, 법 집행 및 미래 전망 등에 초점을 맞출 예정이다.

입법 프레임워크

중국의 AI 규제는 데이터 컴플라이언스, 알고리즘 컴플라이언스, 사이버 보안 및 윤리를 포괄하는 다층적인 법률 및 규제 프레임워크에 기반을 두고 있다.

데이터 컴플라이언스. 중국의 데이터 컴플라이언스는 다음을 포함한 기본 법률 및 규정에 따라 이뤄진다:

1. 1. 개인정보보호법 (2021);
   2. 데이터 보안법 (2021); 및
   3. 2025년에 시행될 예정인 네트워크 데이터 보안 관리(NDSM) 규정.

사이버 보안. 사이버 보안에 관한 규제 프레임워크는 다음과 같은 법률 및 규정에 기반을 두고 있다:

1. 1. 사이버 보안법(CSL) (2017); 및
   2. 2025년에 시행되는 NDSM.

윤리적 검토. 윤리적 검토를 위한 시스템은 다음의 기본 법률 및 규제 문서에 기반한다:

1. 1. 과학기술 진흥법 (2022년 개정); 및
   2. 과학기술 윤리 검토에 관한 조치 (2023년 시행).

알고리즘 컴플라이언스. 알고리즘 컴플라이언스에는 부처 규정과 지방 규정이 모두 존재한다. 부처 규정에는 다음 제도들이 해당된다:

1. 1. 여론 형성 또는 사회적 동원의 가능성을 갖는 인터넷 기반 정보 서비스의 보안 평가에 관한 규정(2018);
   2. 생성형 인공지능 서비스 관리에 관한 임시 조치(GAI 조치, 2023년 시행);
   3. 인터넷 기반 정보 서비스의 심층적 합성에 관한 행정 규정(2023); 및
   4. 인터넷 정보 서비스 알고리즘 추천에 관한 행정 규정(2023).

한편, 지방 규정에 따라 다음 프레임워크가 수립되어 있다:

1. 1. 상하이 인공지능 산업 진흥 규정 (2022);
   2. 선전특별경제구역 인공지능 산업 진흥 규정 (2022);
   3. 푸젠성 인공지능 산업 개발 프로젝트 관리 조치 (2024); 및
   4. 저장성 인공지능 산업 발전 가속화를 위한 지도 의견 (2023).

부처 및 지방 규정 외에도, 중국의 주요 알고리즘 컴플라이언스 규정에는 인공지능이 생성한 합성 콘텐츠 식별에 관한 규정(의견 초안)이 포함된다.

위에서 언급된 법률 및 규정을 더 잘 시행하기 위하여, 중국은 국가 및 산업 표준과 규격들을 순차적으로 도입했다. 모든 산업에 적용되는 표준은 다음과 같다:

1. 1. 신세대 인공지능을 위한 윤리 강령 (2021);
   2. 생성형 인공지능 서비스에 대한 기본 보안 요구사항 (2024); 및
   3. 사이버 보안 기술 – 인공지능이 생성한 콘텐츠에 대한 라벨링 방법(의견 초안).

의료 산업의 경우, 다음과 같은 규정들이 포함된다:

1. 1. 인터넷 기반 진단 및 치료에 관한 규제 규칙(시험 적용) (2022);
   2. AI 기반 의료 소프트웨어 제품의 분류 및 정의에 대한 지침 원칙 (2021); 및
   3. 인공지능 의료기기 등록 심사에 대한 지침 원칙 (2022).

마지막으로, 지능형 연결 차량 산업의 경우, 지능형 연결 차량 도로 시험 및 실증 적용을 위한 모범 사례(시험 적용, 2021)가 산업 표준으로 사용된다.

컴플라이언스 요구사항

GAI 조치는 생성형 AI 서비스 제공자를 중심으로 하며, 알고리즘, 콘텐츠, IP, 훈련 코퍼스 및 데이터 주석 컴플라이언스와 같은 법적 의무를 부과한다.

알고리즘 제출 및 보안 평가. 중국 내에서 “여론 또는 사회적 동원 능력”을 갖춘 AI 서비스는 해당 알고리즘 메커니즘을 중국 국가인터넷정보판공실에 제출해야 한다. 여기에는 텍스트, 이미지, 음성 및 동영상 생성형 AI 서비스가 포함된다. 이러한 속성이 없는 서비스는 제출 의무가 면제된다. 규정을 준수하지 않는 AI 제공자는 서비스 정지에서부터 형사 책임에 이르기까지 강력한 처벌을 받을 수 있다. 모든 AI 서비스는 제출 전에 보안 평가를 통과해야 하며, 평가에 실패한 서비스는 출시될 수 없고 이미 운영 중인 서비스는 수정 또는 삭제되어야 한다. 이러한 규정은 AI 서비스가 중국 내에서 안전하게 운영되도록 보장한다.

콘텐츠 표시. AI 서비스 제공자는 비침입적 식별자를 사용하여 생성되거나 편집된 콘텐츠에 대해 표시하고, 관련 법률에 따라 로그 정보를 보관해야 한다. 일반 대중을 혼란시킬 수 있는 심층 합성 서비스의 경우, 콘텐츠를 적절한 위치에서 명확하게 표시해야 하며, 누구도 이러한 라벨을 삭제, 변경 또는 숨기기 위해 기술적 수단을 사용해서는 안 된다. 이러한 규정은 AI가 생성한 콘텐츠의 투명성을 높이고 잘못된 정보를 방지하는 데 기여한다.

과학 및 기술 윤리 검토. 여론과 사회 인식에 영향을 미칠 수 있는 알고리즘 모델, 응용 프로그램 및 시스템 등 민감한 분야에서 연구를 수행하는 AI 제공자는 과학 및 기술 윤리(검토) 위원회를 구성해야 하며, 법에 따라 윤리적 위험 평가 및 검토 작업을 수행해야 한다.

데이터 컴플라이언스. 데이터 컴플라이언스 의무 사항에는 다음이 포함된다:

1. 1. 학습 데이터. 의무 사항에는 코퍼스 출처 보안 의무, 코퍼스 내용 보안 의무, 코퍼스 주석 보안 의무와 규정을 준수하는 용어집 및 질문 은행의 구축 등이 포함된다;
   2. 입력 데이터. 제공자는 불필요한 개인정보를 수집하거나, 사용자 식별이 가능한 입력 정보 및 사용 기록을 불법적으로 보유 또는 타인에게 제공해서는 안 된다. 심층 합성 제공자는 별도의 동의를 얻어야 한다; 그리고
   3. 출력 콘텐츠. 생성형 AI는 법률을 준수하고 도덕 및 윤리를 존중하며 사회주의적 가치를 수호해야 한다. 국가와 사회를 위협하거나 유해한 이념 및 허위 정보를 조장하는 콘텐츠 생성은 피해야 한다.

법 집행 관행

AI 개발은 많은 편의를 가져왔으나, 동시에 기존 법적 경계를 넘어서는 여러 도전을 야기하여 중국이 입법 개선을 가속화하도록 만들었다.

사법 관행. AI 관련 사법 사례는 주로 인격권 및 IP 침해와 관련된다.

1. 1. 인격권 침해. 2021년, 베이징 인터넷 법원은 한 공인이 앱의 ‘AI 동반자’와 관련하여 제기한 AI 관련 인격권 침해 사건을 다뤘다. 법원은 피고가 설계한 해당 앱의 디자인과 알고리즘이 사용자 생성 콘텐츠를 홍보한 점을 들어 피고에게 책임이 있다고 판결했다. 이 사건은 2022년에 전형적인 사례로 인정됐다. 2024년에는 법원이 AI 생성 음성 침해에 대해 첫 판결을 내리고 보상을 명령했으며, 같은 해 두 건의 ‘인공지능 얼굴 바꾸기’ 사건에서는 무단으로 모델의 이미지를 템플릿에 사용한 것이 원고의 개인정보권을 침해한 것으로 판단, 보상과 사과를 요구했다.
   2. 지식재산권 침해. 2023년, 베이징 인터넷 법원은 중국 최초의 AI 생성 회화 저작권 사건에 대해 판결을 내려 해당 작품들을 보호했다. 광저우 인터넷 법원 역시 AI 관련 회화 저작권 침해 사건을 다루며 보상을 명령했다. 2024년에는 중국 최초의 인공지능 생성 음성 및 영상 작품 침해 사건이 예비심리 절차에 들어갔으며, 원고는 피고의 침해 행위를 지적하고 보상을 요구했다. 이 사건은 현재 진행 중이다.

행정 감독 관행. 인공지능 관련 행정 처벌은 주로 기업 자격과 소비자 권리 보호에 중점을 두고 이뤄져 왔다. 현재까지는 개인정보 보호, 데이터 보안 또는 네트워크 보안 위반에 대한 처벌 사례는 없다.

전망

기술 개발 및 산업 활용. DeepSeek, Doubao, Kimi 등 일련의 국내 AI 도구들이 등장했다. DeepSeek는 컴퓨팅 전력 효율성을 높이기 위해 아키텍처를 최적화하며 알고리즘을 혁신하고 기존의 전력 중심 모델에 도전하고 있다. 이로 인해 중국의 인공지능 및 관련 기술은 더욱 빠른 발전을 보일 것으로 기대되며, 전망 또한 광범위하다.

AI 법률 제정. 2024년에는 주요 AI 기본 법률이 통과되지는 않았으나, 세부 규정 도입과 국제 규칙 형성에 대한 적극적 참여는 꾸준한 입법 노력을 보여주고 있다. 가까운 시일 내에 중국은 인공지능법(기본 법률)을 도입할 가능성이 있다. 이 법안은 이미 2023년 입법 계획에 포함됐으며, 2024년 국무원의 입법 의제에 예비 심사 프로젝트로 등재된 바 있다.

AI 법률: 효율성 대 안전성

중국은 ‘입법 우선, 윤리적 지침 및 분류된 거버넌스’를 통해 매우 체계적인 AI 규제 프레임워크를 구축했다. 향후 입법과 실무에서 핵심은 기술 혁신과 위험 통제를 균형 있게 조화시키는 것이 될 것이다. DeepSeek와 같은 국내 AI 도구의 부상은 인공지능법 제정 과정을 가속화할 것이며, 중국은 효율성과 안전성을 균형 있게 고려한 ‘중국 모델’을 글로벌 AI 거버넌스에 제시할 수 있다.

BEIJING DACHENG LAW OFFICES
Floor 9/24/25, No.100 Century Avenue
Shanghai, China
전화: +86 21 5878 5888
http://dacheng.com

맨 위로 돌아가기

---

홍콩의 단편화된 AI 규제 체계

홍콩의 인공지능(AI) 규제는 단편화된 부문별 프레임워크 내에서 진화하고 있다. 다양한 규제 기관이 다양한 산업을 감독함에 따라 통합된 규제 체계보다는 여러 지침이 혼재되어 있다. 예를 들어, 홍콩 금융관리국(HKMA)은 은행 부문에서의 인공지능 응용 프로그램을 규제하고, 증권선물위원회(SFC)는 금융 서비스 분야의 인공지능을 감독하며, 개인정보보호위원실(PCPD)은 모든 산업에서 인공지능 활용과 관련된 데이터 개인정보 보호에 대한 지침을 제공한다.

또한, 기존 규정에서 구체적으로 다루지 않는 AI 관련 피해에 대해 영미법 원칙이 적용되어, AI 도입과 관련된 분쟁에서 법적 구제를 받을 수 있다. 이러한 전반적인 접근 방식은 맞춤형 감독을 가능하게 하지만, 여러 산업에 걸쳐 운영되는 기업들에는 컴플라이언스에 어려움을 초래할 수 있다.

이 가이드의 이 장은 홍콩에서 AI 사용과 관련하여 특히 주목해야 할 핵심 분야에 초점을 맞추고 있다. 저자들은 우선 금융 서비스, 의료 서비스, 법률 서비스와 같이 AI 사용으로 인해 규제상의, 또 윤리적인 우려가 더욱 심화되는 고위험 분야를 살펴볼 예정이다. 그런 다음 AI 도입이 특히 큰 영향을 미치거나 규제가 빠르게 발전하고 있는 산업들을 중심으로 부문별 고려사항을 탐구한다.

이어서 저자들은 조직 내 AI 거버넌스에 대해 논의하며, ‘세 가지 방어선’과 같은 체계적인 감독 모델을 사용하여 기업들이 어떻게 책임감 있게 AI를 도입할 수 있는지 설명할 예정이다. 마지막으로, AI 도구들이 처리하는 대량의 민감 정보를 감안할 때 특히 중요한 데이터 개인정보 보호 문제를 살펴본다.

이 핵심 영역들을 살펴봄으로써, 이 장은 기업들이 홍콩의 AI 규제 환경을 탐색하면서 컴플라이언스를 확보하고 효과적인 위험 관리를 달성할 수 있도록 지원하는 실용적인 프레임워크를 제공할 것이다.

고위험 AI 활용

홍콩의 고위험 AI 활용은 글로벌 트렌드를 반영하며, 특히 투자 자문, 사기 탐지, 법률 자문 및 채용 분야에서 두드러진다. 이러한 활용 사례와 기타 응용 분야는 개인정보와 같은 민감한 데이터를 포함하거나 소비자 권리에 영향을 주며, 상당한 재정적 및 법적 결과를 초래하기 때문에 고위험으로 간주된다.

예를 들어, AI 기반 투자 자문은 부적절한 상품 추천으로 이어져 소비자와 기업 모두에게 재정적 위험을 초래할 수 있다. 마찬가지로, AI를 활용한 사기 탐지는 잘못된 긍정 또는 부정 결과를 방지하기 위해 매우 높은 정확성을 유지해야 한다.

AI 사기 탐지 기술은 금융 서비스, 전자상거래 및 사이버 보안 분야에서 널리 활용되며, 기계 학습 모델이 거래 패턴, 사용자 행태 및 기기 데이터를 평가하여 실시간으로 잠재적 사기 행위를 식별한다.

이러한 시스템은 편향을 방지하고 홍콩의 데이터 보호 및 사기 방지 컴플라이언스를 보장하기 위해 신중하게 모니터링되어야 한다. 판례 분석 및 계약 작성에 활용되는 법률 AI 도구들은 정확성과 공정성을 보장해야 하며, AI 기반 채용 도구는 편향과 차별을 방지하기 위한 안전장치가 필요하다.

SFC 및 HKMA와 같은 규제 기관은 금융 서비스 환경에서 이러한 유형의 위험에 대응하기 위한 지침을 제시했다. SFC의 생성형 AI에 대한 회람은 면허가 있는 기업들이 AI 언어 모델 사용에 대해 위험 평가를 수행하도록 요구하며, 이를 위한 지침 원칙을 제시한다. 또한, 면허가 있는 기업들은 AI 기반 금융 서비스에 대한 위험 완화 조치와 모니터링 메커니즘을 마련해야 한다. 한편, HKMA의 인공지능 고위 원칙은 AI 거버넌스를 위한 권장 관행을 제공하며, HKMA Gen AI Sandbox와 같은 규제 샌드박스는 기업들이 통제된 환경에서 고위험 AI 응용 프로그램을 시험할 기회를 제공한다.

고위험 분야에 AI를 도입하는 기업은 적용 가능한 규제 프레임워크 평가, 감독을 위한 인간 참여 메커니즘 도입 및 위험 경감을 위한 지속적인 모니터링 등을 고려할 수 있다.

산업별 AI

일부 산업에서 AI의 사용은 규제의 집중, 빠른 기술 발전 또는 인공지능 응용의 중대한 특성으로 인해 특히 주의가 필요하다. 이 섹션에서는 다양한 산업 사례를 다룬다.

은행 및 금융 서비스 분야에서는 로보어드바이저, 사기 탐지 및 고객 서비스에 AI가 폭넓게 활용된다. 예를 들어, 2024년 2월 홍콩에 위치한 ICBC Asia가 잠재적 사기 거래를 식별하고 의심되는 사기 혐의를 조사하기 위해 AI 기술에 투자한 것으로 보도됐다.

HKMA 및 SFC는 기업들이 모델 설명 가능성, 사이버 보안 및 위험 기반 감독을 최우선으로 하는 거버넌스 프레임워크를 도입하도록 요구한다.

의료 분야는 진단, 환자 관리 도구 및 운영 효율성을 위해 AI를 활용하고 있다. 그러나, 법적 책임 위험과 데이터 개인정보 보호에 대한 우려는 여전히 중요하다. 예를 들어, PCPD는 “의료 제공자들이 AI를 사용하여 의무 기록을 분석하고 의사의 진단을 지원한다”고 언급하며, 고위험 AI 활용 사례로 “AI 지원 의료 영상 분석 또는 치료”를 제시했다. 또한, PCPD는 “배포 중에 개인에게 중대한 부정적 영향이 발생할 위험을 줄이기 위해 인간의 감독이 필요하다”고 강조했다.

법률 분야 역시 계약 분석, 법률 조사 및 문서 자동화 등 다양한 업무에 AI를 도입하고 있다. 홍콩사무변호사회의 2024년 입장 문서는 지식 기반을 개발하고 법률 규칙을 부호화하며 인공지능 결과를 최적화하는 ‘법률 지식 엔지니어’(일명 ‘프롬프트 엔지니어’)와 같은 전문 역할의 필요성을 강조한다. 또한, 법률 기술자와 자동화 전문가는 자연어 처리, 논리 프로그래밍 및 업무 자동화와 같은 분야의 전문 지식을 토대로 AI 도구의 구현 및 관리에 핵심적인 역할을 할 수 있다.

사법 분야에서는 AI 사용이 사법부의 독립성, 공정성, 책임성의 원칙과 일치하도록 하기 위해 구체적인 지침이 도입됐으며, AI는 사법 기능을 강탈하거나 침해하는 데 사용되어서는 안 되고, 오로지 사법 업무를 지원하고 촉진하는 데에만 활용되어야 한다는 점이 강조됐다.

AI 거버넌스

AI를 활용하는 기업에 컴플라이언스와 위험 관리는 핵심 고려사항이다. 거버넌스 프레임워크는 조직이 혁신과 책임성을 균형 있게 유지하는 데 도움이 될 수 있다. 저자들은 금융기관들이 AI 사용에 대한 정책을 검토하는 것을 지원해왔다.

우리가 본 모델 중 하나는 비즈니스 내 다양한 기능에 걸쳐 AI 감독을 통합하는 데 도움이 되는 세 가지 방어선 프레임워크를 포함했다. 이 프레임워크는 금융 기관들이 기업 컴플라이언스에서 널리 사용하며, 일상 업무의 효율성을 향상시키기 위해 적용하고 있다.

이 프레임워크는 여러 단계에서 독립적인 검사를 보장함으로써 컴플라이언스 의무와 AI 혁신 간의 균형을 맞추는 것을 목표로 한다:

• • 첫 번째 방어선은 고객 참여, 사기 탐지, 프로세스 자동화 등 다양한 목적을 위해 AI 기반 도구를 개발하고 배치하는 사업 부서로 구성된다. 이 부서들은 AI 기반 의사결정이 편향 완화 및 의사결정의 투명성과 같은 규제 기대치와 윤리적 고려사항에 부합하도록 보장해야 한다.
  • 두 번째 방어선은 AI 모델의 취약점, 사이버 보안 위협, 컴플라이언스 등을 평가하는 위험 관리 및 컴플라이언스 팀으로 구성된다. 많은 조직은 HKMA와 SFC의 모범 사례를 바탕으로 AI 위험 평가 프레임워크를 활용하여 AI 시스템이 규제 요구 사항을 준수하고 견고하게 유지되도록 보장하고 있다.
  • 세 번째 방어선은 AI 거버넌스와 위험 관리 효과를 검증하기 위한 독립적인 감사를 포함한다. 이러한 정기적 검토는 기업들이 잠재적인 규제 공백을 감지하고, 책임성을 강화하며, AI 기반 프로세스에 대한 신뢰를 높이는 데 도움이 될 것이다.

데이터 프라이버시와 AI

AI 시스템이 점점 더 많은 민감한 데이터를 처리함에 따라 홍콩에서는 데이터 프라이버시가 주요 규제 관심사가 됐다. 2024년 6월 PCPD에서 발표한 ‘인공지능: 개인정보 보호 프레임워크 모델’은 AI 시스템을 도입, 구현, 사용하며 개인정보를 포함하는 조직(금융 기관 포함)의 개인정보 처리 방법에 대한 구체적인 가이드라인을 제공한다.

위험 기반 접근 방식을 채택한 PCPD 프레임워크는 지역 기업에 대한 권장사항을 제공하는 한편, 개인정보(프라이버시) 조례(486장)에 따른 데이터 보호 원칙 또한 계속 적용된다.

점점 더 우려되는 문제는 데이터 스크래핑이다. 이는 AI 모델이 명시적인 동의 없이 온라인에 공개된 데이터를 수집하여, 해당 데이터를 재판매하거나 사이버 공격을 조장하고, 신원 도용 및 원치 않는 직접 마케팅과 스팸 메시지를 가능하게 하는 등의 승인되지 않은 용도로 사용하는 경우를 말한다.

PCPD는 데이터 스크래핑이 상당한 개인정보 위험을 야기할 수 있다고 경고했다. 데이터 스크래핑에 관한 PCPD의 공동 성명은 AI를 사용하는 기업이 개인정보 보호법 준수를 보장하기 위해 선제적으로 조치를 취해야 함을 강조한다.

결론

통일된 AI 규제 프레임워크가 없는 상황에서, 고위험 AI 애플리케이션에 적극적으로 대응하고 산업별 컴플라이언스 전략을 맞춤화하며 견고한 AI 거버넌스 모델을 구축하는 기업 및 기타 이해관계자들은 규제 위험을 완화하는 데 더 유리한 위치에 서게 될 것이다.

기업들은 적용 가능한 규제를 철저히 평가하고, 규제 샌드박스에 참여하며, 세 가지 방어선 모델과 같은 거버넌스 구조를 도입하는 것을 고려할 수 있다. 또한 데이터 프라이버시는 여전히 핵심 이슈이므로, 조직들은 익명화와 투명한 AI 의사결정 등 데이터 보호 모범 사례를 검토할 수 있다.

컴플라이언스를 유지하며 AI를 도입하려는 기업에 거버넌스, 위험 관리, 규제 참여에 대한 적극적인 접근은 필수적이다. 전문 법률 자문은 진화하는 AI 환경을 헤쳐 나가는 데 도움을 줄 것이며, 기업의 비즈니스 목표에 부합하는 책임감 있고 규정을 준수하는 AI 도입을 보장할 수 있다.

STEVENSON, WONG & CO.
39/F, Gloucester Tower,
The Landmark, 15 Queen’s
Road Central, Hong Kong
전화: +852 2526 6311
이메일: info@sw-hk.com
www.sw-hk.com

맨 위로 돌아가기

---

인도의 AI 규제에 대한 집중적인 접근 방식 촉구

인도는 IT 서비스, 통신, 전자상거래, 의료 및 금융 서비스를 포함하여 다양한 분야를 아우르는 강력한 서비스 중심 경제를 보유하고 있다. 이러한 요인들 덕분에 인도는 AI, 특히 생성형 AI의 발전을 촉진할 수 있는 중요한 데이터 저장소로 자리매김하고 있다.

인도 정부는 AI의 혁신적, 경제적 잠재력을 인식하고 IndiaAI Mission, IndiaAI Dataset Platform, AIKosha와 같이 필수 또는 일상 서비스를 제공하는 다양한 조치를 통해 이러한 성장을 수익화하기 위한 적극적인 조치를 취해 왔다.

또한, 다수의 정책 브리프와 부문별 협의 문서에서는 AI가 안전하고 공정하며 책임감 있게 개발·배포되도록 효과적인 규제 감독의 도입이 필요함을 강조하고 있다.

인도의 접근 방식은 주로 AI 혁신을 촉진하고 AI 윤리의 원칙 기반 접근 방식을 의무화하는 데 초점을 두고 있다. 정부는 AI 혁신을 지원하기 위한 체계를 마련하고, 윤리 기준을 권고하며, 디지털 인프라 및 기술 개발 프로그램에 대한 투자를 촉진함으로써 AI 주도 경제 성장을 우선시하고 있다.

따라서 AI 규제는 계속 진화하는 문제로 남아 있으며, 정부는 기술 발전과 규제 감독 사이의 균형을 맞추기 위해 노력하는 한편, 글로벌 AI 거버넌스 논의에 관련 주요 이해당사자로서 적극적인 조치를 취하고 있다.

EU와 같이 AI에 대한 전용 법령이 마련된 관할권과는 달리, 이 규제 접근 방식은 다소 수동적이며 현 시점에서는 구체적인 실체가 부족하다.

예를 들어, 인도는 AI 거버넌스에 맞춰진 포괄적인 법률 체계를 아직 마련하지 못했다(신규 법 제정 또는 기존 법 개정 여부와 관계없이).

부문별 규제 요구사항은 구속력 있는 요구사항과 권고사항이 모두 존재하지만, 이러한 요구사항은 인도 중앙은행(RBI), 인도 증권거래위원회(SEBI), 인도 통신규제청(TRAI) 및 인도 경쟁위원회(CCI) 등 여러 규제 기관에 분산되어 있으며, 각 규제 기관은 AI 거버넌스를 자사의 관점에서 해석하고 있다.

이러한 탈중앙화된 접근 방식은 일부 사업상의 불확실성을 초래하고 있다.

AI 사용으로 인해 발생하는 문제를 해결하고 변화하는 환경을 효과적으로 헤쳐나가기 위해 인도는 보다 통합되고 선제적인 규제 및 거버넌스 접근 방식으로 전환해야 할 필요가 있다.

현재까지의 규제 접근 방식

여러 차례에 걸쳐 자율적인 접근과 보다 직접적인 개입을 주장하며, AI 개발자들에게 예측 불가능성을 야기했다. 최근의 발전 사항은 다음과 같다:

• • 2024년, 전자정보기술부(MeitY)는 AI 모델 배포 전에 사전 승인을 요구하는 권고를 발표하고, 플랫폼과 중개자에게는 딥페이크 및 알고리즘 차별 방지를 위한 조치 이행, AI 생성 콘텐츠 라벨 부착, 그리고 AI의 예측 불가능성에 대한 사용자 안내를 의무화했다.

그러나, 일부 업계의 반발에 따라 이 권고는 철회되어 구속력이 없는 개정판으로 대체됐다. 고위험 AI 시스템을 규제하는 통합 법률로 제안된 디지털 인도법(DIA)에서 보다 직접적인 접근 방식이 예상됐는데, 이는 알고리즘 책임성, 제로데이 위협 및 취약성 평가, AI 기반 광고 타깃팅 및 콘텐츠 조정 등을 포함한다. 정부는 여전히 이 법안 초안 작업을 진행 중이며, 발표 시기에 대해서도 재고하고 있다.

• • 2025년 1월, MeitY는 AI 거버넌스 가이드라인 개발 보고서를 발표했다. 이 보고서는 DIA와 관련하여 논의된 몇 가지 이슈—예를 들어 AI 기반 침해와 AI 출력물의 저작권을 다루는 개정된 지식재산권 법률, AI 사용으로 인한 편향 및 차별에 대한 규제, 그리고 위험 완화를 기준으로 한 AI 활동 규제—를 옹호하고 있다. 또한, 이 보고서는 저위험 AI 사용을 위한 샌드박스 접근 방식을 장려하고, 정부의 정보 수집 목표를 지원하기 위해 업계가 콘텐츠 출처 증명, 레드팀 평가, 모델 카드 등의 자발적 약속을 할 것을 권고하고 있다.
  • SEBI, RBI 및 BIS와 같은 다양한 분야별 규제 당국은 규제 대상에 기관에 적용되는 AI 관련 문제를 해결하기 위해 노력해왔다. 긍정적인 점은 MeitY 보고서가 정부 전체적인 접근 방식을 옹호하여 모든 산업에 통합된 AI 정책 프레임워크를 적용할 수 있도록 하고 있다는 점이다.

주요 법적 문제들

해결되지 않은 몇 가지 중대한 법적 문제는 다음과 같다:

AI 편향 및 알고리즘의 책임성. AI 시스템은 특히 채용, 대출, 법 집행 및 의료 분야에서 편향을 보인다는 비판을 받아왔으며, 이러한 편향은 주로 학습 단계에서 왜곡되거나 불완전한 데이터를 사용함으로써 발생한다.

안타깝게도, 인도의 현행 법체계는 AI 시스템과 그에 따른 학습 데이터에 대한 공정성, 투명성 및 책임성을 의무화하는 조항이 없다. MeitY 보고서는 AI 편향과 관련된 우려를 인정하지만, 이러한 위험을 완화하기 위한 구체적인 규제 요건을 제시하지는 않고 있다.

그 결과, AI 개발자들은 제한적이거나 그 어떠한 법적 보호 조치도 없이 운영하고 있으며, 사용자들은 알고리즘 차별의 위험에 노출되고 위험이나 손실 발생 시 판결을 내릴 수 있는 보호 장치가 부족한 상태이다.

데이터 프라이버시 및 AI 훈련. 2023년 제정된 디지털 개인 데이터 보호법(DPDP법)은 AI를 직접 규제하지는 않지만, 특히 개인 데이터를 활용하는 경우 AI 시스템의 개발 및 배포 방식에 간접적인 영향을 미칠 예정이다.

예를 들어, DPDP법은 공공 데이터에는 적용되지 않는다; 많은 AI 응용 프로그램들이 해당 데이터를 사용할 것으로 예상되므로 이에 관한 정확한 통찰력이 도움이 될 수 있다. 또한, 이 법은 데이터 보유자들이 자신의 데이터를 변경할 것을 요청할 수 있도록 허용하는데, 이미 AI 훈련에 사용된 데이터에 대해 이는 어려운 작업이 될 수 있다. 게다가, DPDP법은 데이터 보유자로부터 명확한 목적과 데이터 기반 콘텐츠를 확보하도록 요구하기 때문에 AI 훈련을 위한 데이터의 탐색적 사용도 어려울 수 있다.

저작권 쟁점. 저작권이 있는 자료를 활용해 AI 시스템을 개발·훈련할 경우 파생 저작물이 생성되어 침해 소송으로 이어질 수 있다. MeitY 보고서 역시 이러한 저작권 자료 사용을 침해로 분류하고 있다.

그러나, 침해 주장을 성공적으로 제기하기 위해 저작권이 있는 자료와 어느 정도의 유사성이 있어야 하는지는 명확하게 규정되고 있지 않다. 현행법이 저작권자들의 침해 청구 집행 수단을 제한적으로 제공하는 점을 고려할 때, 저작권자들의 입지를 강화하기 위해 법 개정이 필요할 수 있으며, AI 개발자는 저작권이 있는 콘텐츠에 접근하기 전에 철저한 사전 조사 조치를 시행해야 할 필요가 있다.

AI가 창작물을 생성하는 능력이 향상됨에 따라 AI가 생성한 콘텐츠의 저작권 보호 가능성에 관한 문제가 점점 중요해지고 있다. 그러나 인도에서는 AI가 창출한 콘텐츠가 저작권 보호 대상이 되는지, 또는 저작권 주장을 위해 인간의 관여가 필수적인지에 대해 명확한 법적 입장이 마련되어 있지 않다. 이러한 불확실성은 자신의 권리를 확신하지 못하는 기업과 창작자에게 여러 가지 어려움을 안겨주고 있다.

중개자 책임. 2021년 인도의 정보기술(중개자 지침 및 디지털 미디어 윤리 강령) 규칙에 따라 AI 모델을 중개자로 분류하는 것은, 특히 2000년 정보기술법 제79조를 고려할 때 면밀한 법적 검토가 필요하다. 이 조항에 따른 안전항구 보호는 중개자가 콘텐츠를 수정하거나 선택하지 않아야 한다는 조건에 달려있는데, 이는 대부분의 AI 기반 시스템이 충족하기 어려운 조건이다.

법에 따른 중개자 책임 체계는 AI 시스템의 현실을 반영하도록 개정되어야 하며, AI가 생성한 콘텐츠가 기존의 발행인 또는 중개자 정의에 따라 잘못 분류되지 않는 것을 보장해야 할 필요가 있다.

책임. AI 규제의 또 다른 핵심 쟁점은 누가 책임을 져야 하는지 결정하는 것이다 – AI 모델을 개발하는 개발자, 이를 애플리케이션에 통합하는 배포자, 둘 다 각기 다른 역할로, 또는 API를 통해 AI 사용을 확대하며 프롬프트를 적용하는 사용자까지 모두 포함하는 문제이다.

현행법에서는 이러한 문제들을 다루지 않고 있으며, MeitY는 기존 법률이 AI 사용의 오용 또는 위반 사례를 계속 규제할 수 있을 것이라고 주장한다. 그러나 충분한 지침이 제공되지 않는 한 책임 및 설명 배분에 관한 해석 관행은 지속될 전망이다.

결론

인도의 AI 규제에 대한 접근 방식은 정책 면에서 상당한 진전을 보였지만, 구체적인 법률 제정에 관해서는 여전히 불확실성에 직면해 있다. MeitY 보고서가 주요 규제 과제에 관한 논의를 촉발했음에도 불구하고 구체적인 조치가 시행되기까지는 시간이 걸릴 수 있다. DIA가 일부 쟁점을 규제할 것으로 예상되었지만, 최신 뉴스는 AI의 의미와 이점이 인도의 고유한 맥락에서 충분히 이해될 때까지 정부가 통합 법률 도입을 재고하고 있음을 시사하고 있다.

앞으로 나아가면서, AI에 특화된 법률에 대한 균형 잡히고 신중한 접근은 비즈니스 확실성을 조성하고 사용자 권리를 지원하며 책임 있는 혁신을 실현하는 데 매우 중요할 것이다.

AZB & PARTNERS
AZB House, A-8, Sector 4,
Noida – 201301, National Capital Region, India
전화: +91 120 417 9999; +91 120 692 3700
www.azbpartners.com

맨 위로 돌아가기

---

일본의 인공지능 규제 로드맵

2025년 2월 4일, 일본 정부는 인공지능(AI) 규제를 논의하기 위해 AI 시스템 연구회와 AI 전략 위원회의 합동 회의에서 중간 보고서를 발표했다.

2025년 2월 28일, 중간 보고서를 바탕으로 정부는 최초의 AI 관련 범분야 법안을 일본 국회에 제출했다. 이 법안의 명칭은 ‘인공지능 관련 기술의 연구, 개발 및 활용 추진에 관한 법률안’이다.

일본에서는 각 산업의 AI 개발자, 제공자 및 사용자를 위한 규칙들은 지금까지 부처, 기관 및 산업 협회가 제정한 가이드라인에 의해 설정됐다. 앞으로는 하드 로(법률)와 소프트 로(가이드라인)를 병행하여 AI 규제가 시행될 것이다.

이 법안은 현재 일본 국회에서 토론 중이며 아직 공포되지 않았다. 그러나 이 법안은 중간 보고서를 참조하여 제정될 것으로 예상되므로, 일본의 AI 규제 개요를 이해하기 위해서는 중간 보고서와 법안의 내용을 모두 파악하는 것이 필수적이다.

따라서 본 기고문에서는 중간 보고서의 개요와 법안의 내용을 제공할 예정이다.

AI의 정의

AI 규제의 내용을 이해하기 위한 전제 조건으로, 본 섹션에서는 일본 법에 따른 AI 및 생성형 AI의 정의를 설명할 예정이다. 이러한 정의는 중간 보고서와 법안에 명시되어 있지 않다.

그러나 이 법안은 ‘인공지능 관련 기술’을 인공적인 수단을 통해 인간의 인지, 추론 및 판단 능력을 대체하는 기능을 실현하는 데 필요한 기술과, 그 기술을 활용하여 입력 정보를 처리하고 그 결과를 출력하는 기능을 가진 정보 처리 시스템과 관련된 기술로 정의했다. 또한 현재 일본에서 AI에 대한 종합 규칙을 설정하는 주요 가이드라인은 AI Guidelines for Business (버전 1.0)로, 이는 총무성과 경제산업성이 공동으로 개발했다.

가이드라인에서는 현재 AI에 대해 확립된 정의가 없으며, 넓은 의미로 인공지능을 엄격하게 정의하기 어렵지만, 이는 AI 시스템 자체, 소프트웨어 또는 기계 학습을 수행하는 프로그램 등을 포함하는 추상적 개념이라고 명시하고 있다.

‘AI 시스템’은 사용 과정 전반에 걸쳐 다양한 자율성으로 작동하고 학습할 수 있는 소프트웨어를 포함하는 시스템으로 정의된다.

‘생성형 AI’라는 용어는 텍스트, 이미지, 프로그램 등을 생성할 수 있는 AI 모델에 기반한 AI를 총칭하는 용어로 정의된다.

본 기고문에서는 이러한 정의를 바탕으로 중간 보고서와 법안의 내용을 설명할 예정이다.

AI 규제의 내용

1. 1. 정부 리더십 및 정책 수립 강화. 중간 보고서는 정부가 중개자로서의 역할을 강화하여 AI의 연구 및 개발부터 경제사회적 활용에 이르는 통합 정책을 추진해야 하며, 관련 부처와 기관 전반이 참여하는 정책 추진 체계를 마련할 필요가 있다고 언급하고 있다.

중간 보고서는 또한 정부가 포괄적 조치를 추진할 때 AI 정책에 대한 전략 또는 기본 계획을 수립해야 한다고 언급하고 있다.

법안은 중간 보고서에 따라 정부의 역할을 구체적으로 명시하고 있다.

1. 2. AI 수명 주기 전반의 적정성 확보. 중간 보고서는 AI의 연구, 개발 및 활용에 있어 적정성을 증진할 필요가 있음을 확인하고 있다. 적정성을 보장하기 위해, 일본 정부는 히로시마 AI 프로세스와 같은 국제 규범의 목적에 기반한 가이드라인을 마련하고, 사업자들이 자율적으로 다양한 규범에 대응하도록 독려하는 것이 적합할 수 있다. 법안은 정부가 국제 기준의 목적에 따라 가이드라인을 마련할 것임을 명확히 하고 있다.

또한, 중간 보고서는 적정성을 확보하기 위해서는 정부가 사업자의 상황을 조사하여 파악하고, 그 결과를 토대로 기존 법률 및 규정에 따른 대응을 포함하여 필요한 지원을 제공해야 한다고 언급하고 있다.

정부가 사업자의 상황을 충분히 이해하고 필요한 지원을 제공하기 위해서는 이들 사업자의 협조가 필수적이므로, 국내외 사업자들이 정보를 제공하고 협력할 수 있는 법적, 제도적 조치를 취하는 것이 적절할 것이다.

법안은 사업자들이 인공지능 관련 기술의 연구, 개발 및 활용을 촉진하기 위해 정부 정책에 협조해야 한다고 명시하고 있다.

1. 3. 정부 조사 및 공개. 중간 보고서에 따르면, 일본에서 AI 사용과 관련하여 국민 권익의 심각한 침해가 발생하거나 그러한 침해가 일어날 가능성이 높은 경우, 정부는 그 원인 및 기타 사실에 대해 조사를 실시해야 한다고 명시되어 있다.

정부는 또한 필요한 경우 서비스 제공자를 포함한 관련 당사자들에게 가이드라인과 조언을 제공해야 하며, 수집된 정보는 국민에게 공개되어야 한다.

해당 정보의 수집 및 공개를 가능하게 하기 위해, AI 법안은 정부가 기술을 활용하여 조사할 뿐만 아니라 관련 당사자들에게 지시 및 조언하고, 정보를 공개할 수 있게 하는 권한을 인정하는 조항을 포함하고 있다.

1. 4. 페널티 적용. 중간 보고서는 혁신 촉진과 위험 대응 간 호환을 보장하기 위해, 원칙적으로 법률, 규정 및 소프트 로(예: 가이드라인)를 적절히 결합하고 사업자의 자율성을 존중하며, 자발적인 노력으로 해결이 어려운 사안에 한해 법률로 규제하도록 해야 한다고 명시하고 있다. 또한, 향후 인공지능 관련 입법에서는 페널티 규정이 없거나 제한적으로 적용될 수 있으며, 해당 법안에는 페널티에 관한 조항이 포함되어 있지 않다.
   5. 일본 외부 사업자에의 적용. 중간 보고서에 따르면, 일본 내 사용을 위해 제작된 대부분의 AI가 외국 사업자에 의해 제공되고 있기 때문에, AI 규제 적용 범위에서 외국 사업자를 일률적으로 배제하는 것은 적절하지 않다고 명시되어 있다. 국내 사업자에게 일정한 의무를 부과하는 규정을 마련할 때는 외국 사업자도 포함되어야 한다.

따라서, 정부의 외국 사업자 조사 권한이 인정될 것으로 예상되며, 시민의 권리와 이익을 침해하는 심각한 경우에는 해당 사업자의 이름 및 기타 정보가 공개될 것으로 기대된다.

그러나 이 법안은 이에 대해서는 아직 불분명하다.

결론

중간 보고서와 법안에 따르면, 가까운 시일 내에 제정될 법률은 최소한 다음과 같은 조항을 특징으로 할 것이다:

1. 1. 정부의 리더십과 정책 수립을 강화할 것;
   2. 일본 정부가 사업자에 대한 가이드라인을 개발하고 조사를 실시할 수 있도록 할 것;
   3. 일본 국민의 권리와 이익을 심각하게 침해하는 사례의 경우 원인에 대해 해당 사업자를 조사하고, 그에 관한 정보를 공개할 수 있도록 할 것이다.

일본 내 AI 관련 모든 관계자는 제안된 법안과 실행 절차가 뚜렷해지는 대로 그 동향을 면밀히 주시할 필요가 있다. 또한, AI 관련 규정이 제정되더라도 각 산업별 개별 법률과 가이드라인은 계속 적용된다는 사실을 유념해야 할 것이다.

KEIWA SOGO LAW OFFICES
ATT EAST 11F 2-11-7, Akasaka,
Minato-ku, Tokyo 107-0052, Japan
전화: +81 3 3560 5051
이메일: info@tyhomu.com
www.keiwalaw.com

맨 위로 돌아가기

---

인공지능과 필리핀의 법률

필리핀은 188개국의 인공지능(AI) 준비 상태를 평가한 최신 Government AI Readiness Index 2024에서 순위가 65위에서 56위로 상승한 바 있다.

Oxford Insights가 발표한 이 지수는 정부, 기술 부문 및 데이터와 인프라라는 세 가지 핵심 요소와 함께 10개 차원에 걸친 40개의 지표를 기반으로 하고 있다.

세 가지 요소 중 필리핀은 정부 분야에서 가장 높은 점수를 기록하여 100점 만점에 74.49점을 받았다(이전 점수는 65.43점이었다). 그 다음으로 데이터와 인프라 분야에서 62.45점을 받았다(이전 점수는 56.13점이었다).

하지만, 기술 분야는 따라잡을 부분이 있어 아직 개선의 여지가 있다. 점수는 34.38에서 약간 오른 38.58에 불과했으며, 이 점수는 신기술과 관련된 법률 및 정책 분야의 최근 이니셔티브를 상당히 반영하고 있다.

전략적 로드맵

무역산업부(DTI)는 AI 도입의 장벽을 해소하기 위해 ‘국가 AI 전략 로드맵 2.0’을 발표했으며, 이 로드맵은 AI 윤리와 거버넌스와 같은 새로운 주제를 포함하고 있다.

이 새로운 로드맵에 따르면, 국가 연구개발 예산을 증액하는 것이 우선되며, 이는 국가 GDP의 1%에 해당하는 UNESCO의 연구개발 지출 권장 사안을 충족하기 위함이다.

또한, 이 로드맵은 7가지 전략적 필수 과제를 제시하고 있는데, 그 중 일부는 다음과 같다:

1. 1. 강력하고 연결된 네트워크 환경 구축;
   2. 데이터 접근 및 가치 추출 개선;
   3. 교육 혁신과 미래 AI 인재 양성;
   4. 윤리적 고려사항을 우선시하는 AI 생태계 조성;
   5. AI 연구개발의 경계를 확장하고 마스터하는 것 등이다.

이 최근 이니셔티브는 다음과 같은 이전 AI 분야 정책 이니셔티브에 더해졌다. 여기에는 2022-2028년 과학기술부 AI 로드맵, DTI의 첫 번째 국가 AI 전략 로드맵, 그리고 2023-2028년 필리핀 개발 계획에 포함됐으며 새로운 시장을 개척하고 신상품 및 서비스 제공을 위해 신흥 디지털 기술의 잠재력을 활용하는 것의 중요성을 강조하는 다수의 정책 성명 등이 포함된다.

구체적인 필수 과제들

첫 번째와 두 번째 전략적 필수 과제와 관련하여, 국가경제개발청은 Konektadong Pinoy(Connected Filipino) 법안(상원 법안 2699)의 통과를 추진하고 있다. 이 제안된 법안은 개방형 접근 정책을 채택함으로써 통신 부문의 데이터 전송 서비스에서 경쟁을 촉진하는 것을 목표로 하고 있다.

개방형 접근은 데이터 전송 업계 참여자들이 데이터 전송 네트워크 및 관련 시설을 투명한 방식으로, 공정하고 합리적이며 차별이 없는 조건 하에서 사용할 수 있도록 허용하는 시스템으로 정의된다.

정책 입안자들은 인터넷 서비스가 여전히 아세안 지역에서 가장 비싼 서비스 중 하나라고 지적했으며, 지난 몇 년간 인터넷 속도가 크게 향상됐음에도 불구하고 전 세계 평균에도 미치지 못한다는 점을 지적했다.

세 번째 전략적 필수 과제와 관련해서는, 2022년 필리핀 디지털 노동력 경쟁력법(공화국법 제11927호)이 최근 제정되어 인적 및 디지털 기술과 혁신 분야에서 노동력의 기술 및 경쟁력을 강화하고 있다.

또 다른 것은 제2차 교육 의회 위원회 법안인 공화국법 제11899호로, 교육 분야에서 디지털 전환의 도입을 우선시하고 디지털 리터러시의 촉진과 필수 핵심 역량 및 21세기 기술의 개발을 통해 교육 개혁의 제도화를 목표로 한다.

그러나 필리핀은 교육 및 훈련 체계가 아직 노동 시장에서 요구하는 기술과 일치하지 않아 기술 불일치가 여전히 시급한 문제임을 인식하고 있다.

따라서 지난해 초에 Tatak Pinoy (Proudly Filipino) 법이 제정됐으며, 이는 다섯 가지 구체적 요소를 기반으로 한 Tatak Pinoy 전략(TPS)으로 구성된다:

1. 1. 인적 자원;
   2. 인프라;
   3. 기술 및 혁신;
   4. 투자;
   5. 건전한 재정 관리.

법에 따라, Tatak Pinoy 투자 및 사업은 일정 자격 기준에 따라 전략 투자 우선 계획(SIPP)에 포함되며, 적법하게 확인된 모든 Tatak Pinoy 투자 활동 및 사업은 우선 활동 목록에 자동으로 포함된다.

특히 첫 번째 요소인 인적 자원 부문 아래, 산업계의 요구에 부합하는 프로그램 개발을 위해 산학 연계를 촉진하는 로드맵이 마련될 예정이다. 이로 인해 지난해 말 학계-산업체 매칭(AIM!) 프로그램이 출시된 바 있다.

네 번째 요소 관련하여, 투자위원회는 2022년 SIPP을 개정하여 교육 부문을 강화하고, 이를 통해 국가 노동력의 역량을 향상시켰다.

이 개정안은 외국 고등교육 기관이 현지 기관과 파트너십을 통해 분교 캠퍼스를 설치할 수 있도록 허용하며, (단 현지 기관이 최소 60% 필리핀 소유여야 함) 교육 도시를 설립할 수 있도록 규정하고 있다.

이러한 이니셔티브들은, 2022 SIPP에 따라 연구개발과 로봇 및 AI를 포함한 4차 산업혁명의 첨단 디지털 생산 기술을 도입하는 활동들이 이미 여러 세금 인센티브를 받을 수 있는 우선 활동 목록에 포함되어 있다는 점을 고려할 때, 매우 중요하다.

네 번째 전략적 과제와 관련해, 정보통신기술부와 공무원위원회는 ‘정부 내 인공지능(AI)의 윤리적이고 신뢰할 수 있는 사용을 위한 원칙 및 가이드라인’이라는 제목의 초안 공동 각서에 대한 공개 의견 수렴을 진행한 바 있다.

이 초안은 국가가 OECD의 AI 원칙, 유네스코의 AI 글로벌 기준, 아세안의 AI 거버넌스 가이드를 채택했음을 확인하는 한편, AI 시스템 사용은 다음 조건을 충족해야 한다고 규정하고 있다:

1. 1. 정당해야 하며;
   2. 상황에 적합하고 필요 이상으로 초과해서는 안 되며;
   3. 지배 규정 및 규제에 따라 합법적인 목적을 달성할 수 있도록 비례적이어야 한다.

한편, 교육기관들이 AI의 잠재적 혜택을 계속 탐구하고 활용함에 따라, 교육부는 해당 기관들이 AI 도구를 책임감 있게 사용할 것을 권장하고 있지만, 교육 분야에 대한 AI 가이드라인은 아직 마련되지 않았다. 다섯 번째 전략적 과제에 따라 DTI 또한 AI 기반 연구 및 개발의 중심지 역할을 할 AI 연구 센터를 출범시켰다.

프라이버시와 AI

일반적인 인식과 달리 필리핀에는 AI 사용을 규제하는 법이 존재한다. 다만 이는 매우 제한적인 의미이며, 데이터 프라이버시/데이터 보호의 관점에서 이뤄진다.

이러한 관찰에 따라, 국립 개인정보 보호위원회(NPC)는 AI 시스템이 개인정보를 처리하는 경우, 개발 또는 배포(훈련 및 테스트 포함) 중 개인정보 보호법(DPA)이 어떻게 적용되는지에 관한 2024년 12월 권고문을 발표했다.

LLM 훈련에 사용되는 데이터는 주로 공개된 인터넷 소스에서 가져온 것이므로, 이 권고문은 공개된 개인정보가 단순히 공개됐거나 접근 가능하다는 이유만으로는 법적 보호를 상실하지 않는다는 점을 재차 강조하고 있다.

더 중요한 사실은, 관리인들이 AI 시스템의 개발 또는 배포 과정에서 개인정보가 책임감 있고 윤리적으로 처리되도록 적절하고 효과적인 거버넌스 메커니즘을 마련해야 한다는 것이다. 또한, 관리인들은 권한을 부여받은 사람이 의미 있는 인간 개입을 수행할 수 있도록 하는 메커니즘을 구현해야 한다.

해당 권고문은 또한 관리인들이 자동화된 결정이 데이터 주체의 권리와 자유에 상당한 위험을 초래할 때, 데이터 주체들이 이에 대해 이의를 제기할 수 있는 메커니즘을 구현하도록 요구하고 있다.

특히 이번 권고문은 자동화 처리/결정과 관련된 이전 NPC 발행물들과 달리 ‘단독’ 또는 ‘단독으로’라는 단어를 사용하지 않았으며, 이는 해당 결정이 완전한 자동화 여부에 대해 확신할 수 없음을 의미할 수 있다.

그러나 데이터 주체가 이의를 제기할 수 있는 권한은 ‘데이터 주체의 권리와 자유에 상당한 위험을 초래하는’ 자동화 결정에 전제하며, 이는 이전 발행물에서 사용된 ‘상당한 영향을 미치거나 미칠 것’이라는 문구보다 범위가 좁다.

해당 발행물은 단순히 권고문에 불과하며, 따라서 관련 기관 및 개인들에게 가이드라인 역할만을 수행함을 유념해야 한다. 현명하게도 NPC는 AI 맥락에서 데이터 주체의 ‘알 권리’가 “관련 로직에 대한 의미 있는 정보와 그 중요성 및 해당 [자동화] 처리가 데이터 주체에게 초래할 것으로 예상되는 결과에 관한 정보”에 어떻게 적용되는지에 관한 문제를 회피했다. 이는 훨씬 더 심도 있는 문제들을 내포한 모호한 영역이다.

DIVINALAW
8/F Pacific Star Bldg., Sen. Gil Puyat Ave.
cor. Makati Ave., Makati City, Philippines
전화: +63 2 8822 0808
이메일: info@divinalaw.com
www.divinalaw.com

맨 위로 돌아가기

---

러시아 AI 규제의 발전

러시아는 인공지능(AI)을 규제하기 위한 법적 프레임워크를 마련 중이며, 전문가들에 따르면 포괄적인 규제가 당장 필요한 것은 아니다. 대신, AI 기술 개발자와 사용자 간의 경계를 설정하기 위해 윤리적 및 기술적 기준을 강화하는 것으로 충분하다.

러시아의 기존 규정은 AI의 개발 및 사용에 직간접적으로 영향을 미치며, 이는 기업과 개발자들이 신중하게 고려해야 할 특정 법적 위험을 초래할 수 있다.

일반적인 규제의 발전

AI 개발은 국가 정책의 우선순위에 속한다. 러시아는 AI 개발을 위한 주요 목표와 방향, 그리고 실행 메커니즘을 정의하는 여러 법규를 채택하였으며, 여기에는 다음이 포함된다:

1. 1. 2030년까지의 AI 개발을 위한 국가 전략;
   2. 2017-2030년 러시아 연방 정보 사회 발전 전략;
   3. 2024년까지의 인공지능 및 로봇 기술 규제 개발 개념; 그리고
   4. 국가 ‘디지털 경제’ 프로그램 하의 ‘인공지능’ 및 ‘디지털 환경 규제 프레임워크’ 연방 프로젝트.

그러나 이러한 문서들은 러시아의 AI 개발에 대한 전략적 목표만을 반영한다.

규제 샌드박스

2020년, 러시아의 AI 개발 환경 조성을 위해 법률이 제정됐다. 주요 법률은 혁신을 시험 모드로 구현할 수 있는 도구인 실험적 법적 체계(ELR) 또는 규제 샌드박스의 도입에 중점을 두고 있다.

ELR을 만들기 위해 기업이나 개인 사업자는 프로젝트를 개발하고, 이를 제출한 후 당국의 승인을 받아야 한다.

지식재산

러시아를 포함한 대부분의 국가에서는 지식재산권 규정이 AI가 생성한 콘텐츠를 보호하지 않는다. 그러나 저자가 작품에 대해 창의적인 기여를 했으며 AI가 단지 도구로 사용된 경우, 그 결과물은 저작권으로 보호될 수 있다.

제3자 권리. 많은 AI 시스템이 대규모 데이터셋을 기반으로 훈련되는 반면, 사용자는 사실상 제한 없이 질의를 작성할 수 있으며,

1. 1. 전체 또는 일부를 재생산하는 결과물을 생성하거나
   2. 실제 저자의 스타일을 모방할 수 있다. 두 번째 경우는 지식재산권 규제 범위 밖에 해당하지만, 첫 번째 경우는 불법일 수 있으며 부분적 재생산의 경우에도 해당 권리자에게 책임을 물을 수 있다. 예를 들어, AI 사용자가 보호된 작품의 개별 요소를 재생산하는 이미지를 생성할 경우, 실질적 부분 기준이 침해를 입증하는 근거로 사용될 수 있는데, 이는 권리자가 전체 대상뿐만 아니라 그 실질적 부분의 사용도 통제하기 때문이다.

실질적 부분은 ‘작품의 50% 이상’ 식으로 문자 그대로 해석되지 않는다. 이는 질적 및 양적 기준에 따라 결정되며, 이 기준들은 상호작용하는데 하나가 작을수록 다른 하나는 더 커져야 한다.

따라서 보호된 작품의 개별 요소가 생성된 객체에 재생산될 경우, 법원은 이러한 보호받은(실질적) 요소가 사용됐는지를 분석하게 된다. 만약 그러한 요소가 발견되면, 생성된 객체의 사용은 불법으로 간주되어 사용 금지 조치가 내려질 수 있다.

개인정보

개인정보는 다양한 형태로 AI 운영에 사용될 수 있다. 예를 들어, 개발자는 AI 모델을 훈련시키기 위해, 사용자는 다양한 결과물을 생성하기 위해 개인정보를 활용하며, 이 외의 다른 경우에도 개인정보가 활용될 수 있다. 이러한 처리는 반드시 개인정보 보호법 등 관련 법률을 준수해야 한다.

대상자의 상태에 따라 잠재적인 문제 또한 달라지며, 아래와 같은 사항들이 포함된다:

러시아 법의 영외 적용. 2022년에 러시아 개인정보 보호법에 영외 적용 조항이 추가되었다. 러시아 시민과의 계약 또는 동의에 근거하여 데이터를 수집하는 것은 외국 기관에도 러시아 개인정보 보호법을 적용할 수 있는 충분한 근거로 인정된다.

처리에 대한 법적 근거. 회사는 법적 근거(예: 동의)가 있는 경우에 한해 개인정보를 처리할 수 있다.

민감한 데이터의 사용. AI 시스템은 개인의 목소리나 이미지 분석 등 다양한 목적으로 사용될 수 있다. 특정 경우에 이러한 자료는 생체 개인정보로 분류되어 보다 엄격한 규제와 통제의 대상이 될 수 있다.

현지화. 러시아 시민의 개인정보를 수집할 때, 해당 데이터의 저장 및 기타 특정 행위는 반드시 러시아에 위치한 데이터베이스를 이용하여 수행되어야 한다.

크로스보더 데이터 전송. 해외로 데이터를 전송하려면 다음의 특별 요건을 준수해야 한다:

1. 1. 수신자 평가;
   2. 해당 전송에 대해 관할 당국(Roskomnadzor)에 통보.

자동화된 의사 결정. 법률은 서면 동의 없이 개인정보의 자동 처리만을 기반으로 법적 결과를 초래하거나 정보 주체의 권리에 영향을 미치는 결정을 내리는 것을 금지하고 있다.

개인정보 보안을 위한 법적, 조직적 및 기술적 조치의 적용. 이러한 조치들은 주로 개인정보 업무를 적절하게 조직하고 궁극적으로 그 기밀성을 보호하는 것을 목표로 하고 있다.

인격권

개인의 초상(이미지), 예를 들어 사진, 비디오 녹화물 또는 그 사람을 묘사하는 예술 작품의 게시 및 추가 사용은 일반적으로 해당 개인의 동의가 있을 때만 허용된다.

인격권은 개인과 불가분의 관계에 있으며(외모, 예술적 또는 일상적 이미지, 목소리 및 개인을 드러내는 기타 인지 가능한 표상을 포함) 법에 의해 보호된다. 그래서 예를 들어, 개인의 목소리(생성된 목소리 포함)는 보호되며 그 사용에는 동의가 필요하다.

광고

AI는 광고 자료 제작에 사용될 수 있으며, 이러한 광고의 후속 배포는 광고 관련 법률을 준수해야 한다.

법률은 광고에 대해 몇 가지 요건을 설정하고 있다. 광고는 그 중에서도 진실되고, 공정하며, 완전하고 윤리적이어야 한다. 또한, 특정 광고 대상(예: 주류, 의료기기 및 금융 서비스)에는 추가 요건이 적용된다. AI를 사용하여 광고 자료를 제작하는 경우, 결과물이 법적 요건을 준수하는지 확인해야 한다.

금지된 정보

러시아 법률은 다양한 종류의 금지된 정보를 정의하고 있다. 금지된 정보가 확인되면, 당국은 종종 통신 사업자나 호스팅 제공업체의 협조를 받아 해당 정보 리소스를 차단하는 절차를 시작하게 돼 있다. 영구적인 제한이 없는 한, 금지된 정보가 제거된 후에는 접근이 복원될 수 있다.

정보 차단 절차는 정보의 종류(예: 사법 외 차단 또는 사법적 차단, 통보 여부에 따른 차단)에 따라 달라질 수 있다.

AI를 활용하여 후속 배포를 위한 자료를 제작할 계획인 경우에는 다음이 권장된다:

1. 1. 금지된 정보 목록을 분석하고,
   2. 자사 활동과 가장 관련성이 높은 정보를 식별하며,
   3. 해당 정보의 유통을 차단한다.

추천 기술

추천 기술은 사용자 선호도를 수집하고 분석하여 정보를 제공하는 AI나 데이터 마이닝의 하위 집합이다.

추천 기술을 활용하는 리소스 소유자는 몇 가지 의무를 이행해야 한다. 여기에는 다음이 포함된다:

1. 1. 사람과 회사의 권리 및 이익을 침해하거나 러시아 법에 의해 금지된 정보를 제공하는 추천 기술의 사용을 금지할 것;
   2. 사용자에게 추천 기술의 사용에 대해 알리고, 리소스 소유자에 대한 정보와 이메일 주소를 제공할 것;
   3. 러시아어로 추천 기술 사용 규칙을 게시할 것. 해당 규칙에는 사용되는 절차와 방법 및 수집되는 정보의 종류가 기술되어야 한다.

책임

현행 국가 정책에 따르면, AI 시스템의 모든 결과에 대한 책임은 개인이나 법인에 있다. 기존의 민사 및 형사 책임 메커니즘은 근본적인 변경이 필요하지 않으며, AI로 인한 피해 사례에도 적용될 수 있다.

민사 책임. 개인, 법인 또는 그 재산에 피해가 발생한 경우, 피해를 입힌 자는 피해자에게 전액 배상해야 한다. 이 규정은 보편적이며 법률에 명시적으로 규율되지 않은 모든 불법행위에 적용된다.

따라서 일반 불법행위 원칙이 적용되는데, AI로 인한 피해에 대한 책임은 그 행위가 민사 범죄에 해당하는 경우, 피해를 입힌 자에게 있다.

상황에 따라 책임 당사자는 AI 개발자, AI에 대한 배타적 권리를 소유한 자, AI 사용자, 상품 제조업체 또는 AI를 활용한 서비스를 제공하는 자가 될 수 있다. 법원은 사례별로, 대개 전문가 의견에 근거하여 이를 결정할 것이다.

형사 책임. AI는 범죄를 저지르는 수단(단지 도구에 불과)으로 정의되며, AI 기술을 이용한 범죄에 대해 형법상의 책임 규정은 전적으로 적용된다.

SEAMLESS Legal (SL Legal)
10 Presnenskaya Naberezhnaya,
Block C, 123112 Moscow, Russia
전화: +7 49 5786 4000
이메일: info@seamless.legal
www.seamless.legal

맨 위로 돌아가기

---

대만의 AI 전략 및 규제 프레임워크

대만 정부는 AI 산업을 지원하기 위해 적극적인 접근 방식을 채택하고, 정책 조치와 이에 상응하는 법적 프레임워크를 통해 산업 발전을 촉진하고 있다. 2024년 하반기에 국가과학기술위원회(NSTC)는 AI 기본법 초안을 발표했고, 2025년 초 행정원(대만 내각)에 검토를 위해 제출했다.

동시에 대만은 AI에 의한 사기, 딥페이크 활동 및 선거 조작 문제를 해결하기 위해 관련 법률을 개정했다. 정부는 또한 데이터 거버넌스와 오픈 데이터에 관한 새로운 법률을 제정하고 AI의 데이터 기반 특성에 대응할 계획이다.

AI 정부 정책

대만 정부는 AI 연구와 응용의 종합적 성장을 촉진하기 위해 전문 AI 칩, AI 하드웨어 및 대규모 언어 모델 개발을 적극 지원하고 있다. 한편, 제조업, 금융, 보건, 농업 및 소매 부문에서도 디지털 전환을 위해 AI 도입을 권장하고 있다. 이러한 조치는 다음과 같다:

1. 1. 교육 및 인재 개발. 교육부는 의무교육 단계에서 AI 소양을 강화하기 위해 ‘Befriended with AI’ 교육 프로그램을 시작했다. 대학과 산업 파트너는 전문 AI 및 학제 간 인재 육성을 위해 협력하여 전반적인 연구개발 역량을 강화하고 있다.
   2. AI 칩 기술 및 수직 응용. 대만이 반도체와 ICT 하드웨어 분야에서 갖는 경쟁 우위를 활용하여, AI on Chip Taiwan Alliance는 최첨단 AI 칩 기술과 해당 산업별 응용 개발을 지원하고 있다.
   3. AI 컴퓨팅 및 현지화된 대규모 언어 모델 개발. 국립 고성능 컴퓨팅 센터는 민간 부문과 협력하여 AI 전용 슈퍼컴퓨터인 TAIWANIA 2를 개발했으며, 이를 통해 현지 데이터를 기반으로 한 대규모 언어 모델 개발에 주력하고 있다.

대만 국립 응용 연구소는 TAIWANIA 2 슈퍼컴퓨터를 활용해 대만 데이터를 맞춤형으로 한 대규모 현지화 언어 모델 TAIDE를 출시했다. TAIDE는 대만 사법원의 판결, 헌법재판소 해석 및 기타 법원 결정 등 공개 데이터를 활용하여 기존의 중국어 모델을 개선한다. 이 모델은 대만어와 하카어 등 다양한 언어를 지원하며, AI를 농업, 교육 및 자동화 산업에 통합하는 것을 목표로 한다.

1. 4. AI 제품 및 시스템 평가. 디지털부(MODA)는 국립 사이버 보안 연구소 및 산업기술연구원과 협력하여 인공지능 평가 센터를 설립했다.

이 센터는 AI 제품 인증 메커니즘과 가이드라인을 마련하고, 더욱 안전하며 해석 가능한 AI 응용 프로그램을 보장하기 위한 시스템을 구축할 것이다.

AI 문제에 대한 법적 대응

AI 기술이 빠르게 발전하고 있음에도 불구하고, 법적 문제들은 여전히 남아 있다. 입법원은 AI 또는 딥페이크 기술이 사기 또는 선거 조작 목적으로 사용되는 사례를 우선적으로 다루고 있다. 한편, MODA는 데이터 거버넌스를 위한 법적 프레임워크를 제정 및 수정 중이다. NSTC 초안 AI 기본법은 부처 간 협력과 AI에 대한 통합 규제의 기반을 마련하기 위한 것이다. 이러한 노력은 세 가지 핵심 분야로 나뉜다:

1. 1. 사기를 방지하고 딥페이크를 규제함. AI는 허위 정보를 유포하거나 사기를 저지를 목적으로 무기화될 수 있다. 이러한 위험에 대응하기 위해, 정부는 AI를 활용하여 AI 사기를 방지하는 전략을 채택했다. 국립 사이버 보안 연구소는 AI 알고리즘을 활용해 봇 계정과 의심스러운 광고를 감지, 신속한 차단 및 제거 조치를 가능하게 하고 있다.

딥페이크 또는 기타 합성 기술이 선거의 공정성을 훼손하고 자금 세탁이나 사기를 촉진할 수 있다는 점을 인식하여, 형법, 사기 범죄 위험 방지법, 공직선거 및 소환법, 대통령 및 부통령 선거법, 자금 세탁 방지법에 관련한 개정안이 시행됐다. 이러한 개정안들은 딥페이크 기술을 사용해 허위 정보를 유포하거나 범죄를 저지르는 행위의 형사 책임을 규정하고 있으며, 온라인 광고 플랫폼에는 해당 기술이 사용된 사례를 공개하도록 요구하고 있다.

1. 2. 데이터 거버넌스 및 활용. 개방형 정부 데이터: AI 연구 및 개발에 있어 고품질 훈련 데이터셋은 필수적이다. MODA는 정부 문서 시스템 및 다양한 공공 데이터를 포함한 공식 기록에 대한 접근성을 확대하고, TAIDE와 같은 대규모 언어 모델을 위한 수만 개의 데이터셋을 통합하는 것을 목표로 하고 있다.

데이터 혁신 관련 새로운 법률: MODA는 개방 데이터를 보다 쉽게 접근할 수 있도록 하고, 저비용 또는 무상으로 공유 데이터를 제공하며, 신뢰할 수 있고 품질도 좋은 데이터 교환을 촉진하는 산업 간 데이터 공유 메커니즘을 구축하기 위해 ‘데이터 혁신 및 활용촉진법’을 입법 중에 있다.

데이터 사용 위험 완화: 데이터 사용은 저작권법, 개인정보 보호법 및 기타 관련 규정의 적용을 받는다. 지식재산권청은 AI 사용에 관한 결정을 내렸으며, 로고 이미지의 저작권 소유자의 동의나 허가 없이 AI 기술을 사용하여 산출물을 생성하는 경우 타인의 저작물을 복제한 것으로 간주될 수 있다고 지적했다. 이에 행정원 부총리는 모든 관련 부처와 기관이 참여하는 규제 검토를 주도하고 있으며, 보다 유연한 데이터 거버넌스 체계 구축을 목표로 하고 있다.

동시에 개인정보 보호법 개정안을 대폭 업데이트하여 도입할 예정이며, 개인정보보호위원회 준비기구가 설립되어 ‘데이터가 디지털 경제의 새로운 석유’로 여겨지는 시대에 개인정보 보호를 강화할 것이다.

1. 3. 인공지능 기본법 초안. 인권, 개인정보 보호, 산업 경쟁력 및 공공 이익에 부합하도록 AI 기술을 확립하기 위해, NSTC는 2024년에 인공지능 기본법 초안을 마련했으며, 2025년 행정원에 제출되어 검토를 받고 있다. 행정원은 이를 입법원에 회부하여 제정할 것으로 기대된다. 초안의 주요 내용은 다음과 같다:

AI의 정의 및 범위: AI의 정의는 규제의 적용 범위를 결정하므로 매우 중요하다. 이 법안 초안은 기본적인 지식 기반 알고리즘부터 정교한 신경망에 이르기까지 다양한 AI 기술과 접근 방식을 폭넓게 포괄하고 있다.

AI 개발 기본 원칙: 이 법안 초안은 지속 가능성, 인간 자율성, 개인정보 보호, 데이터 거버넌스, 보안, 투명성, 설명 가능성, 공정성 및 책임성을 비롯한 AI 연구개발의 기본 원칙을 제시한다. 이 법은 OECD, G7 및 EU AI법과 같은 국제적 기준을 반영하고 있으며, 특히 민감하지 않은 데이터를 촉진하고 활용할 필요성을 강조한다.

위험 기반 관리: MODA는 국제 기준에 따라 AI 위험을 분류할 권한을 부여받게 되며, 해당 분야별 규제 당국에 의해 집행될 예정이다. 이 규정은 안전 범위 내에서 AI 혁신을 촉진하고 아동 복지, 소비자 보호, 노동 시장 및 데이터 프라이버시에 미칠 수 있는 잠재적 영향을 강조하는 데 목적이 있다.

데이터 프라이버시 및 개방성: AI 모델에 충분하고 고품질이면서 민감하지 않은 데이터를 확보함과 동시에 개인 데이터를 보호하기 위해, 데이터 개방성과 거버넌스는 의무화되어야 한다.

적응형 법제 및 부처 간 협력: 각 부처와 기관은 AI의 급격한 기술 발전에 맞춰 자국의 규제 체계를 검토하고 행정원에 보고하여 이를 조율해야 한다. 예를 들어, 노동부는 AI가 노동력에 미치는 영향을 중심으로 하는 직업훈련 프로그램을 시행할 수 있고, 환경부는 AI의 상당한 에너지 소비와 환경적 지속 가능성의 균형을 맞추기 위해 타 부처와 협력할 필요가 있다.

결론

대만은 첨단 ICT 및 반도체 산업과 서버 제조 분야의 전문성을 바탕으로 전 세계 AI 분야에서 중요한 역할을 수행하고 있다. 이러한 성과는 대만의 산업적 회복력과 기술적 깊이를 보여줄 뿐만 아니라, AI 인재 육성, 산업 혁신 촉진 및 AI 법제 정비에 이르는 정부의 효과적인 정책 수립을 강조하고 있다. 대만은 AI 시대에 발맞춰 포괄적인 정책 및 법률 체계를 성실히 구축하고 있으며, AI 시대로 나아가는 대만의 의지와 효율성을 입증하고 있다.

LEE AND LI, ATTORNEYS-AT-LAW
8F, No 555, Sec 4, Zhongxiao E Rd
Taipei 110055, Taiwan, ROC
전화: 886 2 2763 8000
이메일: attorneys@leeandli.com
www.leeandli.com/EN

맨 위로 돌아가기