인도의 AI 개발을 위한 법적 체계

인도는 기술의 빠른 확산이 변화하는 규제 환경과 맞물리는 인공지능(AI) 혁명의 중요한 분기점에 서 있다. AI는 산업 및 소비자 분야 전반에 걸쳐 점점 더 널리 사용되고 있지만, 인도의 AI 규제는 아직 초기 단계에 머물러 있으며 혁신과 위험 완화 사이의 균형을 모색하고 있다.

인도 정부는 AI 리더십을 위해 약 117억 달러를 배정했으며, 전자정보기술부(MeitY)가 전문 위원회를 통해 정책 개발을 주도하는 집행 기관 역할을 하고 있다.

인도 AI 미션은 전략적 프로그램과 민관 협력을 통해 컴퓨팅의 민주화(인도 반도체 미션과 함께), 데이터 품질 향상, 자생적 역량 구축, 인재 유치, 산업 협력 촉진 등 혁신을 주도하는 핵심 촉매 역할을 하고 있다.

인도 규제 당국은 자생적 역량을 구축하고 고유한 국내 과제를 해결하기 위한 ‘AI 주권’ 달성을 추구하면서, 이를 실현하기 위해 외국의 체계에 과도하게 의존하거나 도입하지 않으려고 노력하고 있다.

본 기고문에서는 인도 법률상 AI 개발, 학습 및 활용의 주요 측면에 대한 핵심 입장을 살펴볼 예정이다.

지식재산

1957년 저작권법은 AI 학습과 결과물의 소유권에 핵심적인 역할을 한다. 학습 데이터셋에는 보호받는 저작물이 포함될 수 있으며, AI의 결과물 또한 ‘2차적 저작물’로 간주될 수 있기 때문이다.

저작권이 있는 저작물을 전체 또는 전부 복제하는 행위에 대해서는 사법적 보호가 없다. 복제는 저작권자의 배타적 권리이며, 상업적 목적으로 무단 복제하는 것은 침해에 해당한다.

복제 여부를 판단할 때, 법원은 사안별로

1. 1. 복제된 내용의 양과 가치,
   2. 복제의 목적,
   3. 원저작물과 복제물 간의 경쟁 가능성 등 세 가지 기준을 적용하고 있다.

공정 이용은 저작권 침해에 대한 주요한 항변 사유다. 저작권법 제52조 제1항 (a)에 따르면, 다음의 경우에 저작물을 공정하게 이용하는 것은 침해가 아니다:

1. 1. 연구를 포함한 사적 또는 개인적 사용,
   2. 해당 저작물이나 다른 저작물에 대한 비평 또는 논평,
   3. 시사 또는 시사 사건의 보도.

하지만 ‘공정 이용’의 범위는 각 사안에 따라 달라진다. RG Anand 대 Delux Films & Ors 사건과 The Chancellor Masters and Scholars of the University of Oxford 대 Rameshwari Photocopy Services 사건에서 법원은 변형적 이용이 아이디어와 표현의 이분법에서 핵심적 역할을 한다고 판시했다. 목적이 ‘공정 이용’에 해당하거나 저작권법 제52조에 따른 제한적이고 구체적인 예외에 해당하는 경우에는 일정 정도의 복제가 허용될 수 있다.

AI를 훈련하기 위해 저작권이 있는 자료를 사용하는 경우, 공정 이용으로 인정받으려면 그 사용이 ‘변형적’임을 입증해야 한다. 그러나 미국에서의 ‘공정 사용’(fair use)과 달리, 인도에서의 ‘공정 이용’(fair dealing)은 그 범위가 제한적이며, 인도 법원은 아직 이를 AI 훈련에 명확하게 확장하지 않았다.

수집-토큰화-학습 과정에 기반한 AI 훈련, 방대한 학습 데이터의 양, 그리고 AI 모델의 학습 및 배포 방식에 대한 기술의 급속한 발전은 저작권 침해를 평가하는 기존의 전통적 체계에 부합하지 않는다.

델리 고등법원은 현재 ANI 대 OpenAI 분쟁에서 다음과 같은 쟁점들을 심리하고 있다. 즉,

1. 1. 저작권이 있는 데이터를 저장하는 것이 침해에 해당하는지,
   2. 학습 데이터를 사용해 생성된 출력물이 2차적 저작물에 해당하며 침해가 되는지,
   3. OpenAI가 “공정 이용” 예외를 주장할 수 있는지,
   4. OpenAI의 서버가 해외에 있을 때 인도가 관할권을 가지는지 여부이다.

법원의 판결은 많은 기대를 모으고 있으며, AI 훈련과 저작권 주장에 대한 미래 방향을 제시할 것으로 보인다.

법원이 명확한 입장을 내릴 때까지, 저작권자와 AI 모델 소유자의 정당한 이익 사이의 균형은 아직 이상적인 목표에 머물러 있으며, 그 결과로 상업적, 금전적 합의가 이뤄질 가능성이 있다. 이 문제에 대해 균형 잡힌 해결책을 모색하는 것은 인도만은 아니다.

IT 입법

AI는 일반적으로 비개인 정보를 기반으로 학습된다. 그러나 데이터 스크래핑 과정에서 개인 정보가 수집되고 처리될 수 있다. 또한 AI 도구가 배포된 이후에는 사용자로부터 새로운 데이터(개인정보 또는 그 외의 정보)가 수집 및 처리되어 맞춤형 결과를 제공하게 된다.

개인정보의 수집 및 이용은 2000년 정보기술법(IT법), 2011년 IT(합리적 보안 관행 및 절차와 민감한 개인 데이터 또는 정보) 규칙(SPDI 규칙), 그리고 최근 제정됐으나 아직 시행되지 않은 2023년 디지털 개인 데이터 보호법(DPDPA)에 의해 규제된다.

IT법과 SPDI 규칙은 민감한 개인 데이터 및 정보를 수집, 처리, 공개 또는 이전할 때 명시적인 동의를 받도록 요구하고 있다. DPDPA는 이제 ‘민감한’ 정보에만 국한하지 않고 모든 개인 데이터를 데이터 주체의 자유롭고 구체적이며 충분히 설명된 동의 하에만 수집 및 처리하도록 의무화하고 있다.

데이터 주체는 자신의 개인정보가 수집되고 있다는 사실, 그 목적, 그리고 해당 정보에 대한 접근, 정정, 갱신, 삭제 또는 이용 동의 철회 권리에 대해 통지받아야 한다.

DPDPA 제17조 제2항 (b)는 ‘연구, 보관 또는 통계 목적’으로 개인 데이터를 처리하는 경우, 해당 데이터가 ‘데이터 주체에 대한 특정한 결정’에 사용되지 않고, 정해진 기준에 따라 처리되는 경우에는 이를 면제하고 있다.

AI 학습이 이론적으로 ‘연구’ 또는 ‘통계 목적’에 해당할 순 있지만, 최종적인 판단은 정부가 정하는 기준과 AI 학습이 특정 조건, 특히 개별 데이터 주체에 대한 특정한 결정을 내리지 않는다는 요건을 충족하는지에 달려 있다.

2021년 IT(중개자 지침 및 디지털 미디어 윤리 강령) 규칙은 중개자(AI 기업 포함)에게 침해적, 음란물 또는 사칭 콘텐츠의 호스팅을 방지하기 위한 적절한 주의 의무를 부과하고 있다.

AI 기업들이 IT법의 세이프 하버 조항에 따라 보호를 요청할 수는 있지만, AI 시스템이 딥페이크를 생성하고 허위 정보를 확산시킬 수 있는 위험성 때문에 포괄적인 보호가 이뤄질 가능성은 낮다.

MeitY의 2024년 권고안은 편향 제한 및 AI 생성 결과의 오류 가능성에 대한 표시를 요구했으나, 권고안이 철회됐고 명확한 기준이 부재함에 따라 이행 여부는 여전히 불확실하다.

소비자 보호

AI 도구는 2019년 소비자보호법에 따라 ‘서비스’의 정의에 포함될 가능성이 높다.

제조물 책임 제도에 따르면 결함이 있거나 편향된 알고리즘, 부적절한 안전 프로토콜, 민감한 개인정보를 유출하는 안전하지 못한 소프트웨어 등으로 인해 소비자에게 피해가 발생한 경우 AI 제품/서비스 제공자에게 책임을 물을 수 있다. 직접적이고 고위험이 수반되는 사용 사례에서는 책임이 더욱 엄격하게 적용될 가능성이 높다.

부문별 규정

인도에서 중앙 AI 관련 법률이 개발되는 가운데, 각 분야의 규제 기관들은 해당 시장과 우려 사항에 맞춘 특정 공지와 지침을 발행하여 관련 공시를 의무화하고 있다.

1. 1. 인도 증권거래위원회(SEBI)
      1. 중개자(2019년 1월 4일 공지): AI 애플리케이션 및 시스템을 제공하거나 사용하는 경우에 대한 보고 요구 사항.
      2. 뮤추얼펀드 생태계의 모든 기관(2019년 5월 9일 공지): AI 애플리케이션 및 시스템을 제공하거나 사용하는 경우에 대한 보고 요구 사항.
      3. 뮤추얼펀드(2024년 6월 27일 공지): AI 시스템을 사용하는 모든 뮤추얼펀드가 분기별로 사용 현황을 보고하여 완전한 정보 공개를 보장해야 함.
      4. 투자 자문사(2024년 12월 16일 규정; 2025년 1월 8일 지침): 규모와 범위에 관계없이 운영에서 AI 사용 사실을 반드시 공시해야 함.
      5. 리서치 애널리스트(2025년 1월 8일 지침; 2024년 12월 16일 규정): 규모와 상황에 관계없이 AI 도구 사용 사실을 반드시 공시해야 하며, 고객 데이터의 보안, 기밀성, 무결성에 대해 전적으로 책임을 져야 함.
      6. 중개자(2025년 2월 10일 규정): 규모와 상황에 관계없이 AI 도구를 사용하는 모든 자는 이해관계자 데이터의 프라이버시, 보안, 무결성, 그리고 그로부터 발생하는 결과물 및 관련 법률 컴플라이언스에 대해 전적으로 책임을 져야 함.
   2. 인도 중앙은행
      1. 2025년 8월 발표된 금융 부문에서 책임 있고 윤리적인 AI 활성화 체계(FREE-AI) 개발에 관한 보고서는 혁신과 위험의 균형을 맞추는 방식으로
      2. 입법할 것을 입법자들에게 촉구하고 있다. 이 보고서는 AI 도입을 위한 일곱 가지 핵심 ‘수트라’(원칙)를 제시한다: 신뢰 기반; 사람 우선; 제약보다 혁신; 공정성과 형평성; 책임성; 설계 단계부터 이해 가능성; 그리고 안전성, 회복력, 지속 가능성이다.
      3. 이 보고서는 인프라, 역량, 정책, 거버넌스, 보호, 보증 등 여섯 가지 전략적 축 아래 26가지 권고안을 제시하고 있다. 또한 규제 대상 기관들이 데이터와 컴퓨팅에 대한 접근을 민주화하기 위해 공동 인프라를 구축하고, AI 혁신 샌드박스를 조성할 것을 추가로 권고하고 있다.
   3. 통신부(DoT)

광범위한 이해관계자 협의와 전문가 의견을 바탕으로, 통신부는 2023년 인공지능 시스템의 공정성 평가 및 등급 산정을 위한 새로운 기준을 발표했다. 이 기준은 AI 시스템의 공정성을 평가하고 등급을 매기는 절차를 구체적으로 제시하고 있다.

핵심 시사점

AI는 국경을 초월하지만, 인도가 독특한 사회경제적 환경에 맞춰 AI 주권을 추구하려면 강력한 감독 기능과 변화하는 글로벌 기준에 부합하는 규제 체계가 요구된다.

세계 5위의 경제 대국인 인도는, 효과적인 규제가 없다면 AI 발전이 불평등을 심화시키고 디지털 격차를 확대할 수 있다는 점을 깊이 인식하고 있다.

AZB & PARTNERS
Villa B8, Withy Pool Villa Complex,
Boat Club Road, R A Puram,
Chennai 600028, India.
전화: +91 44 2434 0145
이메일: chennai@azbpartners.com
www.azbpartners.com