인공지능(AI)의 지능적 감시 필요성

인공지능(AI)이 우리 세상을 변화시키고 있다. 그러나 윤리적 영향과 위험에 대한 우려가 커지고 있는 것도 사실이다. 유럽연합(EU)은 AI 기술의 개발 및 사용을 위한 포괄적인 규제 프레임워크인 AI법을 채택함으로써 중요한 조치를 취했다.

이 법은 시스템의 위험과 잠재적 피해에 따라 AI 제공자와 사용자에게 의무를 부과한다. 개인의 안전에 용납할 수 없는 위협을 가하는 시스템은 금지된다. 위협에는 개인의 약점이나 사회평가시스템(social scoring)을 이용하는 잠재적인 또는 의도적인 조작 방법이 포함된다. 사회평가시스템 사회적 행동, 사회 경제적 지위 또는 개인적 특성에 따라 개인을 분류하는 시스템을 의미한다.

이 법은 공공 장소에서의 실시간 생체 인식 시스템 사용, 사건 발생 후 원격 생체 인식 시스템 사용(심각한 범죄 수사를 위한 법 집행기관 및 사법기관 제외) 및 성별, 인종, 민족, 종교와 같은 민감한 특성의 생체 인식 분류 등 AI의 침해적이고 차별적인 사용을 금지한다.

프로필, 거주지 또는 과거 범죄 행위를 분석하는 예측 치안 시스템 법 집행, 국경 통제, 직장 및 교육 기관의 감정 인식 시스템; 얼굴 인식 데이터베이스를 만들기 위해 소셜 미디어나 CCTV에서 생체 데이터를 무제한 수집하는 것도 금지된다. 이는 인권, 특히 사생활 보호권을 침해한다.

이 법은 개인의 안녕, 안전, 기본권과 환경에 잠재적인 해를 끼칠 수 있는 고위험 영역의 정의를 포함합니다. 여기에는 정치 캠페인에서 유권자를 조작하는 AI 시스템이 포함된다. 고위험 애플리케이션 목록에는 소셜 미디어 플랫폼 시스템이 추가되어 있다.

빠르게 발전하는 AI 부문에서 기반 모델을 제공하는 기업은 규제 대상이다. 이들 기업은 기본권, 건강, 안전, 환경, 민주주의, 법치주의를 보호해야 한다. 해당 기업은 AI의 위험을 평가 및 완화하고 설계, 정보 및 환경 표준을 준수하고, EU 데이터베이스에 등록되어 있어야 한다. 투명성 요구 사항은 ChatGPT와 같은 생성 기반 모델에 적용됩니다. 이러한 요구 사항에는 콘텐츠가 AI로 생성되었음을 공개하고, 불법 콘텐츠 생성을 방지하고, 교육에 사용된 저작권 데이터의 요약을 게시하는 것이 포함된다. 혁신을 촉진하기 위해 이 법은 연구 활동과 오픈 소스 라이선스에서 허용하는 AI 프로그램을 면제한다. 또한 법은 출시 전에 AI를 테스트하기 위해 규제 샌드박스 또는 통제된 환경을 사용할 것을 장려한다.

인도에는 AI에 관한 별도의 법률이 없지만, 제안된 인도디지털법(Digital India Act)은 사용자 피해의 관점에서 AI와 신흥 기술을 규제할 가능성이 높다. 아마도 고위험 AI를 사용하는 중개자에 대한 통제가 확립될 것이다. 고위험 AI는 알고리즘 투명성, 위협 식별 및 취약성 평가를 통해 정의되고 규제될 전망이다. AI 기반 광고 타겟팅 및 콘텐츠 조정이 면밀히 조사된다. 인도디지털법은 헌법에 따라 시민의 권리를 보호하는데 투명해야 한다. AI 기반 도구는 사용자를 보호하기 위해 윤리적으로 사용해야 하며, 따라서 처벌은 위반을 막을 수 있도록 효과적이고 공정해야 한다.

인도디지털법은 기술 발전을 윤리 기준에 맞추고 개인을 보호하며 책임 있는 이행을 보장한다. 투명성은 AI가 언제 영향을 미치는지 고객이 알 수 있도록 하여 소비자 보호를 강화할 것이다. 강력한 규제 프레임워크는 AI 기술에 대한 대중의 신뢰를 높일 수 있다. 인도디지털법의 높은 기준은 인도를 책임 있는 AI 분야의 글로벌 리더로 자리매김하도록 지원할 것이다. 이를 통해 국제 투자와 협력을 유치하고 글로벌 경쟁력을 강화하며 경제 성장을 달성할 수 있다. 규제를 시행하는 것은 어려운 일이다. 연구와 기술 발전이 저해되는 것을 방지하려면 혁신과 규제 사이의 균형이 중요하다. AI의 급속한 발전에는 유연하고 적응 가능한 거버넌스가 필요하지만, 규정을 준수하려면 정부, 업계, 학계의 효과적인 시행과 협력이 필요하다. 명확한 지침을 수립하고 투명성을 촉진하며 AI의 책임 있는 사용을 장려함으로써 인도는 글로벌 리더가 될 수 있다. 이해관계자 간의 신중한 규제와 지속적인 협력은 장애를 극복하는 데 도움이 될 것이다. 이를 통해 인도는 AI를 기반으로 번영의 미래로 나아갈 수 있다.

Ashima Obhan(왼쪽)은 Obhan & Associates 선임 파트너 변호사이며 Aparna Amnerkar는 소속 변호사입니다.

Obhan & Associates

Advocates and Patent Agents

N – 94, Second Floor

Panchsheel Park

New Delhi 110017, India

연락처:
Ashima Obhan
T: +91-9811043532
E: email@obhans.com

ashima@obhans.com

www.obhanandassociates.com