알고리즘에 대한 신뢰 구축: 인도네시아의 신흥 AI 규제 체계

인도네시아는 역내 디지털 생태계에서 주요 플레이어로 부상했으며, AI 도입의 최전선에 점차 자리를 잡고 있다. 정부는 「인도네시아 인공지능 국가 전략 2020-2045: 인도네시아 비전 2045를 향한 AI」를 통해 장기적인 AI 비전을 제시했다. 2023년 Kearney 보고서는 글로벌 비즈니스 트렌드를 분석하며, 2030년까지 AI가 인도네시아 GDP에 3,660억 달러를 기여할 수 있다고 전망했다.

이러한 목표를 추진하는 과정에서 인도네시아의 AI 거버넌스 체계는 여전히 초기 단계에 머물러 있으며, 이는 빠르게 발전하는 기술 환경에 입법 및 제도적 대응을 정합시키는 데 따른 광범위한 과제를 반영한다.

이러한 규제 공백은 책임성을 강화하고 법적 확실성을 제고하며 AI 기술에 대한 대중의 신뢰를 구축할 수 있는 도전과 기회를 동시에 제공한다. 또한 기존 법적 수단, 새롭게 등장하는 정책 이니셔티브, 지속적인 규제 노력 등을 통해 진화하고 있는 인도네시아의 AI 거버넌스 접근 방식은 면밀한 검토가 필요한 분야로 평가된다.

체계 및 거버넌스

AI를 규율하는 기존 법적 수단. 인도네시아는 아직 AI 관련 사항을 직접적으로 규율하는 법률이나 규정을 도입하지 않았다. 대신 AI의 운영 및 활용은 기존의 일반 법률 및 규정에 따라 규율된다. 여기에는 형사 조정에 관한 법률 제1호에 의해 개정된 2026년 「전자정보 및 거래법」(EIT 법) 및 2019년 「전자 시스템 및 거래 제공에 관한 정부령 제71호」에 따라 전자 시스템 운영을 규율하는 규정이 포함된다.

이러한 체계 하에서 AI는 “전자 에이전트”로 해석될 수 있으며, 이는 “특정 전자정보에 대해 자동으로 특정 행위를 수행하도록 설계된 전자 시스템 내 장치로서, 사람이 운영하는 것”으로 정의된다.

그러나 이러한 정의는 AI 시스템을 설명하기에는 불충분하다는 지적이 있다. AI는 단순히 “자동적”으로 작동하는 것을 넘어 “자율적”으로 작동하며, 인간과 유사한 적응적 행동과 복잡한 문제 해결 능력을 보인다. 이러한 자율성은 기존의 이진적 결과를 산출하는 전통적 프로그램과 달리, 개인화되고 맥락에 따른 결과를 생성할 수 있게 한다.

AI의 개발 및 활용을 직접 규율하는 상세 규정이 부재한 상황에서, 통신·디지털부(MOCD)는 2023년 「인공지능 윤리에 관한 회람 제9호(CL9)」를 발표하여 기업 및 전자시스템 운영자(ESOs)가 수행하는 AI 기반 자문, 분석 및 프로그래밍 활동에 대한 가치, 윤리 및 통제에 관한 일반 지침을 제시했다.

구체적으로 AI 운영은 포용성, 보안성, 접근성, 투명성, 신뢰성 및 책임성과 같은 윤리적 가치를 준수해야 한다.

실무적으로 AI 운영자는 데이터 사용과 관련하여 사회 보호 책임을 부담하고, 인간과 관련된 사안에서 AI가 의사결정자로 사용되지 않도록 하며, 차별 및 기타 유해 행위를 방지하고, 리스크 관리 및 위기 관리 요소를 고려해야 한다.

이러한 일반적 규제 체계 외에도 일부 산업에서는 AI 적용이 부문별 규제의 적용을 받는다. 예를 들어 금융 서비스 부문을 감독하는 금융감독청(OJK)은 「인도네시아 은행 AI 거버넌스」를 발표하여 다음을 도입했다:

1. 1. AI 운영 원칙: 신뢰성(은행이 목표 달성을 위해 AI 결과를 신뢰할 수 있음); 책임성(AI 운영자가 시스템의 적절한 작동에 대해 책임을 질 수 있음); 인간 감독(AI 시스템 전 과정에서 인간의 개입 보장); 그리고
   2. AI 시스템 리스크 관리 및 분류 체계(유럽연합 AI 법을 참고한 위험 평가 체계);
   3. 은행의 AI 시스템 도입을 위한 지침으로서, AI 생애주기 전 단계를 포괄하며, 은행의 운영 및 업무 전반에서 AI 활용을 위한 최소 기준으로 기능.

OJK는 또한 「금융기술 산업에서 책임 있고 신뢰할 수 있는 AI를 위한 행동강령」을 도입하여 공정성, 투명성, 설명 가능성 및 인간 감독과 관련된 기준을 제시하고, 데이터 보호 및 소비자 보호 체계 하의 법적 의무를 보완하고 있다.

AI 관련 정책 및 발전 동향. 인도네시아는 아직 AI를 직접적으로 규율하는 포괄적이고 구속력 있는 법적 체계를 도입하지 않았지만, 최근의 변화는 정책 중심 접근 방식이 강화되고 있음을 보여준다.

이와 관련하여 MOCD는 2025년 8월 국가 AI 로드맵 백서를 발표했다. 주요 내용은 다음과 같다:

1. 1. AI 개념 체계, 주요 이슈 분석, 정부 정책 방향 및 전략을 제시하고, 국가 AI 협력 태스크포스 설립을 통해 이해관계자 간 협력과 법제도 정합성을 도모;
   2. AI 생애주기(구상, 데이터 수집, 전처리, 처리, 후처리, 평가)를 제시하고 각 단계별 리스크 최소화 원칙 도입;
   3. 존엄성, 정의, 책임성, 개인정보 보호, 투명성, 보안성, 지속가능성, 무결성, 포용성, 인간 개입 및 감독 등 AI 거버넌스 핵심 원칙 제시.

AI 로드맵을 보완하기 위해, MOCD는 CL9에서의 윤리적 프레임워크를 강화하기 위한 AI 윤리 가이드라인도 발표했다. 이 가이드라인은 기업이 자사의 AI 시스템이 윤리 기준에 부합하는지를 평가할 수 있도록 일반적인 자기점검 설문을 제공한다. 여기에는 AI 편향을 어떻게 탐지하고 완화할 것인지, 명확하고 충분한 책임성과 구제 조치가 마련되어 있는지, 그리고 AI 의사결정 과정이 이용자에게 설명 가능하도록 설계되어 있는지에 대한 질문이 포함된다.

한편, 국가의 법·규제를 조화시키기 위한 보다 광범위한 노력의 일환으로, 정부는 AI에 관한 대통령령 제정을 준비 중이다. 이는 AI 분야에서의 책임성과 보안과 관련된 포괄적 정책 이슈를 다루고, 각 부처 및 기관 간 AI 관련 이니셔티브를 정렬하기 위한 중앙 기준으로 기능하는 것을 목적으로 한다.

해당 대통령령이 제정될 경우, 각 분야별 규제 기관들이 자사의 AI 관련 규제 및 정책을 이에 맞추도록 요구함으로써 규제의 조화를 촉진할 것으로 예상된다. 다만, 이 대통령령이 언제 공포될지에 대해서는 아직 확정된 일정이 없는 상태이다.

주요 법적 과제

최근의 진전에도 불구하고, 인도네시아의 AI 거버넌스에는 여전히 다음과 같은 주요 과제가 존재한다.

1. 1. AI에 대한 통일된 법적 정의의 부재와 분절된 규제 접근. AI에 적용될 수 있는 다양한 법률과 규정이 존재함에도 불구하고, 인도네시아에는 아직 AI에 대한 통일된 정의가 마련되어 있지 않다. 이는 AI를 다른 프로그래밍 모델과 마찬가지로 단순한 전자적 행위자로 볼 것인지, 아니면 자체적으로 의사결정을 내릴 수 있는 새로운 기술로 볼 것인지에 대한 불확실성을 초래한다. 현재 AI를 규율하는 규제 환경 역시 분절된 상태에 머물러 있다. 이러한 접근은 권한의 중복, 기준의 불일치, 규제 공백을 초래할 수 있다. 그 결과, 기업은 준수 요건에 대한 불확실성에 직면할 수 있으며, 규제 당국 역시 효과적인 감독을 위해 조율하는 데 어려움을 겪을 수 있다. 따라서 효과적인 AI 거버넌스를 위해서는 기관 간 협력을 강화하고 보다 통합된 규제 프레임워크를 구축하는 것이 중요하다.
   2. 개인정보 보호 위험
      AI 활용이 확대됨에 따라 개인정보 보호(PDP)에 대한 우려도 커지고 있다. AI 개발 과정에서는 대규모 데이터 수집 및 처리가 수반되며, 이 과정에서 공개적으로 이용 가능한 정보를 스크래핑하여 개인 데이터 및 민감한 개인정보가 포함될 수 있다. 개인이 자신의 데이터가 AI 시스템의 학습개발에 사용되고 있다는 사실을 인지하지 못하는 경우, 법적 근거, 투명성, 책임성 문제 등이 발생한다. 이러한 위험을 해결하기 위해 AI 개발자는 개인정보 보호법(PDP 법) 및 향후 제정될 시행 규정에 부합하도록 관련 관행을 설계해야 한다.
   3. 책임 및 법적 책임 체계의 불명확성. 인도네시아 법은 AI를 독립된 법적 주체로 인정하지 않으며, AI로 인해 발생한 손해에 대한 책임은 전자정보거래법(EIT 법) 및 인도네시아 형법과 같은 보다 광범위한 법적 틀에 따라 판단된다. 따라서 책임은 AI를 위법하게 설계, 배포 또는 사용한 개인이나 기업에만 귀속된다. 다만 현재까지 AI 사용으로 인해 발생한 책임 문제를 명확히 규정하는 판례나 구체적인 법적 규정은 존재하지 않는다.

결론

인도네시아가 다양한 산업 전반에 걸쳐 AI 도입을 가속화함에 따라, 핵심 과제는 기술적 역량이 아니라 거버넌스 준비 수준에 존재한다.

AI의 정의에 대한 불확실성, 개인정보 보호 위험, 아동 보호의 미비, 그리고 책임 및 책임성에 관한 미해결 문제 등 주요 법적 공백 또한 여전히 존재한다.

MOCD의 AI 로드맵은 AI 개발을 유도하고 기관 간 정렬을 도모하기 위한 정책적 협력 노력을 반영하고 있다.

이러한 이니셔티브가 중요한 기반을 제공하는 것은 사실이지만, 실질적인 진전은 법적 확실성과 효과적인 집행을 보장하는 구속력 있는 법적 수단으로의 편입 여부에 달려 있다.

Ali Budiardjo Nugroho Reksodiputro
(ABNR Counsellors at Law)
Graha CIMB Niaga, 24th Floor
Jl. Jend. Sudirman Kav. 58
Jakarta 12190
전화: +62 21 250 5125/5136
팩스: +62 21 250 5001
이메일: info@abnrlaw.com
www.abnrlaw.com