기업을 위한 일본의 AI 규제

AI의 발전 속도가 기하급수적으로 빨라지고 있다. 이에 대한 규제는 아직 초기 단계에 있지만, 하나의 극적인 혁신이 놀라운 속도로 다음 혁신으로 이어지는 모양새다. 예술, 문학, 언론 보고서, 번역, 심지어 학술 논문까지 만들어내는 생성형 AI 기술은 단지 하나의 사례에 불과하다.

역사적으로 보더라도, ‘중대한’ 기술이 등장하면 사회적, 정치적, 법적 문제가 더불어 나타나기 때문에 새로운 기술이 사회에 긍정적인 영향을 미칠 수 있도록 충분한 주의를 기울여야 한다. 아마도 AI는 인류 역사상 가장 영향력 있는 발명품일 것이다. 기업들은 이미 지능형 자동화 혜택을 누리고 있지만 인권, 윤리, 개인정보 보호, 편견, 노동권 등 ‘문명을 정의하는’ 수많은 문제를 제기하고 있다고 해도 과언이 아니다.

AI에 대한 글로벌 규제 기준은 아직까지 확립되어 있지 않고, 지금까지 자유민주주의 국가들은 위험과 이익의 균형을 맞추기 위해 다양한 접근방식을 채택하고 있다. 과도한 규제가 혁신을 저해할 것이라는 부분에 대해서는 한결같이 우려하고 있다.

그럼에도 불구하고, 2023년 12월 EU는 유럽 AI 사무국이 감독할 특정 디지털 환경을 대상으로 하는 AI 법을 통해 포괄적이고 구속력이 있는 규제로 방향을 잡았다. 영국은 기존 규제 기관들의 ‘관리 업무’를 분담하는 한층 기업 친화적인 접근방식을 선택했다. 연방 AI 권리장전(Bill of Rights)에 대한 요구와 연방 기관들의 AI 규제 계획 수립을 지시하는 최근의 대통령 행정명령이 있기는 했지만, 미국도 영국의 노선을 따라 발전하고 있다.

일본은 AI 규제에 대한 독자적인 접근방식을 개발하고 있다. 전통적으로 민법 체계를 따르는 일본은 일부 법률 분야에서 영국과 미국의 관습법 방식을 따르고 있고, 정부 부처들은 AI라는 새로운 법적 문제와 관련한 가이드라인과 기존 법의 내용을 발표하고 있다.

업계 가이드라인

2024년 1월, 총무성(總務省)과 경제산업성(經濟産業省)은 지난 2023년 5월 G7 히로시마 정상회의에서 ‘히로시마 AI 프로세스 종합 정책 프레임워크(Hiroshima AI Process Comprehensive Policy Framework)’를 마련한 데 이어 기존의 원칙과 가이드라인을 업데이트하고 통합한 ‘기업을 위한 AI 가이드라인 초안’을 발표했다.

이 가이드라인은 기업 및 정부 기관의 AI 개발자, 제공자 및 사용자를 대상으로 하고, 비업무용 사용자는 제외된다. 데이터 취급에 대한 책임은 개발자와 제공자가 부담해야 하기 때문에 데이터 제공자도 제외된다.

이 가이드라인은 인간의 존엄성, 다양성과 포용성, 지속 가능한 사회라는 3 가지 기본 가치를 AI 사회의 기본 가치로 제시한다. 또한 인간 중심, 안전, 공정성, 개인정보 보호, 보안, 투명성, 책임, 교육/이해력, 공정 경쟁 및 혁신이라는 10가지 공통 원칙을 중심으로 구성된다. 이 가이드라인은 사업 목적의 AI 개발자, 제공자 및 사용자가 다음과 같은 방식으로 공통 원칙에 따라 사람과 환경을 고려할 것을 요구한다.

• 데이터 수집 및 관리 절차와 알고리즘 측정값을 통해 AI 개발 및 사용의 편향성 방지

• 보안 조치 (예: AI 개발 중 검증 가능성 보장)

• 개인 정보 보호 (예: 부적절한 입력, 개인 정보 등)

• 확정된 규칙과 절차가 아니라 여러 이해관계자들이 지속적으로 신속하게 번갈아 진행하는 환경/위험 분석, 목표 설정, 시스템 설계, 운영 및 평가에 대응하는 민첩한 관리. 가이드라인 초안에서는 관리 실행 항목을 제공하고, 부속자료에서는 실제 사례를 제공한다.

고급 AI 분야의 사업 행위자는 모든 AI 행위자를 위한 히로시마 프로세스 국제 지침 원칙과 고급 AI 시스템을 개발하는 조직을 위한 히로시마 프로세스 국제 행동 강령을 준수할 것을 권장한다. 또한 고급 AI 시스템 개발자는 고급 AI 시스템을 개발하는 조직을 위한 히로시마 프로세스 국제 행동 강령을 준수해야 한다.

교육 및 의료 서비스 제공업체의 생성형 AI 사용과 같은 분야별 가이드라인도 발표되었다. 해당 규정은 구속력이 없지만, 일본 내 AI 행위자는 이러한 가이드라인과 기타 관련 지침을 숙지하고 따라야 한다.

AI 문제에 대한 기존 법

일본은 가이드라인 외에도 산업별 법안이 아닌 기존 법으로 AI를 관리하고 있다. AI의 개발, 배포 및 사용은 다른 사업 활동과 마찬가지로 저작권법, 개인정보보호법, 부정경쟁방지법, 독점금지법, 경제안보촉진법, 변호사법 등의 적용을 받는데, 몇 가지 예를 들면 다음과 같다.

저작권법. AI는 학습/개발 과정에서의 침해, 생성 및 사용 과정에서의 침해, AI가 생산한 결과물에 대한 저작권 침해 문제를 제기한다. 예를 들어, AI 지식 구축은 저작권 대상이 될 수 있는 정보를 활용한다.

원칙적으로, 저작물을 사용하려면 저작권자의 허락이 필요하다. 다만, ” 저작물에 표현된 아이디어나 감정을 본인 자신이 향유하기 위한 목적 또는 다른 사람이 향유하도록 하기 위한 목적”이 아닌 경우는 허가를 받지 않아도 되는 ‘특별한’ 예외 사항으로 인정된다. 그러나 사용자에게 향유의 목적(예: 과대적합(overfitting))이 있는 경우에 해당 사용자는 금전적 손해배상 및 금지명령구제(예: 학습한 모델의 폐기) 등 저작권 침해 소송을 당할 수 있다.

AI의 생성 및 사용 과정에서의 침해는 ‘마치 사람이 AI를 사용하지 않고 저작물을 창작한 것처럼’ 기존의 침해 기준(기존 저작물과의 유사성 및 의존성)을 통해 판단한다. 생성 및 사용 단계에서의 침해는 AI 사용자는 물론 생성형 AI 제공자에게도 책임을 물을 수 있다. AI가 생성한 저작물의 저작물성(copyrightability)은 저작물에 대한 전통적인 해석을 따른다. 생성된 AI에게 주어진 ‘지시’가 표현으로 이어지지 않는 ‘아이디어’에 불과한 경우에는 창작성이 인정되지 않아 저작물의 저작권을 취득할 수 없다.

개인정보보호법. AI를 통해 개인정보를 이용하면 기존 개인정보보호법의 적용을 받는다. 생성형 AI (예: ChatGPT를 제공하는 OpenAI) 제공자가 생성형 AI 개발을 위해 개인정보를 수집하려는 경우에는 이용 목적을 명확하게 표시하여 개인정보를 취득했는지, 실제 이용 방법이 이용 목적을 벗어나지 않는지 또는 인종이나 신념 등 민감한 정보 취득 규칙을 위반하지 않았는지 확인해야 한다. 2023년 6월, 개인정보 이용 목적을 일본어로 고지하고 민감한 정보는 ‘적절한 절차를 통해’ 취득하도록 요청하는 경고문을 OpenAI에 발송했다.

생성형AI 사용자도 개인정보에 주의할 필요가 있다. 예를 들어, 직원의 개인정보를 관리하는 회사에서 운영 효율성을 높이기 위해 생성형 AI를 사용할 때에는 개인정보를 입력할 수 있다. 이러한 경우, 관련 법을 위반하지 않도록 주의를 기울여야 한다.

개인정보를 사용하여 생성형 AI를 학습시키는 경우, 정보를 입력하는 당사자는 관련 법을 위반하면서 제3자에게 개인정보를 제공한 것으로 (또는, 외국의 생성형 AI를 사용하는 경우에는 해당 개인정보를 외국에 전송한 것으로) 간주될 수 있다.

경쟁법. 일본 정부는 AI의 독점금지법 위반 여부에 대해 면밀히 조사하고 있다. 2021년 3월, 일본 공정거래위원회가 후원하는 ‘알고리즘/AI와 경쟁 정책’이라는 제목의 보고서가 발표되었다. 이 보고서는 가격 책정 및 가격 조사 알고리즘이 가격 경쟁을 촉진할 수 있지만, 사용 방법에 따라서는 경쟁업체가 가격 조정, 경쟁 사용자 간의 거래 방해, 소비자 약탈적 가격 책정, 의도적인 순위 조작 등을 위해 AI를 사용할 수 있다고 명시하고 있다.

경제안보촉진법. 2022년 5월, AI는 “특정 핵심 기술”(외국에서 국가 안보를 저해하기 위해 사용하는 경우 포함)로 지정되었다. 이에 따라 AI의 연구 개발 촉진을 위한 정부 지원이 가능하게 되었지만, 이와 동시에 기술 해외 유출, 영업비밀 보호, 건전하고 공정한 연구 보장에 대한 대책도 마련해야 한다.

일본의 AI 규제 체계가 단편적이거나 또는 충분하지 않은 것으로 보일 수 있다. 그러나, ‘심층적으로 검토한’ 정부와 업계의 가이드라인과 기존의 법을 AI 시나리오에 적용하는 지금과 같은 ‘가벼운’ 접근방식은 AI 혁신을 처음부터 차단하거나 글로벌 경쟁력을 해치지 않으면서 사회와 개인의 권리를 보호하려는 의도를 엿볼 수 있는 부분이다.

이 정책에 법적 구속력은 없지만, AI 개발자와 제공자 및 사용자가 잘 숙지하고 따라야 할 ‘사전 예방적’ 가이드라인을 제시하고 있다. AI와 관련한 법적 분쟁이 발생하는 경우, 당사자들이 가이드라인을 준수했는지 여부가 결과에 영향을 미칠 수 있다. AI가 일본 사회에서 활용되고 있는 상황에서 이러한 “관망(wait and see)’ 전략이 ‘사후 대응적’으로 보이기도 하지만, 분명 일본 내 AI 실상에 유연하게 대처할 수 있을 것이다.