AI 딥페이크와의 전투: 사기의 얼굴에 IP 권리는 없다

AI와 딥페이크 기술의 부상은 전 세계 산업과 법률 시스템에 도전이 되고 있다. 기계 학습을 통해 생성된, 매우 현실적인 오디오비주얼 조작은 기만과 사기에 악용되고 있다. 이러한 기술은 신뢰를 약화시키고 평판을 훼손하며, 금융, 교육, 엔터테인먼트, 정치 분야에서 심각한 재정적 피해로 이어진다.

인도에는 딥페이크를 구체적으로 다루는 포괄적인 법률이 존재하지 않는다. 그러나 법원은 인격권 보호, 상표권 집행, John DOE 명령과 같은 민사상 구제책을 제공하고 있다. 최근의 주요 판례인 Ankur Warikoo and Anr 대 John Doe and Ors 사건에서, 델리 고등법원은 유명한 개인 금융 교육자이자 인플루언서인 Ankur WARIKOO에게 가처분을 인용했다. AI로 생성된 딥페이크 영상이 그의 허가 없이 이미지, 음성, 외모를 사용해 소셜 미디어 플랫폼에 유포됐고, 이를 통해 아무것도 모르는 시청자들이 사기성 주식 시장 조언을 받기 위해 왓츠앱 그룹에 가입하도록 유도됐다. 이 사건은 인도에서 딥페이크 기술의 오용이 금융 사기에 직접적으로 연루된 최초의 사례 중 하나다.

허위 콘텐츠를 제작·유포한 신원 미상의 개인들, 즉 John DOE를 상대로 소송이 제기됐다. John DOE 명령은 법원이 신원이 밝혀지지 않은 자에 대해서도 가처분 명령을 내릴 수 있도록 하며, 이는 가해자를 즉시 특정할 수 없는 디지털 범죄나 지식재산권 침해 사건에서 특히 강력하게 작용한다. 원고와 당국은 정황 증거와 디지털 흔적을 바탕으로 조치를 취할 수 있다.

이 사건에서 피해자들은 잘 알려지지 않은 앱이나 디지털 계정을 통해 투자를 하도록 유도됐으며, 이후 해당 계정이 동결되어 금전적 손실이 발생했다. 영상들은 WARIKOO의 표정, 목소리, 브랜드를 실제와 구분할 수 없을 정도로 정교하게 모방했다. WARIKOO가 개인 재무 분야에서 신뢰받는 인물이었기 때문에, 그의 팔로워들은 이러한 기만에 특히 취약했다.

허위 콘텐츠는 Meta의 브랜드 권리 보호 포털을 통해 신고된 후 사이버 범죄 부서와 이의신청 위원회에도 접수됐지만, 많은 사기성 게시물이 여전히 남아 있었다. 법원은 두 번째 피고인인 Meta가 해당 콘텐츠를 신속하게 삭제하지 않은 점을 비판했다.

법원은 Warikoo의 인격권과 그의 회사인 Zaan WebVeda Pvt Ltd의 사업적 이익을 보호하기 위한 명령을 내렸다. 신원이 밝혀지지 않은 피고들은 AI 및 딥페이크 기술을 포함한 모든 매체를 통해 Warikoo의 초상이나 이미지를 개인적 또는 상업적 목적으로 악용하는 행위가 금지됐다. Meta는 36시간 이내에 모든 침해 URL을 삭제하고, 관련 사용자 정보를 공개하라는 명령을 받았다. 또한 원고들은 향후 딥페이크 콘텐츠를 신고할 수 있는 권한을 부여받았으며, Meta는 이에 대해 신속하게 조치해야 한다.

이 사건은 AI로 생성된 딥페이크가 사생활과 명예뿐만 아니라 재정적 안전에도 심각한 위협이 된다는 점을 보여준다. 원래는 오락이나 시뮬레이션을 위해 개발된 이 기술이 현재는 사칭과 사기 목적으로 악용되고 있다. 유명 인사를 복제하면 범죄의 영향력이 배가되는데, 이는 사기범들이 그들의 명성을 사기의 도구로 활용하기 때문이다. Warikoo 사례처럼, 팔로워들이 해당 인물이 투자 상품을 추천한다고 잘못 믿을 경우 실제로 금전적 피해를 입게 된다.

이러한 문제들은 현재 디지털 생태계 전반에 대한 더 넓은 우려를 반영한다. 소셜 미디어 플랫폼과 같은 중개자들은 삭제 요청에 더 신속하게 대응해야 한다. 반복적인 신고에도 불구하고 Meta가 조치를 취하지 않은 것은 더 강력한 책임성과 효과적인 구제 수단의 필요성을 보여준다. 통신부와 전자정보기술부를 피고로 포함시킨 것은 디지털 안전을 보장하는 데 있어 규제 기관의 역할이 점점 더 중요해지고 있음을 시사한다.

이 사건은 또한 강력한 법률 제정의 필요성을 강조한다. 합성 미디어가 점점 더 현실적이고 쉽게 제작됨에 따라, 법은 신속하고 예방적인 구제책을 제공할 수 있도록 발전해야 한다. 과거에는 주로 유명인에게만 적용되던 인격권이 이제는 디지털 콘텐츠 제작자, 인플루언서, 교육자의 시대에 맞게 더 넓은 보호가 필요하다.

이번 판결은 AI와 딥페이크 사기에 대한 법적 대응에 전환점이 되고 있다. 이번 판결은 새로운 기술적 위협으로부터 개인을 보호하려는 사법부의 의지를 입증하며, 향후 디지털 사칭 사건에 대한 중요한 선례를 마련했으며, 디지털 신뢰는 콘텐츠 제작자뿐만 아니라 플랫폼, 규제 기관, 법원 모두가 함께 지켜야 한다는 점을 분명히 보여주고 있다.

Manisha SINGH 변호사는 LexOrbis의 파트너 변호사이고, Kratika PATEL 변호사는 소속 변호사이다