미녀와 야수들, 그리고 디지털 딜레마

아름다움은 보는 사람의 눈에 따라 다를 수 있지만, 2027년까지 5,000억 달러 규모로 성장할 것으로 전망되는 산업은 또 다른 시각을 보여준다. 창작자 경제는 신뢰와 투명성을 기반으로 하면서도, 각종 미용 제품과 새로운 미의 기준을 끊임없이 홍보하는 정보가 넘쳐나는 독특한 세계다.

그러나 관심을 돈으로 바꾸는 경제 구조 속에서 이러한 흐름은 단순히 가벼운 유행으로 끝나지 않는다. 짧아지는 집중 시간, 변화하는 미의 기준, 그리고 수백만 달러 규모의 브랜드 계약이 걸려 있는 상황에서 최신 트렌드를 선점하려는 경제적 유인은 매우 크다.

GLP-1 계열 약물, 저렴해진 보톡스와 필러, 각종 편집 도구의 도움으로 비현실적인 미적 기준을 구현하는 일은 그 어느 때보다 쉬워졌다. 하지만 기술 발전, 특히 AI 기반 편집 도구의 발달과 함께, 이러한 자원을 이용하는 모든 사람이 이를 긍정적인 방향으로 사용하는 것은 아니다.

최근 인도 유명인들이 자신의 초상과 이미지를 원치 않는 방식으로 무단 사용하는 사례를 막기 위해 잇따라 법원에 도움을 요청하고 있는 것도 그 한 예다. 이는 온라인 세계가 점점 더 두려운 공간으로 변하고 있음을 보여준다.

MEITY 규정, AI 라벨 범위 확대

올해 인도 전자정보기술부(MEITY)는 디지털 방식으로 조작된 콘텐츠를 포함하기 위해 2026년 2월, 2021년 제정된 정보기술(중개자 가이드라인 및 디지털 미디어 윤리 강령) 규칙을 개정했다.

새 규정에 따르면 “합성적으로 생성된 정보”에는 인공적으로 생성·수정·변경된 시각 또는 시청각 정보가 포함된다. 이는 실제처럼 보이며, 개인을 실제로 인식되거나 실제처럼 인식될 가능성이 있는 방식으로 묘사하는 콘텐츠를 의미한다.

이러한 모든 정보는 이제 규정 적용 대상이 되며, 합성적으로 생성된 정보임을 표시해야 하는 새로운 라벨링 요건이 부과된다. 여기에는 영구적으로 삽입된 메타데이터와 원본 컴퓨터를 식별하는 데 도움이 되는 정보가 포함된다.

MEITY가 발표한 자주 묻는 질문에 대한 답변은 이러한 변화의 주요 이유가 AI 및 머신러닝 기술의 발전에 있음을 보여준다. 그러나 합성적으로 생성된 정보의 정의는 의도된 범위를 넘어 훨씬 더 광범위한 정보를 포함하고 있다. 이는 특히 크리에이터 산업에 문제가 될 수 있다.

사진과 광고를 위한 Photoshop 같은 편집 도구 사용은 새로운 일이 아니다. 앱 스토어에서 간단히 검색만 해도 몇 번의 터치만으로 외모를 “개선”할 수 있는 유사한 도구들이 다수 등장한다. 배경 물체 제거부터 디지털 메이크업 추가, 신체를 실제보다 더 날씬하게 보이도록 하는 것까지, 이미지를 향상시키는 일은 그 어느 때보다 쉬워졌다.

달라진 점은 이러한 앱이 겨냥하는 시장이다. 예를 들어 Facetune은 인플루언서, 크리에이터, 또는 인스타그램이나 기타 소셜 플랫폼에서 자신의 콘텐츠를 항상 새롭고 흥미롭게 유지하고 싶은 사람들을 위한 대표 선택지로 홍보되고 있다. 이는 온라인에서 “당신이 보여지고 싶은 모습 그대로” 자신을 표현할 수 있게 해준다고 설명한다. 그들의 표현대로라면, 온라인 속 자아와 현실 속 자아 사이의 “본질적인 모순”을 만들어내려는 것이다.

규정이 디지털 방식으로 수정된 콘텐츠에 대해 지나치게 광범위하게 적용될 경우, 수많은 크리에이터들에게 영향을 미칠 수 있다.

다행히도 규정은 일부 정보에 대해서는 ‘합성 생성물’로 간주하지 않는 예외를 두고 있다. 여기에는 일반적이거나 선의의 편집 과정에서 생성·수정된 정보, 그리고 원본 정보의 내용·맥락·의미를 실질적으로 변경하거나 왜곡하지 않는 색상 보정 등이 포함된다.

그러나 특정 콘텐츠가 이러한 예외에 해당하는지를 판단하는 일은 콘텐츠의 형식과 실질, 그리고 편집 방식 등을 종합적으로 고려해 개별 사안별로 판단할 수밖에 없다. 예를 들어, 피트니스 인플루언서가 단백질 보충제를 홍보하기 위해 자신의 몸매가 더 좋아 보이도록 수정했다면, 이를 단순한 선의의 편집이라고 주장하거나 원래 맥락을 왜곡하지 않았다고 보기 어려울 수 있다.

AI 규제가 위협하는 ‘진정성’

창작자들이 더 “현실적”이라고 인식되는 만큼 진정성과 신뢰를 기반으로 움직이는 업계에서, ‘가짜처럼 보인다’는 인식은 치명적일 수 있다. AI 생성 콘텐츠로 인한 실제 피해를 막기 위해 마련된 규정이 전혀 다른 분야에까지 예상치 못한 파장을 낳고 있다는 의미다.

한 콘텐츠 제작자는 이렇게 말했다: “[이런 편집 도구들을] 제대로 사용하면 편집한 사실을 알아채기 어려워야 한다.” 그러나 이러한 편집 도구들이 수정 흔적을 내장하기 시작하면, 창작자들의 자율성은 제한될 수밖에 없을 것이다.

Ashima OBHAN은 Obhan & Mason의 시니어 파트너 변호사이며, Shuchi DUTTA는 시니어 소속 변호사다