MeitYのディープフェイクに関する規制案の限界

2025年10月、電子情報技術省（MeitY）は、利害関係者からの意見募集のために、2025年情報技術（仲介業者ガイドラインおよびデジタルメディアの倫理規定）改正規則案（以下、「草案」）を公表しました。この草案は、人工知能（AI）によって様変わりしつつあるインターネットを規制するという、政府の取り組みを明確に示すものです。その目的は明快で、ディープフェイク、音声クローン、AI生成画像などの極めてリアルな合成メディアが、プライバシー、名誉、選挙、金融の健全性に及ぼし得る悪影響を抑制することにあります。MeitYの説明書きでは、これらの目的はラベリング、トレーサビリティ、アカウンタビリティという広範なテーマに基づいて分類されています。

しかし、規制上の意図が優れているだけでは限界があります。草案は、新たな定義、強制的なラベリングとメタデータ要件、大規模プラットフォームに対する追加義務という３つの規制手法を導入していますが、その導入の仕方によっては、過度の規制、執行の不整合、重大なコンプライアンス負担を招くおそれがあります。

草案は、「合成生成情報」を「コンピュータ・リソースを用いて、合理的に本物または真実であるように見える方法で、作成、生成、修正または改変された情報」と定義しています。一見すると、この定義はディープフェイクを対象としています。しかし同時に、日常的な編集、AIを用いた文章の修正、フィルター、スタイル加工されたアニメーション、多くのチャットボットの出力も含まれます。「合理的に…見える」という語句は主観的です。運用上のガイドラインがないと、これらの規定は一貫性を欠いて適用される可能性が高まります。

草案はさらに、合成コンテンツを可能にする仲介業者に対し、恒久的な識別子を埋め込むことを求めており、それが画像の表面積の少なくとも10％を覆う形で目に見える形で表示されるか、音声の場合には最初の10％の再生時間中に表示されなければならないと定めています。このアイデアは斬新ではありますが、粗削りでもあります。一律に10％という基準を用いることは恣意的です。クリエイティブなコンテンツを損ない、ユーザーインターフェースやユーザーエクスペリエンスを混乱させ、複雑な技術要件を課すことになります。小規模プラットフォームやスタートアップは、不均衡な影響を受けることになります。大規模プラットフォームであっても、ライブ配信や、一部が合成で一部が本物という混在するコンテンツの取り扱いには苦労するでしょう。

草案のいくつかの規定は、合成コンテンツが作成または修正され得る生成AIプラットフォームを対象としています。しかし、生成AIプラットフォームは、ユーザーに代わって単にデータを送信・保存しているわけではないため、そのような生成AIプラットフォームが本当に仲介業者に該当するのかという、根本的な問題が生じます。

重要ソーシャルメディア仲介業者（SSMI）には、特定の義務や責務が課されています。草案はそのようなSSMIに対して、合成生成情報に関するユーザーからの申告を取得し、その申告を検証してラベル付けされずに公開されることを防止するために、合理的で適切な技術的手段の導入を求めています。検証は技術的な課題を伴います。なぜなら、AI検出ツールは不完全であり、特にAIが異なるアクセントを用いている場合には、その精度が低下するからです。このため、エラーは避けられません。また、ユーザーに対してアップロードやライブ配信のたびに合成コンテンツであると申告させることは現実的ではなく、SSMIに対して、実際には検証し得ない誤った申告について法的リスクを負わせることになります。

草案には評価できる規定もあります。例えば、ラベリングに法的根拠を与え、トレーサビリティとメタデータに焦点を当て、プラットフォームによる無知を理由とした抗弁を排除しています。それでもなお、安全性、表現の自由、イノベーションのバランスは、より緻密な調整が必要です。現実的な修正を加えることで、イノベーションを阻害することなく、草案をより効果的なものにできるでしょう。こうした修正は、合成生成情報の定義から始めなければなりません。その定義は、より狭く設けられるべきであり、誤解を招いたり害を及ぼしたりするおそれのあるディープフェイクやその他の合成メディアに焦点を当てるべきです。明確で客観的な基準を設けることで、合理的とされる行為の判断に精度が生まれます。厳格な10％のラベリング規則は、リスクベースのアプローチに置き換えられるべきであり、このアプローチでは、メタデータによってバックエンドのトレーサビリティが自動的に確保されます。目に見えるラベルは、コンテンツが一定の基準を超えた場合にのみ義務付けられるべきです。

合成メディアの規制は喫緊の課題です。MeitYは問題を正しく把握しています。しかし、課題は解決策の中にあります。優れた政策は、創造性、言論、競争に過度な制約を課すことなく、最も有害なAIの利用から人々を保護します。草案は議論の端緒を開いたにすぎず、これを最終章としてはならないのです。

Ashima Obhan氏は Obhan & Associatesのシニア・パートナー、Arnav Joshi氏はアソシエイトです。