人工知能（AI）は私たちの世界を根本から変えようとしています。しかし、その倫理的な意味やリスクに関する懸念が増しています。欧州連合（EU）では、AI技術の開発と利用に関する包括的な規制枠組みであるAI規制法が採択され、AI規制が大きく前進しました。
同法はAIを提供したり利用したりする企業に対して、そのシステムのリスクと潜在的な損害に応じて、種々の義務を課しています。個人の安全に対して、容認できない脅威をもたらすシステムは認められません。その脅威には、個人の弱みや社会的スコアリングを利用して、潜在意識に働きかける、または意図的に操るような手法が含まれます。後者には、社会的行為、社会経済的地位、個人的属性によって個人を分類することも含まれます。
シニアパートナー
Obhan and Associates
この法律では、公共の場でのリアルタイムの生体認証システム、重大犯罪の捜査目的で司法機関の許可がある法執行を除く、事件発生後の遠隔生体認証システム、性別、人種、民族、宗教などの配慮を要する特性の生体認証分類などの、人権侵害につながる差別的なAIの使用が禁じられています。
プロフィール、居住地、過去の犯罪行動を分析する予測取り締まりシステム、法執行機関、国境管理、職場、教育機関における感情認識システム、顔認識データベースの作成を目的とする、ソーシャルメディアや監視カメラ・防犯カメラからの生体データの無制限な収集も、禁止されています。これらは人権、特にプライバシーの権利を侵害するものです。
この法律では、ハイリスク領域に含まれるものの例として、個人のウェルビーイング、安全、基本的権利、環境に対する潜在的な危害を挙げています。政治運動で有権者の心に働きかけるAIシステムもハイリスク領域に含まれ、また、ソーシャルメディアプラットフォームのシステムも、リスクの高い使用例のリストに加えられています。
アソシエイト
Obhan and Associates
規制の対象には、急速に発展しているAIの分野である基盤モデルのプロバイダーも含まれます。これらのプロバイダーには、基本的権利、健康、安全、環境、民主主義、法の支配を守ることが義務付けられています。リスクを評価・軽減し、設計・情報・環境基準を遵守し、EUのデータベースへの登録を維持する必要があります。透明性の要件は、ChatGPTのような生成基盤モデルに適用されます。この要件には、コンテンツがAIによって生成されたことの開示、違法コンテンツ生成の防止、トレーニングに使用された著作権で保護されたデータの概要の公表などが含まれます。
イノベーションを促進するため、同法では、研究活動と、オープンソースライセンスで許可されているAI要素は除外されています。また、規制上のサンドボックス（管理された環境）を利用して、リリース前にAIをテストすることが推奨されています。
インドにはAIを規制する個別の法律はありませんが、現在検討されているデジタル・インディア法（DIA）では、ユーザーへの危害防止の観点から、AIと新興技術に対する規制が定められるとみられます。リスクの高いAIを使用する仲介業者に対する統制が、導入される可能性が高いと考えられます。アルゴリズムの説明責任、脅威の特定、脆弱性の評価に基づき、リスクの高いAIが定義され、規制されるでしょう。AIを利用する広告ターゲティングとコンテンツモデレーションは、詳細な調査の対象になります。DIAでは、憲法に基づく市民の権利を守るための説明責任を規定するべきです。AIを利用するツールは、ユーザーを保護するために、倫理的に使用されなければなりません。したがって、違反に対する罰則は、違反を防止・抑制する効果があり、違反の重大性に比例している必要があります。
DIAは、倫理基準に沿った技術の進歩と個人の保護を促し、責任ある実装を確保するものです。透明性が確保されれば、顧客はAIが自身に影響を及ぼしていることを認識でき、消費者保護の強化につながります。強固な規制枠組みの導入により、AI技術に対する社会の信頼が高まるでしょう。DIAに高い基準が規定されることで、インドが責任あるAIの世界的リーダーとしての地位を築くことが可能になり、海外投資と国際的な協力関係が強化され、国際競争力が高まり、経済成長が促されるでしょう。
規制の導入には、困難が伴うことが予想されます。研究や技術の進歩を阻害しないためには、イノベーションと規制の均衡を図ることが極めて重要です。AIの急速な進化と歩調を合わせた、柔軟で適応性のあるガバナンスが求められますが、一方でコンプライアンスを徹底するには、効果的な実施と政府、産業界、学界の協力が必要です。
明確なガイドラインを定め、透明性を促進し、AIの責任ある利用を奨励することで、インドはこの分野における世界の先駆者になり得ます。入念な規制と関係者間の継続的協力関係が障害の克服を可能にし、AIを活用した豊かな未来をインドにもたらすことでしょう。
Ashima ObhanはObhan & Associatesのシニアパートナーであり、Aparna Amnerkarはアソシエイトです。
Obhan & Associates
Advocates and Patent Agents
N – 94, Second Floor
Panchsheel Park
New Delhi 110017, India
連絡先の詳細:
Ashima Obhan
T: +91-9811043532
E: email@obhans.com
ashima@obhans.com
