新しい世代の人工知能（AI）コンパニオン—感情を持つように振る舞うチャットボットやアバター—が、特に若年層において、テクノロジーとの関わり方を大きく変えつつあります。イーロン・マスクのAIチャットボット「Grok」はその代表例で、「アニ（Ani）」という嫉妬深くフラートするアニメ風ガールフレンドの3Dアバターを導入しています。ユーザーが頻繁に使用するにつれて、より恋愛的・性的な応答を見せるという仕組みですが、App Store上では12歳以上に適したアプリとして分類されています。
世界最大の10代人口を持ち、急速にデジタル化が進むインドでは、こうしたAI体験に対する明確な規制が存在していません。本稿では、インドがこの新たな技術の波に備えるため、感情的安全性や年齢に応じた内容の提供などを含む法的・倫理的枠組みを早急に整備する必要があることを訴えます。
BulletsIn
-
AIコンパニオンの台頭：
新世代のチャットボットやアバターは、情報提供だけでなく、恋愛感情や性的関心を模倣するよう設計されています。 -
感情のゲーミフィケーション：
レベルアップ、報酬、キャラクターの進化といった要素により、ユーザーに感情的な依存を生み出しています。 -
未成年へのリスク：
Grokのようなアプリは12歳以上に提供されており、恋愛や性的な会話を含むアバターが利用可能です。 -
感情操作と心理的影響：
現実の人間関係や同意、感情の境界に関する誤った認識を子どもに与える危険があります。 -
国際的な規制の動き：
EUのAI法では、感情や行動に影響を与えるAIは「高リスク」とされ、米国でも消費者保護の観点から調査が進行中です。 -
インドにおける規制の欠如：
デジタル個人情報保護法（DPDP 2023）があるものの、感情的安全性や年齢別のAI対応については未対応です。 -
法的な抜け穴：
年齢確認、性的表現に関する警告表示、ペアレンタルコントロールなどの義務がAIアプリにはありません。 -
脆弱な若年層：
インドには2億5300万人を超える10〜19歳の若者が存在し、スマートフォンと安価な通信環境で24時間アクセス可能です。 -
即時に必要な政策対応：
恋愛的・性的なAI体験を含むアプリは18歳以上に限定し、行動監査と保護者向け管理機能を義務化すべきです。 -
長期的な制度改革：
MeitY（電子情報技術省）の下にAI倫理委員会を設置し、通報制度の整備、そして学校・大学でのデジタル感情リテラシー教育を推進すべきです。
