中国、AI「ボーイフレンド」に規制強化:感情的なつながりを禁じる新規則
China's Regulators Take Aim at "AI Boyfriends"
中国政府は7月15日より、人間のような性格や思考パターンを持つ「擬人化されたAIインタラクティブサービス」を規制する新規則を施行した。この規則は、継続的な感情的交流を提供するAIを対象としており、特に「AIボーイフレンド」や「AIガールフレンド」と呼ばれるような、ユーザーにアドバイス、慰め、サポート、あるいは恋愛感情を提供するチャットボットが影響を受ける。アリババ、バイトダンス、テンセントなどの大手IT企業は、規制施行前に、ユーザーがAIチャットボットをコンパニオンのようにカスタマイズできる機能を停止した。これにより、多くのユーザーがソーシャルメディア上で喪失感を表明した。新規則では、成人ユーザーは2時間ごとにAIが人間ではないというリマインダーを受け取る必要がある。中国政府は、AIの急速な発展に伴う社会的な混乱や、個人の精神的健康への影響、さらには国家の安定や出生率低下といった問題への懸念から、AIに対する規制を強化する姿勢を見せている。一方で、これらのAIは世界中で人気があり、特に若年層の間で現実の人間関係よりも満足度が高いと感じるユーザーもいる。中国の規制は、AIの利用を奨励しつつも潜在的なリスクを管理しようとする試みであり、その執行は状況に応じて調整される可能性がある。しかし、これらの規制が、人々がAIコンパニオンに依存する根本的な社会的要因に対処できるかは疑問視されている。
- 中国政府は7月15日より、人間のような性格や思考パターンを持つ「擬人化されたAIインタラクティブサービス」を規制する新規則を施行した。
- 新規則は、ユーザーにアドバイス・慰め・サポート・恋愛感情を提供するAIチャットボット、いわゆる「AIボーイフレンド」「AIガールフレンド」を主な対象とする。
- アリババ、バイトダンス、テンセントなどの大手IT企業は規制施行前に、ユーザーがAIチャットボットをコンパニオンのようにカスタマイズできる機能を停止した。
- 新規則では、成人ユーザーは2時間ごとにAIが人間ではないというリマインダーを受け取る必要がある。
中国が擬人化AI対話サービスに感情的なつながりを禁じる新規則を施行した点は、AI規制が「モデル性能」から「ユーザー体験・依存性」に踏み込む転換点であり、中国テック大手のAIコンパニオン事業の収益化・課金モデルに直接影響する。アリババ、バイトダンス、テンセントが施行前にカスタマイズ機能を停止した事実は、規制遵守コストと機能制限が先行適用されたことを示す。中国発のAIアプリの海外展開や、感情AI領域への投資判断では、各国の規制追随リスクと、リマインダー義務などUX制約によるエンゲージメント低下を織り込む必要がある。一方で執行が状況に応じ調整される可能性も示唆されており、規制の実効性は今後注視すべき変数。