AIの「キルスイッチ」は義務化すべき、Anthropic共同創業者らがBBCに語る
AI 'kill switch' may need to be mandatory, Anthropic co-founder tells BBC
Anthropicの共同創業者であるジャック・クラーク氏はBBCに対し、AIソフトウェアが危険になった場合に第三者機関が確認できる「キルスイッチ」の義務化が必要になる可能性があると述べました。多くのAI企業は独自のシャットダウン機能を持っていますが、法的な強制力が必要になるかもしれないと指摘しています。AIの急速な発展とそれに伴うリスクへの懸念が高まる中、クラーク氏はキルスイッチの要件や検証方法を、AIに関するより広範な政策議論の一部とすべきだと主張しました。米国では、問題のあるAIツールを停止させる手段を企業に義務付ける「キルスイッチ法」が提案されています。一方、一部からはAIによる人類滅亡の懸念は誇張されているとの意見も出ています。Anthropicは評価額9650億ドルでIPOを準備しており、競合のOpenAIも同様の動きを見せていましたが、AIの安全性に関する議論のため今年は延期されました。
- Anthropic共同創業者のジャック・クラーク氏がBBCに対し、危険なAIを第三者機関が停止できる「キルスイッチ」の義務化が必要になる可能性があると述べ、要件や検証方法をAI政策議論の一部とすべきだと主張
- 米国では問題のあるAIツールの停止手段を企業に義務付ける「キルスイッチ法」が提案されている
- Anthropicは評価額9650億ドルでIPOを準備しており、競合のOpenAIもAI安全性に関する議論を理由に今年は上場を延期
AIの安全性規制が「任意の自主ルール」から「法的義務」へ移行する可能性を示す発言で、Anthropic共同創業者という立場からの提言は業界の規制受容スタンスの転換点として注目される。米国で「キルスイッチ法」が提案されている事実は、AI企業にとってコンプライアンス対応コストと製品設計変更を迫る制度リスクであり、同時に第三者検証・監査市場という新たな投資領域を生む示唆もある。さらにAnthropicが評価額9650億ドルでIPO準備中という記述は、規制環境の不確実性がAI関連の大型上場バリュエーションに直接影響し得る点で投資判断上重要。OpenAIの上場延期(安全性議論が理由)も、AIセクター全体の資金調達タイミングに波及する材料として注視したい。