Anthropic、AIの安全対策枠組み「Responsible Scaling Policy (RSP)」バージョン3.0を公開

• Anthropicが取締役会承認を得た「責任あるスケーリングポリシー(RSP)」を発表
• AI安全レベル(ASL)を定義し、ASL-3以上のモデルでは敵対的テストでリスク確認後のデプロイ停止を要件化
• 現在のClaudeはASL-2に該当し、現行の製品提供やビジネスに影響はない

• Anthropicは、最先端AIの安全性確保に向けて自動テストと専門家評価を組み合わせた第三者テスト体制の構築や法的義務付け、NIST等の公的機関支援を提言した。

Anthropicは、AIが産業革命や科学革命に匹敵する影響をもたらす可能性があるが、その進展が必ずしも良い結果をもたらすとは確信していない。AIの進歩は指数関数的に加速しており、今後10年で人間レベルの知能を超える可能性もある。しかし、現在のところ、強力なAIシステムを確実に有用、正直、無害に訓練する方法は確立されていない。AIの急速な進歩は社会を混乱させ、競争的な開発競争を引き起こし、信頼できないAIシステムの展開につながる可能性がある。Anthropicは、スケーリング監督、メカニズム解釈可能性、プロセス指向学習、AIシステムの学習と一般化の理解と評価といった多角的なアプローチによるA…

• Anthropicが「フロンティア脅威レッドチーミング」に関する取り組みと発見事項を発表
• 専門家と協力し、AIモデルの生物学的リスクに関するテストプロジェクトを実施
• 現在の最先端AIモデルは専門家レベルの知識を提供し、悪用時に国家安全保障リスクを高める可能性があることが示唆された

• Anthropicが最新の利用規約を発表し、自律兵器への利用禁止、物理機器接続の要件化、非対応地域主体が過半数を所有する企業へのアクセス制限などを定めた。