AnthropicのAI安全性に関する見解:時期、理由、内容、方法

Anthropicは、AIが産業革命や科学革命に匹敵する影響をもたらす可能性があるが、その進展が必ずしも良い結果をもたらすとは確信していない。AIの進歩は指数関数的に加速しており、今後10年で人間レベルの知能を超える可能性もある。しかし、現在のところ、強力なAIシステムを確実に有用、正直、無害に訓練する方法は確立されていない。AIの急速な進歩は社会を混乱させ、競争的な開発競争を引き起こし、信頼できないAIシステムの展開につながる可能性がある。Anthropicは、スケーリング監督、メカニズム解釈可能性、プロセス指向学習、AIシステムの学習と一般化の理解と評価といった多角的なアプローチによるAI安全性研究を重視している。同社は、フロンティアAIシステムに関する安全性研究の必要性を強調し、大規模モデルを用いた実証的研究が不可欠であると考えている。Anthropicは、AIのリスクレベルを楽観的、中間的、悲観的シナリオに分類し、それぞれのリスクレベルに応じた研究開発戦略と、AIの安全性基準が満たされる場合にのみモデルを開発するというコミットメントを示している。最終的な目標は、AIシステムの安全性を高める技術と、その安全性を評価する手法を開発することである。