AIのウェルビーイングへの影響を評価するための助成金プログラムを発表

Anthropicは、AIがユーザーのウェルビーイングに与える影響に関する独立した研究を支援するため、500万ドルの助成金プログラムを開始します。このプログラムは、助成対象者に直接的な資金提供、Anthropicのモデルへのアクセス、および技術サポートを提供し、オープンソースの評価ツールを構築します。これらの評価ツールは、AI業界がモデルのユーザーへの影響を測定するのに役立ちます。ウェルビーイングの評価は、単一の回答だけでなく、会話全体の文脈を考慮する必要があり、臨床専門家や主題専門家の関与、予防策と害の両方のテスト、実際のユーザー利用状況の反映、評価者の検証などが求められます。助成金の申請締め切りは9月21日です。