AIの安全性と終末論:カルト的なサブカルチャーの台頭

AI研究者のジェイコブ・コックスン氏がAnthropicを辞職し、AIが年内に人類を滅亡させる可能性があるとの懸念を表明したことが、AIの安全性に関する議論を再燃させた。この懸念は、一部のAI研究者や著名人からも支持されている。記事は、このような終末論的な見解が、特定のインターネットサブカルチャー、特に「合理主義者」と呼ばれる集団に根差していることを指摘している。この集団は、しばしば「自分たちは他者より明確に思考できる」と自認し、AIの潜在的リスクについて強い懸念を抱いている。彼らの思想は、エリエーザー・ユドコウスキー氏が始めた「Singularity Institute」(現MIRI)や、スコット・アレクサンダー氏のブログ「Slate Star Codex」などを通じて広まり、多くのテクノロジー業界関係者やシリコンバレーの専門家を惹きつけている。このサブカルチャーは、独自の儀式(例:Secular Solstice)、文学作品(例:ハリー・ポッターと合理性)、そして「英雄的責任」といった概念を通じて、メンバーに帰属意識と使命感を与えている。しかし、その思想は、しばしば極端な見解や、民主主義の否定、さらには奴隷制の擁護といった、より危険な思想(例:カーティス・ヤーヴィン氏の思想)とも結びついている。記事は、これらの人々がAI規制に関する公の信頼を求めている現状に警鐘を鳴らしている。