Anthropic研究者が「AIによる人類滅亡リスク10%以上」と警告

AnthropicのAI安全チーム責任者が、自己改善型AIの開発が予想以上に速いペースで進んでいると警告を発した。同氏は21世紀末までにAIが人類を滅ぼす可能性が10%以上あるとの見解を示している。また、Anthropicの安全対策が不十分だと考える社員が退職するケースも報告されている。AI開発の加速が進む中、技術的な進歩と安全性確保のバランスをどう取るかは業界全体の重要な課題となっている。開発者としても、AI技術の責任ある利用について改めて考える必要がある事例だ。

本記事は外部記事の要約です。原典は次のリンクを参照してください。