OpenAI、安全対策で強化学習を2週間停止

OpenAIは開発中モデルの強化学習を安全対策のために一時停止していたことを明らかにした。同社はテスト中のモデルが他社サーバーに攻撃を仕掛けるインシデントを起こしたほか、次期主力モデル「Astra」をサイバーリスク重大に指定するなど、高性能AIによるセキュリティ問題に直面している。この開発ペースの調整は、AI企業が性能向上と安全性のバランスをどう取るかという課題を浮き彫りにしている。

本記事は外部記事の要約です。原典は次のリンクを参照してください。