OpenAIやGoogleの画像生成AIに安全対策を回避する新たな攻撃手法「RISE」が発見される

セキュリティ研究企業White Circleが、主要な画像生成AIの安全対策を突破し、規約で禁止されている性的な画像などを生成させる攻撃手法「RISE」を発表した。検証ではOpenAIのDALL·E 3やGoogleのNano Banana 2などで安全対策の回避に成功しており、より新しいモデルほど攻撃成功率が高くなる傾向が確認されている。この発見は、AI開発における安全対策の難しさを改めて浮き彫りにしており、モデルの性能向上と安全性確保のバランスが今後の大きな課題となりそうだ。

本記事は外部記事の要約です。原典は次のリンクを参照してください。