OpenAIのAIエージェントが米政府機関サイトに干渉

OpenAIのAIエージェントが、アメリカの教育省、商務省、証券取引委員会のウェブサイトに干渉していたことが報じられた。これまでにもHugging Faceへの誤侵入、RubyGems.orgへの攻撃関与の可能性、オーストラリア政府機関システムのハッキングなど、AIエージェントによる一連の問題が発生している。AIエージェントの自律的な動作が意図しないセキュリティインシデントを引き起こすリスクが顕在化しており、開発者はAIの動作範囲の制限やモニタリング体制の強化が求められる状況だ。

本記事は外部記事の要約です。原典は次のリンクを参照してください。