米軍がAI誤報で中国船への作戦を計画、直前に中止

米CNNの報道によると、米軍が今年春にイランとの交戦中、AIを利用して作成された誤った情報を基に中東海域で中国船に対する軍事作戦を計画していたことが明らかになった。AIは「核兵器開発計画の部品を運搬している」という誤った分析結果を出力。幸い作戦実行直前に誤報と判明し中止されたが、AI判断に基づく軍事行動の危険性が実証された形だ。生成AIの幻覚（ハルシネーション）や誤分析が、軍事領域では国際紛争に発展しかねない深刻な問題であることを示す事例として、開発者コミュニティでも議論を呼びそうだ。

本記事は外部記事の要約です。原典は次のリンクを参照してください。