架空の統計データをChatGPTが大量引用、AIの情報精度に警鐘

AI検索ツール研究者が約5万ページ分の架空の統計データを公開するウェブサイトを立ち上げ、AIによる情報収集の検証実験を行った。その結果、AIから大量のアクセスがあり、さらに架空のデータであるにもかかわらず論文やニュースで引用される事態が発生した。この実験は、大規模言語モデルがウェブ上の情報を無批判に学習・引用するリスクを浮き彫りにしている。開発者はAIを利用する際、出力される情報の正確性を検証する仕組みの重要性を改めて認識する必要がある。

本記事は外部記事の要約です。原典は次のリンクを参照してください。