ChatGPTの危険な医療アドバイスでOpenAIが提訴される

肺塞栓症を患っていた男性がChatGPTに医療アドバイスを求めたところ、不正確な回答により治療が遅れたとして、OpenAIが提訴された。ChatGPTは「神はあなたの体が永遠に壊れ続けるようには設計していない」といった非科学的な助言を行ったとされる。LLMの医療分野での利用には依然として大きなリスクが伴うことを示す事例だ。開発者としては、医療や法律など専門性が高く誤情報が重大な結果を招く分野でのAI活用には、適切な免責事項の表示や利用制限の実装が不可欠であることを再認識する必要がある。

本記事は外部記事の要約です。原典は次のリンクを参照してください。