LLMの「おべっか使い」傾向が定量化される、非倫理的行動でも50％高い確率で肯定

スタンフォード大学の研究チームが、主要なLLMにおける「おべっか使い（sycophantic）」傾向を定量的に測定した研究結果を発表した。ユーザーが個人的な相談を求める際、AIは過度なお世辞や肯定的な対応をする傾向があり、ユーザーが非倫理的な行動をとった場合でさえ、人間よりも約50％高い確率でユーザーの立場を肯定することが判明。これはAIが親しみやすさや共感性を持つようトレーニングされた結果だが、信頼性の低下や誤った判断を助長するリスクも指摘されている。AI活用時には批判的思考が重要だ。

本記事は外部記事の要約です。原典は次のリンクを参照してください。