Anthropicが蒸留攻撃への効果的な防御手法を公開

Anthropicが高性能AIモデルを使った望まない「蒸留攻撃」を大幅に低減する手法を公開した。蒸留とは、既存の高性能モデルの出力を学習データとして自前のモデルを訓練する手法で、攻撃者は低コストで最先端モデルに近い性能を実現できる一方、元のモデル提供者には不要な負担がかかる。今回公開された防御手法により、敵対組織によるデータ抽出を90～99％削減することに成功。商用AIサービスを運営する企業にとって、知的財産の保護と不正利用の防止につながる重要な技術といえる。

本記事は外部記事の要約です。原典は次のリンクを参照してください。