90～99%削減—蒸留対策は静かだが実装側で効きそう。セーフガード強制の新潮流か

不正な蒸留により、モデル開発企業は比例するロバストなセーフガードを生み出さずにフロンティアのAI機能をコピーできるようになります。ここでは、新しい手法を使用してClaudeに対する蒸留攻撃の有効性を90%以上削減した方法について説明します。

最近数ヶ月間で、当ブログに概説した新しい手法を使用して、Claudeに対する蒸留攻撃の有効性を大幅に低下させました。初期的な証拠によれば、これらの手法により、蒸留者によって収集されるデータ量が約90～99%削減されたことが示唆されています。

蒸留攻撃とは、元のモデル開発企業の認可なしに、一つのモデルの機能を抽出し、別のモデルで複製するための秘密裡の産業規模のキャンペーンです。それらはしばしば詐欺的アカウントのネットワークを使用して実施されます。これらの攻撃により、企業は開発時間とコストの一部でフロンティア機能を模倣するモデルを構築することができます。9月に当社が述べたように、この手法は海外のAI研究所が米国企業とペースを保つことを支援するために広く使用されています。

当社は2つの理由から不正な蒸留について懸念しています。第一に、蒸留により企業は能力フロンティアに接近したモデルを構築することができますが、実際には比例してロバストなセーフガードなしにリリースされています。これは蒸留モデルが生物学およびサイバーセキュリティのような領域で重大な害をもたらすために使用される可能性があることを意味します。