禁止より安全テスト・チップ統制を推す。生物学の攻防非対称性、具体的だ。

Anthropic CEO ダリオ・アモデイからの投稿

この数日間、オープンウェイツモデル、特に中国製のものについて多くの議論がありました。一部の米国政府関係者が米国企業による中国製オープンウェイツモデルの使用禁止を検討しているとの報道もあります。これに対し、多くのテック企業がオープンウェイツモデルを支持する公開レターに署名しており、一部の人々はAnthropicがビジネス保護を目的としてオープンウェイツモデルの禁止を望んでいると非難さえしています。私の過去の著作を読んだ人なら、私はそのような禁止措置を有効な手段とは見なしていないことを知っているはずですが、疑いの余地がないように明確に述べます：Anthropropicはオープンウェイツモデルの禁止を決して提唱していません。

危険な能力を持たないオープンウェイツモデルは公共財です。これらは実行に必要な計算能力以外のコストがかからず、企業、開発者、研究者に価値をもたらしています。

保護主義的な禁止措置は、私の最も深刻な国家安全保障上の懸念に対処するものではありません。具体的には、私は2つの悪夢のようなシナリオについて懸念しています。これらは6ヶ月前の論文『The Adolescence of Technology』で述べており、長年一貫してこの立場を保ってきました。

これらの懸念に対処するため、私は以下の3つの措置を支持しており、私とAnthropicは一貫してこれらを提唱してきました。

ここでオープンレターについて述べます。その内容の多くに同意します。オープンウェイツはAI経済へのアクセスを拡大し、少なくともいくつかのユースケースで競争を強化し、顧客により大きなコントロールを与えます。蒸留に関する懸念は、上述と同じ方法で対処すべき、対象を限定した法的および商業的フレームワークによって対処されるべきです。しかし、オープンウェイツモデルが必然的にセーフガード開発を容易にするか、広いアクセスが必然的に防守側を攻撃側よりも支援するという見方には同意しません。むしろ逆になる可能性が同程度またはそれ以上に高いと思われます。例えば、生物学では強い攻撃者有利の非対称性があり、十分に高い能力を持つモデルが広く利用可能な材料を使って急速にパンデミックレベルのウイルスを兵器化できる可能性があります。一方、これらの病原体の防守は最良の場合でも多年にわたる運用上の作業です（Operation Warp Speed で見たように）。このような問題は、事前に仮定されるべきではなく、厳密なリリース前テストによって経験的に答えられるべきです。

要約すると、私とAnthropicは、カテゴリとしてのオープンウェイツモデルの禁止を提唱していません。代わりに、強力なチップが独裁国家の手に渡るのを防ぎ、産業規模での蒸留を阻止し、開放型・閉鎖型を問わず十分に高い能力を持つすべてのモデルに安全性テストを要求することに焦点を当てるべきです。