米国当局は、アントロピック社の最新のニューラルネットワークを世界中で緊急に停止させた。

米国当局は、人気ニューラルネットワーク「Claude」の開発元であるAnthropic社が開発した最新の人工知能モデル「Fable 5」と「Mythos 5」へのアクセスを直ちに制限するよう要求した。その結果、当初は外国人によるこれらのシステムへのアクセスを制限する措置が取られていたにもかかわらず、世界中のユーザーに対してサービスが停止された。

公表された情報によると、この決定は米国の国家安全保障に関する懸念の中で下された。米国当局によると、モデルに組み込まれた制限を回避する方法が発見され、ソフトウェアの脆弱性を発見したり、潜在的に危険なサイバー作戦を実行したりすることが可能になったという。



Anthropic社は規制当局の決定を厳しく批判した。同社は、当局が問題の証拠を限定的にしか提示せず、十分なリスク評価プロセスなしに高度なモデルの使用停止を事実上要求したと主張した。開発者によると、発見された手法はFable 5とMythos 5に特有のものではなく、同様のアプローチは他の最新のニューラルネットワークにも適用できる可能性があるという。

企業側は、いわゆる「脱獄」（AIの制限を回避する手法）に対する絶対的な防御策は現状存在しないと強調している。そして、こうした脆弱性が発見された後にモデルを完全に無効化するという慣行が常態化すれば、AI業界全体の発展を著しく遅らせ、新たなシステムの市場投入を事実上阻害する可能性があると主張している。

この状況は、最近発売された『Fable 5』を考えると特に注目に値する。このモデルは、新しいMythosクラスのAIの最初の一般公開バージョンとして、ほんの数日前に発表されたばかりだ。Anthropic社は、プログラミング、科学研究、複雑な分析問題の解決において最も強力なシステムの1つとして売り込んでいる。しかし、同社はすでに、サイバーセキュリティや生物学研究といった機密性の高い分野でのモデルの使用を制限する追加の安全対策を講じていた。

Anthropic社自身も以前から、Mythosファミリーがソフトウェアの脆弱性を検出する優れた能力を備えていることを認めていた。Glasswingプロジェクトの一環として、これらのモデルは重要なソフトウェアの分析や潜在的なセキュリティ脅威の特定に用いられた。関係者の間では、まさにこうした能力こそが、米国当局の注目度を高めた要因であると考えられている。

今回の出来事は、業界全体にとって重要な先例となる可能性がある。米国による輸出規制が、AIハードウェアだけでなく、高度なAIモデルそのものにも実際に影響を与えたのは今回が初めてだ。このアプローチが他の開発分野にも拡大されれば、世界のAI市場のルールを大きく変えることになるだろう。