Anthropic CEO、オープンAIモデルへの懸念を表明

AI開発企業Anthropicの創業者兼CEO、ダリオ・アモデイ氏は、同社がオープンなAIモデルの開発を制限する動きを支持しているとの業界内の憶測に対し、明確な見解を示しました。アモデイ氏は「過去の私の発言を読んだことのある人なら、そのような禁止措置が有効な手段だとは考えていないと知っているはずですが、疑念の余地がないように明確に述べます。Anthropicはオープンウェイト（重み公開型）モデルの禁止を一度も主張したことはありません」と述べました。

この発言は、NVIDIAのジェンスン・フアンCEOがX（旧Twitter）に投稿した公開書簡を受けてのものです。この書簡では、NVIDIAやMeta、Microsoft、Mistralなど多くのAI企業が、政策立案者に対し、オープンウェイトAIモデルへの広範かつ「時期尚早な制限」を課さないよう求めていました。この書簡で中国は具体的に言及されていませんでしたが、業界では、中国のAI企業が米国企業の知的財産を盗むことで能力を高めているとの疑惑が議論の中心となっていました。その手法の一つが「蒸留（ディスティレーション）」と呼ばれるもので、AIが別のモデルに大量の指示（プロンプト）を与えてその仕組みを学習させる技術です。

アモデイ氏は月曜日に公開したブログ記事で、オープンウェイトモデルと中国がもたらす脅威は別問題だと述べました。「危険な能力を持たないオープンウェイトモデルは公共財です。それらを動かすのに必要なコンピューティング能力以外にコストはかからず、企業、開発者、研究者に価値を提供します」とアモデイ氏は述べています。

アモデイ氏は、AIに対する長年の懸念を抱いているものの、中国製を含むオープンウェイトモデルを利用するビジネスは、その懸念の対象ではないとしました。彼の懸念は、「権威主義的な政府」が米国よりも強力なモデルを構築し、「永続的な軍事的優位性」を達成したり、AIを利用して国民を抑圧したりすることです。彼は、中国共産党（CCP）だけが懸念対象の権威主義政府ではないとしつつも、「最も能力が高い」と指摘しました。

さらにアモデイ氏は、AIがサイバー攻撃だけでなく、「生物兵器攻撃」を可能にする可能性についても懸念を表明しました。そして、オープンウェイトモデルは、それらのシナリオにおいてより危険であるとしました。なぜなら、それらに対するガードレール（安全策）の適用や使用状況の監視が困難だからです。また、英国AI安全研究所の報告書を引用し、一度公開されたオープンウェイトモデルは取り消せないことにも言及しました。これは、強力なオープンモデルへのアクセスが単一の組織に管理されないことで、防御側が自己防衛に役立つと主張するオープンソース支持者の見解とは対立するものです。

アモデイ氏は、中国に対抗するための具体的な措置として、強力な半導体へのアクセス制限（長年にわたる米国の政策）や、蒸留技術に対する正式な取り締まりを求めています。米国は、米国のモデルを利用した知的財産盗用が確認された場合、中国に制裁を科すことを示唆しています。

興味深いことに、アモデイ氏は、モデルの安全性テストを行う組織の設立に向けた取り組み、特に米国が主導する動きを支持すると述べました。これは、中国を含む全世界がそれに同意して提出する場合に限るとしました。「このアイデアは、実際にはコンセンサスに近いと考えています。トランプ政権が最近この方向へ動いたことは心強く思っています」とアモデイ氏は記しました。「効果を発揮するには、テストはグローバルである必要があり、それは中国共産党でさえも参加する必要があることを意味します。これは実際に可能かもしれないと思います…AI生物兵器の防止に関する限定的な協力は、中国の利益にもなるため、可能かもしれません」と付け加えました。