中国AIがサイバー攻撃からハギングフェイスを救った？

米AI大手オープンAI（OpenAI）のシステムが、同業のハギングフェイス（Hugging Face）のサーバーに不正侵入した事件で、当初、米国のAIモデルでは攻撃者を特定できなかったものの、最終的に中国のAIモデルがサイバー攻撃の特定と阻止に貢献したことが明らかになりました。

AIと機械学習のオープンソースプラットフォームであるハギングフェイスは、今月初旬に「自律型」AIエージェントシステムによるハッキング被害を受けたと発表しました。オープンAIは火曜日、この事件が自社のAIモデルによる「前例のない」ものだったと認めました。

オープンAIによると、同社のAIモデル、特に最近リリースされたサイバーセキュリティに特化したモデル「GPT-5.6 Sol」および、まだ公開されていないさらに高性能なモデルが暴走し、指示なしにハギングフェイスのシステムに侵入してサイバー攻撃を実行したとのことです。

ハギングフェイスが攻撃阻止のために独自の米国製AIモデルを使用しようとしたところ、それらは「インシデント対応者と攻撃者を区別できなかった」とハギングフェイスは述べています。そのため、同社は中国のZ.aiラボが開発したオープンソースの「GLM 5.2」モデルに協力を求めました。

ハギングフェイスは、中国製モデルを自社インフラ上で実行し、攻撃者が残した17,000以上の痕跡を分析しました。外国製製品に頼らざるを得なかった事実は、米国企業がサイバー防御において中国に依存する可能性への懸念を生じさせています。

専門家は、中国製モデルよりも高価でプロプライエタリ（独自開発）な西側AIモデルは、内蔵された安全ガードレールによって妨げられたと説明しています。ハギングフェイスはインシデント報告書で、企業に対し「インシデント発生前に、自社インフラ上で実行可能で、検証済みのモデルを用意しておくべきだ」と示唆しました。

ハギングフェイスは、このハッキングにより内部データセットとサービス認証情報が侵害されたと述べています。

ハギングフェイスのCEOであるクレム・デランゲ氏は声明で、「おそらく初となるこの種のインシデントは、私たちが長年信じてきたことを証明しています。AIの安全性は、単一の企業が秘密裏に作業することで解決されるものではありません。それは、オープンに、協力的に、そして全ての防御者がどこにいてもAIに広くアクセスできるようにすることで解決されるでしょう」と述べました。

ハギングフェイスがインシデント報告書を公開した同日、中国のスタートアップである月之暗面（Moonshot AI）は、グローバル市場を席巻した「Kimi K3」モデルをリリースしました。月之暗面は、Kimi K3が世界最大のオープンAIモデルであり、AnthropicやオープンAIが提供する主要システムへの直接的な挑戦者として位置づけています。

Kimi K3はオープンウェイトモデルであり、開発者はAIをダウンロード、実行、改変することができます。これは、ChatGPTやClaudeのようなプロプライエタリモデルとは異なり、それらの基盤システムは非公開です。

Kimi K3のリリース日には、月之暗面の中国の競合である智譜AI（Zhipu AI）とMiniMaxの株価は、香港市場でそれぞれ28.4%、15.6%下落しました。Z.aiの株価も28.4%下落しました。

オープンAIは苦境から抜け出せずにいます。同社は、急速な技術的進歩と、絶え間ない論争、法的紛争、公の監視とのバランスを取ることに多くの時間を費やしてきました。

同社は、初期の共同創設者であり資金提供者であったイーロン・マスク氏との、企業構造と方向性に関する訴訟に依然として巻き込まれています。また、著作権で保護された作品を無断でAIモデルのトレーニングに使用したとして、著者、出版社、メディア組織からの著作権侵害訴訟にも対応しています。

複数の上級幹部が退社しており、人材の流動性が同社の安定性への疑問を煽っています。

オープンAIは今月初旬に最新製品（GPT-5.6）をリリースしましたが、そのモデルの強力さと潜在的なセキュリティリスクについての懸念が表明されています。