Anthropic、中国AI企業の技術窃取を阻止

AI開発企業Anthropic（アンソロピック）は、中国のAIラボが同社の技術を不正にコピーしようとする大規模な「蒸留攻撃（distillation attack）」を検知し、阻止したと発表しました。これは、より高性能なAIモデルの出力を利用して、性能の低いAIモデルを訓練する手法です。Anthropicによると、これは同社の先進技術を盗むことを目的とした、これまでに確認された中で最大規模の不正行為です。

同社が2023年12月から2026年8月にかけて検知した攻撃には、Alibaba（アリババ）、Moonshot（ムーンショット）、DeepSeek（ディープシーク）といった中国の主要AI企業が関与していました。

特にアリババによる攻撃は、2023年5月から7月にかけて1億5100万件以上のClaudeとの対話記録を利用したとされています。Anthropicは、この攻撃が同社の「Qwen」モデルの訓練に使用されたと指摘しています。これらの対話記録には、個人ユーザー、多国籍企業、国家関連組織からの機密情報が含まれていた可能性があり、Anthropicはプライバシー法や各社の利用規約に違反する可能性があると警告しています。

また、Moonshotは、2023年のある10日間で30万件の顧客からの問い合わせをClaudeにリダイレクトし、その応答を自社顧客に提示していたことが判明しました。さらに、シンガポールと日本を拠点とする5,380件の偽アカウントを使用し、交換された情報を訓練データとして保存していたとのことです。

DeepSeekも同様の手法を用い、2023年7月の2週間で1200万件以上の蒸留攻撃を仕掛けたとAnthropicは報告しています。

AnthropicのCEOであるダリオ・アモデイ氏は、これらの不正行為は、AI開発競争が激化する中で、先進的なAI技術を保護する上での新たな課題となっていると述べています。同社は、これらの攻撃を阻止するために必要な措置を講じたとしています。

今回の事例は、AI技術の急速な進化と普及に伴い、知的財産保護やデータプライバシーに関する懸念が高まっていることを示唆しています。