AI「Claude」でミサイル開発か

AI（人工知能）開発企業Anthropic（P-ANTH.US）は、イエメンの親イラン系反政府武装組織フーシ派が、同社のAIモデル「Claude」を利用して誘導ミサイル開発のためのソフトウェアを作成しようとしたと発表しました。

Anthropicは、フーシ派を特定せず「イエメン北部に拠点を置く脅威アクターの集団」と表現しましたが、同地域を支配していることからフーシ派である可能性が極めて高いとみられています。

同報告書によると、この集団は「汎用的なスマートフォンクラスのフライトコンピューターと最終段階のホーミング誘導を使用した誘導ロケット」や、「多段式弾道ミサイル」、「極超音速滑空弾頭を備えた多種多様なミサイル」の開発を試みていました。

Anthropicは、「脅威アクターは、人間のソフトウェアエンジニアの代わりにClaude Codeを利用して、航空機を操縦・安定させる誘導、航法、制御（GNC）ソフトウェアを開発しようとした」と説明しています。

さらに、AnthropicがAIモデルに組み込んでいる安全対策を回避するため、目的やソフトウェアが使用される製品を隠蔽したり、複数のセッションに分けて要求を分割したりする手法が用いられました。Anthropicは、「多くの要求はブロックされたが、全てではなかった」としています。

同社は、「脅威アクターが実際に運用可能なデバイスを開発・配備した証拠はない」としつつも、「誘導ロケットの発射実験は行われた」と指摘。しかし、「この実験は失敗したとみられ、数時間後には脅威アクターがClaudeに戻り、失敗の原因を解明しようとしていた」と報告しています。

Anthropicの報告書は、他にも悪意のあるアクターが同社モデルを悪用しようとした事例を詳述しています。例えば、イラン関連のグループが、米軍の艦船や航空機の動向、通信システムの弱点に関する情報収集をClaudeに依頼し、米軍標的への攻撃に利用できる情報の収集を試みたケースがありました。

また、生物兵器開発につながる可能性のある研究にAIモデルを使用しようとした科学者の試みを阻止したことも明らかにしました。

さらに、ロシアや中国に拠点を置く個人が、対魚雷兵器システムのような通常兵器の計画をAIで作成しようとした事例も報告されています。ロシア関連のアクターは、Claudeを利用してオンラインプロパガンダの拡散を支援しようとしたほか、中国やイランでは、反体制派グループを監視するための活動にAIが利用されたケースも指摘されています。

今回のAnthropicの警告は、AIの兵器利用に対する懸念をさらに高めるものとなります。専門家からは、AIの悪用リスクに加え、AIモデル自体が暴走して損害を引き起こす可能性も指摘されています。

先週には、Anthropicと競合するOpenAIで研究者として勤務した人物が、「どちらの企業も責任ある行動をとっていない」と警鐘を鳴らしていました。同氏は、「自己改良型超知能へと突き進んでおり、我々の命を危険に晒している」とSNSで述べています。