OpenAI、ロシア発の偽情報キャンペーンを阻止

AI（人工知能）開発企業のOpenAIは、ロシアから発信され、オンラインでの「影響力工作」に利用されていたChatGPTのアカウント群を停止したと発表しました。同社は火曜日のブログ投稿で、AIが生成したソーシャルメディア投稿の調査から、より広範な影響力工作が明らかになったと説明しています。

この工作は、ロシアに有利な「主権指数」を作成し、ロシアの起源を隠蔽しようとする試みを中心に展開されていました。また、ウェブサイトには盗用され、誤って帰属された学術論文が含まれていました。

OpenAIはロシア国内でのサービス提供を禁止していますが、今回の工作ではVPN（仮想プライベートネットワーク）が利用され、発信元の所在地が偽装されていたとのことです。

OpenAIは2月にも、ロシア政府系企業ロステックが出資し、ロシア情報機関と連携しているとされる親ロシア派メディア「Rybar」に関連するChatGPTアカウントを停止したと発表しています。

今回の工作では、ロシア語で指示を与えられたChatGPTがソーシャルメディアのコメントを生成し、Substack、Telegram、X（旧Twitter）、Facebook、LinkedInなどのプラットフォームに投稿されていました。投稿者らは、ロシア人であることを示す言語的な手がかりを隠すようChatGPTに指示していたとされています。

生成されたコンテンツの多くは、「International Burke Institute（IBI）」という組織を宣伝するものでした。IBIのウェブサイトには、実際の学術論文がコピーされ、時には誤った帰属とともに掲載されていました。また、この影響力工作では、ロシアを称賛し、西側諸国を貶める「主権指数」も作成されていました。

OpenAIは、この工作の直接的な影響は限定的だったとしつつも、「この工作の意義は、到達した聴衆よりも、構築されたインフラストラクチャにある」と指摘しています。ChatGPTによって生成された投稿は、あたかも専門家や独自の指標を持つ信頼できる機関であるかのように見せかけるために利用されていました。

同社は、「これは、影響力工作者がAIを、権威を偽造し、好ましい物語の出所を不明瞭にし、時間をかけて規模を拡大できる資産を確立するための、より広範な取り組みを支援するツールとしてどのように利用できるかを示している」と述べています。さらに、「AIの支援的な利用が、より広範な工作の露呈につながる可能性も示している」と付け加えています。