AIプラットフォームHugging Face、サイバー攻撃被害

AI（人工知能）関連のデータセットプラットフォームであるHugging Faceが、AIを活用したサイバー攻撃を受け、データ侵害が発生した模様です。同社は先週、この問題を公表し、顧客やパートナーのデータが侵害されたかどうかを現在調査中です。

同社のブログ投稿によると、プラットフォームにアップロードされたデータセットが悪用され、セキュリティ上の脆弱性を突かれました。これにより、ハッカーはHugging Faceのサーバー上で悪意のあるコードを実行し、権限を昇格させて内部システムへのアクセスを奪取することに成功したとのことです。

この攻撃では、自律型エージェントフレームワークが複数のサンドボックス（隔離された実行環境）で多数のアクションを実行したとされています。Hugging Faceは、侵害された認証情報（IDやパスワードなど）を無効化し、ローテーション（再発行）する措置を取りました。また、ユーザーに対し、自身のアクセス・トークンについても同様の対応を行い、不審なアクティビティがないかアカウントを確認するよう呼びかけています。

今回のインシデントは、サイバー犯罪者がプラットフォームやツールを悪用して機密データを盗み出すという、企業が直面するサイバーセキュリティ上の課題を浮き彫りにしました。Hugging Faceは、今年に入ってからサイバーインシデントの影響を受けた企業の増加に連なる形となりました。特に、人工知能に関連する攻撃が増加しています。

米連邦捜査局（FBI）は、AI関連のインターネット犯罪の苦情と損失が昨年大幅に増加したと報告しています。AIによって生成された合成コンテンツは検出が困難になり、作成が容易になっているため、個人、企業、金融機関にとって脅威となっていると指摘しています。