イーロン・マスク氏のxAI、AI生成わいせつ画像規制法を提訴

イーロン・マスク氏が所有するAI企業xAIは、ミネソタ州でいわゆる「ヌディファイ（nudify）」アプリを禁止する法律に対し、同州のキース・エリソン司法長官を相手取り訴訟を起こしました。

ミネソタ州連邦裁判所に月曜日に提出された訴状で、xAIの弁護士は、この法律が「『ヌディフィケーション』を禁止しようとする不器用な試みにおいて、表現の自由と視覚的表現のツールに対する過度に広範で、内容に基づく禁止を課している」と主張しました。

土曜日に施行されるこのミネソタ州の法律は、同意なしに性的な画像を生成する能力を個人に与えるアプリやウェブサイトを対象としており、ユーザーが露骨なディープフェイク（AIによって生成された偽の画像や動画）を作成するたびに50万ドルの罰金を科します。

4月に可決されたこの法律は、ミネソタ州のエリン・メイ・クウェイド上院議員が主導したものです。同議員は、男性がSNS上の写真を使用して、同意なく知人女性80人以上の性的な画像や動画を作成した事例を知ったことがきっかけでした。

現在SpaceXAIとして知られるこのAI事業は、同社のGrok AIチャットボットおよび画像生成機能が、実在の写真や動画に基づいて、未成年者を描写した児童性的虐待資料（CSAM）を作成・共有するために使用されたと主張する原告からの集団訴訟の提案に直面しています。

訴訟ではまた、xAIがGrokを使用して画像を「ヌディファイ」したとされる加害者に関する情報を当局に共有しなかったとも主張されています。

マスク氏の会社は、同意なしに人々のヌードまたは性的な画像を生成することを「厳しく禁止している」と主張しています。

同社は訴状の中で、そのような画像を生成するために「広範な技術的ブロッカーを回避した」ユーザーに対して訴訟を起こしていると指摘しています。

同社は、カリフォルニア州でAI生成コンテンツ、いわゆる「ディープフェイク」コンテンツを阻止することを目的とした法律に対しても、同様の訴訟を起こしています。