アップルとグーグル、違法アプリの削除を命令される

米サンフランシスコ市は、アップル（AAPL）とグーグル（GOOG/GOOGL）に対し、アプリストアから「ナディファイ（nudify）」アプリの削除を命じました。ナディファイアプリは、写真に写っている人物をデジタル加工して衣服を脱がせるソフトウェアです。

カリフォルニア州法では、同意のないディープフェイクポルノ（AI技術などを悪用して作成された、実在の人物に似せた偽の性的コンテンツ）の作成を「意図的に助長する」または「無謀に幇助・教唆する」行為は犯罪とされています。さらに、2025年からは、被害者がそのようなコンテンツの第三者提供者に対して民事訴訟を起こすことが可能になります。

サンフランシスコ市によると、これらの法律が周知されているにもかかわらず、両社は依然としてこうしたアプリをストアで提供し、収益を上げていました。

サンフランシスコ市のアトーニー（市検事）であるデビッド・チュウ氏は、「アップルとグーグルは、同意のないディープフェイクを生成することで女性や少女を搾取するアプリから利益を得ている」と述べ、「一部の問題のあるアプリとの関係を断ち切ったとしても、両社には性的虐待を防ぐために、より積極的かつ注意深くなる責任がある」と指摘しました。

チュウ氏の事務所が両社に送付した書簡によると、両社は「不正な購入の決済処理」における役割について、約1年前から通知を受けていたにもかかわらず、取引を継続していたとのことです。書簡によれば、両社はこれらのアプリを提供していることについて、繰り返し警告を受けていました。

非営利団体「テック・トランスペアレンシー・プロジェクト（TTP）」は、1月と4月に報告書を発表し、両社に書簡を送付。アプリストア内に「数十ものアプリ」が存在し、それらが両社の決済システムを通じて「金銭と引き換えに、同意のない性的画像を販売していた」と指摘しました。4月の報告書では、グーグルとアップルが意図的にユーザーをそのようなアプリに「誘導」しており、両社は「実在の人物を性的な画像に変えることができるAIツールの拡散における主要な参加者」であると非難しました。

チュウ氏は、両社がこうしたサービスを提供するアプリから「数百万ドルもの手数料」を得ていた可能性が高いと述べています。チュウ氏の事務所からの書簡は、両社が法律違反により民事罰に直面する可能性があると警告し、28日以内の連絡を求めています。

ディープフェイクポルノは、これまで主に著名な女性が被害に遭ってきましたが、ナディファイアプリの登場により、公開されている写真さえあれば誰でも標的になる可能性があります。