テイラー・スウィフトのポルノ「ディープフェイク」がX（ツイッター）に殺到：AI時代の女性に対する暴力

今週、テイラー・スウィフトの顔が映った性的に露骨な画像がいくつかネットワークに溢れた。これらはディープフェイク、つまり人工知能によって生成された偽のコンテンツです。 X（旧Twitter）で話題になった写真の1枚は、削除されるまでに4,700万回以上閲覧された。このスキャンダルは、専門家によって長年警告されてきた新しいツールの危険性の1つを明らかにし、特に女性に影響を及ぼした。

Xが問題の素材を公開したアカウント（ちなみに「認証済み」ユーザー）を停止するまでに約17時間かかった。この画像はこれまでに2万4000回以上再投稿され、数十万件の「いいね！」を獲得した。 「Taylor Swift AI」がトレンドとなり、コンテンツの拡散を後押しした。

イーロン・マスク氏のソーシャルネットワークは後に声明で、「同意のないヌード画像（NCN）の公開はXでは厳しく禁止されており、我々はそのようなコンテンツに対しては一切許容しない方針をとっている」と述べた。しかし、問題はこのプラットフォームを超えています。

たとえば、これらのテイラー・スウィフトのディープフェイクは、最初にテレグラムで拡散されました。 404 Media の報道によると、これらの画像はこのメッセージング アプリケーションのグループで発生したもので、ユーザーは人工知能を使用して生成された露骨な女性の画像を共有しています。

今回はテイラー・スウィフトだったが、この行為ではすでに数人の被害者が出ている。今月、 NBC ニュースは約 30 人の女性有名人のポルノディープフェイクを検出しました。彼らは非常に徹底的な調査を行う必要はなく、「ディープフェイク」という用語の横にあるアーティストの名前を Google で検索するだけで済みました。

ディープフェイク被害の証拠となるテイラー・スウィフト事件

生成人工知能は、長年にわたって開発されてきた暴力行為を促進するために登場しました。アムステルダムに本拠を置き、偽コンテンツの検出に特化した企業Sensity AIは、インターネット上のディープフェイクビデオの96％がポルノであると2019年にすでに警告していた。そしてその大半が女性を被害者としていたということだ。

2018 年から 2020 年にかけて、ポルノに限らず、インターネット上で入手可能な偽ビデオは 6 か月ごとに 2 倍に増加しました。新しい生成人工知能ツールの普及は大幅に伸びると予想されます。

影響を受けるのはテイラー・スウィフトや他の有名アーティストだけではありません。 Sensity AI は 2020 年に、少なくとも 100,000 件の女性のポルノディープフェイクが Telegram グループに配布されたことも検出しました。これらのチャネルのユーザーは、コンテンツの生成にボットを使用したと述べました。これらのツールを使用して、本物の女性がソーシャル ネットワークに投稿した写真を使用してディープフェイクを作成しました。

昨年9月にスペインのアルメンドラレホでスキャンダルが勃発した。 11歳から17歳までの20人以上の少女が、自分たちの裸の画像が人工知能ツールで生成されたと報告した。 BBCの報道によると、この資料はテレグラムとワッツアップで配信されたという。

サイバーセキュリティ会社であるリアリティ・ディフェンダーはニューヨーク・タイムズに対し、テイラー・スウィフトの画像はほぼ確実に放送モデルを通じて作成されたと語った。これは、OpenAI、Google、Midjourney などの最も有名な新しい画像生成ツールのいくつかを強化するテクノロジーです。 Reality Defender の CEO、Ben Colman 氏は、現在100,000 を超えるアプリケーションとモデルが公開されていると説明しました。

「テイラー・スウィフトに起こったことは何も新しいことではない。何年もの間、女性は同意なしにディープフェイクの標的にされてきました」と民主党米国下院議員イベット・D・クラークは述べた。 「人工知能の進歩により、ディープフェイクの作成はより簡単かつ低コストになった」と彼はX誌に書いた。この国にはこの種のコンテンツを制限している州がいくつかあるが、この点に関して連邦法は制限されている。

大手テクノロジー企業は何をしているのでしょうか?

Google や OpenAI などの最も有名なツールでは、露骨な性的コンテンツの作成や、政治家やアーティストなどの有名人のアイデンティティを使用するコンテンツの作成は許可されていません。しかし、テイラー・スウィフトのようなディープフェイクの拡散には大きなテクノロジーが大きな影響を与えている。

Google は被害者がこのコンテンツの削除をリクエストすることを許可していますが、ポルノディープフェイクを積極的に検索して削除することはしません。 「私たちは、あなたまたはあなたの権限のある代理人がフォームで送信した URL のみを審査します」と、リクエストを行うためのテンプレートに示されています。

Microsoft は、ポルノディープフェイクを非同意の親密な画像 (NCII) のカテゴリー内で考慮しています。 Google と同様に、Bing 上に表示されるコンテンツを被害者が報告するためのフォームが用意されています。

「NCIIの配布はプライバシーと個人の尊厳の重大な侵害であり、被害者に壊滅的な影響を与える」とマイクロソフトの最高デジタルセキュリティ責任者のコートニー・グレゴワール氏は昨年8月に述べた。 「マイクロソフトは、影響を受ける人の許可なく、NCIIの要求や親密な画像の制作や再配布の防御を含め、当社のプラットフォームおよびサービス上でNCIIを禁止しています」とグレゴワール氏は明言した。

ただし、どちらの検索エンジンでも、有名人のポルノディープフェイクに特化していることを宣伝するいくつかのポータルが検索結果で優先的に表示されます。内容は女性からの投稿がほとんどです。 Google と Bing は、この種の暴力的な素材を生成するいくつかのアプリケーションも強調しています。

Wiredの10月の調査では、ディープフェイクポルノ専用のサイトが少なくとも35あることが判明した。さらに 300 人が、同意なしに何らかの種類のこの資料を公開しています。何十万ものビデオがあります。