テイラー・スウィフトの性的ディープフェイクを受けてマイクロソフトがデザイナーを制限

テイラー・スウィフトやその他の有名人のAIを使って性的に露骨な画像をユーザーが生成できないようにするための措置を講じているが、テイラー・スウィフトのバイラル写真が短いテキスト説明を使用して画像を生成できるツールであるデザイナーを使用して作成されたことが404メディアによって発見されたため、マイクロソフトはユーザーがAIを使用して性的画像を生成できないようにする措置を講じている。

具体的には、前述のメディアは、AI で生成されたテイラー・スウィフトの画像が 4chan フォーラムと Telegram チャネルからのものであることを発見しました。そこでは、ユーザーは Microsoft が開発した Designer を使用して露骨な写真を生成することに専念していました。 404 Media は同社に報告書を送り、Microsoft はこの傾向に終止符を打つために「適切な措置を講じている」と回答したと主張している。

Microsoftは後に404 Mediaに対し、Twitter上で拡散したテイラー・スウィフトのAI生成画像がデザイナーのものかどうか検証できなかったことを認めた。しかし同社は、この種の写真の作成を防止するツールを制限し、露骨なキーワードの使用を防止した。

しかし、フォーラムのユーザーは、単に名前のスペルを間違えたり、単に性的用語を詳しく述べていないだけで挑発的な説明を作成したりすることで、歌手や他の有名人のきわどい画像を作成し続ける方法を見つけました。前述のメディアによると、同社はこれも制限しているとのこと。この情報筋によると、テイラー・スウィフトの画像が共有されていたテレグラムチャンネルには、AIが一般的な画像のみを作成することを強調するメッセージのみが存在するという。

Twitterもテイラー・スウィフトのAI生成画像に対して措置を講じた

テイラー・スウィフトのような露骨な画像が再び共有されるのを防ぐ措置を講じたのはマイクロソフトだけではない。 Twitter (X) はまた、ユーザーがディープフェイクを見つけて一斉に共有することを防ぐために、プラットフォーム上の特定の検索を制限しました。もちろんこれは一時的な措置だが、テイラー・スウィフトの検索エンジンがいつ再開されるかは不明だ。

もちろん、プラットフォームは歌手や他の有名人のウイルス画像もすべて削除しました。

さて、 404メディアは、AIが作成したテイラー・スウィフトの写真が消滅し、企業が真剣な対策を講じているにもかかわらず、ユーザーは依然として他の人工知能ツールを使用して有名人のあからさまな写真を作成し、テレグラム・チャンネルで共有していると主張している。前述のメディアは名前を明らかにしていないが、チャンネルには数千人のメンバーがおり、現在も活動していることを強調している。