マイクロソフトはテイラー・スウィフトの性的ディープフェイクに影響を与えた可能性のあるDALL-E 3エクスプロイトに関する警告を無視した

MicrosoftのAI部門のリーダーは、OpenAIのDALL-E 3には、数日前に拡散したテイラー・スウィフトのような露骨な性的画像をユーザーが作成できる脆弱性があると主張している。 GeekWireによると、エンジニアのシェーン・ジョーンズ氏はこの問題を公的に報告したかったが、同社の法務チームがそれを阻止したという。

この問題を国会議事堂に持ち込んだジョーンズ氏は、数名の上院議員に宛てた書簡の中で、前述のメディアがアクセスすることができ、「DALL・E 3は公共の安全に対するリスクを意味する」という結論に達したと述べている。 OpenAI がこのモデルに関連するリスクに対処できるようになるまで、一般公開から撤退すべきです。」

このエンジニアは、12月初旬にこの脆弱性を発見し、すぐに社内報告プロセスを通じてMicrosoftに通報したと述べた。 「この問題を報告したところ、その日のうちに次のような返答を受け取り、それを私のリーダーシップチームと共有しました。「私たちはサイバーセキュリティの脅威について Microsoft 企業ネットと Microsoft ユーザー アカウントを監視しています。このレポートは上記のいずれにも影響を与えないようです。」同社は同氏に「OpenAI Webサイトを通じてコメントを送る」よう提案し、訴訟を終結させた。

興味深いことに、テイラー・スウィフトの性的なディープフェイクは、ジョーンズがDALL-E 3のこの脆弱性を発見した数週間後に出現しました。X（Twitter）上で流通した歌手のAI生成画像は、テクノロジーを使用するマイクロソフト独自のツール「デザイナー」で作成されたようですOpenAIから。ただし、このエクスプロイトとアーティストのディープフェイクとの関係は証明されていません。

Microsoft エンジニアが DALL-E 3 に関する懸念を公表

Microsoft に通知した数日後、 Jones 氏は OpenAI の責任者に宛てた公開書簡を LinkedIn を通じて共有することを決定し、その中でこの脆弱性について警告し、「DALL·E 3 の利用を一時停止する」ことを主張しました。

このエンジニアは、コンテンツを公開した直後に Microsoft に通知し、同社の法務部門が公開を削除するよう連絡したことを強調しました。 Microsoftはジョーンズ氏に対し、「削除リクエストの具体的な正当性について、すぐに電子メールでフォローアップする」と伝えたが、エンジニアはその電子メールを受け取らなかった。

ジョーンズ氏は上院議員に送った書簡の中で、自身のポストを解任せざるを得なくなった理由についてマイクロソフト社に説明を求めたと述べている。同氏はまた、脆弱性の修正に協力し、「AI画像技術をより安全にするためのアイデアを提供する」と同社に伝えた。しかし、 Microsoftの法務部門はまだ返答をしていない。

Microsoft と OpenAI が対応

GeekWireで公開されたニュースを受けてEngadgetに送った声明の中で、Microsoft は、エンジニアが共有したレポートを直ちに調査し、「彼が共有した技術はセキュリティ システムを迂回するものではない」と述べています。同社はすぐにOpenAIに通知したことも強調した。

「あなたの報告は OpenAI 製品に関するものであったため、OpenAI の標準報告チャネルを通じて報告することを推奨し、当社の上級製品リーダーの 1 人が従業員のコメントを OpenAI に共有し、OpenAI は直ちにこの問題を調査しました。

同時に、当社チームは調査を行い、報告された技術が当社の AI を活用したイメージング ソリューションのセキュリティ フィルターをバイパスしていないことを確認しました。 「従業員からのフィードバックは当社の文化の重要な部分であり、私たちはこの同僚と連絡を取り合い、彼らが抱えている可能性のある残りの懸念に対処しています。」

マイクロソフト

一方、OpenAIの広報担当者はGeekWireのコメントに応じ、同社はMicrosoft従業員の報告書を受け取ってすぐに調査し、OpenAIは「共有した技術がセキュリティシステムをバイパスしていないことを確認した」と主張した。