YouTube、新たなAIポリシーでディープフェイクを攻撃

YouTube は、人工知能によって生成されたコンテンツ ポリシーを変更しました。合成コンテンツを含む動画にラベルを付ける戦略を発表した後、このテクノロジー企業はプライバシー ポリシーに新しいセクションを導入しました。今後、ユーザーは自分の身を脅かすディープフェイクを報告できるようになる。

YouTube のプライバシー ガイドライン Web サイトによると、自分の外見や声を模倣した AI 生成コンテンツを報告することができます。これは、要件はありますが、人工知能で作成されたディープフェイクを削除するツールが手元にあることを意味します。コンテンツには、現実的な、変更または合成されたあなたのバージョンが表示されている必要があります。

他の報道と同様に、YouTube はディープフェイクを削除するかどうかを決定する前に、多くの機能を検討します。プラットフォームは、コンテンツが改変されたものであるか合成されたものであるかどうか、またそれがユーザーに示されているかどうかを評価します。フェイクビデオは、リアリティや報告者を明確に特定できるかどうかなど、いくつかの観点から評価されます。

YouTube はまた、コンテンツに犯罪や暴力行為に関与したり、政治家の宣伝に関与した公的人物や有名人が映っていないかどうかも検討します。注目すべき点は、パロディ、風刺、または公共の利益となる貴重なコンテンツに関連しています。決定を下す際には通常、後者が重視されることを覚えておいてください。

AI が生成したビデオがルールに違反した場合、作成者はビデオを編集するために最大 48 時間の猶予が与えられます。合成コンテンツに対する申し立ては、個人データに関する申し立てと同様であるため、作成者はあなたの顔をぼかしたり、トリミングしたり、削除したりすることができます。 YouTube は、違反が継続する場合、チャンネルに対して追加の措置が講じられると警告しています。

YouTubeはAIに反対していないと主張

このルールの調整の特徴の 1 つは、YouTube があまり騒がずにこの調整を実施したことです。虚偽のコンテンツを特定して削除するという一般的なポリシーとは異なり、プラットフォームは影響を受けるユーザーが違反を直接報告することを好みます。さらに悪いことに、ディープフェイクを指摘してもビデオが削除されるとは限りません。

「すべてのコンテンツが YouTube から削除されるわけではないため、これらのリクエストを評価する際にはさまざまな要素を考慮します。」

YouTube

YouTube は、他の多くの企業と同様に、人工知能に大きな賭けをしています。数日前、同社が音楽業界の最も重要な3社と協議していると報じられた。 YouTube は、自社のショートビデオ (ショート) に統合する AI を活用した音楽ジェネレーターをリリースする予定です。

YouTube のプロダクト マネージャー、ジェニファー フラナリー氏は、「生成 AI には、創造性を解き放ち、当社のプラットフォーム上での視聴者とクリエイターの体験を変革する可能性があります。」と述べています。 「私たちは取り組みの初期段階にあり、さらに学びながらアプローチを進化させていきます。」

プライバシーポリシーの変更は、Metaが合成コンテンツにタグを付けるためのツールを全面的に見直したのと同時に行われた。本日より、 AI で生成された画像には「Created with AI」というラベルが付けられなくなり、新しい識別子のおかげでより多くのコンテキストが表示されるようになります。