Twitterは「ディープフェイク」に立ち向かうが、根絶にはコミットしない

Twitterは責任ある方法でディープフェイクに対処するポリシーを策定する意向を発表した後、人々が同意するか否かに関係なく意見を表明できるよう、近い将来実施する新しいルールの最初の草案を提示した。

同社は、操作されたメディアを通じて人々を欺いたり混乱させたりする意図的な試みは会話の完全性を損なうと述べており、そのため同社は合成メディアおよび操作されたメディアとみなされるものに対処するための一連のガイドラインを定義しました。

Twitter の場合、これは、人々を誤解させたり、本来の意味を変えたりすることを目的として、大幅に変更または捏造された写真、ビデオ、または音声を意味します。このコンテンツは、映画クリップに顔を挿入するZAO などのアプリケーションや、 ポルノや女性の服を脱ぐためのディープラーニングの使用に焦点を当てたアプリケーションの後に、最近人気が高まっています。

Twitter の提案では、デフォルトでディープフェイクを排除するのではなく、コンテンツが操作されていることをユーザーに警告し、共有する前に警告します。

Twitter では次のことが可能になります。

• 合成または操作されたメディアを共有するツイートの横に通知を配置します
• 合成または操作されたメディアを使用してツイートを共有したり「いいね！」する前に人々に警告する
• たとえば、ニュースやモーメントの記事にリンクを追加すると、さまざまな情報源がメディアが合成または操作されていると信じている理由について詳しく読むことができます。

Twitterはディープフェイクを削除するのは、誰かの身体の安全を危険にさらすか、その他の重大な危害を引き起こす可能性がある場合に限られます。この説明はやや曖昧であり、特に米国やその他の国で行われているような選挙運動における情報操作に関連する場合には、さらに多くの説明が必要となるだろう。

本当か嘘か? 「ディープフェイク」はAIの最初の大きな課題である

このテクノロジー企業は、発表された措置に同意するかどうかを判断するためのアンケートに回答するよう一般の人々に呼びかけました。ユーザーは11 月 27 日までに意見を表明することができます。その日以降に内容が確認され、その後利用規約に適用されます。