Google、AIが生成したテキストや動画に透かしを挿入できるようになった

Googleは、人工知能で作成されたコンテンツを識別および検出するツールの開発にしばらく取り組んできました。 2023 年に同社は、 AI が作成した画像や曲に人間には知覚できない透かしを組み込むことができるユーティリティであるSynthID を導入しました。そして現在、そのテクノロジーを他の 2 つの重要な分野、テキストとビデオ生成に拡張しています。

I/O 2024 の一環として、Google DeepMind は、Gemini チャットボットとその名を冠した人工知能と統合された Web エクスペリエンスを使用して作成されたテキストに SynthID が透かしを挿入できるようになったと発表しました。ビデオの場合、この機能は、Sora (OpenAI) と競合する新しいテキストからビデオへのモデルであるVeoで利用できます。

Google は、SynthID は絶対的なものではないが、特定のコンテンツが人工知能によるものであるかどうかを検出できるツールの開発には重要であることを明らかにしています。ディープフェイクが氾濫し、人間の目や耳を騙すことがこれまで以上に簡単になった時代において、ウォーターマークの挿入は、特定の種類のファイルやドキュメントの正当性を証明するための最も現実的なオプションとして提示されています。

興味深いのは、Google が AI で生成されたテキストに透かしを適用するバージョンの SynthID をオープンソース化すると約束していることです。これにより、他のモデルの開発者は、現在 Gemini ですでに利用可能なものと同じテクノロジーを使用できるようになります。

SynthID の新しいテキストとビデオの透かしの仕組み

Veo で作成されたビデオについては、Google はすべてのビデオに SynthID ウォーターマークが含まれていることを示しています。これらを導入するために、同社は静止画像の生成に適用される技術をベースとして、それをさらなるレベルに引き上げました。マウンテンビュー側はあまり具体的な詳細は明らかにしていないが、 AIで生成されたビデオの各フレームのピクセルに識別マークが「刻印」されていると指摘している。

Googleは、SynthIDの透かしを肉眼で検出することは不可能だが、識別ソフトウェアを使用すればすぐに検出できると主張している。人工知能で作成されたテキストの場合、プロセスは多少複雑になります。

チャットボットとテキスト生成モデルは、トークンと予測システムを使用して、文全体または段落全体を生成します。 AI が行うことは、ユーザーが入力したプロンプトに対する一貫した応答を作成する際に、それが正しい確率のパーセンテージを表すスコアを各トークンに与えることです。

SynthID を使用して、Google はテキストの作成時にウォーターマークを生成できる方法を開発しました。 DeepMind の研究者は次のように説明しています。

「SynthID は、テキスト生成プロセスに目に見えない透かしを直接埋め込むように設計されています。これは、生成時点でトークンの配布に追加情報を導入し、トークンが生成される確率を調整することで実現されます。すべて品質、精度、創造性を損なうことなく行われます。またはテキスト生成の速度。

モデルの単語選択のスコアの最終パターンは、調整された確率スコアと組み合わされて、ウォーターマークとみなされます。 「このスコアのパターンは、透かしの入ったテキストと透かしの入っていないテキストの予想されるスコアのパターンと比較され、テキストが AI ツールによって生成されたものなのか、それとも他のソースから来たものなのかを SynthID が検出するのに役立ちます。」

Googleディープマインド。

Google は、SynthID のテキスト ウォーターマークは、ユーザーが長いテキストやバリエーションの生成を要求した場合に最適に機能すると述べています。たとえば、誰かがジェミニにエッセイや同じテキストの別のバージョンを作成して電子メールで送信するように依頼したときです。また、テキストに何らかの変更が加えられた場合でも、識別マークは機能し続けます。

ただし、同社はこのツールには依然として制限があることを認識しています。たとえば、テキストが書き換えられたり、別の言語に翻訳されたりした場合、識別アルゴリズムは透かしを見つけられない可能性があります。いずれにせよ、これは非常に興味深い前進です。今後数か月以内に、カリフォルニア州民がこのツールを公開し、その仕組みをより詳細に明らかにする予定です。