この記事のポイント
この記事はGoogleが開発したAI生成コンテンツ識別技術「SynthID」について説明しています。- SynthIDを用いると、AIが生成したテキストやビデオに目立たない透かしを施し、後からそのコンテンツがAI産であるかを識別できます。
- テキストに対しては単語選びに微妙なパターンを生成し、動画に関しては各フレームに透かしを入れて識別を可能にします。
- この技術はフェイクニュースの防止に役立ち、信頼性のあるメディア環境を支援することが期待されています。
- Googleは今後、この透かし技術をオープンソース化し、広いAIエコシステムでの使用を目指しています。
監修者プロフィール
坂本 将磨
Microsoft AIパートナー、LinkX Japan代表。東京工業大学大学院で技術経営修士取得、研究領域：自然言語処理、金融工学。NHK放送技術研究所でAI、ブロックチェーン研究に従事。学会発表、国際ジャーナル投稿、経営情報学会全国研究発表大会にて優秀賞受賞。シンガポールでのIT、Web3事業の創業と経営を経て、LinkX Japan株式会社を創業。
近年、AIによるコンテンツ生成が進化し、その識別が社会的な課題となっています。そんな中、Googleが2024年5月14日に発表した新技術「SynthID」は、AI生成のテキストやビデオに透かしを施すことで、人の目では気づくことが難しいけれども、AIによって作成されたコンテンツであることを識別可能にするものです。これにより、フェイクニュースの拡散を防ぎ、デジタルメディア信頼性の確保に貢献することが期待されています。本記事では、SynthIDが如何にしてAI生成コンテンツに目に見えない特殊な印をつけるのか、その詳細と今後の展望について解説します。
AIコンテンツ識別の新技術「SynthID」
2024年5月14日にGoogleが発表した「SynthID」とは、AIが作り出したテキストやビデオコンテンツに透かしを入れる新技術です。
この透かしは、人間には気づかれないようにしながら、AIが生成したコンテンツに特別な印をつけることができるのです。
例えば、AIが文章を書くときに、使う単語やフレーズの選び方にわずかな変更を加えて、特定のパターンを作り出します。
これによって、後からそのテキストがAIによって書かれたものかどうかを識別できるようになります。
ビデオに関しても、各フレームに透かしを入れて、AIが生成したものかどうかを判別できるようにしています。この技術は、特にフェイクニュースの拡散を防ぐために役立つと期待されています。
Google、AI生成テキストの透かし公開
Googleは、SynthIDを使ってAIが生成したテキストに透かしを入れる方法を公開しました。
この透かしは、AIが文章を生成する際に、使用する単語の選び方に微妙な調整を加えることで実現されます。
たとえば、AIが長めの文章や、メールのバリエーションを生成するときに特に有効です。ただし、事実に基づく短い回答や、少ない変化しか予測されないような質問に対しては、透かしの効果が低くなることがあります。
また、大幅に書き換えられたり、他の言語に翻訳されたテキストでは、透かしを検出することが難しくなることも明らかにされています。
この夏には、テキストの透かし技術をオープンソース化し、開発者が自分たちのモデルに組み込めるようにする計画があります。
Geminiによって生成されたテキストの一部：透かしが青色で強調表示
進化するAI動画識別、Googleが発表
Googleは、動画におけるAI生成コンテンツの透かし技術も発表しました。
動画は個々のフレーム、つまり静止画像で構成されていますが、SynthIDを使って、各フレームに透かしを埋め込むことができます。
これにより、AIが生成した動画を人間の目では気づかない形で識別することが可能になるわけです。この技術は、VideoFXを通じてVeoモデルで生成される全てのビデオに適用されています。
生成された全てのフレームへ透かしを挿入
人々がAI生成メディアとやり取りしているときにそれを認識できるようにすることで、誤情報の拡散を防ぐために重要な役割を果たします。
そして、今後Googleはこれらの技術をより広いAIエコシステムにもたらすことを目指しています。
出典:Google
