グーグルは、加工された画像やAIによって生成された画像から本物の画像を選別するAI画像検出ツールの開発に取り組んでいる。グーグルは近々、検索エンジンにAIフィルターを追加する予定だ。これにより、ユーザーは検索結果の信憑性を知ることができるようになり、偽情報を見分けることができるようになる。AIを使った偽情報との「戦い」はプラットフォームを超えた課題であるため、グーグルは 最近、C2PAの 運営委員会に参加した。
グーグルはC2PA（Coalition for Content Provenance and Authenticity）に参加している。C2PAは、AIによって生成された画像にまつわる真正性の問題に取り組んでいる主要な組織のひとつだ。C2PAは、マイクロソフト、アドビ、OpenAI、グーグルなどのハイテク大手、ライカ、ソニー、ニコン、キヤノンなどのカメラメーカー、認証技術をすでに導入している通信社など、さまざまな利害関係者で構成されている。世界で最も著名な検索エンジンであり、世界の多くの情報源であるグーグルの参加は、大きな可能性を秘めている。
機能
グーグルは様々な面で真正性の問題に取り組む。まず、同社のAI検出ツール「SynthID」が、画像、動画、音声、テキストなど、生成されたコンテンツにC2PA準拠のデジタル透かしを作成する。この「透かし」は、ファイルにデジタル的に織り込まれる。
グーグルはまた、検索エンジンが他の電子透かしを検索し、フィルタリングできるようにする予定だが、これは他の当事者が実装するかどうかにかかっている。同社はまた、YouTubeなど、より広範なプラットフォームとの統合も検討している。
グーグルのAI画像検出ツールに期待できるもの
C2PAはかなり楽観的な見通しを提示している。AIが生成したメディアは、操作されたメディアと同様に、ソースでラベル付けされ、途中で編集履歴がすべて追加される。この編集履歴はすべてのエンドユーザーが利用でき、確かな透明性を提供する。
これは、Generation AIが私たちの生活に浸透して以来大きく損なわれてきた信頼性と信用を取り戻すことができる。この楽観的なビジョンは、おそらくウェブ情報の分野で最も影響力のあるプレイヤーであるグーグルが採用したことで、大きく後押しされることになった。
終わりには程遠い
これは良いニュースだが、警戒はまだ必要だ。標準化は、それを遵守する人々とともに機能する。これによってデジタルの世界は少しは安全になるかもしれないが、その成功は幅広い協力、特に主流メディアの協力にかかっている。このような楽観的なシナリオが展開されたとしても、重大な課題が残っている。悪意を持ってAIを使おうとする人間は、このルールに従う可能性は低い。正しい方向への一歩ではあるが、前途は長い。
