アドビ、OpenAI、マイクロソフトが AB-3211を支持したと報じられている 。「カリフォルニア デジタルコンテンツプロベナンス」とも呼ばれるこの法案は、デジタルメディアやソーシャルメディアにおける透明性を確保することを目的としている。特に、大規模なオンラインプラットフォームに対し、カリフォルニア州がAIコンテンツに目に見える透かしを導入することを義務付けるものだ。
ジェネレーティブAIが進歩するにつれ、規制に関する議論はますます盛んになっている。映像ジェネレーターの急速な進歩は、人工的に生成されたコンテンツと本物の映像をどのように区別できるようになるのかという重要な問題を提起している。この法案は、透明性への一歩となるかもしれない。
AIコンテンツの透かし：法案の本質
AB 3211は、ハイテク企業に対し、AIが生成したコンテンツ（絵、写真、ビデオ、オーディオクリップを意味する）のメタデータに透かしを入れることを義務付ける。すでに実施しているAI企業もあるが、全体的な義務化には至っていない。もうひとつの問題は、多くの人がメタデータまで見ないということだ。そのため、法案によれば、インスタグラムやXのような大規模なオンライン・プラットフォームは、「生成AIシステムによって生成された、または著しく改変された」コンテンツに、一般ユーザーにも理解できるような方法でマークを付けなければならなくなる。法案の全文はこちらから。
重要性
ジェネレーティブAIに対する最大の問題点のひとつは、フェイク・コンテンツの作成、誤った情報の拡散、世論操作（特に選挙期間中）に容易に利用されてしまうことだ。生成された写真や動画は100％完璧ではなく、AIはまだ学習中だが、現時点でも、捏造された音声クリップや動画を本物と見分けるのが難しい場合がある。例えば、こちらは今年初めに激しい議論を巻き起こしたオープンAIのリアル動画生成ツール「Sora」が生成した短いシーンだ。
オープンAI、アドビ、マイクロソフトのような巨大なAI市場の企業がこの法案を支持しているという事実は、自分たちの技術が悪用されることを望んでいないことの表れだろう。
新しい技術に対して規格を定めることは、人々がオンライン上のコンテンツの出所を知り、人間が生成したものとAIが生成したものとの混同を避けるのに役立ちます。
OpenAI最高戦略責任者ジェイソン・クォンの手紙からの引用
AI生成コンテンツの透かしに対するアドビのアプローチ
3社のうち、アドビは最初から倫理的な道を歩んだ。およそ1年半前にAI生成モデル「Firefly」を初めてリリースした際、アドビストックの画像、オープンライセンスの映像、著作権がすでに失効しているパブリックドメインのコンテンツのみを使用して学習させたと説明している。
アドビ、OpenAI、マイクロソフトはまた、Coalition for Content Provenance and Authenticityの一員でもあり、C2PAメタデータ（AIが生成したコンテンツをマークするための広く使用されている規格）の作成に貢献した。C2PAには、生成されたコンテンツにタグを付け、そのコンテンツ認証情報を埋め込むためのAIシンボルが含まれている。残念ながら、このアプローチは「任意」にとどまっている。
次のステップ
AB 3211はすでに州議会を62対0で通過している。今月上旬には上院歳出委員会を通過し、上院本会議での投票が行われる。9月30日には最終決定となる。法案の要件は2026年7月1日から有効となる。
画像の出典： Adobe Firefly for CineDによって生成、透かしを入れている。
