AIによって生成されたコンテンツは近年増加傾向にある。人気が高まり、より身近になるにつれ、懸念も高まっている。責任あるAIに関する昨年11月の発表に続き、YouTubeは今回、YouTube Studioに新しいツールを組み込んだ。この新機能により、クリエイターは、音声の変更、顔の入れ替え、AIが生成したリアルなシーンなど、あまり目立たないAIの使用例を公開できるようになる。現時点では、クリエイターの善意に基づく、純粋な任意で行われる。
AIによって生成されたコンテンツがこれまで以上に広まるにつれ、真正性への懸念が高まっている。YouTubeは現在、コンテンツに関する疑念を軽減するための新しいツールを提供している。新しいラベリングツールは任意であり、クリエイターのコミュニティに、視聴者から強く求められている信頼を築くチャンスを提供する。
真正性が鍵
この新しいツールによって、YouTubeはAIツールの操作によって拡散される偽情報に対抗することを目指している。ドラゴンに乗っている画像や幻想的な風景を投稿することはできる。最終的な画像が意図的に非現実的である限り、それを投稿することに問題はない。YouTubeは、AIラベリングが必要なユースケースを以下のように規定している：
- 現実的な人物の肖像を使用する： 実在する人物の肖像を使用する：ある人物の顔を別の人物の顔に置き換えたり、動画のナレーションを担当する人物の声を合成したりするために、コンテンツをデジタル的に改変すること。
- 実在する出来事や場所の映像を改変すること： あたかも本物のビルが火事になったかのように見せたり、実際の街並みを改変して現実とは異なるように見せたりする。
- リアルなシーンを作り出す： 竜巻が現実の町に向かって移動するような、架空の大事件をリアルに描写する。
フルカバーはまだ実現できていない
YouTubeの動きは称賛に値するが、まだいくつかの大きな注意点がある。タグ付けを必要としないAI改変について、YouTubeは解釈の余地を残している。”また、合成メディアが非現実的である場合、および／または変更が取るに足らないものである場合、クリエイターに開示することを求めない。” YouTubeはいくつかのユースケースを指定し続けているが、”非現実的 “という言葉はまだかなり主観的なようだ。それ以上に、このツールの自発的な性質が、その破滅を招くかもしれない。
自発的なジレンマ
ほとんどのクリエイターは、自分たちのコンテンツの信憑性に関して、まっとうで正直であるに違いない。視聴者とクリエイターの信頼の重要性はいくら強調してもしすぎることはない。心配なのは、ごく一部の悪意のあるユーザーだ。このシステムはまだこれに対する解決策を提供していないし、正直なところ、現時点ではこれに対抗する別の方法があるかどうかもわからない。現在のAI生成コンテンツのレベルでは、アルゴリズムに基づく解決策を実現するのはかなり難しいだろうし、自動タグ付けの結果も問題になるかもしれない。C2PAのようなある種の電子透かしに解決策があるかもしれないが、社会的ジレンマがすべてそうであるように、技術的解決策以上のものが必要だ。
