Google, el conocido gigante tecnológico, está trabajando en una herramienta de detección de imágenes con inteligencia artificial que separará las imágenes auténticas de las modificadas. Muy pronto, Googlea agregará un filtro de inteligencia artificial a su motor de búsqueda; Esto les brindará a los usuarios una mejor comprensión de la autenticidad de sus resultados de búsqueda y debería ayudarnos a evitar la desinformación e imágenes falsas. Como la “batalla” contra la desinformación basada en inteligencia artificial es una campaña multiplataforma, Google se unió recientemente al comité directivo de C2PA y cooperará con otros miembros.
Google participa en C2PA, la Coalición para la Procedencia y Autenticidad del Contenido. La C2PA es una de las principales iniciativas que intentan abordar los problemas de autenticidad que giran en torno a las imágenes generadas por inteligencia artificial y se derivan de ellas. La C2PA está formada por varias partes interesadas: gigantes tecnológicos como Microsoft, Adobe, OpenAI, Google y otros; fabricantes de cámaras como Leica, Sony, Nikon y Canon que ya implementan tecnologías de autenticación; así como corporaciones de noticias, etc. Al ser el motor de búsqueda más importante del mundo y una fuente de gran parte de la información mundial, la participación de Google tiene un potencial significativo.
¿Cómo va a funcionar?
Google abordará los problemas de autenticidad en varios frentes. Primero, su herramienta de detección de IA SynthID creará una marca de agua digital compatible con C2PA en el contenido generado, ya sean imágenes, video, audio o texto. La “marca de agua” se tejerá digitalmente en los archivos en un método bastante resistente a la manipulación.
Google también permitirá que su motor de búsqueda encuentre y filtre otras marcas de agua digitales, aunque esto depende de que otras partes lo implementen. La empresa también está estudiando una integración de plataforma más generalizada, como YouTube y más.
¿Qué puedes esperar de la herramienta de detección de imágenes de IA de Google?
C2PA ofrece una perspectiva bastante optimista, en la que las imágenes generadas por IA se etiquetarán y se agregará todo su historial de edición en el camino. Este historial de edición debería estar disponible para todos los usuarios finales, ofreciendo un nivel respetable de transparencia.
Esto, a su vez, debería fortalecer la autenticidad y la confianza, ambas muy erosionadas desde que Generated AI irrumpió en nuestras vidas (y mucho antes de eso, para ser honestos). Esta visión optimista recibe un impulso significativo con su adopción por parte de Google, quizás el actor más influyente en el campo de la información web.
Lejos de terminar
Si bien esto es una buena noticia, aún se requiere vigilancia. La estandarización funciona con aquellos que cumplen. Si bien esto podría hacer que el mundo digital sea un poco más seguro, su éxito depende de una amplia cooperación, particularmente entre los medios tradicionales. Incluso si se desarrolla este escenario optimista, aún quedan desafíos importantes. Es poco probable que los actores no convencionales, como los grupos ilegales, los agentes del caos y los adversarios reales, sigan estas reglas. Hay muchos actores no convencionales ahí afuera que no cumplirán. Es un paso en la dirección correcta, pero aún tenemos un largo camino por delante.
¿Confías en los esfuerzos e intenciones de los gigantes de la industria con respecto a las restricciones y regulaciones de la IA? ¿Crees que este genio omnipotente podrá volver a su lámpara o lo consideras una causa perdida? Cuéntanos tu opinión en los comentarios.
