A medida que los sistemas de inteligencia artificial (IA) crean imágenes sintéticas cada vez más realistas, Google ha desarrollado una nueva herramienta llamada SynthID para ayudar a identificar fotos y obras de arte generadas por ordenador.

Si bien inicialmente estará disponible para clientes selectos de Google Cloud, esta tecnología representa un paso hacia la identificación de contenido generado por IA.

SynthID incrusta marcas de agua digitales imperceptibles en las imágenes generadas por IA, lo que permite detectarlas incluso después de modificaciones como recortes o cambios de color.

Utilizando Imagen, un nuevo modelo de texto a imagen, Google está probando SynthID con clientes seleccionados de Google Cloud.

SynthID: Cómo funciona

A diferencia de las marcas de agua visibles comúnmente utilizadas en la actualidad, la marca de agua digital de SynthID se integra directamente en los datos de píxeles.

La herramienta utiliza dos modelos de IA entrenados conjuntamente: uno para agregar las marcas de agua imperceptibles y otro para identificarlas.

Google ha optimizado estos modelos para incrustar marcas de agua que se ajusten al contenido original de la imagen, manteniendo la calidad visual y permitiendo su detección.

En pruebas internas, SynthID identificó con precisión imágenes generadas por IA después de una edición intensiva. Proporciona tres niveles de confianza para indicar la probabilidad de que una imagen contenga la marca de agua de SynthID.

Aunque Google no promete infalibilidad contra manipulaciones extremas de imágenes, SynthID proporciona un enfoque técnico para utilizar contenido generado por IA de manera responsable.

Se espera que la herramienta evolucione junto con otros modelos de IA, ampliando sus capacidades más allá de la identificación de imágenes a audio, vídeo y texto.

Implicaciones para empresas y profesionales de marketing digital

Aunque esta herramienta está en sus primeras etapas, el avance en la detección de imágenes generadas por IA tiene varias implicaciones para empresas y profesionales de marketing.

- Mayor responsabilidad: Incrustar marcas de agua imperceptibles en imágenes generadas por IA proporciona una forma de identificar el sistema de IA utilizado para crearlas.

- Nuevas consideraciones: Los profesionales de marketing deben considerar si y cómo identificar las imágenes generadas por IA que utilizan en sus campañas. Una atribución adecuada puede generar confianza con los consumidores.

- Nuevas oportunidades: La tecnología de marcas de agua abre nuevas posibilidades creativas para generar imágenes de IA a gran escala, al mismo tiempo que se mantiene la atribución. Los profesionales de marketing ingeniosos pueden encontrar nuevas aplicaciones.

En resumen, SynthID podría cambiar la conversación en torno al uso responsable de la IA. Será una tecnología intrigante para seguir a medida que la carrera de la IA se intensifique.

Imagen destacada: IB Photography/Shutterstock