A medida que los sistemas de inteligencia artificial (IA) crean imágenes sintéticas cada vez más realistas, Google ha desarrollado una nueva herramienta llamada SynthID para ayudar a identificar fotografías y obras de arte generadas por computadora.
Si bien inicialmente está disponible para clientes selectos de Google Cloud, esta tecnología representa un paso hacia la identificación del contenido generado por IA.
SynthID incorpora marcas de agua digitales imperceptibles en imágenes generadas por IA, lo que permite detectarlas incluso después de modificaciones como recortes o cambios de color.
Utilizando Imagen, un nuevo modelo de conversión de texto a imagen, Google está probando SynthID con clientes selectos de Google Cloud.
SynthID: cómo funciona
A diferencia de las marcas de agua visibles que se usan comúnmente en la actualidad, la marca de agua digital de SynthID está entretejida directamente en los datos de los píxeles.
La herramienta utiliza dos modelos de IA entrenados juntos: uno para agregar marcas de agua imperceptibles y otro para identificarlas.
Google optimizó estos modelos para incrustar marcas de agua que se alinean con el contenido de la imagen original, manteniendo la calidad visual y permitiendo la detección.
En pruebas internas, SynthID identificó con precisión las imágenes generadas por IA después de una intensa edición. Proporciona tres niveles de confianza para indicar la probabilidad de que una imagen contenga la marca de agua SynthID.
Si bien Google no promete infalibilidad contra manipulaciones extremas de imágenes, SynthID proporciona un enfoque técnico para utilizar contenido generado por IA de manera responsable.
Se espera que la herramienta evolucione junto con otros modelos de IA, ampliando sus capacidades más allá de la identificación de imágenes al audio, video y texto.
Implicaciones para empresas y especialistas en marketing digital
Aunque esta herramienta está en sus inicios, el avance de la detección de imágenes generadas por IA tiene varias implicaciones para las empresas y los especialistas en marketing.
- Más responsabilidad: Incrustar marcas de agua imperceptibles en imágenes generadas por IA proporciona una forma de identificar el sistema de IA utilizado para crearlas.
- Nuevas consideraciones: Los profesionales del marketing deben considerar si deben identificar las imágenes generadas por IA que utilizan para sus campañas y cómo hacerlo. La atribución adecuada puede generar confianza entre los consumidores.
- Nuevas oportunidades: La tecnología de marcas de agua abre posibilidades creativas para generar imágenes de IA a escala manteniendo la atribución. Los expertos en marketing pueden encontrar aplicaciones novedosas.
En resumen, SynthID podría remodelar la conversación sobre el uso responsable de la IA. Será una tecnología intrigante a seguir a medida que la carrera de la IA se intensifica.
Imagen destacada: Fotografía IB/Shutterstock
