SynthID: la tecnología que identifica imágenes alteradas por IA en Google Photos
Google introduce una herramienta de watermarking en Google Photos para identificar imágenes alteradas por IA, buscando mayor transparencia y confianza en el contenido visual.
Google ha provocado un gran revuelo con la introducción de una herramienta impulsada por inteligencia artificial llamada "Reimagine" en Google Photos, junto con la serie Google Pixel 9 el año pasado. Esta función permite a los usuarios crear versiones extravagantes y, en ocasiones, engañosas de sus fotos reales, difuminando las líneas entre lo real y lo falso, lo que ha suscitado críticas públicas.
Para abordar estas preocupaciones, meses después, Google anunció que comenzaría a implementar un sistema de watermarking para las fotos que han sido alteradas digitalmente mediante IA en Google Photos. A partir de esta semana, la plataforma comenzará a utilizar SynthID, una tecnología que incrusta una marca de agua digital imperceptible directamente en las imágenes generadas o editadas con IA, lo que facilita la identificación de contenido editado.
SynthID se ha utilizado en otros productos de IA de Google como una manera de detectar y reconocer contenido generado por inteligencia artificial. Esta tecnología trabaja al embebir información de marca de agua directamente en el contenido, que no es visible para el ojo humano, pero es fácil de identificar. Está diseñada para evitar que textos, música, imágenes y videos generados por IA sean presentados como contenido auténtico.
Los usuarios que tengan dudas sobre si una imagen ha sido editada con IA podrán utilizar la función "Acerca de esta imagen" en Google Lens. Al buscar la imagen, el sistema proporcionará información sobre la posible marca de agua SynthID presente, así como metadatos que ofrecen pistas adicionales sobre si una foto fue editada con Reimagine en Google Photos. Sin embargo, es importante destacar que esta función puede no ser efectiva en todos los casos; algunas ediciones sutiles, como el cambio de color de una pequeña flor en el fondo, podrían no ser detectadas por SynthID.
A pesar de estas limitaciones, la implementación de la marca de agua SynthID debería ayudar a prevenir que las fotos significativamente alteradas mediante IA se presenten como reales. Desde esta semana, las nuevas creaciones generadas con Reimagine estarán digitalmente marcadas, promoviendo así una mayor transparencia en el contenido visual.