Inteligencia Artificial

OpenAI incorporará metadata y marcas de agua a las imágenes generadas por DALL-E 3

Published

2 meses ago

febrero 6, 2024

La preocupación por la autenticidad de los contenidos generados por inteligencia artificial es un tema de creciente interés en diversos ámbitos. En este contexto, OpenAI ha tomado la iniciativa de incorporar marcas de agua en la metadata de las imágenes creadas por su herramienta generativa de imágenes, DALL-E 3, con el objetivo de fortalecer la confianza en este tipo de contenidos.

Esta medida, que comenzará a aplicarse desde el 12 de febrero en su página web y la API del modelo DALL-E 3, se alinea con los estándares de la Coalición para la Proveniencia y Autenticidad del Contenido (C2PA), respaldada por importantes compañías tecnológicas como Adobe y Microsoft.

Las marcas de agua consistirán en un componente invisible en la metadata y un símbolo visible, facilitando así la verificación fiable del origen del contenido.

Este esfuerzo por aumentar la transparencia en el contenido generado por IA también responde a iniciativas gubernamentales, como la orden ejecutiva sobre IA de la administración Biden, que promueve la identificación clara del contenido producido por inteligencia artificial.

Aunque OpenAI admite que las marcas de agua no son una solución perfecta —dado que la metadata puede eliminarse intencionalmente o por accidente, especialmente en redes sociales donde frecuentemente se omite esta información—, la empresa se mantiene optimista sobre el impacto positivo que estas tendrán en la percepción de fiabilidad de la información digital.

Esta aproximación no es exclusiva de OpenAI; de hecho, la serie S24 de Samsung ha implementado una estrategia similar, generando metadata y una marca de agua visible en imágenes creadas por IA.

Estas iniciativas subrayan un esfuerzo colectivo por asegurar la autenticidad y la transparencia del contenido digital en la era de la inteligencia artificial, promoviendo así una mayor confianza entre los usuarios y contribuyendo a un entorno digital más seguro y veraz.