Credencial de contenidos, una solución útil contra el daño de los “deepfakes”

Los conflictos bélicos y los procesos electorales son dos de los escenarios de interés informativo en los que proliferan los conocidos como “deepfakes”, o contenidos de gran realismo manipulados con IA, cuyos riesgos intentan mitigar empresas digitales como Microsoft con herramientas para generar credenciales y poder verificar estos contenidos de una manera verosímil y eficaz.

El contenido manipulado no es algo nuevo, pero el auge de la IA generativa está facilitando que personas con malas intenciones difundan desinformación, la cual puede llevar a fraudes, robos de identidad o interferencia electoral, entre otros peligros. Detalles como la firma o los subtítulos a menudo desaparecen cuando el contenido se comparte, lo que dificulta que las personas sepan en qué confiar. De esta manera, conocer el origen y rastrear la historia del contenido puede ayudar a las personas a estar más informadas y ser menos vulnerables al engaño, según Microsoft.

Las herramientas que ofrece la compañía de Redmond (Washington) incluyen una aplicación, que actualmente es una versión preliminar privada, para que creadores y editores añadan credenciales de contenido a su trabajo, es decir, metadatos certificados con detalles como quién creó el contenido, cuándo se hizo y si se utilizó IA.

Estas credenciales se adjuntan a fotos, vídeos y audios de forma criptográfica para que cualquier edición o manipulación posterior pueda detectarse más fácilmente. Debido a que los metadatos son invisibles, Microsoft también ofrece una herramienta pública de verificación de integridad de contenido y una extensión para navegadores web, lo que facilitará su uso entre los usuarios.