A pesar de que las posibilidades de entretenimiento con esta tecnología son ilimitadas, los videos denominados deepfakes tienen el potencial de alterar gravemente la confianza del público en el gobierno y nuestros funcionarios electos, incluso la capacidad de creer lo que ven nuestros propios ojos

Es por ello que este miércoles, Facebook  y la Universidad Estatal de Michigan presentaron un método novedoso no solo para detectar falsificaciones profundas, sino también para descubrir qué modelo generativo lo produjo mediante ingeniería inversa de la imagen.

Más allá de decir si una imagen es una falsificación o no, muchos sistemas de detección actuales pueden indicar si la imagen se generó en un modelo que el sistema vio durante su entrenamiento, lo que se conoce como clasificación de “conjunto cerrado”.

Te puede interesar: Nintendo anuncia nueva secuela de The Legend of Zelda: Breath of the Wild

El problema es que si la imagen fue creada por un modelo generativo en el que no se entrenó el sistema detector, entonces el sistema no tendrá la experiencia previa para poder detectar la falsificación.

Facebook trabaja en descubrir patrones únicos detrás del modelo de IA que genera imágenes falsas

La técnica de ingeniería inversa FB-MSU, aunque no es exactamente una metodología de vanguardia, “se basa en descubrir los patrones únicos detrás del modelo de IA utilizado para generar una sola imagen falsa”, explicó el equipo en una publicación de blog.

“Comenzamos con la atribución de imágenes y luego trabajamos para descubrir las propiedades del modelo que se utilizó para generar la imagen”, continuó el equipo.

“Al generalizar la atribución de imágenes al reconocimiento de conjuntos abiertos, podemos inferir más información sobre el modelo generativo utilizado para crear un deepfake que va más allá de reconocer que no se ha visto antes”.

Además, este sistema puede comparar y rastrear similitudes entre una serie de falsificaciones, lo que permite a los investigadores rastrear grupos de imágenes falsificadas hasta una única fuente generativa, lo que debería ayudar a los moderadores de redes sociales a rastrear mejor las campañas coordinadas de desinformación.

Te puede interesar: Mexicanos, entre los principales consumidores de videojuegos en el mundo

IA podría desenmascarar a posibles culpables

“Supongamos que un mal actor está generando muchos deepfakes y los carga en diferentes plataformas para distintos usuarios. Si fuese un nuevo modelo de IA que nadie vio antes, poco podríamos decir al respecto en el pasado. Pero ahora podemos manifestar: ‘Mira, la imagen que se cargó aquí, y la imagen que se cargó allí, provienen del mismo modelo’. Y si logramos apoderarnos del portátil u ordenador utilizado para generar el contenido, seremos capaces de decir: ‘Este es el culpable’“, dijo Tal Hassner, líder de investigación de Facebook  a The Verge.

Cabe señalar que este método de Facebook  todavía se encuentra bajo desarrollo, razón por la cual aún se encuentra lejos de tener una implementación real, sin embargo, representa un paso al frente ante una problemática creciente.