Software

Los investigadores de Facebook están desarrollando un nuevo método para detectar deepfakes


Facebook anunció una nueva forma de detectar y mapear deepfakes, que se basa en la ingeniería inversa desde una sola imagen generada por IA hasta el modelo generativo utilizado para crearla. La tecnología se desarrolló conjuntamente con la Universidad Estatal de Michigan (MSU).

La compañía utilizó la ingeniería inversa para resolver el problema de las falsificaciones profundas al descubrir patrones únicos detrás de un modelo de inteligencia artificial que se utiliza para generar una sola imagen de las falsificaciones profundas. Según Facebook, este nuevo método es necesario para solucionar el problema de la proliferación de deepfakes.

«Es importante ir más allá del mapeo de imágenes de cerca, ya que se puede crear un deepfake con un modelo generativo que no se puede ver en el entrenamiento», escribió Facebook en un Entrada de blog. «El problema de la proliferación de deepfake requiere llevar la discusión un paso más allá y trabajar para comprender cómo se puede expandir el mapeo de imágenes más allá del número limitado de modelos en entrenamiento».

Esto permite identificar qué deepfakes se generaron a partir del mismo modelo de IA para descubrir desinformación coordinada o ataques maliciosos lanzados con deepfakes.

Una vez que el mapeo de imágenes se generaliza a la detección de conjuntos abiertos, los investigadores pueden inferir más información sobre el modelo generativo utilizado para crear un deepfake que va más allá de darse cuenta de que nunca se ha visto antes. Al encontrar similitudes entre patrones en una colección de deepfakes, también se puede determinar si una serie de imágenes provienen de una sola fuente.

Esto es necesario ahora, ya que el aprendizaje profundo ha hecho que el conjunto de herramientas para generar imágenes sea ilimitado, lo que hace imposible que los investigadores identifiquen ciertas señales o propiedades de huellas dactilares a través de funciones artesanales.

“Nuestra investigación está ampliando los límites de la comprensión de la detección de deepfake e introduciendo el concepto de análisis de modelos, que es más adecuado para su uso en el mundo real. Este trabajo proporcionará herramientas para que los investigadores y profesionales investiguen mejor los incidentes de desinformación coordinada utilizando deepfakes y abrirán nuevas direcciones para futuras investigaciones ”, agregó Facebook.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba