Facebook pone 10 millones de dólares en un esfuerzo para detectar vídeos falsos y profundos

Se ha creado un fondo de 10 millones de dólares (8,1 millones de libras esterlinas) para encontrar mejores formas de detectar los llamados vídeos falsos profundos.

Facebook, Microsoft y varias universidades del Reino Unido y Estados Unidos están aportando el dinero para el proyecto de investigación de amplio alcance.

Los vídeos falsos y profundos utilizan programas de inteligencia artificial para hacer que la gente -a menudo políticos o famosos- digan o hagan cosas que nunca hicieron o dijeron.

Muchos temen que estos vídeos se utilicen para sembrar desconfianza o manipular la opinión.

El efectivo ayudará a crear sistemas de detección, así como un «conjunto de datos» de falsificaciones contra las que se pueden probar las herramientas.

«El objetivo del desafío es producir una tecnología que todos puedan utilizar para detectar mejor cuándo se ha utilizado la IA para alterar un vídeo con el fin de engañar al espectador», escribió Mike Schroepfer, director técnico de Facebook, en un blog que describe el proyecto.

Uno de los elementos clave será crear el conjunto de datos utilizado para calibrar y calificar los diferentes sistemas de detección de falsificaciones.

El Sr. Schroepfer dijo que los conjuntos de datos para otros sistemas basados en la IA, incluyendo aquellos que pueden identificar imágenes o lenguaje hablado, han alimentado un «renacimiento» en esas tecnologías y han impulsado una amplia innovación.

El conjunto de datos se generará utilizando actores de pago para realizar escenas que pueden ser utilizadas para crear videos falsos que los diferentes sistemas de detección intentarán detectar.

No se utilizarán datos de Facebook para generar este banco de imágenes, clips de audio y vídeos de libre acceso, dijo el Sr. Schroepfer.

Añadió que la base de datos de falsificaciones profundas estará disponible en diciembre.

El dinero también se utilizará para financiar el trabajo en muchas universidades, incluyendo Cornell, Oxford y UC Berkeley,

La tecnología para crear falsificaciones convincentes se ha difundido ampliamente desde que apareció por primera vez a principios de 2018. Ahora es mucho más fácil y rápido crear los videos, y a muchos les preocupa que los clips convincentes aparezcan en las campañas de propaganda.

Un comentarista dijo que las herramientas para detectar las falsificaciones podrían no resolver todos los problemas que presenta la tecnología.

«Es un juego de gato y ratón», dijo a Reuters Siddharth Garg, profesor asistente de ingeniería informática de la Universidad de Nueva York.

«Si diseño una detección para falsificaciones profundas, le daré al atacante un nuevo discriminador contra el que hacer pruebas.»