Google anunció el miércoles la intensificación de sus esfuerzos para combatir los "deepfakes" al publicar nuevos datos para ayudar a los investigadores a detectar videos manipulados mediante la inteligencia artificial (AI).
Para ello, el gigante tecnológico anunció el lanzamiento de un "conjunto de datos de deepfakes visuales que hemos producido" y que podrán ser utilizados como punto de referencia para determinar si un video ha sido alterado artificialmente.
"La detección de deepfakes es uno de los desafíos más importantes que tenemos por delante", dijo el presidente ejecutivo de Google, Sundar Pichai, en un mensaje en Twitter.
La iniciativa se produce en medio de la creciente preocupación de que las "deepfake" (ultrafalso o falsificaciones profundas) se puedan utilizar para sembrar discordia o manipular campañas electorales.
Algunos analistas han señalado que esperan que se utilicen falsificaciones realistas para distorsionar las elecciones estadounidenses de 2020.
"Para elaborar este paquete de datos, durante el año pasado trabajamos con actores pagados y con consentimiento para grabar cientos de videos", expresaron en un blog Nick Dufour, de Google Research, y Andrew Gully, de Jigsaw, una unidad de investigación separada de la firma Alphabet, matriz de Google.
"Utilizando métodos de generación de deepfake disponibles al público, creamos miles de deepfakes a partir de estos videos. Los videos resultantes, reales y falsos, constituyen nuestra contribución, que creamos para apoyar directamente los esfuerzos de detección de los deepfake".
A principios de este año, Google lanzó datos de audio sintético con el mismo objetivo y ha estado trabajando con socios de la industria para detectar y frustrar las falsificaciones profundas.
Gigantes tecnológicos y expertos también van contra deepfakes
El pasado 9 de septiembre firmas tecnológicas y académicos se unieron para mejorar las herramientas destinadas a detectar videos y otros contenidos manipulados por medio de la inteligencia artificial (IA).
La iniciativa "deepfake" -juego de palabras entre la rama de la rama de la IA deeplearning (aprendizaje profundo) y fake (falso)- fue anunciada el jueves e incluye una bolsa de 10 millones de dólares aportada por la gigante Facebook y tiene como objetivo frenar lo que se considera una gran amenaza para la información en línea.
El esfuerzo está siendo apoyado también por Microsoft y el consorcio empresarial Partnership on AI e incluye a académicos del Instituto de Tecnología de Massachusetts, la Universidad de Cornell, la de Oxford, la de California-Berkeley, la de Maryland y la de Albany.
La iniciativa representa un amplio esfuerzo para combatir la difusión de videos o audios manipulados utilizados en campañas de desinformación.