Google combate los vídeos manipulados con 3.000 vídeos manipulados
La técnica "deepfake" consiste en reemplazar la voz y el rostro de una persona por otra en un vídeo, lo que implica nuevos riesgos y desafíos
Como toda tecnología que se precie, los deepfakes comenzaron prestando sus servicios a la pornografía: con los rostros de actores y actrices conocidos (y de personas particulares) insertados en vídeo sexuales.
También en un vídeo manipulado Mark Zuckerberg «admitió» en un vídeo manipulado que controla datos robados y usando la misma tecnología es como Salvador Dalí saluda y habla del tiempo con los visitantes del Salvador Dalí Museum, en Florida — como si estuviera vivo.
- Este tipo de tecnología es uno de los principales temores sociales en torno a la inteligencia artificial: el 51% del público general y el 45% de los líderes tecnológicos coinciden en que los vídeos deepfake erosionarían de manera importante la credibilidad y la confianza de personajes públicos.
Según Google, aunque muchos de estos vídeos sean humorísticos otros podrían ser perjudiciales para los individuos y la sociedad, por los que es un asunto serio.
- Para combatir el problema Google ha publicado 3.000 vídeos manipulados con la técnica deepfake.
- El propósito de google es ayudar a los investigadores a crear métodos de detección automática para tipo de vídeos.
- Los 3.000 vídeos se basan en apenas unos cientos de vídeos protagonizados por una veintena de actores, que posteriormente fueron manipulados con algoritmos para alterar sus rostros, intercambiando los de unos con los de otros.
- La idea, explica Google, es crear un gran repositorio de vídeo manipulados con inteligencia artificial para entrenar inteligencias artificiales que detecten los vídeos creados por inteligencias artificiales.
Sin embargo algunos expertos creen que bastará con modificar los algoritmos que generan los vídeos manipulados para burlar los sistemas automáticos de detección.
- El problema de los deepfakes «no se resolverá únicamente con más tecnología, sino que también requerirá soluciones sociales, políticas y legales que disuadan de su creación,» dicen desde MIT Technology Review.
