Facebook prohíbe los vídeos ‘deepfake’ (o al menos algunos de ellos)
La red social creada por Mark Zuckerberg quiere acabar con los vídeos manipulados con inteligencia artificial y que se difunden a través de la plataforma
Facebook quiere acabar con los vídeos ‘deepfake’, es decir, aquellos que han sido manipulados y difundidos a través de la red social creada por Mark Zucerkerg. Este tipo de contenidos se han vuelto más sofisticados debido a la incorporación de técnicas de inteligencia artificial, que facilitan una mayor distorsión de la realidad.
Esta técnica de manipulación empezó como un sistema para modificar el aspecto de cualquier ser humano en vídeos pornográficos, aunque en la actualidad el uso más habitual es el de manipular la imagen o las palabras de personalidades con el objetivo de comprometerles. Uno de los casos más sonados incumbe al propio Zuckerberg: el vídeo difundido por Instagram en el que un hombre suplanta al fundador de Facebook y «admite» que controla los datos robados de los usuarios de la red.
En una publicación en el blog oficial de la compañía, la vicepresidenta de Políticas Globales, Monica Bickert, apunta cómo se ha abordado la lucha contra este tipo de publicaciones. «La colaboración es clave», señala la ejecutiva, que explica que Facebook ha llegado a acuerdos con más de 50 compañías mundiales para informar del desarrollo de sus políticas y «mejorar la detección de medios manipulados».
Los criterios (un tanto ambiguos) para decidir qué eliminar
El «resultado» de esas alianzas es que Facebook ha «fortalecido» su política para identificar ‘deepfakes’. Bickert señala los criterios que seguirá la red social a la hora de eliminar ciertos contenidos. El primero, si se ha editado un vídeo más allá de los ajustes de imagen, «de maneras que no son evidentes para una persona promedio y que probablemente inducirán a error».
El segundo, si el contenido se trata de un producto de inteligencia artificial o ‘machine learning’ -aprendizaje automático- que «fusione, reemplace o superponga» contenido en un vídeo, «haciendo que parezca auténtico». No obstante, estos dos requisitos son lo suficientemente amplios como para que desde la red social hayan admitido que pueden inducir a error.
«Aunque los vídeos ‘deepfakes’ son todavía inusuales, presentan un importante desafío para nuestra industria y la sociedad a medida que su uso aumenta», señala Bickert. Algo que ha generado cierto debate entorno a si la iniciativa de Facebook es realmente una alternativa seria para combatir la desinformación en internet.
«Creo que la nueva prohibición es un paso en la dirección correcta, pero es decepcionante que la nueva política de Facebook aparentemente no se aplique en la eliminación de vídeos falsos manipulados con medios menos avanzados», sostiene Paul Barrett, subdirector del Centro de Empresas y Derechos Humanos de la Universidad de Nueva York, en declaraciones al medio especializado Wired.
Facebook ya borró un contenido de Santiago Abascal
A mediados del pasado diciembre, Facebook presentó una alianza junto a Microsoft y Amazon para combatir los ‘deepfakes’. «Queremos catalizar más investigación y desarrollo en este área y asegurarnos de que haya mejores herramientas de código abierto para detectarlos», explicó el director de tecnología de la red social, Mike Schroepfer.
En España, Facebook ya identificó en los últimos días contenidos falsos publicados por una de las caras más reconocidas del Congreso de los Diputados: Santiago Abascal. La red social borró un vídeo fechado el 5 de enero en el que el líder de Vox denunciaba cómo los diputados socialistas aplaudían a la portavoz de EH Bildu, Mertxe Aizpurua.
¿El motivo del bloqueo? Los aplausos de la bancada del PSOE iban dirigios a la presidenta de la Cámara, Meritxell Batet, aunque esta vez la identificación no fue a través de la red social, sino que fue la web Maldito Bulo la responsable de identificar que el contenido era falso.
