Twitter pide ayuda: ¿qué debería hacer con los contenidos manipulados?

Twitter está dispuesta a combatir la difusión de deepfakes y de contenidos multimedia —fotos, vídeos o audios— manipulados, pero no tiene claro cómo debería hacerlo de tal modo que satisfaga a todos los usuarios (o a una mayoría de ellos) y que a la vez lo usuarios entiendan cuándo y cómo se producirá cualquier intervención o decisión relacionada con la moderación de contenidos.

La red social acaba de presentar un borrador de propuesta de cómo actuar con el contenido «sintético» o manipulado con la intención de «engañar o confundir» a los usuarios. Este tipo de contenidos «socavan la integridad de la conversación», dice Del Harvey, vicepresidente de Twitter.

Casos recientes de deepfakes y de contenido sintético

Un ejemplo de este tipo de contenidos fue el vídeo falso (de tipo deepfake) de Mark Zuckerberg que circuló por las redes sociales este verano. En aquel vídeo, que obtuvo miles de visualizaciones en pocos días, el CEO de Facebook admitía falsamente (pero de forma creíble y aparentemente «real», pero falsa) que controlaba «miles de millones de datos robados, todos sus secretos, y las vidas» de sus usuarios.

Poco antes otro vídeo similar difundido a través de Facebook, Youtube y Twitter, también manipulado, presentaba a Nancy Pelosi (presidenta de la Cámara de Representantes de EEUU) comportándose como si estuviera bebida. Facebook no retiró el vídeo, pero mostró notificaciones avisando de que el vídeo era falso a quienes intentaron compartirlo.

Esta opción es precisamente una de las que se plantea hacer Twitter cuando detecte contenido sintético (manipulado) con intención de engañar o confundir.

¿Qué debería hacer Twitter con el contenido sintético?

Para estos casos Twitter está considerando varias opciones. Además de marcar esos contenidos con un aviso visible en aquellos Tweets que compartan contenido multimedia sintético y manipulado, también advertir a las personas que vayan a compartirlo o que den Me Gusta a esos tuits, y además tal vez añadir un enlace que añada contexto e información adicional acerca de ese contenido.

Lo anterior se aplicaría sin eliminar en ningún caso el contenido de la plataforma, una acción que Twitter se reserva a contenidos manipulados que «amenacen la seguridad física de alguien o con provocar daños graves.» En estos casos Twitter sí se guarda el derecho a eliminar directamente el contenido.

Para conocer de antemano la opinión de los usuarios acerca de cómo debería combatir Twitter los deepfakes y contenidos sintéticos, la compañía ha diseñado una breve encuesta (disponible en español) a través de la cual —y hasta el próximo 27 de noviembre— cualquier usuario que lo desee puede colaborar enviando su opinión.