Instagram recurre a la AI para combatir el bullying

Instagram ha anunciado dos nuevas funciones especialmente planteadas para combatir el bullying en su plataforma social. El bullying o acoso escolar es una forma de maltrato que se produce especialmente entre los jóvenes, y que suele derivar también en ciberacoso a través de las redes sociales, incluyendo mensajes y comentarios en publicaciones de Instagram.

Instagram, propiedad de Facebook, asegura que está «comprometida» en la lucha contra el ciberacoso y está dispuesta a poner su plataforma patas arriba para combatirlo, tanto dificultando que el ciberacoso tenga cabida en Instagram como habilitando mecanismo de defensa para las víctimas.

Uno de los inconvenientes para identificar automáticamente cuándo un comentario puede resultar dañino tiene que ver con que los jóvenes «enmascaran ciertas palabras o expresiones con trucos como intercalar símbolos o modificar la orografía para engañar a los sistemas automáticos» de supervisión de contenidos, explican en TNW.

Inteligencia artificial que aprende directamente de los acosadores

Algo que, en teoría, debería resolver al menos en parte una inteligencia artificial con capacidad para aprender progresivamente de qué manera los usuarios «se intimidan entre sí», y de cómo responden a esas intimidaciones en Instagram.

Y qué mejor que aprender a distinguir el acoso directamente de los acosadores. Eso es lo que hace una de las dos nuevas funciones de Instagram: cuando el sistema sospecha que un contenido puede ser dañino u ofensiva se lo comunicar al autor del mensaje o comentario.

Imagen: Instagram

«Esta intervención del sistema ofrece a los usuarios la oportunidad de reflexionar y deshacer su comentario, y evita que el destinatario lo reciba.» Según Adam Mosseri, jefe de Instagram, esta función a demostrado en las primeras pruebas que tiene la capacidad de animar a algunos usuarios de deshacer sus comentarios y «compartir algo menos dañino una vez han tenido la oportunidad de reflexionar.»

Aunque Instagram no da detalles acerca de cómo funciona su sistema de inteligencia artificial contra el bullying es más que probable que cada vez que sucede lo anterior el algoritmo también aprende a identificar comentarios dañinos.

‘Restringir’ es la nueva función para protegerse del acoso en Instagram

Otra función que también se ha empezado a desplegar progresivamente en Instagram proporciona nuevos mecanismos de defensa para las víctimas de bullying. «Si identificar y eliminar el ciberacoso es importante —dicen desde Instagram— también los es capacitar a las víctimas para que se enfrenten a esos comportamientos.»

Dado que en muchas ocasiones el ciberacoso es una extensión del acoso que se produce en la vida real, muchos usuarios son reacciones a reportar estos contenidos, o a borrarlos y también bloquear o silenciar a otros usuarios por las repercusiones que puede tener, para no agravar el problema.

Imagen: Instagram

La nueva función Restringir de Instagram funciona de forma parecida a las anteriores (borrar, silenciar, bloquear) pero limita el alcance del acosador con discreción: en lugar de hacer desaparecer los mensajes y los comentarios éstos se mantienen visibles, pero únicamente para el autor y no para el destinatario. Opcionalmente la opción Restringir también hacer desaparecer esos contenidos para el resto de usuarios de Instagram.

Además los usuarios restringidos no podrán ver cuando la otra persona está en línea en Instagram (el punto verde junto a foto de perfil) ni tampoco sabrán si sus mensajes se han leído o no.