Whatsapp elimina hasta dos millones de cuentas tóxicas cada mes
Además la batalla contra el spam asistida por la inteligencia artificial permite a Google eliminar hasta 100 millones de mensajes diarios en Gmail
La guerra abierta contra el spam o la desinformación es terreno fértil para los sistemas de aprendizaje automático de la inteligencia artificial. Las grandes tecnológicas recurren a esta herramienta para dar fin a los millones de cuentas tóxicas que, un día sí y el otro también, intentan utilizar la red de Whatsapp o Google –por ejemplo– para promocionar ideas o hacerse con los datos personales de usuarios poco precavidos.
Whatsapp reveló que, al cabo de un mes, sus robots eliminan hasta dos millones de cuentas tóxicas de su plataforma de mensajería instantánea. El 20% de estas cuentas desaparecen de la app segundos después de su registro, mientras que el 75% son frustradas sin reportes de usuarios o intervención humana. Aunque la filial de Facebook también pone atención a una serie de señales que suelen indicar los motivos de una cuenta.
Por su parte, Google anunció que su sistema de inteligencia artificial borra hasta 100 millones de mensajes de spam al día en el servicio de correo Gmail. Esto se suma al 99,9% de mensajes de spam que Google asegura que bloquea en Gmail tirando de otros métodos, mientras que este esquema de aprendizaje automático es capaz de reconocer otras formas de correo no deseado más complicadas de rastrear y atacar.
Whatsapp intenta resolver su problema de spam en la India
De cara al proceso electoral de mayo en la India (el mayor mercado de Whatsapp, donde las «fake news» suelen difundirse por medio de la plataforma), la app reveló detalles de su guerra contra la desinformación y el spam. Whatsapp tuvo que endurecer su ofensiva después de recibir presión gubernamental en ese país por permitir la difusión de noticias falsas que incluso han sido señaladas como la causa de muerte de víctimas.
Ejecutivos de Whatsapp dijeron a Venture Beat que la compañía desarrolló un sistema de aprendizaje automático para detectar y expulsar a los usuarios cuyo comportamiento en la plataforma es inapropiado. Este sistema enciende alarmas rojas ante cuentas que envían muchos mensajes en poco tiempo o a direcciones IP desde las que se crean múltiples cuentas para difundir contenido cuestionable.
«Al igual que con cualquier plataforma de comunicaciones, a veces las personas intentan explotar nuestro servicio. Algunos quieren distribuir enlaces de click-bait diseñados para capturar información personal, y otros quieren promover una idea», dijo la empresa. «Independientemente de la intención, los mensajes automatizados y masivos violan nuestros términos de servicio y una de nuestras prioridades es prevenir y detener este tipo de abusos».
Además del aprendizaje automático que mejora consistentemente en su detección de cuentas tóxicas, Whatsapp pone especial atención a algunos detalles que pueden revelar los motivos detrás de una cuenta, como si la dirección IP y el número telefónico son del mismo país, cuántos mensajes se envían en determinado lapso y cuán rápido después del registro comienza la difusión masiva de mensajes.
Gmail contra el correo no deseado
Por su parte, luchando la misma lucha que muchas veces parece imposible de ganar, Google celebra los resultados obtenidos con Tensor Flow, una plataforma de aprendizaje automático que desarrolló en 2015 y que ahora es la reponsable de que 100 millones de mensajes de spam al día no lleguen al destino. Esta inteligencia artificial ayuda a Google a detectar algunos de los formatos de spam más difíciles de rastrear.
Con Tensor Flow, la tecnológica puede dar pelea a los correos enviados desde dominios creados recientemente (por ende, aún fuera de la lista negra de webs de spam), los mensajes basados en imágenes y no en texto (mucho más difíciles de frustrar) y correos con contenido incrustado oculto. «Dado que ya bloqueamos la mayoría de correos no deseados en Gmail, bloquear a millones más con precisión es una hazaña», dice Google.
«Al complementar nuestros modelos existentes de aprendizaje automático con Tensor Flow, podemos refinar estos modelos aún más, al tiempo que permitimos que el equipo se centre menos en el marco del aprendizaje automático y más en la resolución del problema: eliminar el spam de la bandeja de entrada», explicó Google, cuyo servicio de correo tiene 1.500 millones de usuarios mensuales y 5 millones de clientes corporativos.
