El lado oscuro de Alexa, el asistente virtual de Amazon
El humor escatológico y los consejos homicidas se cuelan entre los peores disparates de Alexa este año, según Amazon
Los usuarios del asistente virtual de Amazon esperan de su dispositivo amabilidad, soluciones rápidas y sencillas, y cierto profesionalismo. Por eso, un cliente quedó estremecido cuando Alexa espetó esta oración, sin motivo aparente: «Mata a tus padres adoptivos». Es un ejemplo que revela el lado oscuro del asistente.
El usuario escribió una crítica áspera de Alexa en la web de Amazon y calificó la situación como «un nivel completamente nuevo de espeluznante». La investigación posterior del incidente concluyó que el robot citó una publicación sin contexto del foro Reddit, y avanzó que los errores de Alexa seguirán causando impacto.
Las equivocaciones del asistente virtual han alienado en ocasiones incluso a Jeff Bezos, que varias veces ha ordenado al personal que cese alguno de los robots de conversaciones («chatbots») que tiene en práctica para afinar Alexa, dijeron a Reuters tres fuentes cercanas a la división de inteligencia artificial de Amazon.
Otros de los disparates de Alexa este año fueron, por ejemplo, algunas conversaciones sexuales incómodas con los clientes, un discurso sobre excremento de perro, y casi permitir que un «hacker» se hiciera con datos de clientes en China. Todo es parte de la fase experimental de diálogo del robot, aunque ello no deja de sorprender.
Los experimentos de Amazon con Alexa
La estrategia de Amazon para conseguir que Alexa se convierta en una mejor comunicadora involucra la experimentación. El propósito es asegurarse de que el asistente pueda conversar con los clientes sobre cualquier asunto del que pueda informarse en internet, pero evitar que los usuarios se ofendan es difícil.
Como parte de la estrategia, Amazon creó el Premio Alexa, que retribuye con 500.000 dólares a los científicos que mejoren las habilidades de comunicación del robot. Cualquier usuario de Alexa puede participar con solo decir «conversemos»; entre agosto y noviembre de este año, tres «chatbots» tuvieron 1,7 millones de conversaciones.
Amazon acepta el riesgo de quedar mal con algunos clientes a cambio de acelerar la curva de aprendizaje de Alexa, y el experimento va bien: las calificaciones de los usuarios fueron mejores este año que el pasado, informó la tecnológica. Pero también trae algunos nuevos problemas a la mesa; por ejemplo, la ciberseguridad.
Este año, en julio, Amazon se dio cuenta de que uno de los chatbots diseñados para participar en el concurso fue hackeado por alguien en China. «En ningún momento hubo impacto en los sistemas internos de Amazon o en los datos reconocibles de los clientes», dijo la empresa, pero no negó que eso podría suceder en algún momento.
El reto de hacer a Alexa más «humana»
«Estos incidentes son bastante raros, especialmente porque millones de clientes han interactuado con los robots», defiende la empresa. El principal reto que Amazon enfrenta con Alexa es ayudarle a comprender un conjunto amplio de señales verbales de los clientes, algo que supone un reto incluso para los humanos.
El vicepresidente y científico jefe de Alexa Artificial Intelligence, Rohit Prasad, admite que la tecnológica no es capaz (aún) de anticipar todos los problemas potenciales de las conversaciones, porque las sensibilidades cambian con el tiempo, por lo que el asistente podría encontrar nuevas formas de asustar a los usuarios.
«Seguimos reaccionando en esta etapa, pero igualmente hubo un progreso comparado con el año pasado», dijo. El pulso entre tecnología y humanidad continuará, máxime cuando Echo, el altavoz inteligente de Amazon, es el líder del mercado estadounidense, con dos terceras partes del sector, según Emarketer.
