Estas son todas las decisiones que ya toman los algoritmos
Los algoritmos ya son responsables de labores importantes en el sistema criminal, en departamentos de recursos humanos y fijando precios de productos
La existencia del algoritmo no se limita únicamente a las redes sociales, donde estos sistemas invisibles conocen mejor que los usuarios sus gustos e intereses, o eso hacen creer. Cada imagen, vídeo, enlace o post que aparece en el muro de Facebook es producto de una operación sistemática de probabilidades que define que ello capturará a quien navega.
Los algoritmos moldean la realidad más de lo que imaginamos. El asunto es objeto de un estudio revelador publicado por el Journal of the Association for Information Systems y elaborado por profesores de la Universidad de Hull (Reino Unido) y la Virginia Commonwealth University (EE UU).
Bajo el nombre «Cuando que los humanos usen artefactos de tecnologías de información se convierte en la tecnología usando al artefacto humano«, la investigación explora los efectos más profundos de la tecnología algorítmica.
Los algoritmos invierten los roles de humano y tecnología
El profesor británico Dionysios S. Demetis, uno de los autores del paper, escribió en un artículo de The Conversation que el estudio les llevó a él y su colega a la conclusión de que, «con el tiempo, los roles de la tecnología de la información y los seres humanos se han invertido».
Demetis explica su argumento afirmando que, en el pasado, los humanos utilizábamos la tecnología como herramienta, pero ahora la tecnología ha avanzado hasta el punto en que nos usa e incluso nos controla. Y agrega que los humanos no estamos «aislados de las decisiones que las máquinas están tomando por nosotros, sino profundamente afectados por ellas».
Un ejemplo conocido de esto es el algoritmo que fija los precios en Amazon (y prácticamente en todos grandes portales de comercio online), de los que una investigación reciente descubrió que aprenden sistemáticamente a seguir patrones colusorios; es decir, que de forma automática actúan en perjuicio de los consumidores y no a favor.
En la ley, los analistas legales son reemplazados por la inteligencia artificial, lo que significa que la defensa de un caso puede depender en parte de algoritmos. De igual manera, hay un software que ayuda a predecir futuros delincuentes y en base a sus resultados se decide si alguien obtiene la libertad condicional o no. Este algoritmo está presuntamente sesgado, también.
El futuro del trabajo de las personas también recae en manos de los algoritmos, al existir una herramienta para filtrar currículums y dar a los reclutadores los perfiles que buscan, sin que tengan que echar un vistazo a los otros candidatos que optan a un puesto. El estudio recuerda que en Amazon un algoritmo de currículums mostró sesgos de contratación.
«En noticias, lo que se conoce como análisis de sentimiento automatizado analiza opiniones positivas y negativas acerca de las compañías basadas en diferentes fuentes web», escribió Demetis. «A su vez, estos están siendo utilizados por algoritmos comerciales que toman decisiones financieras automatizadas, sin que los humanos tengan que leer las noticias».
El 85% de las transacciones de los mercados de divisas ya las realizan algoritmos, y en los mercados financieros se están convirtiendo en celebridades. Esto pasa porque, «a lo largo de los años, las personas que dirigían el sistema de comercio habían llegado a ver las decisiones humanas como un obstáculo para la eficiencia del mercado», explica el científico.
«A medida que las decisiones humanas son sustituidas por otras algorítmicas, y nos convertimos en herramientas cuyas vidas son moldeadas por máquinas y sus consecuencias no deseadas, nos estamos preparando para la dominación tecnológica», concluye en su artículo Demetis. E invita a pensar en lo que esto significa para los individuos y para la sociedad.
