La abolición del ser humano

La semana pasada las bolsas internacionales se convirtieron en una montaña rusa. Aunque nominalmente los temores sobre la inflación, los tipos de interés y el aumento de los rendimientos de los bonos jugaron un papel importante en la crisis,  lo cierto es que los mercados no se han comportado como lo hacen normalmente durante las grandes ventas de acciones.

Es posible sugerir una explicación alternativa, o como mínimo complementaria, que apuntaría a una sobrerreacción de los mercados ante una frustrada especulación sobre la volatilidad en el mercado de futuros. Todo dentro de lo normal.

Pero para entender mejor la inesperada conducta de la bolsa en los últimos días es útil remarcar que actualmente, en torno al 90% por ciento de los intercambios comerciales son el resultado de algoritmos informáticos automáticos, que están generalmente diseñados mediante fórmulas que hacen uso del uso de la volatilidad como parámetro clave para determinar el nivel de riesgo asumible.

El uso de sistemas automatizados no se limita a las bolsas, también está presente en las administraciones públicas

A medida que los algoritmos computan patrones de alta volatilidad basados en modelos estadísticos, disparan automáticamente la venta sistemática de valores, justo al  contrario que cuando  la volatilidad es baja. Y en ambos casos transaccionan deuda, instantánea e inmediatamente, sin aplicar ningún sentido común o ética: los algoritmos son moralmente ciegos.

Este uso de sistemas automatizados de negociación y gestión no se limita a las bolsas. Cada vez más, incluso las administraciones públicas hacen servir aplicaciones informáticas basadas en modelos estadísticos teóricos no solo para tramitar solicitudes de prestaciones y servicios sociales sino para determinar la propia elegibilidad de las prestaciones públicas.

Estos cócteles de minería de datos personales, cruces de información con hacienda o la policía, algoritmos de políticas y modelos de riesgo predictivo apuntan  a una tendencia a despersonalizar la gestión de servicios públicos de la misma manera que ha ocurrido en la correduría de bolsa, lo que propicia la toma de decisiones automatizadas e hiperconectadas que nos pueden acercar al Mundo Feliz de Huxley, al estar fundamentadas en estrechos criterios de control y eficiencia que eximen a los servidores públicos de responsabilidad y empatía.

Garantizar la dignidad humana pasa por no aceptar la cesión de las claves de nuestro bienestar a sistemas automáticos

La tendencia a la automatización de puestos de trabajo llevará, si no se diseñan e implementan medidas que lo eviten, a que una parte sustancial de la población dependa para su subsistencia y bienestar de los servicios públicos, de los que la renta básica ciudadana es su última expresión.

Este quid pro quo (renunciar al trabajo y a la autonomía financiera a cambio de estar mantenido por una burocracia estatal invasiva) hace todavía más preocupante el poder distópico que el uso de herramientas digitales basadas en algoritmos autónomos pueda poner en manos de la maquinaría del Estado y de empresas globales.  

Una sociedad en la que merezca la pena vivir tiene que garantizar la dignidad humana. Y para que esto sea posible, no es aceptable ceder las claves de nuestro bienestar y progreso a sistemas automáticos que por su propia naturaleza no pueden ser agentes morales ni estar sometidos a rendición de cuentas.

El impacto de la automatización puede regularse a través de unas instituciones fuertes que garantice los valores del humanismo

Hasta ahora, lo esfuerzos por gobernar directamente la tecnología y regular sus impactos impalpables han sido escasos. Sin embargo, defender la implementación proactiva de medidas que mitiguen los efectos que los sistemas automáticos causan a los seres humanos parece ser una proposición plausible.

Por ejemplo a través de  la creación de fondos para la educación, la capacitación y la inserción laboral financiadas mediante impuestos progresivos a la automatización, calculados con base a los costes relativos que la destrucción de empleo, y la alienación social consecuencia del uso generalizado de algoritmos automáticos, que previsiblemente causarán en nuestras sociedades.

Esto requiere un claro liderazgo político y conlleva el desarrollo de instituciones fuertes, capaces de imponer mecanismos de gobernanza que antepongan el beneficio social a un desarrollo de las tecnologías automáticas que amenazan con destruir nuestros modelos sociales.

No debemos olvidar que una parte sustancial del desarrollo tecnológico, tanto en universidades como en empresas, proviene de la financiación pública, lo que otorga a los contribuyentes una inmensa capacidad de influencia para garantizar que el humanismo sea un valor superior a la tecnología, y evite, por consiguiente, la sumisión del hombre a la máquina.