El Comité Europeo de Protección de Datos quiere prohibir los sistemas de reconocimiento facial
Los máximos órganos de protección de datos europeos plantean medidas más audaces relacionadas con la inteligencia artificial, como prohibir los sistemas de reconocimiento biométricos en la vía pública
Aena ha puesto en marcha en el aeropuerto de Menorca una prueba piloto de identificación de pasajeros mediante reconocimiento facial. EFE/David Arquimbau/Archivo
El Comité Europeo de Protección de Datos (EDPB) y el Supervisor Europeo de Protección de Datos (EDPS) han alcanzado este lunes una opinión conjunta sobre la propuesta de regulación sobre la inteligencia artificial (IA) que presentó la Comisión Europea hace unas semanas.
El planteamiento de esta regulación es bueno y ambos organismos dan la bienvenida a esta nueva legislación, que ahora tendrá que tramitarse. La propuesta parte de que cualquier aplicación de un sistema de inteligencia artificial siempre va a aparejar riesgos y, en función de qué tipo de implementación se haga, el reglamento determinará si los riesgos son mayores o menores.
Sin embargo, tanto la EDPB como la EDPS plantean que el reglamento de IA incluya un grado mayor de protección: sistemas de IA cuya implementación suponga riesgos «a los derechos fundamentales». También anima a los legisladores a dar los pasos necesarios para controlar y evitar los riesgos que la introducción de la IA pueda tener para colectivos vulnerables.
Rechazan el uso de huellas dactilares o el reconocimiento por voz
Es en esos términos con los que tanto la EDPB como la EDPS plantean que se prohíba en el espacio público cualquier tipo de sistema de inteligencia artificial que permita el reconocimiento de seres humanos vía elementos biométricos. En su comunicado conjunto, ambos organismos inciden en que se refieren a sistemas como cámaras de reconocimiento facial, uso de huellas dactilares e, incluso, reconocimiento por voz.
También animan a prohibir sin excepciones el uso de sistemas IA que incentiven o acaben promoviendo discriminaciones basadas en etnia, género, identidad política u orientación sexual.
«Además, la EDPB y la EDPS consideran que el uso de sistemas de inteligencia artificial para inferir en las emociones naturales de una persona es altamente indeseable y debería ser prohibido excepto para casos excepcionales, como aquellos relacionados con fines sanitarios, donde el reconocimiento de las emociones del paciente es importante», continúan.
«Desplegar sistemas de reconocimientos biométricos en espacios públicos significa el fin del anonimato en esos lugares»
Los máximos responsables de estos dos órganos, Andrea Jelinek (EDPB) y Wojciech Wiewiórowski (EDPS) han consensuado unas declaraciones. «Desplegar sistemas de reconocimientos biométricos en espacios públicos significa el fin del anonimato en esos lugares. Aplicaciones como los sistemas de reconocimiento facial interfieren con los derechos y libertades fundamentales».
«Una prohibición generalizada de este tipo de sistemas es el punto de partida necesario si queremos preservar nuestras libertades y crear un marco legal para la inteligencia artificial que ponga al ser humano en el centro.
La regulación propuesta debería también prohibir cualquier tipo de uso de una IA para implementar sistemas de puntuación social, ya que es algo en contra de los valores fundamentales de la Unión Europea y puede dar pie a discriminaciones», advierten.
Piden que se clarifiquen las funciones del Supervisor de Protección de Datos
Ambas instituciones también se congratulan de que la propuesta designe al Supervisor Europeo de Protección de Datos como la entidad encargada de vigilar el uso de este tipo de tecnologías por parte de las instituciones europeas, aunque plantean que sus funciones y obligaciones «se clarifiquen un poco más, sobre todo cuando se refiere a la EDPS como autoridad reguladora del mercado».
En ese sentido, las agencias de protección de datos nacionales (en España, la AEPD) ya están vigilando el despliegue de sistemas de inteligencia artificial que involucran el tratamiento de datos personales.
Como ejemplo de ello, la Agencia Española de Protección de Datos abrió un procedimiento hace exactamente un año a Mercadona, después de que la cadena de supermercados confirmase en una nota de prensa que había desplegado un sistema de reconocimiento facial en 40 de sus tiendas para poder detectar en menos de un segundo cuando al establecimiento accediese cualquier persona condenada y con una orden de alejamiento de la tienda.
La iniciativa ha sido recientemente tumbada por la Audiencia de Barcelona a expensas de que la propia AEPD también se pronuncie.
Noticia original: Business Insider
Autor: Alberto R. Aguiar
