IBM utilizó imágenes particulares de Flickr para entrenar su IA
El gigante de software IBM usó un millón de fotografías pertenecientes a usuarios de Flickr para entrenar su sistema reconocimiento facial
Uno de los peores presagios sobre el uso de las imágenes subidas por millones de usuarios de internet a redes sociales se ha hecho realidad. Aunque se teorizó como Facebook podría usar fotos antiguas de sus usuarios para realizar pruebas en inteligencia artificial, según NBC News la empresa que lo ha hecho ha sido IBM.
Con el reconocimiento facial las empresas pueden no solo reconocer los rostros y asociarlos a una identidad, también permite realizar un seguimiento exhaustivo de sus movimientos y su evolución. Para que las inteligencias artificiales puedan identificar a una persona o incluso el significado de sus gestos, se deben entrenar sus algoritmos con ejemplos.
IBM es una de las grandes empresas mundiales de desarrollo de software y también está creando una inteligencia artificial que sabrá identificar rostros y explicar qué pasa con ellos. Para ello han usado un millón de imágenes subidas a internet, en este caso alojadas en Flickr.
En el caso del algoritmo de IBM lo que se intentaba era enseñarle a interpretar diversidad en los rostros ya que se suelen utilizar como ejemplos hombres y mujeres caucásicos debido a que sus desarrolladores también lo son.
Imágenes con licencia Creative Commons
El problema se encuentra en que IBM nunca avisó a los usuarios de Flickr que sus rostros serían usados para entrenar a una inteligencia artificial, algo que seguramente esté muy lejos de las intenciones de estas personas que usan el servicio para almacenar y compartir sus fotografías con los demás.
Si bien IBM ha usado fotografías etiquetadas bajo una licencia Creative Commons que permite su uso, distribución y modificación (dependiendo de la licencia que se aplique) siempre y cuando se compartan bajo la misma norma, abre la duda sobre cómo las grandes empresas deberían usar (o no) las fotografías particulares alojadas en internet para entrenar sus algoritmos.
“IBM se ha comprometido a crear tecnologías responsables, justas y confiables durante más de un siglo y cree que es fundamental luchar por la imparcialidad y la precisión en el reconocimiento facial”.
“Nos tomamos muy en serio la privacidad de las personas y hemos tenido mucho cuidado de cumplir con los principios de privacidad, incluida la limitación del conjunto de datos […] disponibles públicamente y el acceso de datos a investigadores verificados”
Cómo averiguar de quién son las fotos usadas por IBM
NBC News ha incluido en su artículo una herramienta que, escribiendo el nombre de usuario de Flickr, revela qué fotografías ha usado IBM para su proyecto de investigación.
Expertos en el desarrollo de software ya han expuesto públicamente, incluidos empleados de empresas como Amazon, que el diseño y evolución de la inteligencia artificial que detecta rostros debe ser limitada.
Los empleados de Amazon han sido los más críticos con su propia empresa al conocerse como Amazon vendía su software Rekognition a gobiernos, cuerpos de policía y empresas que utilizan la tecnología para ayudar a crear sistemas de vigilancia intensivas e indiscriminadas.
IBM no dio opción a los usuarios de Flickr de no aportar a este entrenamiento y ya hay voces importantes, como la de Jessamyn West, para que la empresa que deje de utilizar sus fotografías.
