Los coches autónomos serán sin duda la movilidad del futuro. Más fiables que los humanos, conducirán usando menos recursos y ganarán muchos puntos al ser compartidos y ocupar menos espacio en la vía pública. Sin embargo, una de los mayores barreras de estos coches son los algoritmos que no tratan a todas las personas por igual. Algoritmos con sesgos. Habrá que aparcarlos.
¿El coche autónomo con sesgos raciales?
Existe mucha literatura científica respecto a cómo los algoritmos de machine learning o inteligencia artificial presentan graves problemas éticos. Uno de los últimos es el presentado por Benjamin Wilson, Judy Hoffman y Jamie Morgenstern en febrero de 2019: ‘Inequidad predictiva en la detección de objetos’.
Este artículo remarca cómo las personas de tonos 1 a 3 en la escala cromática corta de Von Luschan tienen mayores probabilidades de ser detectados por un vehículo autónomo frente a personas de tonalidades 4 a 6. Esta escala cromática 1-6 de tipos de piel (hay otra de 1 a 36) va de la piel muy clara o casi blanca a la piel muy oscura o casi negra, y es a menudo usada en investigación para determinar sesgos.
En esencia, lo que estos investigadores hicieron es observar cómo de bien o mal funcionaba el algoritmo en base al tono de piel. Y las consecuencias son evidentes: las pieles más claras se detectan con más frecuencia y más rápido; las más oscuras, con menos frecuencia o más lentamente.
Esto supone graves problemas técnicos que impiden a los vehículos autónomos conducir con normalidad. No solo porque presenta un problema de seguridad, sino porque a este se suma un sesgo basado en nuestro color de piel y por tanto discriminatorio en base a nuestra etnia.
¿Por qué las cámaras no ven a las personas más oscuras?
Lo cierto es que existen varios mecanismos que hacen difícil que un sistema de reconocimiento visual identifique a una persona. Por ejemplo, que esta no parezca una persona, quizá porque cargue con un bulto como una caja, porque arrastre un carrito o porque sean varias personas que caminan abrazadas. Pero en materia de color de piel podemos identificar dos grandes retos.
El primero tiene que ver con la tonalidad propia frente al fondo. De noche, una persona de tonalidad 1 (casi blanco) refleja más luz de los faros del coche que una persona de tonalidad 36 (casi negro). El motivo es que los tonos claros tienen una mayor reflectancia, y supone un reto para la visión por ordenador. Usando una escala Von Luschan de 1 a 36 es más fácil entender lo que ocurre. Mientras que las tonalidades 1 a 27 resaltan en la noche, las 35-36 no lo hacen.
Pero incluso las tonalidades de 16 a 23 suelen tener problemas de identificación en aquellos entornos en los que se use luz amarillenta, como la que deriva de las lámparas de incandescencia y las de bajo consumo; y particularmente en ambientes con calima, niebla, contaminación, etc.
El segundo reto tiene que ver con la forma en que el algoritmo ha sido entrenado. Aunque cada vez hay más programadores de tonalidades oscuras, lo cierto es que es un sector dominado casi por completo por varones blancos. Y esto supone que durante las pruebas, al usarse a sí mismos como ejemplo de personas para el algoritmo, a menudo se dejan fuera más de la mitad de las tonalidades. Como resultado, el algoritmo identifica ‘persona’ con ‘tono de 1 a 14’. Si eres 19 o más, el algoritmo no sabe cómo computarte.
Mejorar la calidad óptica o agregar cámaras térmicas
El primero de los problemas tiene una solución relativamente sencilla. Basta con mejorar la calidad con la que se mide la imagen para distinguir tonos próximos entre sí. Pensemos en una persona con la piel de tono 36 y el pelo oscuro, como es el caso de la fotografía de abajo, con fondo también oscuro. La fotografía de la izquierda no ha sido modificada salvo por el rectángulo rosa.
El rectángulo marca un área de especial importancia. Mientras que en la imagen original nuestros ojos humanos encuentran problemas para distinguir dónde termina la persona y empieza el fondo, la izquierda, sobre la que se han aplicado varios filtros, sí muestra en detalle el contorno. Un algoritmo que busque estos límites podrá identificar la persona a gran distancia sin problema.
Por descontado, los vehículos autónomos no contarán con fotografías de estudio, sino que habrán de tomar decisiones en milisegundos usando imágenes mucho menos nítidas. De ahí que sea aconsejable el uso de tecnología láser LiDAR para identificar volúmenes o cámaras térmicas para leer el calor. En otras palabras: dejar al lado la identificación visual basada en el tono de piel, que durante muchos años ha sido lo fácil desde el punto de vista computacional.
Necesitamos programadores de todas las tonalidades
El sesgo original de estos sistemas aparece porque los programadores que diseñan los primeros algoritmos suelen ser blancos. Con datos de Silicon Valley de 2019, es evidente que las tonalidades claras (caucásicos y asiáticos) prácticamente dominan entre el 60% y el 90% de las empresas, como muestra esta infografía de TechCrunch. El resultado es que los algoritmos identifican ‘tonalidad blanca’ con ‘persona’.
Aunque es cierto que los números avanzan hacia una integración mayor (en 2014 solo los blancos ocupaban cerca del 64% de los puestos, ahora ‘solo’ rondan el 40-50%), tardaremos años, si no décadas, en hacer que investigadores y programadores de tonalidades oscuras tengan acceso a los medios para poder contribuir a la creación de tecnología.
Queda mucho camino, pero identificar los problemas que surgen del (mal) uso de una tecnología es el primer paso para reformularla y buscar una perspectiva todo lo inclusiva que permita nuestra capacidad técnica. Es probable que estos errores básicos sean corregidos en pocos años, dado que de otro modo los vehículos autónomos seguirán siendo una excentricidad.
Por Marcos Martínez
Imágenes |Kento Hirasue, Rui Silvestre, Alexis Antoine, TechCrunch
