El uso de inteligencia artificial, algoritmos y cómo éstos han facilitado nuestras vidas presentan un debate actual que suele tener opiniones positivas basadas en cómo nos resuelven diversidad de tareas, pero también existen muy interesantes debates sobre sus retos y desafíos. Uno muy importante estriba en reflexionar si el algoritmo está viciado de los prejuicios que podemos tener los seres humanos respecto a diversos grupos poblacionales.
Se puede hacer un pequeño ejercicio. Pongamos en el buscador de Google “persona exitosa”. Nos arrojará una importante cantidad de imágenes de personas preponderantemente del sexo masculino con características físicas hegemónicas y con profesiones aparentemente empresariales. Se advierte que los resultados que emite la búsqueda excluyen por ejemplo a personas morenas, con trabajos diversos, obesas, adultas mayores o que no utilizan vestimenta ejecutiva. Por su parte, las mujeres que aparecen en los resultados fortalecen los estereotipos de cómo debe ser una de nosotras para que seamos consideradas exitosas.
Esta actividad puede replicarse con diversos elementos de búsqueda, tal como se hizo en la campaña Revolución contra el Algoritmo de la UNESCO, en el que se advierte cómo al solicitar información de personas felices, inteligentes o bonitas únicamente aparecen personas hegemónicas, cerrando la posibilidad de que personas diversas se encuentren representadas en Internet.
Tal parece que el algoritmo perpetúa los profundos problemas de discriminación vigentes fuera de la línea. Las personas desarrolladoras sin duda tienen su propia forma de ver las cosas de acuerdo a sus privilegios y posibilidades, que se reflejan en los resultados de los algoritmos que diseñan. En ese sentido, es importante replantear la manera de ver y entender el mundo a partir de Internet, para que las poblaciones diversas tengan cabida y representación el mundo digital, evitando a toda cosa la discriminación en línea.
Maestra en Transparencia y Protección de datos Personales*
