Inicio UACh / Dirección de Tecnologías de Información / / Noticia


Mundo digital reproduce las mismas desigualdades del mundo real.


Experta Meredith Broussard, profesora de la Universidad de Nueva York se rebela contra la supremacía de la tecnología y analiza sus debilidades.

La profesora de Periodismo de la Universidad de Nueva York y autora del libro Artificial Unintelligence, Meredith Broussard, describe los problemas de la tecnología y los sesgos raciales y de género que se esconden tras ella. Critica, además, que el mundo digital está reproduciendo las mismas desigualdades que la vida real y cree que parte del problema son las matemáticas, disciplina que sustenta la programación, y que históricamente ha sido liderada por hombres, preocupándose poco de los problemas sociales.

La autora, que inicialmente estudió Ciencias de la Computación en la Universidad de Harvard, decidió cambiar de carrera empujada por el sexismo.
En su libro señala que los diseñadores del mundo digital son humanos, por tanto, es imposible que el funcionamiento de los computadores sea más objetivo que el del ser humano y que por tanto, no represente los problemas esenciales que arrastra la naturaleza humana. Considera que no es posible dar solución a los grandes problemas sociales usando únicamente la tecnología, ello significa cometer los mismos errores que han impedido el progreso y la igualdad. Entender esos límites ayudará a tomar decisiones más acertadas. Es por ello que relata que ha llegado el momento de que la sociedad abra el debate de hasta dónde tiene que llegar la tecnología.

Los computadores son el resultado de millones de pequeñas decisiones tomadas por diferentes ingenieros en determinadas empresas y que funcionan gracias a cálculos matemáticos creados por personas. Es ingenuo pensar que los datos por sí solos van a solucionar los problemas sociales. Un ejemplo claro es que cuando se usan algoritmos o cuestionarios para obtener datos de las personas, estos datos se orientan a obtener determinados resultados o no funcionan como se esperaba. De esa manera aumentan las desigualdades.

En la entrevista que consigna el diario El País, la autora señala que en 2016, varios periodistas detectaron que uno de los algoritmos que se estaba usando en el sistema judicial estadounidense era imparcial y perjudicaba a los afroamericanos. La Policía pasaba un cuestionario a todos los detenidos y sus respuestas se introducían en un ordenador. Un algoritmo usaba esa información para predecir la probabilidad de que una persona volviera a cometer un crimen en el futuro, asignándole una puntuación. La puntuación era pasada a los jueces para ayudarles a tomar decisiones más objetivas y basadas en datos a la hora de emitir sus sentencias. El resultado era que los afroamericanos eran condenados a penas más largas de cárcel que los blancos. Según Meredith Broussard es fácil detectar la tendencia del algoritmo y por ende de las personas que lo hicieron.

En su libro registra un claro caso de sexismo. En 2015 varios medios estadounidenses dieron a conocer un experimento basado en la ciencia de los datos sobre cómo tomar un buen selfi (en español, autorretrato). Se medían aspectos como si la fotografía estaba enfocada o si se cortaba alguna parte del rostro. El investigador que llevó a cabo el experimento, Andrej Karpathy, que en ese momento era estudiante de doctorado en Stanford y ahora jefe de Inteligencia Artificial de Tesla, no se dio cuenta de que la mayoría de las imágenes consideradas como buenos selfis correspondían a mujeres blancas jóvenes.

Karpathy usó como principal indicador para su algoritmo la popularidad de la foto, el número de likes que había generado en las redes sociales. Esa era la métrica para obtener mejor o peor puntuación. Es un error muy común entre investigadores en el campo de la programación: no tienen en cuenta los valores sociales y los comportamientos humanos que hay detrás de sus estadísticas. Este científico de datos creó un modelo con una importante discriminación; daba prioridad a las mujeres blancas y jóvenes que responden a la definición heteronormativa de mujer atractiva.

A su juicio es necesario contratar a más personas expertas y diversas porque los sistemas totalmente autónomos no son válidos para lidiar con cuestiones sociales. Los temas sociales no importan en tecnología. Mark Zuckerberg aseguró en su declaración en el Congreso que Facebook desarrollaría herramientas de inteligencia artificial para lidiar con esos problemas, pero han sabido de ellos durante años y no han hecho nada.

Ante la consulta de por qué se cambió de carrera, la autora del libro señala que se cansó de lidiar con el sexismo. Indica que actualmente los cargos más altos entre los matemáticos son hombres, no hay mujeres y ello responde a las estructuras de poder actuales asociadas a normas masculinizadas. La figura del científico tiene que ver con una actitud metódica, objetiva, poco emocional o competitiva, características que se asocian con los hombres.

Fuente: www.elpais.com