La profesora investigadora de la Universidad Autónoma del Estado de Hidalgo (UAEH), Rosalía Guerrero Escudero, señaló que el uso de la Inteligencia Artificial (IA) ofrece múltiples beneficios, sin embargo, también puede reproducir o acentuar sesgos de género, clase y raza que no provienen de la tecnología, sino de la información con la que se entrena, así como las estructuras de poder que la desarrollan y la utilizan.
Explicó que las IA funcionan al conectarse a través de distintas bases de datos, cargadas y seleccionadas por programadores que, en su mayoría, son hombres con conocimientos tecnológicos y una cosmovisión basada en sus conocimientos sociales y privilegios, los que condicionan los resultados que ofrecen, ya que la información o imágenes generadas están limitadas por esas ideas iniciales.
Dijo que muchas de estas tecnologías se entrenan con la visión de los países del primer mundo, lo que excluye la diversidad global. “Un ejemplo de ello es que cuando uno como usuario le pide a una inteligencia artificial generar la imagen de una persona exitosa, el resultado suele ser un hombre blanco, guapo, en traje y dentro de una ciudad. Esto deja de lado a otras razas, clases sociales y géneros”.
Sentenció que en una era donde los algoritmos deciden desde qué contenido ver en redes sociales hasta quién accede a un empleo, la IA se ha vuelto una fuerza invisible que moldea oportunidades, relaciones y derechos, “cada vez más estudios revelan que en ellas se reflejan los prejuicios históricos y estructurales de las sociedades que las crean y lo hacen con una eficiencia preocupante, afectando a millones de personas al mismo tiempo sin siquiera darnos cuenta”.
Por ello, apuntó que es necesario que quienes desarrollan estas herramientas incluyan a personas de distintos sectores de la sociedad para que aporten su visión del mundo, establezcan regulaciones que eviten la discriminación automatizada y promuevan el acceso equitativo a las tecnologías. Frente a este panorama, organismos y empresas internacionales han comenzado a impulsar los principios de ética algorítmica y justicia digital.
Además, comentó que es necesario que las personas tengan un pensamiento crítico al usar esta tecnología y sepan emplear los llamados prompts, que son las instrucciones dadas a la IA, para obtener resultados más acordes con la información que necesitan según el entorno sociocultural en el que viven.
De igual manera, puntualizó que es importante conocer y analizar los resultados que arrojan estos sistemas inteligentes cuando se utiliza, ya que no es ajena a los sesgos humanos. Por ello, esta problemática debe abordarse con urgencia o se corre el riesgo de automatizar la desigualdad y dificultar aún más su detección y combate.
