PyE
UNA NORMA DE LA INDUSTRIA
Nada de esto sorprenderá a las investigadoras de IA familiarizadas con el legado del campo de cosificar a las mujeres. Incluso antes del reciente auge de la IA generativa, se sabía que los académicos probaban el rendimiento de sus modelos usándolas para maquillar imágenes de rostros de mujeres o cambiando sus jeans por minifaldas, según una publicación reciente en el blog de Sasha Luccioni, una Investigador de la firma de inteligencia artificial de código abierto Hugging Face.
Cada vez que hablaba de estos métodos, Luccioni dice que se enfrentaba a una reacción negativa. “Después de todo, era sólo un punto de referencia”, escribe, señalando que en el mundo académico, las mujeres están lamentablemente subrepresentadas y representan el 12 por ciento de los investigadores de aprendizaje automático.
Este es el tipo de problema complejo que lleva años resolver gracias a sus raíces en el sistema educativo y las normas culturales sistémicas. Pero OpenAI y sus pares podrían obstaculizar muchos esfuerzos modernos para nivelar el campo de juego, como atraer a más niñas y mujeres a las industrias de ciencia, tecnología, ingeniería y matemáticas (STEM), si sus sistemas continúan perpetuando los estereotipos.
Eliminar el sesgo en los datos que utilizan para entrenar sus algoritmos es un paso para solucionar el problema. Otra es simplemente contratar más investigadoras para resolver el desequilibrio crónico. Espere que sus productos futuros sean más vergonzosos -e incluso dañinos- si no lo hacen.
