Amazon despide a su inteligencia artificial por machista

Un proceso de automatización que tenía como principal objetivo mecanizar la búsqueda y encontrar los mejores talentos, según varias fuentes que confirma Reuters. Esta herramienta creada por un equipo de doce personas en Edimburgo puntuaba a los candidatos con entre una y cinco estrellas. Acción similar a cómo se califican los productos que los usuarios compran a través de la página web de la compañía.

Un año después de su nacimiento, los ingenieros de Amazon comprobaron que la herramienta no funcionaba del todo bien. El sistema no calificaba a los candidatos de manera neutral al género.

Según Amazon en declaraciones a Reuters, el problema radica en la educación de la inteligencia artificial reclutadora y no en su arquitectura. El aprendizaje de los cerca de 500 modelos informáticos se realizó sobre miles de currículums durante una década, pero, asegura la compañía, que la mayoría fueron hombres.

Con este contexto, la inteligencia artificial penalizaba informes que contenían la palabra «mujer» y sin revisar su experiencia académica y profesional. Su primera opción siempre eran hombres.

Esta tendencia comenzó a verse en los primeros pasos del modelo. En actualizaciones posteriores, el equipo de Amazon trató de revertir el sesgo sexista de la herramienta, pero los candidatos seguían clasificándose de manera discriminatoria.

Los doce ingenieros que trabajaron desde 2014 crearon un total de 500 modelos capaces de reconocer 50.000 términos que aparecían en currículums de anteriores candidatos. Sin embargo, la herramienta siempre apostaba con las candidaturas que contenían palabras o conceptos en las historias de ingenieros y no de ingenieras.

La compañía de Jeff Bezos despidió en 2017 a su reclutadora «inteligente», pero Amazon no lo di a conocer hasta este momento cuando Reuters lo ha desvelado. El gigante del comercio electrónico, no obstante, ha asegurado que «está comprometida con la diversidad y la igualdad en el trabajo».