El avance de la Inteligencia Artificial (IA) marcó una nueva era en la forma en que las empresas y organizaciones llevan a cabo los procesos de reclutamiento y selección de candidatos. La capacidad de la IA para analizar datos, identificar patrones y tomar decisiones aparentemente objetivas generó optimismo en cuanto a la eficiencia y eficacia de estas herramientas. Sin embargo, esta revolución tecnológica ha planteado un debate ético crucial sobre los impactos de la IA en la vida de las personas, especialmente en lo que respecta a la diversidad, la equidad y la inclusión.
El debate ético en torno al desarrollo de la IA no es nuevo, pero ha ganado un destacado protagonismo en los últimos años. En las décadas de 1980 y 1990, Estados Unidos invirtió 400 millones de dólares en el desarrollo de la IA, lo que generó cuestionamientos morales sobre su impacto. Sin embargo, fue solo en 2016 que entidades gubernamentales y organizaciones de la sociedad civil comenzaron a producir publicaciones sobre la regulación de la IA, centrándose en la protección de los derechos humanos.
El uso de la IA en los procesos de reclutamiento ha crecido sustancialmente, especialmente con la pandemia de COVID-19. Muchas organizaciones han adoptado herramientas de IA para mejorar la eficiencia del reclutamiento en volumen y la gestión del lugar de trabajo. Sin embargo, en un estudio reciente, investigadores de la Universidad de Cambridge destacan preocupaciones cruciales. Cuestionan la afirmación de que la IA puede evaluar a los candidatos de manera objetiva, sin tener en cuenta el género y la raza. La realidad es que, a menudo, los intentos de «despojar» al género y la raza de los sistemas de IA no comprenden completamente estos conceptos y no son verdaderamente neutrales. Esto resulta en sesgos y refleja la relación de poder entre quienes desarrollan la IA y los candidatos.
Hoy en día, el desarrollo de la IA a menudo es realizado por grupos de personas altamente técnicas y homogéneas, lo que sienta un precedente para la creación de sistemas basados en una visión limitada del mundo. Las herramientas de reclutamiento basadas en IA ayudan a producir al «candidato ideal» que supuestamente identifican, construyendo asociaciones entre palabras. Es decir, no solo identifican los atributos de los candidatos, sino que también influyen en cómo los empleadores perciben esas características. Casos emblemáticos, como el de Amazon, que abandonó un mecanismo de reclutamiento debido a la discriminación de género, demuestran que el uso inadecuado de la IA puede tener graves consecuencias.
La Unión Europea ha dado pasos significativos para regular la IA, prohibiendo sistemas que refuercen desigualdades o discriminen a los candidatos. Sin embargo, en Estados Unidos, la regulación es fragmentada. La autoridad y la responsabilidad en la regulación y gobernanza de la IA se distribuyen entre las agencias federales. Los dos documentos que rigen esta área, el «Blueprint for an AI bill of rights» de la Casa Blanca y el «NIST risk management framework» del Instituto Nacional de Estándares y Tecnología, son de orientación voluntaria y no tienen fuerza de ley. Algunas ciudades, como Nueva York, han comenzado a tomar medidas por su cuenta, exigiendo auditorías de sesgo en los algoritmos de reclutamiento.
Aunque países como México, Brasil, Argentina, Colombia, Chile, Ecuador, Costa Rica, Paraguay, Perú, República Dominicana y Trinidad y Tobago han demostrado avances significativos en este tema, a nivel de América Latina todavía no hay una posición consolidada para establecer los principios éticos de uso de la IA. En Brasil, al menos cuatro proyectos de ley están en trámite en el Congreso Nacional, destacando el PL 2338/23, que considera de alto riesgo los sistemas de IA utilizados en el reclutamiento y sujetos a una evaluación de impacto algorítmico.
La trayectoria del impacto de la IA en la igualdad de género está intrínsecamente ligada a la forma en que se desarrolla, implementa, utiliza y gobierna la IA. La idea de que una única propuesta regulatoria pueda servir como una «bala de plata» capaz de resolver todos los problemas es ilusoria. La IA es una tecnología en constante evolución, y las leyes no siempre pueden seguir su ritmo frenético de desarrollo.
Garantizar la igualdad de género en los avances tecnológicos es fundamental. Los formuladores de políticas y las organizaciones enfrentan el desafío de reconocer que el género es un sistema interseccional complejo. La IA debe tener en cuenta estas interacciones entre género, raza y otros factores sociales al ser desarrollada y utilizada. El sesgo en los datos de entrenamiento conduce a sesgos en los resultados de la IA, lo que requiere una revisión crítica de las herramientas de reclutamiento basadas en IA para evitar la perpetuación de las desigualdades de género.
La búsqueda de la igualdad de género en el contexto de la IA es difícil, pero crucial. Encontrar un equilibrio entre los avances tecnológicos y los derechos individuales es un compromiso colectivo. Los líderes y las organizaciones desempeñan un papel fundamental al promover una cultura de diversidad, equidad e inclusión. Esto no solo hace que los entornos de trabajo sean más justos, sino que también influye positivamente en el desarrollo responsable de la IA. De esta manera, podemos aprovechar los beneficios de la IA sin comprometer los derechos humanos y los valores democráticos.
Cargando ...
