Cómo el problema del sesgo de la IA puede afectar su próxima solicitud de empleo

Los solicitantes de empleo tecnológico se ven bloqueados por el sesgo de la IA cuando solicitando roles . Aunque para los profesionales de recursos humanos, la IA de generación tiene un gran potencial cuando se trata de automatizar tareas tediosas, su tendencia al sesgo sigue siendo motivo de preocupación.

El sesgo de la IA en el reclutamiento surge cuando los sistemas y herramientas que se utilizan para seleccionar candidatos perpetúan o incluso amplifican inadvertidamente los prejuicios existentes.

Estos sesgos a menudo surgen de los datos con los que se entrenan estos sistemas, que pueden reflejar prejuicios sociales o patrones de contratación históricos que favorecen a ciertos grupos demográficos sobre otros.

A veces, el sesgo de la IA se debe al diseño mismo, lo que refleja sesgos inconscientes de sus desarrolladores, mientras que los bucles de retroalimentación significan que si un sistema elige consistentemente candidatos con antecedentes similares, continuará haciéndolo a menos que se corrija.

El sesgo incorporado puede afectar su búsqueda de trabajo significativamente. Si bien se han generalizado los informes sobre los sesgos en los sistemas de seguimiento de candidatos (ATS), que escanean los currículos en busca de palabras clave en las especificaciones del trabajo y palabras clave que se alinean con los candidatos exitosos anteriores, un experimento reciente muestra cuán claros pueden ser los prejuicios sobre la IA.

Sesgo en acción

Al aplicar nombres ficticios pero "demográficamente distintos" a currículums igualmente calificados, se pidió a ChatGPT 3.5 que clasificara a los solicitantes según una especificación laboral real para un puesto de analista financiero en una empresa real.

Los nombres distintos de los afroamericanos tenían una menor probabilidad de aparecer como los mejores solicitantes; Los nombres relacionados con mujeres asiáticas y hombres blancos generalmente obtuvieron mejores resultados.

Dada la vertiginosa velocidad del desarrollo de la IA, algunos dicen que este experimento ya está anticuado. Desafortunadamente, ese no es el caso.

Aunque ChatGPT-4o ya se está implementando y OpenAI afirma haberlo probado con especialistas externos, también dice que seguirá abordando inquietudes como el sesgo, la equidad y la desinformación a medida que salgan a la luz. Todavía existen sesgos de significado.

¿Qué pueden hacer los solicitantes de empleo para evitar el sesgo de la IA?

Para quienes buscan empleo, profundizar un poco en el compromiso de una empresa con DE&I les indicará si es probable que se centre en eliminar el sesgo de sus herramientas de IA.

Con la capacidad de escanear miles de currículums en segundos, es poco probable que las empresas vuelvan a revisar los currículums únicamente manualmente, pero muchas organizaciones están agregando una capa de supervisión humana en los procesos de selección para ayudar a mitigar los resultados sesgados de la IA. Por supuesto, los humanos también tenemos prejuicios, por lo que ningún método es infalible.

Otros equipos de contratación utilizan ATS que ocultan los nombres y niveles educativos de los solicitantes.

Además, observe si la empresa que desea se obsesiona con tener un nivel educativo particular; si es así, existe una mayor probabilidad de que se produzca un sesgo de la IA.

Por supuesto, en industrias particulares como la medicina y la atención médica, las calificaciones profesionales son muy importantes, pero para otras, como la ingeniería de software, las organizaciones pueden adoptar un enfoque de contratación más basado en las habilidades.

Los ingenieros y desarrolladores suelen ser STAR (capacitados a través de rutas alternativas), así que busque requisitos basados en la experiencia por encima de los mínimos educativos en los anuncios de empleo.

Ingeniero DevOps, SAP, Bellevue

Sap está buscando un Ingeniero DevOps ser responsable de la entrega efectiva y eficiente de los entornos del cliente en la nube de las respectivas líneas de productos, y garantizar que la entrega se realice de acuerdo con los acuerdos de nivel de servicio definidos.

También contribuirá al desarrollo de soluciones automatizadas para la detección de anomalías y la corrección automática de incidentes, monitoreará y medirá los sistemas para el rendimiento, la planificación de carga y capacidad, garantizará operaciones fluidas y maximizará el tiempo de actividad.

Para ser considerado necesitarás al menos dos años de experiencia en Docker, Kubernetes, Jenkins, Ansible, Python y BASH, entre otros. Descubra más aquí .

Ingeniero de software sénior - DevOps, Roku, San José, CA

Al ofrecer un salario considerable, aunque solo para California, Roku está contratando por un Ingeniero de programación superior con habilidades excepcionales de DevOps. Las responsabilidades incluyen la automatización y el escalamiento de las pilas de tecnología de Big Data y Analytics en la infraestructura de la nube, la creación de canalizaciones de CI/CD, la configuración de monitoreo y alertas para la infraestructura de producción y el mantenimiento de sus pilas de tecnología actualizadas.

Con elegibilidad para seguro médico, premios de equidad, seguro de vida, beneficios por discapacidad, licencia parental, beneficios de bienestar y tiempo libre remunerado, este puesto requiere cuatro años de experiencia en DevOps y/o ingeniería de confiabilidad. Leer más aquí .

Ingeniero sénior de DevOps, FanDuel, Atlanta

Desempeñar un papel fundamental en la automatización de la infraestructura y las aplicaciones en la nube de FanDuel Group colaborando con ingenieros de software, ingenieros de lanzamiento y otros equipos multifuncionales como Ingeniero Senior DevOps . El solicitante seleccionado impulsará iniciativas clave mediante el desarrollo, la planificación y la implementación de estrategias en múltiples áreas multifuncionales que se alineen con sus objetivos comerciales.

Si bien el enfoque principal está en AWS, es posible que también se requieran otras plataformas en la nube, por lo que es importante mostrar un compromiso con el desarrollo profesional en tecnología de la nube. Progresivamente, no se enumeran requisitos educativos, pero sí una lista de experiencias y habilidades deseadas. Ver requisitos aquí .

Por Amanda Kavanagh