La sutil discriminación de las IA de contratación contra la discapacidad

A medida que las herramientas de selección de personal impulsadas por inteligencia artificial se vuelven más comunes, los defensores de las personas con discapacidades advierten sobre su impacto negativo en el colectivo y sobre la falta de regulación y auditorías para las empresas responsables de los sistemas

[#1 hasta_los_cojones]

Automatización para el caso general y manual para las excepciones.

Si la selección por IA discrimina a un colectivo, se usa una cuota y un proceso de selección manual específico. Cómo se hacía antes de la IA

[#2 January11]

Depende del tipo de IA, pero es fácil que establezcan correlaciones erróneas (o simplemente indeseables), no son infalibles por ser un programa. En su aspecto más básico lo que hacen es establecer correlaciones estadísticas con los datos que tienen, y con los objetivos que quieren obtener. En el aspecto más avanzado pueden ser tan complicadas que se convierten en una caja negra, entonces pierdes cualquier información sobre porqué ha hecho su elección, y desconoces totalmente las razones. Así funcionan las redes de neuronas.

A lo mejor sin saberlo, la IA llega a la conclusión de que las personas que viven en números pares son mejores trabajadores que los que viven en números impares, y a lo mejor los datos justamente presentan esa correlación. Y si resulta que las personas con discapacidad tienen menos aversión al riesgo, y estableces que eso es malo, pues van a ser "discrimnados".

[#4 Highway]

La 'IA' con 'buenas' rutinas preestablecidas, ni es IA ni es nah.