Cómo un algoritmo de Machine Learning puede tener prejuicios o sesgos y afectar a la vida de las personas

Los algoritmos de Machine Learning están cobrando cada vez más importancia en nuestro día a día. Estamos rodeados de aplicaciones que utilizan estos algoritmos constantemente. Cada vez existen más personas que se cuestionan si estos algoritmos actúan o se comportan de forma ética. Por ejemplo, en 2016 se descubrió que los algoritmos de LinkedIn tenían sesgo de género y que recomendaban empleos mejor remunerados a hombres que a mujeres.

[#1 Robus]

Si entrenamos nuestros algoritmos con datos sesgados estos también lo estarán. Cuando hablamos de datos sesgados o biased data nos referimos a "datos desbalanceados" que no son representativos de la realidad o que reflejan los prejuicios de algunas personas. Como comentaba Enrique Blanco en su artículo, estos fallos o sesgos están muy presentes en la tecnología que nos rodea. Un claro ejemplo es el caso de LinkedIn citado antes.

La culpa no es del algoritmo... es de los…   

[#2 kaos_subversivo]

#1 aun te han quedado ganas de leer el articulo despues de leer la entradilla? Que paciencia la tuya

[#4 futsuu]

#1 Lo que están diciendo es que al algoritmo no hay que darle los datos reales porque se los cree.

Lo que me recuerda al viejo chiste

- Papá dame pan
- No hijo que te lo comes

[#3 futsuu]

Por ejemplo, en 2016 se descubrió que los algoritmos de LinkedIn tenían sesgo de género y que recomendaban empleos mejor remunerados a hombres que a mujeres.

El problema no era ese. Era que los algoritmos carecen de sesgos mientras que los humanos tienen sesgos. El problema real es la diferencia entre ambos casos. Se culpa al algoritmo de no comportarse con los mismos sesgos que los humanos, pero para eso habrá que programarle ese sesgo.

[#5 futsuu]

#3 Creo que vale la pena volver a mencionar el caso de los funcionarios australianos. Siempre habrá alguien que no lo conozca.
Es exactamente lo mismo, pero sin ordenadores.

En Australia, los funcionarios son contratados. No va por oposiciones. Los primeros pasos son:
- El candidato envia su CV
- Se seleccionan unos CV sí y otros que no
- Los seleccionados se presentan a una entrevista
- ... más pasos ...

Se seleccionaban sistemáticamente más hombres que mujeres. Las feministas demandaron…