Un tribunal neerlandés ha decidido que SyRI (acrónimo de System Risk Indication), un sistema de análisis para rastrear posibles fraudes al Estado utilizado por el Gobierno, “no respeta la privacidad del ciudadano y vulnera el artículo 8 de la Convención Europea de Derechos Humanos”, relativo al derecho a la vida privada. En octubre, el relator especial de la ONU sobre pobreza y derechos humanos, remitió un informe al tribunal criticando que SyRI “señala a los ciudadanos con menos renta y a grupos de población de origen inmigrante”

Marcelino Madrigal expone cómo funciona el algoritmo de Twitter y explica por qué ciertos tuits tienen más difusión que otros ¿Es ideología? No. Es dinero. Existe una leyenda negra sobre una especie de entidades mágica e irreales que son responsables de los todos los males en las redes, y a la que nombramos continuamente acusándolas de lo peor: los algoritmos. Pero ¿realmente sabemos lo que son? Un algoritmo solo tiene en cuenta que la red social en la que se utilice tenga una mejor cuenta de resultados ese trimestre. Es pasta.

Desde hace mucho tiempo se habla sobre si los algoritmos de las redes sociales potencian el racismo y el sexismo, entre otros tipos de discriminación, y el caso de Twitter es uno de los que más ha dado que hablar. En las últimas horas la plataforma reconoció la existencia de un "sesgo algorítmico", al dar a conocer los ganadores de su más reciente iniciativa para exponerlo. Los modelos algorítmicos amplifican los prejuicios del mundo real y las expectativas sociales de belleza, lenguaje, discapacidad o color de piel.

Que a los humanos nos resulte sorprendente que un algoritmo sea capaz de pasar un examen que consideramos complicado entra dentro de lo razonable. Sin embargo, si analizamos la forma en la que aprende un algoritmo, la cuestión resulta mucho más fácil de entender: en primer lugar, hablamos de algoritmos entrenados con una enorme cantidad de información, prácticamente con todo texto que encuentran en la red, excluyendo únicamente algunos casos evidentes.

La semana pasada, el Concejo de la Ciudad de Nueva York aprobó por unanimidad un proyecto de ley para combatir la discriminación algorítmica, la primera medida de este tipo en el país. El proyecto de ley de responsabilidad algorítmica, a la espera de ser promulgado por el alcalde Bill de Blasio, establece un grupo de trabajo que estudiará cómo las agencias municipales usan algoritmos para tomar decisiones que afectan las vidas de los neoyorquinos, y si alguno de los sistemas parece discriminar a las personas.

Permiten automatizar infinidad de decisiones que afectan a los ciudadanos. Un algoritmo es un conjunto de instrucciones o reglas definidas, ordenadas y finitas que definen los pasos a seguir para ejecutar una actividad u objetivo. Todos utilizamos algoritmos en nuestro día a día;por ejemplo, antes de ir a trabajar, nos despertamos, nos levantamos, desayunamos, nos vestimos, etc.

El gobernador del estado de California, Jerry Brown, ha aprobado una ley que, a partir de octubre de 2019, eliminará el pago de fianza en los tribunales, y recurrirá en su lugar a algoritmos que estimarán el riesgo de fuga o de cometer delitos adicionales en caso de ser puestos en libertad. El algoritmo, los diferentes condados tendrán obligación de obtenerlo bien a través de algún proveedor o mediante desarrollo propio.

El Ministerio del Interior y la Policía Nacional utilizan varios algoritmos en sus procesos de toma de decisiones. Estos algoritmos (o "inteligencia artificial", según su denominación comercial) consisten en un sistema de fórmulas matemáticas que, apoyándose sobre una base de datos de información contrastada, son capaces de hacer una predicción sobre hecho en función a una serie de variables.

El algoritmo de Tinder te discrimina todo el tiempo.

Investigadores de Harvard han descubierto que el algoritmo de YT mostró entre otros un inocente vídeo en el que aparecían dos niñas brasileñas de 10 años en una piscina en el patio trasero de su casa a usuarios que habían visto con anterioridad vídeos de temática sexual u otros de niños prepúberes y parcialmente vestidos, según informa The New York Times. El algoritmo de YT era el responsable de seleccionar imágenes que llegaron a un único repositorio sugerido a una gran audiencia de personas que habían visto vídeos de contenido sexual.

La decisión de Reino Unido de utilizar un algoritmo para fijar las notas de acceso a la universidad ha terminado en desastre. El sistema perjudicó de manera desproporcionada a los alumnos de clase trabajadora e infló a las notas de los de escuelas privadas. Los maestros habían hecho predicciones de las puntuaciones de los exámenes de sus estudiantes, pero estudios anteriores habían demostrado que estos podían estar sesgados en función de la edad, el género y la etnia. Ahí fue cuando Ofqual recurrió a un algoritmo. A partir de ahí,,,,

El pasado 21 de abril la Comisión Europea (CE) presentó su propuesta para promulgar una Ley de Inteligencia Artificial, que regulará el funcionamiento de los algoritmos y la IA en las relaciones laborales. En consecuencia, todas las empresas deberán cumplir unos requisitos antes, durante y después de la puesta en marcha de algoritmos laborales

Un estudio interno de la plataforma indica que su algoritmo amplifica mensajes conservadores, también en España, un fenómeno que no sabe explicar. No obstante, Twitter usa varios algoritmos que no pueden ser abiertos para detectar posibles sesgos, lo que crea una importante “complejidad a nivel del sistema”.

Nuestros queridos y preciados datos personales. Los malvados algoritmos de las megacorporaciones. La explicación de los tejemanejes secretos de de los servidores de las nubes de internet con nuestros bits, proverbialmente a cambio de «cosas gratis». Ah, ¡cuántas guerras digitales se han librado en su nombre! Pues resulta que ahora Google, Meta y otras empresas tendrán que explicar cómo funcionan sus algoritmos según la nueva legislación de la Unión Europea.

Las grandes empresas tecnológicas chinas como Alibaba, el propietario de TikTok, ByteDance y Tencent han compartido información sobre sus algoritmos con el regulador de internet del Gobierno de China. Mientras gigantes estadounidenses como Meta o Alphabet, matrices de Facebook y Google, protegen sus algoritmos como secretos comerciales, en el país asiático se ha publicado por primera vez cómo funcionan estos sistemas de más de 30 empresas.

El nuevo algoritmo antipiratería de Google ya está afectado a sitios web de descargas, que en poco días han perdido más del 50% y están empezando a desaparecer de los resultados de búsqueda de Google.

En Wisconsin, los jueces tienen un polémico "ayudante" que les aconseja a la hora de elegir cuánto dura la pena de prisión que imponen a los condenados por un delito. Y ese "ayudante" no es humano: se trata de Compas, un misterioso algoritmo que utiliza diversas variables sobre el pasado de cada reo para estimar, entre otras cosas, las posibilidades que tiene éste de reincidir en el futuro.

Aunque la crisis ha causado muchos problemas, uno de los más graves es, sin lugar a dudas, que las personas han perdido sus hogares. Esto no es un problema que nos afecte solo en España, para nada, sino que es algo que, desgraciadamente, ocurre en todo el mundo. El caso que nos ocupa hoy es el del condado de Santa Clara, donde el gobierno local tiene un gran problema por el excesivo número de sintecho y la falta de recursos para darles un alojamiento a todos ellos. Sin embargo, un algoritmo desarrollado en Silicon Valley parece tener...

Facebook ha anunciado recientemente que la eliminación del equipo, siendo reemplazados por un algoritmo, le permitiría operar a una escala mucho mayor. Lamentablemente, el algoritmo ha estado subiendo notorias noticias falsas a la sección de trending, entre ellas la noticia de un despido de una presentadora de un canal conservador (Fox) por ser una "liberal de armario" y una noticia sobre un ataque de un cómico a una tertuliana conservadora que linkea en realidad a un vídeo de un tipo masturbándose con un McChicken.

Del mismo modo que el VAR, el Ojo de Halcón o el DRS sustituyen a los árbitros en distintas competiciones deportivas, los algoritmos sustituyen a jueces, evaluadores y asesores en las más variopintas actividades. Esta sustitución se hace a menudo bajo el supuesto, implícito o explícito, de que (i) el sistema informático es más eficaz (toma mejores decisiones) y (ii) es más justo o neutral (carece de sesgos y prejuicios). Aunque ambas características son relevantes, en esta entrada me quiero centrar en la segunda.

Parece que pocas cosas han mejorado al interior que YouTube; que sigue dependiendo de algoritmos un tanto erráticos para posicionar contenidos automáticamente en su plataforma. Lo vimos hace cinco meses con los videos de Fake News sobre el tiroteo de Las Vegas y ahora ha vuelto a suceder exactamente los mismo con Parkland.

Entre julio y diciembre de 2017 los algoritmos han realizado el trabajo de 180.000 personas trabajando 40 horas a la semana, exclusivamente en vídeos extremistas. Precisamente, The New York Times criticó duramente a YouTube hace unos días, afirmando que la plataforma ejerce como un "gran radicalizador" de nuestra sociedad. La autora del artículo (Zeynep Tufekci) experimentó con el algoritmo de YouTube, comprobando como las recomendaciones siempre le mostraban la misma versión de la historia.

Un desarrollador explica cómo fue despedido por un algoritmo, pese a que nadie en la compañía quería que se fuese ni podía evitarlo. Cuando Ibrahim Diallo fue despertado a las 7 de la mañana por la reclutadora de la empresa en la que estaba trabajando, preguntando si estaba bien, no se esperaba que fuese el inicio del fin de su etapa en la compañía.

Las Universidades de Michigan (Estados Unidos) y Ámsterdam (Países Bajos) han desarrollado un algoritmo capaz de detectar noticias falsas. Según informan los responsables de la investigación,la precisión es comparable a la de una persona.El trabajo se centra en un sistema de procesamiento de lenguaje natural (NLP System) que incluye noticias falsas y verdaderas."Los investigadores han establecido ciertos aspectos necesarios para separar contenido verdadero y falso dentro de noticias, entre los que destacan tener disponibles ejemplos tanto ve