En multitud de contextos, las personas deciden de forma diferente, dependiendo de si se está eligiendo entre las opciones de forma conjunta o por separado. Los vendedores inteligentes los saben y para vender un producto lo emparejan con otro que es claramente inferior o destacan exclusivamente las características en las que son superiores. Un vendedor que quiere convencer a la gente a comprar un ordenador lo pone junto a otra cuya pantalla tiene mucho menos píxeles.

Internet se ha convertido en una de las principales fuentes de información, entretenimiento y comunicación. Las utilidades y necesidades que cubre Internet se cuentan por miles, y hoy en día el mundo gira entorno a la red. Pero además, desde la aparición de las redes sociales, nuestra percepción de la realidad se encuentra fuertemente influida por nuestro uso y presencia en ellas. La opinión que nos formamos ante temas políticos, económicos, sociales y de cualquier otra índole, se basa en la actualidad en numerosos elementos, de los que […].

¿Te imaginas una app que te permita descubrir información no sesgada y que tenga en cuenta a los sectores de la sociedad ninguneados también en internet? Pues esa app está en camino: se llama Liquen, y la está desarrollando una investigadora española.

La aplicación ciega de las nuevas técnicas de inteligencia artificial puede llevar a una amplificación de los sesgos culturales preexistentes en el corpus de datos usados para "entrenar" los algoritmos. De hecho, es algo que ya ha sucedido, incluso usando como fuente artículos periodísticos escritos por periodistas profesionales. En este artículo se explica una de las aproximaciones más punteras para revertir ese sesgo.

Racistas, sexistas y hasta convertidos en auténticos psicópatas. Los sistemas de inteligencia artificial que aprenden por sí mismos pueden adquirir los peores prejuicios y rasgos de la personalidad humana al ser entrenados con los datos menos oportunos. Mientras que algunos estudios alertan sobre el problema, empresas tecnológicas como Microsoft y Google se ven afectadas una y otra vez.

La compañía está examinando centrar el servicio en temas de interés más que en los tuits generados por las cuentas que seguimos, como se ha hecho desde su nacimiento hasta ahora. El efecto que se persigue, recoge Quartz, es que los usuarios abandonen su cámara de eco y los sesgos y puedan conocer más perspectivas sobre diferentes temáticas.

Jack Dorsey ha “admitido completamente” el sesgo izquierdista de su empresa, pero quiere convencernos de que eso no afecta a su funcionamiento.

Lo que hace el algoritmo basado en redes neuronales es básicamente crear un rostro realista a resolución aceptable que al ser reducido produzca la misma imagen pixelada que se utiliza como imagen de entrada,buscando que al mismo tiempo sea un rostro perceptualmente realista.Lo que sucede es que esos rostros son en cierto modo inventados, como esas caras generadas mediante inteligencia artificial detrás de las cuales no hay una persona real.Relacionada: www.meneame.net/story/esta-herramienta-consigue-reconstruir-rostros-pi

Los algoritmos de inteligencia artificial y big data fomentan el machismo, el racismo y el clasismo, asegura esta profesora de Ciencia y Planificación Urbana en el MIT, que es también una activista de género y una hacker con el apodo de kanarinka.

Si estás escribiendo un artículo y no sabes si se puede identificar tu ideología, este algoritmo te dice si parece de derechas o de izquierdas. Cada uno de nosotros vive en Internet dentro de su propia burbuja de filtros, definida por Eli Pariser como el universo que nos envuelve al realizar nuestras búsquedas y nos aisla en una burbuja cultural e ideológica a la que solamente llegan contenidos ajustados a nuestras preferencias e intereses, alimentando nuestro sesgo de confirmación y polarizando a la sociedad.

Timmit Gebru, empleada de Google, fue despedida recientemente tras exigir a sus superiores una respuesta sobre porqué debía eliminar una publicación de un informe. En su petición, Gebru afirmó que si no obtenía una respuesta en un tiempo prudencial, abandonaría la empresa. Google no accedió su petición y aceptó rescindir su compromiso sin dar una mayor explicación. Criticaba que las personas con un tono de piel más oscuro tenían mas dificultad para utilizar los sistemas de reconocimiento facial por los fallos que este ofrecía.

Entrevista a una experta en la que habla sobre como afectan los sesgos de la algoritmia para el desarrollo de la inteligencia artificial en lo social.

Algoritmos alimentados con imágenes tienden a autocompletar fotos de hombre con trajes mientras que para las mujeres aplican bikinis o camisetas escotadas. Los conjuntos de datos creados para alimentar estos algoritmos capturan todo lo que hay en internet, pero la web acumula una cantidad excesiva de imágenes de mujeres con poca ropa. Esto tiene implicaciones para la generación automática de imágenes y para todas las aplicaciones de visión artificial, incluidos los algoritmos de evaluación de candidatos, vigilancia o reconocimiento facial.

Un sesgo cognitivo es una interpretación errónea sistemática de la información disponible que ejerce influencia en la manera de procesar los pensamientos, emitir juicios y tomar decisiones. El concepto de sesgo cognitivo fue introducido por los psicólogos israelíes Kahneman y Tversky en 1972. Podemos tener sesgos por casi cualquier motivo, no solo por el género, la raza o la edad, sino también por aspectos como el estilo de vida o el nivel cultural.

El pasado 22 de febrero, la ministra de Trabajo y Economía Social, Yolanda Díaz, compareció en comisión en el Congreso de los Diputados. Los titulares se los llevó el comentario machista de un rival político, pero lo más sugerente tuvo lugar durante los primeros minutos de la sesión. La dirigente gallega propuso a sus señorías un viaje metafórico entre dos ciudades: Fordlandia y Uberlandia, transitando por el camino de la "uberización de la economía": "Algoritmos dirigiendo a personas que trabajan".

OpenAI ha publicado un estudio en el que afirma haber descubierto una forma de mejorar el “comportamiento” de los modelos lingüísticos con respecto a los valores éticos, morales y sociales del lenguaje GPT-3 que la misma firma desarrolló. ¿A qué se traduce esto? Según OpenAI, este enfoque puede dar a los desarrolladores unas herramientas que sean capaces de dictar el tono y la personalidad de un modelo de inteligencia artificial en función de las indicaciones que se le den.

Un estudio "a gran escala" en siete países efectuado por investigadores de la red social halla pruebas de que los mensajes de la derecha política y mediática son más potenciados por la plataforma. Twitter asegura que no tiene claro por qué se produce este efecto

En este programa basado en el navegador, los estudiantes aprenden sobre el sesgo algorítmico a través de la lente de una escuela secundaria ficticia que está dando premios: El más probable para ir a una universidad superior, el más probable para convertirse en viral y el más problemático. Los participantes comienzan asignando premios a personajes históricos famosos como Albert Einstein, Marilyn Monroe y Rosa Parks. Los alumnos también asignan una serie de atributos a cada premio (adaptable, aventurero, agresivo, etc.) (...)

COMPAS reveló tener sesgos hacia los acusados negros, así que hemos intentado rediseñarlo para que sus resultados sean más justos. Pero, al estar entrenado con datos históricos injustos resulta imposible que ofrezca las mismas tasas de acierto y error mientras trata a todos los colectivos de la misma manera.

Las redes sociales se han convertido en fines en sí mismos que crean una estructura, en ocasiones a través de ‘influencers’, que fomenta los sesgos informativos. Hay que recordar, como he dicho muchas veces, que el objetivo de las redes es que pasemos el máximo posible tiempo de ellas, puesto que sus beneficios y monetización de sus negocios está íntimamente relacionado con la cantidad de tiempo que consumimos en ellas, y les permite tomar nuestros datos, ofrecernos publicidad, etc. Pero antes de convertirnos en adictos hay un escalón por…

Hace justo un año decidí abrir una petición en Change.org para pedir a Google y Microsoft, dos de las dos empresas que más dinero valen en el mundo, que arreglasen el Sesgo de Género en el Traductor Inglés<->Español, donde algunas profesiones tienen sesgo de género masculino (juez e ingeniero) y otras femenino (enfermera). Y hoy al mirar cuánta gente ha apoyado la petición, me ha sorprendido, ya que son más de 32.000 personas.

El objetivo del desarrollo de la tecnología de consumo era bastante simple antes: diseñar y construir algo de valor para las personas, dándoles una razón para comprarlo. Una nueva nevera es brillante, reduce mis facturas de electricidad, hace cubitos de hielo geniales. Sin embargo, esta visión de la tecnología está cada vez más desactualizada. No es suficiente que una nevera mantenga la comida fría; la versión actual ofrece cámaras y sensores que pueden monitorizar lo que como, mientras que Roomba puede enviar un mapa de mi casa a Amazon.

Los videojuegos tienen personajes femeninos, como secundarios pero también como protagonistas, pero a diferencia de su contraparte masculina, tienen menos diálogo hasta el punto de que llegan a hablar la mitad que los hombres. 'Sesgo de género en el diálogo de los videojuegos' es el trabajo de un grupo de investigadores de la Universidad de Glasgow, la Universidad de Aston y la Universidad de Cardiff (todas en Reino Unido), que ha analizado la distribución de género de los diálogos en los videojuegos.