edición general
542 meneos
1330 clics
La IA de Youtube bloquea un canal de ajedrez después de confundir la discusión sobre 'blanco y negro' con racismo [ENG]

La IA de Youtube bloquea un canal de ajedrez después de confundir la discusión sobre 'blanco y negro' con racismo [ENG]

Las discusiones en línea sobre piezas de ajedrez en blanco y negro confunden a los algoritmos de inteligencia artificial entrenados para detectar el racismo y otros discursos de odio, según una nueva investigación. Los informáticos de la Universidad Carnegie Mellon comenzaron a investigar la falla de la inteligencia artificial después de que un popular canal de ajedrez en YouTube fuera bloqueado por contenido "dañino y peligroso" .

| etiquetas: youtube , ajedrez , racismo
221 321 8 K 426 tecnología
128 comentarios
221 321 8 K 426 tecnología
Comentarios destacados:                            
«12
  1. koe #1 koe *
    Alguna vez escuché insinuar el tema por el tipo de distribución de los colores. En fin. Buscar la excusa para imponer criterio y estar por encima. Lo posmo a veces se hace insoportable.
    7 K 63
  2. #2 CrudaVerdad
    Youtube: Prohibido mencionar las palabras "blanco" y "negro". Me pregunto que otras palabras tendrá ese "patético e inútil algoritmo hecho por becarios" para censurar.
    14 K 136
  3. #3 PAUL2
    "Idiocracia" se impone paso a paso.
    18 K 143
  4. ingenierodepalillos #4 ingenierodepalillos *
    ¿Cuanto tardará en pasar en España algo parecido con la apertura catalana? :troll:

    El enlace me lleva a Independent pero no al artículo. #1 #2 #3: ¿Soy al único que le pasa?
    11 K 94
  5. kumo #5 kumo
    Ajedrez interracial... Qué será lo siguiente? Peones ligando con alfilastros? Un enroque a tres bandas?
    3 K 41
  6. #6 erii *
    Bien prohibido está. Esto de querer matar al peón negro podría ser genocidio racista, y no hay forma de distinguirlo.

    Propongo pasarse al shogi. En el fondo es lo mismo y las piezas son todas del mismo color.

    Tuturial: www.youtube.com/watch?v=bQx4RrGB16k
    3 K 36
  7. #7 --42387--
    ¡Que prohíban el ajedrez! ¿Acaso vale más un jueguito de 2300 años que los lloros de unos indefensos ofendiditos?
    12 K 112
  8. Aokromes #8 Aokromes
    #4 a mi me lleva al articulo.
    2 K 26
  9. painful #9 painful
    #4 A mí no me lleva al artículo sino a la página general de www.independentespanol.com
    9 K 87
  10. Ferran #10 Ferran
    #5 Se muere la dama y el juego sigue, se muere el Rey y se acaba el juego :ffu:
    6 K 67
  11. jewel_throne #11 jewel_throne *
    Anda que cuando se entere la IA del racismo del billar en que la bola/raza blanca va mandando al hoyo al resto de razas y/o opositores ideológicos (amarillos, rojos, verdes....) sobre un tapete verde que simboliza la tierra y deja para el final a la bola/raza negra y encima tener que "enterrarla" en un agujero concreto...porque ya se sabe...primero el deber y luego el placer......esa IA chifla del todo. :troll: :troll:
    8 K 68
  12. ingenierodepalillos #12 ingenierodepalillos
    #9 Bueno al menos no soy el único. :shit:
    2 K 34
  13. #13 --165145--
    ¿Y no habéis pensado que eso de que jueguen primero blancas es racismo? :shit:
    9 K 89
  14. El_higado_de_Jack #14 El_higado_de_Jack
    #4 idem. No veo el articulo
    2 K 19
  16. #16 MaRDuC
    #13 Si jugaran primero las negras también lo serían, porque las podrían considerían inferiores y necesitarían la ventaja de empezar.
    O bien porque las podrían considerar prescindibles, y serían las primeras en ir al frente a morir.
    11 K 85
  17. #17 fpove
    El ajedrez es el deportes menos sexista, racista y pasa de esas mierdas, puede jugar cualquier contra cualquiera en igualdad de condiciones.

    Blanco y Negro son colores que cualquier distingue aunque sea daltonico y no vea muy bien, esto es buscar polemica porque si xD.
    2 K 23
  18. Rojista #18 Rojista
    #4 En la élite es una apertura muy usada junto con la española.
    1 K 17
  19. #19 --672833--
    #4 es normal que hablando de la apertura catalana te redirija a independent :troll:
    6 K 54
  20. #20 bibapelula *
    El enlace no me lleva a la noticia. Alguien puede pegar parte del articulo?
    0 K 8
  21. Nylo #21 Nylo
    Los de El Mundo Today realmente están sembrados hoy.
    1 K 20
  22. Xtampa2 #22 Xtampa2
    ¿Con qué prefieris jugar, con blancas o con negras? :-D
    1 K 24
  23. #23 mcfgdbbn3 *
    AI puede significar inteligencia artificial, o bien idiotez artificial, realmente lo que han inventado es lo segundo, pero algunos aún no son conscientes de ello, de que los ordenadores NO PIENSAN POR SI MISMOS.
    2 K 21
  24. ChiquiVigo #24 ChiquiVigo
    #13 Napoleón le dejaba iniciar el juego siempre a Josefina jugando ella con las negras para que así resaltase la blancura perfecta de sus manos.
    2 K 19
  25. squanchy #25 squanchy
    #22 El que prueba negra, ya no quiere blanca.
    5 K 47
  26. Nylo #26 Nylo
    #11 en un balón de fútbol clásico, los polígonos blancos no sólo tienen más lados y más vértices que los negros (hexágonos contra pentágonos) sino que además tienen a los negros completamente rodeados. Son también racistas, a más no poder xD
    3 K 33
  27. tranki #27 tranki
    #8 Y a mí me lleva al ridículo
    3 K 39
  28. #28 fpove
    #13 Eres consciente que suponer que si juegan primero negras podria ser racismo contra los blancos, en si mismo es un comentario racista? xD.
    1 K 15
  29. #29 fpove
    #22 La mayoria de la gente prefiere jugar con blancas que es mas facil, pero cuando ganas con negras es mucho mas satisfactorio.
    0 K 7
  30. kwisatz_haderach #30 kwisatz_haderach
    #2 Los youtubers dedicados a la historia ya han dejado de tocar el tema del Nazismo, por que les salta strikes directos. Es lo que pasa cuando obligamos a una empresa a censurar el contenido que publican los usuarios, que cortan por lo sano.
    8 K 63
  31. ingenierodepalillos #31 ingenierodepalillos
    #19 ¿Alguien ha cogido la matrícula de ese camión cargado de lógica aplastante? :troll:


    Hay que ser hinjiniero para hilar así de bien :clap: :clap:
    2 K 20
  33. #33 balaurdrakon91 *
    #2 Youtubers de la comunidad LGTBI se han quejado durante años porque el algoritmo de Youtube les quitaba la monetización por decir "ciertas palabras" que usan ellos habitualmente y que el algoritmo consideraba inapropiadas. Y lo que menciona el comentario #30 también. He visto canales sobre aviación en los que tienen que censurar si o si, ciertos símbolos de los aviones de guerra de la IIGM porque les bloqueaban hasta los videos por ello.
    5 K 38
  34. #34 --75126--
    Cambian el color de las fichas en 3, 2, 1...
    1 K 23
  35. #35 BloodStar
    chorrada de noticia
    0 K 6
  36. Raúl_Rattlehead #36 Raúl_Rattlehead
    Lo de dejar en manos del algoritmo absolutamente Todo tipo de moderación, esta llegando a cotas de ridiculez extrema.
    1 K 18
  37. tribulete72 #37 tribulete72
    #2 estos algoritmos no los crean becarios. De hecho, los algoritmos de la mal llamada " inteligencia artificial" son creados automáticamente a base de miles de ejemplos proporcionados a un ordenador. Realmente son clasificadores de cosas.

    El contexto en el que se habla es muy importante y es una gran asignatura pendiente de estos algoritmos.

    Matar al peón negro, sacrificar a la reina, comer un caballo, asaltar la Torre....

    ¿Como sabes que hablamos de ajedrez o de una revolución violenta por hambruna?
    2 K 18
  38. #38 fpove
    #23 Puede que dentro de poco eso no sea verdad, pueden pensar en pequeñas cosas por si mismos.
    0 K 7
  39. Ka0 #39 Ka0 *
    #2 Y de la reina y el rey mejor ni hablamos, a una la pueden matar, al otro no porque se acaba la partida.
    0 K 10
  40. Caravantes #40 Caravantes
    #9 Me ha pasado lo mismo la primera vez. La segunda vez que he pulsado en el enlace sí he llegado a la página correcta. Creo que es un problema ocasionado por la IA que maneja el servidor de independent.
    1 K 15
  41. #41 --165145--
    #25, de primera suena a que hablas de mujeres, pero pensándolo bien, tienes que referirte a pollas :troll:
    2 K 38
  42. #42 --165145--
    #38, siempre depende de lo que se entienda por pensar. Quizá podamos lograr que parezca que piensan, pero en realidad solo están siguiendo unos algoritmos predeterminados, y no piensan, sólo siguen complejas órdenes.
    0 K 15
  43. #43 CrudaVerdad
    #37 Escribo "becario" porque un desarrollador de software serio tendría en consideración las métricas:

    Detección correcta = Vídeos detectados como racistas / Vídeos realmente racistas (debería dar 1)
    Falso positivo = % de vídeos inocentes que son clasificados como racistas (debería dar 0)
    Falso negativo = % de vídeos culpables que son clasificados como inocentes (debería dar 0)

    Pero como Google/Youtube se acobarda ante los SJW, entonces le da igual lo que digan las anteriores métricas y así el software falle más que escopeta de feria, entonces no importa, censura todo lo que mencione la palabra "negro" y "blanco".

    Y es increíble con los miles de millones de dólares que gana Google, no contrate a más seres humanos a clasificar los vídeos.
    0 K 12
  44. #44 --133448--
    Pero la gente sigue viendo la aplicación de los anuncios? Como se llamaba? You algo.
    0 K 12
  45. #45 stroke
    #2 Aproximadamente el mismo que tienen aqui para repartir strikes por odio
    0 K 10
  46. Donpenerecto #46 Donpenerecto *
    #45 nos hemos librado de que son blancas y negras. Imagina que fueran fichas pelirrojas
    1 K 11
  47. Donpenerecto #47 Donpenerecto
    #28 eso eso. Duelo a muerte con espadas
    1 K 16
  48. #48 Luiskelele
    #43 creo haber leído alguna vez que tienen gente, pero que no duran en el puesto mucho porque el 90% del tiempo se dedicaban a ver atrocidades que no eran capaz de catalogar ni los algoritmos y acababan medio tocaos del ala.
    2 K 23
  49. #49 fpove
    #42 Lee sobre IA y como se reescribe a si mismo, por loque pasado un tiempo su codigo es distinto del inicial.
    0 K 7
  50. JUEZDPAZ_1 #50 JUEZDPAZ_1
    Y lo de matar a la reina y acorralar al rey no confunde también a la IA ??
    2 K 22
  51. #51 Visca
    #44 los adblockers bloquean los anuncios de youtube bastante bien. Y si lo usas en el mobil, youtube vanced
    0 K 6
  52. Enésimo_strike #52 Enésimo_strike
    #2 hay un canal que recomiendo; cosas militares.

    El pobre Yago tiene que contar los sucesos de Oriente Medio hablando de “el país innombrable” porque si dice Israel le vuelven a cerrar el canal. Saca un vídeo semanal y el tío se empapa bien en el tema, es una pena que le censuren un buen trabajo por esas tonterias.
    0 K 9
  53. #53 dm4c *
    Una mierda todo, estoy muy enfadado, me voy a comer un trozo de chocolate negro que es mejor que el chocolate blanco!
    1 K 15
  54. Autarca #54 Autarca
    La noticia es que para variar dieron explicaciones.
    1 K 22
  55. Adson #55 Adson
    #7, es una puta IA.

    Cuando confunde simios con negros os hace mucha gracia.
    1 K 15
  56. squanchy #56 squanchy *
    #41 Mi consejo sirve para ambos supuestos.
    1 K 18
  57. Adson #57 Adson *
    #53, el «chocolate» blanco no es chocolate, es pienso para sincebollistas.
    4 K 42
  58. pinger #58 pinger
    Mientras no le ponga capirotes a los blancos como hacia un compañero de clase, ningún problema con el ajedrez. Aunque se puede enteder el toque racista de ese juego y que una IA no sepa la diferencia, porque es sutil.
    0 K 10
  59. Technics #59 Technics
    #1 Otra que cuela El Mundo Today
    0 K 7
  60. pinger #60 pinger
    #44 Pero youtube tiene anuncios? ahora me dirás que meneame también ...
    0 K 10
  61. #61 --165145--
    #49, ya, lo tengo en cuenta, pero igualmente se ha reescrito siguiendo unas instrucciones. Por eso no veo claro hasta dónde diferenciar inteligencia de seguir unas órdenes.
    0 K 15
  62. #62 giropau *
    #43 "Detección correcta = Vídeos detectados como racistas / Vídeos realmente racistas (debería dar 1)" ¿Quién decide que un vídeo es "realmente racista"? ¿Un humano? Porque la otra parte la hace la IA ¿no? ¿Google debería tener personal para ver todos los vídeos que se suben para saber si son realmente racistas? Entonces, ¿para qué quiere la IA?
    ¿O solo el suficiente parar mirar los que la IA dice que son racistas? En este caso se te pueden colar los falsos negativos, es decir, videos realmente racistas pero que la IA no lo detecta como tal.

    Para poner un poco en perspectiva cada minuto se suben unas 500 horas de video a Youtube. Eso son 720.000 horas al día. Si tienes gente 24x7 viendo los vídeos necesitarías 30.000 personas para que puedan revisarlos todos. Alphabet tiene cerca de 100.000 empleados.
    0 K 6
  63. #63 --42387--
    #55 Blanco con bata: doctor.
    Negro con bata: heladero.
    0 K 11
  64. #64 fpove
    #61 Es como decir que nosotros no somos inteligentes porque tenemos nuestro ADN que viene todo escrito.
    0 K 7
  65. Xenófanes #65 Xenófanes
    #1 La solución es que sean de color infrarrojo y ultravioleta.
    0 K 10
  66. EdmundoDantes #66 EdmundoDantes
    #10 Porque los reyes se lo montan entre ellos, eso lo convierte en el primer juego gay de la historia
    0 K 10
  67. box3d #67 box3d
    #5 El alfil es del clero, no le veo yo ligando con varoniles peones.
    Al menos no en público.
    1 K 19
  68. box3d #68 box3d
    #10 Pero refleja la realidad e que quien manda en casa y en el tablero, es ella. xD
    1 K 21
  69. box3d #69 box3d
    #22 dos veces con cada una, como debe ser :-D :-D
    0 K 9
  70. OdaAl #70 OdaAl
    #13 Justo he pensado en eso, ¿qué empiecen las blancas es racismo?

    #28 #47 pensar en que en algo hay racismo es racismo, se puede entrar en bucle rápidamente, no?
    1 K 1
  71. #71 --165145--
    #64, también tengo eso en mente.
    0 K 15
  72. BRAT84 #72 BRAT84
    Recuerdo el caso de una Karen norteamericana que estaba profundamente ofendida porque en una máscara de pestañas o en no sé qué lápiz de maquillaje habían traducido black por "negro" , madre mía la ignorancia....
    0 K 6
  73. #73 --629849--
    #2 Lo que no se puede tolerar el monopolio de Youtube. Si ahí dan por saco ir a otras plataformas.
    1 K 16
  74. Igoroink #74 Igoroink
    #30 No tiene tanto que ver con el contenido en sí mismo sino con la necesidad de crear una IA para gestionar la ingente cantidad de contenido.

    Y no obligamos a una empresa a censurar contenido. Es que por ley hay contenido que no se puede mostrar y YouTube es responsable de ello.
    0 K 8
  75. #75 --584621--
    #1 Bingo. Ese es un viejo truco del ser humano. Quién pone las normas, está por encima del resto. Su poder estriba precisamente hacer que se cumplan.
    Pero ese poder es como el anillo único.
    Y ahí tenemos a los moderadores de cualquier foro, aferrados a su anillo, entregando sus vidas a sacarle brillo a las normas.

    Putas normas.
    0 K 8
  76. tribulete72 #76 tribulete72
    #43
    Tienes razón, pero lo que quiero decir es que no creo que sea algo hecho a propósito o por dejadez. Es un caso típico de equivocación de una IA. Lo que propones es algo lógico en este caso, pero puede que surgiera la contradicción por otro lado. Aún recuerdo la polémica de una foto censurada en Facebook porque parecía un pezón y era un codo (y muchos humanos se equivocaron al principio) Nunca sabes por dónde va a surgir la confusión

    Otra cosa:
    por eso ganan millones, por no contratar humanos{grin}
    0 K 6
  78. Thelion #78 Thelion
    Ya, pero si las ponen verdes y rosas se puede confundir como un debate entre ecologistas y promotores de campaña anti cáncer de mama, con lo cual tenemos el mismo problema. :troll:
    0 K 10
  79. #79 asgard_gainsborough
    #62 Con un algoritmo, el número de posibles horas de video con contenido inapropiado se reduce exponencialmente. Para todo lo demás, botón para reportar. Que un algoritmo cribe duplicados entre el contenido reportado y el posible inapropiado, y seguro que unas decenas de empleados son suficientes para corroborar el contenido al final de este cribado.
    0 K 8
  80. #80 asgard_gainsborough
    Por supuesto. El hecho de que las películas en blanco y negro sean típicamente más antiguas que las películas en color también es claramente racista.
    1 K 20
  81. #81 giropau
    #79 el usuario al que contesto dice que ese algoritmo es una mierda por tanto habrá que contratar a gente para que revise los videos y vea que lo está haciendo bien.

    Tu dices lo que se hace ahora mismo y lo que se hace ahora mismo ha dado un falso positivo. Se ha revisado y se ha marcado el video como no racista. Seguramente lo habrán usado también para decirle a la IA que eso no es racismo, es ajedrez. La persona a la que contesto ha puesto una fórmula, que según el se debe cumplir, que necesita que los humanos revisen todo el contenido. Ese era el motivo de mi mensaje. Obviamente esto es inviable.
    0 K 6
  82. Shinu #82 Shinu
    #7 No hace falta prohibirlo, pero no me extrañaría que cambien los colores de las piezas dentro de un tiempo.
    1 K 21
  83. VladTapas #83 VladTapas
    El otro día alguien se quejaba en twitter de algo parecido. Había un par de tipos que tuvieron una discusión relativa a usar actores de distintas etnias o razas para protagonizar papeles en películas que vienen de comics, libros, etc. Uno de ellos dijo algo así "en Superman Man of Steel Perry White es interpretado por un moreno" y el otro al contestarle intentó poner GIFs de Morpheo en Matrix diciendo "ese al que llamas morenito es Laurence Fishbourne..." y no le dejaba twitter publicar. Tuvo que hacer capturas.

    La censura en Internet existe para estos temas.
    0 K 6
  84. Voidnull #84 Voidnull
    Per aixó el metge no em deixa trabucarme el esmorsaret de blanc i negre a diari? Que es pensa, que soc racista o que?
    1 K 16
  85. sevier #85 sevier
    #21 te juro que también he mirado por si era una noticia del Mundotoday. xD
    0 K 10
  86. ingenierodepalillos #86 ingenierodepalillos
    #18 ¿Me toma por uno de esos cobardes de caro kan? Quizás me acuse de antimonárquico, pero soy más de gámbito de rey.
    1 K 17
  87. borre #87 borre
    #3 No se impone. Ya está aquí.
    0 K 10
  88. Hawh #88 Hawh
    Michael Jackson se uniría al club BAN...
    0 K 6
  89. #89 --178580--
    La EA (Estupidez Artificial) de Youtube
    0 K 10
  90. #90 acastro
    El análisis semántico todavía está bastante limitado. Las palabras clave continúan teniendo un peso muy importante.
    Para un buscador, una página de ateísmo beligerante se parece mucho a una página ultracatólica.
    Hablan de los mismos temas.
    0 K 9
  91. #91 --42387--
    ¿Y las damas chinas qué? Asumiendo su género y que además son chinas como el coronavirus.
    0 K 11
  92. #92 --42387--
    #57 ¡Hay que cancelar a este sujute por cebolliste!
    0 K 11
  93. #93 --133448--
    #60 YouTube, eso. Que no me acordaba.

    En Menéame tengo los escudos bajados ya que la publicidad no es intrusiva. ¿Por qué los tienes tu activados?
    0 K 12
  94. #94 erii
    #23 La gran mayoría de humanos tampoco.
    1 K 18
  95. #95 erii
    #42 No veo la diferencia con los humanos.
    0 K 7
  96. #96 Tensk
    #2 Llevo siguiendo ese canal algún tiempo, aunque no me veo todos los vídeos, pero recuerdo que el propio Antonio comentaba que creía en un principio que era por hablar de "covid". Por lo visto en una temporada hablar de covid implicaba que te eliminaban el vídeo o te lo desmonetizaban o no sé qué, por si eran bulos.
    0 K 11
  97. #97 --485175--
    En las notas musicales ... una blanca vale por dos negras ...

    Soy experto en robótica compositora virtual 8-D
    0 K 10
  98. #98 Cazatrolls
    #4 Me pasa a mí también frecuentemente con esa página.
    0 K 10
  99. #99 tonterias
    Todo el mundo sabe que las piezas blancas son mejores por el mero hecho de ser blancas.
    0 K 6
  100. Capitan_Centollo #100 Capitan_Centollo
    #1 Esta semana santa habrá que llenar youtube de vídeos de nazarenos, haber cuántos censura. :troll:
    0 K 6
«12
comentarios cerrados

menéame