edición general
346 meneos
3379 clics
La IA de Google etiqueta de pedófilo a un padre tras tomar fotos… destinadas al pediatra: cuando ignoras la privacidad y sale mal

La IA de Google etiqueta de pedófilo a un padre tras tomar fotos… destinadas al pediatra: cuando ignoras la privacidad y sale mal

La inteligencia artificial se aplica cada vez más a herramientas que usamos a diario en nuestros dispositivos móviles, y aunque pueda ser tremendamente efectiva para algunas tareas, no es perfecta. Y prueba de ello es el caso de un padre que, tras tomar unas fotografías de la ingle de su hijo pequeño para que los doctores pudieran identificar de forma más fácil la infección que le había aparecido en la zona, Google marcó las imágenes como material de abuso sexual infantil. Este suceso hizo que la compañía cerrará las cuentas del padre e info...

| etiquetas: google , ia , inteligencia artificial , fotos , google fotos
Comentarios destacados:                                  
#1 Más allá del contenido en sí... si no es el Gran Hermano, se le parece bastante
«12
  1. Más allá del contenido en sí... si no es el Gran Hermano, se le parece bastante
  2. Hummm.... ¿cómo es esto? ¿La IA de google hace denuncias policiales también?
  3. Quien no tenga una foto en pelotas de sus hijos que tire la primera piedra. :-P
  4. youtu.be/On3RgDFv5yM
    Eso le pasa por ser un don nadie
  5. Lo que significa que la IA funciona de puta madre. Sinceramente prefiero arriesgarme a que mis cuentas sean baneadas injustamente por Google por subir un día unas fotos de la ingle de mi hijo, a que se limite el uso de esta IA y los pedófilos lo tengan aúnaw fácil de lo que ya lo tienen
  6. #2 efectivamente, es lo que más me ha sorprendido. Que esto no lo haya parado un humano que viendo el caso se dé cuenta que lo está enviando a un médico y se percate del contexto y pare así el proceso.
  7. #6 Me parece raro... No veo por qué una empresa privada va a gastar recursos en "colaborar" con la policía si no les pagan o los obligan.
  8. #2 #6 En su momento salió que lo iba a hacer Apple, pero es posible que también lo esté haciendo Google
    www.genbeta.com/actualidad/apple-comenzara-a-escanear-tus-fotos-iphone
  9. Si vas a hacer fotos de ese tipo lo primero es desactivar el backup en Google Photos. Luego las envías al pediatra por algún medio seguro y seguidamente las borras.

    Apple parece que quería escanear incluso las fotos que no has subido a su nube.
  10. "Don't be evil"
  11. #6 Es que mis fotos no tendría que verlas nadie; ni una máquina ni mucho menos un humano.
  12. #6 Lo sorprendente es que una vez confirmado que estaban en un error ... no ha podido recuperar acceso a las cuentas ni al número de teléfono.
  13. #5 Es que ellos van a seguir teniendo miles de opciones para hacer pedofilia y tú serás un falso positivo que no remediará nada.
  14. #12 ehm.... tengo malas noticias para ti xD
  15. #7 desconozco la legislacion, pero si la pueden hacer responsables de los contenidos en sus plataformas, esta en su mayor interes detectarlos y denunciarlos.

    Dicho lo cual: toda informacion (fotos incluidas) condidencial ( y los datos medicos lo son) debe enviarse a teaves de plataformas seguras y encriptadas. Enviar fotos de tu hijo desnudo traves de gmail es irresponsable, aunque la intención sea buena.
  16. #6 Posiblemente lo ha verificado un humano, que ha tenido 5 segundos para ver la foto, identificar que es una foto del pubis de un niño y marcar confirmado sobre la marcha. Por temas de proteccion de datos esos verificadores no pueden ver ni destinatario ni emisor, solo ven las imagenes y confirman si es crimen-violencia-pederastia, ect.
  17. #15 Que ocurra no quita que me pueda cagar en sus muertos por hacerlo, aunque no sirva de nada. A ver si ya nos van a joder y ni el derecho al pataleo nos queda...
  18. #8 Salió que lo iban a hacer pero lo empezaron a retrasar y aún no se sabe si se llegará a implementar. Por otro lado, leyendo esta noticia, creo que es obvio que Google lo está haciendo.
  19. Como ha comentado #13, a pesar de solucionarse el error la persona ha perdido su cuenta de google con toda su información. Si propspera el sistema sin contraseñas de Google significaría que esta persona habría perdido el acceso a todas aquellas páginas en las que use ese sistema... cuentas bancarias, tiendas on-line, webs de entretenimiento....

    Hay que huír de Google (entre otros) como de la peste. Sí, nos ponen las cosas más fáciles pero ¿a qué precio?
  20. #10 Un portavoz de Google contaba al Times que las fotos de la biblioteca solamente son escaneadas por Google cuando hay 'acción afirmativa' por parte del usuario, como por ejemplo, crear una copia de seguridad en Google Fotos.
  21. #6 Google no sería rentable si todo lo revisaran humanos. Incluso los grandes canales de YouTube con millones de suscriptores tienen muchos problemas cuando algo se rompe para contactar con un humano que lo arregle manualmente.

    www.pcworld.com/article/822871/what-happened-to-pcworlds-youtube-chann
    www.bbc.com/news/newsbeat-62133768

    Casos reales recientes donde la falta de soporte de YouTube la ha liado parda. Hasta que no se forma revuelo y llega a oído de algún empleado de Google que tenga la iniciativa de arreglarlo, no suelen hacer nada.
  22. #9 como digo en #16, la ignorancia del padre puede costarle un disgusto por no utilizar un canal adecuado.

    Y te lo dice un pediatra , que hace y le comparten muchas fotos de niños. Siempre con permiso, siempre sin absolutamente nada que pueda revelar la identidad del crio. Y nunca por WhatsApp o similares.
  23. #7 En la grande 'murica el postureo alcanza cotas insospechadas.

    Te es más rentable decir que luchas con todos tus medios contra la pederastia, que lo que puedas cobrar por realmente colaborar contra la pederastia :shit:
  24. #10 "Una cosa es desnudar a tu hijo y otro hacerlo a través de Internet, sea en una red social o para la consulta de un pediatra."
  25. #10 ¿Y si haces una foto con el móvil para imprimirla para el álbum de fotos familiar y se hace un backup a Drive y te banean? O incluso ni siquiera se sube, Android/iOS lo detecta y llama al servidor para que te banee la cuenta y te bloquee el móvil. El contexto es tan importante...
  26. #5 Claro ¿para qué quieres privacidad si no tienes nada que ocultar?
  27. #22 Colega, que google ha ganado (beneficio) el año pasado 76.033 millones de dólares netos, después de impuestos ... diría que tienen cierto margen para contratar personal para revisar determinados casos ...
  28. #5 Según, ¿y si se te bloquean las cuentas una semana y pierdes la renovación de un dominio de Internet que usurpa un hacker ruso y te hace un destrozo laboral irreparable?
  29. #30 joder macho. Venga ,pues nada ,dejemos de perseguir a los pederastas no sea que en un error un inocente se vea asaltado por un hacker ruso y por la mafia china... Y por un tigre!!!
  30. #12 Pues usa servicios de comunicación encriptados donde no cedas el derecho de los materiales que utilices dentro de esa plataforma.
    c/c #26
  31. #23 #16 ¿y cual es el canal adecuado? ¿telegram?, ¿proton?
  32. #8 No, no es lo mismo lo que iba a hacer Apple.

    Google usa inteligencia artificial sobre las fotos de la nube. Eso quiere decir que Google “puede ver” las fotos.

    En el caso de Apple iba a funcionar muy distinto:

    Cada archivo tiene un identificador propio, como su ADN.

    Cuando se reporta contenido inapropiado que circula por la web y se comprueba que es material ilegal, el “analizador” se queda con ese identificador de archivo que se guarda en una base de datos gestionada por organizaciones de protección de los derechos de los menores.

    Luego, desde el propio iPhone, se hacía la comparativa para ver si alguno de los archivos de la galería comparten dicho identificador o “hash”. La ventaja es que ni Apple ni una IA analizan las fotos como tal, simplemente compara “matrículas”. Eso obviamente solo es útil con archivos que se hayan reportado anteriormente, cosa que es lo que puede suceder con estos temas, ciertos vídeos y fotos que van circulando, y te asegura que ninguna de las fotos hechas por tí van a dar un falso positivo.
  33. #28 Y no los defiendo, sólo expongo que no les da la gana. Que si no es rentable ofrecer unos niveles de servicio humano adecuado por mí que se vayan al carajo. :peineta:
  34. #9 la gente protestó y apple se echó atrás... hasta el año que viene que protestarán menos e igual ya lo cuelan (si no al siguiente)
  35. #3 ¿Y las vas compartiendo en internet? o_o
  36. #35 Ok, pero será porque no les da la gana, no porque no tengan dinero para ese servicio.
  37. #31 Es el eterno dilema entre seguridad, funcionalidad y privacidad. Y no es trivial porque hay mucha casuística en juego, salvo Corea del Norte que lo tiene bastante claro.
  38. #31 falacia de la falsa dicotomía? hola?
  39. #12 Ni con un relevado analógico nos librábamos de eso.

    Un saludo.
  40. Pues a mí que me parece gracioso poner en el chat de la familia, fotos de mi hijo meando, casa vez que salimos tiene que mear en algún lado.
  41. #40 sinceramente, prefiero esos pequeños errores y sus posibles consecuencias si estamos hablando de lucha contra la pederastia. Que quiten todas esas IA que controlan lo que compramos, lo que comemos, dónde viajamos, lo que nos gustaría o no nos gustaría. Pero una IA que sirve para la protección del menor? Bienvenida sea aún a costa de que en algún momento se vea menoscabada mi privacidad
  42. #33 Para consulta de partes íntimas, yo apostaría por NO hacer fotos y muchos menos enviarlas por internet, aunque sea al pediatra, por NINGÚN canal, y hacer una visita cara a cara.
  43. #41 claro, y la falacia de ,no quiero que un hacker ruso arruine mi negocio que tal la llevamos?
  44. #32 Yo almaceno mis datos en mi servidor con un puñado de discos en RAID5, pero gracias por el consejo. El tema es que ya no solo cedes los derechos de una imagen por almacenarla en sus sistemas, sino también por pasar por sus sistemas, y esto último es cada vez más difícil de evitar. Es como si un día ESpanix dijese que todo lo que pasa por su fibra ellos retienen derechos. Pues ya está, medio internet para ellos, ¿no?.
  45. Pero vamos a ver, que todo esto ya se sabe y se sabía.
    Por supuesto que nos cagamos en la puta madre de Google, Apple, Amazon y todo el nombre que se le dé al Gran Hermano, pero seamos también un poquito conscientes.
    Desactivemos datos, wifi y demás conexiones al exterior del móvil, tomemos la foto, pasémosla al ordenador vía USB, e imprimámosla.
    O bien, qué demonios, la cámara fotográfica de placa impresionable de toda la vida.
  46. #48 No he dicho que sea fácil. Es más, no lo es.
    Y también me sumo a tu queja de que medio internet depende solo de 2 o 3 compañías.
    Pero no acabo de entender las quejas de gente que usa los servicios de Google gratis, dando todos los consentimientos y le sorprende que revisen con algoritmos sus documentos...
  47. WTF. Y no se puede emplumar a goolge por todos lados.
    Quiero un Symbian ya!!! Quiero poner en mi móvil el repositorio de apps q me salga del ciruelo y utilizar software de código abierto.
    Manda webos lo borregos q nos hemos vuelto. Yo el puto primero.
  48. #29 abuelo, las pastillas, que se le está yendo la cabeza :palm: :palm: :palm:
  49. #5 te cancelan la cuenta de Google y son líos mil para poner todo en su sitio luego.
  50. #39 Es que menos beneficios es menos bueno que más beneficios, que es más mejor. :take:

    Es más, cuando borran un vídeo por reclamación de copyright, al canal le quitan el dinero generado por publicidad y se lo quedan. No tienen ningún incentivo en hacer el detector más eficaz antre falsos positivos.
  51. Artículo del New York Times al respecto (en inglés): www.nytimes.com/2022/08/21/technology/google-surveillance-toddler-phot
  52. Dedicado a los de: "No me importa que me vigilen, no tengo nada que ocultar".

    En todas las investigaciones hay un porcentaje de errores y falsos positivos, cuando se investiga a toda la población, nunca estarás a salvo de ser uno de estos falsos positivos.

    Por cierto, a un pedófilo de verdad ni se le ocurre usar gmail o compartir fotos en canales no cifrados, es de primero de malvado.
  53. #53 pero en serio a cuántas personas les va a pasar eso para que lo consideremos por encima de la lucha contra la pedofilia?
  54. #50 Yo si que las entiendo. Y es que si bien todos sabemos y aceptamos que las compañias están para ganar dinero de una forma u otra (principalmente publicidad), muchas personas presuponen, erroneamente, que al menos van a respetar lo más básico de la privacidad, ya que precisamente, estas empresas luego se gastan auténticas fortunas en campañas para vendernos lo guays y amigables y lo mucho que para ellos importa nuestra privacidad.
  55. #16 Pero si se trata de mensajes privados... no deberían hacerlos responsables de lo que se mande. Otra cosa es cuando publicas algo como en facebook o youtube, que es público y por lo tanto sí es razonable que lo auditen.

    Con respecto a usar medios seguros... no lo hacen ni las empresas que se preocupan por la confidencialidad. Más de una vez en mi empresa están con lo de los antivirus y el antispam y no me hacen ni caso cuando les digo que si quieren asegurarse, el correo confidencial debería ir firmado y cifrado. Pero como que es demasiado complicado para estar generando pares de claves y "cosas raras"
  56. #33 los medicos que hacen teleconsultas en serio lo hacen a traves de aplicaciones medicas donde estan encriptados los datos.
  57. #12 Pues supongo que cuando tus fotos las subes a la nube (el ordenador de otro) aceptando las condiciones del servcio al usarlo, ... dejan de ser solo tuyas.

    Para todo lo demas owncloud/nextcloud y hacer sync a una de esas
  58. #5 Parafraseando a un tipo que sale en billetes de 100 dólares: Quien renuncia a la libertad por seguridad, no merece la primera ni consigue la segunda.
  59. #58 Pues tienes bastante razón...
  60. #10 -> #21

    Hay sync de fotos ....
  61. #62 a la libertad de que? De tener una cuenta de Google? A que libertad estoy renunciando porque una IA controle que no suba fotos de niños en bolas? A mí libertad renuncio cuando monitorizan lo que busco para comprar, los lugares a los que voy o alguna otra cosa. Controlar que no subamos fotos de niños comprometedoras no me quita ninguna libertad
  62. #46 En este caso concreto, la cosa fue en mitad de la pandemia. No podían ir en presencial, y fue la propia enfermera quien le dijo que enviase las fotos...
  63. #5 Espero que seas sarcástico. Porque con esto el pedófilo no usará Google y usará otros sistemas.

    Pero a ti te joden por dos motivos: Uno, porque te borran las cuentas por falso positivo, aunque puedas tener información importante (y luego intenta contactar con alguien de Google para recuperarla). Dos, por que ya sabes que te están espiando, ya ni hace falta que subas contenido a google drive, simplemente con usar la app de Google fotos como galería (que personalmente, me parece horrible esa app) y que te haga copias en la nube por defecto sin que le digas nada.

    Cada vez mas contento de no usar Android Stock. Que te espían igualmente, pero al menos no te borran nada ni presuponen lo que no eres.
  64. #29 xD xD xD ay! lo que hay que oír.
  65. #57 Teniendo en cuenta que si google detecta que eres el usuario de varias cuentas, te bloquea todas, es un riesgo bastante alto. No es el primero que tiene cualquier movida rara por un error en su cuenta personal, y le bloquean también la del trabajo porque han detectado que son del mismo individuo. Y eso ya no hace ninguna gracia.
  66. #67 pero si es que me están espiando igualmente. A todas horas, en cualquier movimiento que haga. Criticar una de las pocas cosas buenas que tiene Google es acojonante.
    Y los pedófilos no tienen porque ser más listos que los demás ,no tiene porqué ser haker rusos, tb hay mamarrachos que se envían fotos por cualquier sistema.
  67. #70 osea que ese error ya existe y sucede por otros motivos. Y aquí estamos criticando un buen uso de la tecnología por la posibilidad de ese error que tb sucede o ha sucedido ya otras veces
  68. #71 Claro que me espían, pero no me hacen nada ni me tocan nada. En cambio con este sistema puedes perder mucho por un simple fallo del cual no es culpa tuya.

    Prefiero la privacidad y la presunción de inocencia. Prefiero que haya un asesino en la calle que un inocente encerrado que meter a cualquier sospechoso en la cárcel "por si acaso", que es lo que hace Google con este sistema.
  69. #65 hasta que, como en la noticia, se da un falso positivo y te joden la vida, la privacidad no está hecha para proteger a los delincuentes, sino a los inocentes.

    Y eso sin entrar en que la democracia y el estado de derecho es una rara avis en este planeta...
  70. #73 pero hombre que cárcel? Que hablamos de una cuenta de Google
  71. #68 Te tienes que reír de los evangelistas del capitalismo.
    Mira lo que ha hecho el comunismo... En este país capitalista.
  72. #69 Claro que nuestra privacidad es importante para ellos. ¡Cómo no va a serlo si es su modelo de negocio*! ¡Es importantísima! :troll:

    * No protegerla, sino venderla.
  73. #75 Tu algoritmo no puede procesar los símiles, por lo que veo.
  74. #70 ¿Cómo es eso que te banean por usar varias cuentas?

    Porque yo tengo varias, e incluso de mi familia, en el mismo ordenador. Y alguna del trabajo que también es de google. Y llevo años así...
  75. #78 hombre, poner como símil la cárcel cuando hablamos de cerrar una maldita cuenta de Google... Pfff
  76. #33 En Cataluña usamos La Meva Salut: catsalut.gencat.cat/ca/serveis-sanitaris/la-meva-salut/

    Tiene sección de e-consultas y puedes enviar archivos adjuntos.
  77. #29 Google es comunista. Ahora cuadra todo
  78. #23 Canal adecuado? A ver cuantos de los aqui presentes de pequeño no le sacaro alguna foto en la playa con todo al aire?
    Haces eso ahora y acabas denunciado, bloqueado y las de dios.
    Tiene que haber un contexto para las cosas no , a coño se ve un genital es un niño PEDOFILIA!!!
  79. #25 Escanean cuando haces un backup de tus fotos. O sea no hace alta que compartas nada
  80. #33 #23 Mi pediatra usa signal . No sé si es más seguro. Sólo sé que Telegram almacena los mensajes en su servidor así que es tan seguro como whatsapp
  81. #5 Segun a quien, esos baneos pueden joderle la vida de mil maneras, no vale eso de matar moscas a cañonazos y ale.
  82. #31 No es dejar de perseguir.
    Yo saco una foto en la playa de mi hijo (si tuviera) y esta desnudo, algo comun de toda la vida. Se sincroniza mi movil gon Google Fotos, y acabo baneado, con la policia en casa y aun tendre que dar las gracias?
  83. #10 Este hombre no las subió a ninguna red social. Simplemente hizo las fotos con el teléfono para enviarlas al pediatra por correo electrónico. Pero como las fotos se suben automáticamente a Google Fotos (a no ser que configures otra cosa), pues fueron a parar a Google Drive y como podemos comprobar Google chafardea todo lo que tenemos allí.

    Esto de la nube nunca me ha gustado. Y que Google averigüe el contenido de mis correos electrónicos y me recuerde las citas o las tareas que detecta en ellos, pues tampoco me gusta nada.
  84. #86 pero claro que no vale con matar moscas a cañonazos. Si matasen moscas a cañonazos esto pasaría todos los días. De millones de movimientos que se hacen en Google ,el único caso de error que conocemos es este. Y se ha hecho noticia de ello por algo. Si pasase todos los días la noticia no sería está sino el desastroso funcionamiento de la IA de Google. Cuando la noticia es que de entre millones y millones de fotos analizadas al año,se ha cometido un error, bienvenido sea ese error. Ni tan mal el porcentaje de fallos.
  85. #89 Este caso desmuestra que hay fallos graves en la privacidad. Es como si mañana te aparece la policia en casa por que en tu galeria dle movil esa IA detecto una foto de tu hijo denudo en la playa contigo. Que gracia verdad?
    El contexto etc de una foto es sumamente relevante. Pero mi privacidad lo es tambien.
  86. #12 Lo que no quieras que lo vea nadie, sean fotos, documentos o lo que sea, mejor no lo subas a la nube porque lo pones al alcance de otra gente sin ninguna garantía de que no lo vayan a curiosear y utilizar contra ti si es algo comprometedor
  87. #90 si mañana me aparece la policía en casa porque en la galería de mi móvil esa IA detectó una foto de mi hijo en la playa conmigo, daré gracias a que el sistema de preocupe de la integridad de mi hijo.

    Si todos los días mucha gente recibe esa visita de la policía por error, entonces críticare el sistema de Google.
  88. #92 Cuando google ademas te bloquee las cuentas de las que podria depender que le puedas dar de comer a tu hijo, a ver si das las gracias tambien.
    Que te baneen una cuenta puede ser la ruina para muchas personas.
  89. #93 que si, que puede ser una ruina para muuuuuuchas personas y estoy todo el rato diciendo que cuando la IA de muchos fallos habrá que quejarse ,pero cuando la IA da un puñetero fallo , no son tantísimas personas las perjudicadas
  90. #7 Porque no es así: gastan recursos en analizar las fotos para sacar datos (y obtener beneficio de ellos), y ya que han gastado los recursos aprovechan para colaborar con la policía y justificar así lo primero.

    Tontos no son.
  91. #37 No la compartes en internet. Basta que la tengas en el móvil por haberla hecho con el y se sincronice con Google fotos.
  92. #83 a cuantos de aquí no le sacaron una foto en la playa con todo al aire y la enviaron por correo a una tercera persona es la pregunta adecuada.
  93. #85 yo los que conozco la herramienta se la proporciona el hospital/seguro. Igual que el correo electrónico. Y es una cosa que los hospitales te insisten mucho, porque si hay una brecha de seguridad y lo has hecho a traves de estas herramientas, no eres responsable, pero si estas enviando las cosas a traves de tu cuenta de gmail estas jodido legalmente.
  94. #23 Que canal usas?
    Seguro complica hacelo facil.

    No se si tener un https con upload y contraseñas, es suficientemente seguro.
    Tambien se podria grabar un fichero encriptado y decir la contraseña por otro canal.

    Hoy en dia deberia haber un canal cifrado para comunicarse con los medico. Algo similar al SSH y la clave Priv/pub.

    #60 #81 OK.
    Pero a nivel usuario no entre medicos, seria util un mecanismo para mandar multimedia, aparte de texto, para desahogar las consultas.
    #85 Jabber creo que dispone OTR y otros para tener una comunicacion cifrada punto a punto. No se si es suficiente.

    #59 Y ya las llamadas de voz, porque no sabes si es una voz falsa. Se tendria que hacer con soft, pero deberia ser un servicio provisto por la compañia telefonica .
    #18 Mas que pataleo difundir estas cosas para que la gente sea consciente.
  95. Joder. Qué yuyu.

    Me ha recordado que yo le hice una fotito al pezoncillo de mi bebé porque tenía como un grano con pus y la dermatóloga lo requirió para verlo rápidamente.

    Imaginad que una IA me tacha de algo así...
«12
comentarios cerrados

menéame