edición general
200 meneos
3686 clics
Así es como un test de anticuerpos de COVID-19 fiable al 98% puede dar más de una cuarta parte de falsos positivos

Así es como un test de anticuerpos de COVID-19 fiable al 98% puede dar más de una cuarta parte de falsos positivos

Blog del biólogo Javier Yanes| El CSIC ha desarrollado un test serológico para detectar anticuerpos contra el SARS-CoV-2, que podrá adaptarse tanto para un ensayo de laboratorio más preciso como en los test directos al consumidor, los llamados test rápidos. El CSIC ha explicado que el test tiene al menos “un 98% de fiabilidad”, y esto es estupendo. Pero en algunos medios se ha dicho que la fiabilidad del test es casi del 100%. Y esto no es cierto. Como aquí se explica, un test fiable al 98% puede dar más de una cuarta parte de falsos positivos.

| etiquetas: covid-19 , test , ciencia , divulgación , csic , test , sars-cov-2
  1. La gran tragedia sería que diese falsos negativos, al diseñar algo de esto tiendes a que falle por el lado menos dañino.
  2. #2 Vete a pastar por ahí, que seras mas productivo para la sociedad.
  3. Para fiabilidad de 98% quiere decir que acierda 98 de cada 100.
    Si da 1/4 (0,25) de falsos positivos no me salen las cuentas.
    Logicamente soy un meneante tipo, que no se ha leido el articulo, solo la entradilla.
  4. Genial lo de poner números y explicar que los test tienen dos tipos de errores, además de señalar los peligros de los pasaportes de inmunidad.

    Por otro lado, lo de que los únicos que nos sacarán de la crisis son los científicos es verdad de cierto modo, pero quiero dar las gracias a los que nos han mantenido vivos:
    *los sanitarios y otro personal de hospitales y centros sanitarios en general
    *los que han cultivado la tierra para que comamos, los que han transportado esos alimentos, los que los han servido en las tiendas.
    *todo el personal de limpieza que ha mantenido los lugares críticos desinfectados
    *aquellos que han mantenido las infraestructras de comunicación
    * todos los que se han tomado en serio seguir las medidas de precaución adecuadas a pesar de que a veces se les hayan hecho muy duras.
  5. #4 Yo tampoco me he ledio el artículo,pero es un efecto que pasa mucho cuando hay mucha diferencia entra la cantidad de gente que tiene la enfermedad y la que no, la cantidad de falsos positivos puede acabar siendo mucho mayor que la cantidad de positivos reales, poniendote un caso exagerado imagina que una persona de cada 1000 tiene el covid. si haces 100.000 tests habrá 100 casos positivos, y los resultados serían:

    98 infectados correctamente diagnosticados
    2 infectados diagnosticados como sanos (falso negativo)
    97902 no infectados correctamente diagnosticados
    1998 no infectados incorrectamente diagnosticados (falso positivo)

    Entonces tendrias 2096 positivos, de los cuales el 95% serían falsos positivos, haciendo que a pesar de tener una efectividad del 98% el test sea practicamente inutil.
  6. Es una muy buena idea que... gente con conocimientos de ciencia / este hombre ES uno de ellos / divulgue verdades. Desde luego preferible cen lugar de críticos de música hablando de música. Ji, ji, ji..,.
  7. #5 Los pasaportes de inmunidad son la locura más gorda que nos podamos imaginar, y por muchos mas motivos de los que nos podemos imaginar de inicio.
  8. #5 Edit:dupe
  9. Leyendo la explicación, me parece que está juntando churras con merinas para sacarse ese titular la cuarta parte. Si le doy de comer yogur caducado a 1 millon personas y el sabor le gusta a 10 de ellas, y luego le doy de comer yogur bueno a 50 personas y el sabor le gusta a 40, no puedo decir que a la gente que le gusta el yogur, una cuarta parte le gusta caducado.
  10. #4 Imagina que hay un test para una enfermedad rara, que tiene un 99,999% de aciertos pero produce un 0,001% de falsos negativos y un 0,001% de falsos positivos. La enfermedad es rara, solo la tienen 100 personas de 48 millones realmente. Al hacer el test a la población saldría:
    - (48000000 - 100) * 0,001 / 100 = 480 personas dan positivo sin tener al enfermedad
    - 100 * 99,999 / 100 = 100 personas dan positivo teniendo la enferdad
    En resumen, haciendo el test sin hacer antes una criba, es más probable que no tengas la enferdad a que la tengas, ya que en este caso el 82% serán falsos positivos.
  11. #6 Ah, la estadística... tan sencilla y a la vez tan poco intuitiva.
  12. El problema es que la estadística no es fácil de seguir cuando las fórmulas son bayesianas (al menos para mí)  media
  13. Esto ya lo había puesto por aquí: araw.mede.uic.edu/cgi-bin/testcalc.pl

    En la segunda cajita, te hace los cálculos
  14. Tiene "truco". El 25% de los positivos informados pueden ser falsos positivos, no el 25% de los test realizados.

    Es decir, para 10.000 test con 500 infectados reales, tendrías 490 detectados, 10 que dan un falso negativo y 190 falsos positivos. De ahí que diga que detecta en total 490+190= 680 positivos cuando hay 500 así que un 28% de los positivos informados serían falsos positivos. Solamente un 1.9% de los que se hacen un test y no tiene el virus da positivo. Por eso es tendencioso, da a entender que tienes 1/4 posibilidades de que te casquen un falso positivo. No, el test acierta el 98% de las veces, si no tienes el virus tienes un 2% de probabilidades de que te de un falso positivo y si lo tienes, tienes un 2% de probabilidades de que no lo detecte. Lo demás es rizar el rizo.

    De todas formas:

    1) me preocupan más los 10 que son falsos negativos
    2) se pueden hacer otras pruebas de contraste. Al menos vale como criba.

    Pero no es que se hacen 10,000 test y 2.500 son falsos positivos a cañón.
  15. "no se sabe si las personas seroconvertidas tienen anticuerpos capaces de neutralizar el virus, cuánto ni por cuánto tiempo, ni si las personas con anticuerpos no neutralizantes podrían estar inmunizadas, cuánto ni por cuánto tiempo, ni si otros mecanismos inmunitarios no dependientes de anticuerpos podrían ofrecer inmunidad, cuánto y por cuánto tiempo"

    La verdad es que me llama la atención que estemos así a estas alturas. Pensé que este tipo de investigaciones llevaría menos tiempo y más con medio planeta con el virus.
  16. #4 Mmm... voy a tratar de explicártelo. Supón que haces un clasificador binario, es decir, algo que solamente contesta "sí" o "no". Por ejemplo, podrías tratar de comparar dos fotos y saber si son la misma persona, o dos firmas y saber si son de la misma persona, o un test de covid y saber si la persona tiene covid o no. Pues bien, entonces no medirás solamente los "verdaderos positivos", medirás cuatro cosas:
    "verdaderos positivos" = TP = Realmente es sí, y el clasificador ha contestado sí
    "verdaderos negativos" = TN = Realmente es no, y el clasificador ha contestado no
    "falsos positivos" = FP = Realmente es no, pero el clasificador ha dicho que sí
    "falsos negativos" = FN = Realmente es sí, pero el clasificador ha dicho que no

    Ahora haces tus pruebas, supón que era lo de comparar dos fotos... digamos que tienes 10 fotos de cada persona de un total de 100 personas, es decir, 1000 fotos. El problema aquí es que dada una foto de una persona, solamente se espera un positivo de 10, y un negativo de 990... lo mismo pasa con el covid, hay muchos más verdaderos negativos que verdaderos positivos.

    Con esos 4 números, puedes comenzar a hacer tus medidas estadísticas. La primera que se te ocurre es la "precisión", ¿qué es la precisión? La capacidad de acertar el "verdadero positivo", y se calcula como TP/(TP + FP). Este test tiene una precisión del 98%, así que acierta el verdadero positivo un 98% de las veces.

    El problema es que la precisión, estadísticamente, y con perdón de mi vocabulario, es una puta mierda. Si yo en un clasificador tengo una precisión del 99% aún así me dirán en mi empresa "¿y?". Porque puedo tener un 99% de precisión y aún así fallar el 50% de las veces :-) Porque los negativos también cuentan

    Así que hay otras medidas estadísticas
    Accuracy: Esta es la más intuitiva, y sí tiene en cuenta los negativos, sería (TP+TN)/(TP+FP+FN+TN), es decir, cuántas veces has acertado el sí y el no sobre el total de muestras.

    Recall (Sensibilidad): TP/(TP+FN) Nos indica cuán bien predice los casos realmente verdaderos, con su proporción sobre los que no.

    Y luego a partir de estas hay una medida estadística que sí es la que normalmente te piden en un estudio de este tipo: el F1-score. El F1-score es la media ponderada de precisión y recall, con lo cual tiene en cuenta las cuatro medidas que hemos tomado. Es la medida a tomar y tener en cuenta cuando tienes una distribución que no está balanceada, como es nuestro caso, es decir, cuando hay tantos positivos como negativos en nuestra muestra, el F1-score y la precisión serán muy parecidos, pero en un caso como el del covid dónde hay un 5% de positivos y un 95% de negativos... la precisión es una medida de mierda, y la buena es el f1-score. Se calcula como:
    F1-Score = 2*(Recall * Precision) / (Recall + Precision)
  17. #3 Y lo fácil que lo ponen para detectarlos y añadirlos al ignore?
  18. #9 ¿qué mierdas son los pasaportes de inmunidad?
  19. #11 No es el mismo ejemplo. No estás aplicando a cuánta población total le gusta el yogurt y a cuánta no.
    No se ha hecho un test global con la gente que le gusta el yogurt y por tanto el número de personas del segundo test (50) es totalmente arbitrario, lo has elegido tú. Además aplicas dos tests. Yogur caducado y yogur no caducado. En este caso se aplica un test a un grupo de personas del que sabes con certeza estadística cuántos han pasado la enfermedad y cuántos no.
  20. #20 La idea es que si la gente da positivo en anticuerpos se lo certifiques con un documento personal e intrasferible
  21. #16 es un test de inmunidad, no de infección activa, los falsos positivos son preocupantes, son personas que creerán que ni pueden coger la enfermedad ni trasmitirla y por tanto se expondrán demasiado.
  22. #22 #20
    ¿Que podría salir mal?
  23. #17 Lástima que sea ciencia y no magia, y necesite tiempo para comprobar que los resultados son suficientemente buenos y replicables y todo lo que se exige a la ciencia.
  24. #6 Tu planteamiento es muy bueno. Solo una cosa. Teóricamente y con arreglo al test de seroprevalencia, no tendrías 100 casos positivos, tendrías 5.000 sobre los 100.000. (o al menos una cifra más tendente al 5% que al 0,1% que has planeado). Entiendo que has puesto un ejemplo solamente, entiéndelo como un apunte, no una corrección.
  25. #24 Hay una fuerte presión social para que la nueva normalidad sea igual a la antigua, y claro, las ideas locas tienen demasiado eco.
  26. #12
    Si tiene falsos positivos y falsos negativos, para mi, en este caso concreto el test tiene una fiabilidad del 99,998%.
    Repito, para mi, fiabilidad es que acierta, me da igual en que sentido.
    Y 1/4 es un 1/4 sea de 48 millones o 4 personas.
    La probabilidad (%) no varia si la muestra es grande o pequeña. Los numeros absolutos si son distintos.
  27. #26 Si, si he exagerado el ejemplo para que se viera mucho más claro el problema, gracias por el apunte.
  28. #22 La gente tiene unas ideas de bombero torero bastante surrealistas...
  29. #1 Ojo, es un test de inmunidad. Un falso positivo hace que alguien crea que puede saltarse normas de seguridad.
    No es lo mismo que un test de virus activo, que haría que alguien creyera no estar infectado.
  30. #23 el artículo explica que de inmunidad nada, es un test de saber si puedes contagiar o no... no se sabe nada de si los que lo han pasado lo pueden volver a pillar.

    El tema es que si un porcentaje de los clientes de un super se compra un pollo y hay un 28% de pollos premiados, la probabilidad de que te toque premio no es el 28% sino la probabilidad de que te compres el pollo multiplicada por la probabilidad de que toque premio en pollo, y eso es un 2%, no un 28%. Sigue habiendo un 28% de pollos premiados, pero solo toca al 2% de los clientes.
  31. #2 Paguita la que esperarás cobrar por soltar propaganda voxera, marzusdosmilventius.
  32. #1 Eso mismo venía a comentar. Mejor pasarse que quedarse corto.
  33. #31 Es de inmunidad pero también puede indicar una infección activa, por eso si da positivo hay que hacer un PCR.
    Por lo menos ese ha sido el protocolo en mi ofi.
  34. #21 Bueno mi ejemplo sería un test para detectar si el yogur no está caducado. A la gente le debería gustarle el yogur no caducado, y no gustarle el caducado. Tener la enfermedad = yogur no caducado, no tenerla = yogur caducado. Un falso positivo sería que a una persona le gustara el yogur caducado. El numero de personas con yogur no caducado es mucho menor que el de personas con yogur caducado, igual que el numero de personas con enfermedad es mucho menor que el de personas sin enfermedad
  35. #28 Ahá... te propongo el siguiente test de covid: una máquina que siempre diga "sí". Tendrá una precisión del 100%. Sencillo, barato y para toda la familia...
    Y así de simple lo vuelvo a decir: la precisión es la peor de todas las medidas estadísticas. Son científicos, deberían haber hecho un estudio incluyendo el F1-score y el recall. Tampoco les culpo, muchas veces no es culpa de ellos sino de los periodistas que publican a su bola... me gustaría encontrar el paper sobre sus resultados para ver las verdaderas medidas estadísticas.
  36. #17 El problema es que realmente no hay forma de saber esto, salvo hacer test periódicos a la gente que ya ha pasado el virus a lo largo de varios meses para hacerse una idea de cuánto tiempo se es inmune. La medicina es algo bastante empírico.
  37. #28 el 1% del los positivos + 1% de los negativos sigue siendo el 1% del total. Es como decir el 1% de las mujeres y el 1% de los hombres suman el 1% de la población.

    Cuando el test falla en un positivo implica un falso negativo y cuando falla en un negativo sería falso positivo, pero 1% de unos + 1% de otros es el 1% del total.
  38. #6 Tanto el artículo como el ejemplo caen en el mismo error.

    Si la efectividad es del 98%, el 98% de los analizados son identificados correctamente. Se acabó.

    Si, como dice el artículo, existe la posibilidad de que detecte el 98% de los positivos pero dé como falso positivo el 75% evidentemente no es lo mismo que decir que la efectividad es del 75%, algo que no se dice en el artículo.

    Lo que hace el artículo es cambiar la referencia, por lo que en el segundo cálculo ya no habla de lo mismo que en el primero.

    Para que se entienda lo que digo. Si tengo una tienda y decido engañar a la gente subiendo los precios un 20% para anunciar unas rebajas del 20%, lo que ocurrirá es que un artículo que inicialmente tenía un precio de 100 pasará a valer 120, pero al rebajar el 20% lo venderá por 96, perdiendo un 4%. A mucha gente le parecerá raro en un primer momento. Pero nunca hay que olvidar que se ha cambiado de referencia, inicialmente era 100 pero después era 120.

    Aquí pasa lo mismo, inicialmente es toda la población, y sale un 98% de fiabilidad, pero luego se pone a investigar exclusivamente con los que deberían haber dado positivo, dato desconocido. No podemos hacer test a los que deberían haber dado positivo para saber si da positivo.
  39. #1 Leyendo el artículo veo que es más peligroso lo contrario, los falso positivos, sobre todo cuando la infección ya tiene cierta extensión
  40. #38 En realidad esa máquina tendrá un recall del 100% y una precisión seguramente menor al 100%.
  41. #36 Creo que estás confundiendo los test rápidos con los de anticuerpos o inmunoglobulina. Si te haces solo de anticuerpos, será porque solo estás buscando una posible inmunidad; si están buscando infección, yo creo que hacen el PCR de entrada.

    De hecho, como protocolo para ir a la oficina no tiene sentido que te hagan solo PCR si tienes anticuerpos, porque puedes estar en la cresta de tu infección y no dar positivo en anticuerpos.

    Bueno, así más o menos lo entiendo...
  42. #44 En mi oficina hicimos los rápidos de anticuerpos y los dos que dieron positivo fueron al día siguiente al PCR para saber si la infección seguía activa o ya no contagiaban.

    #42 Imagínate que hablamos de SIDA prefiero mil veces acostarme con un falso positivo y poner mil precauciones que con un falso negativo y no defenderme tanto.
  43. #43 Te doy la razón, pero eh, acertará el 100% de los positivos y además jamás daremos un falso negativo, ¡con lo que no tendremos a nadie por la calle pensando que no tiene covid y contagiando! Se lo podemos vender a la prensa como el gran milagro español de la ciencia, un test que detecta todos los positivos al 100%, y que si una persona es positivo tenemos el 100% de seguridad de que el test dará positivo.
  44. #45 Es que yo creo que los tests rápidos no son de anticuerpos, pero los confundimos (porque en los medios no lo explican o explicaban bien). Los que llaman "rápidos" creo que son otra cosa para detectar la infección (en lugar de los PCR). Debían tener muchos errores, pero debían valer para estudios epidemiológicos. Supongo (insisto: supongo) que ahora no se usarán porque solo oigo hablar de PCR para cercar los brotes porque ahora hay más medios y deben ser más baratos.

    gacetamedica.com/investigacion/como-funcionan-y-en-que-se-diferencian-
  45. #45 La comparación con el SIDA es poco adecuada porque ahí no es que se pasase la enfermedad y ya no se pudiese infectar a otros ni volverse a infectar el mismo, es que el que tenía SIDA lo tenía hasta morir. Aquí hablamos de que habría mucha gente que pensaría que está inmunizada cuando lo no está, con el riesgo de que relajase las precauciones respecto a el y en la relación con otros.
  46. #47 Bueno, según mi enlace. sí son lo mismo. Ya no sé. A ver si alguien puede ser más categórico en algún sentido.

    Edito y añado:

    www.65ymas.com/salud/rapidos-pcr-serologicos-guia-definitiva-test-coro

    Esto sí parece que concuerda con lo decía. Y todo concuerda, también, con que los medios lo han liado, incluyendo la gaceta "médica" esa...
  47. #48 Tienes razón totalmente en lo de relajarse pensando que estas inmunizado. Eso es indiscutible.

    Por otro lado, si te dan resultado negativo y estás aún en fase que puedes contagiar la puedes liar parda con tu familia y compañeros.

    Lo que está claro es que es una putada que fallen.
  48. #50 Están hablando de test de anticuerpos, negativo puede significar incluso que estés en la primera parte el proceso de contagio porque los anticuerpos no aparecen al principio.
  49. #51 he estado buscando la info de la mutua pero no lo he encontrado.
    Recuerdo que testeaba dos cosas una se supone que era para la infección antigua y otra para la reciente, leche, lo busco más ...

    Lo encontré! Testea dos anticuerpos: IgG/IgM

    Tipo de test

    El Test Rápido COVID-19 IgG/IgM es un análisis inmunocromatográfico en fase sólida para la detección rápida y diferencial de los anticuerpos IgG y IgM contra el nuevo coronavirus (Covid-19) en sangre. Son rápidos y sencillos, produciendo resultados en 15 minutos.
  50. #52 Puedes estar en fase muy contagiosa de la enfermedad y dar negativo en ambos  media
  51. Pues a mí me parece que el artículo le da mucho misterio a algo que simplemente es la aplicación de porcentajes a cantidades mayores y menores. Tal como lo plantea el artículo parece algo contraintuitivo, pero en realidad es bastante obvio que si comparamos un pequeño error sobre una cantidad grande con una cantidad pequeña, la proporción puede ser considerable. Me parece un poco clickbait, pero lo mismo me paso de crítico.
  52. #53 Pues no lo sabía.
  53. #6 Pero es que has puesto un ejemplo en el que el 2% de margen de error que tiene el test es veinte veces superior al 0,1% de contagiados. Si la cantidad de contagiados es tan baja, desde luego un 98% no sirve para nada. Hace falta un test muchísimo más preciso.

    Ahora mismo en España se supone que la cantidad de contagiados está en torno al 5% de la población. Ante un caso así, un 2% de margen de error es demasiado, de hecho con ese margen de error este test podría decirnos que hay casi la mitad de contagiados de los que hay en realidad, pero conforme la gente se vaya contagiando y vaya aumentando el porcentaje de personas con anticuerpos (algo que tendrá que pasar antes o después, antes con segunda oleada) ese margen debería ir siendo cada vez menos impactante, ¿no?

    cc #16
  54. #56 Era un ejemplo para que se entendiera el efecto, no he querido hacer nada que se parezca a la situación actual, me parece un tema demasiado serio y yo no tengo los conocimientos suficientes como para hacerlo bien, así que he puesto un ejemplo exagerado (pero he dicho que era un ejemplo exagerado)

    ¿De donde sacas que la cantidad de contagiados está en torno al 5%
  55. #57 Del estudio de seroprevalencia. Ojo, hablo de contagiados, no de casos activos. Igual la palabra "contagiados" no era la mejor para hablar de la gente que ha pasado la enfermedad.

    Según el estudio de seroprevalencia en España ENE-COVID del Instituto de Salud Carlos III, que acaba de hacer pública su tercera oleada (y, por cierto, cuyo buen hacer ha merecido la publicación de su estudio en la revista The Lancet, el máximo nivel de la ciencia médica en el mundo), en España existe aproximadamente un 5% de población que ha pasado la infección por el SARS-CoV-2.
  56. #58 eso sí lo habia leído, pero lo de "contagiados" me ha parecido confuso, gracias por la aclaracion
  57. #4 Claramente, o no has estudiado probabilidad o no la recuerdas.

    Esto se calcula con teorema de bayes y el teorema de la probabilidad total. Es lo lógico que un test que acierta el 98% de las veces produzca esos falsos positivos, si el ratio de positivos/negativos reales en la muestra está muy desbalanceado.
  58. #31 Cuando he visto la noticia del test es lo primero que he pensado, TALEB hablaba de esto en su libro:

    psychscenehub.com/psychinsights/well-understand-probabilities-medicine
  59. #6 y #4 es un caso que sale en el libro de taleb:

    Aqui link en ingles:
    #61

    Varlak lo explica bastante bien creo...

    Es también uno de los motivos que se explican en House(sorry ficción) para no hacer Chequeos completos y masivos pues siempre encontraras algun problema. Y por lo mismo que un médico manda pruebas en base a sospechas de problemas e indagando los sintomas y no masivamente y a cualquiera, para reducir la "base estadistica" contra la que comparas.
  60. #11 Segun NNtaleb, de estadistica sabe un rato, no tienes razón, pero el mismo error que cometes tu parece que lo cometen muchos médicos También:, lo he linkeado en #61 (inglés).

    Curiosamente hice esa misma pregunta de Taleb a mi hermana cuando estaba recien licenciada en medicina y ella si respondió lo que taleb indica como correcto... (O mi hermana es muy lista o quizá los médicos que no se centran en estos temas olvida un poco la estadística con el tiempo jejeje)
  61. #54 Algo obvio que parece que incluso los médicos olvidan como calcular correctamente, en #61 enlazo lo que dice Taleb en un libro que ya tiene años...
  62. Quizá el mejor resumen es:

    La CRIBA previa a cualquier prueba medica es vital para que la prueba tenga un alto % de acierto final. Sin criba los test masivos(de cualquier tema médico) pueden ser hasta contraproducentes.

    Mas info aquí o en los libros de Taleb y otros estadistas:


    psychscenehub.com/psychinsights/well-understand-probabilities-medicine
  63. #65 Sí, Taleb debería ser más leído todavía de lo que es. En otra noticia acabo de mencionar el principio de precaución, que también tiene mucha relación con las cosas que defiende Taleb. Todavía hay gente que cree que la OMS hizo bien en no recomendar las mascarillas o desestimar el contagio por vía aérea porque aún no había papers que lo demostrasen.
  64. #37 igual la proporción caducado 1 millón de personas y no caducado 50 es arbitrario y no se corresponde a ninguna base.
  65. #71 Pues como los infectados vs no infectados.
  66. #72 no, la proporción no son 50 por millón
comentarios cerrados

menéame