¿QUIÉN VIGILA AL ALGORITMO? Introducción. La doctrina En un anterior artículo publicado en esta revista (DE LA CUEVA, J.: “Datos, derecho y nuevas tecnologías: privacidad y publicidad”, ENSXXI, nº 77, 2018) se defendía la necesidad de que fuera público el código fuente de los programas de software utilizados por las Administraciones públicas mediante los cuales se gestiona o se controlan derechos y obligaciones de la ciudadanía.
|
etiquetas: derecho , vigilancia gubernamental , algoritmos , doctrina secretos 
www.meneame.net/story/llega-juez-artificial-imparcial-eficiente-rapido
Igual que al piloto automático de un avión lo vigila un piloto de carne y hueso.
Si es que no falla... Cuando se enteren por ahí fuera a lo que llamáis "liberal" en España
Por ahí fuera, a defender un estado como brazo armado de las élites para que se repartan el estado de bienestar lo llaman de otra manera.
Pero vamos, que ya veo que en España sois multitud los seguidores de la doctrina liberal esperanzaaguirrista, que se resume en "vuestra libertad termina donde empieza mi dinero" y "el dinero público no es de nadie y este fajo lo vi yo primero".
Edit: Por cierto, es bastante interesante la que enlazas.
¡Debería ser obvio!
¿Desde cuándo los jueces o instructores se dedican a auditar código privativo y ofuscado?
Para llegar remotamente a eso, primero toda la infraestructura de los sistemas usados en las AAPP debería funcionar por ley con SL, tener acceso al código en producción, dotarles de equipos de ingenieros... Y estamos muuuuuy lejos de eso.
Y así, diluye la cuestión, con una querencia administrativa, y con otra batalla diferente, que es el uso del Open Source en la administración pública. Más política.
Y en Civio, siguen confundiendo los parámetros, o umbrales de la concesión de las ayudas, que se modifican a voluntad del técnico, con el producto final de "El algoritmo".
Cuando se hacen las preguntas equivocadas, y se abre una causa política...
- Libertarian en inglés significa liberal en español.
- Libertario en español significa "punky que no ha abierto un libro de economía en su vida".
Por supuesto, siempre hay que seguir tratando de que lo hagan, aunque sea difícil.
No es una cuestión de seguridad. Cualquier software se puede romper. Es cuestión de no llevarse las manos a la cabeza al examinar el código fuente. Casi ninguna empresa privada querría mostrar lo que guarda en la nevera.
Los criterios de concesión de las ayudas varían, según la aprobación de esas ayudas en los presupuestos, anualmente, y por otras consideraciones de cualquier índole.
Esos nuevos criterios se ajustan con parámetros introducidos manualmente, ajustando los umbrales para la concesión de esas ayudas.
Esa es la razón de que los resultados difieran aplicando el algoritmo. El código fuente no permite conocer los parámetros introducidos.
¿Qué es lo que no se entiende?
Ahora que aportas más detalles, debo decir que te equivocas en tus explicaciones sobre cómo funciona la aplicación desarrollada por el ministerio. Primero, los umbrales no son fijados por un “técnico” anónimo “manualmente”, sino que vienen explicitados en el Real Decreto-ley que da lugar al bono social. Esos límites se trasladan a la especificación de la aplicación. Segundo, hemos demostrado que en el proceso de convertir esa especificación a código se han introducido errores: en concreto, se decía a algunos beneficiarios que no se podía procesar su solicitud por no disponer de información cuando no daban derecho a consultar su renta, cuando tenían derecho en cualquier caso (por ser familia numerosa, por ejemplo). Este error no tiene nada que ver con ningún umbral. Es una mala implementación del algoritmo especificado en el Real Decreto-ley. Y por eso pedimos el código fuente, para poder verificar que no hay más errores en la implementación.
Sí, el Real Decreto 897/2017, en su Articulo 3, donde se define la figura de consumidor vulnerable, pero que no ofrece ningún método de ponderación para la aplicación, que se revisa anualmente, como así sucede en el Real Decreto-ley 15/2018, de 5 de octubre, donde se vuelven a modificar las condiciones de acceso al bono social, y dónde sí se especifican los nuevos "parámetros" revisados este mismo año, en el Anexo I, "Metodología para el cálculo de la cuantía de la ayuda del Bono Social Térmico" como por ejemplo, determinar la cuantía de la prestación según las seis zonas climáticas definidas en el mismo y en el Código Técnico de Edificación, con lo que, el mismo consumidor en diferente intervalo de SCI (Severidad Climática) percibirá una ayuda diferente; "La ayuda correspondiente a un consumidor vulnerable severo o en riesgo de exclusión social será un 60 % superior a la asignada en su zona climática a un consumidor vulnerable." (Sic) con lo que incluso podría no percibir esa ayuda, dependiendo de su nivel de renta y zona climática.
Todos esos cálculos se modifican periódicamente, con un máximo de 4 años entre cada revisión, exactamente igual que se revisa el IPREM todos los años y, el algoritmo hace una ponderación aritmética, que sí es modificable, y otorga un un umbral mínimo para percibir las ayudas del bono social.
El algoritmo funciona de acuerdo al cálculo que se efectúa, pero es evidente que si se dejan de introducir datos, como el nivel de renta, no se puede establecer el grado de protección y la cuantía de ayuda correspondiente. Eso es hacer un uso torticero de la aplicación, impidiendo el correcto funcionamiento de la misma. ( y me gustaría ver la solidez administrativa de un argumento de ese cariz)
De igual forma, los operadores de la aplicación, las personas que determinan el umbral de aptitud para las ayudas, y el uso que se hace del calculo de esos umbrales mínimos fijados en la formula "el algoritmo", pueden impedir el acceso a las ayudas y, no, no tiene nada que ver con el código fuente de la aplicación. Sino con el uso del resultado del calculo de ese algoritmo y el umbral de acceso que fija la aplicación.
Aunque el algoritmo no tenga un "Decision BIAS" implícito, el umbral del acceso a las ayudas tras ese cálculo, sí se puede alterar por la comercializadora, por ejemplo. Y es probablemente lo que está sucediendo, y la razón por la que se os ha facilitado el algoritmo y el mismo está documentado.
Y otra vez más, el código fuente no tiene porque revelar nada sobre ello. Creo que hay un documento de la UE por ahí, aclarando este tipo de sesgo en la transparencia de los algoritmos, de carácter humano y debido a los operadores de la aplicación, no de su desarrollo. --»
en.wikipedia.org/wiki/Right_to_explanation
www.boe.es/buscar/act.php?id=BOE-A-2017-11505
¿Ya?
Sin embargo soy consciente de que usar software libre no es un derecho.
De todos modos, son varios los gobiernos que están empezando a utilizar Git como fuente de autoridad para sus leyes. E incluso en algunos de ellos admiten pull requests de los ciudadanos.
Pero vamos, que si quieres seguir diciendo tonterías, adelante. Es el sino de los liberales