Más transparencia para una Administración algorítmica
Díganme si no es inquietante que un sistema de inteligencia artificial fuera el tercer candidato más votado en las elecciones a la alcaldía de un distrito de Tokyo en 2018 o que el Parlamento Europeo se esté planteando la necesidad de regular un estatuto de persona electrónica. Con tales ejemplos, se entiende mejor que la Carta de Derechos Digitales haya preferido hablar de derechos de las personas “ante” la inteligencia artificial y no de un derecho a la inteligencia artificial. En este caso, la preposición cobra indudablemente todo sentido.
Sacudidos y, casi diría, alarmados por esta vertiginosa evolución, surge una preocupación por incorporar a esta gran transformación digital una visión más humanista y ética de la tecnología. Cobra ahora más sentido aquello que hace tiempo escribía en un documento sobre retos para la administración pública del futuro: “necesitamos sí, más tecnología e innovación en la administración, pero no nos olvidemos de empaparla no solo de inteligencia artificial y algoritmos, sino también de ética, que es a aquellas, como el alma al cuerpo”.
El objetivo no es otro que garantizar que las decisiones públicas que se toman utilizando este tipo de recursos tecnológicos sean motivadas y explicables como lo venía siendo obligado hasta ahora. Nada nuevo bajo el sol: las normas exigen que los fundamentos de las resoluciones de la Administración sean explícitos. Si ahora las razones de esa decisión son fórmulas algorítmicas, estas deberían ser igualmente conocidas y entendidas si queremos garantizar el derecho fundamental de cualquier persona a defenderse frente a posibles arbitrariedades.
Pero ¿puede traducirse en algoritmos la gestión de ese espacio de discrecionalidad que las normas atribuyen en ocasiones a quienes tienen la responsabilidad de ejercer ciertas competencias públicas? ¿Cómo puede administrar una máquina la subjetividad inherente al ejercicio de determinadas potestades, resolver qué es y qué no equitativo, dar contenido preciso a conceptos jurídicos indeterminados cuando han de aplicarse a un caso concreto, etc.? Al menos de momento, este margen intangible de apreciación que pertenece a las personas sigue siendo inalienable. Y esto me recuerda a la reciente publicidad de una conocida marca de refrescos en la que se representaba una entrevista de trabajo entre un candidato humano y un androide. Después del consabido interrogatorio “inteligente” para contrastar las capacidades del aspirante, el sistema concluye diciendo que “ustedes”, refiriéndose a la raza humana, “no pueden aportar nada que nosotros no hagamos ya”, a lo que el joven responde diciendo que ellos jamás podrán sentir “ganas”, ni podrán reafirmarse, reenamorarse y renacer. Una forma poética y sugerente de expresar que hay otra inteligencia, esencialmente emocional, que nunca será posible escribir en lenguaje de programación.
El acceso a los algoritmos es imprescindible por diversos motivos, pero uno de los más relevantes es poder saber si la decisión es sesgada porque los datos (inputs) que utiliza el algoritmo o con los que se entrena para crear patrones no representan toda la realidad o se basan en estereotipos y prejuicios (caso COMPAS). En otros supuestos, el sesgo puede estar en el propio diseño del algoritmo, ya que sus autores tienen también su propia escala de valores, experiencias y opinión, lo que puede influir, sin duda alguna, en los resultados que arroja la operación automatizada (casos BOSCO, DELIVEROO o SyRI).
De momento, la inflación de planes, estrategias y cartas a la que antes hemos hecho referencia está resultando ser poco efectiva dado que siguen siendo frecuentes las resoluciones que deniegan el acceso al código fuente u otra documentación relacionada con los algoritmos que utilizan las administraciones. Lo de siempre: del dicho (compromiso) al hecho (respuesta), sigue existiendo un trecho.
Son los Comisionados y Consejos de Transparencia los que están defendiendo con mayor tesón la apertura de esta información partiendo de experiencias comparadas como la de la
Esta defensa de la transparencia algorítmica es absolutamente compatible con la aceptación de límites, algo consustancial a cualquier derecho. Mucho se ha hablado de la propiedad intelectual e industrial o de los secretos comerciales, límites difícilmente comprensibles cuando de productos generados in-house por la propia administración o sobre los que posee los derechos de explotación se trata. Más justificado está invocar la seguridad pública, pero muy restringida su aplicación a un puñado de casos donde los riesgos son claramente identificables.
Con todos estos antecedentes y partiendo de algunas de las acciones planificadas en la ENIA, hay que avanzar con mayor decisión en la concreción del régimen jurídico del uso por la Administración de algoritmos y sistemas de IA. Y deberíamos empezar por poner encima de la mesa una de las reivindicaciones más reiteradas sobre la que las administraciones e, incluso, la propia estrategia mencionada, guardan absoluto silencio, y es la necesidad de dar publicidad a la relación de algoritmos que se utilizan en la gestión pública, en qué procesos operan o cuáles son sus reglas esenciales. Por lo general, de la existencia de “algoritmos públicos” nos enteramos por sorpresa por los medios de comunicación dada la gran dificultad de localizar en las plataformas de contratación del sector público las adjudicaciones para llevar a cabo este tipo de creaciones. Y esto es así en el mejor de los casos, ya que en el supuesto de desarrollos tecnológicos con medios propios puede que ni nos enteremos.
La reciente Ley de Transparencia y Buen Gobierno de la Comunitat Valenciana es un buen paso en esta línea ya que obliga a publicar la relación de sistemas algorítmicos o de inteligencia artificial que tengan impacto en los procedimientos administrativos o la prestación de los servicios públicos. Esta publicación deberá incluir la descripción de manera comprensible del diseño y funcionamiento de estos instrumentos, el nivel de riesgo que implican y el punto de contacto al que poder dirigirse en cada caso, de acuerdo con los principios de transparencia y explicabilidad (entrará en vigor en mayo de 2023).
En el ámbito internacional, Amsterdam o Helsinki son algunas de las ciudades que ya están publicando desde hace tiempo el registro de sus algoritmos, la mayor parte de ellos chatbots, que utilizan en algunos de los servicios que prestan. De alguno de ellos y de otros tanto puede conocerse más gracias al Observatorio Global de Inteligencia Artificial Urbana.
Es hora de soltarse los botones de los puños, remangarse y, con o sin corbatas, ponerse manos a la obra.
Fuente: La Administración al Día (INAP)
Díganme si no es inquietante que un sistema de inteligencia artificial fuera el tercer candidato más votado en las elecciones a la alcaldía de un distrito de Tokyo en 2018 o que el Parlamento Europeo se esté planteando la necesidad de regular un estatuto de persona electrónica. Con tales ejemplos, se entiende mejor que la Carta de Derechos Digitales haya preferido hablar de derechos de las personas “ante” la inteligencia artificial y no de un derecho a la inteligencia artificial. En este caso, la preposición cobra indudablemente todo sentido.
Sacudidos y, casi diría, alarmados por esta vertiginosa evolución, surge una preocupación por incorporar a esta gran transformación digital una visión más humanista y ética de la tecnología. Cobra ahora más sentido aquello que hace tiempo escribía en un documento sobre retos para la administración pública del futuro: “necesitamos sí, más tecnología e innovación en la administración, pero no nos olvidemos de empaparla no solo de inteligencia artificial y algoritmos, sino también de ética, que es a aquellas, como el alma al cuerpo”.
El objetivo no es otro que garantizar que las decisiones públicas que se toman utilizando este tipo de recursos tecnológicos sean motivadas y explicables como lo venía siendo obligado hasta ahora. Nada nuevo bajo el sol: las normas exigen que los fundamentos de las resoluciones de la Administración sean explícitos. Si ahora las razones de esa decisión son fórmulas algorítmicas, estas deberían ser igualmente conocidas y entendidas si queremos garantizar el derecho fundamental de cualquier persona a defenderse frente a posibles arbitrariedades.
Pero ¿puede traducirse en algoritmos la gestión de ese espacio de discrecionalidad que las normas atribuyen en ocasiones a quienes tienen la responsabilidad de ejercer ciertas competencias públicas? ¿Cómo puede administrar una máquina la subjetividad inherente al ejercicio de determinadas potestades, resolver qué es y qué no equitativo, dar contenido preciso a conceptos jurídicos indeterminados cuando han de aplicarse a un caso concreto, etc.? Al menos de momento, este margen intangible de apreciación que pertenece a las personas sigue siendo inalienable. Y esto me recuerda a la reciente publicidad de una conocida marca de refrescos en la que se representaba una entrevista de trabajo entre un candidato humano y un androide. Después del consabido interrogatorio “inteligente” para contrastar las capacidades del aspirante, el sistema concluye diciendo que “ustedes”, refiriéndose a la raza humana, “no pueden aportar nada que nosotros no hagamos ya”, a lo que el joven responde diciendo que ellos jamás podrán sentir “ganas”, ni podrán reafirmarse, reenamorarse y renacer. Una forma poética y sugerente de expresar que hay otra inteligencia, esencialmente emocional, que nunca será posible escribir en lenguaje de programación.
El acceso a los algoritmos es imprescindible por diversos motivos, pero uno de los más relevantes es poder saber si la decisión es sesgada porque los datos (inputs) que utiliza el algoritmo o con los que se entrena para crear patrones no representan toda la realidad o se basan en estereotipos y prejuicios (caso COMPAS). En otros supuestos, el sesgo puede estar en el propio diseño del algoritmo, ya que sus autores tienen también su propia escala de valores, experiencias y opinión, lo que puede influir, sin duda alguna, en los resultados que arroja la operación automatizada (casos BOSCO, DELIVEROO o SyRI).
De momento, la inflación de planes, estrategias y cartas a la que antes hemos hecho referencia está resultando ser poco efectiva dado que siguen siendo frecuentes las resoluciones que deniegan el acceso al código fuente u otra documentación relacionada con los algoritmos que utilizan las administraciones. Lo de siempre: del dicho (compromiso) al hecho (respuesta), sigue existiendo un trecho.
Son los Comisionados y Consejos de Transparencia los que están defendiendo con mayor tesón la apertura de esta información partiendo de experiencias comparadas como la de la
Esta defensa de la transparencia algorítmica es absolutamente compatible con la aceptación de límites, algo consustancial a cualquier derecho. Mucho se ha hablado de la propiedad intelectual e industrial o de los secretos comerciales, límites difícilmente comprensibles cuando de productos generados in-house por la propia administración o sobre los que posee los derechos de explotación se trata. Más justificado está invocar la seguridad pública, pero muy restringida su aplicación a un puñado de casos donde los riesgos son claramente identificables.
Con todos estos antecedentes y partiendo de algunas de las acciones planificadas en la ENIA, hay que avanzar con mayor decisión en la concreción del régimen jurídico del uso por la Administración de algoritmos y sistemas de IA. Y deberíamos empezar por poner encima de la mesa una de las reivindicaciones más reiteradas sobre la que las administraciones e, incluso, la propia estrategia mencionada, guardan absoluto silencio, y es la necesidad de dar publicidad a la relación de algoritmos que se utilizan en la gestión pública, en qué procesos operan o cuáles son sus reglas esenciales. Por lo general, de la existencia de “algoritmos públicos” nos enteramos por sorpresa por los medios de comunicación dada la gran dificultad de localizar en las plataformas de contratación del sector público las adjudicaciones para llevar a cabo este tipo de creaciones. Y esto es así en el mejor de los casos, ya que en el supuesto de desarrollos tecnológicos con medios propios puede que ni nos enteremos.
La reciente Ley de Transparencia y Buen Gobierno de la Comunitat Valenciana es un buen paso en esta línea ya que obliga a publicar la relación de sistemas algorítmicos o de inteligencia artificial que tengan impacto en los procedimientos administrativos o la prestación de los servicios públicos. Esta publicación deberá incluir la descripción de manera comprensible del diseño y funcionamiento de estos instrumentos, el nivel de riesgo que implican y el punto de contacto al que poder dirigirse en cada caso, de acuerdo con los principios de transparencia y explicabilidad (entrará en vigor en mayo de 2023).
En el ámbito internacional, Amsterdam o Helsinki son algunas de las ciudades que ya están publicando desde hace tiempo el registro de sus algoritmos, la mayor parte de ellos chatbots, que utilizan en algunos de los servicios que prestan. De alguno de ellos y de otros tanto puede conocerse más gracias al Observatorio Global de Inteligencia Artificial Urbana.
Es hora de soltarse los botones de los puños, remangarse y, con o sin corbatas, ponerse manos a la obra.
Fuente: La Administración al Día (INAP)
Última revisión: