La Inteligencia Artificial va muy en serio. Algunas notas conceptuales sobre su aplicación a las Administraciones Públicas

“Saber mucho no es lo mismo que ser inteligente. La inteligencia no es sólo información, sino también juicio, la manera en que se recoge y maneja la información” (Carl Sagan)

Aprovechando que la Comisión ha presentado su estrategia sobre inteligencia artificial (consúltese el documento Shaping Europe’s digital future: Commission presents strategies for data and Artificial Intelligence; aquí la versión en español), vamos a compartir una serie de reflexiones al respecto de la aplicación de la IA en las Administraciones Públicas. A saber:

  1. Contexto. 
  2. Los algoritmos. Naturaleza jurídica.
  3. Impacto en España: nuevas unidades orgánicas responsables y proyectos de Ley.
  4. Smart City, sensorización y datos.
  5. ¿Cómo afecta la IA al futuro del empleo público? 

1. Contexto.

El contexto, el escenario de esta cuestión, es mundial, pero a los efectos jurídicos y económicos que más nos afectan, es Europa una vez más. Shaping Europe’s digital futureMe encanta el verbo to shape, “dar forma” (al futuro digital de Europa). Esta ingente labor, que no es ni remotamente sencilla, se puede no obstante lograr a través de una buena definición e implantación de la IA en relación con los datos (ver estrategia europea de datos), tal y como reza el propio documento citado. Según la citada fuente, “En su Libro Blanco, la Comisión propone un marco para una inteligencia artificial fiable, basado en la excelencia y la confianza” (el título del Libro blanco es, literalmente, “Sobre inteligencia artificial: un enfoque europeo hacia la excelencia y la confianza”). Y sigue: “En asociación con los sectores público y privado, el objetivo es movilizar recursos a lo largo de toda la cadena de valor y crear los incentivos apropiados para acelerar la implantación de la IA, también entre las pequeñas y medianas empresas. Para ello será también necesario colaborar con los Estados miembros y la comunidad investigadora, con el fin de atraer y retener el talento. En vista de que los sistemas de IA pueden ser complejos y conllevar unos riesgos importantes en determinados contextos, es esencial crear confianza. Son necesarias normas claras, que aborden los sistemas de IA con un elevado nivel de riesgo sin suponer una excesiva carga para los que entrañan unos riesgos menores. Las estrictas normas de la UE en materia de protección de los consumidores, que abordan las prácticas comerciales desleales y protegen los datos personales y la privacidad, siguen siendo aplicables”. Por eso “La Comisión ha desvelado hoy sus ideas y medidas para una transformación digital que redunde en beneficio de todos, y refleje lo mejor de Europa: abierta, justa, diversa, democrática y con confianza en sí misma. La estrategia presenta una sociedad europea impulsada por soluciones digitales que sitúan en el lugar preferente a las personas, abre nuevas oportunidades para las empresas y da impulso al desarrollo de una tecnología fiable que fomente una sociedad abierta y democrática y una economía dinámica y sostenible. La digitalización es un factor clave en la lucha contra el cambio climático y en la consecución de la transición ecológica.”

udite22
Sesión de trabajo en Bruselas, junto con Eulalio Ávila y otros compañeros de UDITE

Para profundizar más sobre la estrategia europea en IA y datos, léase este artículo de Recomendamos su lectura íntegra, pues es de agradecer que se haya tomado la molestia de desgranar los vastos documentos redactados en inglés, si bien, resumidamente, el autor indica que la UE ha identificado una serie de problemas relacionados con el data que pretenden abordarse a través de medidas políticas y financiación que se resumen en cuatro acciones o estrategias principales:

  • La primera es la creación de un marco de gobernanza intersectorial para el acceso y la utilización de los datos.
  • La segunda estrategia de la Unión Europea se resume en “habilitadores” y básicamente consiste en inversiones en datos y en el fortalecimiento e infraestructuras de Europa para el “alojamiento, procesamiento y utilización de los datos y su interoperabilidad”.
  • La tercera estrategia consiste en el “empoderamiento de los individuos e inversión en habilidades y en PYMES”. La medida más clara dentro de esta estrategia es que se actualizará el Plan de Acción de Educación Digital para reforzar el acceso y el uso de los datos.
  • Finalmente, la cuarta estrategia se refiere a “un enfoque internacional abierto, pero proactivo”, para lo que se creará un “marco analítico europeo para la medición de los flujos de datos” que llegará en el cuarto trimestre de 2021 y cuyo objetivo es ofrecer un marco con instrumentos que permitan analizar de forma continua los flujos de datos y el desarrollo económico del sector de procesamiento de datos.

En cuanto al Libro Blanco sobre inteligencia artificial, se resume en dos grandes bloques: desarrollar un “ecosistema de excelencia” y desarrollar un “ecosistema de confianza”.

Por lo demás, hace tiempo que Europa ha centrado su estrategia en el desarrollo del mercado único digital, el uso de los datos como estrategia de promoción económica, el binomio seguridad-interoperabildad, la identificación y la firma electrónicas como herramientas para las distintas transacciones, la tecnología al servicio de las políticas públicas medioambientales, y, en definitiva, la economía digital en todas sus dimensiones.

2. Los algoritmos. Naturaleza jurídica.

Es esta una cuestión francamente interesante. Resumiendo las posturas de los distintos compañeros, los algoritmos pueden ser:

  • Son éticos. No en vano la misma “Europa apuesta por la ética y la transparencia para desarrollar su inteligencia artificial“. Es cierto que la ética no es exactamente una calificación jurídica, aunque también podríamos argumentar que el Derecho Natural es, en esencia, ético, por lo que de alguna manera sí sería un concepto jurídico. Personalmente me gusta mucho el planteamiento de Alorza, recogido en  su entrada “La ética del uso de datos y algoritmos“, quien defiende que “en toda estrategia de transformación digital, donde los datos son la materia prima, debe contemplarse la dimensión ética. Mucho más cuando entramos en escenarios de toma de decisiones algorítmica.” Y de la teoría a la práctica. Recientemente él y su equipo han tenido la oportunidad de poner en práctica estas ideas con el Gobierno de Navarra. En el citado artículo se resume este interesante proyecto. En la misma línea la siempre lúcida Elisa de La Nuez (“Algoritmos y transparencia”), quien concluye que “parece un tanto excesivo que el Consejo de Transparencia deniegue el acceso al código fuente en base a la existencia del límite previsto en el art. 14 j) de la Ley 19/2013 de 9 de diciembre referente a la propiedad intelectual de los programas informáticos. Aquí no se trata de proteger la propiedad intelectual de un programa –más allá de las disquisiciones que realiza el CTBG acerca de si el software puede o no estar protegido por el derecho de autor como obra literaria- para que nadie lo copie o lo plagie. Se trata sencillamente de determinar qué es lo que puede estar funcionando mal en la configuración técnica del mismo para que se esté denegando una ayuda a gente que sí reúne los requisitos para acceder a ella.  En todo caso, parece en este caso el test del daño y el test del interés público que siempre hay que realizar debería decantarse claramente a favor de la transparencia.”
  • Son Reglamentos. Andrés Boix defiende por su parte que “si se usan para tomar decisiones, hay que tratarlos como lo que son: normas reglamentarias que programan la decisión de la Administración”. Esta es sin duda la teoría que más agradará a los administrativistas. Su lógica tiene, ya que como argumenta en su interesante artículo (léase completo) “LOS ALGORITMOS SON REGLAMENTOS: LA NECESIDAD DE EXTENDER LAS GARANTÍAS PROPIAS DE LAS NORMAS REGLAMENTARIAS A LOS PROGRAMAS EMPLEADOS POR LA ADMINISTRACIÓN PARA LA ADOPCIÓN DE DECISIONES“, los algoritmos cumplen una función material estrictamente equivalente a la de las normas jurídicas, al reglar y predeterminar la actuación de los poderes públicos.
  • Son trámites reglados (mi opinión personal). El art. 41.1 de la Ley de Régimen Jurídico, al que nos hemos referido en numerosas ocasiones, establece que  “Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público”. Por tanto, ¿estamos hablando de una norma o de la articulación formal del procedimiento definido precisamente en una norma? Entendemos que no estamos en la fase de regulación, sino en la de ejecución. Según la RAE, un algoritmo es un “Conjunto ordenado y finito de operaciones que permite hallar la solución de un problema”, mientras que a nivel científico se inserta en el ámbito disciplinar de las matemáticas, la lógica, y las ciencias de la computación. Quizá no haya nada que decidir después de todo, por lo que un algoritmo “bien programado” en realidad no alcanza cota alguna de discrecionalidad. Esto no obsta a las consideraciones éticas que apuntábamos (abogamos por la ética by design), ni a la necesidad de establecer algún mecanismo puntual de supervisión “humana”. Lo que sí tenemos muy claro, es que en algún momento de la implantación del procedimiento electrónico (se supone que) hemos obtenido unos flujogramas a partir del trabajo de la reingeniería de procedimientos, y que en esta labor hemos catalogado todos los trámites de cada procedimiento, asignándolos a una actuación material humana (firma electrónica) o convirtiéndolos en un automatismo (sello electrónico). El algoritmo no es el origen ni el fin; es el instrumento.

Por supuesto todas las teorías son respetables, pero sí me voy a permitir dar un consejo, o mejor, una sugerencia… Hablando de estos temas nos encontramos en un terreno semidesconocido en el que los expertos se pueden contar con los dedos de la mano, de modo que el resto, que por supuesto también podemos opinar, debemos intentar al menos hablar con una cierta propiedad. Ojo por tanto con el empleo alegre de términos como algoritmo, inteligencia artificial, o toda la retahíla de anglicismos: open government, e-goverment, e-procurement, compliance, blockchain, community manager, mindfulness, branding, smart city, smart region, smart island, open data, big data, benchmarking, team leadershipnudge… En una escena de la mítica película “La princesa prometida“, uno de sus personajes secundarios (pero con el tiempo el más querido por el público), Íñigo Montoya, recrimina su mal uso del lenguaje al villano Vizzini, a quien todo le parece inconcebible. Montoya, harto de escuchar este adjetivo, le reprende con sobriedad: “Insistes en usar esa palabra. Creo que no significa lo que tú crees que significa”.

En todo caso me gustaría destacar, una vez más, el carácter instrumental de la tecnología. Los algoritmos, como herramienta tecnológica de programación avanzada que son, no constituyen ningún fin, y menos en la Administración, cuyo fin es siempre el interés general. Son un simple medio que debemos utilizar para prestar más y sobre todo mejores servicios. Para no salirnos de este camino, debemos abordar el tema de la inteligencia artificial precisamente con inteligencia, ética (tal y como se ha explicado) y una debida ponderación de otros elementos que mantengan el desarrollo tecnológico siempre dentro de los cauces del Estado de Derecho (sobre el peligro de que esto no sea así véase la interesante reflexión de Juli Ponce Solé, en su artículo “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico“).

3. Impacto en España: nuevas unidades orgánicas responsables y proyectos de Ley.

El actual organigrama del Gobierno estatal, comprende nada menos que un Ministerio de Asuntos Económicos y Transformación Digital, que a su vez incluye una Secretaría de Estado de Digitalización e Inteligencia Artificial, cuyas principales líneas de actuación son: 

  • Creación de un Consejo Nacional para la Transformación Digital y una nueva Oficina del Dato responsable de la buena gobernanza del uso de datos públicos.
  • Carta de Derechos Digitales.
  • Plan de Competencias Digitales.
  • Consejo Nacional de Inteligencia Artificial y Estrategia Nacional de Inteligencia Artificial.
  • Finalizar el sistema centralizado de notificaciones electrónicas.

Por otra parte ya tenemos en marcha la tramitación de dos interesantes iniciativas legislativas en materia de Asuntos Económicos y Transformación Digital:

  • PROYECTO DE LEY PARA LA TRANSFORMACIÓN DIGITAL DEL SISTEMA FINANCIERO. El Consejo de Ministros ha aprobado la remisión a las Cortes Generales del Proyecto de Ley para la creación de un “sandbox”, o espacio controlado de pruebas, para acompañar la transformación digital del sistema financiero. El Proyecto, que se remitirá a las Cortes para su tramitación parlamentaria, establece un entorno jurídico adecuado para garantizar que el proceso innovador en el ámbito financiero se desarrolla de forma eficaz y segura para los usuarios.  El “sandbox” permitirá llevar a la práctica proyectos tecnológicos de innovación en el sistema financiero con pleno acomodo en el marco legal y supervisor. Esta iniciativa responde a la necesidad de impulsar la innovación como elemento esencial para un desarrollo económico sostenible y equitativo. Asimismo, se garantiza que el cambio tecnológico protege al consumidor de servicios financieros, mantiene la estabilidad financiera y la integridad de los mercados e impide la utilización del sistema financiero para el blanqueo de capitales o la financiación del terrorismo. Véase también “¿Qué es el ‘sandbox’ y por qué es importante?
  • PROYECTO DE LEY REGULADORA DE DETERMINADOS ASPECTOS DE LOS SERVICIOS ELECTRÓNICOS DE CONFIANZA. El Consejo de Ministros ha aprobado la remisión a las Cortes Generales del Proyecto de Ley reguladora de determinados aspectos de los servicios electrónicos de confianza, por el que adapta el ordenamiento jurídico nacional al reglamento comunitario. Se refuerza así la seguridad jurídica y se da un paso más en la ordenación del proceso de digitalización de la economía y la sociedad, en beneficio de los ciudadanos. En concreto, este Proyecto se refiere a servicios electrónicos de confianza como la firma y sello electrónicos de personas físicas y jurídicas, o el sello de tiempo electrónico, que son utilizados habitualmente en las relaciones telemáticas de ciudadanos, empresas y Administraciones públicas. Su objetivo es complementar al Reglamento de la UE nº 910/2014 relativo a la identificación electrónica y los servicios electrónicos, en aplicación desde el 1 de julio de 2016. Este reglamento prevé que determinados aspectos técnicos y de organización interna se establezcan por parte del legislador nacional.

4. Smart City, sensorización y datos.

Como ya explicamos, la conectividad es la base del moderno servicio público. Es instrumental, y debe ponerse al servicio del ciudadano y del propio Ayuntamiento. En efecto, la conectividad permite dar un nivel tecnológico útil al usuario del servicio, mientras que a la Administración le ofrece datos sobre la “experiencia de cliente” y otros muy interesantes con los que trabajar. El estudio de los datos de los usuarios, al servicio de la mejora del propio servicio público, son una especie de “cookies” bienintencionadas (digamos que hay cookies buenas y cookies malas). La tecnología es bidireccional, útil en los dos sentidos. En definitiva, las infraestructuras, muebles, inmuebles y servicios deben incorporar tecnología, deben estar sensorizados, y esto lo debe hacer el concesionario del servicio. Debemos exigirlo ya desde los pliegos del contrato. Esto tiene su efecto positivo en el momento de la prestación del servicio. La sensorización es la fase de ejecución del contrato. En concreto del contrato de concesión de servicios (antiguo contrato de gestión de servicios públicos). Como ven, trato todo el tiempo de reconducir el discurso hacia conceptos que les resultan familiares. si bien, hablando de contratación, los conceptos más relacionados con Smart City son compra pública innovadora y asociación para la innovación. En cualquier caso, cuando un servicio está sensorizado arroja datos, y con los datos se puede… analizarlos, abrirlos, tomar decisiones respecto del mismo servicio, protegerlos… Con los datos se puede hacer muchas cosas, y casi todas buenas.

Y es que la clave de las Smart Cities son los datos. Lo más importante es entender que no tiene sentido que un vecino pase veinte minutos de su tiempo esperando un autobús que en realidad sabemos cuándo va a pasar, o dando vueltas a la manzana (y emitiendo CO2) para encontrar aparcamiento si una red de sensores vinculada a una App que utiliza el GPS del móvil puede informarle en tiempo real de las plazas libres. Los ciudadanos tienen derecho a aparcar sin que les cueste la salud (en el sentido amplio de la expresión), del mismo modo que tienen derecho a que pase el camión de la basura sólo cuando el contender esté prácticamente lleno, evitando así las molestias y el encarecimiento del servicio. Por su parte, big data no es tanto «grandes datos» como «muchos datos». En realidad muchísimos. Todos los que hay y todos los que generamos por ejemplo con la sensorización o la conexión. Big data puede tener una gran utilidad en relación a los proyectos Smart City, especialmente en el ámbito de la promoción económica y el emprendimiento. Los datos que se ponen a disposición del sector empresarial incipiente (demográficos, estadísticos, geográficos…) pueden anticipar el comportamiento del consumo local a fin de estimular la inversión en nuevos servicios privados. Alguno de estos datos, por supuesto, de deben abril (open data). La Ley 8/2015, de 25 de marzo, de Transparencia de la Actividad Pública y Participación Ciudadana de Aragón define apertura de datos como «la puesta a disposición de datos en formato digital, estandarizado y abierto, siguiendo una estructura clara que permita su comprensión y reutilización, con el fin de promover la transparencia de la gestión pública para su análisis y evaluación, fomentar la interoperabilidad entre Administraciones, y generar valor y riqueza a través de productos derivados de dichos datos realizados por terceros» (art. 3). Al final parece que todos estamos hablando de lo mismo. Tiene sentido.

Por otra parte, un aspecto relevante de los datos, en cuanto al fondo, es que ofrecen una valiosa información, y en cuanto a la forma, que se pueden tratar masivamente, y en este sentido esto se puede (incluso se debe) hacer de forma automatizada, con las debidas garantías en cuanto a su protección, por lo que habrá que reservar a un humano una cierta potestad de supervisión. Pero, seguramente, lo más importante es que los datos ofrecen una información tremendamente útil en la que la inteligencia (artificial y humana) se apoya o se debería apoyar para tomar buenas decisiones de servicio público. En definitiva, como indica la fuente u-GOB (“Inteligencia Artificial en lo público“, por Samuel Bautista”), “las tecnologías cognitivas podrían permitir a la Administración Pública atender trámites ciudadanos sencillos, dejando los más complicados a los servidores públicos; el monitoreo en tiempo real basado en cámaras y sensores ayudaría a una óptima administración de servicios públicos como el alumbrado; el uso de machine learning facilitaría el proceso de contratación de servidores públicos, especialmente cuando dicho proceso es complejo y costoso, entre otras posibilidades.

5. ¿Cómo afecta la IA al futuro del empleo público? 

Esta es una cuestión a la que ya nos hemos referido en numerosas ocasiones (véase en este blog “¿Quién va a cubrir los altos cargos cuando se jubilen?“, “Enamorando al empleado público del mañana“, o “La automatización laboral: adiós a todos los trabajos físicos“; y en otros medios, por ejemplo, nuestro artículo “El empleo público a mediados del siglo XXI: problemas y soluciones. Una propuesta integradora“). Lo cierto es que, estas alturas de la película, sólo un necio negaría que la automatización de trámites y tareas tendrá un impacto más que notable en el empleo público. De hecho ya lo está teniendo. Pero esto no es ni bueno ni malo. Simplemente es.

Star Wars automatización
Elenco original de Star Wars. Quizá conozcan a todos menos a Kenny Baker, el actor más bajito quien dio vida al famoso robot R2-D2 durante 7 películas. Falleció en 2016, cuando quedaban por rodar las dos últimas de la saga. Fue sustituido por un robot de verdad

Hace unos meses se publicó la Resolución de la Secretaría de Estado de Función Pública por la que se convocan procesos selectivos para Cuerpos de la AGE… ¡Miles de plazas de puestos automatizables! ¿Tiene algún sentido sustituir a un funcionario de 65 años “que hace fotocopias” por uno de 25 años seleccionado en principio para hacer lo mismo hasta 2060? No podemos mantener o crear puestos “sin contenido”. Echamos de menos que las ofertas de empleo público se hagan eco de la realidad, y por tanto de las necesidades reales de cubrir determinados puestos de trabajo en las AAPP, puestos que por definición nunca serán amortizados o sustituidos por máquinas:

1.- Atención ciudadana avanzada: asistencia en trámites (por encima del nivel básico de un chatbot), servicios sociales, mediación, otros servicios asistenciales, actividades lúdicas y educativas…

2.- Puestos directivos y de carácter muy técnico: dirección y coordinación de proyectos, DPO, analista de datos, gestor de conflictos, compliance officer

Y es que si nos reservamos el trabajo humano, emocional, relacional, el que tiene verdadero valor añadido, nunca van a sustituirnos las máquinas. Lo explicó perfectamente Xavier Marcet en este artículo publicado en La Vanguardia, en el que defiende “La suma de inteligencias”:

Pensemos más en términos de hibridación de que sustitución

La combinación de capacidades, esa hibridación, es por tanto lo más eficiente. Y lo más inteligente por cierto.

_______________________________________________________________

En resumen, la AI va en serio. Su impacto mundial a todos los niveles va a ser brutal en los próximos años. Uno de esos niveles es la economía. Otro, mucho más relacionado de lo que pudiera parecer, es la Administración. Hoy hemos compartido algunas notas. No ha sido la primera vez ni será la última. Este es un tema que nos (pre)ocupa, y de cuya buena gestión somos responsables los gestores de lo público.

Anexo. White Paper on Artificial Intelligence: a European approach to excellence and trust

© TODOS LOS DERECHOS RESERVADOS. NOSOLOAYTOS. WEB OFICIAL DE VÍCTOR ALMONACID LAMELAS 2020. AVISO LEGAL.

5 Comentarios Agrega el tuyo

  1. Gardian dice:

    The right form is “to shape” instead of “to shap”. There is not such a verb.

  2. Mercedes dice:

    Excelente artículo. Gracias.

    1. valmonacid dice:

      Muchas gracias a todas las personas que lo leéis.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s