10 mitos falsos (prejuicios) sobre la inteligencia artificial en la Administración

“Saber mucho no es lo mismo que ser inteligente. La inteligencia no es sólo información, sino también juicio, la manera en que se recoge y maneja la información”

(Carl Sagan)

Como bien es sabido, y bien que lo sufrimos en nuestras propias carnes, todo lo nuevo (o incluso lo no tan nuevo) genera sus resistencias. Con la introducción de la inteligencia artificial en el ámbito de la actuación administrativa no estamos viviendo nada que no viviéramos con la informática hace tres décadas o con la administración electrónica más recientemente. Valga esta experiencia acumulada para desmontar los 10 principales mitos falsos o prejuicios que hemos detectado sobre la inteligencia artificial aplicada a la Administración.

1. La inteligencia artificial nunca se implantará en las Administraciones Públicas

Muy brevemente: es un hecho que ya se ha implantado desde hace años. Eso sí, de manera parcial y muy irregular. Este avance debería ser mucho más homogéneo.

2. Los algoritmos toman decisiones que deberían tomar las personas

Esa es una media verdad, quizá 1/4 de verdad más bien. Los algoritmos son instrumentos al servicio de la IA, pero no la IA en sí. Se define algoritmo como un un «conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución de un tipo de problemas». Es un término que procede claramente del mundo de las matemáticas, y que se puede extrapolar fácilmente a la informática debido a que dichos cálculos en la actualidad son objeto de programación. Y como todo instrumento, sirve a un fin. Cualquier inteligencia artificial maneja unos cuantos algoritmos de forma simultánea, de manera que estos se convierten en una máquina nueva, un sistema programado que maneja datos, los filtra a través de dicha programación algorítmica, y finalmente arroja unos resultados lógicos y siempre idénticos para idénticas situaciones, por lo que en principio no sería discriminatorio. Por eso nuestra opinión es que, desde la óptica administrativa, los algoritmos son trámites reglados. El art. 41.1 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, al que nos hemos referido en numerosas ocasiones, establece que  «Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público». Por tanto, ¿estamos hablando de una norma o de la articulación formal del procedimiento definido precisamente en una norma? Entendemos que no estamos en la fase de regulación, sino en la de ejecución. Si un algoritmo es y sigue siendo, pese a todo, ese «conjunto de operaciones que permite hallar la solución de un problema», de alguna manera no deja de moverse en ese nivel científico que abarca el ámbito disciplinar de las matemáticas, la lógica y las ciencias de la computación. Quizá no haya nada que decidir después de todo, por lo que un algoritmo «bien programado» en realidad no alcanza cota alguna de discrecionalidad. Esto no obsta a las consideraciones éticas que apuntamos en el siguiente punto (abogamos por la ética by design), ni a la necesidad de establecer algún mecanismo puntual de supervisión «humana». Lo que sí tenemos muy claro, es que en algún momento de la implantación del procedimiento electrónico (se supone que) hemos obtenido unos flujogramas a partir del trabajo de la reingeniería de procedimientos, y que en esta labor hemos catalogado todos los trámites de cada procedimiento, asignándolos a una actuación material humana (firma electrónica) o convirtiéndolos en un automatismo (sello electrónico). En resumen: el algoritmo no es el origen ni el fin; es el medio, el instrumento. Y el responsable intelectual del instrumento siempre el ser humano. Incluso en el machine learning (máquinas que aprenden e incluso se reprograman).

3. Los algoritmos no son capaces de ponderar los aspectos éticos de las decisiones

Partimos de una premisa clara: «Europa apuesta por la ética y la transparencia para desarrollar su inteligencia artificial«. Es cierto que la ética no es exactamente una calificación jurídica, aunque también podríamos argumentar que el Derecho Natural es, en esencia, ético. A este argumento debemos añadir la positivización de los modernos principios generales del Derecho del sector público, tales como integridad pública, transparencia y buena fe, por lo que de alguna manera sí sería un concepto jurídico. Desde este planteamiento, la conclusión es sencilla: la Administración siempre debe cumplir el Derecho y siempre debe actuar de una manera ética, objetiva, igualitaria y no discriminatoria, incluso cuando actúa a través de algoritmos y otros sistemas predominantemente tecnológicos, por supuesto. Personalmente me gusta mucho el planteamiento de «Alorza«, recogido en  su entrada «La ética del uso de datos y algoritmos«, quien defiende que «en toda estrategia de transformación digital, donde los datos son la materia prima, debe contemplarse la dimensión ética. Mucho más cuando entramos en escenarios de toma de decisiones algorítmica.» Y de la teoría a la práctica. Precisamente al propio Alberto y su equipo han tenido la oportunidad de poner en práctica estas ideas con el Gobierno de Navarra. En el citado artículo se resume este interesante proyecto. En la misma línea la siempre lúcida Elisa de La Nuez («Algoritmos y transparencia»), quien concluye que «parece un tanto excesivo que el Consejo de Transparencia deniegue el acceso al código fuente en base a la existencia del límite previsto en el art. 14 j) de la Ley 19/2013 de 9 de diciembre referente a la propiedad intelectual de los programas informáticos. Aquí no se trata de proteger la propiedad intelectual de un programa –más allá de las disquisiciones que realiza el CTBG acerca de si el software puede o no estar protegido por el derecho de autor como obra literaria- para que nadie lo copie o lo plagie. Se trata sencillamente de determinar qué es lo que puede estar funcionando mal en la configuración técnica del mismo para que se esté denegando una ayuda a gente que sí reúne los requisitos para acceder a ella.  En todo caso, parece en este caso el test del daño y el test del interés público que siempre hay que realizar debería decantarse claramente a favor de la transparencia.»

4. La Administración se deshumaniza

Ese es un cliché un tanto desgastado, la verdad. Que la tecnología no sea humana no significa que su implantación deshumanice el mundo en el que vivimos. La sociedad se deshumaniza sola, no le echemos la culpa a quien no la tiene. Desde el avance de los tiempos, toda tecnología nueva ha sido objeto de buenos y malos usos. Los primeros son los que han hecho avanzar (a) la Humanidad, mientras que los segundos casi la destruyen. Pero no nos dejemos llevar por las películas de Ciencia Ficción, aunque en el próximo punto nos referiremos a una de las más famosas de todos los tiempos.

5. Quita puestos de trabajo

Esta es una cuestión a la que, de una u otra forma, ya nos hemos referido en numerosas ocasiones (véase en este blog “¿Quién va a cubrir los altos cargos cuando se jubilen?“, “Enamorando al empleado público del mañana“, o “La automatización laboral: adiós a todos los trabajos físicos“; y en otros medios, por ejemplo, nuestro artículo “El empleo público a mediados del siglo XXI: problemas y soluciones. Una propuesta integradora“). Lo cierto es que, estas alturas de la película, sólo un necio negaría que la automatización de trámites y tareas tendrá un impacto más que notable en el empleo público. De hecho ya lo está teniendo. Pero esto no es malo. Destruye puestos, sí, pero de escaso valor añadido, mientras que simultáneamente crea otros de mayor calidad. Aceptemos esta realidad y no le demos la vuelta para que parezca un atropello a los derechos de los trabajadores, porque no lo es.

Star Wars automatización
Elenco original de Star Wars. Quizá conozcan a todos menos a Kenny Baker, el actor más bajito quien dio vida al famoso robot R2-D2 durante 7 películas. Falleció en 2016, cuando quedaban por rodar las dos últimas de la saga. Fue sustituido por un robot de verdad

Hace unos meses se publicó la Resolución de la Secretaría de Estado de Función Pública por la que se convocan procesos selectivos para Cuerpos de la AGE… ¡Miles de plazas de puestos automatizables! ¿Tiene algún sentido sustituir a un funcionario de 65 años “que hace fotocopias” por uno de 25 años seleccionado en principio para hacer lo mismo hasta 2062? No podemos mantener o crear puestos “sin contenido”. Echamos de menos que las ofertas de empleo público se hagan eco de la realidad, y por tanto de las necesidades reales de cubrir determinados puestos de trabajo en las AAPP, puestos que por definición nunca serán amortizados o sustituidos por máquinas:

1.- Atención ciudadana avanzada: asistencia en trámites (por encima del nivel básico de un chatbot), servicios sociales, mediación, otros servicios asistenciales, actividades lúdicas y educativas…

2.- Puestos directivos y de carácter muy técnico: dirección y coordinación de proyectos, programador y supervisor de algoritmos, DPO, analista de datos, gestor de conflictos, compliance officer

Y es que si nos reservamos el trabajo humano, emocional, relacional, el que tiene verdadero valor añadido, nunca van a sustituirnos las máquinas. Lo explicó perfectamente Xavier Marcet en este artículo publicado en La Vanguardia, en el que defiende “La suma de inteligencias”:

Pensemos más en términos de hibridación de que sustitución

La combinación de capacidades, esa hibridación, es por tanto lo más eficiente. Y lo más inteligente por cierto.

6. Muchos Ayuntamientos pequeños no pueden abordar este proceso de cambio, por falta de medios. 

Decía la Ley 11/2007 que si el 31 de diciembre de 2009 no había “disponibilidades presupuestarias” la implantación de la Ley se podía demorar. ¿Cuánto tiempo? De momento ya han pasado 15 años desde aquella Ley, ya derogada por otra que impone con mucha mayor contundencia estas obligaciones (en 2015), precedida de otra que atribuye la competencia a las Diputaciones Provinciales (2013). Ante la ausencia de medios pidamos ayuda, porque las administraciones supramunicipales deben darla. No está nada mal, tampoco, el Catálogo de Servicios de la Administración Digital del Estado a los que un Ayuntamiento se puede adherir. Estamos hablando de normas y herramientas propias de la administración electrónica, una fase menos avanzada, por así decirlo, que la IA, pero lo importante es el hecho de que la propia Ley asiste a las entidades públicas más modestas para que otros las ayuden. El proyecto en realidad es el mismo, porque partiendo de allí debemos llegar aquí. Por tanto podemos utilizar los «antiguos» instrumentos de ayuda. Eso sí, lo cierto que la gestión interna del cambio es algo que nadie hará por usted. Hacer que una organización funcione de otra manera siempre cuesta, aún cuando el nuevo método es mucho más eficaz y eficiente, pero eso los empleados lo ven más adelante, precisamente cuando ya está implantado. Un Ayuntamiento pequeño tiene menos recursos, claro está, pero en la parte positiva tiene menos expedientes y mucha menor complejidad. La tecnología necesaria en estos casos es barata, y además estos proyectos se amortizan rápidamente, porque generan de inmediato un ahorro que se puede calcular fácilmente. Muchas veces confundimos el “no poder” con el “no querer”. Los grandes cambios en la Administración realmente tienen enemigos de mucho mayor calado que el coste de la inversión.

7. Una tecnología tan avanzada va en contra de la gente mayor

¿Por qué? La IA, al igual que administración electrónica, no supone la sustitución de un sistema de atención al público por otro. Su mayor impacto es interno. Desde luego que la administración debe ser íntegramente electrónica, y debería empezar a ser parcialmente «automática», pero el ciudadano, ese que paga sus impuestos, puede elegir cuan tecnológico desea ser. Tenga la edad que tenga siempre va a poder operar a través de una plataforma electrónica o, si así lo desea, de forma presencial, cara a cara, dialogando con un empleado público. Dicho lo cual, alguno se sorprendería del enorme uso de los medios electrónicos en la franja de la mal llamada «tercera edad». En la actualidad se ofertan miles de cursos de informática a nivel de usuario para personas mayores, y les aseguro que son mayores, no tontos, de modo que son capaces de aprender. Pero todo eso si quieren claro, porque partimos de la voluntariedad de la persona… En definitiva, el ciudadano puede optar por relacionarse con la administración por medios electrónicos o, si así lo desea, del modo tradicional. La tramitación on line es una puerta más que se abre, pero no se cierra ninguna. No se discrimina a nadie. Precisamente, las administraciones más modernas tienen a disposición del público las oficinas de atención ciudadana de mayor calidad. Cuando algo funciona bien, funciona bien. La catalogación y la automatización interna de los procesos lo facilita, claro está, pero el ciudadano, aún hoy en 2022, puede renunciar a la tecnología en sus relaciones con la Administración si considera que le resulta más cómodo el cauce presencial.

8. Implantar la IA en la Administración realmente no sirve para nada

Esta es la barbaridad más grande de las 10, porque de hecho sirve para todo. Es la política pública de las políticas públicas. Empecemos por la lectura del documento Shaping Europe’s digital future… Me encanta el verbo to shape, por cierto, que significa «dar forma» (al futuro digital de Europa). Esta ingente labor a la que aludimos, que no es ni remotamente sencilla, se puede no obstante lograr a través de una buena definición e implantación de la IA en relación con los datos (ver estrategia europea de datos), tal y como reza el propio documento citado. Según la citada fuente, «En su Libro Blanco, la Comisión propone un marco para una inteligencia artificial fiable, basado en la excelencia y la confianza» (el título del Libro blanco es, literalmente, «Sobre inteligencia artificial: un enfoque europeo hacia la excelencia y la confianza»). Y sigue: «En asociación con los sectores público y privado, el objetivo es movilizar recursos a lo largo de toda la cadena de valor y crear los incentivos apropiados para acelerar la implantación de la IA, también entre las pequeñas y medianas empresas. Para ello será también necesario colaborar con los Estados miembros y la comunidad investigadora, con el fin de atraer y retener el talento. En vista de que los sistemas de IA pueden ser complejos y conllevar unos riesgos importantes en determinados contextos, es esencial crear confianza. Son necesarias normas claras, que aborden los sistemas de IA con un elevado nivel de riesgo sin suponer una excesiva carga para los que entrañan unos riesgos menores. Las estrictas normas de la UE en materia de protección de los consumidores, que abordan las prácticas comerciales desleales y protegen los datos personales y la privacidad, siguen siendo aplicables». Por eso «La Comisión ha desvelado sus ideas y medidas para una transformación digital que redunde en beneficio de todos, y refleje lo mejor de Europa: abierta, justa, diversa, democrática y con confianza en sí misma. La estrategia presenta una sociedad europea impulsada por soluciones digitales que sitúan en el lugar preferente a las personas, abre nuevas oportunidades para las empresas y da impulso al desarrollo de una tecnología fiable que fomente una sociedad abierta y democrática y una economía dinámica y sostenible. La digitalización es un factor clave en la lucha contra el cambio climático y en la consecución de la transición ecológica.»

9. Es un sistema «hackeable»

Siendo realistas, hoy en día todo es «hackeable». Pero precisamente la tecnología de última generación es más segura y, como indicábamos, mucho más fiable, que los sistemas informáticos de antaño. Por lo demás, nuestros lectores habituales son conocedores de nuestra obsesión por el escrupuloso cumplimiento del Esquema Nacional de Seguridad y de la normativa sobre ciberseguridad. La seguridad total no existe, pero cuando en un barrio hay dos casas vecinas, casi idénticas, pero en una se ha invertido mucho más en seguridad que en la otra, está claro dónde van a entrar los ladrones.

10. Se mueve en la alegalidad

No, ya que incluso sin entrar a rebatir la demagogia de los que confunden y hacen confundir alegalidad con ilegalidad, de hecho la IA de la Administración sí se encuentra regulada o cuanto menos recogida en la Ley. Para empezar, la automatización de algunos trámites se convierte prácticamente una obligación para las entidades del sector público a partir de la citada Ley 40/2015, de 1 de octubre, entre otras (ver el Real Decreto 203/2021, de 30 de marzo). Por supuesto, no debemos dejar de citar el hito legal más reciente al respecto, recogido en la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación. En concreto en su artículo 23, bajo la rúbrica «Inteligencia Artificial y mecanismos de toma de decisión automatizados», el cual reproducimos literalmente y subrayamos en los incisos que abordan los aspectos que venimos comentando:

1. En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio. Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio.

2. Las administraciones públicas, en el marco de sus competencias en el ámbito de los algoritmos involucrados en procesos de toma de decisiones, priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos.

3. Las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido.

4. Se promoverá un sello de calidad de los algoritmos.

_____________________________________________________________________________

Dicho todo lo anterior, damos por desmontados los 10 clichés. Prejuicios desinformados y más o menos malintencionados por parte de quienes tocan de oído o simplemente aspiran a tocar otra cosa.

Por último me gustaría destacar, una vez más, el carácter instrumental de la tecnología. Los algoritmos, como herramienta tecnológica de programación avanzada que son, no constituyen ningún fin, y menos en la Administración, cuyo fin es siempre el interés general. Son un simple medio que debemos utilizar para prestar más y sobre todo mejores servicios. Para no salirnos de este camino, debemos abordar el tema de la inteligencia artificial precisamente con inteligencia, ética (tal y como se ha explicado) y una debida ponderación de otros elementos que mantengan el desarrollo tecnológico siempre dentro de los cauces del Estado de Derecho (sobre el peligro de que esto no sea así véase la interesante reflexión de Juli Ponce Solé, en su artículo «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico«).


Anexo. White Paper on Artificial Intelligence: a European approach to excellence and trust

© TODOS LOS DERECHOS RESERVADOS. NOSOLOAYTOS. WEB OFICIAL DE VÍCTOR ALMONACID LAMELAS 2022. AVISO LEGAL.

Un comentario Agrega el tuyo

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s