retos de responsabilidad y transparencia en España y Europa
La incorporación de sistemas de inteligencia artificial en las administraciones públicas ya no es una promesa de futuro, sino una realidad que avanza a pasos agigantados. Sin embargo, este progreso tecnológico viene acompañado de importantes debates jurídicos y éticos sobre cómo garantizar que su uso sea transparente, responsable y respetuoso con los derechos fundamentales. En España y en el conjunto de la Unión Europea, las instituciones se enfrentan al reto de regular estas herramientas sin frenar la innovación, pero también sin dejar huecos que permitan la opacidad o la falta de control.
Dos informes recientes, uno del Centro Común de Investigación (JRC) de la Comisión Europea y otro de la Revista General de Derecho Administrativo, junto con el análisis de la doctora María Luisa García Torres, ponen sobre la mesa las principales preocupaciones: la responsabilidad de las administraciones cuando un algoritmo comete un error, la necesidad de reformar las directivas de contratación pública y la urgencia de establecer mecanismos de supervisión humana efectivos.
El debate sobre las sanciones a las administraciones públicas
Uno de los puntos más controvertidos en la tramitación del Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial en España es la exclusión de multas administrativas para las administraciones públicas que incumplan las obligaciones del Reglamento Europeo de Inteligencia Artificial (RIA). Mientras que los operadores privados se enfrentan a sanciones económicas significativas, el sector público solo recibiría apercibimientos y medidas correctoras. La doctora García Torres, experta en derecho TIC y protección de datos, considera que esta diferencia supone una debilidad del proyecto, ya que la rendición de cuentas del poder público debería ser, al menos, tan exigente como la del sector privado. El artículo 39 del proyecto establece que, ante una infracción, la autoridad competente dictará una resolución declarando la infracción y apercibiendo a la entidad, pero sin imponer multas, al amparo del artículo 99.8 del RIA, que deja a los Estados miembros la decisión sobre la imposición de sanciones a los organismos públicos.
Esta situación ha generado un intenso debate entre juristas, que señalan que la responsabilidad patrimonial de la administración no es suficiente para cubrir todos los supuestos de daños causados por sistemas de IA. El ciudadano que sufre un perjuicio debe demostrar el nexo causal entre el funcionamiento del algoritmo y el daño, lo que resulta extremadamente difícil cuando el sistema es una «caja negra» opaca. Además, el régimen disciplinario de los empleados públicos no aborda la responsabilidad institucional de la organización que decide implantar y mantener un sistema de IA defectuoso.
La contratación pública de sistemas de IA, en el punto de mira
Otro de los grandes desafíos es la contratación de sistemas de inteligencia artificial por parte de las administraciones. Las directivas europeas de 2014 sobre contratación pública fueron diseñadas para un contexto tecnológico muy distinto, y no contemplan las particularidades de los algoritmos que aprenden y evolucionan. El estudio de María Cristina Díaz Vilas, publicado en la Revista General de Derecho Administrativo, subraya que la fragmentación del mercado único europeo y la falta de armonización normativa generan barreras para las empresas y riesgos para la transparencia. La opacidad de los algoritmos, protegidos a menudo por secretos comerciales, impide que la administración pueda motivar adecuadamente sus decisiones y que los ciudadanos puedan impugnarlas.
El informe del JRC, por su parte, analiza la adopción de IA generativa en las administraciones públicas de la UE y destaca la necesidad de entornos seguros, gobernanza de datos y competencias profesionales para una integración responsable. El documento advierte sobre el uso informal de herramientas comerciales por parte de los empleados públicos, lo que plantea riesgos de seguridad y coherencia organizativa. Las recomendaciones apuntan a avanzar desde experiencias fragmentadas hacia una integración estratégica y controlada.
Supervisión humana y soberanía tecnológica
Expertos como el catedrático Ricardo Rivero Ortega y el profesor Andrés Boix Palop han insistido en la necesidad de mantener una «reserva de humanidad» en las decisiones administrativas automatizadas. El algoritmo no puede sustituir el juicio humano cuando están en juego derechos fundamentales. La sentencia del Tribunal Supremo de 2025 sobre el caso BOSCO, que obligó a revelar el código fuente de una herramienta de asignación de ayudas, marca un hito en el reconocimiento del derecho de acceso a la información pública algorítmica.
Asimismo, la dependencia tecnológica de proveedores extracomunitarios, especialmente estadounidenses, preocupa a los legisladores europeos. El informe Draghi sobre la competitividad europea alerta de que más del 80% del gasto en servicios cloud y software profesional en la UE es capturado por empresas estadounidenses, lo que supone una fuga de capital y una vulnerabilidad estratégica. La contratación pública de IA debe priorizar la soberanía digital, exigiendo estándares de código abierto, interoperabilidad y auditoría independiente.
En definitiva, la inteligencia artificial ofrece oportunidades inmensas para mejorar la eficiencia y la calidad de los servicios públicos, pero su implantación no puede hacerse a costa de debilitar las garantías jurídicas. La transparencia, la supervisión humana y la responsabilidad institucional son pilares irrenunciables para que la administración del futuro sea no solo más inteligente, sino también más justa y democrática. La tramitación parlamentaria del proyecto de ley español y la próxima reforma de las directivas europeas de contratación pública serán pruebas de fuego para determinar si Europa es capaz de liderar un modelo de IA pública ética y soberana.
