Este libro analiza la relación entre la inteligencia artificial (IA) y los decisores humanos en la toma de resoluciones administrativas automatizadas, tomando en consideración el Reglamento de la Unión Europea (UE) de Inteligencia Artificial de 2024, publicado en el Diario Oficial de la UE el 12 de julio de 2024, y la legislación española, con el objeto de proponer mejoras normativas en España y analizar cómo deba ser el control judicial contencioso-administrativo adecuado de las decisiones adoptadas por las Administraciones
Públicas con IA.
Para ello, tras exponer brevemente los distintos tipos de IA, se argumenta cómo la eliminación de la discrecionalidad (fettering), en el caso de la IA basada en reglas, y determinadas características, por el momento únicamente humanas, como la empatía y la realización de razonamientos abductivos, en el caso de la IA no simbólica o estadística (de aprendizaje automático o profundo) suponen un impedimento jurídico para el ejercicio totalmente automatizado de la discrecionalidad por máquinas. Estas, por
el momento, y de acuerdo con el principio de precaución, no deberían realizar juicios volitivos, pues se violaría el derecho a una buena administración, a la que se vincula el desarrollo de un procedimiento administrativo debido con participación ciudadana y la necesidad de una motivación comprensible,
que sería inexistente ante la opacidad causada por las denominadas cajas negras.
Tras analizar el Reglamento de la UE sobre IA al respecto, se considera la regulación jurídica en España en este campo, la cual es escasa y dispersa. Se sugiere la explicitación de la prohibición jurídica antes expuesta, como ya han realizado algunas normas de Derecho comparado y autonómico, la denominada «reserva de humanidad», sin perjuicio de que la IA puede emplearse como apoyo al decisor humano en la toma de resoluciones discrecionales y para adoptar decisiones regladas. Asimismo, se sugieren diversas
mejoras de la regulación del uso de la IA por las Administraciones. Se finaliza el análisis con la necesidad de reflexionar sobre el modo de desarrollar la supervisión humana de la IA y la intervención humana, para
configurarlos como derechos subjetivos de las personas, así como las posibilidades y problemas del control judicial contencioso-administrativo de decisiones administrativas automatizadas adoptadas con IA, analizando diversas recientes resoluciones judiciales europeas, internacionales y españolas ya dictadas en este ámbito y reflexionando sobre la deferencia judicial y sus límites.
