La transformación digital de la Seguridad Social a través de la IA y la actuación administrativa automatizada (AAA)
Miguel Arenas Gómez
Profesor de Derecho del Trabajo y Seguridad Social
Estudios de Derecho y Ciencia Política
Universitat Oberta de Catalunya
"Seguridad Social e Inteligencia Artificial", 9as Jornadas Jurídicas CC.OO. 29/05/2026
Abstract
El presente artículo examina críticamente la transición de la Seguridad Social española hacia un modelo de administración digitalizada, contrastando la sólida regulación de la Actuación Administrativa Automatizada (AAA) con la opacidad de los sistemas de Inteligencia Artificial (IA) predictiva. A través de una analogía con las Leyes de la Robótica de Asimov, se desglosa el marco legal habilitante (Ley 40/2015 y LGSS) que garantiza la responsabilidad, programación y auditoría de los procesos automatizados. Sin embargo, el estudio denuncia una preocupante "asimetría de transparencia" cuando la Administración emplea algoritmos predictivos (como el SAS Fraud Framework o BAREDI) que operan como "cajas negras", eludiendo el escrutinio público y corriendo el riesgo de perpetuar sesgos discriminatorios. Apoyándose en el nuevo Reglamento Europeo de IA (RIA) y en jurisprudencia pionera como el "Caso BOSCO", la ponencia concluye exigiendo el fin de la opacidad algorítmica, la implementación de un control humano real y la creación de un Registro Estatal Centralizado de Algoritmos Públicos.
Nota metodológica: El análisis documental y la estructuración de la presente ponencia han sido asistidos por Inteligencia Artificial (Gemini Pro y NotebookLM). La autoría intelectual, el enfoque crítico y la validación final del contenido recaen íntegramente en el autor, garantizando así la necesaria supervisión humana del estudio.
1. Fundamentación legal y punto de partida: El marco que permite la actuación automatizada
El tránsito de la administración tradicional a un modelo de administración digital avanzada no constituye una simple actualización de herramientas, sino una reconfiguración estructural que exige armonizar la eficiencia operativa con las garantías del Estado de Derecho. En este contexto, la automatización se erige como un imperativo estratégico para gestionar la complejidad creciente del sistema prestacional sin comprometer la seguridad jurídica.
El andamiaje legal de esta transformación se sustenta en el artículo 41.1 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, que define la actuación administrativa automatizada, y de manera específica para el ámbito de la protección social, en el artículo 130 Real Decreto Legislativo 8/2015, de 30 de octubre, por el que se aprueba el texto refundido de la Ley General de la Seguridad Social (en adelante, LGSS). Este último actúa como el habilitador sectorial que permite la adopción y notificación de resoluciones automatizadas en la gestión de prestaciones. Sin embargo, estas facultades no son cheques en blanco; la normativa impone cautelas rigurosas que autorizan únicamente a los órganos competentes tras una resolución formal de su titular.
Artículo 41 ley 40/2015. Actuación administrativa automatizada.
1. Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público.
2. En caso de actuación administrativa automatizada deberá establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación.
Artículo 130 LGSS. Tramitación electrónica de procedimientos en materia de Seguridad Social.
De acuerdo con lo dispuesto en el artículo 41.1 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, podrán adoptarse y notificarse resoluciones de forma automatizada en los procedimientos de gestión tanto de la protección por desempleo previstos en el título III como de las restantes prestaciones del sistema de la Seguridad Social previstas en esta ley, excluidas las pensiones no contributivas, así como en los procedimientos de afiliación, cotización y recaudación.
A tal fin, mediante resolución de la persona titular de la Dirección General del Instituto Nacional de la Seguridad Social, del Servicio Público de Empleo Estatal o de la Tesorería General de la Seguridad Social, o de la persona titular de la Dirección del Instituto Social de la Marina, según proceda, se establecerá previamente el procedimiento o procedimientos de que se trate y el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación.
Así, a modo de protección de la ciudadanía, al estilo de las tres leyes de la robótica de Isaac Asimov, ambos artículos intentan evitar la opacidad algorítmica y asignar una responsabilidad institucional clara, asegurar que el ciudadano pueda impugnar la decisión ante un órgano identificable, transformando la eficiencia técnica en certidumbre jurídica.
Si me permiten la analogía, y atendiendo a la configuración legal de la Actuación Administrativa Automatizada (en adelante, AAA), simularemos que esta es el equivalente jurídico a las tres leyes robótica, ya que al fin y al cabo son sistemas que toman decisiones sin intervención humana directa en el momento de ejecutarlas.
Para que la Administración Pública pueda "utilizar" a sus algoritmos sin vulnerar los derechos de los ciudadanos, la Ley 40/2015 y la Ley General de la Seguridad Social (LGSS) establecen un marco de control que encaja perfectamente con las Tres Leyes de la Robótica de Isaac Asimov. A saber:
1. La Primera Ley de Asimov: "Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño."
- Un sistema automatizado no puede tomar una decisión que perjudique a un ciudadano sin que haya una vía clara para defenderse o un responsable al que reclamar.
- El requisito legal (Arts. 41 y 130): La obligación de indicar expresamente el órgano que debe ser considerado responsable a efectos de impugnación.
- El símil: Si el algoritmo te deniega la prestación por desempleo o calcula mal tu cotización, la culpa nunca es "de la máquina". Siempre hay un órgano (en el INSS, SEPE, TGSS, etc.) que asume la responsabilidad jurídica. Además, el artículo 130 aplica un principio de precaución similar a esta Primera Ley al excluir las pensiones no contributivas de la automatización total; quizás por su vulnerabilidad inherente, requieren que un humano supervise que nadie sufra "daño". O quizás peco de optimista y la realidad es que son gestionadas por las Consejerías y Departamentos de las CC.AA y han considerado que no cabe ampliar hasta aquellas la automatización. También excluye los procedimientos de afiliación, cotización y recaudación.
2. La Segunda Ley de Asimov: "Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas entran en conflicto con la Primera Ley."
- Un sistema informático administrativo no tiene voluntad propia ni discrecionalidad; solo hace exactamente aquello para lo que ha sido programado.
- El requisito legal (Arts. 41 y 130): La definición de AAA es que la actuación se realiza sin intervención directa de un empleado público, pero requiere establecer previamente mediante resolución (de la Dirección General correspondiente) el procedimiento, las especificaciones y la programación, así como el órgano competente a dichos efectos.
- El símil: El sistema informático de la Seguridad Social obedece ciegamente las "órdenes" dictadas por la persona titular de la Dirección General. Estas órdenes son las reglas de actuación y las especificaciones técnicas. El algoritmo ejecuta la tramitación de forma autónoma, pero está estrictamente atado a los parámetros legales y procedimentales que los humanos han definido de antemano.
3. La Tercera Ley de Asimov: "Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley."
- Para que un algoritmo siga siendo útil y no empiece a cometer errores en cadena ni a tomar decisiones con marcados sesgos (lo que violaría las leyes anteriores), su código y su funcionamiento deben estar constantemente vigilados y monitorizados.
- El requisito legal (Arts. 41 y 130): La exigencia de determinar los órganos competentes para el mantenimiento, supervisión, control de calidad y, en su caso, auditoría del sistema de información y de su código fuente.
- El Símil: La "salud" del sistema es vital. La Administración no puede simplemente encender el servidor y olvidarse. Tiene la obligación de auditar el código fuente y aplicar controles de calidad continuos. Esto garantiza que el sistema no se degrade, no contenga sesgos ocultos y siga funcionando de manera íntegra, protegiendo así su viabilidad como herramienta legal.
En resumen, la ley permite que la "máquina" decida sola (Segunda Ley - Programación previa y especificaciones), siempre que mantenga un funcionamiento técnico impecable y transparente (Tercera Ley - Auditoría y control de calidad), con el fin último de que el ciudadano siempre sepa a qué "humano" reclamar si algo falla (Primera Ley - Órgano responsable a efectos de impugnación).
Establecidos estos principios de rango legal, resulta necesario analizar el escalonamiento normativo que dota de operatividad técnica a estas previsiones.
2. Arquitectura normativa: del Reglamento General a las Resoluciones de ejecución
2.1. Real Decreto 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos
La operatividad de la gestión automatizada requiere una regulación detallada que convierta las facultades legales en procedimientos ágiles y automatizados. Este despliegue se articula a través del Real Decreto 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos, y diversas resoluciones posteriores, que constituyen un hito en la implementación de la tramitación electrónica automatizada. No obstante, la DA 10ª excluye de su regulación y remite a la específica las actuaciones y procedimientos de gestión, inspección, liquidación, recaudación, impugnación y revisión en materia de Seguridad Social y desempleo. Al respecto, nos remitimos a la Orden ESS/484/2013, de 26 de marzo, por la que se regula el Sistema de remisión electrónica de datos en el ámbito de la Seguridad Social, que regula el Sistema RED de la Tesorería General de la Seguridad Social, estableciendo su uso obligatorio para empresas y trabajadores autónomos en la gestión electrónica de trámites como altas, bajas, cotizaciones, recaudación y comunicación de partes médicos. La normativa advierte de forma estricta que la falta de incorporación efectiva a este sistema informático conlleva la pérdida y suspensión automática de cualquier reducción o bonificación en las cuotas de la Seguridad Social que el sujeto obligado tuviera concedida. Toda actuación realizada a través de esta plataforma requiere contar con una autorización previa de la TGSS, ya sea para actuar en nombre propio o en representación de terceros, lo que garantiza que las transmisiones telemáticas gocen de plena validez jurídica y generen los mismos derechos y obligaciones que los trámites físicos tradicionales. Finalmente, para dotar al proceso de total seguridad, el sistema exige la identificación mediante firma electrónica y asegura la confidencialidad, integridad y el no repudio de los envíos mediante el cifrado de datos, permitiendo además que los documentos impresos incluyan elementos de contraste verificables como el código electrónico de autenticidad.
Dicho lo anterior, y retornando al ámbito de gestión de prestaciones, el artículo 13.2 del RD 203/2021 establece que la AAA debe ser autorizada expresamente por el titular del órgano administrativo competente. Bajo este amparo, por ejemplo, la Resolución de 28/10/2024 regula procesos críticos como los requerimientos de subsanación y las resoluciones de desistimiento (Art. 68 Ley 39/2015), utilizando el sello electrónico de la entidad gestora para garantizar la autenticidad. La arquitectura de responsabilidad establecida en la citada resolución desglosa las competencias de la siguiente manera:
- Definición de especificaciones: Subdirección General de Gestión de Prestaciones y Subdirección General de Gestión de Incapacidad Temporal.
- Diseño informático, programación y auditoría del código fuente: Gerencia de Informática de la Seguridad Social (GISS).
- Supervisión y control de calidad: Órgano ejecutivo competente de la entidad gestora.
El Real Decreto 203/2021 aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos. Aunque es una norma de carácter transversal para todas las Administraciones Públicas, en materia de Seguridad Social constituye la norma jurídica básica que da cobertura legal y fija los límites para que entidades como el INSS o la TGSS puedan automatizar sus procedimientos.
El RD 203/2021 establece las siguientes obligaciones clave para la implantación de la Inteligencia Artificial y la actuación administrativa automatizada (AAA) en este sector:
A) Requisitos estrictos para aprobar actuaciones automatizadas (Art. 13)
El artículo 13.2 del Reglamento establece que para que una entidad gestora pueda realizar trámites íntegramente por medios electrónicos sin la intervención directa de un empleado público, debe autorizarse previamente mediante una resolución expresa del titular del órgano competente. Esta resolución debe publicarse obligatoriamente en la sede electrónica y tiene que especificar de forma clara:
- Qué medidas se adoptan para salvaguardar los derechos de los ciudadanos.
- Qué recursos legales proceden contra la actuación automatizada, el órgano ante el que deben presentarse y los plazos para interponerlos, evitando así la indefensión del administrado ante las decisiones de la máquina.
B) Uso de Sellos Electrónicos como sistema de firma (Arts. 19 y 20)
El artículo 42 de la Ley 40/2015 y los artículos 19 y 20 del Reglamento del RD 203/2021 habilitan a las Administraciones para utilizar un sello electrónico de entidad en sus decisiones automatizadas. En el ámbito estatal, el artículo 19.3 especifica que la creación de estos sellos se realizará mediante resolución del titular de la presidencia o dirección del organismo público. Esto es lo que permite que las resoluciones del INSS (ej. Concesión del Ingreso Mínimo Vital) o de la TGSS (ej. Altas y bajas automáticas) tengan plena validez jurídica al ir firmadas digitalmente por el sello de la entidad, sin necesitar la firma personal de un funcionario.
C) Garantía de integridad mediante Código Seguro de Verificación (Art. 21)
El RD 203/2021 ampara el uso de sistemas de Código Seguro de Verificación (CSV) en estas actuaciones automatizadas. Este código vincula el documento al organismo público emisor, permitiendo que cualquier ciudadano pueda comprobar de forma directa y gratuita la integridad y autenticidad del documento generado por el sistema acudiendo a la sede electrónica correspondiente.
D) Interoperabilidad de los Registros (Art. 60)
El Reglamento obliga a que los registros electrónicos de las distintas entidades sean interoperables a través del Sistema de Interconexión de Registros (SIR), garantizando que las solicitudes que entran por registro se conecten de forma eficiente con los sistemas de gestión de expedientes de las unidades de tramitación.
En la práctica, todas las resoluciones recientes dictadas por el INSS, la TGSS o el Instituto Social de la Marina (ISM) para automatizar el reconocimiento de pensiones, tramitar altas laborales o emitir actas de infracción se dictan en cumplimiento directo de las garantías procesales que impone este RD 203/2021.
2.2. Resoluciones y procedimientos automatizados en materia prestacional
El Instituto Nacional de la Seguridad Social (INSS) tiene autorizada la adopción de resoluciones de forma automatizada, utilizando como sistema de firma el sello electrónico de la entidad, en los siguientes 12 procedimientos concretos:
- 1. Jubilación en su modalidad contributiva.
- 2. Muerte y supervivencia. (Quedan excluidos de la automatización los procedimientos que requieran un dictamen preceptivo del Equipo de Valoración de Incapacidades o de la Comisión de Evaluación de Incapacidades, las prestaciones a favor de familiares y las indemnizaciones especiales a tanto alzado por muerte derivada de accidente de trabajo o enfermedad profesional).
- 3. Nacimiento y cuidado de menor.
- 4. Ingreso mínimo vital.
- 5. Pago directo de incapacidad temporal.
- 6. Riesgo durante el embarazo.
- 7. Riesgo durante la lactancia natural.
- 8. Cuidado de menores afectados por cáncer u otra enfermedad grave.
- 9. Corresponsabilidad en el cuidado del lactante.
- 10. Prestación económica de pago único a tanto alzado por nacimiento o adopción de hijo, aplicable en supuestos de familias numerosas, monoparentales y en los casos de madres o padres con discapacidad.
- 11. Prestación económica de pago único por parto o adopción múltiples.
- 12. Seguro escolar.
Además de la resolución final del derecho, para agilizar estos trámites el INSS ha dado un paso más de forma reciente, y es que también ha automatizado la emisión de los requerimientos de subsanación. Esto significa que, si una solicitud no reúne los requisitos o carece de la documentación preceptiva, el propio sistema informático genera automáticamente un requerimiento otorgando un plazo de 10 días para aportar aquella. Si el ciudadano no atiende a esta petición, el sistema emite, también de forma automática, una resolución por la que se le tiene por desistido de su petición.
2.3. Otras actuaciones automatizadas. Reintegro de prestaciones y altas/bajas
La Tesorería General de la Seguridad Social (TGSS) ha avanzado significativamente en la Actuación Administrativa Automatizada (AAA) en áreas críticas de su competencia, como la afiliación, la cotización y la recaudación.
Los trámites que ya se encuentran automatizados, amparados en sus respectivas resoluciones:
- Emisión de Certificados e Informes (Resolución de 14 de febrero de 2023): Se ha automatizado la generación de informes de deuda y de los certificados que acreditan estar al corriente con las obligaciones de la Seguridad Social, los cuales son indispensables para obtener subvenciones o participar en licitaciones del sector público.
- Regularización de Cotizaciones de Autónomos (Resolución de 29 de mayo de 2024): El sistema emite y notifica automáticamente las resoluciones que determinan las bases de cotización y las cuotas mensuales definitivas del año anterior para los trabajadores por cuenta propia, basándose en el cruce masivo de datos tributarios.
- Fraccionamiento del reintegro de prestaciones indebidas (Resolución de 17 de junio de 2024): Se automatizan las resoluciones que establecen los plazos para pagar de forma fraccionada la devolución de prestaciones cobradas indebidamente. Esto se aplica cuando el obligado solicita el pago a plazos, con un mínimo de 100 euros mensuales y un máximo de hasta cinco años.
- Devolución de Ingresos (Resolución de 12 de septiembre de 2024): Regula la tramitación automática de procedimientos como la devolución de ingresos indebidos, el reintegro de costes de garantías, la devolución de saldos acreedores y la restitución de sobrantes de actuaciones de ejecución forzosa. El sistema genera incluso los documentos contables necesarios para materializar el pago.
- Altas, bajas y variaciones de datos de trabajadores (Resolución de 9 de abril de 2025): Automatiza las resoluciones estimatorias que aprueban las altas y bajas laborales. Esta automatización opera cuando los trámites se realizan a través del Sistema RED o cuando derivan de la Inspección de Trabajo y Seguridad Social a efectos de emitir actas de liquidación.
Como garantía de validez jurídica, todos estos actos automatizados se firman utilizando el sello electrónico de la TGSS. Además, para evitar la indefensión del ciudadano, las resoluciones deben especificar siempre qué Dirección Provincial es la responsable a efectos de interponer los recursos legales correspondientes.
2.4. Anexo. Resoluciones
Tabla cronológica con las resoluciones que establecen y regulan los procesos automatizados en las diferentes entidades de la Seguridad Social y Empleo:
| Fecha Resolución y Entidad Emisora |
Procedimientos y Actuaciones Automatizadas |
Resolución de 15 de octubre de 2009
SEPE |
Tramitación electrónica automatizada de diversos procedimientos en materia de protección por desempleo (control de tiempos, plazos y ordenación de expedientes). |
Resolución de 23 de febrero de 2016
INSS |
Tramitación electrónica de las solicitudes de prestaciones por maternidad (biológica), paternidad, jubilación y muerte y supervivencia iniciadas en el portal "Tu Seguridad Social". |
Resolución de 14 de enero de 2022
INSS |
Resoluciones automatizadas de jubilación contributiva, muerte y supervivencia, y nacimiento y cuidado de menor. DEROGADO. |
Resolución de 17 de enero de 2022
ISM (Instituto Social de la Marina) |
Comunicaciones de actos de trámite y resoluciones de las prestaciones del Régimen Especial de Trabajadores del Mar (jubilación contributiva, muerte y supervivencia, nacimiento, cuidado del menor e incapacidad temporal). |
Resolución de 22 de marzo de 2022
INSS |
Modifica la resolución de enero de 2022 para extender las resoluciones automatizadas a la prestación del Ingreso Mínimo Vital (IMV). DEROGADO. |
Resolución de 27 de diciembre de 2022
INSS |
Consolida y sustituye las normas anteriores, regulando la automatización de la jubilación contributiva, muerte y supervivencia, nacimiento y cuidado de menor, e IMV. DEROGADO. |
Resolución de 14 de febrero de 2023
TGSS |
Emisión automatizada de certificados de estar al corriente con las obligaciones de la Seguridad Social e informes de deuda. |
Resolución de 5 de marzo del 2024
INSS |
Amplía la automatización a 12 procedimientos: jubilación, muerte y supervivencia, nacimiento y cuidado, IMV, pago directo de IT, riesgo durante embarazo y lactancia, cuidado de menores enfermos, corresponsabilidad del lactante, pagos únicos por nacimiento/adopción o parto múltiple, y seguro escolar. |
Resolución de 29 de mayo de 2024
TGSS |
Emisión de resoluciones que fijan las bases de cotización y cuotas mensuales definitivas (regularización anual) para los trabajadores autónomos. |
Resolución de 17 de junio de 2024
TGSS |
Establecimiento de plazos para el pago fraccionado del reintegro de prestaciones indebidamente percibidas. |
Resolución de 12 de septiembre de 2024
TGSS |
Procedimientos de devolución de ingresos indebidos, reintegro de costes de garantías, devolución de saldos acreedores y restitución de sobrantes de ejecución forzosa. |
Resolución de 28 de octubre de 2024
INSS |
Emisión automatizada de requerimientos de subsanación de solicitudes (falta de documentación) y resoluciones por las que se tiene por desistida a la persona interesada tras expirar el plazo. |
Resolución de 9 de abril de 2025
TGSS |
Resoluciones que aprueban altas, bajas y variaciones de datos de los trabajadores tramitadas a través del Sistema RED o procedentes de actas de la Inspección de Trabajo. |
(Nota: En el ámbito sancionador, la automatización para generar actas de infracción por parte de la Inspección de Trabajo se reguló mediante el Real Decreto 688/2021, de 3 de agosto, añadiendo un capítulo específico al reglamento general de sanciones).
3. La Inteligencia Artificial predictiva y la asimetría de transparencia en la Seguridad Social
Bajo la actual presión demográfica -pronto se iniciarán las jubilaciones del baby boom y además se están incorporando desde hace tres décadas nuevas personas trabajadoras de origen extnajero a nuestro sistema, que hoy aportan cotizaciones, pero el día de mañana, como es justo y lógico, serán también perceptores de prestaciones- es una cuestión objeto de crítica y alarma cada día, poniendo bajo la lupa del gasto a las diferentes modalidades de protección, históricamente la pensión de jubilación, y actualmente la incapacidad temporal es una buena muestra-, la analítica avanzada de grandes datos y la IA dejan de ser una opción para convertirse en una necesidad estratégica para la sostenibilidad económica del sistema -o eso nos dicen, yo no lo tengo tan claro-. La "economía del dato", eje vertebrador de la Agenda España Digital 2025, transforma la inmensa base de datos de la Seguridad Social en un activo capaz de anticipar comportamientos y optimizar la asignación de recursos públicos.
La colaboración entre el INSS, la Tesorería General de la Seguridad Social (TGSS), la Inspección de Trabajo y Seguridad Social (ITSS) mediante el uso de algoritmos avanzados persigue dos objetivos críticos:
- Optimización operativa: Agilizar el reconocimiento masivo de derechos, reduciendo tiempos de espera y errores manuales.
- Detección de fraude: Identificar patrones de elusión y comportamientos irregulares mediante el análisis de "inputs" masivos que permiten generar inferencias imposibles de detectar por la inspección humana tradicional.
La efectividad operativa nacional, no obstante, se enfrenta ahora a un nuevo paradigma de cumplimiento obligatorio derivado del marco regulatorio de la Unión Europea, como veremos brevemente más adelante.
Existe una alarmante asimetría de transparencia y regulación legal entre la Actuación Administrativa Automatizada (AAA) formal y el uso de sistemas de Inteligencia Artificial predictiva en las Entidades Gestoras de la Seguridad Social. A continuación, se detallan las principales diferencias normativas y operativas entre ambos modelos:
1. Base legal y publicidad (transparencia vs. opacidad)
- Resoluciones formales (AAA): Se rigen por un marco jurídico estricto, lo hemos visto ya (artículo 41.1 de la Ley 40/2015 y artículo 130 de la Ley General de la Seguridad Social). Exigen que se publique obligatoriamente en el Boletín Oficial del Estado (BOE) una resolución que identifique el diseño informático, el mantenimiento, la auditoría del código fuente y, fundamentalmente, el órgano responsable a efectos de impugnación y recursos.
- Algoritmos predictivos ("no publicados"): Herramientas como el SAS Fraud Framework (usado por la Tesorería General de la Seguridad Social para detectar fraudes empresariales) o el Modelo de Priorización de Citas (usado por el INSS para vigilar las bajas médicas) operan de forma confidencial. Eluden el marco de garantías públicas operando bajo el pretexto de que son "meras herramientas internas" de asistencia o preparación para los inspectores médicos o de trabajo. Al no publicarse resoluciones sobre ellos, sus bases de datos y su código se mantienen en la opacidad.
2. Lógica de funcionamiento (reglas fijas vs. probabilidad)
- Resoluciones formales (AAA): Tienen una estructura determinista basada en reglas fijas. El sistema simplemente comprueba si se cumplen o no unos requisitos objetivos preestablecidos en la ley mediante un árbol de decisión lógico e inequívoco (por ejemplo, tener la edad y los años cotizados para jubilarse).
- Algoritmos predictivos: Utilizan modelos probabilísticos y técnicas de aprendizaje automático (machine learning) entrenados con datos masivos. Evalúan y ponderan múltiples variables (edad, sexo, territorio, profesión) para identificar patrones de comportamiento, predecir riesgos y asignar puntuaciones dinámicas a los ciudadanos.
3. Garantías frente a errores y sesgos (auditoría vs. caja negra)
- Resoluciones formales (AAA): Las actuaciones son trazables y el expediente final cuenta con un sello electrónico cualificado de la entidad. El diseño y la auditoría sistemática del código corresponden a la Gerencia de Informática de la Seguridad Social (GISS).
- Algoritmos predictivos: Operan como una "caja negra" inescrutable. Al no estar sometidos a auditorías públicas, presentan un alto riesgo de perpetuar sesgos y multiplicar efectos discriminatorios estructurales. Por ejemplo, en el algoritmo de bajas médicas se ha detectado que la ponderación desproporcionada de la provincia de cotización quiebra el principio de igualdad, y su alta tasa de falsos positivos afecta a colectivos con enfermedades complejas.
En breve síntesis, mientras que la automatización procedimental ordinaria (como lo es conceder una prestación) garantiza la trazabilidad del proceso administrativo para el ciudadano, la IA predictiva orientada a la vigilancia y fiscalización opera fuera de este régimen de garantías.
Diversos investigadores y expertos jurídicos han alzado la voz frente a la opacidad y los riesgos discriminatorios de los sistemas de inteligencia artificial predictiva en la Administración Pública, especialmente en la Seguridad Social. Destacan los siguientes autores y sus críticas principales:
- Ainhoa Nieto Garrote: Critica fuertemente el uso de herramientas operando como "cajas negras" (haciendo mención al algoritmo de bajas del INSS y al SAS Fraud Framework de la TGSS), denunciando la falta de transparencia de las Entidades Gestoras y su posible inobservancia del Reglamento Europeo de IA y de la Ley 15/2022. Argumenta que el uso descontrolado de la analítica predictiva perpetúa y multiplica efectos discriminatorios, especialmente contra la salud y el bienestar de las mujeres y otros colectivos en situación de vulnerabilidad.
- Isabel M. Villar Cañada: Alerta sobre los efectos directos e indirectos de los sesgos algorítmicos derivados de las desigualdades de la sociedad y la brecha digital. Defiende que el análisis predictivo debe servir exclusivamente para facilitar indicaciones o recomendaciones, pero nunca para determinar por sí solo el nivel de riesgo o la necesidad de una persona de acceder a la protección social.
- Algún sector alerta sobre la "ceguera de género" y el "sesgo de género cognitivo" en los datos con los que se entrena a la IA. Esta crítica es trasladada por Nieto Garrote a la Seguridad Social, indicando que los diagnósticos y tratamientos médicos de las mujeres sufren discriminación histórica que, si se evalúa mediante una IA predictiva descontrolada, terminará por perpetuar el sesgo en el reconocimiento de sus incapacidades laborales.
¿Existe una posible alternativa para mitigar esta opacidad? Entiendo que sí, primero identificando normativamente en qué actos y procedimientos concretos hacen uso de sistemas de Inteligencia Artificial predictiva las Entidades Gestoras de la Seguridad Social. Y en segundo lugar, por ejemplo, con la creación de un Registro Estatal Centralizado de Algoritmos Públicos y el establecimiento del "derecho a la explicación algorítmica", al que tengamos acceso la ciudadanía sin ninguna restricción.
4. El impacto del Reglamento (UE) 2024/1689 (IA Act) en el Sistema de Seguridad Social
El Reglamento (UE) 2024/1689 (RIA) establece un marco uniforme para garantizar una "IA centrada en el ser humano", protegiendo la salud, la seguridad y los derechos fundamentales (Considerandos 1 y 7). En el ámbito prestacional, los sistemas de IA se clasifican como de "alto riesgo" debido a su impacto directo en la subsistencia y los derechos de los ciudadanos.
El análisis de la fase de "inferencia" y los "resultados de salida" (outputs) según el Art. 3.1 del RIA revela riesgos críticos. Uno de los mayores desafíos es el "bucle de retroalimentación" (Art. 15.4), donde el uso de "datos sintéticos" o corrompidos puede perpetuar sesgos discriminatorios preexistentes. Para la Seguridad Social, esto implica que una decisión automatizada basada en una inferencia errónea no solo es un fallo técnico, sino una vulneración potencial de derechos fundamentales que debe ser mitigada mediante una supervisión humana real. Esta necesidad de cumplimiento europeo debe integrarse plenamente en la hoja de ruta estratégica nacional.
Consideraciones del Reglamento sobre esta materia:
- Clasificación como Sistemas de "Alto Riesgo": El Reglamento clasifica como sistemas de IA de alto riesgo aquellos destinados a ser utilizados por las autoridades públicas (o en su nombre) para evaluar la admisibilidad de las personas físicas a fin de beneficiarse de servicios y prestaciones esenciales de asistencia pública, como los servicios de asistencia sanitaria y las prestaciones de la seguridad social. Esta clasificación de alto riesgo también se aplica a los sistemas utilizados para conceder, denegar, reducir, retirar o reclamar la devolución de dichos servicios y prestaciones.
- Fundamento de la clasificación (Considerando 58): El legislador europeo justifica esta estricta clasificación advirtiendo que las personas que solicitan o reciben prestaciones de asistencia pública (por maternidad, enfermedad, accidentes laborales, vejez o pérdida de empleo) suelen depender vitalmente de ellas y se encuentran en una posición de vulnerabilidad respecto de las autoridades responsables. El uso de IA para tomar decisiones sobre estas prestaciones podría tener un efecto drástico en los medios de subsistencia de las personas y vulnerar derechos fundamentales como el derecho a la protección social, a la no discriminación, a la dignidad humana y a la tutela judicial efectiva.
- Prohibición de la "Puntuación Ciudadana" (Social Scoring): El RIA prohíbe las prácticas de IA que evalúen o clasifiquen a las personas físicas atendiendo a su comportamiento social o a características personales (conocidas o predichas) si dicha "puntuación ciudadana" da lugar a un trato perjudicial o desfavorable que sea injustificado o desproporcionado. En la doctrina, se ha advertido que el uso de sistemas en la Seguridad Social para la elaboración de perfiles de riesgo y detección de fraude podría encuadrarse en el ámbito de estas prácticas prohibidas si persiguen a las personas de forma discriminatoria.
- Prevención de sesgos y discriminación: El Reglamento subraya que los sistemas de IA en estos ámbitos pueden perpetuar patrones históricos de discriminación (por origen racial o étnico, género, discapacidad o edad). Por ello, exige que los datos de entrenamiento sean de alta calidad, representativos y libres de errores en la medida de lo posible, para evitar que los resultados influyan negativamente en operaciones futuras mediante "bucles de retroalimentación".
- Supervisión humana y evaluación de impacto: Para desplegar estos sistemas, el RIA exige garantías sustanciales:
- Supervisión humana: Los sistemas deben diseñarse de modo que las personas físicas puedan vigilar su funcionamiento, interpretar correctamente sus resultados, anular decisiones e ignorar la tendencia a confiar automáticamente en las recomendaciones de la máquina ("sesgo de automatización").
- Evaluación de impacto sobre derechos fundamentales: Antes de poner en funcionamiento un sistema de IA de alto riesgo para conceder o denegar prestaciones, los organismos públicos tienen la obligación de llevar a cabo una evaluación del impacto que su utilización puede tener en los derechos fundamentales de las personas afectadas.
5. La Estrategia Nacional de IA y la Agenda Digital 2025
La Estrategia Nacional de IA (ENIA) representa un compromiso institucional para elevar la productividad y la calidad de los servicios públicos. España Digital 2025 define cuatro objetivos específicos: (1) liderar la Economía del Dato, (2) impulsar una IA inclusiva y sostenible, (3) desarrollar un marco ético-jurídico homogéneo y (4) preparar a la sociedad para las transformaciones socioeconómicas.
En este esquema, la Oficina del Dato y la figura del Chief Data Officer (CDO) asumen roles críticos. El CDO es responsable de garantizar la gobernanza y la compartición segura de datos públicos. Para la Seguridad Social, es imperativo el desarrollo de "lagos de datos" sectoriales que eviten la fragmentación y permitan una gestión basada en evidencias. Solo a través de una gobernanza de datos centralizada y de calidad se puede aspirar a la sostenibilidad del sistema, una ambición que ya está siendo interpretada y limitada por los tribunales.
5.1. Derechos de los ciudadanos y trabajadores frente a las "cajas negras"
La creciente automatización ha generado un marco de defensa para evitar la indefensión frente a decisiones algorítmicas opacas:
Derechos en el ámbito laboral:
- Transparencia de los algoritmos (Estatuto de los Trabajadores): España ha sido pionera al modificar el artículo 64.4.d) del Estatuto de los Trabajadores, el cual consagra el derecho del comité de empresa a conocer los parámetros, las reglas de decisión y las instrucciones de los algoritmos de IA que inciden en las condiciones laborales, incluyendo el acceso y mantenimiento del empleo.
- Vulneración de la libertad sindical: La jurisprudencia de la Audiencia Nacional ha dictaminado que si una empresa oculta las reglas de sus sistemas de decisión automatizada (como los que elaboran los cuadrantes de turnos), está cometiendo una vulneración flagrante del derecho constitucional a la libertad sindical. Esto obliga a las empresas a cesar la conducta, entregar el código y, en su caso, pagar indemnizaciones.
- Información previa obligatoria (Reglamento de IA): A nivel europeo, el art. 26.7 del Reglamento de IA (RIA) impone a los empleadores la obligación de informar a los representantes de los trabajadores, y a los propios trabajadores afectados, antes de poner en servicio un sistema de IA de alto riesgo en el lugar de trabajo.
Derechos de los ciudadanos frente a la Administración:
- Acceso al código fuente: Como ha establecido el Tribunal Supremo (en el caso de la aplicación BOSCO), los ciudadanos tienen derecho a acceder al código fuente de las aplicaciones informáticas utilizadas por la Administración para la toma de decisiones automatizadas, especialmente cuando estas afectan al reconocimiento de derechos sociales. Este acceso es fundamental para fiscalizar la actuación pública y garantizar que no haya sesgos ni arbitrariedad.
- Derecho a una explicación inteligible: A nivel doctrinal y de propuestas legales (lege ferenda), se exige que todo administrado sometido a una decisión automatizada tenga el derecho legal de obtener una explicación transparente y detallada sobre la lógica que el algoritmo ha empleado para tomar una decisión o asignarle una puntuación de riesgo.
5.2. Medidas del Gobierno para garantizar una IA más ética en la Administración
Para atajar los riesgos éticos, sociales y legales de la Inteligencia Artificial, el Gobierno de España, a través de la Estrategia Nacional de Inteligencia Artificial (ENIA) y el Plan de Recuperación, ha articulado una serie de medidas e instituciones:
- Agencia Española de Supervisión de Inteligencia Artificial (AESIA): Se ha creado esta agencia estatal con la misión fundamental de supervisar la conformidad de los sistemas de IA, especialmente en los ámbitos de alto riesgo. Su objetivo es promover guías de buenas prácticas, concienciar y evitar que se produzcan sesgos discriminatorios.
https://aesia.digital.gob.es/es
- Sello Nacional de Calidad en IA: Se está desarrollando una certificación voluntaria para los productos y servicios de IA. Este sello garantizará que los sistemas y algoritmos se aplican de forma ética, fiable y no discriminatoria, proporcionando una herramienta de autoevaluación para las empresas y un valor de confianza para los ciudadanos.
- Carta de Derechos Digitales: Se ha impulsado esta Carta como un marco dinámico que garantiza la protección de los derechos individuales y colectivos de la ciudadanía en el entorno digital, incluyendo expresamente la protección frente a la IA y los "neuroderechos".
https://espanadigital.gob.es/lineas-de-actuacion/carta-de-derechos-digitales
- Consejo Asesor de Inteligencia Artificial y Observatorios: Se ha constituido un Consejo Asesor compuesto por expertos de prestigio internacional para proporcionar recomendaciones independientes sobre el uso seguro y ético de la IA. Además, se contempla la puesta en marcha de observatorios para evaluar de forma continua el impacto ético, jurídico y social de los algoritmos utilizados en el sector público.
- Obligaciones de la Ley 15/2022: La Ley integral para la igualdad de trato y la no discriminación impone a las Administraciones Públicas el mandato de favorecer mecanismos de transparencia, rendición de cuentas y minimización de sesgos en los algoritmos. Esta ley exige expresamente que se realicen evaluaciones de impacto para detectar y evitar cualquier potencial discriminatorio en el diseño y entrenamiento de las IA públicas.
6. Análisis de la (escasa) Jurisprudencia
6.1. El caso Bosco y la transparencia algorítmica
La gestión automatizada de prestaciones no puede ser una "caja negra". La sentencia del Tribunal Supremo, Sala Contencioso administrativa (STS 1119/2025) resuelve el litigio iniciado por la Fundación Ciudadana Civio contra el Ministerio para la Transición Ecológica (MITECO) en relación con el algoritmo BOSCO.
BOSCO es una aplicación telemática utilizada por las empresas comercializadoras de energía eléctrica para comprobar automáticamente si los solicitantes cumplen los requisitos legales para ser considerados "consumidores vulnerables" y, por tanto, beneficiarios del bono social. Cuando Civio solicitó el acceso al código fuente de este programa para auditar cómo tomaba estas decisiones, la Administración se lo denegó amparándose en varios límites de la Ley de Transparencia (LTAIBG).
El Tribunal Supremo falla a favor de la apertura del código desestimando los tres grandes límites de transparencia alegados por la Administración:
- El límite de la propiedad intelectual (Art. 14.1.j LTAIBG): La Administración argumentó que el software era de su propiedad intelectual y que su cesión perjudicaría sus derechos de autor. El Tribunal Supremo dictamina que este límite no es absoluto y requiere una ponderación de intereses. Dado que BOSCO fue creado por la Administración para ejercer competencias públicas orientadas a proteger a consumidores en situación de vulnerabilidad (lucha contra la pobreza energética), el interés público en conocer cómo funciona prevalece claramente sobre la lógica competitiva o de mercado de los derechos de autor. Además, el tribunal señala que los riesgos patrimoniales pueden minimizarse imponiendo condiciones, como la prohibición de uso comercial de dicho código.
- El límite de la seguridad pública y ciberseguridad (Art. 14.1.d LTAIBG): El Gobierno, respaldado inicialmente por la Audiencia Nacional y el Centro Criptológico Nacional, sostenía que revelar el código fuente haría a la aplicación vulnerable a ciberataques ("vulnerabilidades de día cero") y pondría en riesgo las bases de datos de la Agencia Tributaria y la Seguridad Social conectadas al sistema. El Tribunal Supremo desmonta este argumento afirmando que la transparencia puede, de hecho, contribuir a la mejora y el fortalecimiento de la seguridad. Someter el código al escrutinio de actores independientes permite detectar y corregir errores tempranamente, tal y como ya sucedió con la liberación del código de aplicaciones públicas críticas como "Radar COVID". La invocación genérica de un riesgo cibernético no es suficiente para bloquear el derecho ciudadano a la información.
- El límite de la protección de datos personales (Art. 15 LTAIBG): También se alegó que el acceso al código podría exponer datos altamente sensibles de los solicitantes (niveles de renta, discapacidad, víctimas de violencia de género, etc.). El Alto Tribunal aclara que conocer la estructura, el andamiaje o el lenguaje de programación de una aplicación no implica en absoluto acceder a los datos personales que esta procesa.
La consagración del principio de "Transparencia Algorítmica" Más allá de desmontar los límites, la sentencia es pionera porque consagra el principio de transparencia algorítmica frente a las "cajas negras" de la Administración. El Tribunal señala que cuando se automatizan decisiones que impactan en los derechos sociales de los ciudadanos, la transparencia es una exigencia del Estado democrático y de Derecho para garantizar el control de legalidad y evitar la arbitrariedad.
Sin el código fuente, era imposible comprobar si la aplicación traducía correctamente la ley o si contenía errores ocultos (como los detectados previamente por Civio, donde el sistema denegaba erróneamente el bono a viudas o exigía consentimientos no previstos a familias numerosas). Como resultado, el Tribunal Supremo condenó a la Administración a entregar el código fuente a la fundación -aunque parece que a día de hoy aún no se ha efectuado-.
La sentencia BOSCO sienta un precedente clave para la Seguridad Social al consagrar la transparencia algorítmica en las decisiones automatizadas que afectan a derechos sociales. Aplicada a los procedimientos del INSS o la TGSS, significa que la Administración debería permitir el acceso al código fuente de sus herramientas predictivas (como el algoritmo de control de bajas médicas o detección de fraude) y no podría escudarse en la propiedad intelectual para ocultarlo. En la práctica, esto obligaría a abrir las actuales "cajas negras" algorítmicas para garantizar el control judicial, prevenir sesgos discriminatorios y evitar la indefensión del ciudadano frente a la máquina.
Recientemente, estamos viviendo una situación parecida a la descrita en el concreto ámbito de la graduación de la discapacidad. El actual, extenso y complejo Real Decreto 888/2022, de 18 de octubre, por el que se establece el procedimiento para el reconocimiento, declaración y calificación del grado de discapacidad, supone un suplicio para la ciudadanía con discapacidad, e incluso para los operadores -asociaciones y fundaciones de personas enfermas, juristas y médicos especializados- realizar las nuevas valoraciones ajustadas al nuevo sistema. De hecho, por ejemplo COCEMFE, está denunciando que se están, bien revisando y dejando sin efecto grados de discapacidad que se otorgaron con la anterior normativa, bien se están concediendo grados de discapacidad inferiores ante los que, ante una misma enfermedad, eran marcadamente superiores. Pues bien, El Ministerio de Derechos Sociales ha realizado una herramienta denominada BAREDI (Baremo Integrado de Discapacidad), propiedad del IMSERSO, a la sazón, una aplicación informática para la valoración de la discapacidad, que pone a disposición de las entidades competentes en materia de discapacidad de las CC.AA -por ejemplo, en Resolución de 11 de junio de 2025, del Instituto de Mayores y Servicios Sociales, por la que se publica la Adenda de modificación del Convenio con la Comunidad de Madrid, para la cesión de uso de la aplicación informática para la valoración de la discapacidad- pero a la que no podemos acceder ni los operadores jurídicos ni las personas afectadas, actuando como una verdadera "caja negra" al estilo BOSCO.
6.2. Límites jurisprudenciales de la IA como herramienta de reinserción laboral (STS 1996/2024)
Es aún reciente la STS 1996/2024 de 11 de abril, referida a un trabajador de la ONCE en el periodo del 24/04/18 al 07/11/19. El Tribunal Supremo rectifica su jurisprudencia anterior y establece una doctrina clara -y a mi entender, regresiva y contraria al derecho a la empleabilidad de las personas con discapacidad, pero esa es otra cuestión jurídica que aquí no abordaremos-:
- Naturaleza sustitutiva: La pensión de Gran Invalidez tiene como función primordial sustituir rentas salariales que el trabajador ya no puede obtener.
- Potencialidad tecnológica vs. realidad jurídica: En su Fundamento de Derecho Cuarto, punto f, el TS reconoce que la IA puede potenciar las capacidades de personas con dificultades somáticas, facilitando su trabajo. No obstante, concluye que la tecnología no altera la incompatibilidad esencial de la pensión con un empleo ordinario a tiempo completo.
- Límites de la compatibilidad: Se distingue entre "actividades compatibles" (marginales e intrascendentes) y un "trabajo ordinario" que genera inclusión en el sistema.
La visión judicial pone un límite axiológico a la flexibilidad tecnológica: la IA es una herramienta de reinserción, pero no un medio para la acumulación de prestaciones y rentas salariales plenas.
Destaco esta sentencia porque, al margen de otras cuestiones de índole puramente laboral, la doctrina de la Sala Social del Tribunal Supremo no ha dictado, o al menos no tengo conocimiento, resolución alguna en referencia a actuaciones AAA o sobre Inteligencia Artificial de las Entidades Gestoras de la Seguridad Social, siendo exclusivamente esta sentencia -y alguna posterior que ratifica esta doctrina- las que de forma expresa han proyectado su "opinión" respecto a la IA.
7. Perspectiva doctrinal: sesgos, discriminación y sostenibilidad
Aunque mucho más enfocado al ámbito laboral, también encontramos reflexiones doctrinales respecto a la IA y su proyección sobre la Seguridad Social:
- Regal-Ramos, R. (2025) - La IA en la gestión de la incapacidad temporal. Este artículo propone el uso de modelos predictivos de Inteligencia Artificial para la gestión de la Incapacidad Temporal (IT), con el objetivo de garantizar la sostenibilidad económica del sistema de Seguridad Social. La IA permitiría identificar de forma precoz las bajas con alto riesgo de prolongación, optimizando la labor de los inspectores médicos y logrando un ahorro estimado de entre el 5% y el 15% del gasto anual. El modelo busca pasar de un enfoque reactivo a uno proactivo, aunque el autor insiste en que su implementación exige la estricta observancia de la ética, la transparencia y la privacidad de los datos de salud.
- Mercader Uguina, J.R. (2024) - El Reglamento de IA y su impacto laboral. El autor analiza el nuevo Reglamento Europeo de Inteligencia Artificial (RIA), destacando que los sistemas algorítmicos aplicados al empleo (selección, evaluación y asignación de tareas) se catalogan como de "alto riesgo". Asimismo, establece obligaciones ineludibles para los empleadores, como la alfabetización en IA de las plantillas, el deber de informar a los representantes sindicales antes de implementar estas tecnologías y la garantía del principio de supervisión humana para evitar multas millonarias.
- Del Rey Guanter, S. (2025) - El difícil control jurídico de la IA avanzada. Este texto explora el enorme desafío que supone controlar legalmente los sistemas de IA avanzados en las relaciones laborales debido a su creciente autonomía y capacidad de autoadaptación. Al operar de forma inescrutable durante sus fases de inferencia (el efecto "caja negra"), resulta muy difícil auditar la legalidad de sus predicciones y de las decisiones automatizadas que ejecutan. El autor alerta sobre el "sesgo de automatización" humano y reclama una urgente "alfabetización axiológica" para asegurar que los algoritmos interioricen y respeten los valores constitucionales y éticos de la Unión Europea.
- Nieto Garrote, A. (2025) - IA en la Seguridad Social y sesgos discriminatorios. La autora critica contundentemente la opacidad con la que el INSS y la TGSS aplican modelos predictivos (como el SAS Fraud Framework o el algoritmo de priorización de citas de IT) para vigilar fraudes y asignar prestaciones como el Ingreso Mínimo Vital. Denuncia que estas herramientas operan perfilando y puntuando a los ciudadanos, lo que perpetúa y multiplica graves sesgos estructurales y de género en perjuicio de colectivos vulnerables. Exige la urgente aplicación del Reglamento de IA y de la Ley 15/2022 para imponer transparencia total, supervisión humana y auditorías de impacto.
- Isabel María Villar Cañada (2024) - El impacto tecnológico en el ámbito socio-laboral: ¿obstáculo u oportunidad para la sostenibilidad del sistema de pensiones?. Advierte que la Seguridad Social emplea IA (chatbot ISSA, algoritmo SAS para bajas, DATAMAR y Big Data para el IMV) para ganar eficiencia y frenar el fraude, aunque advierte que su éxito requiere inversión paralela en recursos humanos. Pero vislumbra graves problemas:
- Destrucción de empleo y pérdida de cotizaciones. La automatización y las nuevas formas de empleo destruyen puestos tradicionales, mermando gravemente los ingresos por cotizaciones y obligando a buscar financiación alternativa, como impuestos digitales o la "cotización de los robots".
- Brecha digital y de género. La tecnificación agudiza la exclusión social y penaliza doblemente a las mujeres, quienes tienen escasa presencia tecnológica, sufren brecha salarial en el sector y ocupan empleos con mayor riesgo de ser automatizados.
- Sostenibilidad integral. La IA no debe aplicarse solo bajo un sesgo eficientista o de ahorro de costes; su límite inquebrantable debe ser garantizar la suficiencia protectora y no desmantelar el Estado de Bienestar.
8. Estrategias tecnológicas de defensa para operadores jurídicos
Los operadores jurídicos podemos, y creo que debemos, utilizar también la IA para contrarrestar la velocidad de las comunicaciones y decisiones automatizadas de la Administración Pública en general, y de la Seguridad Social en particular. Y no solo me estoy refiriendo a la IA en su vertiente generativa, sino también a otras posibilidades, como son la programación de cálculos, realización de check-lists, formularios, pequeñas bases de datos, etc.
9. Conclusiones
La digitalización de la Seguridad Social española cuenta con justificación y base legal sólida y una arquitectura normativa coherente. Sin embargo, el marco del RIA y la reciente jurisprudencia del Tribunal Supremo (STS 1996/2024) obligan a un control humano reforzado. La eficiencia algorítmica no puede desplazar el principio de solidaridad ni la naturaleza contributiva del sistema; la IA debe ser un motor de inclusión, no una "caja negra" que eluda la supervisión axiológica del Estado. Siempre debe haber un "humano al volante".
¿Qué deberíamos exigir?
- Transparencia y explicación. Garantizar que todo algoritmo de gestión de prestaciones cumpla con los estándares de "explicabilidad", permitiendo al ciudadano comprender los criterios de la decisión administrativa automatizada para salvaguardar su tutela administrativa. En definitiva, implementar el "derecho a la explicación algorítmica".
- Protocolos de supervisión humana efectiva. Implementar medidas de control de los resultados de salida (outputs) que mitiguen el "sesgo de automatización" en el personal administrativo, asegurando que la IA actúe como apoyo y no como sustituto del juicio crítico del facultativo -incapacidad permanente o incapacidad temporal- o gestor de la prestación económica.
- Identificación obligatoria mediante normativa de los actos y procedimientos concretos en que hacen uso de sistemas de Inteligencia Artificial predictiva las Entidades Gestoras de la Seguridad Social.
- Creación de un Registro Estatal Centralizado de Algoritmos Públicos al que tengamos acceso la ciudadanía sin ninguna restricción.
Mientras, seguiremos defendiendo que "un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños".
10. Bibliografía
- Del Rey Guanter, S. (2025). El difícil control jurídico de los sistemas avanzados de inteligencia artificial: un gran desafío para la Unión Europea y para las relaciones laborales. Asociación Española de Derecho del Trabajo y de la Seguridad Social (AEDTSS).
https://www.aedtss.com/el-dificil-control-juridico-de-los-sistemas-avanzados-de-inteligencia-artificial-un-gran-desafio-para-la-union-europea-y-para-las-relaciones-laborales/
- Mercader Uguina, J. R. (2024). El Reglamento de Inteligencia Artificial, frecuentemos el futuro. Asociación Española de Derecho del Trabajo y de la Seguridad Social (AEDTSS).
https://www.aedtss.com/el-reglamento-de-inteligencia-artificial-frecuentemos-el-futuro/
- Nieto Garrote, A. (2025) ¿Sistemas de Inteligencia Artificial en las Entidades Gestoras de la Seguridad Social como perpetuación de sesgos y multiplicación de efectos discriminatorios?. Revista de Derecho de la Seguridad Social, Laborum, (45), 323-347.
https://revista.laborum.es/index.php/revsegsoc/article/view/1215
- Regal-Ramos, R. (2025). La inteligencia artificial como estrategia de eficiencia y sostenibilidad en la gestión de la incapacidad temporal en España. Medicina y Seguridad del Trabajo, 71(281), 279-286.
https://doi.org/10.4321/s0465-546x2025000400007
- Villar Cañada, I. M. (2024). El impacto tecnológico en el ámbito sociolaboral: ¿obstáculo u oportunidad para la sostenibilidad del sistema de pensiones?. Revista de Derecho de la Seguridad Social, Laborum, (Extraordinaria 7), 241-261.
https://orcid.org/0000-0002-3539-8173
Presentación de la Ponencia
