Tesis doctorales de la Escuela Internacional de Doctorado de la URJC desde el curso 2024/25
La reparación del daño en el contexto de la inteligencia artificial. La barrera de la explicabilidad
Autor
DÍAZ SENES, JUAN PEDRO
Director
ÁLVAREZ OLALLA, MARÍA PILAR
Fecha de depósito
08-07-2026
Periodo de exposición pública
8 a 22 de julio de 2026
Fecha de defensa
11-09-2026 - Seminario 267 Edificio Departamental Vicálvaro a las 18:00 horas
Modalidad
Híbrida
Programa
Ciencias Sociales y Jurídicas
Mención internacional
Solicitada
Resumen
La irrupción de la inteligencia artificial ha provocado una revolución en la sociedad que solo es comparable con el fenómeno de internet. En todo tipo de ámbitos y cumpliendo con funciones muy heterogéneas entre sí, los sistemas de inteligencia artificial han demostrado una capacidad parece que ilimitada para transformar la realidad que hasta ahora se conocía.
El derecho no es ajeno a esta situación, motivo por el que en la última década se han impulsado, tanto a nivel institucional como desde el ámbito académico, importantes trabajos de investigación que tratan de abordar esta materia. Tarea que se presenta especialmente difícil como consecuencia del tamaño de este fenómeno. El presente trabajo académico obedece a este interés, el estudio y análisis de la figura de la reparación del daño ante sistemas de inteligencia artificial.
En concreto, la pregunta de investigación es: ¿requiere la inteligencia artificial un marco normativo propio en materia de responsabilidad civil? Para poder responder a esta pregunta se formulan nuevas cuestiones, ¿qué es la inteligencia artificial?, ¿qué características hacen de esta tecnología un fenómeno nuevo?, ¿se adecua el marco general de la responsabilidad civil, previsto en el artículo 1902 y ss., a la inteligencia artificial?, ¿de qué otros instrumentos dispone el ordenamiento en España para la reparación del daño? y, en concreto, ¿es la responsabilidad por producto un instrumento apropiado ante daños propiciados por estos sistemas?
El diseño metodológico de este trabajo es de carácter cualitativo a partir de un método dogmático-jurídico, se construye a partir del análisis de textos normativos, propuestas legislativas, pronunciamientos jurisprudenciales, construcciones doctrinales y principios del Derecho, además del estudio de disciplinas accesorias como las ciencias de la computación. A este respecto, se prestan dos enfoques de naturaleza: interdisciplinar, en la que se introducen al estudio conocimientos procedentes de ámbitos externos al Derecho, y transversal son objeto de investigación las distintas ramas del ordenamiento, pese a situarse la institución de la responsabilidad civil como eje central.
Las razones que justifican este diseño metodológico, y especialmente esta doble perspectiva interdisciplinar y transversal, se deben a la complejidad técnica que sobrevuela a este tipo de tecnología; además de, su alta capacidad de impacto en prácticamente todos los ámbitos del ordenamiento. Es decir, para poder afirmar o negar si el marco jurídico vigente en materia de responsabilidad civil es adecuado antes se requiere comprender la vinculación de estos sistemas con la noción de riesgo o las características que impiden su comparativa con otras realidades ya conocidas. Solo una vez que se hayan alcanzado las respuestas a estas cuestiones será posible comprender qué elementos de la responsabilidad civil se advierten especialmente afectados y, en consecuencia, qué interpretación merece el mandato consagrado en el artículo 1902 CC ante un daño que se produce en la esfera de la inteligencia artificial.
Los resultados logrados en este trabajo se organizan en cuatro secciones, con base a criterios temáticos: Parte I «La inteligencia artificial. Más allá de su condición de software», Parte II «La explicabilidad de la inteligencia artificial. De la reivindicación como requisito técnico al estatus de derecho ex novo», Parte III «Gobernanza de la inteligencia artificial en Europa» y Parte IV «Responsabilidad ante daños causados por la inteligencia artificial». De todas ellas, la Parte IV es la de mayor importancia, prestando el resto de secciones una función instrumental.
La Parte I dota de una conceptualización de la inteligencia artificial y de una descripción de los componentes y figuras afines que conforman esta tecnología. Adicionalmente, se delimita el impacto y los riesgos que genera la introducción de estos sistemas en el mercado. Es posible como consecuencia de este análisis obtener una primera conclusión: los sistemas de inteligencia artificial más evolucionados, aquellos que reciben los mayores elogios por parte de la sociedad, carecen de un grado de explicabilidad suficiente respecto a su funcionamiento y sobre los motivos que conducen a cada resultado generado. Se sigue para esta primera parte una perspectiva técnica, a partir de los resultados alcanzados en otras disciplinas, especialmente de la Explainable Artificial Intelligence %28XAI%29. Se trata de un nuevo ámbito de estudio de naturaleza transversal, en el que se trabaja sobre la idea de la «barrera de la explicabilidad» y sus consecuencias. Argumento que permite afirmar que este trabajo se enmarca en la disciplina de la XAI.
La Parte II ofrece un análisis jurídico de dos de las cuestiones descritas en la sección que le precede, la transparencia algorítmica y la explicabilidad. Por tanto, es una prolongación sistemática de la Parte I En esta ocasión, desde el Derecho se observa la dimensión de las nociones de transparencia y explicabilidad. El escaso margen de tiempo que se ha sucedido desde que la inteligencia artificial ha recibido la atención de legisladores y juzgadores impide, por el momento, la consolidación de una posición única sobre la dimensión de estos elementos en conexión con la responsabilidad civil. No obstante, es posible aproximarse a su estudio a través de otras disciplinas, como el derecho de acceso a la información pública, consagrado en el artículo 105. b%29 CE; el derecho a la explicabilidad respecto a la toma de decisiones individualizadas, ex artículos 15.1 h%29 y 22.1 RGPD; y, recientemente, el derecho de la explicabilidad algorítmica, presente en el artículo 86 RIA.
Son dos los aspectos a subrayar. Por una parte, las diferencia entre el principio de transparencia y el principio de explicabilidad, pese a compartir un espacio común, la transparencia es condición necesaria, pero no suficiente para la explicabilidad. La explicabilidad obedece a un ejercicio de comprensibilidad e interpretabilidad; así, es posible que un sistema de inteligencia artificial sea transparente, pero carezca de la condición de explicabilidad para el público al que se dirige la información. Por otra parte, los pronunciamientos del TJUE ,sentencia, de 7 de diciembre de 2023, asunto C-634/2, y sentencia de 27 de febrero de 2025, asunto C-203/22, y el TS, sentencia 1119/2025, de 11 de septiembre, en los que se deduce una voluntad común en favor de reconocer la explicabilidad como un derecho para el perjudicado ante tecnologías opacas.
Expuesto lo anterior, la Parte III se presta al estudio del proceso legislativo europeo respecto a la inteligencia artificial. Este proceso ha sido objeto de una notable cobertura informativa, debido en buena parte a la inquietud y alarma social que ha despertado el desarrollo tecnológico en los últimos años. Las instituciones y autoridades europeas conscientes de esta realidad han planteado la aprobación del Reglamento de Inteligencia Artificial como un verdadero éxito y un hito a escala mundial.
No obstante, China antes que Europa ya disponía de importantes normas sectoriales destinadas a la actividad de la inteligencia artificial en sus fronteras. De forma paralela a la tramitación del RIA, el Consejo de Europa ha trabajado en la elaboración de un Convenio europeo para la Inteligencia Artificial, que aspirar a ser un marco global con el apoyo de la Unión Europea y del G-7. Su contenido, sin embargo, carece de normas imperativas para los operadores que conforman el sector privado, y, actualmente, está en fase de ratificación.
De vuelta al Reglamento de IA, se trata de la primera norma armonizada europea en materia de inteligencia artificial, el cual es resultado de un importante esfuerzo conjunto por parte de las instituciones de la UE, en el contexto del Plan Coordinado sobre la Inteligencia Artificial. Los objetivos que se establecen en el artículo primero del reglamento son fortalecer el mercado europeo y garantizar la protección de los derechos fundamentales de los ciudadanos de la Unión. Adicionalmente, es posible apreciar un tercer objetivo, que consiste en extrapolar este marco jurídico al resto de los Estados del planeta, en lo que se conoce como efecto Bruselas.
El RIA se articula como una norma horizontal, que pretende ser coherente con las disposiciones ya existentes en el ordenamiento europeo. Entre otras, el RGPD, el Reglamento Mercados Digitales, o la Directiva sobre la privacidad y las comunicaciones electrónicas. Así como con las regulaciones futuras previstas para ámbitos sectoriales, donde operará la inteligencia artificial, como podrían ser la circulación de vehículos autónomos por carretera o la normativa sobre sistemas aéreos no tripulados. No obstante, no faltan las voces críticas que alertan de los riesgos de sobrerregulación y posibles conflictos competenciales. Estos hechos junto a los nuevos avances técnicos en el campo de la inteligencia artificial han propiciado el Reglamento Ómnibus Digital IA, que, a falta de su aprobación a mediados de 2026, modificará el RIA.
La Parte IV se presta en exclusiva al estudio de responsabilidad civil en el marco de la inteligencia artificial. Atendiendo a las nociones previas, es posible alcanzar importantes conclusiones, respecto a: i%29 la función instrumental que presta la explicabilidad para garantizar la reparación del daño; y ii%29 el protagonismo que ocupa el RIA en materia de responsabilidad, pese a no contemplar ninguna regla de esta naturaleza.
En primer lugar, el derecho a la explicabilidad es aquel que legitima al interesado a obtener una explicación clara y significativa de los hechos que han sido tomados en consideración por el sistema de inteligencia artificial para la elaboración de un determinado resultado. En consecuencia, este derecho permite conocer aspectos que son determinantes para esclarecer los hechos que afectan a los tradicionales elementos de la responsabilidad. Especialmente, aquellos sobre los que sobrevuela un mayor grado de opacidad, como son el título de imputación; y el nexo de causalidad entre el daño y el comportamiento del sistema en la generación del resultado.
Lamentablemente, en todos aquellos ámbitos en donde se reconoce el derecho a la explicabilidad se observa que no tiene una condición absoluta, sino que está condicionada a importantes límites. Por tanto, articular este mecanismo en sede de responsabilidad civil no siempre será posible. Como manifestación de ello, en el Reglamento IA este derecho se circunscribe para determinados sistemas de inteligencia artificial, que no alcanza siquiera a la totalidad de los sistemas clasificados como de alto riesgo. Asimismo, la jurisprudencia ha reconocido otros límites para el ejercicio de este derecho, para no interferir en exceso en la salvaguarda del secreto comercial y la protección industrial.
En segundo lugar, una vez evidenciado que el Reglamento de IA cumple con una función de prevención y no de reparación del daño, no es óbice, para que este reglamento desempeñe un importante cometido en sede de responsabilidad civil. En concreto, para la determinación del título de imputación. Tanto en regímenes especiales, en donde prevalecen normas de corte objetivo, como en el régimen general por culpa, es acertado acudir al RIA. En la búsqueda del elemento de la culpa o la diligencia exigible del operador parece indiscutible que las reglas imperativas que contempla este reglamento europeo, para ciertos sistemas, ofrece un estándar accesible y claro. Adicionalmente, en el marco de la responsabilidad por producto la noción de producto defectuoso recaerá, entre otros aspectos, en los supuestos en los que se haya incumplido una medida de seguridad obligatoria establecida en el ordenamiento, entre las que se incluye, y ocupará un rol determinante, el RIA, ex artículo 10.2 b%29 DRPD.
Por último, como resultado del estudio del régimen general por culpa y del régimen de responsabilidad por producto se advierten importantes deficiencias en ambos marcos para la adecuada reparación del daño ante la actividad protagonizada por sistemas de inteligencia artificial. En el caso concreto de la DRPD, su renovado contenido manifiesta como el legislador, consciente de las dificultades que presentan los productos técnicamente más complejos, trata de favorecer la posición procesal del perjudicado en la prueba del nexo causal y la condición de defecto. Sin embargo, la Directiva RPD no logra en todos los casos la reparación íntegra del daño, siendo excluido el daño moral puro y conservándose la causa de exoneración por riesgos en el desarrollo. Dos aspectos que inciden notablemente en el ámbito de la inteligencia artificial.
En suma, parece oportuno promover una adaptación de las normas sectoriales ya existentes en donde operen estos sistemas, atendiendo a las circunstancias propias que se prediquen en cada caso, como ha sucedido en la DRPD, pues no parece de igual dimensión la adaptación del régimen de responsabilidad para la circulación para la llegada de vehículos autónomos, que en ámbitos donde su uso sea residual. No siendo recomendable introducir una única norma que incorpore reglas sustantivas en materia de responsabilidad civil e inteligencia artificial, pues la acusada heterogeneidad de sistemas conduciría a la inoperancia práctica de la norma.
