El auge de la IA pone de manifiesto la necesidad de regímenes de responsabilidad adaptados a la era digital en España y en la Unión Europea

Es innegable que el desarrollo y crecimiento que ha experimentado en los últimos años la IA pone de manifiesto el enorme potencial de esta tecnología y sus numerosas ventajas para la sociedad en general. No obstante, esta transformación tecnológica nos conduce a nuevos escenarios para los cuales el derecho de la Unión Europea no tiene todavía una respuesta, lo que genera inseguridad jurídica especialmente en el mercado transfronterizo e incentiva la fragmentación normativa en los diferentes Estados Miembros. Por ello, el legislador europeo tiene el reto de alcanzar una regulación en materia de responsabilidad de productos y servicios de IA que permita explotar todo su potencial garantizando al mismo tiempo el respeto de los derechos de los consumidores y, en particular, el derecho de reparación uniforme de daños causados por esta tecnología.

Los tribunales españoles

Actualmente, España no cuenta con regulación específica que regule el régimen de responsabilidad por productos y servicios de IA, produciéndose situaciones en las que los tribunales españoles se ven obligados a modular las reglas generales de responsabilidad civil por productos defectuosos. En el ámbito de la protección a los derechos de los consumidores, el régimen de responsabilidad civil por productos defectuosos se regula en los artículos 135 y siguientes de la Ley General para la Defensa de los Consumidores y Usuarios estableciéndose que el productor o fabricante de los productos son responsables civiles de la reparación de los daños que estos causen y aplicándose, para las relaciones entre profesionales, las reglas de responsabilidad civil contractual (reguladas artículos 1.101 y siguientes del Código Civil) y extracontractual (reguladas en los artículos 1.902 y siguientes del Código Civil). Según lo dispuesto en estas regulaciones, el perjudicado podrá solicitar la reparación de los daños personales o materiales causados siempre y cuando pueda probar el defecto, el daño y la relación de causalidad entre ambos. No obstante, la autonomía, complejidad y opacidad de la tecnología de IA hace prácticamente imposible que el perjudicado pueda asumir la carga de la prueba produciéndose, por lo tanto, cierta indefensión y reducción del derecho constitucional a la tutela judicial efectiva. 

La doble respuesta de la UE a la IA 

Como respuesta a esta más que evidente necesidad de definir un régimen común de responsabilidad civil de los productos de la era digital (incluidos los sistemas de IA) en la Unión Europea, el pasado 28 de septiembre la Comisión Europea presentó dos propuestas legislativas cuyo objetivo es –en línea con lo dispuesto en el Libro Blanco sobre la IA que destaca las oportunidades que ofrece esta tecnología, y en la propuesta de Ley de IA del año 2021– adaptar las reglas de responsabilidad civil al contexto digital existente. 

La propuesta de revisión de la Directiva sobre responsabilidad por los daños causados por productos defectuosos (Directiva 85/374/CEE) introduce, entre otras, las siguientes novedades: 

• Se amplía el concepto de "producto", incluyendo ahora el software, sistemas de IA o servicios digitales necesarios para que funcione un producto (como, por ejemplo, un servicio de navegación en un vehículo autónomo) y los archivos de fabricación digital pudiendo, por lo tanto, tener la consideración de responsable civil los proveedores de estos sistemas o programas informáticos.
• En asuntos con cierta complejidad técnica o científica, se admite aligerar la carga de la prueba del afectado estableciendo que los productores faciliten información técnica de los productos en sede judicial.
• Se establece responsabilidad para aquellas personas que realicen modificaciones en productos ya comercializados y vuelvan a introducirlos en el mercado, incluso cuando estos cambios sean consecuencia de actualizaciones de software o «machine learning».
• Otros terceros como los importadores, los representantes autorizados, los distribuidores o los prestadores de servicios de tramitación de pedidos a distancia pueden ser considerados responsables de los productos fabricados fuera de la Unión Europea.

Por otro lado, destacan los siguientes aspectos de la propuesta de Directiva sobre responsabilidad civil extracontractual en materia de IA que se centra en dar cobertura a los daños derivados de un comportamiento ilícito, tales como violaciones de seguridad o daños causados por problemas de seguridad:

• Revelación de pruebas. En aquellos casos en los que el demandante lo solicite, el órgano jurisdiccional tendrá la posibilidad de ordenar al fabricante la revelación de pruebas relacionadas con el daño generado por sistemas de IA de alto riesgo (como, por ejemplo, programas informáticos de clasificación de curriculum vitae para procedimientos de contratación o la comprobación de la autenticidad de los documentos de viaje) siempre y cuando (i) el demandante pruebe haber realizado esfuerzos proporcionados para obtener la referida información, y (ii) la prueba sea estrictamente necesaria para demostrar el daño. Dicha revelación deberá realizarse mediante la adopción de medidas específicas que garanticen la confidencialidad de los secretos comerciales durante y después del proceso.
• Presunción de causalidad. En caso de que la víctima pruebe que el demandado es culpable y es razonablemente probable que exista un nexo causal entre el daño causado y el incumplimiento del sistema de IA, el órgano jurisdiccional podrá presumir «iuris tantum» que ese incumplimiento es el que ha provocado el daño. Esta presunción está sujeta a una serie de condiciones que se contemplan en la norma. Con esta medida, se simplifica el proceso legal a las víctimas en el momento de demostrar el nexo causal entre el daño causado y el incumplimiento del sistema de IA.

Comentario de Osborne Clarke

En un contexto económico y social en que la tecnología y la legislación no avanzan a la misma velocidad se producen desequilibrios que desincentivan la inversión en productos nuevos e innovadores que incorporan IA, poniéndose de manifiesto la desarmonización legislativa en materia de responsabilidad civil como uno de los principales escollos para los fabricantes y comercializadores de sistemas de IA en la Unión Europea. 

A la expectativa de los efectos que estas dos ambiciosas propuestas de directiva produzcan en el Mercado Único, por el momento la justicia española tendrá que modular las reglas clásicas de responsabilidad civil a estas nuevas tecnologías para conseguir un equilibrio entre los intereses de los empresarios y usuarios.