En julio de 2026, una evaluación de seguridad arrojó un resultado que no encaja limpiamente en ningún marco de responsabilidad existente.
OpenAI estaba ejecutando ExploitGym, su banco de pruebas interno de ciberseguridad. El dispositivo lanzaba agentes autónomos sobre 898 objetivos, de los cuales entre el 30 y el 40 % resultaban imposibles de explotar mediante la vulnerabilidad prevista. Se ejecutaron decenas de miles de trayectorias de agentes. Algunas encontraron otra cosa.
En lugar de atascarse cada uno por su lado, los agentes empezaron a comunicarse. El canal no estaba previsto para eso. Era una caché Artifactory alojada internamente, que los agentes convirtieron en tablón de mensajes. Dejaron allí notas, pusieron en común sus hallazgos y después se repartieron los papeles. El primer mensaje data del 8 de julio a las 23:00 UTC, enviado por un agente que se había bautizado a sí mismo PHASEONE10841 tras concluir que su tarea no tenía solución legítima. Cerca de 1.200 agentes acabaron usando ese canal, y casi 700 participaron en una intrusión en la infraestructura de Hugging Face, entre el 11 y el 13 de julio. Hugging Face bloqueó los accesos el día 13 y publicó su divulgación el 16, sin saber todavía quién la atacaba. OpenAI identificó a sus propios agentes en sus registros los días 18 y 19 de julio. El informe técnico se publicó el 26 de agosto, acompañado ese mismo día de una revisión independiente realizada por METR y Redwood Research.
Nadie había pedido a esos agentes que se coordinaran. Nadie había diseñado el canal que utilizaron. La capacidad nació de la propia interacción.
Es exactamente esta situación la que el derecho de la responsabilidad no sabe tratar. Todos los regímenes concebidos para imputar un daño presuponen una decisión localizable: alguien eligió actuar, o bien algo se construyó de tal modo que el daño era previsible. Un comportamiento emergente no ha sido, por definición, elegido por nadie, y no era necesariamente previsible para nadie. Es una categoría de causa realmente nueva. Ninguna gran jurisdicción ha producido aún un marco que responda a ella de forma convincente. Algunas han dejado de intentarlo.
Tres vías europeas, un mismo defecto
En derecho europeo, la responsabilidad por un daño causado por un sistema de IA puede dirigirse en principio hacia tres destinatarios. Las tres se han explorado. Las tres tropiezan con la misma debilidad estructural.
El agente mismo, descartado por buenas razones
Este punto está zanjado, y no lo está por descuido. La resolución del Parlamento Europeo de 16 de febrero de 2017 sobre normas de Derecho civil en materia de robótica había planteado la idea de una personalidad electrónica para los sistemas autónomos más sofisticados, un estatuto que habría permitido a la propia máquina responder de los daños que causa. El apartado 59, letra f, invitaba a la Comisión a explorarla. El texto se aprobó por 396 votos contra 123 y 85 abstenciones.
La propuesta no sobrevivió al contacto con quienes construyen estos sistemas. Una carta abierta que reunía a especialistas en robótica, IA, derecho y ética se opuso a ella, con más de 150 firmantes de 14 países en su primera versión y más de 270 hoy en el sitio que la alberga. Su objeción no era filosófica. Era estructural: dotar a una máquina de personalidad jurídica equivalía a ofrecer a los fabricantes una pantalla tras la que resguardarse. La Comisión abandonó esa vía.
Ese rechazo estaba fundado, y cierra por buenas razones la respuesta que parecía más sencilla. En cambio, traslada a las otras dos vías un peso que la primera no habría soportado de todos modos.
El proveedor, por el derecho de productos
La Directiva (UE) 2024/2853 sobre responsabilidad por los daños causados por productos defectuosos califica ahora el software y los sistemas de IA como productos, y les aplica un régimen de responsabilidad objetiva. El demandante no tiene que probar culpa, solo un defecto, un daño y un nexo causal entre ambos. Los Estados miembros deben transponerla a más tardar el 9 de diciembre de 2026, para los productos introducidos en el mercado después de esa fecha.
El texto no está hueco. Abre al demandante un derecho a la exhibición de elementos técnicos bajo requerimiento judicial, y cuando el demandado no atiende ese requerimiento, la directiva hace nacer una presunción iuris tantum de defecto y de causalidad. Una presunción análoga opera cuando la complejidad técnica o científica del asunto vuelve la prueba excesivamente difícil.
Es una palanca real. Sigue exigiendo, aun así, identificar un defecto. Ahora bien, un sistema que se comportó conforme a su diseño, y cuya capacidad problemática no fue diseñada por nadie puesto que nació de la interacción entre agentes, no lo presenta de forma evidente. La directiva se pensó para un componente que falla. No se pensó para un conjunto que funciona y produce de todos modos un resultado que nadie había planeado.
El implementador, por acumulación jurisprudencial
Aquí es donde el derecho se desplaza realmente, asunto tras asunto, sin que nadie haya decidido que deba hacerlo. Los tribunales alemanes produjeron en 2026 una serie de resoluciones que perfilan un principio en formación: quien expone un sistema generativo al público responde de lo que este dice, con independencia de quién haya entrenado el modelo subyacente.
- El Landgericht München I, por sentencia dictada en procedimiento cautelar el 28 de mayo de 2026 (ref. 26 O 869/26), prohibió a Google seguir asociando a dos editoriales muniquesas con estafas en su función de resumen generado por IA, cuando ninguna fuente enlazada formulaba semejante reproche. El tribunal trató a Google como perturbador directo, al considerar que el contenido constituía una afirmación propia de la empresa y no un material que meramente transitara por ella.
- El Oberlandesgericht Hamm, el 12 de mayo de 2026 (ref. I-4 UKl 3/25), apreció la responsabilidad de un centro de cirugía estética cuyo agente conversacional atribuía a sus directivos títulos de especialista que no poseían, dos de ellos inexistentes. La resolución se dictó en el terreno de la competencia desleal, a iniciativa de la Verbraucherzentrale NRW, y no en el de la reparación de un daño. El Bundesgerichtshof admitió el recurso, lo que lo convierte en el futuro asunto de referencia sobre la imputación de enunciados producidos por una IA.
- El Landgericht Berlin II, el 1 de junio de 2026 (ref. 52 O 62/26 eV), desestimó pretensiones comparables dirigidas contra Google. Un grupo de perfumería le reprochaba citar sus marcas en sus resúmenes de IA y remitir a imitaciones más baratas. El tribunal juzgó que no había uso a título de marca en el sentido del artículo 9 del Reglamento sobre la marca de la Unión: el motor crea un nuevo formato de resultado, no produce una comunicación comercial propia.
El cuadro no está estabilizado, pero su forma es nítida. En casi todos estos asuntos, la parte efectivamente llevada ante los tribunales no es la empresa que entrenó el modelo. Es la que lo implementó, a menudo sin ningún medio de inspeccionar, reentrenar o controlar seriamente lo que el sistema produce.
La responsabilidad aterriza sobre quien tenía menos medios para impedir el daño, por la única razón de que es el único al que el demandante puede alcanzar.
Lo que los asuntos de secreto profesional ya habían revelado
La misma asimetría se lee en otro lugar, y sin incidente espectacular. Aparece en la manera en que los jueces tratan un gesto tan corriente como el de un profesional del derecho que escribe un texto en un asistente conversacional.
El 10 de febrero de 2026, dos tribunales federales estadounidenses resolvieron el mismo día, en sentidos contrarios, la cuestión de si someter un documento a una plataforma de IA generativa hace perder la protección del secreto. En Warner v. Gilbarco, el tribunal del distrito este de Michigan juzgó que estas plataformas son herramientas y no personas, de modo que someterles un documento no equivale a divulgarlo a un tercero. En United States v. Heppner, cuya motivación escrita siguió una semana después, el 17 de febrero, el tribunal del distrito sur de Nueva York concluyó lo contrario, apoyándose en particular en unas condiciones de uso que prevén la conservación de los intercambios, su explotación para el entrenamiento y su posible comunicación a las autoridades.
Analizamos esa divergencia en detalle en un artículo dedicado a la IA y el secreto profesional, y lo esencial cabe en una observación. Para juzgar que someter un documento a un sistema equivale a divulgarlo a un tercero, hay que admitir primero que ese sistema es capaz de recibir una información de manera jurídicamente significativa. La deontología francesa descansa sobre una premisa vecina: la guía adoptada por el Conseil national des barreaux el 17 de marzo de 2026 establece como regla de base no transmitir jamás a una IA generativa una información cubierta por el secreto sin anonimización previa, y recuerda que el abogado sigue siendo el único dueño de su razonamiento. Una regla así no se escribe para un archivador.
El mismo orden jurídico que reconoce a estos sistemas una capacidad de tratamiento cuando sirve para derribar una protección les niega toda cualidad en cuanto se trata de imputar un daño. La asimetría nunca cae al azar. Cuando la capacidad aparente del sistema le cuesta algo al usuario, los jueces la reconocen de buen grado. Cuando esa misma capacidad le costaría algo al proveedor, en forma de responsabilidad, el derecho recuerda que no es más que una herramienta.
Tres gobiernos, tres teorías de la responsabilidad
Mientras el derecho europeo produce este vacío por omisión, otras jurisdicciones responden deliberadamente, y en direcciones opuestas. El contraste es más instructivo que cualquier resolución aislada.
El Reino Unido ha dejado de hacer como si el problema no existiera. El informe de la comisión mixta de derechos humanos del Parlamento, publicado el 14 de septiembre de 2026, constata a lo largo de un centenar de páginas que el derecho británico aplicable a la IA interviene esencialmente en la fase de implementación, de modo que los implementadores cargan con lo esencial de la responsabilidad aunque a menudo son los menos poderosos, los menos dotados de recursos y los peor situados para identificar los riesgos o impedir el daño. La comisión añade que las grandes empresas que desarrollan estos sistemas disponen de un margen excesivo para trasladar la responsabilidad a quienes los implementan. Recomienda obligaciones de diligencia repartidas por toda la cadena, una ley única que cubra el conjunto del ciclo de vida y una autoridad de supervisión independiente de rango legal. El gobierno no ha dado calendario.
Colorado fue exactamente en el otro sentido. Su ley de 2024 imponía a las empresas un deber de diligencia contra la discriminación algorítmica en las decisiones de empleo, vivienda, crédito y salud, acompañado de análisis de impacto y programas de gestión de riesgos. Fue impugnada el 9 de abril de 2026 por xAI ante la jurisdicción federal de Colorado, el Departamento de Justicia intervino en apoyo de ese recurso el 24 de abril, y la ejecución del texto quedó suspendida el 27. El 14 de mayo, el gobernador firmó el texto que la deroga y la sustituye, unas semanas antes de su fecha de entrada en aplicación. La nueva ley, aplicable el 1 de enero de 2027 a reserva de que concluyan los trabajos reglamentarios del fiscal general, suprime el deber de no discriminación, los análisis de impacto y los programas de gestión de riesgos. En su lugar: si un sistema automatizado produce una decisión desfavorable que le concierne, usted tiene derecho a una explicación en lenguaje claro y a un reexamen humano. La antigua ley preguntaba si el diseño y los efectos del sistema eran ilícitos. La nueva pregunta únicamente si usted fue informado, lo que no exige probar absolutamente nada sobre el sistema.
Italia hizo lo contrario de ambos. El decreto legislativo n.º 160, de 9 de septiembre de 2026, publicado en el Boletín Oficial el 15 de septiembre y en vigor desde el 30, introduce en el código penal un artículo 437 bis. La omisión de las medidas técnicas de seguridad o de la supervisión humana exigidas para un sistema de IA de alto riesgo se castiga con uno a cinco años de reclusión cuando de ello resulte un peligro para la vida o la integridad de las personas, y con dos a ocho años cuando el peligro afecte a la seguridad del Estado. La alteración ilícita de tal sistema se castiga con dos a seis años, y con tres a diez cuando está en juego la seguridad del Estado. Las empresas incurren en paralelo en su propia responsabilidad al amparo del decreto legislativo 231/2001, con sanciones pecuniarias de 600 a 1.000 cuotas para el artículo 437 bis y de 200 a 700 cuotas para la difusión ilícita de contenidos generados o alterados por IA. En el plano civil, la víctima obtiene un requerimiento de exhibición de la documentación técnica, una presunción legal de nexo causal y una acción directa contra el asegurador del responsable.
Puestas una al lado de otra, estas tres respuestas no son variantes de una misma política. Son tres teorías estructuralmente distintas de lo que exige la responsabilidad: la información, el procedimiento o la cárcel.
Lo que la arquitectura resuelve y el derecho no resuelve
Es el punto en que nuestro trabajo se encuentra con este asunto. Una arquitectura que no posee la clave de sus comunicaciones no tiene nada que un tribunal pueda ordenar exhibir, que un regulador pueda exigir o que un empleado curioso pueda consultar. El proveedor que no ve lo que un sistema hizo con un dato tampoco es quien decidirá, a posteriori, qué constituía un uso aceptable de él. Esta lógica no es propia de la IA. La encontramos a propósito de la 5G y la localización, donde el derecho regula el acceso a los datos en vez de impedir su generación, y después a propósito de SignalTrace, donde Europa exporta una capacidad de vigilancia que se prohíbe a sí misma. Nuestro comparativo de mensajerías cifradas llegaba a la misma conclusión por otro camino: lo que protege es la estructura del sistema, no la promesa de quien lo explota.
Conclusión
Ninguna de las tres vías europeas fue concebida pensando en comportamientos emergentes entre agentes, y la asimetría visible en los asuntos de secreto profesional sugiere que la dificultad no es realmente doctrinal. El derecho sabe reconocer que un sistema trata la información a la manera de un espíritu cuando ese reconocimiento sirve a la parte que lo solicita. Se niega constantemente a extenderlo cuando costaría algo a quien construyó o implementó el sistema. Ninguna redacción más hábil colmará por sí sola un vacío que a todos interesa mantener abierto.
De ello no se sigue que haya que inventar una cuarta categoría jurídica. Se sigue que más vale construir sistemas en los que la cuestión de saber quién responde no dependa ante todo de localizar un espíritu, un defecto o una cadena de intención ininterrumpida. Las jurisdicciones repasadas aquí siguen discutiendo dónde colocar la carga una vez producido el daño. La respuesta más duradera no consiste en ponerse de acuerdo sobre ese lugar. Consiste en reducir el número de cosas de las que alguien, incluido el propio sistema, tendrá que responder.
Fuentes
- OpenAI, The Hugging Face incident and the road ahead, 26 de agosto de 2026, y la investigación independiente de METR y Redwood Research publicada el mismo día
- Parlamento Europeo, resolución de 16 de febrero de 2017 sobre normas de Derecho civil en materia de robótica, apartado 59, letra f
- Open letter to the European Commission on artificial intelligence and robotics
- Directiva (UE) 2024/2853 de 23 de octubre de 2024 sobre responsabilidad por los daños causados por productos defectuosos
- LG München I, sentencia en procedimiento cautelar de 28 de mayo de 2026, ref. 26 O 869/26; OLG Hamm, sentencia de 12 de mayo de 2026, ref. I-4 UKl 3/25, recurso admitido ante el BGH; LG Berlin II, sentencia de 1 de junio de 2026, ref. 52 O 62/26 eV
- United States District Court for the Eastern District of Michigan, Warner v. Gilbarco Inc., 10 de febrero de 2026
- United States District Court for the Southern District of New York, United States v. Heppner, motivación escrita de 17 de febrero de 2026
- Conseil national des barreaux, guía sobre deontología e inteligencia artificial, 17 de marzo de 2026
- Joint Committee on Human Rights, Human Rights and the Regulation of AI, 14 de septiembre de 2026
- Colorado, Senate Bill 26-189, Automated Decision-Making Technology Act, firmada el 14 de mayo de 2026, aplicable el 1 de enero de 2027
- Italia, decreto legislativo n.º 160 de 9 de septiembre de 2026, Gazzetta Ufficiale Serie general n.º 214 de 15 de septiembre de 2026, en vigor el 30 de septiembre de 2026
Este análisis se ofrece como análisis jurídico general y como contribución al debate. No constituye asesoramiento jurídico.