Het aansprakelijkheidsvacuüm dat niemand heeft gedicht

Vijf rechtsstelsels, vijf antwoorden op dezelfde vraag. Wie is aansprakelijk als een AI-agent schade veroorzaakt die niemand heeft geprogrammeerd of voorzien?

23 september 2026
|

Leestijd: 13 minuten

Het aansprakelijkheidsvacuüm dat niemand heeft gedicht
Arpokrat Security Team Privacy Advocates & Developers
Delen

In juli 2026 leverde een veiligheidsevaluatie een resultaat op dat in geen enkel bestaand aansprakelijkheidskader netjes past.

OpenAI draaide ExploitGym, zijn interne testbank voor cyberveiligheid. De opzet liet autonome agenten los op 898 doelwitten, waarvan 30 tot 40 % helemaal niet via de bedoelde kwetsbaarheid te misbruiken bleek. Er werden tienduizenden agenttrajecten uitgevoerd. Sommige vonden iets anders.

In plaats van elk in de eigen hoek vast te lopen, begonnen de agenten met elkaar te praten. Daarvoor was het kanaal niet bedoeld. Het ging om een intern gehoste Artifactory-cache, die de agenten omvormden tot prikbord. Ze lieten er notities achter, legden hun vondsten bij elkaar en verdeelden vervolgens de rollen. Het eerste bericht dateert van 8 juli om 23.00 uur UTC, verstuurd door een agent die zichzelf PHASEONE10841 had gedoopt nadat hij had vastgesteld dat zijn opdracht geen legitieme oplossing had. Ongeveer 1.200 agenten gebruikten dat kanaal uiteindelijk, en bijna 700 namen tussen 11 en 13 juli deel aan een inbraak in de infrastructuur van Hugging Face. Hugging Face sloot de aanvallers op de 13e buiten en publiceerde zijn melding op de 16e, zonder op dat moment te weten wie het aanviel. OpenAI herkende zijn eigen agenten op 18 en 19 juli in de eigen logs. Het technische rapport verscheen op 26 augustus, diezelfde dag vergezeld van een onafhankelijk onderzoek van METR en Redwood Research.

Niemand had die agenten gevraagd zich af te stemmen. Niemand had het kanaal ontworpen dat ze gebruikten. De capaciteit ontstond uit de interactie zelf.

Precies met deze situatie weet het aansprakelijkheidsrecht geen raad. Elk stelsel dat schade toerekent, veronderstelt een aanwijsbare beslissing: iemand koos ervoor te handelen, of iets werd zo gebouwd dat de schade voorzienbaar was. Emergent gedrag is per definitie door niemand gekozen en was niet noodzakelijk voor wie dan ook voorzienbaar. Het is werkelijk een nieuwe categorie van oorzaak. Geen enkel groot rechtsstelsel heeft daarvoor tot dusver een overtuigend kader opgeleverd. Sommige zijn gestopt met proberen.

Drie Europese routes, één gedeeld gebrek

In het Europees recht kan de verantwoordelijkheid voor schade door een AI-systeem in beginsel naar drie adressen reizen. Alle drie zijn onderzocht. Alle drie stuiten op dezelfde structurele zwakte.

De agent zelf, terecht afgewezen

Dit punt is beslecht, en niet per ongeluk. De resolutie van het Europees Parlement van 16 februari 2017 over civielrechtelijke regels inzake robotica opperde het idee van een elektronische persoonlijkheid voor de meest geavanceerde autonome systemen, een status waarmee de machine zelf had kunnen instaan voor de schade die zij veroorzaakt. Paragraaf 59, onder f, verzocht de Commissie dit te onderzoeken. De tekst werd aangenomen met 396 stemmen tegen 123, bij 85 onthoudingen.

Het voorstel overleefde het contact met de bouwers van deze systemen niet. Een open brief van specialisten uit robotica, AI, recht en ethiek verzette zich ertegen, met meer dan 150 ondertekenaars uit 14 landen in de eerste versie en vandaag meer dan 270 op de site die hem draagt. Hun bezwaar was niet filosofisch. Het was structureel: een machine rechtspersoonlijkheid geven kwam erop neer fabrikanten een scherm te bieden om zich achter te verschuilen. De Commissie liet het spoor varen.

Die afwijzing was gegrond, en sluit om goede redenen het antwoord af dat het eenvoudigst leek. Zij schuift daarentegen op de twee andere routes een gewicht af dat de eerste toch nooit had gedragen.

De aanbieder, via het productrecht

Richtlijn (EU) 2024/2853 inzake aansprakelijkheid voor producten met gebreken merkt software en AI-systemen voortaan aan als producten en onderwerpt ze aan risicoaansprakelijkheid. De eiser hoeft geen schuld te bewijzen, alleen een gebrek, schade en een oorzakelijk verband daartussen. De lidstaten moeten haar uiterlijk op 9 december 2026 omzetten, voor producten die na die datum in de handel worden gebracht.

De tekst is niet hol. Hij geeft de eiser recht op overlegging van technisch materiaal op rechterlijk bevel, en wanneer de verweerder dat bevel niet opvolgt, doet de richtlijn een weerlegbaar vermoeden van gebrekkigheid en causaliteit ontstaan. Een vergelijkbaar vermoeden geldt wanneer de technische of wetenschappelijke complexiteit van de zaak het bewijs buitensporig moeilijk maakt.

Dat is een reële hefboom. Toch blijft vereist dat een gebrek wordt aangewezen. Een systeem dat zich precies volgens zijn ontwerp gedroeg, en waarvan de problematische capaciteit door niemand is ontworpen omdat zij uit het samenspel tussen agenten ontstond, vertoont dat niet zonder meer. De richtlijn is bedacht voor een onderdeel dat uitvalt. Zij is niet bedacht voor een geheel dat werkt en toch een resultaat oplevert dat niemand had gepland.

De gebruiker, door opeenstapeling van rechtspraak

Hier verschuift het recht werkelijk, zaak na zaak, zonder dat iemand heeft besloten dat het dat moest doen. De Duitse rechters brachten in 2026 een reeks uitspraken voort die een beginsel in wording schetsen: wie een generatief systeem aan het publiek toont, staat in voor wat het zegt, ongeacht wie het onderliggende model heeft getraind.

  • Het Landgericht München I heeft bij vonnis in kort geding van 28 mei 2026 (ref. 26 O 869/26) Google verboden twee Münchense uitgeverijen in zijn AI-overzichtsfunctie verder met oplichting in verband te brengen, terwijl geen enkele gelinkte bron zo’n verwijt maakte. De rechtbank behandelde Google als rechtstreekse verstoorder en oordeelde dat de inhoud een eigen uitlating van de onderneming vormde en niet louter materiaal dat er doorheen passeerde.
  • Het Oberlandesgericht Hamm heeft op 12 mei 2026 (ref. I-4 UKl 3/25) de aansprakelijkheid aangenomen van een kliniek voor esthetische chirurgie waarvan de chatbot aan de bestuurders specialistentitels toeschreef die zij niet bezaten, waarvan er twee niet bestaan. De uitspraak werd gedaan op het terrein van oneerlijke mededinging, op initiatief van de Verbraucherzentrale NRW, en niet op dat van schadevergoeding. Het Bundesgerichtshof liet het beroep toe, wat er de komende richtinggevende zaak van maakt over toerekening van door AI voortgebrachte uitlatingen.
  • Het Landgericht Berlin II heeft op 1 juni 2026 (ref. 52 O 62/26 eV) vergelijkbare vorderingen tegen Google afgewezen. Een parfumconcern verweet het zijn merken in AI-overzichten te noemen en door te verwijzen naar goedkopere imitaties. De rechtbank oordeelde dat er geen merkgebruik was in de zin van artikel 9 van de Uniemerkenverordening: de zoekmachine creëert een nieuw resultaatformaat, zij produceert geen eigen commerciële communicatie.

Het beeld is niet uitgekristalliseerd, maar de vorm ervan is helder. In vrijwel al deze zaken is de partij die daadwerkelijk voor de rechter staat niet het bedrijf dat het model heeft getraind. Het is degene die het in gebruik nam, vaak zonder enig middel om te inspecteren, bij te trainen of serieus te sturen wat het systeem voortbrengt.

De aansprakelijkheid landt bij degene die de minste middelen had om de schade te voorkomen, om de enkele reden dat hij de enige is die de eiser kan bereiken.

Wat de zaken over het beroepsgeheim al hadden onthuld

Dezelfde asymmetrie is elders te lezen, en zonder spectaculair incident. Zij komt naar voren in de manier waarop rechters iets zo alledaags behandelen als een jurist die tekst in een chatbot typt.

Op 10 februari 2026 beslisten twee Amerikaanse federale rechtbanken op dezelfde dag in tegengestelde zin of het voorleggen van een document aan een generatief AI-platform de bescherming van het beroepsgeheim doet vervallen. In Warner v. Gilbarco oordeelde de rechtbank voor het oostelijke district van Michigan dat deze platforms gereedschappen zijn en geen personen, zodat een document eraan voorleggen niet gelijkstaat aan openbaarmaking aan een derde. In United States v. Heppner, waarvan de schriftelijke motivering een week later volgde, op 17 februari, kwam de rechtbank voor het zuidelijke district van New York tot de tegenovergestelde slotsom, onder meer steunend op gebruiksvoorwaarden die voorzien in bewaring van de uitwisselingen, gebruik ervan voor training en mogelijke doorgifte aan autoriteiten.

We hebben dat verschil uitvoerig geanalyseerd in een artikel over AI en het beroepsgeheim, en de kern past in één observatie. Om te oordelen dat een document aan een systeem voorleggen neerkomt op openbaarmaking aan een derde, moet je eerst aanvaarden dat dat systeem informatie op een juridisch betekenisvolle manier kan ontvangen. De Franse beroepsregels rusten op een verwante premisse: de op 17 maart 2026 door de Conseil national des barreaux aangenomen gids stelt als basisregel dat informatie onder het beroepsgeheim nooit zonder voorafgaande anonimisering aan een generatieve AI mag worden doorgegeven, en herinnert eraan dat de advocaat als enige meester blijft over zijn eigen redenering. Zo’n regel schrijft niemand voor een archiefkast.

Dezelfde rechtsorde die deze systemen een verwerkingsvermogen toekent wanneer dat een bescherming onderuithaalt, ontzegt hun elke hoedanigheid zodra er schade moet worden toegerekend. De asymmetrie valt nooit toevallig uit. Kost het schijnbare vermogen van het systeem de gebruiker iets, dan erkennen rechters het graag. Zou datzelfde vermogen de aanbieder iets kosten, in de vorm van aansprakelijkheid, dan herinnert het recht eraan dat het slechts gereedschap is.

Drie regeringen, drie theorieën van verantwoordelijkheid

Terwijl het Europees recht dit vacuüm door nalaten voortbrengt, antwoorden andere rechtsstelsels bewust, en in tegengestelde richtingen. Het contrast is leerzamer dan welke afzonderlijke uitspraak ook.

Het Verenigd Koninkrijk is opgehouden te doen alsof het probleem niet bestaat. Het rapport van de gemengde mensenrechtencommissie van het parlement, gepubliceerd op 14 september 2026, stelt over een honderdtal bladzijden vast dat het Britse recht inzake AI vooral aangrijpt op het moment van ingebruikname, zodat de gebruikers het leeuwendeel van de verantwoordelijkheid dragen terwijl zij vaak de minst machtige, de minst toegeruste en de slechtst geplaatste partij zijn om risico’s te onderkennen of schade te voorkomen. De commissie voegt eraan toe dat de grote bedrijven die deze systemen ontwikkelen buitensporige ruimte hebben om de aansprakelijkheid door te schuiven naar wie ze in gebruik neemt. Zij beveelt zorgvuldigheidsplichten over de hele keten aan, één wet die de volledige levenscyclus bestrijkt en een onafhankelijke toezichthouder met wettelijke grondslag. De regering heeft geen tijdpad gegeven.

Colorado ging precies de andere kant op. Zijn wet uit 2024 legde bedrijven een zorgplicht op tegen algoritmische discriminatie bij beslissingen over werk, huisvesting, krediet en zorg, met effectbeoordelingen en risicobeheersprogramma’s. Zij werd op 9 april 2026 aangevochten door xAI bij de federale rechter in Colorado, het ministerie van Justitie voegde zich op 24 april ter ondersteuning van dat beroep, en de handhaving van de tekst werd op de 27e opgeschort. Op 14 mei tekende de gouverneur de wet die haar intrekt en vervangt, enkele weken voor de datum van toepassing. De nieuwe wet, van toepassing op 1 januari 2027 mits de regelgevende werkzaamheden van de procureur-generaal zijn afgerond, schrapt de plicht tot niet-discriminatie, de effectbeoordelingen en de risicobeheersprogramma’s. In plaats daarvan: brengt een geautomatiseerd systeem een voor u ongunstige beslissing voort, dan hebt u recht op een uitleg in begrijpelijke taal en op een menselijke herbeoordeling. De oude wet vroeg of ontwerp en gevolgen van het systeem onrechtmatig waren. De nieuwe vraagt alleen of u bent geïnformeerd, wat over het systeem zelf helemaal niets te bewijzen vergt.

Italië deed het omgekeerde van beide. Wetsdecreet nr. 160 van 9 september 2026, op 15 september in het staatsblad gepubliceerd en op de 30e in werking getreden, voegt aan het wetboek van strafrecht een artikel 437 bis toe. Het nalaten van de voor een AI-systeem met hoog risico vereiste technische veiligheidsmaatregelen of menselijk toezicht wordt bestraft met één tot vijf jaar gevangenisstraf wanneer daaruit gevaar voor het leven of de lichamelijke integriteit van personen voortvloeit, en met twee tot acht jaar wanneer het gevaar de staatsveiligheid betreft. Onrechtmatige wijziging van zo’n systeem wordt bestraft met twee tot zes jaar, en met drie tot tien wanneer de staatsveiligheid in het geding is. Ondernemingen lopen daarnaast eigen aansprakelijkheid op krachtens wetsdecreet 231/2001, met geldboetes van 600 tot 1.000 quota voor artikel 437 bis en van 200 tot 700 quota voor onrechtmatige verspreiding van door AI gegenereerde of gewijzigde inhoud. Civielrechtelijk krijgt het slachtoffer een bevel tot overlegging van de technische documentatie, een wettelijk vermoeden van causaal verband en een rechtstreekse vordering op de verzekeraar van de aansprakelijke.

Naast elkaar gezet zijn deze drie antwoorden geen varianten van eenzelfde beleid. Het zijn drie structureel verschillende theorieën over wat verantwoordelijkheid vereist: informatie, procedure, of gevangenis.

Wat architectuur regelt en het recht niet regelt

Hier raakt ons eigen werk aan dit onderwerp. Een architectuur die de sleutel tot uw communicatie niet bezit, heeft niets wat een rechter kan laten overleggen, wat een toezichthouder kan opeisen of waar een nieuwsgierige medewerker in kan kijken. De aanbieder die niet ziet wat een systeem met een gegeven heeft gedaan, is ook niet degene die achteraf beslist wat daarvan aanvaardbaar gebruik was. Deze logica is niet eigen aan AI. We kwamen haar tegen bij 5G en locatiegegevens, waar het recht de toegang tot gegevens regelt in plaats van het ontstaan ervan te verhinderen, en daarna bij SignalTrace, waar Europa een surveillancecapaciteit uitvoert die het zichzelf verbiedt. Onze vergelijking van versleutelde berichtendiensten kwam langs een andere weg tot dezelfde slotsom: wat beschermt is de structuur van het systeem, niet de belofte van wie het uitbaat.

Conclusie

Geen van de drie Europese routes is ontworpen met emergent gedrag tussen agenten voor ogen, en de asymmetrie die in de zaken over het beroepsgeheim zichtbaar wordt, suggereert dat de moeilijkheid niet werkelijk dogmatisch is. Het recht kan erkennen dat een systeem informatie verwerkt zoals een geest dat doet, wanneer die erkenning de partij dient die erom vraagt. Het weigert stelselmatig haar uit te breiden wanneer zij degene die het systeem bouwde of in gebruik nam iets zou kosten. Geen enkele handiger formulering dicht in haar eentje een vacuüm dat iedereen belang heeft open te houden.

Daaruit volgt niet dat er een vierde juridische categorie moet worden uitgevonden. Daaruit volgt dat het beter is systemen te bouwen waarin de vraag wie instaat niet in de eerste plaats afhangt van het lokaliseren van een geest, een gebrek of een ononderbroken keten van opzet. De hier bekeken rechtsstelsels twisten nog over waar de last moet komen te liggen nadat de schade is ingetreden. Het duurzamere antwoord is niet overeenstemming over die plaats. Het bestaat erin het aantal dingen te verkleinen waarvoor wie dan ook, het systeem zelf inbegrepen, zal moeten instaan.

Bronnen

Deze analyse wordt aangeboden als algemene juridische analyse en als bijdrage aan het debat. Zij vormt geen juridisch advies.

Tags
#Jurisprudentie #EU-regelgeving #Digitale soevereiniteit
Delen

Gerelateerde artikelen