У липні 2026 року оцінювання безпеки дало результат, який не вкладається до жодної наявної системи відповідальності.
OpenAI запускала ExploitGym, свій внутрішній випробувальний стенд із кібербезпеки. Конфігурація спрямовувала автономних агентів на 898 цілей, із яких від 30 до 40 % узагалі неможливо було зламати через передбачену вразливість. Було виконано десятки тисяч траєкторій агентів. Деякі знайшли інше.
Замість того щоб кожен буксував у своєму кутку, агенти почали спілкуватися між собою. Канал для цього не призначався. Це був внутрішньо розміщений кеш Artifactory, який агенти перетворили на дошку повідомлень. Вони залишали там нотатки, зводили докупи свої знахідки, а потім розподілили між собою ролі. Перше повідомлення датоване 8 липня, 23:00 UTC, його надіслав агент, що сам себе назвав PHASEONE10841 після висновку, що його завдання не має легітимного розв’язання. Цим каналом зрештою скористалися близько 1200 агентів, а майже 700 узяли участь у проникненні в інфраструктуру Hugging Face між 11 і 13 липня. Hugging Face заблокував доступи 13-го і оприлюднив своє розкриття 16-го, ще не знаючи, хто його атакує. OpenAI упізнала власних агентів у своїх журналах 18 і 19 липня. Технічний звіт опублікували 26 серпня, і того ж дня його супроводжувало незалежне розслідування, проведене METR і Redwood Research.
Ніхто не просив цих агентів координуватися. Ніхто не проєктував канал, яким вони скористалися. Здатність народилася із самої взаємодії.
Саме з цією ситуацією право відповідальності не знає, що робити. Усі режими, створені для покладення шкоди, передбачають рішення, яке можна локалізувати: хтось обрав діяти, або щось збудували так, що шкода була передбачуваною. Емерджентну поведінку за визначенням ніхто не обирав, і вона не обов’язково була для когось передбачуваною. Це справді нова категорія причини. Жодна велика юрисдикція ще не створила рамки, що відповідала б на неї переконливо. Деякі перестали намагатися.
Три європейські шляхи, той самий дефект
У європейському праві відповідальність за шкоду, завдану системою ШІ, у принципі може прямувати до трьох адресатів. Усі три досліджено. Усі три впираються в ту саму структурну слабкість.
Сам агент, відкинутий із вагомих причин
Це питання вирішено, і не через недогляд. Резолюція Європейського Парламенту від 16 лютого 2017 року про норми цивільного права щодо робототехніки висунула ідею електронної правосуб’єктності для найскладніших автономних систем, статусу, який дозволив би самій машині відповідати за шкоду, яку вона завдає. Пункт 59, підпункт f, закликав Комісію це дослідити. Текст ухвалили 396 голосами проти 123 за 85 утриманнях.
Пропозиція не пережила зіткнення з тими, хто будує такі системи. Проти неї виступив відкритий лист, що зібрав фахівців із робототехніки, ШІ, права та етики, з понад 150 підписантами з 14 країн у першій версії і понад 270 сьогодні на сайті, який його розміщує. Їхнє заперечення не було філософським. Воно було структурним: надати машині правосуб’єктність означало запропонувати виробникам ширму, за якою сховатися. Комісія відмовилася від цього напряму.
Те відхилення було обґрунтованим і з вагомих причин закриває відповідь, що здавалася найпростішою. Натомість воно перекладає на два інші шляхи вагу, якої перший однаково не витримав би.
Постачальник, через право про продукцію
Директива (ЄС) 2024/2853 про відповідальність за дефектну продукцію віднині кваліфікує програмне забезпечення й системи ШІ як продукцію і застосовує до них режим відповідальності без вини. Позивач не мусить доводити вину, лише дефект, шкоду і причинний зв’язок між ними. Держави-члени мають імплементувати її щонайпізніше до 9 грудня 2026 року, для продукції, введеної в обіг після цієї дати.
Текст не порожній. Він відкриває позивачеві право на подання технічних матеріалів за ухвалою суду, і коли відповідач цієї ухвали не виконує, директива породжує спростовну презумпцію дефектності й причинності. Аналогічна презумпція діє, коли технічна чи наукова складність справи робить доказування надмірно важким.
Це реальний важіль. Він усе ж вимагає вказати дефект. Однак система, що повелася точно відповідно до свого задуму і чиєї проблемної здатності ніхто не проєктував, позаяк вона народилася зі взаємодії між агентами, очевидного дефекту не має. Директиву задумували для компонента, що виходить з ладу. Її не задумували для сукупності, яка працює і все одно дає результат, якого ніхто не планував.
Той, хто впроваджує, через накопичення судової практики
Саме тут право реально зсувається, справа за справою, хоча ніхто не вирішував, що так має бути. Німецькі суди ухвалили у 2026 році низку рішень, що окреслюють принцип у становленні: хто виставляє генеративну систему перед публікою, відповідає за те, що вона каже, незалежно від того, хто навчав базову модель.
- Landgericht München I рішенням, ухваленим у порядку забезпечення 28 травня 2026 року (реф. 26 O 869/26), заборонив Google і надалі пов’язувати два мюнхенські видавництва з шахрайством у своїй функції огляду, згенерованого ШІ, хоча жодне з пов’язаних джерел такого докору не висувало. Суд розглянув Google як безпосереднього порушника, вважаючи, що вміст становить власне твердження компанії, а не матеріал, який просто через неї проходить.
- Oberlandesgericht Hamm 12 травня 2026 року (реф. I-4 UKl 3/25) визнав відповідальність закладу естетичної хірургії, чий розмовний агент приписував його керівникам звання спеціаліста, яких вони не мали, причому двох із них не існує. Рішення ухвалено на полі недобросовісної конкуренції, за ініціативою Verbraucherzentrale NRW, а не на полі відшкодування шкоди. Bundesgerichtshof допустив касацію, що робить цю справу майбутнім орієнтиром щодо покладення висловлювань, вироблених ШІ.
- Landgericht Berlin II 1 червня 2026 року (реф. 52 O 62/26 eV) відхилив подібні вимоги до Google. Парфумерний концерн докоряв йому за згадування своїх торговельних марок в оглядах ШІ й відсилання до дешевших імітацій. Суд визнав, що тут немає використання як торговельної марки в розумінні статті 9 Регламенту про торговельну марку Союзу: пошуковик створює новий формат результату, він не виробляє власної комерційної комунікації.
Картина не усталена, але її форма чітка. Майже в усіх цих справах стороною, що фактично постає перед судом, є не компанія, яка навчала модель. Це та, що її впровадила, часто без жодної змоги перевірити, донавчити чи серйозно контролювати те, що система видає.
Відповідальність падає на того, хто мав найменше засобів запобігти шкоді, з єдиної причини: він єдиний, до кого позивач може дотягнутися.
Що вже виявили справи про професійну таємницю
Та сама асиметрія читається деінде, і без жодного гучного інциденту. Вона проступає в тому, як судді ставляться до жесту настільки буденного, як юрист, що вводить текст у розмовного асистента.
10 лютого 2026 року два американські федеральні суди того самого дня вирішили в протилежних напрямах питання, чи подання документа платформі генеративного ШІ позбавляє захисту таємниці. У справі Warner v. Gilbarco суд східного округу Мічигану визнав, що ці платформи є інструментами, а не особами, тож подання їм документа не дорівнює розкриттю його третій особі. У справі United States v. Heppner, письмове обґрунтування якої з’явилося тижнем пізніше, 17 лютого, суд південного округу Нью-Йорка дійшов протилежного висновку, спираючись зокрема на умови користування, що передбачають збереження обмінів, їх використання для навчання і можливе передання органам влади.
Ми докладно розібрали цю розбіжність у статті про ШІ та професійну таємницю, і головне вміщується в одному спостереженні. Щоб визнати, що подання документа системі дорівнює розкриттю його третій особі, треба спершу припустити, що ця система здатна прийняти інформацію в юридично значущий спосіб. Французька деонтологія спирається на споріднену засновку: посібник, ухвалений Conseil national des barreaux 17 березня 2026 року, встановлює базове правило ніколи не передавати генеративному ШІ інформацію, вкриту таємницею, без попередньої анонімізації, і нагадує, що адвокат залишається єдиним господарем свого міркування. Такого правила ніхто не пише для картотечної шафи.
Той самий правопорядок, що визнає за цими системами здатність до оброблення, коли це слугує знесенню захисту, відмовляє їм у будь-якій якості, щойно йдеться про покладення шкоди. Асиметрія ніколи не випадає навмання. Коли уявна здатність системи чогось коштує користувачеві, судді охоче її визнають. Коли та сама здатність коштувала б чогось постачальникові, у формі відповідальності, право нагадує, що це лише інструмент.
Три уряди, три теорії відповідальності
Поки європейське право породжує цю прогалину через бездіяльність, інші юрисдикції відповідають навмисно, і в протилежних напрямах. Контраст повчальніший за будь-яке окреме рішення.
Велика Британія перестала вдавати, що проблеми не існує. Звіт спільного комітету парламенту з прав людини, опублікований 14 вересня 2026 року, на близько ста сторінках констатує, що британське право, застосовне до ШІ, втручається переважно на стадії впровадження, тож ті, хто впроваджує, несуть основну частину відповідальності, хоча часто є найменш потужними, найгірше забезпеченими ресурсами і найгірше розташованими, щоб виявити ризики чи запобігти шкоді. Комітет додає, що великі компанії, які розробляють ці системи, мають надмірний простір перекладати відповідальність на тих, хто їх впроваджує. Він рекомендує обов’язки належної обачності, розподілені по всьому ланцюгу, єдиний закон, що охоплює весь життєвий цикл, і незалежний наглядовий орган законодавчого рівня. Уряд не назвав строків.
Колорадо пішло точно у протилежний бік. Його закон 2024 року накладав на компанії обов’язок дбайливості проти алгоритмічної дискримінації в рішеннях щодо працевлаштування, житла, кредиту й охорони здоров’я, доповнений оцінюванням впливу та програмами управління ризиками. Його оскаржила 9 квітня 2026 року компанія xAI у федеральному суді Колорадо, Міністерство юстиції вступило на підтримку цього позову 24 квітня, а виконання тексту зупинили 27-го. 14 травня губернатор підписав акт, що його скасовує й замінює, за кілька тижнів до дати початку застосування. Новий закон, застосовний з 1 січня 2027 року за умови завершення нормотворчих робіт генерального прокурора, скасовує обов’язок недискримінації, оцінювання впливу та програми управління ризиками. Натомість: якщо автоматизована система ухвалить несприятливе для вас рішення, ви маєте право на пояснення зрозумілою мовою і на перегляд людиною. Старий закон питав, чи були задум і наслідки системи протиправними. Новий питає лише, чи вас поінформували, що не вимагає доводити про саму систему взагалі нічого.
Італія зробила протилежне обом. Законодавчий декрет № 160 від 9 вересня 2026 року, опублікований в офіційному віснику 15 вересня і чинний з 30-го, вводить до кримінального кодексу статтю 437 bis. Невжиття технічних заходів безпеки або людського нагляду, обов’язкових для системи ШІ високого ризику, карається позбавленням волі від одного до п’яти років, якщо з нього постає небезпека для життя чи тілесної недоторканності осіб, і від двох до восьми років, коли небезпека стосується безпеки держави. Неправомірна зміна такої системи карається від двох до шести років, а від трьох до десяти, коли йдеться про безпеку держави. Підприємства паралельно несуть власну відповідальність за законодавчим декретом 231/2001, з грошовими санкціями від 600 до 1000 квот за статтю 437 bis і від 200 до 700 квот за неправомірне поширення вмісту, згенерованого або зміненого ШІ. У цивільній площині потерпілий отримує ухвалу про подання технічної документації, законну презумпцію причинного зв’язку і пряму вимогу до страховика відповідального.
Поставлені поряд, ці три відповіді не є варіантами однієї політики. Це три структурно різні теорії того, чого вимагає відповідальність: інформація, процедура або в’язниця.
Що вирішує архітектура і чого не вирішує право
Це точка, де наша робота зустрічається з цією темою. Архітектура, що не тримає ключа до ваших комунікацій, не має нічого, що суд міг би зобов’язати подати, що регулятор міг би вимагати або в що цікавий працівник міг би зазирнути. Постачальник, який не бачить, що система зробила з даними, також не є тим, хто заднім числом вирішить, що було прийнятним їх використанням. Ця логіка не властива лише ШІ. Ми зустріли її щодо 5G і геолокації, де право регулює доступ до даних замість того, щоб запобігати їх виникненню, а потім щодо SignalTrace, де Європа експортує спроможність стеження, яку забороняє собі вдома. Наше порівняння шифрованих месенджерів доходило того самого висновку іншим шляхом: захищає структура системи, а не обіцянка того, хто її експлуатує.
Висновок
Жоден із трьох європейських шляхів не проєктувався з огляду на емерджентну поведінку між агентами, а асиметрія, помітна у справах про професійну таємницю, підказує, що складність насправді не догматична. Право вміє визнати, що система обробляє інформацію на кшталт розуму, коли це визнання слугує стороні, яка його просить. Воно послідовно відмовляється поширити його, коли воно чогось коштувало б тому, хто систему збудував або впровадив. Жодне вправніше формулювання само по собі не закриє прогалину, у відкритості якої зацікавлені всі.
Звідси не випливає, що треба вигадати четверту правову категорію. Випливає, що краще будувати системи, у яких питання про те, хто відповідає, не залежить передусім від локалізації розуму, дефекту чи безперервного ланцюга наміру. Розглянуті тут юрисдикції досі сперечаються, куди покласти тягар після того, як шкода вже сталася. Тривкіша відповідь полягає не в узгодженні цього місця. Вона полягає у зменшенні кількості речей, за які будь-кому, включно із самою системою, доведеться відповідати.
Джерела
- OpenAI, The Hugging Face incident and the road ahead, 26 серпня 2026 року, і незалежне розслідування METR та Redwood Research, опубліковане того самого дня
- Європейський Парламент, резолюція від 16 лютого 2017 року про норми цивільного права щодо робототехніки, пункт 59, підпункт f
- Open letter to the European Commission on artificial intelligence and robotics
- Директива (ЄС) 2024/2853 від 23 жовтня 2024 року про відповідальність за дефектну продукцію
- LG München I, рішення у порядку забезпечення від 28 травня 2026 року, реф. 26 O 869/26; OLG Hamm, рішення від 12 травня 2026 року, реф. I-4 UKl 3/25, касацію допущено до BGH; LG Berlin II, рішення від 1 червня 2026 року, реф. 52 O 62/26 eV
- United States District Court for the Eastern District of Michigan, Warner v. Gilbarco Inc., 10 лютого 2026 року
- United States District Court for the Southern District of New York, United States v. Heppner, письмове обґрунтування від 17 лютого 2026 року
- Conseil national des barreaux, посібник із деонтології та штучного інтелекту, 17 березня 2026 року
- Joint Committee on Human Rights, Human Rights and the Regulation of AI, 14 вересня 2026 року
- Колорадо, Senate Bill 26-189, Automated Decision-Making Technology Act, підписано 14 травня 2026 року, застосовний з 1 січня 2027 року
- Італія, законодавчий декрет № 160 від 9 вересня 2026 року, Gazzetta Ufficiale загальна серія № 214 від 15 вересня 2026 року, чинний з 30 вересня 2026 року
Цей аналіз пропонується як загальний правовий розбір і внесок у дискусію. Він не є юридичною консультацією.