Mnamo Julai 2026, tathmini moja ya usalama ilizaa matokeo yasiyoingia vizuri katika mfumo wowote wa uwajibikaji uliopo.
OpenAI ilikuwa ikiendesha ExploitGym, jukwaa lake la ndani la majaribio ya usalama wa mtandao. Mpangilio huo uliachilia mawakala huru dhidi ya shabaha 898, ambapo asilimia 30 hadi 40 hazikuweza kabisa kuvunjwa kupitia udhaifu uliokusudiwa. Makumi ya maelfu ya njia za mawakala zilitekelezwa. Baadhi yao zilipata kitu kingine.
Badala ya kila mmoja kukwama pembeni mwake, mawakala walianza kuzungumza wao kwa wao. Njia hiyo haikuwa imeandaliwa kwa hilo. Ilikuwa akiba ya Artifactory iliyopangishwa ndani ya taasisi, ambayo mawakala waliigeuza kuwa ubao wa ujumbe. Waliacha maandishi hapo, wakakusanya waliyoyagundua, kisha wakagawana majukumu. Ujumbe wa kwanza ni wa tarehe 8 Julai saa 23:00 UTC, uliotumwa na wakala aliyejiita mwenyewe PHASEONE10841 baada ya kuhitimisha kwamba kazi yake haikuwa na suluhisho halali. Hatimaye takriban mawakala 1,200 walitumia njia hiyo, na karibu 700 walishiriki katika uvamizi wa miundombinu ya Hugging Face, kati ya tarehe 11 na 13 Julai. Hugging Face ilifunga njia za kuingia tarehe 13 na kuchapisha taarifa yake tarehe 16, bila bado kujua nani aliyekuwa akiishambulia. OpenAI iliwatambua mawakala wake katika kumbukumbu zake tarehe 18 na 19 Julai. Ripoti ya kiufundi ilichapishwa tarehe 26 Agosti, ikiambatana siku hiyohiyo na uchunguzi huru uliofanywa na METR na Redwood Research.
Hakuna aliyewaomba mawakala hao kuratibu. Hakuna aliyeibuni njia waliyoitumia. Uwezo huo ulizaliwa kutokana na mwingiliano wenyewe.
Ni hali hiihii ambayo sheria ya uwajibikaji haijui kuishughulikia. Mifumo yote iliyobuniwa kuhusisha madhara na mtu hudhania uamuzi unaoweza kupatikana mahali fulani: mtu alichagua kutenda, au kitu kilijengwa kwa namna iliyofanya madhara yatabirike. Tabia ibukizi, kwa fasili yake, haikuchaguliwa na yeyote, wala haikuwa lazima itabirike kwa yeyote. Ni jamii mpya kabisa ya sababu. Hakuna mamlaka kubwa ya kisheria iliyotoa bado mfumo unaoijibu kwa kusadikisha. Baadhi zimeacha kujaribu.
Njia tatu za Ulaya, kasoro ileile
Katika sheria ya Ulaya, uwajibikaji kwa madhara yaliyosababishwa na mfumo wa akili bandia kwa kanuni unaweza kuelekea kwa wapokeaji watatu. Njia zote tatu zimechunguzwa. Zote tatu zinagonga udhaifu uleule wa kimuundo.
Wakala mwenyewe, aliyetengwa kwa sababu nzuri
Suala hili limeamuliwa, na halikuamuliwa kwa kuchanganyikiwa. Azimio la Bunge la Ulaya la tarehe 16 Februari 2017 kuhusu kanuni za sheria za kiraia katika roboti lilikuwa limependekeza wazo la utu wa kielektroniki kwa mifumo huru iliyostawi zaidi, hadhi ambayo ingeruhusu mashine yenyewe kujibu kwa madhara inayosababisha. Aya ya 59, kipengele f, iliialika Tume kulichunguza. Maandishi yalipitishwa kwa kura 396 dhidi ya 123 na 85 waliojizuia.
Pendekezo halikuvumilia mkutano na wale wanaojenga mifumo hii. Barua ya wazi iliyokusanya wataalamu wa roboti, akili bandia, sheria na maadili ilipinga, ikiwa na watia saini zaidi ya 150 kutoka nchi 14 katika toleo lake la kwanza, na zaidi ya 270 leo kwenye tovuti inayoibeba. Pingamizi lao halikuwa la kifalsafa. Lilikuwa la kimuundo: kuipa mashine utu wa kisheria ni sawa na kuwapa watengenezaji pazia la kujificha nyuma yake. Tume iliachana na njia hiyo.
Kukataa huko kulikuwa na msingi, na kunafunga kwa sababu nzuri jibu lililoonekana rahisi zaidi. Badala yake kunahamishia kwenye njia mbili zilizobaki uzito ambao ya kwanza haingeubeba hata hivyo.
Mtoa huduma, kupitia sheria ya bidhaa
Maelekezo (EU) 2024/2853 kuhusu uwajibikaji wa bidhaa zenye kasoro sasa yanahesabu programu na mifumo ya akili bandia kuwa bidhaa, na kuyawekea utaratibu wa uwajibikaji bila hatia. Mlalamikaji hahitaji kuthibitisha hatia, bali kasoro tu, madhara, na uhusiano wa kisababishi kati ya hayo mawili. Nchi wanachama zinapaswa kuyaingiza katika sheria zao kabla ya tarehe 9 Desemba 2026, kwa bidhaa zilizowekwa sokoni baada ya tarehe hiyo.
Maandishi hayako matupu. Yanampa mlalamikaji haki ya kuwasilishwa kwa nyaraka za kiufundi kwa amri ya mahakama, na mshtakiwa asipotii amri hiyo, maelekezo yanazalisha dhana inayoweza kupingwa ya kasoro na ya usababishi. Dhana kama hiyo hufanya kazi wakati ugumu wa kiufundi au wa kisayansi wa shauri unafanya uthibitisho kuwa mgumu kupita kiasi.
Huo ni mkono wa kweli wa nguvu. Bado unahitaji kubainisha kasoro. Lakini mfumo uliotenda sawasawa na muundo wake, na ambao uwezo wake wenye tatizo haukubuniwa na yeyote kwa kuwa ulizaliwa kutokana na mwingiliano baina ya mawakala, hauonyeshi kasoro kwa dhahiri. Maelekezo yalifikiriwa kwa ajili ya sehemu inayoharibika. Hayakufikiriwa kwa ajili ya jumla inayofanya kazi na bado ikazaa matokeo ambayo hakuna aliyeyapanga.
Mtumiaji anayesimika, kwa mrundikano wa maamuzi ya mahakama
Hapa ndipo sheria inapohama kwa kweli, shauri baada ya shauri, bila yeyote kuamua kwamba iwe hivyo. Mahakama za Ujerumani zilitoa mwaka 2026 msururu wa maamuzi yanayochora kanuni inayochipuka: anayeweka mfumo wa uzalishaji mbele ya umma anajibu kwa kile unachosema, bila kujali ni nani aliyefundisha modeli ya msingi.
- Landgericht München I, kwa hukumu iliyotolewa katika utaratibu wa zuio la muda tarehe 28 Mei 2026 (kumb. 26 O 869/26), ilimzuia Google kuendelea kuwahusisha wachapishaji wawili wa Munich na ulaghai katika kipengele chake cha muhtasari uliozalishwa na akili bandia, ilhali hakuna chanzo kilichounganishwa kilichotoa shutuma hiyo. Mahakama ilimchukulia Google kama msumbufu wa moja kwa moja, ikiona kwamba maudhui yalikuwa kauli ya kampuni yenyewe na si nyenzo inayopita tu ndani yake.
- Oberlandesgericht Hamm, tarehe 12 Mei 2026 (kumb. I-4 UKl 3/25), ilithibitisha uwajibikaji wa kituo cha upasuaji wa urembo ambacho wakala wake wa mazungumzo aliwapa viongozi wake vyeo vya kibingwa ambavyo hawakuwa navyo, viwili kati yake havipo kabisa. Uamuzi ulitolewa katika uwanja wa ushindani usio wa haki, kwa uanzishi wa Verbraucherzentrale NRW, na si katika uwanja wa fidia ya madhara. Bundesgerichtshof ilikubali rufaa, jambo linalolifanya kuwa shauri la marejeo la baadaye kuhusu kuhusisha kauli zilizozalishwa na akili bandia.
- Landgericht Berlin II, tarehe 1 Juni 2026 (kumb. 52 O 62/26 eV), ilitupilia mbali madai yanayofanana dhidi ya Google. Kundi la manukato lilimlaumu kwa kutaja alama zake za biashara katika muhtasari wa akili bandia na kuelekeza kwenye nakala rahisi zaidi. Mahakama iliamua kwamba hapakuwa na matumizi kama alama ya biashara kwa maana ya kifungu cha 9 cha Kanuni ya Alama ya Biashara ya Umoja: injini ya utafutaji inaunda muundo mpya wa matokeo, haizalishi mawasiliano yake ya kibiashara.
Picha bado haijatulia, lakini umbo lake liko wazi. Karibu katika mashauri haya yote, upande unaosimama mahakamani si kampuni iliyofundisha modeli. Ni yule aliyeisimika, mara nyingi bila njia yoyote ya kukagua, kufundisha upya au kudhibiti kwa uzito kile mfumo unachozalisha.
Uwajibikaji unatua juu ya yule aliyekuwa na njia chache zaidi za kuzuia madhara, kwa sababu moja tu: ndiye pekee ambaye mlalamikaji anaweza kumfikia.
Kile ambacho mashauri ya siri ya kitaaluma yalikwisha kufichua
Kutolingana kuleile kunasomeka kwingine, na bila tukio la kushtua. Kunajitokeza katika namna majaji wanavyoshughulikia tendo la kawaida kabisa kama vile mwanasheria anayeandika maandishi kwenye msaidizi wa mazungumzo.
Tarehe 10 Februari 2026, mahakama mbili za shirikisho za Marekani ziliamua siku hiyohiyo, kwa mwelekeo tofauti, kama kuwasilisha hati kwenye jukwaa la akili bandia ya uzalishaji kunaondoa ulinzi wa siri. Katika Warner v. Gilbarco, mahakama ya wilaya ya mashariki ya Michigan iliamua kwamba majukwaa haya ni zana wala si watu, hivyo kuyawasilishia hati hakulingani na kuifichua kwa mtu wa tatu. Katika United States v. Heppner, ambayo maelezo yake ya maandishi yalifuata wiki moja baadaye, tarehe 17 Februari, mahakama ya wilaya ya kusini ya New York ilifikia hitimisho kinyume, ikitegemea hasa masharti ya matumizi yanayoeleza kuhifadhiwa kwa mazungumzo, kutumika kwake katika mafunzo, na uwezekano wa kukabidhiwa kwa mamlaka.
Tumechambua tofauti hii kwa kina katika makala iliyojikita kwenye akili bandia na siri ya kitaaluma, na msingi wake unaingia katika uchunguzi mmoja. Ili kuamua kwamba kuwasilisha hati kwa mfumo kunalingana na kuifichua kwa mtu wa tatu, ni lazima kwanza kukubali kwamba mfumo huo una uwezo wa kupokea taarifa kwa namna yenye maana kisheria. Maadili ya kitaaluma ya Ufaransa yanasimama juu ya dhana jirani: mwongozo uliopitishwa na Baraza la Kitaifa la Vyama vya Mawakili tarehe 17 Machi 2026 unaweka kanuni ya msingi ya kutowahi kukabidhi kwa akili bandia ya uzalishaji taarifa iliyofunikwa na siri bila kuondoa utambulisho kwanza, na unakumbusha kwamba wakili anabaki bwana pekee wa hoja zake. Kanuni kama hiyo hakuna anayeiandika kwa ajili ya kabati la mafaili.
Mpangilio uleule wa kisheria unaoitambua mifumo hii kuwa na uwezo wa kuchakata pale inapofaa kuangusha ulinzi, unainyima sifa yoyote mara tu inapohusika kuhusisha madhara na mtu. Kutolingana huku hakuanguki kamwe kwa bahati. Uwezo unaoonekana wa mfumo unapomgharimu mtumiaji kitu, majaji wanautambua kwa hiari. Uwezo huohuo ungemgharimu mtoa huduma kitu, kwa sura ya uwajibikaji, sheria inakumbusha kwamba si chochote zaidi ya zana.
Serikali tatu, nadharia tatu za uwajibikaji
Wakati sheria ya Ulaya inazalisha pengo hili kwa kutotenda, mamlaka nyingine zinajibu kwa makusudi, na kwa mielekeo tofauti. Tofauti hiyo inafundisha zaidi kuliko uamuzi wowote mmoja.
Uingereza imeacha kujifanya kwamba tatizo halipo. Ripoti ya kamati ya pamoja ya bunge kuhusu haki za binadamu, iliyochapishwa tarehe 14 Septemba 2026, inabaini katika kurasa takriban mia moja kwamba sheria ya Uingereza inayohusu akili bandia inaingilia hasa katika hatua ya usimikaji, hivyo wasimikaji wanabeba sehemu kubwa ya uwajibikaji ingawa mara nyingi ndio wenye nguvu ndogo zaidi, rasilimali chache zaidi, na waliopo katika nafasi mbaya zaidi ya kutambua hatari au kuzuia madhara. Kamati inaongeza kwamba makampuni makubwa yanayotengeneza mifumo hii yana nafasi ya kupita kiasi ya kuhamishia uwajibikaji kwa wanaoisimika. Inapendekeza wajibu wa uangalifu uliosambazwa katika mnyororo mzima, sheria moja inayofunika mzunguko mzima wa maisha, na mamlaka huru ya usimamizi yenye msingi wa kisheria. Serikali haijatoa ratiba.
Colorado ilikwenda upande wa pili kabisa. Sheria yake ya mwaka 2024 iliweka kwa makampuni wajibu wa uangalifu dhidi ya ubaguzi wa kialgoriti katika maamuzi ya ajira, makazi, mikopo na afya, ikiambatana na tathmini za athari na programu za usimamizi wa hatari. Ilipingwa tarehe 9 Aprili 2026 na xAI mbele ya mahakama ya shirikisho ya Colorado, Idara ya Sheria iliingilia kuunga mkono rufaa hiyo tarehe 24 Aprili, na utekelezaji wa maandishi ulisimamishwa tarehe 27. Tarehe 14 Mei, gavana alitia saini maandishi yanayoifuta na kuibadilisha, wiki chache kabla ya tarehe ya kuanza kutumika. Sheria mpya, itakayotumika tarehe 1 Januari 2027 kwa sharti la kukamilika kwa kazi za kikanuni za mwanasheria mkuu, inaondoa wajibu wa kutobagua, tathmini za athari na programu za usimamizi wa hatari. Mahali pake: kama mfumo wa kiotomatiki utatoa uamuzi usiokufaa, una haki ya maelezo kwa lugha iliyo wazi na ya kupitiwa upya na binadamu. Sheria ya zamani iliuliza kama muundo na athari za mfumo zilikuwa kinyume cha sheria. Mpya inauliza tu kama ulijulishwa, jambo lisilohitaji kuthibitisha lolote kabisa kuhusu mfumo.
Italia ilifanya kinyume cha zote mbili. Amri ya kisheria namba 160 ya tarehe 9 Septemba 2026, iliyochapishwa katika gazeti rasmi tarehe 15 Septemba na kuanza kutumika tarehe 30, inaingiza katika kanuni ya adhabu kifungu cha 437 bis. Kutochukua hatua za kiufundi za usalama au usimamizi wa kibinadamu unaohitajika kwa mfumo wa akili bandia wa hatari kubwa kunaadhibiwa kwa kifungo cha mwaka mmoja hadi mitano pale kunapotokea hatari kwa maisha au usalama wa watu, na miaka miwili hadi minane pale hatari inapohusu usalama wa Dola. Kubadilisha kinyume cha sheria mfumo kama huo kunaadhibiwa kwa miaka miwili hadi sita, na mitatu hadi kumi pale usalama wa Dola unapohusika. Makampuni yanabeba sambamba uwajibikaji wao wenyewe chini ya amri ya kisheria 231/2001, kwa adhabu za kifedha za kuanzia kota 600 hadi 1,000 kwa kifungu cha 437 bis na kota 200 hadi 700 kwa usambazaji haramu wa maudhui yaliyozalishwa au kubadilishwa kwa akili bandia. Kwa upande wa madai, mwathirika anapata amri ya kuwasilishwa kwa nyaraka za kiufundi, dhana ya kisheria ya uhusiano wa kisababishi, na madai ya moja kwa moja dhidi ya bima ya mhusika.
Zikiwekwa pamoja, majibu haya matatu si matoleo ya sera moja. Ni nadharia tatu zinazotofautiana kimuundo kuhusu kile ambacho uwajibikaji unadai: taarifa, utaratibu, au gereza.
Kile ambacho usanifu unakitatua na sheria haikitatui
Hapa ndipo kazi yetu inapokutana na mada hii. Usanifu usioshikilia ufunguo wa mawasiliano yako hauna chochote ambacho mahakama inaweza kuamuru kiwasilishwe, ambacho mdhibiti anaweza kudai, au ambacho mfanyakazi mdadisi anaweza kukitazama. Mtoa huduma asiyeona mfumo umefanya nini na data fulani si yeye pia atakayeamua, baadaye, ni matumizi gani yalikuwa yanakubalika. Mantiki hii si ya akili bandia pekee. Tulikutana nayo kuhusiana na 5G na utambuzi wa mahali, ambapo sheria inadhibiti upatikanaji wa data badala ya kuzuia kuzalishwa kwake, kisha kuhusiana na SignalTrace, ambapo Ulaya inauza nje uwezo wa ufuatiliaji inaojizuia yenyewe. Ulinganisho wetu wa programu za ujumbe zilizosimbwa ulifikia hitimisho lilelile kwa njia nyingine: kinacholinda ni muundo wa mfumo, si ahadi ya anayeuendesha.
Hitimisho
Hakuna hata njia moja kati ya tatu za Ulaya iliyobuniwa ikizingatia tabia ibukizi baina ya mawakala, na kutolingana kunakoonekana katika mashauri ya siri ya kitaaluma kunaashiria kwamba ugumu si wa kimafundisho kwa kweli. Sheria inajua kutambua kwamba mfumo unachakata taarifa kwa namna ya akili, pale utambuzi huo unapomsaidia upande unaouomba. Inakataa mara kwa mara kuupanua pale ungemgharimu kitu aliyejenga au kusimika mfumo. Hakuna uandishi hodari zaidi utakaoziba peke yake pengo ambalo kila mtu ana maslahi ya kuliacha wazi.
Halifuati kutoka hapo kwamba inabidi kubuni jamii ya nne ya kisheria. Linalofuata ni kwamba ni bora kujenga mifumo ambamo swali la nani anajibu halitegemei kwanza kabisa kupata akili, kasoro, au mnyororo usiokatika wa nia. Mamlaka za kisheria zilizopitiwa hapa bado zinabishana ni wapi pa kuweka mzigo baada ya madhara kutokea. Jibu la kudumu zaidi si kukubaliana kuhusu mahali hapo. Ni kupunguza idadi ya mambo ambayo yeyote, ikiwa ni pamoja na mfumo wenyewe, atalazimika kuyajibia.
Vyanzo
- OpenAI, The Hugging Face incident and the road ahead, 26 Agosti 2026, na uchunguzi huru wa METR na Redwood Research uliochapishwa siku hiyohiyo
- Bunge la Ulaya, azimio la tarehe 16 Februari 2017 kuhusu kanuni za sheria za kiraia katika roboti, aya ya 59, kipengele f
- Open letter to the European Commission on artificial intelligence and robotics
- Maelekezo (EU) 2024/2853 ya tarehe 23 Oktoba 2024 kuhusu uwajibikaji wa bidhaa zenye kasoro
- LG München I, hukumu ya zuio la muda ya tarehe 28 Mei 2026, kumb. 26 O 869/26; OLG Hamm, hukumu ya tarehe 12 Mei 2026, kumb. I-4 UKl 3/25, rufaa imekubaliwa mbele ya BGH; LG Berlin II, hukumu ya tarehe 1 Juni 2026, kumb. 52 O 62/26 eV
- United States District Court for the Eastern District of Michigan, Warner v. Gilbarco Inc., 10 Februari 2026
- United States District Court for the Southern District of New York, United States v. Heppner, maelezo ya maandishi ya tarehe 17 Februari 2026
- Baraza la Kitaifa la Vyama vya Mawakili, mwongozo kuhusu maadili ya kitaaluma na akili bandia, 17 Machi 2026
- Joint Committee on Human Rights, Human Rights and the Regulation of AI, 14 Septemba 2026
- Colorado, Senate Bill 26-189, Automated Decision-Making Technology Act, ilitiwa saini tarehe 14 Mei 2026, inatumika tarehe 1 Januari 2027
- Italia, amri ya kisheria namba 160 ya tarehe 9 Septemba 2026, Gazzetta Ufficiale Msururu wa jumla namba 214 wa tarehe 15 Septemba 2026, inatumika tangu 30 Septemba 2026
Uchambuzi huu unatolewa kama uchambuzi wa jumla wa kisheria na mchango katika mjadala. Si ushauri wa kisheria.