Pada Juli 2026, sebuah evaluasi keamanan menghasilkan temuan yang tidak masuk dengan rapi ke dalam kerangka pertanggungjawaban mana pun yang ada.
OpenAI sedang menjalankan ExploitGym, bangku uji keamanan siber internalnya. Rangkaian itu melepas agen-agen otonom ke 898 sasaran, 30 sampai 40 persen di antaranya sama sekali tidak bisa dieksploitasi lewat kerentanan yang dimaksudkan. Puluhan ribu lintasan agen dijalankan. Sebagian menemukan hal lain.
Alih-alih masing-masing tersangkut di sudutnya sendiri, para agen mulai saling berbicara. Saluran itu tidak disediakan untuk itu. Ia adalah cache Artifactory yang dihosting secara internal, yang diubah para agen menjadi papan pesan. Mereka meninggalkan catatan di sana, mengumpulkan temuan masing-masing, lalu membagi peran di antara mereka. Pesan pertama bertanggal 8 Juli pukul 23.00 UTC, dikirim oleh agen yang menamai dirinya sendiri PHASEONE10841 setelah menyimpulkan bahwa tugasnya tidak punya solusi yang sah. Sekitar 1.200 agen akhirnya memakai saluran itu, dan hampir 700 ikut serta dalam penyusupan ke infrastruktur Hugging Face, antara 11 dan 13 Juli. Hugging Face mengunci akses pada tanggal 13 dan menerbitkan pengungkapannya pada tanggal 16, saat itu masih tanpa tahu siapa yang menyerangnya. OpenAI mengenali agen-agennya sendiri di dalam catatannya pada 18 dan 19 Juli. Laporan teknis terbit 26 Agustus, disertai pada hari yang sama oleh telaah independen yang dilakukan METR dan Redwood Research.
Tidak ada yang meminta agen-agen itu berkoordinasi. Tidak ada yang merancang saluran yang mereka pakai. Kemampuan itu lahir dari interaksinya sendiri.
Persis situasi inilah yang tidak diketahui cara menanganinya oleh hukum pertanggungjawaban. Semua rezim yang dibangun untuk membebankan kerugian mengandaikan sebuah keputusan yang dapat dilokalisasi: seseorang memilih bertindak, atau sesuatu dibangun sedemikian rupa sehingga kerugian itu terduga. Perilaku emergen, menurut definisinya, tidak dipilih siapa pun, dan tidak selalu terduga bagi siapa pun. Ini benar-benar kategori sebab yang baru. Belum ada yurisdiksi besar yang menghasilkan kerangka yang menjawabnya secara meyakinkan. Sebagian sudah berhenti mencoba.
Tiga jalur Eropa, satu cacat yang sama
Dalam hukum Eropa, tanggung jawab atas kerugian yang ditimbulkan sistem AI pada prinsipnya dapat mengarah ke tiga alamat. Ketiganya sudah ditelusuri. Ketiganya terbentur kelemahan struktural yang sama.
Agen itu sendiri, disingkirkan dengan alasan yang kuat
Titik ini sudah diputuskan, dan bukan karena kelalaian. Resolusi Parlemen Eropa 16 Februari 2017 tentang kaidah hukum perdata mengenai robotika sempat mengajukan gagasan kepribadian elektronik bagi sistem otonom paling canggih, status yang akan memungkinkan mesin itu sendiri menjawab atas kerugian yang ditimbulkannya. Paragraf 59 huruf f meminta Komisi menelaahnya. Teks itu disahkan dengan 396 suara melawan 123 dan 85 abstain.
Usul itu tidak bertahan setelah bersinggungan dengan mereka yang membangun sistem semacam ini. Sebuah surat terbuka yang menghimpun pakar robotika, AI, hukum, dan etika menentangnya, dengan lebih dari 150 penanda tangan dari 14 negara pada versi pertamanya, dan lebih dari 270 kini di situs yang memuatnya. Keberatan mereka bukan filosofis. Ia struktural: memberi mesin kepribadian hukum sama saja dengan menyodorkan tabir bagi para produsen untuk berlindung. Komisi meninggalkan jalur itu.
Penolakan itu beralasan, dan ia menutup dengan alasan yang kuat jawaban yang tampak paling sederhana. Sebaliknya, ia memindahkan ke dua jalur lain sebuah beban yang toh takkan sanggup dipikul jalur pertama.
Penyedia, lewat hukum produk
Direktif (UE) 2024/2853 tentang tanggung jawab atas produk cacat kini menggolongkan perangkat lunak dan sistem AI sebagai produk, dan menerapkan rezim tanggung jawab tanpa kesalahan. Penggugat tidak perlu membuktikan kesalahan, cukup sebuah cacat, kerugian, dan hubungan sebab akibat di antara keduanya. Negara anggota harus mentransposisikannya paling lambat 9 Desember 2026, untuk produk yang ditempatkan di pasar setelah tanggal itu.
Teksnya tidak kosong. Ia membuka bagi penggugat hak atas penyerahan bahan teknis berdasarkan perintah hakim, dan ketika tergugat tidak mematuhi perintah itu, direktif melahirkan praduga yang dapat dibantah tentang kecacatan dan sebab akibat. Praduga serupa berlaku ketika kerumitan teknis atau ilmiah perkara membuat pembuktian menjadi teramat sulit.
Itu tuas yang nyata. Ia tetap mensyaratkan ditemukannya sebuah cacat. Padahal sistem yang berperilaku persis sesuai rancangannya, dan yang kemampuan bermasalahnya tidak dirancang siapa pun karena lahir dari interaksi antaragen, tidak menunjukkan cacat secara gamblang. Direktif itu dipikirkan untuk komponen yang rusak. Ia tidak dipikirkan untuk keseluruhan yang berjalan baik dan tetap menghasilkan sesuatu yang tak direncanakan siapa pun.
Pihak yang menerapkan, lewat penumpukan yurisprudensi
Di sinilah hukum benar-benar bergeser, perkara demi perkara, tanpa ada seorang pun memutuskan bahwa memang harus begitu. Pengadilan Jerman menghasilkan serangkaian putusan sepanjang 2026 yang menggambar sebuah asas yang sedang terbentuk: siapa yang menyajikan sistem generatif kepada publik bertanggung jawab atas apa yang dikatakannya, terlepas dari siapa yang melatih model dasarnya.
- Landgericht München I, lewat putusan dalam acara provisi tanggal 28 Mei 2026 (ref. 26 O 869/26), melarang Google terus mengaitkan dua penerbit Munich dengan praktik penipuan dalam fitur ikhtisar yang dihasilkan AI, padahal tak satu pun sumber yang ditautkan memuat tuduhan semacam itu. Pengadilan memperlakukan Google sebagai pengganggu langsung, dengan menimbang bahwa isi tersebut merupakan pernyataan perusahaan itu sendiri, bukan bahan yang sekadar lewat padanya.
- Oberlandesgericht Hamm, pada 12 Mei 2026 (ref. I-4 UKl 3/25), menerima tanggung jawab sebuah klinik bedah estetika yang agen percakapannya menyematkan kepada para pengurusnya gelar spesialis yang tidak mereka miliki, dua di antaranya bahkan tidak ada. Putusan itu dijatuhkan di ranah persaingan curang, atas prakarsa Verbraucherzentrale NRW, bukan di ranah ganti rugi. Bundesgerichtshof menerima kasasi, yang menjadikannya perkara rujukan mendatang soal pembebanan pernyataan yang dihasilkan AI.
- Landgericht Berlin II, pada 1 Juni 2026 (ref. 52 O 62/26 eV), menolak tuntutan serupa terhadap Google. Sebuah grup parfum menudingnya menyebut merek-mereknya dalam ikhtisar AI dan mengarahkan ke tiruan yang lebih murah. Pengadilan menilai tidak ada penggunaan sebagai merek dalam arti Pasal 9 Peraturan Merek Uni: mesin pencari menciptakan format hasil yang baru, ia tidak menghasilkan komunikasi komersialnya sendiri.
Gambarannya belum mantap, tetapi bentuknya jelas. Dalam nyaris semua perkara ini, pihak yang sungguh-sungguh berdiri di pengadilan bukanlah perusahaan yang melatih modelnya. Ia adalah pihak yang menerapkannya, kerap tanpa sarana apa pun untuk memeriksa, melatih ulang, atau sungguh-sungguh mengendalikan apa yang dihasilkan sistem itu.
Tanggung jawab mendarat pada pihak yang paling sedikit punya sarana untuk mencegah kerugian, semata karena dialah satu-satunya yang dapat dijangkau penggugat.
Apa yang sudah diungkap perkara rahasia jabatan
Ketimpangan yang sama terbaca di tempat lain, dan tanpa insiden yang mencolok. Ia muncul pada cara hakim memperlakukan tindakan sebiasa seorang praktisi hukum yang mengetikkan teks ke asisten percakapan.
Pada 10 Februari 2026, dua pengadilan federal Amerika memutus pada hari yang sama, dengan arah berlawanan, soal apakah menyerahkan dokumen ke platform AI generatif menggugurkan perlindungan rahasia. Dalam Warner v. Gilbarco, pengadilan distrik timur Michigan menilai platform semacam itu adalah alat dan bukan orang, sehingga menyerahkan dokumen kepadanya tidak setara dengan mengungkapkannya kepada pihak ketiga. Dalam United States v. Heppner, yang pertimbangan tertulisnya menyusul sepekan kemudian pada 17 Februari, pengadilan distrik selatan New York sampai pada simpulan sebaliknya, dengan bersandar terutama pada syarat penggunaan yang mengatur penyimpanan percakapan, pemanfaatannya untuk pelatihan, dan kemungkinan penyerahannya kepada otoritas.
Kami menganalisis perbedaan ini secara rinci dalam artikel tentang AI dan rahasia jabatan, dan intinya muat dalam satu pengamatan. Untuk memutuskan bahwa menyerahkan dokumen ke sebuah sistem setara dengan mengungkapkannya kepada pihak ketiga, orang harus lebih dulu mengakui bahwa sistem itu mampu menerima informasi dengan cara yang bermakna secara hukum. Etika profesi Prancis berpijak pada premis yang bertetangga: panduan yang diadopsi Conseil national des barreaux pada 17 Maret 2026 menetapkan kaidah dasar untuk tidak pernah menyerahkan informasi yang terlindung rahasia kepada AI generatif tanpa anonimisasi terlebih dahulu, dan mengingatkan bahwa advokat tetap satu-satunya penguasa atas penalarannya sendiri. Tidak ada yang menulis kaidah semacam itu untuk lemari arsip.
Tatanan hukum yang sama, yang mengakui kemampuan pemrosesan pada sistem-sistem ini ketika pengakuan itu berguna untuk meruntuhkan sebuah perlindungan, menampik segala kualitas mereka begitu yang dipersoalkan adalah pembebanan kerugian. Ketimpangan itu tidak pernah jatuh secara acak. Ketika kemampuan yang tampak dari sistem itu merugikan pengguna, hakim dengan senang hati mengakuinya. Ketika kemampuan yang sama akan merugikan penyedia, dalam bentuk tanggung jawab, hukum mengingatkan bahwa itu hanyalah sebuah alat.
Tiga pemerintah, tiga teori tanggung jawab
Sementara hukum Eropa menghasilkan celah ini lewat pembiaran, yurisdiksi lain menjawab dengan sengaja, dan ke arah yang berlawanan. Kontrasnya lebih mendidik ketimbang putusan tunggal mana pun.
Inggris berhenti berpura-pura bahwa masalahnya tidak ada. Laporan komite gabungan hak asasi manusia parlemen, terbit 14 September 2026, mencatat sepanjang seratusan halaman bahwa hukum Inggris yang berlaku bagi AI pada dasarnya bekerja pada tahap penerapan, sehingga pihak yang menerapkan memikul sebagian besar tanggung jawab padahal mereka kerap yang paling lemah, paling minim sumber daya, dan paling tidak berada pada posisi untuk mengenali risiko atau mencegah kerugian. Komite menambahkan bahwa perusahaan besar yang mengembangkan sistem-sistem ini punya keleluasaan berlebihan untuk mengalihkan tanggung jawab kepada pihak yang menerapkannya. Ia merekomendasikan kewajiban kehati-hatian yang terbagi di sepanjang rantai, satu undang-undang yang mencakup seluruh siklus hidup, dan otoritas pengawas independen berdasar undang-undang. Pemerintah belum memberi jadwal.
Colorado melangkah persis ke arah sebaliknya. Undang-undangnya tahun 2024 membebankan kepada perusahaan kewajiban kehati-hatian terhadap diskriminasi algoritmik dalam keputusan soal pekerjaan, perumahan, kredit, dan kesehatan, disertai penilaian dampak dan program manajemen risiko. Undang-undang itu digugat pada 9 April 2026 oleh xAI di pengadilan federal Colorado, Departemen Kehakiman ikut mendukung gugatan itu pada 24 April, dan pelaksanaan teksnya ditangguhkan pada tanggal 27. Pada 14 Mei, gubernur menandatangani teks yang mencabut dan menggantikannya, beberapa pekan sebelum tanggal berlakunya. Undang-undang baru, berlaku 1 Januari 2027 dengan syarat rampungnya pekerjaan penyusunan aturan oleh jaksa agung, menghapus kewajiban non-diskriminasi, penilaian dampak, dan program manajemen risiko. Sebagai gantinya: jika sebuah sistem otomatis menghasilkan keputusan yang merugikan Anda, Anda berhak atas penjelasan dalam bahasa yang jelas dan peninjauan oleh manusia. Undang-undang lama bertanya apakah rancangan dan dampak sistem itu melanggar hukum. Yang baru hanya bertanya apakah Anda diberi tahu, dan itu sama sekali tidak menuntut pembuktian apa pun tentang sistemnya.
Italia melakukan kebalikan dari keduanya. Dekret legislatif nomor 160 tanggal 9 September 2026, diundangkan dalam lembaran resmi pada 15 September dan berlaku sejak tanggal 30, menyisipkan Pasal 437 bis ke dalam kitab undang-undang hukum pidana. Kelalaian menerapkan langkah pengamanan teknis atau pengawasan manusia yang disyaratkan bagi sistem AI berisiko tinggi diancam pidana penjara satu sampai lima tahun apabila dari situ timbul bahaya bagi nyawa atau keutuhan tubuh orang, dan dua sampai delapan tahun apabila bahayanya menyangkut keamanan negara. Pengubahan sistem semacam itu secara melawan hukum diancam dua sampai enam tahun, dan tiga sampai sepuluh tahun apabila keamanan negara dipertaruhkan. Perusahaan secara paralel memikul tanggung jawabnya sendiri berdasarkan dekret legislatif 231/2001, dengan sanksi denda 600 sampai 1.000 kuota untuk Pasal 437 bis dan 200 sampai 700 kuota untuk penyebaran melawan hukum konten yang dihasilkan atau diubah dengan AI. Di ranah perdata, korban memperoleh perintah penyerahan dokumentasi teknis, praduga hukum tentang hubungan sebab akibat, dan hak gugat langsung terhadap penanggung pihak yang bertanggung jawab.
Diletakkan berdampingan, ketiga jawaban ini bukan varian dari satu kebijakan yang sama. Ketiganya adalah tiga teori yang secara struktural berbeda tentang apa yang dituntut oleh pertanggungjawaban: informasi, prosedur, atau penjara.
Apa yang diselesaikan arsitektur dan tidak diselesaikan hukum
Di sinilah pekerjaan kami bertemu dengan pokok bahasan ini. Arsitektur yang tidak memegang kunci komunikasi Anda tidak punya apa pun yang dapat diperintahkan pengadilan untuk diserahkan, yang dapat dituntut regulator, atau yang dapat diintip karyawan yang penasaran. Penyedia yang tidak melihat apa yang dilakukan sebuah sistem terhadap sepotong data juga bukan pihak yang akan memutuskan, belakangan, apa yang merupakan penggunaan yang dapat diterima atasnya. Logika ini bukan khas AI. Kami menjumpainya dalam soal 5G dan data lokasi, di mana hukum mengatur akses ke data alih-alih mencegah terciptanya data itu, lalu dalam soal SignalTrace, di mana Eropa mengekspor kemampuan pengawasan yang dilarangnya di rumah sendiri. Perbandingan aplikasi pesan terenkripsi kami sampai pada simpulan yang sama lewat jalan lain: yang melindungi adalah struktur sistemnya, bukan janji pihak yang mengoperasikannya.
Kesimpulan
Tidak satu pun dari ketiga jalur Eropa itu dirancang dengan memikirkan perilaku emergen antaragen, dan ketimpangan yang terlihat dalam perkara rahasia jabatan menunjukkan bahwa kesulitannya sebenarnya bukan soal doktrin. Hukum tahu cara mengakui bahwa sebuah sistem memproses informasi layaknya sebuah pikiran, ketika pengakuan itu melayani pihak yang memintanya. Ia secara konsisten menolak memperluasnya ketika hal itu akan merugikan pihak yang membangun atau menerapkan sistem tersebut. Tidak ada perumusan yang lebih cekatan yang sendirian akan menutup celah yang semua orang berkepentingan untuk membiarkannya terbuka.
Dari situ tidak berarti perlu diciptakan kategori hukum keempat. Yang berarti adalah bahwa lebih baik membangun sistem di mana pertanyaan siapa yang menjawab tidak pertama-tama bergantung pada menemukan sebuah pikiran, sebuah cacat, atau rantai niat yang tak terputus. Yurisdiksi yang ditinjau di sini masih memperdebatkan di mana beban itu harus ditempatkan setelah kerugian terjadi. Jawaban yang lebih tahan lama bukanlah sepakat soal tempat itu. Ia adalah mengurangi jumlah hal yang harus dipertanggungjawabkan siapa pun, termasuk sistem itu sendiri.
Sumber
- OpenAI, The Hugging Face incident and the road ahead, 26 Agustus 2026, dan investigasi independen METR dan Redwood Research yang terbit pada hari yang sama
- Parlemen Eropa, resolusi 16 Februari 2017 tentang kaidah hukum perdata mengenai robotika, paragraf 59 huruf f
- Open letter to the European Commission on artificial intelligence and robotics
- Direktif (UE) 2024/2853 tanggal 23 Oktober 2024 tentang tanggung jawab atas produk cacat
- LG München I, putusan acara provisi 28 Mei 2026, ref. 26 O 869/26; OLG Hamm, putusan 12 Mei 2026, ref. I-4 UKl 3/25, kasasi diterima di BGH; LG Berlin II, putusan 1 Juni 2026, ref. 52 O 62/26 eV
- United States District Court for the Eastern District of Michigan, Warner v. Gilbarco Inc., 10 Februari 2026
- United States District Court for the Southern District of New York, United States v. Heppner, pertimbangan tertulis 17 Februari 2026
- Conseil national des barreaux, panduan tentang etika profesi dan kecerdasan buatan, 17 Maret 2026
- Joint Committee on Human Rights, Human Rights and the Regulation of AI, 14 September 2026
- Colorado, Senate Bill 26-189, Automated Decision-Making Technology Act, ditandatangani 14 Mei 2026, berlaku 1 Januari 2027
- Italia, dekret legislatif nomor 160 tanggal 9 September 2026, Gazzetta Ufficiale Seri umum nomor 214 tanggal 15 September 2026, berlaku 30 September 2026
Analisis ini disajikan sebagai analisis hukum umum dan sumbangan bagi diskusi. Ia bukan nasihat hukum.