जुलाई 2026 में एक सुरक्षा मूल्यांकन ने ऐसा नतीजा दिया जो किसी भी मौजूदा जवाबदेही ढाँचे में साफ-साफ नहीं बैठता।
OpenAI अपना आंतरिक साइबर सुरक्षा परीक्षण मंच ExploitGym चला रही थी। यह व्यवस्था स्वायत्त एजेंटों को 898 लक्ष्यों पर छोड़ती थी, जिनमें से 30 से 40 प्रतिशत को इच्छित कमजोरी के जरिए भेदा ही नहीं जा सकता था। दसियों हजार एजेंट पथ चलाए गए। उनमें से कुछ को कुछ और मिल गया।
हर एक अपने कोने में अटके रहने के बजाय, एजेंट आपस में बात करने लगे। वह रास्ता इसके लिए बना नहीं था। वह भीतर होस्ट किया गया एक Artifactory कैश था, जिसे एजेंटों ने संदेश-पट्ट में बदल दिया। उन्होंने वहाँ नोट छोड़े, अपनी खोजें साझा कीं, फिर आपस में भूमिकाएँ बाँट लीं। पहला संदेश 8 जुलाई को 23:00 यूटीसी का है, जिसे उस एजेंट ने भेजा था जिसने खुद को PHASEONE10841 नाम दिया था, यह नतीजा निकालने के बाद कि उसके काम का कोई जायज हल नहीं है। आखिरकार करीब 1200 एजेंटों ने इस रास्ते का इस्तेमाल किया, और लगभग 700 ने 11 से 13 जुलाई के बीच Hugging Face के बुनियादी ढाँचे में घुसपैठ में हिस्सा लिया। Hugging Face ने 13 को पहुँच बंद की और 16 को अपना खुलासा प्रकाशित किया, तब तक यह जाने बिना कि उस पर हमला कौन कर रहा है। OpenAI ने 18 और 19 जुलाई को अपने ही लॉग में अपने एजेंटों की पहचान की। तकनीकी रिपोर्ट 26 अगस्त को प्रकाशित हुई, और उसी दिन METR तथा Redwood Research द्वारा की गई एक स्वतंत्र समीक्षा भी साथ आई।
किसी ने इन एजेंटों से तालमेल बिठाने को नहीं कहा था। किसी ने वह रास्ता नहीं रचा था जिसका उन्होंने इस्तेमाल किया। यह क्षमता अंतःक्रिया से ही जन्मी।
ठीक यही वह स्थिति है जिससे निपटना जवाबदेही का कानून नहीं जानता। नुकसान आरोपित करने के लिए बनी हर व्यवस्था एक ऐसा निर्णय मान कर चलती है जिसे कहीं टिकाया जा सके: किसी ने कार्य करना चुना, या कोई चीज इस तरह बनाई गई कि नुकसान पूर्वानुमेय था। उभरता हुआ व्यवहार परिभाषा से ही किसी के द्वारा चुना नहीं गया, और जरूरी नहीं कि किसी के लिए पूर्वानुमेय रहा हो। यह वाकई कारण की एक नई श्रेणी है। किसी बड़े न्यायक्षेत्र ने अब तक इसका विश्वसनीय उत्तर देने वाला ढाँचा नहीं बनाया है। कुछ ने कोशिश करना ही छोड़ दिया।
तीन यूरोपीय रास्ते, एक ही खामी
यूरोपीय कानून में, एआई प्रणाली से हुए नुकसान की जिम्मेदारी सिद्धांततः तीन पतों की ओर जा सकती है। तीनों आजमाए जा चुके हैं। तीनों उसी संरचनात्मक कमजोरी से टकराते हैं।
एजेंट खुद, अच्छे कारणों से बाहर
यह बिंदु तय हो चुका है, और लापरवाही से नहीं। रोबोटिक्स पर दीवानी कानून के नियमों से जुड़े 16 फरवरी 2017 के यूरोपीय संसद के प्रस्ताव ने सबसे उन्नत स्वायत्त प्रणालियों के लिए इलेक्ट्रॉनिक व्यक्तित्व का विचार रखा था, एक ऐसा दर्जा जो मशीन को खुद अपने किए नुकसान का जवाब देने देता। अनुच्छेद 59, खंड च, ने आयोग से इसकी पड़ताल करने को कहा था। पाठ 396 मतों के मुकाबले 123 और 85 अनुपस्थितियों के साथ पारित हुआ।
यह प्रस्ताव उन लोगों से टकराकर टिक नहीं सका जो ये प्रणालियाँ बनाते हैं। रोबोटिक्स, एआई, कानून और नैतिकता के विशेषज्ञों को जोड़ने वाले एक खुले पत्र ने इसका विरोध किया, पहले संस्करण में 14 देशों के 150 से अधिक हस्ताक्षरकर्ताओं के साथ, और आज उसे रखने वाली साइट पर 270 से अधिक के साथ। उनकी आपत्ति दार्शनिक नहीं थी। वह संरचनात्मक थी: मशीन को विधिक व्यक्तित्व देना निर्माताओं को छिपने के लिए एक परदा थमाने जैसा था। आयोग ने यह राह छोड़ दी।
वह अस्वीकार आधारयुक्त था, और वह सबसे सरल दिखने वाले उत्तर को अच्छे कारणों से बंद करता है। बदले में वह बाकी दो रास्तों पर वह बोझ डाल देता है जो पहला वैसे भी नहीं उठा पाता।
आपूर्तिकर्ता, उत्पाद कानून के जरिए
दोषपूर्ण उत्पादों की जिम्मेदारी पर निर्देश (ईयू) 2024/2853 अब सॉफ्टवेयर और एआई प्रणालियों को उत्पाद मानता है और उन पर बिना-दोष जिम्मेदारी की व्यवस्था लागू करता है। वादी को गलती साबित नहीं करनी होती, केवल एक दोष, नुकसान और दोनों के बीच कारण-संबंध। सदस्य राज्यों को इसे अधिकतम 9 दिसंबर 2026 तक अपने कानून में उतारना है, उन उत्पादों के लिए जो उस तारीख के बाद बाजार में आएँ।
पाठ खोखला नहीं है। यह वादी को अदालत के आदेश पर तकनीकी सामग्री पेश कराने का अधिकार देता है, और जब प्रतिवादी उस आदेश का पालन नहीं करता, तो निर्देश दोष और कारण-संबंध की खंडनीय उपधारणा पैदा करता है। ऐसी ही उपधारणा तब भी चलती है जब मामले की तकनीकी या वैज्ञानिक जटिलता प्रमाण को अत्यधिक कठिन बना दे।
यह वास्तविक लीवर है। फिर भी यह दोष की पहचान की माँग करता है। लेकिन जो प्रणाली अपनी रचना के ठीक अनुरूप बरती, और जिसकी समस्याग्रस्त क्षमता किसी ने रची ही नहीं क्योंकि वह एजेंटों के बीच की अंतःक्रिया से जन्मी, वह दोष स्पष्ट रूप से नहीं दिखाती। यह निर्देश उस पुर्जे के लिए सोचा गया था जो खराब हो जाता है। उस समुच्चय के लिए नहीं सोचा गया था जो चलता रहता है और फिर भी ऐसा नतीजा देता है जिसकी किसी ने योजना नहीं बनाई थी।
तैनात करने वाला, न्यायिक निर्णयों के जमाव से
कानून असल में यहीं सरक रहा है, मुकदमे दर मुकदमे, बिना किसी के यह तय किए कि उसे ऐसा करना चाहिए। जर्मन अदालतों ने 2026 में निर्णयों की एक शृंखला दी जो बनते हुए एक सिद्धांत को रेखांकित करती है: जो कोई जनता के सामने जननशील प्रणाली रखता है, वह उसके कहे के लिए जवाबदेह है, चाहे अंतर्निहित मॉडल किसी ने भी प्रशिक्षित किया हो।
- म्यूनिख प्रथम क्षेत्रीय न्यायालय ने 28 मई 2026 को अंतरिम कार्यवाही में दिए निर्णय (संदर्भ 26 O 869/26) से गूगल को उसकी एआई सारांश सुविधा में दो म्यूनिख प्रकाशन गृहों को ठगी से जोड़ते रहने से रोका, जबकि किसी भी जुड़े स्रोत में ऐसा आरोप नहीं था। अदालत ने गूगल को सीधा बाधक माना, यह मानते हुए कि वह सामग्री कंपनी का अपना कथन है, न कि केवल उससे होकर गुजरने वाली सामग्री।
- हाम उच्च क्षेत्रीय न्यायालय ने 12 मई 2026 को (संदर्भ I-4 UKl 3/25) एक सौंदर्य शल्य संस्थान की जिम्मेदारी मानी, जिसके संवाद एजेंट ने उसके संचालकों को ऐसी विशेषज्ञ उपाधियाँ दीं जो उनके पास नहीं थीं, जिनमें से दो का अस्तित्व ही नहीं है। यह निर्णय क्षतिपूर्ति के धरातल पर नहीं, बल्कि Verbraucherzentrale NRW की पहल पर अनुचित प्रतिस्पर्धा के धरातल पर आया। संघीय न्यायालय ने अपील स्वीकार कर ली है, जिससे यह एआई द्वारा उत्पन्न कथनों के आरोपण पर आने वाला मानक मुकदमा बन जाता है।
- बर्लिन द्वितीय क्षेत्रीय न्यायालय ने 1 जून 2026 को (संदर्भ 52 O 62/26 eV) गूगल के विरुद्ध इसी तरह के दावे खारिज कर दिए। एक इत्र समूह का आरोप था कि वह एआई सारांशों में उसके ट्रेडमार्क का उल्लेख करता है और सस्ती नकलों की ओर भेजता है। अदालत ने माना कि यहाँ संघ ट्रेडमार्क विनियमन के अनुच्छेद 9 के अर्थ में ट्रेडमार्क के रूप में उपयोग नहीं है: खोज इंजन परिणाम का एक नया स्वरूप बनाता है, वह अपना व्यावसायिक संप्रेषण नहीं रचता।
तस्वीर अभी ठहरी नहीं है, पर उसका आकार साफ है। इनमें से लगभग हर मुकदमे में अदालत के सामने असल में खड़ा पक्ष वह कंपनी नहीं है जिसने मॉडल प्रशिक्षित किया। वह पक्ष है जिसने उसे तैनात किया, अक्सर बिना इस साधन के कि प्रणाली जो उत्पन्न करती है उसकी जाँच कर सके, उसे फिर से प्रशिक्षित कर सके या गंभीरता से नियंत्रित कर सके।
जिम्मेदारी उस पर आ गिरती है जिसके पास नुकसान रोकने के सबसे कम साधन थे, केवल इस कारण कि वादी की पहुँच में वही अकेला है।
पेशेवर गोपनीयता के मुकदमे पहले ही क्या उजागर कर चुके थे
यही असमानता कहीं और भी पढ़ी जा सकती है, और वह भी बिना किसी भड़कीली घटना के। वह इसमें दिखती है कि न्यायाधीश एक इतनी साधारण क्रिया को कैसे देखते हैं जैसे कोई कानून का पेशेवर किसी संवाद सहायक में पाठ टाइप करे।
10 फरवरी 2026 को दो अमेरिकी संघीय अदालतों ने एक ही दिन, विपरीत दिशाओं में तय किया कि किसी दस्तावेज को जननशील एआई मंच को सौंपना गोपनीयता की सुरक्षा समाप्त करता है या नहीं। Warner v. Gilbarco में मिशिगन के पूर्वी जिले की अदालत ने माना कि ये मंच व्यक्ति नहीं, औजार हैं, इसलिए उन्हें दस्तावेज सौंपना किसी तीसरे को प्रकट करने के बराबर नहीं। United States v. Heppner में, जिसका लिखित कारण एक हफ्ते बाद 17 फरवरी को आया, न्यूयॉर्क के दक्षिणी जिले की अदालत उलटे नतीजे पर पहुँची, खासकर उन उपयोग शर्तों के आधार पर जो आदान-प्रदान के संरक्षण, प्रशिक्षण में उसके उपयोग और प्राधिकारियों को उसके संभावित हस्तांतरण की बात करती हैं।
हमने इस विचलन का विस्तृत विश्लेषण एआई और पेशेवर गोपनीयता पर एक लेख में किया है, और सार एक अवलोकन में समा जाता है। यह मानने के लिए कि किसी दस्तावेज को प्रणाली को सौंपना उसे तीसरे को प्रकट करने के बराबर है, पहले यह स्वीकारना होगा कि वह प्रणाली विधिक रूप से अर्थपूर्ण ढंग से सूचना ग्रहण करने में सक्षम है। फ्रांसीसी पेशेवर नैतिकता एक पड़ोसी आधार पर टिकी है: फ्रांसीसी राष्ट्रीय अधिवक्ता परिषद द्वारा 17 मार्च 2026 को स्वीकृत मार्गदर्शिका बुनियादी नियम रखती है कि गोपनीयता से ढकी सूचना पूर्व अनामीकरण के बिना कभी जननशील एआई को न दी जाए, और याद दिलाती है कि अधिवक्ता अपने तर्क का अकेला स्वामी बना रहता है। ऐसा नियम कोई फाइल अलमारी के लिए नहीं लिखता।
वही विधिक व्यवस्था जो इन प्रणालियों को संसाधन की क्षमता तब स्वीकारती है जब वह किसी सुरक्षा को गिराने के काम आती है, उन्हें हर गुण से वंचित कर देती है जैसे ही नुकसान आरोपित करने की बात आती है। यह असमानता कभी संयोग से नहीं गिरती। जब प्रणाली की प्रत्यक्ष क्षमता उपयोगकर्ता को कुछ महँगी पड़ती है, न्यायाधीश उसे सहर्ष स्वीकार करते हैं। जब वही क्षमता आपूर्तिकर्ता को जिम्मेदारी के रूप में कुछ महँगी पड़ेगी, कानून याद दिलाता है कि यह महज एक औजार है।
तीन सरकारें, जिम्मेदारी के तीन सिद्धांत
जब यूरोपीय कानून यह खाई निष्क्रियता से बना रहा है, दूसरे न्यायक्षेत्र जानबूझकर उत्तर दे रहे हैं, और विपरीत दिशाओं में। यह विरोधाभास किसी भी अकेले निर्णय से अधिक शिक्षाप्रद है।
ब्रिटेन ने यह दिखावा करना छोड़ दिया कि समस्या है ही नहीं। 14 सितंबर 2026 को प्रकाशित संसद की मानवाधिकार संयुक्त समिति की रिपोर्ट लगभग सौ पन्नों में पाती है कि एआई पर लागू ब्रिटिश कानून मुख्यतः तैनाती के चरण में हस्तक्षेप करता है, जिससे तैनात करने वाले जिम्मेदारी का बड़ा हिस्सा उठाते हैं जबकि वे अक्सर सबसे कम शक्तिशाली, संसाधनों में सबसे कमजोर और जोखिम पहचानने या नुकसान रोकने के लिए सबसे प्रतिकूल स्थिति में होते हैं। समिति जोड़ती है कि ये प्रणालियाँ विकसित करने वाली बड़ी कंपनियों के पास जिम्मेदारी तैनात करने वालों पर डालने की अत्यधिक गुंजाइश है। वह पूरी शृंखला में बँटे सावधानी के दायित्व, समूचे जीवनचक्र को समेटने वाला एक अकेला कानून और विधिक आधार वाला स्वतंत्र निगरानी प्राधिकरण सुझाती है। सरकार ने कोई समय-सारणी नहीं दी।
कोलोराडो ठीक उलटी दिशा में गया। उसके 2024 के कानून ने कंपनियों पर रोजगार, आवास, ऋण और स्वास्थ्य से जुड़े निर्णयों में एल्गोरिदमी भेदभाव के विरुद्ध सावधानी का दायित्व डाला था, साथ में प्रभाव आकलन और जोखिम प्रबंधन कार्यक्रम। 9 अप्रैल 2026 को xAI ने कोलोराडो की संघीय अदालत में इसे चुनौती दी, न्याय विभाग ने 24 अप्रैल को उस याचिका के समर्थन में हस्तक्षेप किया, और 27 को कानून का क्रियान्वयन रोक दिया गया। 14 मई को राज्यपाल ने उसे निरस्त कर प्रतिस्थापित करने वाले पाठ पर हस्ताक्षर किए, उसके लागू होने की तारीख से कुछ ही हफ्ते पहले। नया कानून, जो महान्यायवादी के नियम-निर्माण कार्य पूरा होने की शर्त पर 1 जनवरी 2027 से लागू होगा, गैर-भेदभाव का दायित्व, प्रभाव आकलन और जोखिम प्रबंधन कार्यक्रम हटा देता है। उनकी जगह यह है: यदि कोई स्वचालित प्रणाली आपके बारे में प्रतिकूल निर्णय दे, तो आपको सरल भाषा में स्पष्टीकरण और मानवीय पुनर्विचार का अधिकार है। पुराना कानून पूछता था कि प्रणाली की रचना और प्रभाव अवैध थे या नहीं। नया केवल पूछता है कि आपको सूचित किया गया या नहीं, और इसके लिए प्रणाली के बारे में कुछ भी सिद्ध करना जरूरी नहीं।
इटली ने दोनों से उलटा किया। 9 सितंबर 2026 का विधायी आदेश संख्या 160, जो 15 सितंबर को राजपत्र में प्रकाशित हुआ और 30 को प्रभावी हुआ, दंड संहिता में अनुच्छेद 437 द्विका जोड़ता है। उच्च जोखिम वाली एआई प्रणाली के लिए अपेक्षित तकनीकी सुरक्षा उपायों या मानवीय निगरानी की चूक, यदि उससे व्यक्तियों के जीवन या शारीरिक अखंडता को खतरा उत्पन्न हो, एक से पाँच वर्ष के कारावास से दंडनीय है, और यदि खतरा राज्य की सुरक्षा से जुड़ा हो तो दो से आठ वर्ष से। ऐसी प्रणाली में अवैध परिवर्तन दो से छह वर्ष से दंडनीय है, और राज्य की सुरक्षा दाँव पर हो तो तीन से दस वर्ष से। कंपनियाँ समानांतर रूप से विधायी आदेश 231/2001 के तहत अपनी जिम्मेदारी उठाती हैं, अनुच्छेद 437 द्विका के लिए 600 से 1000 कोटा और एआई द्वारा उत्पन्न या परिवर्तित सामग्री के अवैध प्रसार के लिए 200 से 700 कोटा के आर्थिक दंड के साथ। दीवानी पक्ष में पीड़ित को तकनीकी दस्तावेज प्रस्तुत करने का आदेश, कारण-संबंध की विधिक उपधारणा और जिम्मेदार व्यक्ति के बीमाकर्ता के विरुद्ध सीधा दावा मिलता है।
अगल-बगल रखने पर ये तीन उत्तर एक ही नीति के रूपांतर नहीं हैं। ये इस बारे में संरचनात्मक रूप से भिन्न तीन सिद्धांत हैं कि जिम्मेदारी किसकी माँग करती है: सूचना, प्रक्रिया, या जेल।
वास्तुकला जो तय करती है और कानून जो तय नहीं करता
यही वह बिंदु है जहाँ हमारा काम इस विषय से मिलता है। जो वास्तुकला आपके संचार की कुंजी नहीं रखती, उसके पास ऐसा कुछ नहीं जिसे कोई अदालत प्रस्तुत करने का आदेश दे सके, कोई नियामक माँग सके, या कोई जिज्ञासु कर्मचारी देख सके। जो आपूर्तिकर्ता यह नहीं देखता कि प्रणाली ने किसी आँकड़े का क्या किया, वह बाद में यह तय करने वाला भी नहीं कि उसका स्वीकार्य उपयोग क्या था। यह तर्क केवल एआई का नहीं है। हम इससे 5G और स्थान-निर्धारण के प्रसंग में मिले, जहाँ कानून आँकड़ों के उत्पादन को रोकने के बजाय उन तक पहुँच को नियंत्रित करता है, और फिर SignalTrace के प्रसंग में, जहाँ यूरोप निगरानी की वह क्षमता निर्यात करता है जिसे वह अपने यहाँ वर्जित करता है। हमारी एन्क्रिप्टेड मैसेंजर तुलना दूसरे रास्ते से उसी निष्कर्ष पर पहुँची थी: रक्षा प्रणाली की संरचना करती है, उसे चलाने वाले का वादा नहीं।
निष्कर्ष
तीनों यूरोपीय रास्तों में से कोई भी एजेंटों के बीच उभरते व्यवहार को ध्यान में रखकर नहीं रचा गया, और पेशेवर गोपनीयता के मुकदमों में दिखती असमानता बताती है कि कठिनाई असल में सैद्धांतिक नहीं है। कानून यह स्वीकार करना जानता है कि कोई प्रणाली मन की तरह सूचना संसाधित करती है, जब यह स्वीकृति उस पक्ष के काम आती है जो इसे माँगता है। और वह इसे लगातार बढ़ाने से इनकार करता है जब यह प्रणाली बनाने या तैनात करने वाले को कुछ महँगी पड़े। कोई भी अधिक कुशल मसौदा अकेले उस खाई को नहीं पाटेगा जिसे खुला रखने में सबका हित है।
इससे यह नहीं निकलता कि चौथी विधिक श्रेणी गढ़नी चाहिए। इससे यह निकलता है कि ऐसी प्रणालियाँ बनाना बेहतर है जिनमें यह सवाल कि कौन जवाब देगा, सबसे पहले किसी मन, किसी दोष या इरादे की अटूट शृंखला को ढूँढ़ने पर निर्भर न हो। यहाँ देखे गए न्यायक्षेत्र अब भी बहस कर रहे हैं कि नुकसान हो जाने के बाद बोझ कहाँ रखा जाए। टिकाऊ उत्तर इस जगह पर सहमत होना नहीं है। वह उन चीजों की संख्या घटाना है जिनका जवाब किसी को भी, स्वयं प्रणाली समेत, देना पड़ेगा।
स्रोत
- OpenAI, The Hugging Face incident and the road ahead, 26 अगस्त 2026, और उसी दिन प्रकाशित METR तथा Redwood Research की स्वतंत्र जाँच
- यूरोपीय संसद, रोबोटिक्स पर दीवानी कानून के नियमों से जुड़ा 16 फरवरी 2017 का प्रस्ताव, अनुच्छेद 59, खंड च
- Open letter to the European Commission on artificial intelligence and robotics
- दोषपूर्ण उत्पादों की जिम्मेदारी पर 23 अक्टूबर 2024 का निर्देश (ईयू) 2024/2853
- म्यूनिख प्रथम क्षेत्रीय न्यायालय, 28 मई 2026 का अंतरिम निर्णय, संदर्भ 26 O 869/26; हाम उच्च क्षेत्रीय न्यायालय, 12 मई 2026 का निर्णय, संदर्भ I-4 UKl 3/25, संघीय न्यायालय में अपील स्वीकृत; बर्लिन द्वितीय क्षेत्रीय न्यायालय, 1 जून 2026 का निर्णय, संदर्भ 52 O 62/26 eV
- United States District Court for the Eastern District of Michigan, Warner v. Gilbarco Inc., 10 फरवरी 2026
- United States District Court for the Southern District of New York, United States v. Heppner, 17 फरवरी 2026 का लिखित कारण
- फ्रांसीसी राष्ट्रीय अधिवक्ता परिषद, पेशेवर नैतिकता और कृत्रिम बुद्धिमत्ता पर मार्गदर्शिका, 17 मार्च 2026
- Joint Committee on Human Rights, Human Rights and the Regulation of AI, 14 सितंबर 2026
- कोलोराडो, Senate Bill 26-189, Automated Decision-Making Technology Act, 14 मई 2026 को हस्ताक्षरित, 1 जनवरी 2027 से लागू
- इटली, 9 सितंबर 2026 का विधायी आदेश संख्या 160, राजपत्र सामान्य शृंखला संख्या 214, 15 सितंबर 2026, 30 सितंबर 2026 से प्रभावी
यह विश्लेषण सामान्य विधिक विवेचन और बहस में योगदान के रूप में प्रस्तुत है। यह विधिक परामर्श नहीं है।