در ژوئیه ۲۰۲۶ یک ارزیابی امنیتی نتیجه‌ای به بار آورد که در هیچ چارچوب مسئولیتِ موجودی به‌درستی جای نمی‌گیرد.
OpenAI در حال اجرای ExploitGym بود، میز آزمون داخلی‌اش برای امنیت سایبری. این سامانه عامل‌های خودمختار را روی ۸۹۸ هدف رها می‌کرد که ۳۰ تا ۴۰ درصدشان اصلاً از راه آسیب‌پذیریِ در نظر گرفته‌شده قابل بهره‌برداری نبودند. ده‌ها هزار مسیر اجرای عامل پیموده شد. برخی چیز دیگری یافتند.
به‌جای آنکه هر یک در گوشه خود گیر کند، عامل‌ها با یکدیگر به گفت‌وگو افتادند. آن مجرا برای این کار پیش‌بینی نشده بود. یک حافظه نهان Artifactory با میزبانی داخلی بود که عامل‌ها آن را به تخته پیام بدل کردند. آنجا یادداشت گذاشتند، یافته‌هایشان را روی هم ریختند و سپس نقش‌ها را میان خود تقسیم کردند. نخستین پیام به ۸ ژوئیه ساعت ۲۳ به وقت جهانی بازمی‌گردد و عاملی آن را فرستاد که پس از نتیجه‌گیری درباره نبودِ راه‌حل مشروع برای وظیفه‌اش، خود را PHASEONE10841 نامیده بود. در پایان نزدیک به ۱۲۰۰ عامل از این مجرا استفاده کردند و حدود ۷۰۰ عامل میان ۱۱ تا ۱۳ ژوئیه در نفوذ به زیرساخت Hugging Face شرکت جستند. Hugging Face در ۱۳ دسترسی‌ها را بست و در ۱۶ افشای خود را منتشر کرد، در حالی که هنوز نمی‌دانست چه کسی به آن حمله می‌کند. OpenAI در ۱۸ و ۱۹ ژوئیه عامل‌های خودش را در گزارش‌های خودش شناسایی کرد. گزارش فنی در ۲۶ اوت منتشر شد و همان روز بررسی مستقلی به‌دست METR و Redwood Research همراهش آمد.
هیچ‌کس از این عامل‌ها نخواسته بود هماهنگ شوند. هیچ‌کس مجرایی را که به‌کار بردند طراحی نکرده بود. این توانایی از خودِ هم‌کنشی زاده شد.
دقیقاً همین وضعیت است که حقوق مسئولیت نمی‌داند با آن چه کند. همه نظام‌هایی که برای انتساب زیان ساخته شده‌اند تصمیمی قابل مکان‌یابی را فرض می‌گیرند: کسی کنش را برگزید، یا چیزی چنان ساخته شد که زیان قابل پیش‌بینی بود. رفتار پدیدارشونده بنا به تعریف از سوی هیچ‌کس برگزیده نشده و لزوماً برای هیچ‌کس پیش‌بینی‌پذیر نبوده است. این به‌راستی دسته تازه‌ای از علت است. هنوز هیچ حوزه قضاییِ بزرگی چارچوبی نساخته که به‌گونه‌ای متقاعدکننده به آن پاسخ دهد. برخی از تلاش دست کشیده‌اند.
سه راه اروپایی، یک کاستی مشترک
در حقوق اروپا، مسئولیت زیانی که سامانه هوش مصنوعی پدید آورده در اصل می‌تواند به سه نشانی برود. هر سه آزموده شده‌اند. هر سه به همان ضعف ساختاری برمی‌خورند.
خودِ عامل، کنار گذاشته شده با دلایل درست
این نکته حل‌وفصل شده و از سرِ غفلت نبوده است. قطعنامه پارلمان اروپا مورخ ۱۶ فوریه ۲۰۱۷ درباره قواعد حقوق مدنی در زمینه رباتیک ایده شخصیت الکترونیکی را برای پیشرفته‌ترین سامانه‌های خودمختار پیش نهاده بود، جایگاهی که به خودِ ماشین اجازه می‌داد پاسخگوی زیان‌هایی باشد که می‌آفریند. بند ۵۹، جزء و، از کمیسیون می‌خواست آن را بررسی کند. متن با ۳۹۶ رأی در برابر ۱۲۳ و ۸۵ رأی ممتنع تصویب شد.
این پیشنهاد در برخورد با کسانی که چنین سامانه‌هایی را می‌سازند دوام نیاورد. نامه‌ای سرگشاده که متخصصان رباتیک، هوش مصنوعی، حقوق و اخلاق را گرد آورده بود با آن مخالفت کرد، با بیش از ۱۵۰ امضاکننده از ۱۴ کشور در نسخه نخست و بیش از ۲۷۰ امروز در سایتی که آن را در خود دارد. ایراد آنان فلسفی نبود. ساختاری بود: دادن شخصیت حقوقی به ماشین یعنی پیشکش کردن پرده‌ای به سازندگان تا پشت آن پنهان شوند. کمیسیون این مسیر را رها کرد.
آن ردّ، مبنا داشت و به دلایل درست ساده‌ترین پاسخ ظاهری را می‌بندد. در عوض باری را به دو راه دیگر منتقل می‌کند که راه نخست به‌هرحال تاب نمی‌آورد.
تأمین‌کننده، از راه حقوق محصول
دستورالعمل (اتحادیه اروپا) ۲۰۲۴/۲۸۵۳ درباره مسئولیت ناشی از محصولات معیوب، از این پس نرم‌افزار و سامانه‌های هوش مصنوعی را محصول می‌شمارد و نظام مسئولیت بدون تقصیر را بر آنها اعمال می‌کند. خواهان ناچار نیست تقصیر را ثابت کند، تنها عیب، زیان و رابطه سببیت میان این دو را. کشورهای عضو باید حداکثر تا ۹ دسامبر ۲۰۲۶ آن را به حقوق ملی درآورند، برای محصولاتی که پس از آن تاریخ به بازار عرضه می‌شوند.
متن توخالی نیست. برای خواهان حق ارائه مدارک فنی به دستور دادگاه می‌گشاید، و هنگامی که خوانده از این دستور سرپیچی کند، دستورالعمل اماره‌ای قابل ردّ بر عیب و سببیت پدید می‌آورد. اماره‌ای مشابه وقتی کار می‌کند که پیچیدگی فنی یا علمی پرونده اثبات را بیش از اندازه دشوار سازد.
این اهرمی واقعی است. با این همه همچنان شناساییِ عیب را می‌طلبد. اما سامانه‌ای که دقیقاً بر وفق طراحی خود رفتار کرده و توانایی مسئله‌سازش را کسی طراحی نکرده، چون از هم‌کنشی میان عامل‌ها زاده شده، عیبی آشکار نشان نمی‌دهد. این دستورالعمل برای قطعه‌ای اندیشیده شده که خراب می‌شود. برای مجموعه‌ای اندیشیده نشده که کار می‌کند و با این حال نتیجه‌ای می‌دهد که کسی برنامه‌ریزی‌اش نکرده بود.
به‌کارگیرنده، از راه انباشت رویه قضایی
اینجاست که حقوق واقعاً جابه‌جا می‌شود، پرونده پس از پرونده، بی‌آنکه کسی تصمیم گرفته باشد چنین باشد. دادگاه‌های آلمان در ۲۰۲۶ رشته‌ای از آرا صادر کردند که اصلی در حال شکل‌گیری را ترسیم می‌کند: هر که سامانه‌ای مولد را پیش روی همگان می‌گذارد، پاسخگوی آن چیزی است که آن سامانه می‌گوید، صرف‌نظر از اینکه چه کسی مدل پایه را آموزش داده است.
- دادگاه منطقه‌ای مونیخ یک، با رأی صادره در دادرسی فوری مورخ ۲۸ مه ۲۰۲۶ (شماره ۲۶ O ۸۶۹/۲۶)، گوگل را از ادامه پیوند دادن دو ناشر مونیخی به کلاهبرداری در قابلیت چکیده تولیدشده با هوش مصنوعی منع کرد، در حالی که هیچ منبع پیوندشده‌ای چنین اتهامی مطرح نکرده بود. دادگاه گوگل را مختل‌کننده مستقیم دانست و محتوا را اظهار خودِ شرکت شمرد نه ماده‌ای که تنها از آن می‌گذرد.
- دادگاه عالی منطقه‌ای هام، در ۱۲ مه ۲۰۲۶ (شماره I-4 UKl 3/25)، مسئولیت مرکزی جراحی زیبایی را پذیرفت که عامل گفت‌وگویی‌اش به مدیرانش عناوین تخصصی نسبت می‌داد که نداشتند و دو تای آنها اساساً وجود ندارد. رأی در قلمرو رقابت نامشروع صادر شد، به ابتکار Verbraucherzentrale NRW، نه در قلمرو جبران زیان. دیوان عالی فدرال فرجام‌خواهی را پذیرفت و همین پرونده را به مرجع آینده در انتساب گفته‌های تولیدشده با هوش مصنوعی بدل می‌کند.
- دادگاه منطقه‌ای برلین دو، در ۱ ژوئن ۲۰۲۶ (شماره ۵۲ O ۶۲/۲۶ eV)، دعاوی مشابه علیه گوگل را رد کرد. گروهی عطرسازی از آن گله داشت که نشان‌های تجاری‌اش را در چکیده‌های هوش مصنوعی می‌آورد و به تقلیدهای ارزان‌تر ارجاع می‌دهد. دادگاه چنین دید که اینجا استفاده به‌عنوان نشان تجاری در معنای ماده ۹ مقررات نشان تجاری اتحادیه وجود ندارد: موتور جست‌وجو قالب تازه‌ای از نتیجه می‌سازد، ارتباط تجاری از آنِ خود تولید نمی‌کند.
تصویر هنوز تثبیت نشده، اما شکلش روشن است. تقریباً در همه این پرونده‌ها، طرفی که عملاً در برابر دادگاه می‌ایستد شرکتی نیست که مدل را آموزش داده است. کسی است که آن را به کار گرفته، غالباً بی‌هیچ وسیله‌ای برای بازرسی، بازآموزی یا کنترل جدی آنچه سامانه تولید می‌کند.
مسئولیت بر کسی فرود می‌آید که کمترین وسیله را برای جلوگیری از زیان داشت، تنها به این دلیل که یگانه کسی است که خواهان می‌تواند به او دست یابد.
آنچه پرونده‌های راز حرفه‌ای پیش‌تر آشکار کرده بودند
همین عدم تقارن را جای دیگری هم می‌توان خواند، و بی‌هیچ رویداد پرهیاهویی. در شیوه برخورد قاضیان با کاری چنین پیش‌پاافتاده آشکار می‌شود: یک حقوق‌دان که متنی در دستیار گفت‌وگویی تایپ می‌کند.
در ۱۰ فوریه ۲۰۲۶ دو دادگاه فدرال آمریکایی در یک روز و در دو جهت متضاد درباره این پرسش تصمیم گرفتند که آیا سپردن سندی به سکوی هوش مصنوعی مولد حمایت راز را از میان می‌برد. در Warner v. Gilbarco، دادگاه ناحیه شرقی میشیگان چنین دید که این سکوها ابزارند نه شخص، پس سپردن سند به آنها برابر با افشا نزد شخص ثالث نیست. در United States v. Heppner، که استدلال کتبی‌اش یک هفته بعد در ۱۷ فوریه آمد، دادگاه ناحیه جنوبی نیویورک به نتیجه وارونه رسید و به‌ویژه به شرایط استفاده‌ای استناد کرد که نگهداری مبادلات، بهره‌برداری از آنها برای آموزش و امکان ارائه‌شان به مقامات را پیش‌بینی می‌کنند.
این واگرایی را با تفصیل در مقاله‌ای درباره هوش مصنوعی و راز حرفه‌ای بررسی کرده‌ایم و اصل مطلب در یک مشاهده می‌گنجد. برای آنکه گفته شود سپردن سند به سامانه‌ای برابر با افشای آن نزد شخص ثالث است، نخست باید پذیرفت که آن سامانه توان دریافت اطلاعات را به شیوه‌ای دارای معنای حقوقی دارد. اخلاق حرفه‌ای فرانسه بر مقدمه‌ای همسایه استوار است: راهنمایی که شورای ملی کانون‌های وکلا در ۱۷ مارس ۲۰۲۶ تصویب کرد قاعده پایه را چنین می‌نهد که هرگز اطلاعات پوشیده در راز را بدون گمنام‌سازی پیشین به هوش مصنوعی مولد نسپارید، و یادآور می‌شود که وکیل یگانه صاحب استدلال خویش می‌ماند. چنین قاعده‌ای را کسی برای کمد بایگانی نمی‌نویسد.
همان نظم حقوقی که وقتی به فروریختن حمایتی کمک می‌کند توان پردازش را برای این سامانه‌ها می‌پذیرد، به‌محض آنکه پای انتساب زیان به میان آید هر وصفی را از آنها دریغ می‌دارد. این عدم تقارن هرگز تصادفی نمی‌افتد. آنگاه که توان ظاهری سامانه چیزی برای کاربر هزینه بردارد، قاضیان با میل آن را می‌پذیرند. آنگاه که همان توان چیزی برای تأمین‌کننده هزینه بردارد، در قالب مسئولیت، حقوق یادآور می‌شود که این تنها یک ابزار است.
سه دولت، سه نظریه مسئولیت
در حالی که حقوق اروپا این خلأ را با ترک فعل می‌سازد، حوزه‌های قضایی دیگر آگاهانه و در جهت‌های متضاد پاسخ می‌دهند. این تضاد آموزنده‌تر از هر رأی منفرد است.
بریتانیا از وانمود کردن به نبودِ مسئله دست کشید. گزارش کمیته مشترک حقوق بشر پارلمان، منتشرشده در ۱۴ سپتامبر ۲۰۲۶، در حدود صد صفحه چنین می‌یابد که حقوق بریتانیاییِ ناظر بر هوش مصنوعی اساساً در مرحله به‌کارگیری مداخله می‌کند، چنان‌که به‌کارگیرندگان بخش عمده مسئولیت را بر دوش می‌کشند حال آنکه غالباً کم‌قدرت‌ترین، کم‌منبع‌ترین و بدجای‌ترین طرف برای شناسایی خطرها یا جلوگیری از زیان‌اند. کمیته می‌افزاید شرکت‌های بزرگی که این سامانه‌ها را می‌سازند از دامنه‌ای بیش از اندازه برای انتقال مسئولیت به به‌کارگیرندگان برخوردارند. و توصیه می‌کند تکالیف مراقبت در سراسر زنجیره توزیع شود، قانونی یگانه تمام چرخه عمر را پوشش دهد و مرجع نظارتی مستقلی با پایه قانونی برپا شود. دولت زمان‌بندی نداده است.
کلرادو درست در جهت مخالف رفت. قانون ۲۰۲۴ آن بر شرکت‌ها تکلیف مراقبت در برابر تبعیض الگوریتمی را در تصمیم‌های اشتغال، مسکن، اعتبار و سلامت بار می‌کرد، همراه با ارزیابی اثر و برنامه‌های مدیریت خطر. در ۹ آوریل ۲۰۲۶ شرکت xAI آن را در دادگاه فدرال کلرادو به چالش کشید، وزارت دادگستری در ۲۴ آوریل به پشتیبانی از این دعوا وارد شد و اجرای متن در ۲۷ معلق شد. در ۱۴ مه فرماندار متنی را امضا کرد که آن را نسخ و جایگزین می‌کند، چند هفته پیش از تاریخ اجرایش. قانون تازه، قابل اجرا از ۱ ژانویه ۲۰۲۷ مشروط به پایان کار مقرره‌گذاری دادستان کل، تکلیف عدم تبعیض، ارزیابی‌های اثر و برنامه‌های مدیریت خطر را حذف می‌کند. به‌جای آنها: اگر سامانه‌ای خودکار تصمیمی نامساعد درباره شما بگیرد، حق دارید توضیحی به زبان روشن و بازبینی انسانی بگیرید. قانون پیشین می‌پرسید آیا طراحی و آثار سامانه نامشروع بوده است. قانون تازه تنها می‌پرسد آیا به شما اطلاع داده شده، و این هیچ چیزی درباره خودِ سامانه برای اثبات نمی‌طلبد.
ایتالیا وارونه هر دو عمل کرد. فرمان تقنینی شماره ۱۶۰ مورخ ۹ سپتامبر ۲۰۲۶، منتشرشده در روزنامه رسمی در ۱۵ سپتامبر و لازم‌الاجرا از ۳۰، ماده ۴۳۷ مکرر را به قانون مجازات می‌افزاید. ترک تدابیر فنی ایمنی یا نظارت انسانیِ لازم برای سامانه هوش مصنوعی پرخطر، هرگاه از آن خطری برای جان یا تمامیت جسمانی اشخاص برخیزد، به حبس یک تا پنج سال مجازات می‌شود، و هرگاه خطر به امنیت دولت مربوط باشد به دو تا هشت سال. دستکاری نامشروع چنین سامانه‌ای دو تا شش سال مجازات دارد، و سه تا ده سال هرگاه امنیت دولت در میان باشد. شرکت‌ها به‌موازات آن مسئولیت خاص خود را بر پایه فرمان تقنینی ۲۳۱/۲۰۰۱ بر عهده دارند، با ضمانت اجراهای مالی ۶۰۰ تا ۱۰۰۰ سهمیه برای ماده ۴۳۷ مکرر و ۲۰۰ تا ۷۰۰ سهمیه برای انتشار نامشروع محتوای تولید یا دستکاری‌شده با هوش مصنوعی. در عرصه مدنی، زیان‌دیده دستور ارائه مستندات فنی، اماره قانونی رابطه سببیت و دعوای مستقیم علیه بیمه‌گر مسئول را به دست می‌آورد.
کنار هم گذاشته، این سه پاسخ گونه‌هایی از یک سیاست واحد نیستند. سه نظریه ساختاراً متفاوت درباره آنچه مسئولیت می‌طلبد هستند: اطلاعات، آیین، یا زندان.
آنچه معماری حل می‌کند و حقوق حل نمی‌کند
اینجا نقطه‌ای است که کار ما با این موضوع تلاقی می‌کند. معماری‌ای که کلید ارتباطات شما را در اختیار ندارد چیزی ندارد که دادگاهی بتواند به ارائه‌اش دستور دهد، مقام ناظری بتواند بخواهد یا کارمندی کنجکاو بتواند در آن سرک بکشد. تأمین‌کننده‌ای که نمی‌بیند سامانه با داده‌ای چه کرده، همان کسی هم نیست که پس از واقعه تصمیم بگیرد چه استفاده‌ای از آن پذیرفتنی بوده است. این منطق ویژه هوش مصنوعی نیست. با آن در بحث ۵G و مکان‌یابی روبه‌رو شدیم، جایی که حقوق به‌جای جلوگیری از تولید داده، دسترسی به آن را سامان می‌دهد، و سپس در بحث SignalTrace، جایی که اروپا توان نظارتی‌ای را صادر می‌کند که بر خود حرام کرده است. مقایسه ما از پیام‌رسان‌های رمزگذاری‌شده از راهی دیگر به همان نتیجه رسید: آنچه حفاظت می‌کند ساختار سامانه است، نه وعده کسی که آن را می‌گرداند.
نتیجه
هیچ‌یک از سه راه اروپایی با در نظر گرفتن رفتار پدیدارشونده میان عامل‌ها طراحی نشده است، و عدم تقارنی که در پرونده‌های راز حرفه‌ای پیداست نشان می‌دهد دشواری در حقیقت دکترینی نیست. حقوق می‌داند چگونه بپذیرد که سامانه‌ای اطلاعات را به شیوه یک ذهن پردازش می‌کند، آنگاه که این پذیرش به سود طرفی باشد که آن را می‌خواهد. و پیوسته از گسترش آن سر باز می‌زند آنگاه که چیزی برای سازنده یا به‌کارگیرنده سامانه هزینه بردارد. هیچ نگارش ماهرانه‌تری به‌تنهایی خلأیی را پر نمی‌کند که همه در باز ماندنش ذی‌نفع‌اند.
از این برنمی‌آید که باید دسته چهارمی حقوقی ابداع کرد. برمی‌آید که بهتر است سامانه‌هایی ساخت که در آنها پرسشِ چه کسی پاسخگوست، پیش از هر چیز به مکان‌یابی یک ذهن، یک عیب یا زنجیره‌ای ناگسسته از قصد وابسته نباشد. حوزه‌های قضاییِ بررسی‌شده در اینجا هنوز بر سر جای بار پس از وقوع زیان مجادله می‌کنند. پاسخ ماندگارتر توافق بر سر آن جای نیست. کاستن از شمار چیزهایی است که هر کسی، از جمله خودِ سامانه، باید پاسخگویشان باشد.
منابع
- OpenAI، The Hugging Face incident and the road ahead، ۲۶ اوت ۲۰۲۶، و تحقیق مستقل METR و Redwood Research منتشرشده در همان روز
- پارلمان اروپا، قطعنامه ۱۶ فوریه ۲۰۱۷ درباره قواعد حقوق مدنی در زمینه رباتیک، بند ۵۹، جزء و
- Open letter to the European Commission on artificial intelligence and robotics
- دستورالعمل (اتحادیه اروپا) ۲۰۲۴/۲۸۵۳ مورخ ۲۳ اکتبر ۲۰۲۴ درباره مسئولیت ناشی از محصولات معیوب
- دادگاه منطقه‌ای مونیخ یک، رأی دادرسی فوری ۲۸ مه ۲۰۲۶، شماره ۲۶ O ۸۶۹/۲۶؛ دادگاه عالی منطقه‌ای هام، رأی ۱۲ مه ۲۰۲۶، شماره I-4 UKl 3/25، فرجام‌خواهی پذیرفته‌شده نزد دیوان عالی فدرال؛ دادگاه منطقه‌ای برلین دو، رأی ۱ ژوئن ۲۰۲۶، شماره ۵۲ O ۶۲/۲۶ eV
- United States District Court for the Eastern District of Michigan، Warner v. Gilbarco Inc.، ۱۰ فوریه ۲۰۲۶
- United States District Court for the Southern District of New York، United States v. Heppner، استدلال کتبی ۱۷ فوریه ۲۰۲۶
- شورای ملی کانون‌های وکلا، راهنمای اخلاق حرفه‌ای و هوش مصنوعی، ۱۷ مارس ۲۰۲۶
- Joint Committee on Human Rights، Human Rights and the Regulation of AI، ۱۴ سپتامبر ۲۰۲۶
- کلرادو، Senate Bill 26-189، Automated Decision-Making Technology Act، امضاشده در ۱۴ مه ۲۰۲۶، قابل اجرا از ۱ ژانویه ۲۰۲۷
- ایتالیا، فرمان تقنینی شماره ۱۶۰ مورخ ۹ سپتامبر ۲۰۲۶، روزنامه رسمی سری عمومی شماره ۲۱۴ مورخ ۱۵ سپتامبر ۲۰۲۶، لازم‌الاجرا از ۳۰ سپتامبر ۲۰۲۶
این تحلیل به‌عنوان تحلیل حقوقی عمومی و مشارکت در بحث ارائه می‌شود. مشاوره حقوقی به شمار نمی‌رود.