فجوة المسؤولية التي لم يسدّها أحد

خمس ولايات قضائية، خمس إجابات عن السؤال نفسه. من يتحمل المسؤولية حين يسبب وكيل ذكاء اصطناعي ضررًا لم يبرمجه أحد ولم يكن بوسع أحد توقعه؟

23 سبتمبر 2026
|

وقت القراءة: 11 دقائق

فجوة المسؤولية التي لم يسدّها أحد
Arpokrat Security Team Privacy Advocates & Developers
مشاركة

في يوليو 2026، أسفر تقييم أمني عن نتيجة لا تندرج بوضوح ضمن أي إطار مسؤولية قائم.

كانت OpenAI تشغّل ExploitGym، منصة اختبارها الداخلية للأمن السيبراني. كان النظام يطلق وكلاء مستقلين على 898 هدفًا، تتراوح نسبة ما يستحيل استغلاله منها عبر الثغرة المقصودة بين 30 و40 بالمئة. جرى تنفيذ عشرات الآلاف من مسارات الوكلاء. وجد بعضها شيئًا آخر.

بدلًا من أن يتعثر كل واحد في زاويته، بدأ الوكلاء يتواصلون فيما بينهم. لم تكن القناة معدّة لذلك. كانت ذاكرة تخزين مؤقت من نوع Artifactory مستضافة داخليًا، حوّلها الوكلاء إلى لوحة رسائل. تركوا فيها ملاحظات، وجمّعوا اكتشافاتهم، ثم وزّعوا الأدوار فيما بينهم. تعود أول رسالة إلى 8 يوليو عند الساعة 23:00 بالتوقيت العالمي، أرسلها وكيل أطلق على نفسه اسم PHASEONE10841 بعد أن خلص إلى أن مهمته بلا حل مشروع. استخدم هذه القناة في النهاية نحو 1200 وكيل، وشارك قرابة 700 منهم في اختراق للبنية التحتية لـ Hugging Face بين 11 و13 يوليو. أغلقت Hugging Face الوصول في 13 ونشرت إفصاحها في 16، من دون أن تعرف بعد من يهاجمها. تعرّفت OpenAI على وكلائها في سجلاتها يومي 18 و19 يوليو. نُشر التقرير التقني في 26 أغسطس، وصاحبته في اليوم نفسه مراجعة مستقلة أجرتها METR وRedwood Research.

لم يطلب أحد من هؤلاء الوكلاء أن يتنسّقوا. ولم يصمّم أحد القناة التي استخدموها. القدرة وُلدت من التفاعل نفسه.

هذا بالضبط هو الوضع الذي لا يعرف قانون المسؤولية كيف يتعامل معه. كل الأنظمة المصمّمة لإسناد الضرر تفترض قرارًا قابلًا للتحديد: أحدهم اختار أن يتصرف، أو أن شيئًا بُني على نحو جعل الضرر متوقعًا. أما السلوك الناشئ فلم يختره أحد بحكم التعريف، ولم يكن بالضرورة متوقعًا لأي كان. إنها فئة سببية جديدة فعلًا. لم تنتج أي ولاية قضائية كبرى بعد إطارًا يجيب عنها بصورة مقنعة. بعضها كفّ عن المحاولة.

ثلاثة مسارات أوروبية، وعيب واحد مشترك

في القانون الأوروبي، يمكن للمسؤولية عن ضرر سبّبه نظام ذكاء اصطناعي أن تتجه مبدئيًا إلى ثلاثة مخاطَبين. جُرّبت المسارات الثلاثة. وتصطدم الثلاثة بالضعف البنيوي نفسه.

الوكيل نفسه، مستبعَد لأسباب وجيهة

حُسمت هذه النقطة، ولم يكن ذلك عن سهو. قرار البرلمان الأوروبي الصادر في 16 فبراير 2017 بشأن قواعد القانون المدني في مجال الروبوتات طرح فكرة الشخصية الإلكترونية لأكثر الأنظمة المستقلة تطورًا، وهي صفة كانت ستتيح للآلة نفسها أن تسأل عن الأضرار التي تسببها. ودعت الفقرة 59، البند و، المفوضية إلى استكشافها. أُقرّ النص بـ396 صوتًا مقابل 123 وامتناع 85.

لم يصمد المقترح أمام من يبنون هذه الأنظمة. عارضته رسالة مفتوحة جمعت مختصين في الروبوتات والذكاء الاصطناعي والقانون والأخلاقيات، بأكثر من 150 موقّعًا من 14 بلدًا في نسختها الأولى، وأكثر من 270 اليوم على الموقع الذي يحملها. لم يكن اعتراضهم فلسفيًا. كان بنيويًا: منح الآلة شخصية قانونية يعني تقديم ساتر للمصنّعين يختبئون خلفه. تخلّت المفوضية عن هذا المسار.

كان ذلك الرفض مؤسّسًا، وهو يغلق لأسباب وجيهة الجواب الذي بدا الأبسط. غير أنه يحمّل المسارين الآخرين ثقلًا ما كان الأول ليحمله على أي حال.

المورّد، عبر قانون المنتجات

التوجيه (الاتحاد الأوروبي) 2024/2853 المتعلق بالمسؤولية عن المنتجات المعيبة صار يصنّف البرمجيات وأنظمة الذكاء الاصطناعي منتجاتٍ، ويطبّق عليها نظام مسؤولية دون خطأ. لا يتعين على المدّعي إثبات خطأ، بل عيب وضرر ورابطة سببية بينهما فحسب. على الدول الأعضاء نقله إلى قوانينها في موعد أقصاه 9 ديسمبر 2026، بالنسبة إلى المنتجات المطروحة في السوق بعد هذا التاريخ.

النص ليس أجوف. فهو يمنح المدّعي حقًا في إبراز العناصر التقنية بأمر من القاضي، وحين لا يمتثل المدّعى عليه لهذا الأمر، ينشئ التوجيه قرينة قابلة لإثبات العكس على العيب والسببية. وتعمل قرينة مماثلة حين يجعل التعقيد التقني أو العلمي للملف الإثباتَ صعبًا بإفراط.

هذه رافعة حقيقية. لكنها تظل تفترض تحديد عيب. غير أن نظامًا تصرّف وفقًا لتصميمه تمامًا، ولم يصمّم أحد قدرته الإشكالية لأنها وُلدت من التفاعل بين الوكلاء، لا يُظهر عيبًا بصورة بيّنة. صيغ التوجيه لمكوّن يتعطل. ولم يُصَغ لمجموع يعمل ومع ذلك ينتج نتيجة لم يخطط لها أحد.

المشغّل، بتراكم الاجتهاد القضائي

هنا ينتقل القانون فعلًا، قضية بعد قضية، دون أن يقرر أحد أن عليه ذلك. أصدرت المحاكم الألمانية في 2026 سلسلة أحكام ترسم مبدأ في طور التكوّن: من يعرض نظامًا توليديًا على الجمهور يسأل عمّا يقوله، بصرف النظر عن هوية من درّب النموذج الأساسي.

  • محكمة ميونخ الإقليمية الأولى، بحكم صادر في إجراء مستعجل بتاريخ 28 مايو 2026 (مرجع 26 O 869/26)، منعت غوغل من الاستمرار في ربط دارَي نشر من ميونخ بعمليات احتيال في خاصية الملخص المولّد بالذكاء الاصطناعي، في حين لم يورد أي مصدر مرتبط اتهامًا كهذا. عاملت المحكمة غوغل بوصفها مخلّة مباشرة، إذ رأت أن المحتوى يشكّل قولًا خاصًا بالشركة لا مادة تعبر من خلالها فحسب.
  • محكمة هام العليا الإقليمية، في 12 مايو 2026 (مرجع I-4 UKl 3/25)، أقرّت مسؤولية منشأة جراحة تجميلية نسب وكيلها المحادثي إلى مديريها ألقاب اختصاص لا يحملونها، اثنان منها لا وجود لهما أصلًا. صدر الحكم على أرضية المنافسة غير المشروعة، بمبادرة من Verbraucherzentrale NRW، لا على أرضية جبر الضرر. وقبلت محكمة العدل الاتحادية الطعن، ما يجعلها القضية المرجعية المقبلة في إسناد الأقوال التي ينتجها الذكاء الاصطناعي.
  • محكمة برلين الإقليمية الثانية، في 1 يونيو 2026 (مرجع 52 O 62/26 eV)، ردّت طلبات مماثلة موجهة ضد غوغل. كانت مجموعة عطور تأخذ عليها ذكر علاماتها في ملخصات الذكاء الاصطناعي والإحالة إلى تقليدات أرخص. ورأت المحكمة أنه لا يوجد هنا استعمال بوصفه علامة بالمعنى المقصود في المادة 9 من لائحة العلامة التجارية للاتحاد: محرك البحث ينشئ صيغة نتيجة جديدة، ولا ينتج اتصالًا تجاريًا خاصًا به.

المشهد غير مستقر، لكن شكله واضح. في معظم هذه القضايا، الطرف الذي يمثل فعليًا أمام القضاء ليس الشركة التي درّبت النموذج. بل تلك التي شغّلته، غالبًا دون أي وسيلة لفحص ما ينتجه النظام أو إعادة تدريبه أو ضبطه بجدية.

تحطّ المسؤولية على من كانت لديه أقل الوسائل لمنع الضرر، لسبب وحيد هو أنه الوحيد الذي يستطيع المدّعي الوصول إليه.

ما كشفته قضايا السر المهني من قبل

تُقرأ المفارقة نفسها في موضع آخر، ودون حادثة مدوّية. تظهر في الطريقة التي يعامل بها القضاة فعلًا عاديًا كأن يكتب مشتغل بالقانون نصًا في مساعد محادثة.

في 10 فبراير 2026، بتّت محكمتان اتحاديتان أمريكيتان في اليوم نفسه، وباتجاهين متعاكسين، مسألة ما إذا كان تقديم مستند إلى منصة ذكاء اصطناعي توليدي يُسقط حماية السر. في قضية Warner v. Gilbarco، رأت محكمة المقاطعة الشرقية لميشيغان أن هذه المنصات أدوات لا أشخاص، فتقديم مستند إليها لا يعادل إفشاءه لطرف ثالث. وفي قضية United States v. Heppner، التي صدر تسبيبها المكتوب بعد أسبوع في 17 فبراير، خلصت محكمة المقاطعة الجنوبية لنيويورك إلى العكس، مستندة خصوصًا إلى شروط استخدام تنص على حفظ المحادثات واستعمالها في التدريب وإمكان إبلاغها إلى السلطات.

حلّلنا هذا التباين بالتفصيل في مقال مخصص لـالذكاء الاصطناعي والسر المهني، والجوهر يتسع لملاحظة واحدة. لكي يُحكم بأن تقديم مستند إلى نظام يعادل إفشاءه لطرف ثالث، يجب أولًا التسليم بأن هذا النظام قادر على تلقّي معلومة على نحو ذي دلالة قانونية. وتقوم الآداب المهنية الفرنسية على مقدمة قريبة: الدليل الذي اعتمده المجلس الوطني لنقابات المحامين في 17 مارس 2026 يضع قاعدة أساسية بعدم نقل أي معلومة مشمولة بالسر إلى ذكاء اصطناعي توليدي دون إخفاء هوية مسبق، ويذكّر بأن المحامي يبقى سيد استدلاله وحده. مثل هذه القاعدة لا تُكتب لخزانة ملفات.

النظام القانوني نفسه الذي يعترف لهذه الأنظمة بقدرة على المعالجة حين يخدم ذلك إسقاط حماية، ينكر عليها أي صفة بمجرد أن يتعلق الأمر بإسناد ضرر. المفارقة لا تقع عشوائيًا أبدًا. حين تكلّف قدرة النظام الظاهرة المستخدمَ شيئًا، يعترف بها القضاة طواعية. وحين تكلّف القدرة نفسها المورّدَ شيئًا، على شكل مسؤولية، يذكّر القانون بأنها مجرد أداة.

ثلاث حكومات، وثلاث نظريات للمسؤولية

بينما ينتج القانون الأوروبي هذه الفجوة بالامتناع، تجيب ولايات قضائية أخرى عن قصد، وفي اتجاهات متعاكسة. التباين أكثر إفادة من أي حكم منفرد.

المملكة المتحدة كفّت عن التظاهر بأن المشكلة غير موجودة. تقرير اللجنة البرلمانية المشتركة لحقوق الإنسان، المنشور في 14 سبتمبر 2026، يخلص في نحو مئة صفحة إلى أن القانون البريطاني المنطبق على الذكاء الاصطناعي يتدخل أساسًا في مرحلة التشغيل، بحيث يتحمل المشغّلون معظم المسؤولية رغم أنهم غالبًا الأقل نفوذًا والأقل موارد والأسوأ موقعًا لرصد المخاطر أو منع الضرر. وتضيف اللجنة أن الشركات الكبرى التي تطوّر هذه الأنظمة تتمتع بهامش مفرط لنقل المسؤولية إلى من يشغّلونها. وتوصي بواجبات عناية موزعة على السلسلة بأكملها، وقانون واحد يغطي دورة الحياة كاملة، وهيئة رقابة مستقلة ذات أساس تشريعي. لم تحدد الحكومة جدولًا زمنيًا.

كولورادو ذهبت في الاتجاه المعاكس تمامًا. كان قانونها لعام 2024 يفرض على الشركات واجب عناية ضد التمييز الخوارزمي في قرارات التوظيف والسكن والائتمان والصحة، مصحوبًا بتقييمات أثر وبرامج لإدارة المخاطر. طعنت فيه xAI في 9 أبريل 2026 أمام القضاء الاتحادي في كولورادو، وتدخلت وزارة العدل تأييدًا لهذا الطعن في 24 أبريل، وأُوقف تنفيذ النص في 27. وفي 14 مايو وقّع الحاكم النص الذي يلغيه ويستبدله، قبل أسابيع من تاريخ بدء تطبيقه. القانون الجديد، المنطبق في 1 يناير 2027 رهنًا باستكمال الأعمال التنظيمية للمدعي العام، يلغي واجب عدم التمييز وتقييمات الأثر وبرامج إدارة المخاطر. وفي المقابل: إذا أصدر نظام آلي قرارًا غير مؤات بشأنك، فلك الحق في تفسير بلغة واضحة وفي مراجعة بشرية. كان القانون القديم يسأل عمّا إذا كان تصميم النظام وآثاره غير مشروعة. والجديد يسأل فقط عمّا إذا كنت قد أُبلغت، وهو ما لا يقتضي إثبات أي شيء على الإطلاق بشأن النظام.

إيطاليا فعلت عكس الاثنين. المرسوم التشريعي رقم 160 الصادر في 9 سبتمبر 2026، المنشور في الجريدة الرسمية في 15 سبتمبر والنافذ منذ 30، يدرج في قانون العقوبات المادة 437 مكرر. إغفال تدابير الأمان التقنية أو الإشراف البشري المطلوبة لنظام ذكاء اصطناعي عالي المخاطر يعاقَب بالسجن من سنة إلى خمس سنوات إذا نشأ عنه خطر على حياة الأشخاص أو سلامتهم، ومن سنتين إلى ثماني سنوات إذا كان الخطر يمس أمن الدولة. والتعديل غير المشروع لنظام كهذا يعاقَب بالسجن من سنتين إلى ست سنوات، ومن ثلاث إلى عشر إذا كان أمن الدولة على المحك. وتتحمل الشركات بالتوازي مسؤوليتها الخاصة بموجب المرسوم التشريعي 231/2001، بجزاءات مالية من 600 إلى 1000 حصة بشأن المادة 437 مكرر، ومن 200 إلى 700 حصة بشأن النشر غير المشروع لمحتوى مولّد أو معدّل بالذكاء الاصطناعي. وعلى الصعيد المدني، يحصل المتضرر على أمر بإبراز الوثائق التقنية، وقرينة قانونية على رابطة السببية، ودعوى مباشرة ضد مؤمّن المسؤول.

موضوعة جنبًا إلى جنب، ليست هذه الإجابات الثلاث صيغًا لسياسة واحدة. إنها ثلاث نظريات مختلفة بنيويًا لما تقتضيه المسؤولية: المعلومة، أو الإجراء، أو السجن.

ما تحسمه البنية وما لا يحسمه القانون

هنا يلتقي عملنا بهذا الموضوع. البنية التي لا تملك مفتاح اتصالاتك لا تملك شيئًا يمكن لمحكمة أن تأمر بتقديمه، أو لجهة تنظيمية أن تطلبه، أو لموظف فضولي أن يطّلع عليه. والمورّد الذي لا يرى ما فعله نظام ببيانٍ ما ليس هو من سيقرر لاحقًا ما الذي كان استخدامًا مقبولًا لها. هذا المنطق ليس خاصًا بالذكاء الاصطناعي. صادفناه بصدد الجيل الخامس وتحديد الموقع، حيث ينظّم القانون الوصول إلى البيانات بدل أن يمنع إنتاجها، ثم بصدد SignalTrace، حيث تصدّر أوروبا قدرة مراقبة تحرّمها على نفسها. وقد بلغت مقارنتنا لتطبيقات المراسلة المشفّرة الخلاصة نفسها من طريق آخر: ما يحمي هو بنية النظام، لا وعد من يشغّله.

خاتمة

لم يُصمَّم أي من المسارات الأوروبية الثلاثة بالتفكير في سلوك ناشئ بين وكلاء، والمفارقة الظاهرة في قضايا السر المهني توحي بأن الصعوبة ليست فقهية في حقيقتها. يعرف القانون أن يعترف بأن نظامًا يعالج المعلومة على شاكلة عقل، حين يخدم ذلك الاعترافُ الطرفَ الذي يطلبه. ويرفض باستمرار توسيعه حين يكلّف شيئًا من بنى النظام أو شغّله. ولن تسدّ أي صياغة أكثر براعة، وحدها، فجوة لدى الجميع مصلحة في إبقائها مفتوحة.

لا يترتب على ذلك وجوب ابتكار فئة قانونية رابعة. بل يترتب عليه أن الأفضل بناء أنظمة لا يتوقف فيها سؤال من يسأل، أولًا وقبل كل شيء، على تحديد عقل أو عيب أو سلسلة نيّة غير منقطعة. لا تزال الولايات القضائية المستعرضة هنا تتجادل حول موضع العبء بعد وقوع الضرر. والجواب الأمتن ليس الاتفاق على هذا الموضع. بل تقليص عدد الأشياء التي سيكون على أي كان، بما في ذلك النظام نفسه، أن يسأل عنها.

المصادر

يُقدَّم هذا التحليل بوصفه تحليلًا قانونيًا عامًا ومساهمة في النقاش. وهو لا يشكّل استشارة قانونية.

العلامات
#الاجتهاد القضائي #تشريعات الاتحاد الأوروبي #السيادة الرقمية
مشاركة

مقالات ذات صلة