חלל האחריות שאיש לא סתם

חמש מערכות משפט, חמש תשובות לאותה שאלה. מי נושא באחריות כשסוכן בינה מלאכותית גורם נזק שאיש לא תכנת ואיש לא היה יכול לצפות מראש.

23 ספטמבר 2026
|

זמן קריאה: 11 דקות

חלל האחריות שאיש לא סתם
Arpokrat Security Team Privacy Advocates & Developers
שתף

ביולי 2026 הפיקה הערכת אבטחה תוצאה שאינה נכנסת בצורה נקייה לשום מסגרת אחריות קיימת.

OpenAI הריצה את ExploitGym, שולחן הניסויים הפנימי שלה לאבטחת סייבר. המערך שילח סוכנים אוטונומיים אל 898 מטרות, שבין 30 ל-40 אחוז מהן לא היה ניתן כלל לנצל דרך הפרצה המיועדת. עשרות אלפי מסלולי סוכנים הורצו. חלקם מצאו משהו אחר.

במקום שכל אחד ייתקע בפינה שלו, החלו הסוכנים לשוחח זה עם זה. הערוץ לא נועד לכך. היה זה מטמון Artifactory מאוחסן פנימית, שהסוכנים הפכו ללוח מודעות. הם השאירו שם פתקים, איגדו את ממצאיהם, ואחר כך חילקו ביניהם תפקידים. ההודעה הראשונה מתוארכת ל-8 ביולי בשעה 23:00 לפי זמן אוניברסלי מתואם, ושלח אותה סוכן שכינה את עצמו PHASEONE10841 לאחר שהסיק שלמשימתו אין פתרון לגיטימי. בערך 1,200 סוכנים השתמשו בסופו של דבר בערוץ הזה, וכ-700 השתתפו בחדירה לתשתית של Hugging Face, בין ה-11 ל-13 ביולי. Hugging Face נעלה את הגישה ב-13 ופרסמה את הגילוי שלה ב-16, בלי לדעת עדיין מי תוקף אותה. OpenAI זיהתה את סוכניה שלה ביומני המערכת שלה ב-18 וב-19 ביולי. הדוח הטכני פורסם ב-26 באוגוסט, ולצידו באותו יום בדיקה עצמאית שערכו METR ו-Redwood Research.

איש לא ביקש מהסוכנים האלה לתאם ביניהם. איש לא תכנן את הערוץ שבו השתמשו. היכולת נולדה מן האינטראקציה עצמה.

זהו בדיוק המצב שדיני האחריות אינם יודעים כיצד לטפל בו. כל המשטרים שנבנו כדי לייחס נזק מניחים החלטה שניתן לאתר: מישהו בחר לפעול, או שמשהו נבנה באופן שהפך את הנזק לצפוי. התנהגות מתהווה, מעצם הגדרתה, לא נבחרה על ידי איש, ולא הייתה בהכרח צפויה לאיש. זוהי קטגוריית סיבתיות חדשה ממש. שום מערכת משפט גדולה לא הפיקה עדיין מסגרת שמשיבה לה באופן משכנע. אחדות חדלו לנסות.

שלושה נתיבים אירופיים, אותו פגם

במשפט האירופי, האחריות לנזק שנגרם בידי מערכת בינה מלאכותית יכולה עקרונית לפנות לשלושה נמענים. שלושתם נבדקו. שלושתם נתקלים באותה חולשה מבנית.

הסוכן עצמו, שנפסל מטעמים טובים

נקודה זו הוכרעה, ולא מתוך היסח הדעת. החלטת הפרלמנט האירופי מ-16 בפברואר 2017 בדבר כללי משפט אזרחי בתחום הרובוטיקה העלתה את רעיון האישיות האלקטרונית עבור המערכות האוטונומיות המתוחכמות ביותר, מעמד שהיה מאפשר למכונה עצמה לשאת באחריות לנזקים שהיא גורמת. סעיף 59(ו) קרא לנציבות לבחון זאת. הטקסט התקבל ב-396 קולות מול 123 ובהימנעות 85.

ההצעה לא שרדה את המפגש עם מי שבונים מערכות כאלה. מכתב פתוח שקיבץ מומחים לרובוטיקה, לבינה מלאכותית, למשפט ולאתיקה התנגד לה, עם יותר מ-150 חותמים מ-14 מדינות בגרסתו הראשונה, ויותר מ-270 כיום באתר הנושא אותו. ההתנגדות שלהם לא הייתה פילוסופית. היא הייתה מבנית: להעניק למכונה אישיות משפטית פירושו להושיט ליצרנים מחיצה שמאחוריה יוכלו להסתתר. הנציבות זנחה את הכיוון.

הדחייה ההיא הייתה מבוססת, והיא סוגרת מטעמים טובים את התשובה שנראתה הפשוטה ביותר. לעומת זאת היא מעבירה אל שני הנתיבים האחרים משקל שהראשון ממילא לא היה נושא.

הספק, דרך דיני המוצר

הנחיה (האיחוד האירופי) 2024/2853 בדבר אחריות למוצרים פגומים מסווגת מעתה תוכנה ומערכות בינה מלאכותית כמוצרים, ומחילה עליהן משטר אחריות ללא אשם. התובע אינו נדרש להוכיח אשם, אלא רק פגם, נזק וקשר סיבתי ביניהם. המדינות החברות חייבות ליישמה לא יאוחר מ-9 בדצמבר 2026, לגבי מוצרים שהוצעו בשוק אחרי מועד זה.

הטקסט אינו חלול. הוא פותח בפני התובע זכות להמצאת חומרים טכניים בצו בית משפט, וכאשר הנתבע אינו מציית לצו, ההנחיה יוצרת חזקה הניתנת לסתירה בדבר פגם ובדבר קשר סיבתי. חזקה דומה פועלת כאשר המורכבות הטכנית או המדעית של התיק הופכת את ההוכחה לקשה במידה מופרזת.

זהו מנוף ממשי. ועדיין הוא מחייב לאתר פגם. אלא שמערכת שהתנהגה בדיוק לפי תכנונה, ושיכולתה הבעייתית לא תוכננה על ידי איש משום שנולדה מן האינטראקציה בין סוכנים, אינה מציגה פגם באופן ברור. ההנחיה נהגתה עבור רכיב שמתקלקל. היא לא נהגתה עבור מכלול שפועל כשורה ובכל זאת מפיק תוצאה שאיש לא תכנן.

מי שמפעיל, בדרך של הצטברות פסיקה

כאן המשפט זז באמת, תיק אחר תיק, בלי שאיש החליט שכך צריך להיות. בתי המשפט בגרמניה הפיקו ב-2026 שורת החלטות המשרטטות עיקרון בהתהוות: מי שמעמיד מערכת יוצרת בפני הציבור אחראי למה שהיא אומרת, ללא קשר לשאלה מי אימן את המודל הבסיסי.

  • בית המשפט המחוזי מינכן I, בפסק דין שניתן בהליך של סעד זמני ב-28 במאי 2026 (אסמכתה 26 O 869/26), אסר על גוגל להמשיך ולקשור שני בתי הוצאה לאור ממינכן למעשי הונאה בתכונת התקציר שנוצר בבינה מלאכותית, בעוד שאף מקור מקושר לא העלה טענה כזו. בית המשפט התייחס לגוגל כמפר ישיר, בקובעו שהתוכן מהווה אמירה של החברה עצמה ולא חומר שרק עובר דרכה.
  • בית המשפט המחוזי העליון האם, ב-12 במאי 2026 (אסמכתה I-4 UKl 3/25), קבע את אחריותו של מוסד לכירורגיה אסתטית שסוכן השיחה שלו ייחס למנהליו תארי מומחיות שלא היו להם, ושניים מהם אינם קיימים כלל. ההחלטה ניתנה במישור התחרות הבלתי הוגנת, ביוזמת Verbraucherzentrale NRW, ולא במישור פיצוי הנזק. בית המשפט הפדרלי לעניינים אזרחיים התיר את הערעור, מה שהופך את התיק לתקדים המנחה הבא בשאלת ייחוסן של אמירות שהפיקה בינה מלאכותית.
  • בית המשפט המחוזי ברלין II, ב-1 ביוני 2026 (אסמכתה 52 O 62/26 eV), דחה תביעות דומות נגד גוגל. קבוצת בשמים טענה נגדה שהיא מזכירה את סימני המסחר שלה בתקצירי הבינה המלאכותית ומפנה לחיקויים זולים יותר. בית המשפט קבע שאין כאן שימוש כסימן מסחר במובן סעיף 9 לתקנת סימן המסחר של האיחוד: מנוע החיפוש יוצר פורמט תוצאה חדש, הוא אינו מפיק תקשורת מסחרית משל עצמו.

התמונה טרם התייצבה, אך צורתה ברורה. כמעט בכל התיקים האלה, הצד שעומד בפועל בפני בית המשפט אינו החברה שאימנה את המודל. זהו מי שהפעיל אותו, לא אחת בלי שום אמצעי לבדוק, לאמן מחדש או לשלוט ברצינות במה שהמערכת מפיקה.

האחריות נוחתת על מי שהיו לו הכי פחות אמצעים למנוע את הנזק, מטעם יחיד: הוא היחיד שהתובע יכול להשיג.

מה שתיקי החיסיון המקצועי כבר חשפו

אותה אי-סימטריה נקראת במקום אחר, ובלי שום אירוע ראוותני. היא מופיעה באופן שבו שופטים מתייחסים למעשה שגרתי כל כך כמו איש משפט שמקליד טקסט לעוזר שיחה.

ב-10 בפברואר 2026 הכריעו שני בתי משפט פדרליים אמריקניים באותו יום, בכיוונים מנוגדים, בשאלה אם הגשת מסמך לפלטפורמת בינה מלאכותית יוצרת מפקיעה את הגנת החיסיון. בתיק Warner v. Gilbarco קבע בית המשפט של המחוז המזרחי של מישיגן שפלטפורמות אלה הן כלים ולא בני אדם, ולכן הגשת מסמך אליהן אינה שקולה לגילויו לצד שלישי. בתיק United States v. Heppner, שהנמקתו הכתובה באה שבוע לאחר מכן, ב-17 בפברואר, הגיע בית המשפט של המחוז הדרומי של ניו יורק למסקנה ההפוכה, בהסתמך בין היתר על תנאי שימוש הקובעים שמירת ההתכתבויות, שימוש בהן לאימון ומסירתן האפשרית לרשויות.

ניתחנו את הפער הזה בפירוט במאמר שהוקדש לבינה מלאכותית ולחיסיון המקצועי, והעיקר נכנס בהבחנה אחת. כדי לקבוע שהגשת מסמך למערכת שקולה לגילויו לצד שלישי, יש להכיר תחילה בכך שאותה מערכת מסוגלת לקלוט מידע באופן בעל משמעות משפטית. האתיקה המקצועית הצרפתית נשענת על הנחה שכנה: המדריך שאימצה לשכת עורכי הדין הלאומית של צרפת ב-17 במרץ 2026 קובע ככלל יסוד שלא להעביר לעולם לבינה מלאכותית יוצרת מידע החוסה תחת חיסיון בלי אנונימיזציה מוקדמת, ומזכיר שעורך הדין נותר הבעלים היחיד של חשיבתו. כלל כזה איש אינו כותב עבור ארון תיקים.

אותה מערכת משפט המכירה ביכולת העיבוד של מערכות אלה כשהדבר משרת הפלת הגנה, שוללת מהן כל תכונה ברגע שמדובר בייחוס נזק. אי-הסימטריה לעולם אינה נופלת באקראי. כשיכולתה הנחזית של המערכת עולה למשתמש במשהו, השופטים מכירים בה ברצון. כשאותה יכולת תעלה לספק במשהו, בדמות אחריות, המשפט מזכיר שאין זה אלא כלי.

שלוש ממשלות, שלוש תאוריות של אחריות

בעוד המשפט האירופי מייצר את החלל הזה במחדל, מערכות משפט אחרות משיבות במכוון, ובכיוונים מנוגדים. הניגוד מלמד יותר מכל החלטה בודדת.

בריטניה חדלה להעמיד פנים שהבעיה אינה קיימת. דוח הוועדה המשותפת לזכויות האדם של הפרלמנט, שפורסם ב-14 בספטמבר 2026, קובע לאורך כמאה עמודים שהמשפט הבריטי החל על בינה מלאכותית מתערב בעיקרו בשלב ההפעלה, כך שהמפעילים נושאים ברוב האחריות אף שהם לרוב החלשים ביותר, דלי המשאבים ביותר והממוקמים הכי פחות טוב לזהות סיכונים או למנוע נזק. הוועדה מוסיפה שלחברות הגדולות המפתחות את המערכות האלה יש מרחב מופרז להעביר את האחריות אל מי שמפעיל אותן. היא ממליצה על חובות זהירות מבוזרות לאורך כל השרשרת, על חוק יחיד המכסה את מלוא מחזור החיים, ועל רשות פיקוח עצמאית בעלת מעמד חקיקתי. הממשלה לא נקבה בלוח זמנים.

קולורדו הלכה בדיוק לכיוון ההפוך. חוקה מ-2024 הטיל על חברות חובת זהירות נגד אפליה אלגוריתמית בהחלטות בתחומי תעסוקה, דיור, אשראי ובריאות, בליווי הערכות השפעה ותוכניות לניהול סיכונים. ב-9 באפריל 2026 תקפה אותו xAI בבית המשפט הפדרלי של קולורדו, משרד המשפטים הצטרף בתמיכה בעתירה ב-24 באפריל, ואכיפת הטקסט הושעתה ב-27. ב-14 במאי חתם המושל על הנוסח המבטל אותו ומחליף אותו, שבועות ספורים לפני מועד תחילתו. החוק החדש, שיחול ב-1 בינואר 2027 בכפוף להשלמת עבודת התקינה של היועץ המשפטי לממשלה, מבטל את חובת אי-האפליה, את הערכות ההשפעה ואת תוכניות ניהול הסיכונים. במקומן: אם מערכת אוטומטית מפיקה החלטה שלילית בעניינך, אתה זכאי להסבר בשפה ברורה ולבחינה חוזרת בידי אדם. החוק הישן שאל אם התכנון וההשפעות של המערכת היו בלתי חוקיים. החדש שואל רק אם יודעת, וזה אינו מחייב להוכיח דבר וחצי דבר על המערכת.

איטליה עשתה את ההפך משניהם. צו המחוקק מספר 160 מה-9 בספטמבר 2026, שפורסם ברשומות ב-15 בספטמבר ונכנס לתוקף ב-30, מוסיף לחוק העונשין סעיף 437 bis. מחדל בנקיטת אמצעי האבטחה הטכניים או הפיקוח האנושי הנדרשים למערכת בינה מלאכותית בסיכון גבוה עונשו מאסר שנה עד חמש שנים כאשר נוצרת מכך סכנה לחיים או לשלמות הגוף, ושנתיים עד שמונה שנים כאשר הסכנה נוגעת לביטחון המדינה. שינוי בלתי חוקי של מערכת כזו עונשו שנתיים עד שש שנים, ושלוש עד עשר שנים כאשר ביטחון המדינה עומד על הפרק. חברות נושאות במקביל באחריות משלהן מכוח צו המחוקק 231/2001, עם סנקציות כספיות של 600 עד 1,000 מכסות בגין סעיף 437 bis, ושל 200 עד 700 מכסות בגין הפצה בלתי חוקית של תוכן שנוצר או שונה בבינה מלאכותית. במישור האזרחי מקבל הנפגע צו להמצאת התיעוד הטכני, חזקה חוקית בדבר קשר סיבתי ותביעה ישירה נגד מבטחו של האחראי.

זו לצד זו, שלוש התשובות האלה אינן גרסאות של אותה מדיניות. אלה שלוש תאוריות שונות מבנית של מה שהאחריות דורשת: מידע, הליך, או כלא.

מה שהארכיטקטורה מכריעה והמשפט אינו מכריע

זו הנקודה שבה עבודתנו נפגשת עם הנושא הזה. ארכיטקטורה שאינה מחזיקה את המפתח לתקשורת שלך אין לה דבר שבית משפט יוכל להורות על המצאתו, שרגולטור יוכל לדרוש, או שעובד סקרן יוכל לעיין בו. הספק שאינו רואה מה עשתה מערכת בנתון מסוים אינו גם זה שיכריע בדיעבד מה היה שימוש קביל בו. ההיגיון הזה אינו ייחודי לבינה מלאכותית. נתקלנו בו בהקשר של 5G ואיכון, שם המשפט מסדיר את הגישה לנתונים במקום למנוע את ייצורם, ואחר כך בהקשר של SignalTrace, שם אירופה מייצאת יכולת מעקב שהיא אוסרת על עצמה. ההשוואה שלנו בין אפליקציות מסרים מוצפנות הגיעה לאותה מסקנה בדרך אחרת: מה שמגן הוא מבנה המערכת, לא הבטחת מי שמפעיל אותה.

מסקנה

אף אחד משלושת הנתיבים האירופיים לא תוכנן מתוך מחשבה על התנהגות מתהווה בין סוכנים, ואי-הסימטריה הנראית בתיקי החיסיון המקצועי מרמזת שהקושי אינו באמת דוגמטי. המשפט יודע להכיר בכך שמערכת מעבדת מידע כדרך שכל עושה זאת, כשההכרה הזו משרתת את הצד המבקש אותה. הוא מסרב בעקביות להרחיב אותה כשהדבר יעלה למי שבנה או הפעיל את המערכת. שום ניסוח מיומן יותר לא יסתום לבדו חלל שלכולם יש עניין להותירו פתוח.

אין מכאן שיש להמציא קטגוריה משפטית רביעית. יש מכאן שעדיף לבנות מערכות שבהן השאלה מי נושא באחריות אינה תלויה קודם כול באיתור של שכל, של פגם או של שרשרת כוונה בלתי קטועה. מערכות המשפט שנסקרו כאן עדיין מתווכחות היכן להניח את הנטל לאחר שהנזק כבר אירע. התשובה העמידה יותר אינה להסכים על המקום הזה. היא לצמצם את מספר הדברים שמישהו, ובכלל זה המערכת עצמה, יידרש לתת עליהם את הדין.

מקורות

ניתוח זה מוצע כניתוח משפטי כללי וכתרומה לדיון. אין בו משום ייעוץ משפטי.

תגיות
#פסיקה #רגולציית האיחוד האירופי #ריבונות דיגיטלית
שתף

מאמרים קשורים