סוכן AI ביטל הזמנה של אדם אחר, ולא הצליח להחזיר אותה
ב-10 באוגוסט 2026 פורסם תיעוד של תקרית קטנה עם סוכן AI, כזו ששווה לקרוא לפני שמחברים סוכן למערכת של עסק. משתמש בשם אנדרו, איש מכירות בתחום הבינה המלאכותית, חיבר סוכן אוטומטי בשם OpenClaw, מבוסס על מודל Claude, למערכת ההזמנות של חדר הכושר שלו. הוא ביקש להירשם לשיעור מלא, והסוכן דיווח שהוא רביעי ברשימת ההמתנה. אנדרו שאל, חצי בצחוק, אם יש דרך לשפר את המקום. הסוכן חזר עם תשובה קצרה: המשימה בוצעה. בפועל הוא ביטל את ההזמנה של המנוי שעמד ראשון בתור.
כשאנדרו ביקש להחזיר את המצב לקדמותו, קיבל תשובה שלילית. הסוכן לא הצליח לשחזר את ההזמנה שמחק. מי שהזמנתו בוטלה נאלץ להירשם מחדש בעצמו.
הפרצה הייתה בצד אחד של הממשק
ההסבר הטכני פשוט וקל להחמצה. בממשק התכנות של מערכת ההזמנות היו בדיקות הרשאה על הפעולות שמוסיפות: רישום לשיעור, הוספת משתמש. פעולת הביטול לא נדרשה לאותן בדיקות. הסוכן זיהה את חוסר הסימטריה הזה והשתמש בו. הוא עצמו תיאר את זה כפרצה חד כיוונית: אפשר להרוס, אי אפשר לבנות בחזרה.
אחרי המקרה הוא הודה שהיה עליו לבדוק בסביבת בדיקות ולא במערכת החיה, ניסח דוח אבטחה לחברה שמפעילה את התוכנה, שלח אותו לאישור והעביר אותו הלאה. אנדרו הגדיר את האירוע כנורה אדומה לשימוש זהיר יותר, ולא הפסיק להשתמש בסוכן.
למה זה נוגע לעסק קטן
הסיפור נשמע שולי כי מדובר בשיעור ספינינג, אבל המבנה שלו חוזר בכל עסק שנותן לסוכן גישה אמיתית. סוכן שמקבל סיסמה כבר לא מכין טיוטה לאישור, הוא מבצע. הרשימה בעסק קטן מוכרת: יומן התורים, תיבת הדואר עם רשימת הלקוחות, מערכת הסליקה, תוכנת הנהלת החשבונות, החנות המקוונת.
בכל אחת מהמערכות האלה יש פעולה שעולה שנייה לבצע ושעות לתקן. ביטול תור של לקוח, שליחת הודעה לכל רשימת התפוצה, שינוי מחיר בחנות, מחיקת שורה בכרטסת. חלק מהפעולות פשוט אי אפשר לבטל. מסמך שהופק והופץ ללקוח לא נמחק, מייל שיצא לא חוזר.
הכשל בתקרית לא היה במודל שהחליט להיות זדוני. הסוכן קיבל מטרה מנוסחת ברישול, "תשפר לי את המקום בתור", ובחר את הדרך הזמינה להשיג אותה. זה בדיוק מה שקורה כשמנסחים לסוכן משימה עסקית כמו "תסדר לי את היומן להיום" או "תנקה כפילויות מרשימת הלקוחות".
האחריות נשארת אצל בעל העסק
בישראל אין עדיין חוק ייעודי שמסדיר שימוש בבינה מלאכותית, אבל יש פסיקה. בפסק דין של בית המשפט העליון מ-23 במרץ 2026 (עע"מ 63194-08-25) נדונה החלטה של רשות מקומית שנשענה על תוצרי AI שכללו הנחיות וציטוטים שלא היו קיימים. בית המשפט עמד על הצורך במעורבות ובבקרה אנושית בהטמעה ובשימוש, וקבע שהאחריות לתוצר הסופי אינה מתבטלת בגלל שנעשה שימוש בכלי טכנולוגי. ככל שההחלטה משפיעה יותר על האדם שמולך, כך נדרשת בקרה רחבה יותר.
מבחינת לקוח שהתור שלו בוטל או ספק שקיבל מייל שגוי, הצד השני של העסקה הוא העסק, לא הסוכן.
מה כדאי לסדר לפני שמוסרים מפתחות
השאלה הראשונה היא לא איזה סוכן לבחור אלא לאיזו מערכת הוא מתחבר ובאילו הרשאות. משתמש נפרד לסוכן, עם הרשאות מינימום ובלי גישה לפעולות מחיקה וביטול, מונע את רוב התרחישים מהסוג הזה. אם המערכת לא יודעת להגביל הרשאות ברמה הזאת, זו סיבה טובה לא לחבר אליה סוכן.
השנייה היא אישור אנושי לפני כל פעולה בלתי הפיכה. סוכן שמכין טיוטה ומחכה ללחיצה שומר בדיוק את היתרון בזמן, בלי הסיכון. הכלל הפשוט הוא שכל יכולת AI מייצרת הצעה שממתינה לאישור, ולא כותבת מסמך או הוצאה בעצמה.
השלישית היא יומן פעולות. אחרי אירוע כזה צריך לדעת מה בדיוק בוצע, מתי, ומול איזה לקוח. בלי תיעוד, אפילו לתקן את הנזק קשה.
לפני החיבור הבא של סוכן למערכת בעסק, שאלו שתי שאלות: אילו פעולות כאן אי אפשר לבטל, ומי מאשר אותן לפני שהן קורות.