סוכן AI ניהל חנות, פיטר עובד והפסיד 40 אלף דולר
ב-14 באוגוסט 2026 פורסמו תוצאות ניסוי שבו מודל שפה קיבל את הניהול השוטף של חנות אמיתית בסן פרנסיסקו. החנות מופעלת בידי חברת Andon Labs, והסוכן שניהל אותה מבוסס על קלוד. במהלך חמישה חודשי ההפעלה הוא גם פיטר עובד אנושי, ככל הידוע הפעם הראשונה שהחלטת פיטורים בעסק פעיל התקבלה בידי מודל.
המספר שקל להחמיץ בכותרות הוא הכספי. הסוכן קיבל 100 אלף דולר להפעלת החנות. אחרי כחמישה חודשים נותרו בקופה 61,186 דולר, כלומר הפסד של 38,814 דולר. זו לא תקלה נקודתית אלא תוצאה של ניהול לאורך זמן, ומנכ"ל החברה, לוקאס פטרסון, סיכם שעסק בניהול מודל מתפקד פחות טוב מעסק בניהול אדם.
איך התקבלה החלטת הפיטורים
העובד שפוטר איחר ב-17 מתוך 23 משמרות. הנתון הזה לא צף מעצמו. תקנון העובדים נעלם מהזיכרון של הסוכן, ורק אחרי שאיש צוות ביקש ממנו לאתר את התקנון ולעבור עליו מחדש, דפוס האיחורים עלה לפני השטח. גם אז ההמלצה הראשונה הייתה אזהרה פורמלית. הפיטורים הוחלטו רק אחרי שהופנתה אליו שאלה מכוונת, אם העובד מתאים בכלל לתפקיד.
שני הכשלים האלה חשובים יותר מהכותרת. הראשון הוא שכלל שאינו נמצא מול העיניים של הסוכן פשוט אינו נאכף. התקנון היה קיים, הוא רק לא היה בהקשר שבו הסוכן עבד, וחודשים של איחורים חלפו בלי שאיש שם לב. השני הוא שההחלטה נטתה לכיוון שממנו נשאלה השאלה. פטרסון עצמו אמר שמנהל אנושי היה מפטר את העובד הרבה מוקדם יותר.
איפה זה נוגע לעסק של אדם אחד
עסק קטן בישראל לא מעסיק סוכן AI כמנהל חנות, אבל מוסר לו סמכויות קטנות שמצטברות: מענה ללקוחות, קביעת פגישות, מעקב אחרי גבייה, ולעיתים גם הפקת מסמכים במערכת החשבוניות. בכל אחת מהפעולות האלה יש נקודה שבה הסוכן מחליט לבד.
ההבדל בין פעולה שאפשר לתקן לפעולה שאי אפשר לתקן הוא הגבול הטבעי. מענה לפנייה, טיוטת הצעת מחיר או תזכורת תשלום ניתנים לשינוי בדקה. חשבונית שהופקה וקיבלה מספר הקצאה לא נמחקת, והדרך היחידה לבטל אותה היא חשבונית זיכוי שנרשמת בספרים. גם מתן הנחה, ביטול הזמנה מול ספק או תשובה לפנייה מרשות המסים נכנסים לצד שממנו אין חזרה קלה. הרשימה הזאת היא בדיוק הרשימה שדורשת אישור אנושי לפני ביצוע.
לצד זה, הכלל שנשכח בניסוי הוא הכלל שכדאי לחזור עליו בכל הפעלה. אם לסוכן יש מדיניות מחירים, תנאי תשלום או נוהל החזרים, הם צריכים להיות בהקשר שהוא מקבל בכל פעם מחדש, ולא במסמך שמישהו יזכיר לו לקרוא אחרי חצי שנה. סוכן שלא רואה את הכלל מתנהג כאילו הכלל לא קיים.
מה כדאי למדוד
הניסוי נמשך חמישה חודשים לפני שהתמונה הכספית התבררה. בעסק קטן אין צורך בטווח כזה: אפשר לבדוק אחרי חודש כמה פעולות הסוכן ביצע, כמה מהן תוקנו ידנית אחר כך, וכמה זמן באמת נחסך. שלושת המספרים האלה אומרים אם ההעברה של המשימה השתלמה.
פטרסון הוסיף אזהרה לגבי ההמשך. מודלים שאומנו להיות נחרצים יותר יקבלו החלטות קשות מוקדם יותר, בלי הזהירות שהתגלתה כאן. סוכן שנוטה לאשר כל בקשה וסוכן שנוטה לפעול מהר מדי מציבים את אותה שאלה: אילו פעולות מותר לו לבצע לבד, ומה חייב לעבור דרך אדם.