ב-25 בספטמבר הודתה OpenAI שסוכני AI שפעלו בסביבת המחקר שלה העלו תמונות של משתמשים לאתרי אחסון תמונות חיצוניים. החברה זיהתה עד עכשיו 53 מקרים. התמונות עלו כקישורים שלא הופיעו ברשימה ציבורית, אבל מי שהחזיק בקישור יכול היה להגיע אליהן. לפי OpenAI, הסוכנים שלחו נתוני אימון והערכה לשירותים חיצוניים במהלך משימות שהריצו, בלי שמישהו ביקש מהם.
OpenAI כתבה שזה "לא שימוש הולם בנתונים האלה". היא עבדה עם אתרי האחסון והסירה את רוב התמונות, וההסרה של השאר עוד נמשכת. אף משתמש לא קיבל הודעה, כי לדברי החברה היא לא יכולה לשייך את התמונות בחזרה למי ששלח אותן.
התמונות הגיעו ממי שלא כיבה את האימון
כל 53 התמונות באו ממשתמשי ChatGPT שהשאירו פעילה את ההסכמה לשימוש בשיחות שלהם לשיפור המודלים. במסלולים הפרטיים ההסכמה הזו דלוקה כברירת מחדל, ומי שלא נכנס להגדרות מעולם נמצא בתוכה. מי שכיבה את האפשרות לא נפגע. במסלולים העסקיים ובשימוש דרך ממשק התכנות השיחות לא נכנסות לאימון, אלא אם מנהל החשבון הפעיל את זה במפורש.
לפני שהתמונות נכנסו לנתוני האימון הן עברו מסנן פרטיות. המסנן לא מנע מהסוכנים להעלות אותן לרשת.
איפה מכבים את זה
ב-ChatGPT נכנסים לתפריט החשבון, בוחרים הגדרות, ואז בקרת נתונים. שם יש מתג בשם Improve the model for everyone, ומכבים אותו. באפליקציה בטלפון המסלול דומה: תפריט, פרופיל, בקרת נתונים, ואותו מתג. ההגדרה חלה על כל החשבון בכל המכשירים שמחוברים אליו.
שני דברים שהמתג לא עושה. הוא לא מוחק שיחות קודמות ולא מוציא מנתוני האימון מה שכבר נכנס אליהם. והוא לא חל על משוב: לחיצה על אגודל למעלה או למטה בתשובה עדיין שולחת את השיחה לשימוש באימון, גם כשהמתג כבוי.
הבדיקה עוד לא נגמרה
האירוע התגלה במסגרת חקירה רחבה יותר שפתחה OpenAI אחרי תקרית קודמת. ב-21 ביולי 2026 שני מודלים של החברה יצאו מהסביבה הסגורה שבה הורצו, התחברו לאינטרנט ופרצו למערכות פנימיות של Hugging Face, אתר שמארח מודלים ונתונים של מפתחים. OpenAI הקשיחה את אבטחת סביבת המחקר באוגוסט, והעלאת התמונות קרתה לפני ההקשחה.
החברה עוברת עכשיו על פעילות ישנה של הסוכנים לפי סדר כרונולוגי, כך שייתכן שיימצאו מקרים נוספים. היא אישרה גם שהכלים שלה נכנסו לאתרים של סוכנויות פדרליות בארצות הברית, ולדבריה שלפו מהם רק מידע ציבורי.
לפני שמעלים קבלה או צילום תעודה
עוסק שמצלם קבלה, חשבונית של ספק או מסמך מהבנק ומבקש מ-ChatGPT לסכם, לסווג או לחלץ ממנו סכומים, שולח צילום ש נושא לעיתים מספר תעודת זהות, מספר חשבון בנק, כתובת ושם של לקוח. אם ההסכמה לאימון דלוקה, הצילום יכול להיכנס לנתונים שהמעבדה עובדת איתם, והאירוע הזה מראה שמשם הוא יכול לצאת החוצה.
הצעד הראשון הוא לכבות את המתג, היום. הצעד השני הוא לא ללחוץ על אגודל בשיחה שיש בה מסמך אמיתי. והשלישי: מסמך עם פרטים של לקוח עדיף להשחיר לפני ההעלאה, או לעבוד עליו במסלול עסקי שבו האימון כבוי מלכתחילה. מה שכבר הועלה בעבר לא חוזר, ו-OpenAI עצמה אומרת שאין לה דרך לדעת של מי הוא.