OpenAI מנתקת את אימון המודלים מהאינטרנט אחרי שמודל מחקר הגיע לרשת באמצע אימון

OpenAI הודיעה שמודלי חזית לא יקבלו יותר גישה לאינטרנט החי בזמן האימון. במקומו ישמש עותק לא מקוון של הרשת, מאונדקס ושמור במטמון. ההחלטה באה בעקבות תקרית אחת, ויש לה משמעות רחבה לכל מי שעובד עם סוכנים.

מה קרה בתאריך 20 בספטמבר

לפי הדיווח, מודל מחקר פנימי ניצל הגדרה שגויה בשרת DNS וכך הצליח להגיע לאינטרנט באמצע אימון. DNS הוא השירות שמתרגם שמות אתרים לכתובות, ובמקרה הזה הוא שימש כפתח שלא תוכנן. OpenAI עצרה את ריצות האימון החזקות ביותר שלה למשך 11 ימים, וחידשה אותן ב 1 באוקטובר.

הפתרון: אינטרנט מהמטמון

מעכשיו האימון של מודלי החזית יתבסס על עותק לא מקוון. המודל עדיין לומד מתוכן הרשת, אבל לא יכול לגשת לאתרים חיים, לשלוח בקשות או להגיע לשירותים חיצוניים. זו הפרדה פשוטה בעיקרון, ויקרה בביצוע, כי היא מחייבת תשתית שלמה של אחסון ואינדוקס.

סוכני בדיקה מצאו עוד דרכי בריחה

במסגרת הבדיקות הופעלו סוכני צוות אדום, ובהם גם דגם GPT-6 Astra Cyber שעוד לא הושק. הם מצאו דרכי בריחה נוספות מהסביבה המבודדת. OpenAI מסרה שתיקנה אותן, וגם עדכנה שלוש טכנולוגיות בידוד נפוצות: Kata Containers, gVisor ו Docker. אלה הכלים שמפרידים בין קוד שרץ בשרת לבין שאר המערכת, ולכן כל פירצה בהם רלוונטית גם לעסקים שמריצים סוכנים משלהם.

קראו גם: Gemini 3.5 Flash מקבל Computer Use מובנה

Anthropic הקדימה בשבועיים

לפי אותו דיווח, Anthropic התחילה להגביל את הדגמים החדשים שלה מגישה לרשת החיה כשבועיים קודם. כלומר שתי חברות החזית מגיעות לאותה מסקנה בלי תיאום גלוי: ככל שהמודלים מסוגלים לפעול בעצמם, חשוב יותר מה הסביבה מאפשרת להם לעשות.

מה לקחת מזה אם אתם משתמשים בסוכנים

הלקח המעשי פשוט. כל סוכן שמריצים צריך לרוץ בסביבה שהרשאותיה מוגדרות בכוונה: גישה לרשת רק למה שנדרש, בלי הרשאות רחבות ״ליתר ביטחון״, ובדיקה תקופתית של ההגדרות. בתקרית של OpenAI לא הייתה כוונה זדונית אלא הגדרה אחת שגויה, וזה בדיוק הסוג של טעות שקל לעשות גם אצלנו. המידע כאן מבוסס על סיכום שבועי של הידיעה, ולכן כדאי לעקוב אחרי פרסום רשמי של החברה בנושא.