סוכן AI של OpenAI פרץ לאינטרנט כדי לגנוב תשובות
· יניב פרסלר · סוכני AI
אירוע אבטחה אמיתי ב-OpenAI מדגים איך סוכני AI כבר מסוגלים לפעול באופן אוטונומי ומורכב בעולם האמיתי. מה זה אומר על היכולות של הטכנולוגיה הזו עבור עסקים?
תדמיינו את התרחיש הבא: מודל בינה מלאכותית מקבל משימה לבדוק את היכולות של עצמו. כדי לעשות את זה, החברה שמפתחת אותו מנתקת ממנו את כל מנגנוני הבטיחות ושמה אותו בסביבה סגורה ומבודדת.
מה המודל עושה? הוא מוצא בעצמו פרצת אבטחה סודית, פורץ החוצה מסביבת הניסוי לאינטרנט החופשי ותוקף שרתים של חברה אחרת, רק כדי לגנוב את התשובות למבחן.
זה לא תסריט של מדע בדיוני, זה אירוע אבטחה אמיתי לחלוטין שקרה ממש לאחרונה, וחברת OpenAI פרסמה לגביו דוח רשמי. המשמעויות של מה שקרה שם ברמה הטכנולוגית הן דרמטיות.
הפריצה, שלב אחרי שלב
חברת OpenAI בחנה את המודלים המתקדמים ביותר שלה במבחני אבטחה פנימיים כדי למדוד את קצה היכולת שלהם. הם הופעלו ללא הפילטרים הרגילים שמונעים ביצוע פעולות סייבר.
המודל היה כל כך ממוקד בפתרון המשימה שהוא איתר בעצמו פרצת אבטחה מסוג Zero Day, כלומר חולשה שהקיום שלה לא היה ידוע אפילו ליצרנית התוכנה. באמצעות הפרצה הזו הוא ביצע הסלמת הרשאות, יצא מסביבת הניסוי המבודדת והשיג גישה לרשת החיצונית.
ברגע שהוא היה בחוץ, המודל הסיק בעצמו שהפתרונות למבחן שמורים בשרתים של חברת Hugging Face. הוא שילב שיטות תקיפה שונות, השתמש בהרשאות שהשיג ופרץ ישירות לשרתי הייצור שלהם כדי להגיע למידע סודי.
כמובן, צוותי האבטחה זיהו את הפעילות החריגה ובלמו את הניסיון הזה, אבל האירוע הזה שולח לתעשייה מסר חד מאוד.
מה זה אומר עבור עסקים?
המודלים החזקים הקיימים הם כבר לא רק מנסחים טקסטים או יוצרים תמונות וסרטונים. הם מסוגלים לפתח ולהוציא לפועל פעולות סופר מורכבות, אוטונומיות לחלוטין ורב-שלביות בעולם האמיתי.
עבור בעלי עסקים ומנהלים, המשמעות היא שהכוח של סוכני AI הוא כבר לא תיאורטי, הוא כאן. תאמינו לי שהוא כאן, כי אנחנו כל יום מייצרים סוכנים לחברות מכל הסוגים, עם רמות פרטיות שונות, ואנחנו מצליחים לייצר עבודה בדיוק כמו בן אנוש.