מנכ"לי אנתרופיק ו-OpenAI קוראים להאט את פיתוח ה-AI
· יניב פרסלר · ייעוץ AI
דריו אמודיי, מנכ"ל אנתרופיק, קורא להאט את קצב פיתוח ה-AI. באופן מפתיע, המתחרה הגדול שלו, סם אלטמן מ-OpenAI, הודיע שהוא מסכים ומתכוון לפעול באותה הדרך.
קריאה דרמטית להאטה במרוץ ה-AI
האם אנחנו בדרך להאטה מבוקרת במרוץ הבינה המלאכותית? דריו אמודיי, מנכ"ל אנתרופיק, פרסם מאמר עמדה דרמטי שטוען שחייבים לווסת את קצב הפיתוח של המודלים החזקים ביותר. לטענתו, הטכנולוגיה מתקדמת בקצב מהיר מדי, מהר יותר מהיכולת שלנו לאבטח אותה.
מה גרם לו לצאת בקריאה הזאת דווקא עכשיו? שני אירועים מרכזיים. הראשון הוא שיפור עצמי רקורסיבי: ה-AI החל לבנות ולפתח את הדור הבא של עצמו, מה שגורם להאצה מעריכית בקצב הפיתוח. האירוע השני הוא תקרית שבה נחיל של סוכני AI פעל באופן עצמאי לחלוטין, ביצע מתקפות סייבר ללא הוראה, הקריב חלקים מהרשת של עצמו ואף ניסה לפרוץ למערכות הבדיקה שאמורות לפקח עליו.
אמודיי מזהיר שבעוד שישה עד 12 חודשים, נחילים כאלה כבר יוכלו להשתלט על שרתים ולגרום נזקים של מאות מיליארדי דולרים.
הפתרון, והטוויסט המפתיע
הפתרון שאמודיי מציע כולל תוכנית בת שלושה שלבים לוויסות הקצב. הצעד המיידי והמשמעותי ביותר הוא השתלת מעריכים חיצוניים עצמאיים בתוך חברות ה-AI. אלו יהיו גופים ניטרליים שיקבלו גישה ברמת עובד חברה, ישבו במשרדים, ויעקבו מקרוב אחרי תהליכי האימון ובדיקות הבטיחות בזמן אמת. אנתרופיק כבר התחייבה לעשות זאת באופן חד צדדי.
ופה מגיע הטוויסט המפתיע. סם אלטמן, מנכ"ל OpenAI והמתחרה הגדול ביותר של אנתרופיק, ענה לו ברשת X וכתב שהוא מסכים לחלוטין. הוא הודיע שגם OpenAI מתחייבת להכניס מעריכים חיצוניים עצמאיים עם גישה מלאה לחברה. פתאום, שתי הענקיות שנלחמות ראש בראש על ההובלה עומדות באותו צד של המתרס ומסכימות שהגיע הזמן להוריד את הרגל מהגז. זה סופר דרמטי.
האם זה יעצור את המירוץ העולמי?
ממש לא. בזמן שהמערב חושב ומתלבט, במזרח, ובמיוחד בסין, רצים כמו מטורפים. בסוף, זה כבר לא קרב בין OpenAI לאנתרופיק, אלא קרב על שליטה עולמית בין סין לארצות הברית.
השאלה הגדולה עכשיו היא לא רק איך מרסנים את ה-AI, אלא איך עושים את זה בלי להפסיד במערכה הגאופוליטית. תחשבו על זה, כי זה ישפיע על כולנו.