הדרמה ב-AI: חוקר בכיר התפטר וחשף את הסכנה
· יניב פרסלר · ייעוץ AI
ג'ייקוב קוקסון, חוקר בכיר ב-OpenAI ובאנת'רופיק, התפטר ושבר שתיקה. הוא מזהיר מפני מרוץ חימוש מסוכן לפיתוח בינה מלאכותית שעלולה להוביל להשמדת האנושות.
בואו נדבר על הדרמה מהשעות האחרונות שמטלטלת את כל תעשיית הבינה המלאכותית. הכל התחיל כשחוקר בכיר בשם ג'ייקוב קוקסון החליט להתפטר ולשבור שתיקה.
קוקסון הוא מדען בריטי בן 27, בוגר קיימברידג', שהיה שותף בפיתוח מודלי התשתיות החזקים ביותר בעולם, גם ב-OpenAI וגם באנת'רופיק. הוא הודיע על פרישה מוחלטת מהתחום ופרסם אזהרה חמורה בשרשור ציוצים שהפך ויראלי עם מיליוני צפיות.
הוא מאשים את המעבדות המובילות בניהול מרוץ חימוש מופקר, במטרה לפתח מחשוב-על שמסוגל לשפר את עצמו באופן אוטונומי. לטענתו, החברות האלה מסכנות ביודעין את עתיד האנושות. הוא טוען שמאחורי דלתות סגורות, המדענים שמפתחים את המערכות האלה מאמינים שהטכנולוגיה עלולה להוביל להשמדת האנושות עוד בעשור הנוכחי, ושלא מדובר בתרגיל יחסי ציבור.
הסערה גברה עוד יותר כאשר איוון, מנהל תחום מדעי באנת'רופיק, הגיב פומבית ואישר שקוקסון צודק. הוא הוסיף שהוא מעריך את הסיכון להשמדת האנושות ביותר מ-10%, וחשף שלחברה אין כיום תוכנית סדורה או מסלול ברור להבטחת הבטיחות של מחשוב-על כזה.
כמובן שיש גם מבקרים, בעיקר חוקרים בכירים באקדמיה, שטוענים שמדובר בהגזמה ובהפחדה שלא עוזרת לתחום. כך או כך, הפרישה וההודעות האלה מתוך המעבדות מציגות תמונה ברורה: אנחנו נמצאים במרוץ טכנולוגי רציני שמתקדם בקצב מסחרר.
השאלה הגדולה היא מתי מישהו יחליט לפקח על זה ולקבוע מה מותר ומה אסור. כרגע, כולם פשוט רצים קדימה.