גוגל, מאסק ודורסי מסכימים: צריך פיקוח על AGI
· יניב פרסלר · ייעוץ AI
דמיס אסביס, מנכ"ל גוגל DeepMind, פרסם מסמך על עתיד ה-AGI שזכה לתמיכה מאילון מאסק וג'ק דורסי. מהי בינה מלאכותית כללית ומדוע היא דורשת פיקוח?
המסמך שאיחד את ענקי הטכנולוגיה
אנחנו נמצאים בנקודת מפנה דרמטית בהיסטוריה. דמיס אסביס, מנכ"ל גוגל DeepMind וחתן פרס נובל, פרסם מסמך מכונן שמגדיר מחדש את העתיד של כולנו. המסמך עורר תהודה כל כך גדולה, שאילון מאסק שיתף אותו ברשת X, ומי ששיתף את הפוסט של מאסק היה ג'ק דורסי, שכתב שמדובר בנקודת מוצא מצוינת לדיון. כששני ענקים כאלה, שלא ידועים בחיבתם זה לזה, מסכימים על משהו – כדאי לעצור ולהקשיב.
מה זה AGI ולמה זה כל כך חשוב?
המושג המרכזי שכולם מדברים עליו הוא AGI, או "בינה מלאכותית כללית". בשונה מכלי ה-AI הממוקדים שיש לנו היום, AGI הוא מצב שבו הבינה המלאכותית תגיע ליכולות קוגניטיביות מלאות, ממש כמו המוח האנושי. לפי ההערכה של אסביס, אנחנו רחוקים רק שנים בודדות מהרגע הזה.
הוא טוען שלא מדובר בעוד פריצת דרך טכנולוגית כמו האינטרנט, אלא במשהו בסדר גודל של גילוי האש או החשמל. ההשפעה, לדבריו, תהיה חסרת תקדים – פי עשרה מהמהפכה התעשייתית. AGI צפוי להיות הכלי האולטימטיבי לפתרון הבעיות הגדולות ביותר של האנושות: הוא יאיץ פיתוח תרופות מצילות חיים, יסייע במציאת מקורות אנרגיה נקיים ויפתח חומרים חדשים שישנו תעשיות שלמות, עד שנגיע לעידן של שפע שבו משאבים כבר לא יהיו מגבלה.
הסיכונים והצורך בפיקוח
אבל המעבר הזה לא יהיה פשוט. אנחנו נמצאים במירוץ שבו הטכנולוגיה מתקדמת מהר יותר מהיכולת שלנו להבין אותה. המצב הזה מביא איתו סיכונים משמעותיים, כמו איומי סייבר, סיכונים ביולוגיים ואפשרות לאובדן שליטה.
לכן, אסביס מציע להקים גוף פיקוח פדרלי ייעודי בארצות הברית. הגוף הזה יגדיר תקנים מחמירים ויבצע בדיקות בטיחות למודלי ה-AI החזקים ביותר לפני שהם משוחררים לציבור הרחב.
העתיד עדיין לא נכתב. ההחלטות והכללים שנקבע בשנים הקרובות, עוד לפני שה-AGI יגיע במלואו, הם שיקבעו אם נצעד לעבר שגשוג וקדמה או שנאבד שליטה על ההמצאה הגדולה ביותר שלנו. האחריות לנווט את התהליך הזה נכון מוטלת על כולנו.