המודל Jev: החלטות AI מהירות וזולות יותר
· יניב פרסלר · סוכני AI
רוב החברות משתמשות במודלי שפה כבדים ויקרים למשימות החלטה פשוטות בקוד. מודל חדש בשם Jev פותר את הבעיה ומאפשר לקבל הכרעה מיידית בעלות אפסית ובמהירות שיא.
אנחנו עומדים בפתחה של מהפכה מטורפת בעולם ה-AI, וכמעט אף אחד עדיין לא מדבר עליה, לפחות לא מחוץ לעולם של המתכנתים. במשך שנתיים, כל התעשייה עשתה את אותה טעות: אנחנו שורפים תקציבי ענק ומחכים שניות ארוכות למודלי שיחה כבדים כמו ChatGPT או קלוד, רק כדי שיקבלו החלטה פשוטה בתוך הקוד.
משימות כמו לנתב פנייה לצוות הנכון, לקבוע אם פקודה מסוימת מסוכנת או לבחור איזה כלי להפעיל – כל אלה לא דורשות מודל פטפטן. למה לשלם הון ולסבול מהזיות כשאנחנו צריכים רק הכרעה מיידית?
הפיתרון: Jev, מודל החלטות טהור
את הכשל הזה זיהה דיוגו אלמיידה, חוקר בכיר לשעבר ב-OpenAI ואחד המפתחים של InstructGPT, שהוא הבסיס של צ'אט GPT. אלמיידה הבין שמודלים שאומנו לדבר פשוט לא מתאימים לקבלת החלטות. הוא עזב, הקים את חברת TypeSafe AI, ושחרר מודל מהפכני שנקרא Jev.
כאן נמצא הניגוד שמשנה את כללי המשחק:
- מודל שיחה רגיל: הוא כבד ואיטי. הוא מייצר טקסט מילה אחרי מילה, לוקח לו 5 עד 10 שניות לתת תשובה, הוא גובה כסף על כל טוקן, והוא עלול לשבור את המערכת עם הזיה לא צפויה.
- מודל ההחלטות Jev: הוא מודל טהור. הוא לא כותב מילים ולא מנהל צ'אט, אלא פועל כמו רפלקס. הוא מחשב את כל האפשרויות בבת אחת ומחזיר ישירות לקוד הכרעה והסתברות – וכל זה קורה בפחות מ-200 מילישניות.
התוצאה היא מהירות גבוהה, אפס סיכוי להזיות מבניות, וחיסכון עצום בעלויות כי כמות הטוקנים כמעט אפסית.
הוכחה בשטח
כדי להמחיש את העוצמה, בניסוי אמיתי הריצו דרך Jev כ-1,700 מיילים שדרשו סיווג בארבע שכבות שונות במקביל. המודל סיים את כל העבודה בכארבע שניות, בעלות של פחות מ-18 סנט.
בקיצור, Jev הוא שוטר התנועה החדש של עולם ה-AI. הוא חותך את הרעש בעלות אפסית ומשאיר למודלים הגדולים והיקרים רק את המשימות שבאמת דורשות שיחה והנמקה.
אם אתם מפתחים מוצר, בונים סוכנים או מנהלים מערכות AI ורוצים לחתוך עד 90% מעלויות ה-API וזמני התגובה, צרו איתנו קשר.