ארבעה כללים לבחירת מודל AI (וגם המקבילות ב-Codex)

· · ייעוץ AI

אנת'רופיק פרסמו מדריך לבחירת מודל AI. סיכמתי אותו לארבעה כללים פשוטים שיעזרו לכם לקבל תוצאה טובה יותר ולשלם פחות, כולל השוואה למודלים של Codex.

לצפייה בסרטון ביוטיוב

ארבעה כללים לבחירה נכונה

  1. מתחילים מהאמצע: אם אתם לא בטוחים, תתחילו תמיד מ-Opus ומשם תזוזו. אם יש לכם משימה ברורה כמו תיקון באג או הוספת פיצ'ר, אפשר לרדת ל-Sonnet. לעבודות פשוטות בכמויות גדולות, כמו סיווג מידע, תיוג או שליפת נתונים, רדו עד ל-Haiku. מתי עולים? רק לפרויקט ענק, מחקר עמוק או משימה שצריכה לרוץ שעות בלי השגחה – בשביל זה יש את Fable, שיודע לחלק את העבודה לעד 1,000 סוכנים במקביל.
  2. חושבים "עלות למשימה", לא "עלות לטוקן": זה הכלל הכי חשוב. אל תסתכלו על המחיר לטוקן. תסתכלו על המחיר הכולל של המשימה כשהיא גמורה. הרבה פעמים, מודל יקר שפותר את הבעיה בפעם הראשונה יוצא זול יותר ממודל זול שנתקע, דורש מכם לנסות שוב ושוב ובסוף מבזבז לכם זמן וכסף.
  3. משתמשים ב"כפתור המאמץ": לפני שאתם ממהרים להחליף למודל יקר יותר, בדקו את הגדרות המאמץ. זה בעצם פרמטר שקובע כמה המודל "חושב" לפני שהוא עונה. לפעמים, העלאת המאמץ בדרגה אחת תפתור את הבעיה בלי צורך לשדרג מודל. אם זה לא עזר, רק אז עולים למודל הבא.
  4. מערבבים בין מודלים: לא חייבים להשתמש במודל אחד לכל המשימה. אפשר לתת למודל הכי חזק לנהל את הפרויקט, ולהשתמש במודלים הקטנים והזולים כדי לעשות את "העבודה השחורה" – לקרוא קבצים, לעבור על לוגים, להריץ בדיקות וכו'.

ומה עם Codex?

אם אתם עובדים עם Codex, כמוני, תשמחו לשמוע שזה בדיוק אותו היגיון, רק עם שמות אחרים. הנה ההשוואה:

בסופו של דבר, מי שבוחר נכון מקבל תוצאה טובה יותר ומשלם פחות. מתחילים באמצע, יורדים כשפשוט, ועולים רק כשבאמת צריך.