המודל החדש שמשגע את הרשת

השבוע אי אפשר היה לחמוק מהדיון סביב JEV מודל שפה חדש שלא מנסה לכתוב טוב יותר, אלא מודל שנבנה כדי לקבל החלטות מהר יותר. במקום ליצור טקסט, המודל החדש מחזיר, ציונים, הסתברויות ורמות ביטחון בסיווג שהוגדרו לו מראש על מידע בלתי מובנה. מהירות ההחלטות והתפיסה השונה סביב JEV מעוררת עניין רב בקרב מפתחים, אנשי מוצר ומנהלים שעוסקים ב-AI כי הוא מציג לראשונה תפיסה שונה במשימות סיווג בסיוע מודלי AI.

מאחורי Jev עומדת TypeSafe AI, שהוקמה על ידי Diogo Almeida, לשעבר חוקר ב OpenAI. הצוות פיתח ארכיטקטורה חדשה לקבלת החלטות מובנות, לצד מנגנון דגימה מקביל ושיטת האימון RLCD ‏(Reinforcement Learning for Calibrated Decisions) שיטת אימון ייחודית של TypeSafe שנועדה ללמד את המודל לא רק לבחור תשובה, אלא גם להחזיר הסתברות ורמת ביטחון שמייצגות בצורה אמינה עד כמה ההחלטה של המודל נכונה.

זהו המודל הציבורי הראשון של TypeSafe במסגרת קטגוריה שהחברה מכנה System One Models - מודלים שהם מגדירים כמודלים המיועדים לקבל החלטות מהירות, מובנות וחוזרות.

השם JEV דרך אגב הוא לא ראשי תיבות כפי שנוטים לחשוב אלא נגזר משמו של הכלכלן האנגלי בן המאה ה-19 ויליאם סטנלי ג'בונס (פרדוקס ג'בונס) אשר התפרסם בעקבות הרעיון שהוא פרסם לפיו שיפור ביעילות של משאב מסויים לא בהכרח מפחית את הצריכה שלו, אלא דווקא עשוי להגדיל אותה. כשהשימוש נעשה זול, מהיר ונגיש יותר, אנשים ועסקים מוצאים לו יותר שימושים, ולכן הביקוש הכולל גדל.

כמו במקרים קודמים גם ל JEV קדמו יוזמות שניסו (ואפילו הצליחו) ליצור מודלים דומים. אחד המפורסמים שבהם הוא Nandakishor M, חוקר ומפתח המזוהה כיום עם Convai Innovations אשר כבר במרץ 2025 פרסם עבודה בשם SalesRLAgent: A Reinforcement Learning Approach for Real-Time Sales Conversion Prediction and Optimization.

המאמר שפורסם ב-30 במרץ 2025 ב-arXiv, הציג מעבר ממודל שמייצר טקסט למערכת שמחזירה הסתברות להמרת מכירה בזמן אמת באמצעות Reinforcement Learning. בספטמבר של אותה שנה הוא פרסם עבודה נוספת בשם Confidence-Aware Routing for Large Language Model Reliability Enhancement: A Multi-Signal Approach to Pre-Generation Hallucination Mitigation אשר הציעה לבצע החלטת routing לפני יצירת התשובה, על בסיס רמת ביטחון, ולבחור בהתאם בין מודל מקומי, RAG, מודל חזק יותר או בדיקה אנושית. זו כבר הייתה תפיסה קרובה יותר לרעיון של שכבת החלטה עצמאית בתוך מערכת בינה מלאכותית, אולי הסבא רבה של JEV.

לא עוד מודל שמנסה לכתוב טוב יותר

המודל החדש נבנה למטרה שונה מזו של מודלי שפה כמו ChatGPT, Claude או Gemini. במקום ליצור טקסט שמסביר, כותב או מנהל שיחה, המודל נועד לקבל מידע על מצב מסוים ולהחזיר החלטה מובנית, הסתברות ורמת ביטחון. התוצאה היא מודל שמבצע החלטות קצרות וממוקדות בצורה מהירה מאד, במקום להשתמש במודל שפה גדול לכל משימה של סיווג מידע.

לדוגמא אם אתם נדרשים לסווג פניה של לקוח ולהבין האם היא קשורה לחיוב, לבעיה טכנית או למכירה, JEV לא אמור לכתוב פסקה שמסבירה את הניתוח שלו - "הפנייה ככל הנראה עוסקת בחיוב כפול ולכן כדאי להעביר אותה למחלקת Billing." אלא הוא יחזיר משהו שנאה כך:
Billing: 87%
Technical: 9%
Sales: 4%

ההבדל בתוצר של המודל משמעותית. כאשר משלבים את JEV במערכות תוכנה, אוטומציות או סוכני AI , אותן מערכות לא נדרשות לפרש טקסט, לחלץ ממנו תשובה או לבדוק אם המודל שמר על פורמט. המערכת מקבלת בחירה מתוך אפשרויות ידועות מראש, יחד עם רמת ביטחון שאפשר להשתמש בה כחלק מהלוגיקה העסקית בצורה מיידית.

כך מערכות יכולות לקבל החלטות מהירות בזמן אמת, לדוגמה לאן לנתב פנייה, האם מסמך מסוים רלוונטי, איזה כלי להפעיל, האם פעולה מסוימת מסוכנת, והאם להמשיך לשלב הבא או להעביר את המקרה לבן אדם. זו תפיסה שמאפשרת להפריד בין חשיבה, יצירת תוכן וקבלת החלטות מבלי לעשות שימוש במודלי שפה גדולים בכל פעולה.

לצורך ההפעלה של JEV יש להעביר לו את הפרמטרים הבאים:

פרמטר ראשון: State - כלומר מידע לא מובנה שמתאר את המצב שעליו צריך לקבל החלטה, למשל טקסט של פנייה, מסמך, נתוני מערכת או הקשר מתוך אפליקציה.

פרמטר שני: מעל אותו State מגדירים למודל את סוג ההחלטה מבוקשת, כאשר קיימות 3 אפשרויות (Decision Primitives) מרכזיות

• האפשרות הראשונה Noul - שאלת כן/לא שמחזירה הסתברות לכל אפשרות, למשל האם להעביר את הפנייה לאדם כן או לא ובאיזו הסתברות מ 0.1 ל 0.9
• אפשרות שניה Choice - בחירה מתוך מספר אפשרויות שהוגדרו מראש, למשל לאיזה Agent לנתב משימה (זו רשימה סגורה של אפשרויות ש JEV יכול לבחור רק מתוך אותה רשימה)
• אפשרות שלישית Score - דירוג על גבי סולם מוגדר, למשל מה רמת הסיכון של פעולה מסוימת. הפלט אינו טקסט חופשי, אלא החלטה מובנית יחד עם התפלגות הסתברויות או ציון ביטחון, שאותם ניתן להעביר ישירות ללוגיקה של המערכת ולקבוע לפיהם מה יקרה בשלב הבא.

למה להשתמש במודל החלטה במקום במודל שפה גדול

זו אולי השאלה החשובה ביותר.

מודלי שפה גדולים הם גמישים במיוחד. זו אחת הסיבות שהם הפכו לכלי מרכזי בעולם ה AI. הם יכולים לכתוב, להסביר, לתכנן, לקודד ולפתור בעיות מסוגים שונים. אבל אותה גמישות הופכת לעיתים לחיסרון כאשר המשימה צרה ומוגדרת.

הם בהחלט גם מסוגלים לסווג, לנתב, לתת ציון או לבחור כלי. אבל העובדה שהם מסוגלים לבצע משימה אינה אומרת שהם תמיד הכלי המתאים ביותר לביצועה.

נניח שסוכן AI צריך לבחור בין ארבע אפשרויות: חיפוש באינטרנט, חיפוש בקבצים, הרצת קוד או שליחת אימייל. מודל שפה גדול בהחלט מסוגל לקבל את ההחלטה. אלא שהוא משתמש במערכת גנרטיבית שלמה כדי לבצע פעולה שמבחינת התוכנה היא "if" חכם. השימוש ב JEV מאפשר לצמצם את מרחב הטעות - אם ידוע מראש אילו תשובות אפשריות, המודל צריך לבחור ביניהן ולהחזיר רמת ביטחון. ב TypeSafe מתארים זאת כמעבר מיצירת טקסט להחלטות probabilistic מובנות.

כאשר עושים שימוש ב JEV כחלק ממערכת של סוכני AI המשמעות גדולה יותר, החלק המעניין עובר מהמודל עצמו לארכיטקטורה שהוא מציע. סוכני AI רבים משתמשים כיום באותו מודל כמעט לכל שלב: הבנת הבקשה, בחירת כלי העבודה, ניתוח המידע, החלטה לגבי ההמשך וניסוח התשובה.

גישה יעילה יותר מחלקת את העבודה למספר שכבות.

• מודל החלטה קובע מה צריך לקרות.
• מודל reasoning מטפל בבעיה המורכבת.
• מודל גנרטיבי יוצר טקסט, קוד או תוכן.
• תוכנה דטרמיניסטית מבצעת את הפעולה שאושרה.

כך אפשר לשמור מודלים גדולים ויקרים למשימות שבאמת דורשות חשיבה או יצירה. מכאן מגיעה ההבחנה המרכזית של TypeSafe: מודלי שפה מייצרים, מודלי החלטה בוחרים.

תוצאת ה Confidence הרבה יותר משמעותית משנדמה.

אחד המרכיבים החשובים בגישה של JEV היא השימוש בהסתברויות וברמות ביטחון.
כאשר המודל מסווג מסמך הוא יחזיר את התשובה שלו כך:
Invoice: 97% - Contract: 2% - Other: 1%

כאשר התוצאה מובהקת כמו בדוגמה הנ"ל אפשר לאשר עיבוד אוטומטי.
אבל אם התוצאה אינה מובהקת כמו ברצף הבא:
Invoice: 43% - Contract: 39% - Other: 18%
כנראה שנדרש שלב נוסף או טיפול אנושי

כך ניתן לבנות מנוע או מדיניות שמגדירה ש:

• אם רמת הביטחון גבוה ניתן להפעיל פעולה אוטומטית.
• אם רמת הביטחון בינונית יש להעביר את המשימה למודל חזק יותר.
• אם רמת הביטחון נמוכה יש להעביר את התוצאה לבדיקה אנושית.

כאשר רוצים לבנות תהליך עם אוטומציית AI בלי לוותר על הבקרות, זו נקודה מהותית.

האם JEV הוא הפתרון לכל בעיות ההזיה "Hallucinations"?

התשובה הקצרה היא לא, אבל הוא בהחלט יכול לעזור.

כפי שניתן להבין JEV אינו יכול להחזיר תוצאה שאינה חלק מסכמת הפלט שהוגדר לו מראש. אם האפשרויות הן Billing, Technical ו-Sales, המודל לא ימציא קטגוריה רביעית ולא יחזיר טקסט בלתי צפוי. זה פותר את הבעיה של יצירת תוכן שלא היה קיים - מה שכולנו כבר מכירים כמה שנים כבעיית ההזיות של מודלי שפה. אבל אין פירוש הדבר שהמודל אינו יכול לטעות.

מתוך סט האפשרויות הוא עדיין יכול לבחור Billing כאשר התשובה הנכונה הייתה Technical. לכן ההגדרה המדויקת יותר היא ש JEV יכול למנוע תשובות שאינן תואמות למבנה שהוגדר, אבל הוא אינו מבטיח שכל החלטה בתוך אותו מבנה תהיה נכונה. וזו הבחנה חשובה במיוחד באוטומציות עם השלכות כספיות, משפטיות או תפעוליות. ולכן JEV מסייע בצמצום ההזיות אבל הוא אינו מחליף בדיקות, משילות או בקרת סיכונים.

מהם היתרונות המרכזיים של JEV?

אז בוא נסכם את היתרונות של JEV מתוך כל מה שכתבתי עד כה.

היתרון הראשון והברור של של JEV הוא התאמה טובה יותר למשימות שהן במהותן החלטות ולא יצירת תוכן.

היתרון השני הוא פלט מובנה - כך האפשרויות והמבנה של הפלט מוגדרים מראש. המודל אינו מחזיר מבנה שונה מזה שמוגדר לו לספק כך למערות דטרמיניסטיות כמו קוד הרבה יותר קל להתמודד עם התוצאה של המודל. זה חשוב במיוחד במערכות אוטומציה.

היתרון השלישי הוא שימוש מובנה בהסתברות וב-Confidence. במקום לקבל רק תשובה, המערכת מקבלת גם אינדיקציה עד כמה המודל בטוח בהחלטה. הדבר מאפשר לבנות תהליך שבו החלטות ברמת ביטחון גבוהה מבוצעות אוטומטית, החלטות פחות ברורות נשלחות למודל חזק יותר, ומקרים חריגים מועברים לבדיקה אנושית.

היתרון הרביעי והמשמעותי הוא מהירות ועלות - משתמשים מדווחים על זמני תגובה של כ-70 עד 500 מילישניות במשימות סיווג, ועל מחיר של 0.042 דולר למיליון input tokens שזה במקרים רבים עשירית מהעלות של המודלים המובילים כיום. החברה גם מדווחת על שיפורי מהירות משמעותיים לעומת מודלי Frontier בחלק מתרחישי ההחלטה שנבדקו.

מתי נכון להתמקד ב-JEV ומתי JEV אינו מתאים?

כדי להחליט מתי להשתמש ב JEV אפשר להשתמש ב-3 קריטריונים פשוטים.

• הראשון הוא האם האפשרויות הזמינות ידועות מראש? אם המשימה היא לבחור אחת מתוך מספר אפשרויות מוגדרות, JEV יכול להתאים.
• הקריטריון השני הוא האם אותה החלטה מתבצעת שוב ושוב? אם מדובר בהחלטה שחוזרת אלפי או מיליוני פעמים בתוך workflow, שיפור במהירות ובעלות יכול להיות משמעותי.
• הקריטריון השלישי הוא האם ניתן להשתמש ברמת הביטחון כחלק מהפעולה? אם ה ניתן להגדיר חוקיות שמעל 95 אחוז ביטחון הפעולה תתבצע אוטומטית, בין 70 ל-95 אחוז היא תעבור למודל מתקדם יותר, ומתחת לכך יועבר לאדם, הערך של JEV גדל משמעותית.

מתי לא רצוי או לא ניתן להשתמש ב JEV:

• אם המשימה היא לכתוב מייל, לנסח מסמך, ליצור אסטרטגיה, להסביר נושא מורכב, לכתוב קוד או לנהל שיחה פתוחה? JEV אינו מתאים למשימה.
• אם המשימה מיועד לפתור בעיות שדורשות reasoning מורכב ורב שלבי ? לכן JEV צריך להיתפס כשכבה ייעודית, לא כתחליף לכל מערך ה-AI.

דוגמאות לשימוש "קונבנציונאלי" ב JEV

1 ניתוב פניות בין צוותים ומערכות
שימוש ב JEV יכול לסייע להחליט לאיזה צוות, מערכת או Agent להעביר פנייה, למשל Billing, Support או Sales, על בסיס אפשרויות שהוגדרו מראש.

2 בחירת כלי בתוך AI Agent
המודל יכול לבחור אם הסוכן צריך לבצע חיפוש באינטרנט, לבדוק קובץ, להפעיל API, להריץ קוד או להימנע מפעולה.

3 סיווג ותיוג מסמכים
השימוש ב JEV מתאים לסיווג מסמכים לקטגוריות ידועות מראש, למשל חשבונית, חוזה, הצעת מחיר או סוג מסמך אחר.

4 דירוג ו-Scoring
אפשר להשתמש ב JEV כדי לדרג לידים, בקשות, מסמכים, סיכונים או רשומות אחרות לפי קריטריונים וסולם שהוגדרו מראש.

סיווג סיכונים ואישור פעולות
5 ניתן להשתמש ב JEV לבדוק האם פעולה מסוימת בטוחה לביצוע אוטומטי או האם היא מחייבת אישור אנושי לפני שממשיכים לשלב הבא.

6 שליטה בתהליכי Workflow
המודל יכול להחליט אם להמשיך לשלב הבא בתהליך, לנסות פעולה מחדש, לעצור את התהליך או להסלים אותו לבדיקה אנושית.

7 בדיקות איכות ואימות תוצאות
שימוש נוסך ב JEV היא היכולת לבדוק האם תוצאה עומדת בתנאי איכות או בסף שהוגדר מראש, ורק לאחר מכן לאפשר לתהליך להמשיך.

8 אימות מידע שחולץ ממסמכים
בתרחיש היברידי, LLM מחלץ מידע כמו סכום, תאריך או שם ספק, ו-JEV משמש כשכבת אימות שבודקת אם הערך נראה תקין ביחס למקור.

9 שכבת החלטה בתוך AI Agents
במקום להשתמש באותו LLM לכל משימה, JEV יכול לשמש כשכבת החלטה שמטפלת בניתוב, סיווג, scoring ו-gating, בעוד שמודלים אחרים מטפלים ב-reasoning וביצירה.

זה רק היה עניין של זמן עד שהמודלים הפתוחים יגיעו

זוכרים את Nandakishor מתחילת הפוסט? שלושה ימים בלבד לאחר ההשקה של JEV, ב-18 בספטמבר 2026, הוא השיק את Laya, מודל החלטה פתוח שפורסם יחד עם המשקלים שלו תחת רישיון Apache 2.0.

המאגר הציבורי של Laya עלה לאוויר באותו יום, והמודל מבוסס כיום על מודלים דו-כיווניים קטנים יחסית שמחזירים החלטות מובנות והסתברויות. בניגוד ל-JEV, שמוצע כ-API סגור ללא משקלים זמינים להורדה, את Laya ניתן להוריד, להריץ מקומית ולשלב במערכות עצמאיות. לפרויקט יש עמוד ייעודי ב-laya.tools ואתר Laya Studio וגם מאגר פתוח ב-GitHub. מכאן התחיל גל מהיר של אלטרנטיבות. לצד Laya הופיעו גם Kev, Nimble ו-Julia, ובהמשך הצטרפו שחקנים גדולים יותר עם פתרונות משלהם, בהם Clef של Cloudflare, ו-Strands Decider של אמזון לצד Decisions API של OpenAI.

לסיכום

המודל JEV של TypeSafe AI הוא מודל החלטה חדש שנבנה לסיווג, ניתוב וקבלת החלטות מהירות במקום ליצירת טקסט חופשי. המודל מחזיר תשובות מובנות, הסתברויות ורמות ביטחון, ולכן מתאים במיוחד לשילוב באוטומציות, מערכות תוכנה וסוכני AI. היתרונות המרכזיים שלו הם מהירות, עלות נמוכה, פלט מובנה וצמצום סיכון לתשובות שאינן תואמות למבנה שהוגדר לו מראש. הוא מתאים במיוחד למשימות חוזרות שבהן סט האפשרויות ידוע מראש וניתן להשתמש ברמת הביטחון שהוא מספק לצורך קבלת החלטה על ידי בני אדם או סוכני AI. הוא אינו מחליף מודלי שפה גדולים, אלא מציע שכבת החלטה ייעודית שיכולה לעבוד לצידם כחלק מארכיטקטורת AI יעילה יותר.