跳转至

אחרית דבר: חזרה אל סוכן = LLM + הקשר + כלים

ספר זה נפתח בנוסחה: סוכן = LLM + הקשר + כלים. כל עשרת הפרקים נפרשים בתוך שלוש מילים אלה.

פרק 1 מבסס הבנה תלת‑שכבתית של הנוסחה — שכבת המימוש, השכבה האינטואיטיבית והשכבה האקדמית — ומציג את ספקטרום התזמור מתהליכי עבודה ועד סוכנים עצמאיים. הפרקים שלאחריו נפרשים בהדרגה לאורך הרצף "בנייה — הערכה והתפתחות — שיתוף פעולה".

  • בניית סוכנים (פרקים 2–6). הנדסת ההקשר קובעת מה סוכן רואה בתוך משימה, בעוד זיכרון ובסיסי ידע מרחיבים מידע על פני הפעלות. הכלים מגדירים מה הוא יכול לעשות, ייצור קוד מספק את מטא‑היכולת ליצור כלים ומערכות חדשים, ופרק האינטראקציה דוחף את מרחבי התצפית והפעולה מחוץ להחלפת תורות טקסטואלית אל הקול, ממשקי המשתמש הגרפיים והעולם הפיזי.
  • הערכה והתפתחות (פרקים 7–9). ההערכה הופכת ביצועים לאותות מהימנים, אימון־על כותב יכולות רבות‑ממדים לתוך פרמטרים של המודל, וההתפתחות המתמשכת הופכת ניסיון מהייצור לעדכונים מבוקרים של ידע, הוראות, תוכנות או פרמטרים.
  • שיתוף פעולה (פרק 10). שיתוף פעולה רב‑סוכני משנה עוד יותר את האופן שבו מאורגנים ההקשר, הכלים והאחריות.

שלוש רמות אלה אינן מדפים עצמאיים. פרק 9, בפרט, תלוי בכל היסודות שהונחו קודם לכן: ללא מסלולים ומערכות ידע, אין לניסיון היכן להיאגר; ללא יכולת קוד, אין סוכן יכול לשנות כלים ו‑Harnesses; וללא הערכה, אין המערכת יכולה לקבוע האם שינוי הוא התקדמות או נסיגה. פרק 9 הוא לפיכך נקודת ההתכנסות שבה הספר עובר מ"כיצד לבנות סוכן" ל"כיצד לגרום לסוכן להשתפר לאורך זמן".

שני עננים

בשנת 1900 אמר הלורד קלווין ששני עננים עדיין תלויים מעל שמיה הבהירים של הפיזיקה — לימים, האחד הפך לתורת היחסות והאחר לתורת הקוונטים. גם היום השמיים מעל הסוכנים אינם בהירים במיוחד, וגם אני רואה שני עננים.

הענן הראשון הוא כיצד סוכנים יכולים לקיים אינטראקציה עם סביבתם באופן זורם ובזמן אמת. כיום, הרוב המכריע של הסוכנים עדיין פועל במצב "בקשה‑תגובה" תור אחר תור: אתם מסיימים משפט, הוא חושב פסקה שלמה, ואז פולט את התוצאה בבת אחת. אך העולם האמיתי אינו עוצר וממתין שיסיים לחשוב — דיבור נקטע, הסצנה משתנה בלי הרף, הודעות דוא"ל ממשיכות להגיע. סוכן "חי" באמת אמור להיות מסוגל להקשיב תוך כדי חשיבה ולדבר תוך כדי חשיבה, להתחיל לתכנן בעודכם באמצע המשפט, ולהבחין בעצמו ש"הדוא"ל הזה דורש טיפול" גם כשאיש לא ביקש. ישנם שני מסלולים ליכולת זמן‑אמת זו, שנרדפים לעיתים קרובות במקביל. האחד הוא הפרדה ארכיטקטונית של מהיר ואיטי — היענות בזמן אמת ואינטליגנציה הם צירים כמעט אורתוגונליים שמודל יחיד מתקשה לפרוש, ולכן מודל חזית מהיר שומר על קצב השיחה בעוד מודל עורף איטי מבצע את החשיבה העמוקה. האחר הוא האצת ההיסק עצמו — כשמהירות הפענוח גבוהה דיה, ההמתנה שבין התורות נעשית קצרה כל כך עד שהיא כמעט נעלמת, ומטשטשת את הקו בין תור‑אחר‑תור ל"זמן אמת". מסלול זה מקודם במהירות בידי שבבים ומנועי היסק: ‏Xiaomi MiMo דחפה מודל בן טריליון פרמטרים מעבר ל‑1000 טוקנים לשנייה על צומת בודד בעל 8 מעבדי גרפיקה1, בעוד פתרונות ייעודיים המקודדים קשיח את המודל כולו לתוך שבב (כמו Taalas HC1) דוחפים מודל בן 8 מיליארד פרמטרים לכ‑17000 טוקנים לשנייה בזמן תגובה של פחות מ‑100 אלפיות שנייה2. כשמודל יכול לפלוט אלפי מילים בשנייה, הפער החווייתי בין "לחשוב ואז לדבר" ל"לחשוב תוך כדי דיבור" פשוט נמחק.

הענן השני הוא כיצד סוכנים יכולים, כמו בני אדם, להמשיך לצבור ניסיון מהצלחותיהם וכישלונותיהם באינטראקציה עם הסביבה. המודלים של היום דומים יותר לגאון בעל זיכרון מצוין שאינו מסוגל ללמוד דבר חדש: במהלך האימון הם משננים ידע אנושי עד לפרט האחרון, אך ברגע שהם בשטח הם כמעט אינם צומחים — לאחר כל משימה, המהמורות שנתקלו בהן והתחבולות שגילו נזרקות ברובן יחד עם ההקשר. האם זו בעיה אמיתית תלוי בשתי השערות מנוגדות.

האחת היא "השערת העולם הקטן": מודל גדול דיו — נניח, בעל טריליוני פרמטרים — כבר מכיל כמעט את כל הידע הכללי החשוב על העולם הפיזי; ללמוד פעם אחת מספיק. המחזיקים בדעה זו (לרבות חוקרים ב‑OpenAI וב‑Anthropic) יצביעו על כך שתכנות הוא התחום היחיד שבו ה‑AI חזק ביותר כיום — לא משום שקוד מיוחד איכשהו עבור מודלים, אלא משום שתכנות הוא התחום הפתוח ביותר של האנושות: כמויות עצומות של קוד פתוח מונחות שם, מוכנות ללמידה, בעוד לרוב התעשיות אין כלל מידע או נתונים ציבוריים. אז מה שמעבדות החזית עושות בפועל הוא ללכת תעשייה אחר תעשייה, ולשתף פעולה עם כל אחת כדי "לזקק" את יכולתה המקצועית לתוך אותו מודל גדול. לפי השקפה זו, צוואר הבקבוק אינו הקיבולת של המודל ואף לא יכולת הלמידה שלו, אלא האם יש מספיק נתונים — הזינו את הנתונים פנימה, אמנו פעם אחת, והבעיה נפתרה.

אך "השערת העולם הגדול" מצביעה על שכבה שלא ניתן לספק ב"אימון חד‑פעמי": ידע ייחודי למשתמש מסוים או לחברה מסוימת. תקני הקוד וסגנון המצגות של חברה מסוימת, יחד עם המזג הייחודי של לקוח מסוים, נעדרים מכל קורפוס אימון ומשתנים בלי הרף. כדי להתאים את עצמו ל"עולם הגדול" הזה, המורכב מאינספור מצבים ספציפיים, מודל חייב להמשיך ללמוד לאחר הפריסה; אין הוא יכול להגיע מהמפעל כשהכול מוגדר. זהו בדיוק הכיוון שהזיכרון בפרק 3 וההתפתחות המתמשכת בפרק 9 חוקרים: האם יש לכתוב ניסיון למסמכי ידע, להוראות או לתוכנות, או שמא יש להשתמש בניסיון נבחר כדי לעדכן את פרמטרי המודל? באופן רחב יותר, גם "‏RSI (שיפור עצמי רקורסיבי)" וגם "‏AI למדע" דוחפים סוכנים לעבר חזיתות שאין בהן תשובות מוכנות. שם, סוכן יכול רק ללמוד באופן עצמאי מהצלחות וכישלונות ניסיוניים חוזרים ולא לפנות חזרה לבני אדם בכל החלטה. יכולתו החזקה ביותר של המודל תהיה לפיכך, בסופו של דבר, לא שינון, אלא למידה והסתגלות.

אף אחד משני העננים לא יפוזר על ידי שדרוג מודל בודד. כדי להבין כיצד הם יתפזרו בסופו של דבר, עלינו לראות תחילה דבר אחד בבירור: מודלים וסוכנים מעולם לא היו במעלה הזרם ובמורד הזרם זה של זה; הם מתקדמים יחד.

ההתפתחות המשותפת של מודלים וסוכנים

הביטו שוב בשכבות של לוגיקת הנפילה חזרה שבאותם Harnesses — דחיסת הקשר רב‑שלבית, לוגיקת ניסיונות חוזרים המפעילה מנתק מעגל רק לאחר אלפי כישלונות, בדיקות הרשאה שברירת המחדל הפסימית שלהן היא "לא בטוח" — וכל מקטע של "קוד ספגטי" לכאורה מכוער מתעד מקום שבו המודל עדיין רעוע. כשהדור הבא של המודלים יפנים אילוצים אלה, ניתן יהיה למחוק את הקוד המתאים; והסיבה שמודלים יכולים להפנים אותם היא בדיוק שסוכנים כבר מעדו בבורות ההם בשם המודל בעסקים אמיתיים, וזיקקו את הלקחים לאותות עבור סבב האימון הבא. משתמשים מציבים אתגרים אמיתיים; שכבת היישום משתמשת ב‑Harnesses כדי לטלא את מה שהמודל עדיין אינו עושה היטב; והטלאים ההם הופכים בתורם לאותות אימון לאיטרציה הבאה של המודל. זהו גלגל תנופה המחזק את עצמו.

גלגל תנופה זה גם עונה על השאלה שנותרה תלויה בפרק 1: האם מודלים יאכלו בסופו של דבר את ה‑Harness? עמדת ספר זה היא שכן — אך לא בבת אחת. מודלים יאכלו אותו שכבה אחר שכבה, והתהליך לעולם לא יושלם. כל יכולת שמודל מפנים ביציבות מאפשרת למחוק את שכבת ה‑Harness המתאימה — מודל האינטראקציה של פרק 6 הוא מקרה כזה: התנהגויות כגון קטיעה והתערבות שפעם היה צריך להרכיב באמצעות Harness חיצוני בנויות כיום ישירות לתוך המודל. אך "אכילה" זו לעולם לא תסתיים. ראשית, אימון אורך חודשים — המודל יכול להמתין, אך העסק אינו יכול. שנית, מודל אינו יכול להפנים כל אילוץ והעדפה של עסקים אמיתיים; תמיד יש גבול חדש ביותר הזקוק ללוגיקה חיצונית כרשת ביטחון. שלישית, כל דור מודלים פותח חזית יכולות חדשה, והחזית היא בדיוק המקום שבו המודל אמין פחות מכול. כך שה‑Harness לא ייעלם; הוא פשוט ממשיך לנדוד, יחד עם המודל, לעבר כל חזית חדשה. כך גם נקרא "הלקח המר" בעידן הסוכנים: שיטות כלליות ינצחו בסופו של דבר — אך כל מקטע דרך בתוך אותו "בסופו של דבר" מרוצף בידי ה‑Harness.

וגלגל התנופה מסתובב מהר ביותר בידי מי שאוחז בשני הקצוות. זה בדיוק מה ש‑Anthropic עושה עם Claude Code: לתת למודל שלה ול‑Harness שלה להזין זה את זה ולהתפתח יחד. המודל יודע כיצד ה‑Harness יקרא לו; ה‑Harness יודע היכן שוכנים גבולות המודל; כל שינוי בכל קצה מוזן חזרה לאחר מיד. בניסוי אחד, שינוי ה‑Harness בלבד — אותו מודל — העלה את דיוק המשימות מ‑52.8% ל‑66.5%. הדבר מראה כמה מנוף יש ל‑Harness כיום, אך הוא גם תזכורת: ל‑Harness יש מנוף כזה בדיוק משום שהמודל עדיין לא הגיע לשם. ומאותה סיבה, גלגל התנופה עצמו הוא החפיר העמוק ביותר של העידן הזה: ככל שעסקים אמיתיים, נתוני משוב ואיטרציית מודלים משתלבים זה בזה בהדוקות רבה יותר, כך קשה יותר למישהו להשיג אותו מבחוץ.

מה שהדבר אומר עבורכם תלוי באיזה קצה של גלגל התנופה אתם עומדים. אם אתם בונים מודלים, החפיר הוא להתניע את גלגל התנופה הזה — לתת למשוב מתרחישי העולם האמיתי לזרום חזרה לאימון מהר ככל האפשר. אם אתם בונים יישומים על גבי מודלים, ה‑Harness הוא המנוף הטכני החד ביותר שלכם לטווח הקצר, אך היו פקוחי עיניים: בכל פעם שהמודל מפנים שכבת אילוצים, הוא ימחק — כמעט אגב אורחא — אצווה של יתרונות שנבנו על ה‑Harness בלבד. החפירים המתמשכים באמת בשכבת היישום שוכנים בדרך כלל מחוץ לטכנולוגיה: נתונים בלעדיים, ערוצי הפצה איתנים, אמון משתמשים, אפקטי רשת, ותרחישי העולם הפיזי הדורשים מבני אדם ומסוכנים לעבוד יחד. המהלך הזהיר הוא להשתמש ב‑Harness כדי לקנות זמן, ולהשתמש בזמן הזה כדי לבנות מחסומים שמעבר לטכנולוגיה.

אז אל תדאגו אם המסגרת שבידיכם תתיישן. מודלים עוברים איטרציה כל כמה חודשים; ממשקי API מסוימים, מוצרים וטבלאות דירוג יתחלפו כולם. אך שלוש השאלות — מה הוא רואה, מה הוא יכול לעשות, וכיצד לאמת שהוא עושה דברים נכון — לא יתיישנו. הן מתארות לא את אופן השימוש במודל מסוים, אלא את הדרך היסודית שבה מערכת תבונית מקיימת אינטראקציה עם העולם. שלטו בהן, ויהיו אשר יהיו היכולות החדשות שיביא הדור הבא של המודלים, תדעו היכן הן משתלבות בנוסחה — ותראו במבט אחד כמה רחוקות הן עדיין מפיזור אותם שני עננים.

טכנולוגיית הסוכנים עדיין מתפתחת במלוא הקצב; אין ספר יחיד שיכול לעמוד בקצב כל שינוי. אך אם מה שספר זה מותיר בכם אינו אופן השימוש הספציפי באיזה API אלא שיקול הדעת להישאר צלולי ראש בתוך גלי הטכנולוגיה, הרי שהוא מילא את ייעודו. כל הטקסט, האיורים וקוד הניסויים הנלווה של ספר זה הם קוד פתוח. אתם מוזמנים לבקר במאגר, להריץ את הניסויים במו ידיכם, ולהגיש issues ו‑PRs. והדבר המרתק ביותר בסוכנים הוא בדיוק זה: הם יכולים ליצור יכולות חדשות באמצעות כתיבת קוד, ואף לשפר את עצמם. משהגעתם עד הלום, אתם כבר אוחזים בעקרונות ה"יצירה". כעת, לכו וצרו משהו.

  1. Xiaomi MiMo-V2.5-Pro-UltraSpeed, through model-system co-design with FP4 quantization, DFlash parallel speculative decoding, and the TileRT inference system, pushes the generation speed of a 1T-parameter model past 1000 token/s on a single general-purpose 8-GPU node for the first time. See Xiaomi MiMo official technical blog, "Pushing 1T-Parameter Model Generation Speed to 1000 TPS," 2026. https://mimo.xiaomi.com/blog/mimo-tilert-1000tps ↩

  2. The Taalas HC1 hardcodes the entire Llama 3.1 8B model onto a 6nm chip, achieving approximately 17000 token/s with a response time under 100 milliseconds; the trade-off is that the chip can only run the hardcoded model, and model updates require a new chip tape-out. See Karl Freund, "Taalas Launches Hardcore Chip With 'Insane' AI Inference Performance," Forbes, 2026. https://www.forbes.com/sites/karlfreund/2026/02/19/taalas-launches-hardcore-chip-with-insane-ai-inference-performance/ ↩