עידן שליטת המכונות כבר כאן, אנחנו פשוט לא מבינים זאת עדיין

בנובמבר 2022 השיקה OpenAI את ChatGPT, לרבים היה נראה כאילו הבינה המלאכותית עברה מסרטי המדע בידיוני בבת אחת למרחב המציאות. לרובנו זו נראתה כמו עוד טכנולוגיה מגניבה, כזו שמאפשרת לנו לנהל איתה שיחה ידידותית. תוך זמן קצר התמכרנו ליכולת שלה לכתוב, לחקור, ללמוד, לתכנן ולקבל החלטות לצידינו. רבים שעסקו בתום המחקר עצמו ובפיתוח המודלים עצמם זעקו כבר אז שייתכן שזאת רק ההקדמה למהפכה משמעותית הרבה יותר, כזו שאנחנו בהכרח עוד לא מבינים.

השנתיים האחרונות מסמלות שינוי דרמטי. הבינה המלאכותית עוברת מתפקיד של מערכת המסייעת לנו לבצע משימות, למערכת שמסוגלת לקבל מטרות, לתכנן פעולות, להשתמש בכלים ולהמשיך לעבוד עבורנו לאורך זמן. בלי לשים לב אנחנו עוברים בהדרגה מעידן שבו אנחנו מפעילים את הבינה המלאכותית, לעידן שבו הבינה המלאכותית מנהלת אותנו.

ההשקות האחרונות של Muse מבית Meta ושל Dots מבית OpenAI ממחישות עד כמה התעשייה מתקדמת במהירות לעבר החזון הזה. אנחנו חיים בתחושה שאנחנו מגדירים מטרות והבינה המלאכותית מנהלת את הדרך להשגתן. אבל התמונה מתחת לפני השטח שונה לחלוטין.

כדי להבין לעומר את משמעות השינוי, צריך לחזור מעט אחורה.

האבולוציה של הסוכנים: ארבע שנים של העברת אחריות הדרגתית

שנת 2022
הכל התחיל רומנטי, שנת 2022 האחריות לחקור ולחשוב שלנו, הבינה המלאכותית מספקת תשובות. בימים הראשונים התפקידים היו ברורים. אנחנו שאלנו, ChatGPT ענה. אנחנו תכננו, בדקנו וקיבלנו החלטות. הבינה המלאכותית הייתה כלי שמסייע לחשיבה וליצירת תוכן. האחריות לתהליך כולו נשארה בידינו.

שנת 2023
קצת פחות משנת אחר כך, שנת 2023 אנחנו כבר דורשים מהבינה לתכנן עבורינו ולא רק לענות לנו על שאלות. פרויקטים כמו AutoGPT ו-BabyAGI ניסו לראשונה להפוך את המודל למערכת שמקבלת מטרה, מפרקת אותה למשימות ופועלת להשגתה. הניסיונות היו מוגבלים, אבל הרעיון היה פורץ דרך. במקום להורות למכונה על כל צעד, התחלנו לאפשר לה לקבוע בעצמה מהם הצעדים שהיא צריכה לבצע. אלו הצעדים הראשונים של תחילתה העברת האחריות על התכנון.

שנת 2024
בשנת 2024 הבנו שלא מספיק לבקש מהבינה לתכן אלא צריך לספק לה כלים לבצע את המשימות שהיא מגדירה לעצמה. זו השנה בה נתנו לראשונה למודלי הבינה המלאכותית גישה להפעיל במקומנו את המחשב. פרויקטים כמו Devin ובהמשך יכולות Computer Use של Anthropic או Project Mariner של Google, הציגו קפיצת מדרגה נוספת ביכולות של כלי הבינה המלאכותית. כלי מבוססי בינה מלאכותית החלו לעבוד בסביבה הדיגיטלית, להשתמש בדפדפנים, לכתוב קוד ולהפעיל ממשקים שבעבר היו מיועדים לבני אדם בלבד. לראשונה, לא רק החשיבה והתכנון החלו לעבור למכונה, אלא גם חלק משמעותי מהביצוע.

שנת 2025
בשנת 2025 התחלנו להשתמש יותר ויותר במושגים כמו סוכנים ו Agentic AI, זה שלב משמעותי בו אתחלנו לחבר כלים שונים ל-"יישויות" בינה מלאכותית שזכו לכינוי סוכנים. כאשר חיברנו כמה סוכנים כאלו יחד התחיל תהליך של מעבר מהאצלת הסמכות לביצוע פעולות בודדות להאצלת הסמכות לביצוע תהליכים שלמים.

הופעתם של Operator, Deep Research, Manus, Claude Code ו-ChatGPT Agent הפכה את היכולת הזו לקומודיטי (Commodity) כולם יכולים ליצור לעצמם עכשיו בבית או במשרד אוסף של סוכנים שמבצעים תהליכים שלמים, שמתחילךים ב בביצוע מחקר, ניתוח שוק, ועד לפיתוח תוכנה והכנת התוצרים הסופיים.

הסוכן כבר לא נדרש רק לבצע פעולה בודדת. הוא נדרש לנהל רצף פעולות עד להשגת המטרה. אנחנו עדיין מעורבים בפיקוח, אבל לראשונה אנחנו מעבירים חלקים משמעותיים מתהליך העבודה לבינה המלאכותית. זה שלב קריטי כי בללי לשים לב כאשרהבניה המלאכותית מופעלת על ידי טריגרים חיצוניים (בבית או בעבודה) ביא למעשה מבצעת את העבודה ומפעילה אותנו לבצע את הבדיקה.

והנה, הגלגל התהפך - הבינה המלאכותית מפעילה אותנו ולא רק להיפך.

שנת 2026
למרות האזהרות החברות הגדולות ממשיכות להעמיק את האחיזה בחיינו עם סוכנים וכלים מובססי בינה מלאכותית.
את השנה פתחו עם OpenClaw, פרויקט שהמחיש את הפוטנציאל העצום של סוכן בינה מלאכותית המחובר לכלים, להודעות ולמערכות הדיגיטליות שלנו. זה המשיך עם ההיסטריה סביב Instinct שלקח את הרעיון לכיוון נגיש יותר, סוכן שאפשר פשוט לשלוח לו הודעה או להתקשר אליו כדי שיטפל במשימות, זאת אם הוא שכח במקרה להתעורר בעצמו ולבצע פרואקטיבית את המשימה עבורינו.

השיא (הנוכחי) הוא ההשקות של Muse ו-Dots החודש (ספטמבר 2026) של מטא ו OpenAI. הרעיון נשאר דומה, סוכנים שמתוכננים להכיר אותנו, לזכור את ההעדפות שלנו, ולפעול בסביבת מחשוב שמאפשרת להם לבצע משימות ופעולות גם כשאנחנו לא מחוברים או מעורבים באופן רציף בדרישה, הפעלה או פיקוח.

אנחנו נעים במהירות לעידן של סוכנים שלוקחים אחריות מתמשכת על חיינו ולא רק מבצעים משימות עבורינו.

האבולוציה הזו לא סתם מתרחשת היא מנוהלת

כדי להבין לאן אנחנו רצים, כדאי להסתכל על השינוי שתחום הנדסת מערכות הבינה המלאכותית היוצרת (Generative AI Engineering) עובר. ההתפתחות הזו משקפת את אותה תנועה מהירה של העברת אחריות ושליטה לבינה המלאכותית.

עם הופעתם של הצ'ט בוטים הראשונים לימדו אתנו שחשוב להבין איך לדבר איתם, נתנו לזה את השם הסקסי "הנדסת פרומפטים" (Prompt Engineering) אלו הניסיונות הראשונים לנסח הוראה מדויקות שיגרמו למודל להפיק את התשובה הטובה ביותר.

ככל שהמודלים הפכו לחכמים יותר ובעלי יכולת לטפל במגוון רחב יותר של נתונים ומידע, עברנו להנדסת הקשר (Context Engineering) מיומנות שנועדה לשפר את איכות התוצאה לא רק על בסיס ההנחיה שלנו אלא על בסיס המידע, הזיכרון, ההיסטוריה והמידע שהכלים השונים מספקים למודל (צ'ט או סוכן).

השלב הבא הוא כבר קפיצת מדרגה משמעותית. פרוייקטים כמו Manus, OpenClaw ואחרים הציגו תפיסה בה מודל חכם וחזק ככל שיהיה, לא יכול לבצע משימות אמיתיות אם אנחנו לא בונים סביבו מערכת שתאפשר לו להוציא אותן לפועל בצורה בטוחה ומנוהלת. תפיסת הנדסה זו זכתה לכינוי הנדסת רתמות (Harness Engineering) היא מגדירה את סט הכלים וסביבת ההפעלה שמגדירה את ההרשאות, כלי עבודה, המגבלות, הבדיקות ומנגנוני בקרה שדרושים לביצוע המשימה.

שתי התפיסות האחרונות, הנדסת לולאות (Loop Engineering) והנדסת גרפים של סוכנים (Agent Graph Engineering), מאפשרות לממש את המעבר לסוכנים עצמאיים שתיארנו בתחילת המאמר.

בגישות אלו, אנו מגדירים לסוכן או לקבוצת סוכנים יעד, והם פועלים באופן עצמאי להשגתו, ללא צורך בהתערבות אנושית בכל שלב. הנדסת לולאות מאפשרת לתכנן מערכות שבהן הסוכן פועל במחזורים חוזרים של תכנון, ביצוע, בדיקת תוצאות ותיקון, עד להשגת היעד שהוגדר לו. הנדסת גרפים של סוכנים, מאפשרת לארגן ולנהל תהליכים מורכבים הכוללים תלות בין משימות, נקודות החלטה ושיתוף פעולה בין מספר סוכנים. השילוב בין שתי התפיסות מאפשר לבנות מערכות סוכנים אוטונומיות, המסוגלות לתכנן את דרך הפעולה שלהן, להתאים אותה בהתאם לתוצאות המתקבלות, להתקדם באופן עצמאי לעבר היעד ולבסוף לדווח לנו על התוצאה.

המסלול של ההתפתחות ההנדסית ברור, אנחנו מפסיקים להתמקד בשאלה כיצד לגרום למודל לתת תשובה טובה יותר, ועובדים למערכת שמסוגלת לנהל תהליכים, לזהות חריגים, לתקן את עצמן ולהשלים עבודה באופן עצמאי.

המפתח כבר אינו רק איכות האינטליגנציה, אלא היכולת להפעיל אותה באופן אמין ומתמשך.

האם אנחנו באמת מבינים את המחיר של העברת האחריות?

השינוי הטכנולוגי מלווה בשינוי עמוק בדרך שבה המערכות האלו פועלות, לא בטוח שאנו שמים לב לאיך זה מפעיל אותנו.

עברנו מ- "תסביר לי", "תכתוב לי", "תציע לי".

ל - "זאת המטרה. תנהל את התהליך, תטפל בבעיות, תעדכן אותי כשצריך ותחזור עם תוצאה."

אני לא בטוח שאנחנו מבינים את ההשלכות ארוכות הטווח של השינוי הכל כך מהותי באיך הפעלנו את הסביבה הדיגיטלית שסביבנו בעשורים האחרונים.

כאשר הרשתות החברתיות נכנסו לחיינו, ראינו בעיקר את ההבטחה: חיבור בין אנשים, נגישות למידע, חופש ביטוי והזדמנויות עסקיות חדשות. רק בהמשך התחלנו להבין את ההשפעה העמוקה על התרבות, הפוליטיקה, הקשב, הפרטיות, ומערכות היחסים שלנו, למעשה כל תפיסת המציאות שלנו השתנתה כמעט בלי ששמנו לב. וכשכבר שמנו לב לבעיה היה מאוחר מידי.

ייתכן שאנחנו נמצאים שוב בנקודה דומה, אלא שהפעם פוטנציאל השינוי גדול אף יותר. הרשתות החברתיות השפיעו על המידע שאנחנו צורכים ועל ההחלטות שלנו. סוכני הבינה המלאכותית עשויים להשפיע לא רק על מה אנחנו חושבים, אלא גם איך אנחנו פועלים, או גרוע מכך לפועל למעשה בשמנו.

ומה יקרה כאשר נתרגל לכך?
האם נאבד בהדרגה מיומנויות של תכנון, פתרון בעיות וקבלת החלטות?
האם נפתח תלות בסוכנים שמכירים את ההרגלים, החולשות, ההעדפות והמטרות שלנו טוב יותר מכל מערכת אחרת?
האם נוכל להבחין מתי הסוכן פועל לטובתנו ומתי המלצותיו מושפעות מאינטרסים עסקיים של החברה שמפעילה אותו?
ומה יקרה כאשר סוכנים יתחילו לנהל גם חלק ממערכות היחסים שלנו?
מה יקרה כאשר אותם סוכנים יבחרו עבורנו שירותים ולסנן את האפשרויות שאנחנו נחשפים אליהן (או לא נחשפים אליהם)?

אלה אינן מסקנות ידועות מראש. אלה שאלות שאנחנו חייבים להתחיל לשאול כבר עכשיו.

ההשפעה בסביבה ובתרבות הארגונית תיהיה הרבה יותר גדולה ?

בסביבה העסקית, ההשלכות של מהפכת הסוכנים עשויות להיות עמוקות הרבה יותר משיפור בפרודוקטיביות או חיסכון בעלויות. אנחנו ניצבים בפני שינוי עמוק באופן שבו ארגונים פועלים, מנהלים עובדים, מחלקים אחריות ומגדירים את הערך של העבודה האנושית.

מנהלים רגילים להגדיר יעדים, לחלק משימות, לפקח על הביצוע, לפתור בעיות ולנהל צוותים. אבל מה יקרה כאשר חלק ניכר מהפעילות הזאת יבוצע בידי סוכנים אוטונומיים?

ייתכן שתפקיד המנהל ישתנה בהדרגה מניהול אנשים ומשימות לניהול מערכות משולבות של עובדים וסוכנים. המנהל יצטרך להגדיר מטרות, לחלק סמכויות, לקבוע גבולות פעולה ולפקח על תוצאות של תהליכים שחלקם יתבצעו ללא מעורבות אנושית ישירה. האחריות שלו לא תיעלם, אבל האופן שבו הוא מממש אותה עשוי להשתנות לחלוטין.

גם המבנה הארגוני צפוי להשתנות. צוותים קטנים יוכלו לנהל פעילות שבעבר דרשה עשרות עובדים. סוכנים מתמחים יבצעו מחקר, יתכננו מהלכים, ינתחו נתונים, יקבלו החלטות תפעוליות ויפעילו סוכנים אחרים. עובדים אנושיים ימצאו את עצמם מנהלים מערכות שמבצעות עבורם כמעט את כל שרשרת הערך (עבודה), משלב התכנון ועד התוצר הסופי.

אבל אם ההשפעה על המנהלים תיהיה גדולה, על שאר העובדים היא תיהיה עצומה.

במשך שנים, תחושת הערך המקצועי שלנו נבנתה סביב היכולת לפתור בעיות, להתגבר על אתגרים, לפתח מומחיות ולראות את התוצאה של העבודה שהשקענו. חלק משמעותי מהמוטיבציה שלנו נובע מתחושת המסוגלות, מהעצמאות ומהידיעה שההצלחה היא גם תוצאה של היכולות והמאמץ שלנו.

מה יקרה לתחושות האלה כאשר סוכן AI יתכנן את העבודה, יבצע אותה, יבדוק את התוצאות ואפילו יציע את השיפורים הנדרשים, בעוד העובד האנושי נותר בעיקר בתפקיד של מפקח?

האם העובדים יחושו מועצמים ומשוחררים ממשימות שוחקות, או דווקא פחות חיוניים, פחות עצמאיים ופחות מחוברים לתוצרים שלהם?

האם עובד שתרומתו העיקרית היא לאשר את עבודתו של סוכן עדיין יחווה את אותה תחושת משמעות, אחריות וגאווה מקצועית?

ולכך מצטרפת שאלה מורכבת נוספת: מה יקרה כאשר עובדים אנושיים יתחילו להימדד ולהתחרות לא רק זה בזה, אלא גם בסוכנים דיגיטליים?

סוכן אינו זקוק לחופשה, אינו מתעייף באותה צורה כמו אדם ויכול לפעול מסביב לשעון. ככל שהיכולות שלו ישתפרו, ארגונים עלולים להתחיל להשוות בין העלות, המהירות והביצועים של עובד אנושי לבין אלה של סוכן אוטונומי. התוצאה עשויה להיות לחץ גובר על עובדים להצדיק את תרומתם במקומות שבהם מכונות יכולות לבצע חלק הולך וגדל מהעבודה.

אם אנחנו מפסיקים לבצע את העבודה בעצמנו, האם לאורך זמן נאבד גם את היכולת להבין אותה, להעריך את איכותה ולזהות מתי המכונה טועה?

לצד כל אלה, הארגונים יידרשו להתמודד עם סוג חדש של אחריות. מי אחראי להחלטה שהתקבלה בידי סוכן? העובד שהגדיר את המטרה? המנהל שאישר את התהליך? הארגון שנתן למערכת הרשאות? ומה קורה כאשר החלטות מתקבלות על ידי קבוצה של סוכנים, שכל אחד מהם מסתמך על פעולותיו של האחר?

אלה אינן רק שאלות טכנולוגיות. הן נוגעות עמוק לתרבות הארגונית, למנהיגות, לאמון, למוטיבציה ולמשמעות של אחריות מקצועית.

אנחנו לא שמים לב, אבל ההשלכות של העברת האחריות לבינה המלאכותית גדולות ממה שאנחנו מבינים

במשך עשרות שנים הטכנולוגיה עזרה לנו לבצע יותר פעולות בפחות זמן בצורה יותר מדוייקת. המחשבים האיצו את החישוב. האינטרנט הנגיש מידע. הטלפונים החכמים אפשרו לנו לפעול מכל מקום.

אבל סוכני הבינה המלאכותית מציעים שינוי אחר, הם לא רק עושים את מה שאנחנו עושים מהר יותר, אלא לוקחים מאיתנו את השלבים של התכנון, הצבת היעדים והאחריות על ההגעה ליעד הרצוי. אנחנו הופכים להיות אחראים רק על תוצאה סופית שלא בטוח שאנחנו יודעים איך הגענו אליה.

ההשקות של Muse ו-Dots אינן סוף האבולוציה הזאת. הן כנראה רק ההתחלה של מהפכה הרבה יותר גדולה. ההבטחה עצומה. יותר זמן, פחות עומס, גישה ליכולות מתקדמות ושחרור אנושי לעיסוקים בעלי ערך גבוה יותר.

אבל לא בטוח שיחד שבמקביל האחריות שלנו גדלה. אנחנו צריכים להחליט כבר לא רק מה המכונות מבצעות עבורינו, אלא מה ראוי שנאפשר להן להחליט עבורנו.

המהפכה האמיתית של הבינה המלאכותית אינה הרגע שבו המודל למד לענות בדיוק על השאלות שלנו, זה הרגע שבו החלטנו לסמוך עליו שינהל עבורנו את החיים בצורה נכונה.