בסדרת המאמרים הקודמת בנינו בהדרגה את היסודות של ניהול ידע גרפי בעידן הבינה המלאכותית. התחלנו מתורת הגרפים כדרך לחשוב על מידע דרך קשרים, המשכנו למסדי נתונים גרפיים שמאפשרים לשמור ולתשאל קשרים כאלה בפועל, הרחבנו לגרפי ידע שמעניקים למידע משמעות עסקית, ובמאמר האחרון חיברנו את התשתיות האלה ל־GraphRAG, שמאפשר לסוכני AI לאחזר מידע מתוך מפת קשרים ולא רק מתוך דמיון סמנטי בין מקטעי טקסטים.

בפוסט הנוכחי נבין כיצד תפיסת תורת הגרפים ושימוש בהם לניהול גרף ידע ארגוני לא רק מסייע לסוכני הבינה המלאכותית לאתר את המידע הרלוונטי ולהסביר לנו אותו, אלא איך מי שמפעיל את אותם סוכנים יכול להבין את ההקשר שמאחורי ההחלטה של הסוכן.

כפי שראינו בפוסטים הקודמים ככל שסוכני בינה מלאכותית נכנסים עמוק יותר לתהליכים עסקיים אמיתיים, השאלה החשובה ביותר עוברת מהתשובה של הסוכן או מודל ה LLM, ל-“למה הסוכן ענה כך?”.

כאשר סוכן AI ממליץ להעביר חשבונית לתשלום, להציע פעולה ללקוח, לפתוח קריאת שירות או לתעדף הזדמנות מכירה, הארגון צריך להבין על מה ההמלצה מבוססת. אילו נתונים נבדקו, אילו קשרים נמצאו, איזו מדיניות הופעלה, מה היה תהליך התכנון של הסוכן, איזה כלים הוא הפעיל ומה הפעולות שהוא ביצע.

הבנה זו היא ההתפתחות מניהול גרף ידע לניהול גרף ההקשר לסוכני בינה מלאכותית (Context Graphs).

מהו Context Graph?

גרף ההקשר או Context Graph הוא שכבת ידע גרפית שמרכזת את ההקשר הדרוש לקבלת החלטות, לתעוד והסבר ההחלטות של פעולות סוכני ה AI. אם גרף הידע Knowledge Graph מייצג את הידע הארגוני באמצעות ישויות, קשרים, מקורות, הרשאות ומשמעות עסקית, ה Context Graph מוסיף עליו מיקוד תפעולי וניהולי. הוא שואל לא רק מה ידוע על העולם העסקי של הארגון, אלא גם מה היה ההקשר שבו התקבלה החלטה מסוימת.

במילים פשוטות, Context Graph הוא גרף שמחבר בין נתונים, מסמכים, לקוחות, מוצרים, אירועים, מדיניות, החלטות, והפעולות של סוכני הבינה המלאכותית. הוא מאפשר לארגון לשחזר את הדרך שבה סוכן AI קיבל החלטה והגיע למסקנה מסוימת.

זה מעבר משכבת מידע לשכבת הסבר.

האתגר: סוכני AI פועלים בסביבה הארגונית, אבל הארגון עדיין לא תמיד מבין למה.

בשלב הראשון של אימוץ AI בארגונים, רוב השימושים התמקדו ביצירת תוכן, סיכום מסמכים וחיפוש ידע. במקרים כאלה, אם התשובה לא הייתה מושלמת, הסיכון היה בדרך כלל מוגבל.

סוכני AI הם כבר סיפור אחר. סוכן AI אינו רק עונה. הוא מבצע פעולות. הוא יכול לקרוא מידע ממערכות הארגון, להפעיל כלים, לעדכן רשומות, להמליץ על החלטות, לנהל תהליכים, להפעיל workflows ולעיתים גם להשפיע בפועל על לקוחות, עובדים, תקציבים ועוד. כאשר סוכן כזה פועל בארגון, נדרש מנגנון שמאפשר להבין את שרשרת ההקשר שהובילה אותה לקבלת ההחלטה שהוא קיבל. לא רק את התוצאה הסופית, אלא את הדרך אליה.

בלי Context Graph, הארגון עלול לקבל תשובה נכונה לכאורה, אבל ללא יכולת לבדוק את הבסיס שלה. עם Context Graph, ניתן להבין מה היה מקור המידע, אילו קשרים שימשו את הסוכן, אילו פעולות בוצעו, ומה היה הנתיב הלוגי שהוביל להמלצה.

למרות שהם נראים דומים Context Graph הוא לא עוד גרף ידע

למרות שהם נשמעים דומים חשוב להבחין בין גרף ידע Knowledge Graph לבין גרף הקשר Context Graph. גרף ידע עוזר לארגון להבין מה קיים, מה קשור למה, ומה המשמעות של המידע בתוך העולם העסקי. Context Graph מוסיף שכבה שממוקדת בהחלטות, פעולות, זיכרון והסבר. הוא לא שומר רק את הידע הארגוני, אלא גם את אופן השימוש בידע הזה על ידי סוכני AI.

הוא נועד לתעד שאילתות שהסוכן מבצע, קריאה לכלים, תוצאות ביניים של תהליכי חשיבה, מסמכים שנשלפו, קשרים שנבדקו, החלטות שהתקבלו, ומדיניות שהופעלה.

לכן Context Graph הופך להיות תשתית קריטית כאשר סוכני AI מתחילים לקבל החלטות בתהליכים רגישים. שירות לקוחות, פיננסים, ציות, מכירות, ניהול סיכונים, תפעול, משאבי אנוש וקבלת החלטות ניהוליות.

במקומות האלה לא מספיק שהסוכן ייתן תשובה. הוא צריך להשאיר אחריו עקבות שאפשר לבדוק.

זיכרון קצר טווח, זיכרון ארוך טווח וזיכרון חשיבה של סוכני AI

לגרף ההקשר Context Graphs יש עוד יתרון ושימוש מרכזי בהפעלת סוכני בינה מלאכותית, הוא מסייע לנהל בצורה נכונה את הזיכרון של סוכני ה AI.

על מנת שסוכני AI יוכלו לפעול בצורה רציפה הם נדרשים לכמה סוגים של זיכרון (ממש כמונו בני האדם).

הסוג הראשון הוא זיכרון קצר טווח. זהו ההקשר המיידי של השיחה או המשימה הנוכחית. מה המשתמש ביקש, מה כבר נאמר, אילו פרטים נאספו, ומה צריך לקרות עכשיו.

הסוג השני הוא זיכרון ארוך טווח. זהו ידע שנצבר לאורך זמן מתוך שיחות, מסמכים, אירועים, פעולות, ותהליכים. כדי שהידע הזה יהיה שימושי, צריך לחלץ ממנו ישויות וקשרים. לדוגמה, לקוחות, ארגונים, מוצרים, אירועים, מדיניות, החלטות, פניות שירות ופעולות עסקיות.

הסוג השלישי הוא זיכרון של תהליך החשיבה וקבלת ההחלטות Reasoning Memory של המודל או הסוכן AI. זהו אחד המרכיבים החשובים ביותר ב Context Graph. הוא מתעד לא רק מה נאמר (נכתב על ידי המודל), אלא גם מה נעשה. אילו כלים הופעלו, אילו תוצאות חזרו, אילו שלבים בוצעו, ואיך הסוכן התקדם בדרך להחלטה.

כאשר שלושת סוגי הזיכרון האלה מיוצגים בגרף אחד, מתקבלת שכבת הקשר שמאפשרת לסוכן AI לפעול בצורה עקבית יותר, ולארגון להבין את אופן קבלת ההחלטות בדיעבד.

למה זיכרון קבלת ההחלטות Reasoning Memory חשוב כל כך למנהלים?

בשגרה מנהלים (או עובדים) לא נדרשים להבין כל שורת קוד או כל חישוב פנימי שהמודל הפעיל. אבל הם כן צריכים לדעת שהחלטות משמעותיות ניתנות לבדיקה. יצירת תשתית נכונה ל Reasoning memory מאפשר לתחקר את אופן קבלת ההחלטות של המודל במשימות ניהוליות חשובות.

- למה הסוכן המליץ על פעולה מסוימת?
- על אילו נתונים ההמלצה התבססה?
- האם המדיניות שהופעלה הייתה עדכנית?
- האם הסוכן השתמש במידע שהמשתמש היה מורשה לראות?
- האם אפשר לשחזר את רצף הפעולות במקרה של טעות, תלונה או ביקורת?
- האם סוכן אחר היה מגיע להחלטה דומה באותו הקשר?

אלה אינן שאלות טכנולוגיות בלבד. אלה שאלות של ממשל נתונים, ניהול סיכונים, אמון ובקרה. בארגונים שרוצים להפעיל AI בתהליכים עסקיים אמיתיים, היכולת להסביר החלטות אינה תוספת נחמדה. היא תנאי להפעלה אחראית.

מה הערך העסקי של Context Graphs?

כאשר מיישמים בצורה נכונה את גרף ההקשר בתהליכי ההפעלה של סוכני הבינה המלאכותית מקבלים ערכים עסקיים שבלעדיהם קשה יהיה להפעיל סוכני בינה מלאכותית לאורך זמן.

הערך הראשון הוא שקיפות.
הארגון יכול להבין טוב יותר מדוע סוכן AI המליץ או פעל בצורה מסוימת.

הערך השני הוא אמון.
כאשר משתמשים ומנהלים יכולים להבין את ההקשר, קל יותר לאמץ את המערכת ולשלב אותה בתהליכים אמיתיים/קריטטים.

הערך השלישי הוא שיפור מתמשך.
כאשר ניתן לראות את עקבות החשיבה והפעולה של הסוכן, ניתן לזהות כשלים, לתקן מדיניות, לשפר את ההנחיות, לעדכן את מקורות המידע ולבנות תהליכי בקרה טובים יותר.

הערך הרביעי הוא שימוש חוזר בידע.
החלטה שהתקבלה היום יכולה להפוך לתקדים שמסייע להחלטות עתידיות, כל עוד היא נשמרת עם ההקשר הנכון.

הערך החמישי הוא ממשל נתונים.
שימוש ב Context Graph משלב הרשאות, בעלות על המידע, תעוד, ועדכניות ההקשר שהסוכן רואה, כל אלו מסייעים לסוכן לקבל את המידע הנכון לפני שהוא פועל.

איך נכון להתחיל?

כמו בניהול גרף ידע, גם כאשר בונים את גרף ההקשר נכון לבנות אותו בצורה מדורכת שלב אחר שלב. בניית Context Graph גדול לכל הארגון כבר ביום הראשון זה מתכון לכישלון.

הדרך הנכונה היא להתחיל מתהליך עסקי אחד שבו ההקשר חשוב במיוחד. לאחר מכן מגדירים אילו החלטות הסוכן צריך לקבל או להמליץ עליהן. מזהים אילו ישויות דרושות, אילו קשרים חשובים, אילו מקורות מידע נדרשים, אילו כלים עליו להפעיל ומה נדרש לתעד, ואילו עקבות חשיבה נדרש לשמור.

לא צריך להגדיר את כל הפרמטרים כבר בהתחלה, צריך לתעד מספיק כדי להסביר את ההחלטה של בוסכן בצורה טובה. משם אפשר להרחיב.

לסיכום: הארגון צריך להבין לא רק מה הסוכן ענה, אלא למה

גרף ההקשר Context Graphs היא אחת התשתיות החשובות ביותר במעבר מצ’אטבוטים פשוטים לסוכני AI שפועלים בתוך תהליכים עסקיים. זו תשתית אשר מבוסס על עקרונות גרף הידע ומסדי נתונים גרפיים, אך המרכיב המרכזי בה הוא שכבת הקשר התפעולית והניהולית שמאפשרת לתעד החלטות, להבין פעולות, לשמור זיכרון ולבנות אמון עם סוכני בינה מלאכותית בתהליכים עסקיים.

בעידן שבו סוכני AI מתחילים להפעיל כלים, להמליץ ולבצע פעולות, הארגון חייב לדעת להסביר את הדרך. לא רק את התוצאה.

עבור מנהלים דיגיטליים ועסקיים, זו נקודת המפנה. השאלה אינה רק איזה מודל נאמץ או איזה סוכן נבנה. השאלה היא איזו שכבת הקשר ניתן לו, איך נשמור את עקבות הפעולה שלו, ואיך נוודא שכל החלטה משמעותית ניתנת להבנה, בדיקה ושיפור.