סוכני AI צריכים מנצח: כך מעבירים Agentic AI לפרודקשן
מודל חכם לבדו אינו תהליך ארגוני. כך מתזמרים כלים, הרשאות, חריגים ואנשים כדי להפעיל סוכני AI בבטחה.
סוכן AI יודע לבחור כלי ולבצע פעולה. ארגון צריך לדעת מי אישר, מה השתנה, מה קורה בכשל ואיך עוצרים. זו הסיבה שסוכן מרשים בדמו עדיין אינו מערכת שאפשר להפעיל בפרודקשן.
הפער בין דמו לתהליך עסקי
סוכני AI הרחיבו את מודל השפה מתשובה טקסטואלית למערכת שפועלת: קוראת API, מאחזרת מידע, מעדכנת רשומה ומחליטה על הצעד הבא. ככל שהסוכן מסוגל לעשות יותר, כך נדרשת מסגרת תפעולית ברורה יותר.
בארגון, פעולה אינה עומדת לבדה. יש הרשאות, SLA, תלות במערכות, נתונים רגישים, חריגים ואחריות. חיבור כלים, אכיפת הרשאות ותיאום בין סוכנים בתוך התלויות האלה הם חלק מעבודת התזמור.
ארבע שכבות שמכניסות סוכן למסלול
- גבולות פעולה: רשימת כלים והרשאות מינימלית לכל שלב.
- מצב תהליך: תיעוד מפורש ומתמשך של התקדמות התהליך שאינו תלוי בזיכרון השיחה.
- בקרת איכות: אימות מבני, כללים עסקיים וספי איכות שנבדקו לפני ביצוע. דיווח של המודל על הביטחון שלו אינו מספיק.
- מסלול חריג: ניסיונות חוזרים, מגבלות זמן, פעולות פיצוי והעברה לאדם (Human-in-the-Loop) בלי לאבד הקשר.
המפתח הוא הפרדת אחריות. מנוע התהליך מנהל את הסדר, המצב והמדיניות; הסוכן מטפל במשימות שדורשות הבנת שפה או שיקול דעת גמיש; שירותים דטרמיניסטיים מבצעים פעולות קריטיות.
דוגמה: טיפול בפניית לקוח
סוכן מסווג את הפנייה ומציע פתרון. מנוע התהליך בודק את רמת הסיכון: בקשה פשוטה נענית אוטומטית; שינוי כספי מחייב אימות ואישור; חוסר ודאות פותח משימה לנציג.
בתכנון הזה מתעדים את הקלט הרלוונטי, ההחלטות, תוצאות הכלים, האישורים וגרסת המודל, עם הגבלות גישה ושמירה. כך קל יותר לבדוק מה קרה; לוגים לבדם אינם מסבירים את ההיגיון הפנימי של המודל ואינם מבטיחים התאוששות.
ארכיטקטורת Process-First עם Camunda
ב־Camunda אפשר לייצג ב־BPMN את החוזה בין הסוכן לארגון. הסוכן פועל בתוך תהליך מתמשך עם נקודות המתנה ושלבי אישור מוגדרים. משימות המשתמש של Camunda מאפשרות לתהליך להמתין לאדם לפני שהוא ממשיך. שינוי של תהליכים שכבר פועלים עדיין דורש תכנון של גרסאות והעברת מופעים ביניהן.
זו הדרך שלנו ב־NG Workshop לבנות AI שניתן להפעיל באחריות: AI בתוך התהליך, לא במקום התהליך.
מקורות והמשך קריאה בעברית
- גיקטיים: כך תפתחו סוכני AI עם JavaScript
- גיקטיים: האתגרים בהפעלת עובדי AI בארגון
- כלכליסט: AI Agents ותהליכים חוצי־מערכות
סיכום
- סוכן AI זקוק לגבולות, מצב תהליך ומסלול חריגים.
- מנוע התהליך והסוכן ממלאים תפקידים שונים ומשלימים.
- תיעוד ובקרה הם חלק מהארכיטקטורה, לא תוספת לאחר ההשקה.