תכנון הוא היבט חיוני של מערכות מבוססות סוכנים, שכן הוא מאפשר לסוכנים לחשוב על פעולותיהם, לפרק משימות מורכבות למשימות משנה, ולהבטיח ביצוע אמין ועקבי יותר של מטרותיהם. כפי שהרריסון צ'ייס מדגיש, דגמי שפה נוכחיים עדיין אינם מסוגלים לבצע בצורה אמינה את סוג התכנון הזה בעצמם, ומפתחים לעתים קרובות נאלצים להסתמך על אסטרטגיות הנחיה חיצוניות ואדריכלויות קוגניטיביות כדי לאכוף את יכולות התכנון.

אחד האתגרים המרכזיים הוא שדגמי שפה נוטים לפעול בצורה יותר תגובתית, ב"לולאת-for", שבה הם מייצרים תגובה, מבצעים פעולה, ולאחר מכן מייצרים את התגובה הבאה. זה יכול להוביל לקבלת החלטות לא אופטימלית ולחוסר בתכנון ארוך טווח. טכניקות כמו עץ-מחשבה, רפלקציה וחלוקה למטרות משנה נועדו להתמודד עם זה על ידי מתן היכולת למודלים לחשוב על פעולותיהם, לתכנן מראש ולפרק משימות מורכבות.

עם זאת, הפתרון ארוך הטווח עשוי לדרוש שינוי יסודי בארכיטקטורה הבסיסית של דגמי השפה, מעבר לדגמי טרנספורמר הנוכחיים לדבר שיכול לטפל בתכנון ובהיגיון בצורה יעילה יותר. זהו תחום מחקר פעיל, כאשר פרויקטים כמו QAR (שאלה-תשובה-היגיון) ודגמים מאומנים ל"חשיבה לאט" מראים תוצאות מבטיחות.

בינתיים, מסגרות סוכנים כמו Langchain ממלאות תפקיד חיוני בהספקת הכלים והתשתית הנחוצים לאפשר יכולות תכנון, מאפשרות למפתחים לתאם בין דגמים שונים, לתת להם גישה לכלים שונים ולעצב זרימות עבודה עקביות. ככל שתחום הסוכנים ממשיך להתפתח, היכולת לתכנן ולחשוב בצורה יעילה תישאר מוקד מרכזי הן למחקרנים והן למעשיים.

חווית המשתמש (UX) של יישומי סוכנים היא תחום שהרריסון מתרגש במיוחד לגביו. הוא מציין שה-UX עדיין לא "נוקשה" וכי נוכחות אדם בלולאה עדיין נחוצה לעתים קרובות בשל אמינות לא מהימנה של דגמי שפה והסיכון להזיות.

הרריסון מדגיש את ה-UX שהוצג בהדגמת Anthropic Delphi כדוגמה חיובית, עם היכולת לראות את המסכים השונים (דפדפן, חלון צ'אט, טרמינל, קוד) בתצוגה אחת. הוא גם מצביע על הערך של יכולת "הרוויח ועריכה", המאפשרת למשתמשים לחזור למצב קודם ולבצע התאמות, משפרת את האמינות ואת יכולת ההכוונה של הסוכן.

בנוסף, הרריסון דן בחשיבות של "הנדסת זרימה" - העיצוב המפורש של זרימת העבודה והמכונה הסטטית שבה הסוכן פועל. הוא מציע שהנדסת זרימה זו יכולה לפצות על חלק מהמגבלות של דגמי השפה עצמם, על ידי העברת התכנון וקבלת ההחלטות לידי מהנדסי האנוש מראש.

באופן כללי, הרריסון מדגיש שחווית המשתמש של יישומי סוכנים היא תחום קריטי שעדיין מתפתח, עם צורך לאזן בין אוטומציה ופיקוח אנושי כדי להבטיח עקביות, אמינות ואיכות. מסגרות סוכנים כמו Langchain יכולות לסייע בהספקת הכלים והיכולות הנחוצים לפיתוח יישומי סוכנים יעילים.

סוכנים הם כלים עוצמתיים שהולכים מעבר לסתם פקודות מורכבות. אחד ההיבטים המרכזיים שהופך את הסוכנים ליכולים כל כך הוא היכולת שלהם לנצל זיכרון, הן לטווח קצר והן לטווח ארוך.

הזיכרון לטווח קצר מאפשר לסוכנים ללמוד ולהשתפר במהלך שיחה או אינטראקציה, לבנות על שלבים קודמים ולהתאים את הגישה בהתאם. זה מאפשר אינטראקציה דינמית ומסתגלת יותר, שבה הסוכן יכול להיות מכוון ומתוקן על ידי המשתמש.

זיכרון לטווח ארוך, מצד שני, הוא חיוני עבור סוכנים כדי לשמר ולנצל את בסיס הידע של החברה. זה מאפשר לסוכנים להיות בעלי הבנה עמוקה של העסק, תהליכיו והמידע הרלוונטי, מה שהופך אותם ליעילים יותר במשימותיהם. עם זאת, ניהול זיכרון לטווח ארוך מגיע עם אתגריו שלו, כמו קביעה מה לאחסן, מתי לשכוח ואיך להתפתח הזיכרון ככל שהעסק משתנה.

שילוב של זיכרון לטווח קצר וארוך במסגרות סוכנים הוא תחום מחקר ופיתוח פעיל. ככל שיכולות אלה ימשיכו להשתפר, הסוכנים יהפכו ליותר אמינים, מותאמים אישית וערכיים בהקשרים עסקיים, שם עקביות ואיכות הם חיוניים.

נקודות המפתח מהרצאתו של הרריסון צ'ייס על סוכנים הן:

1. סוכנים הם יותר מסתם פקודות מורכבות - להם גישה לכלים שונים, זיכרון (לטווח קצר וארוך) והיכולת לתכנן ולבצע פעולות.

2. תכנון הוא היבט חיוני של סוכנים, שכן הוא מאפשר להם לחשוב על השלבים הנדרשים להשלמת משימה. עם זאת, דגמי שפה נוכחיים מתקשים בתכנון מהימן, מה שמוביל לשימוש באסטרטגיות הנחיה חיצוניות. העתיד עשוי לדרוש אדריכלויות חדשות מעבר לסתם טרנספורמרים כדי לאפשר יכולות תכנון טובות יותר.

3. חווית המשתמש (UX) של יישומי סוכנים היא תחום מרגש. טכניקות כמו אפשרות לחזור אחורה ולערוך את פעולות הסוכן יכולות לשפר את האמינות ולתת למשתמשים יותר שליטה. איזון בין נוכחות אדם בלולאה לאוטומציה הוא אתגר מתמשך.

4. זיכרון, הן לטווח קצר והן לטווח ארוך, הוא חיוני עבור סוכנים כדי ללמוד ולאישית את האינטראקציות שלהם. זיכרון פרוצדורלי (זיכרון של איך לעשות משהו) וזיכרון מותאם אישית (זיכרון של עובדות על המשתמש) הם תכונות חשובות הנחקרות.

באופן כללי, ההרצאה מדגישה את המצב הנוכחי והפוטנציאל העתידי של סוכנים, תוך הדגשת הצורך בהתקדמות בתחומי התכנון, חווית המשתמש והזיכרון כדי להפוך את הסוכנים ליותר אמינים ושימושיים ביישומים בעולם האמיתי.