מטבעם, מודלי שפה גדולים (LLMs) יש להם מגבלות מסוימות. לדוגמה, רוב ה-LLMs אינם טובים בביצוע חישובים מתמטיים או בגישה למידע מעודכן מעבר לתאריך הקיצוץ של האימון שלהם. כדי להתמודד עם מגבלות אלה, ניתן לתת ל-LLMs את היכולת להשתמש בכלים חיצוניים או לבצע שיחות פונקציה כדי ליישם פונקציונליות ספציפית.

זרימת שיחת הפונקציה פועלת כדלקמן:

1. כאשר מתקבלת שאילתת משתמש, ה-LLM קובע תחילה אם עליו להשתמש בכלי חיצוני או לא.
2. אם ה-LLM מחליט להשתמש בכלי, עליו לבחור את הכלי המתאים מבין האפשרויות הזמינות על בסיס השאילתה.
3. ה-LLM לאחר מכן מבצע שיחה לכלי הנבחר, שיכול להיות API או פונקציה חיצונית.
4. התגובה מהכלי מועברת בחזרה אל ה-LLM, אשר משתמש בה יחד עם שאילתת המשתמש המקורית כדי לייצר את התגובה הסופית.

מטבעם, מודלי שפה גדולים (LLMs) יש להם מגבלות מסוימות. לדוגמה, רוב ה-LLMs אינם טובים בביצוע חישובים מתמטיים או בגישה למידע מעודכן מעבר לתאריך הקיצוץ של האימון שלהם. כדי להתמודד עם מגבלות אלה, ניתן לתת ל-LLMs את היכולת להשתמש בכלים חיצוניים או לבצע שיחות פונקציה כדי ליישם פונקציונליות ספציפית.

זרימת שיחת הפונקציה פועלת כדלקמן:

1. קביעת כלי: כאשר מתקבלת שאילתת משתמש, ה-LLM יעריך תחילה אם עליו להשתמש בכלי חיצוני כדי לייצר תגובה. אם לא נדרש כלי, ה-LLM ישתמש בנתוני האימון הפנימיים שלו כדי לייצר תגובה.

2. בחירת כלי: אם ה-LLM קובע שנדרש כלי, הוא יבחר את הכלי המתאים מבין האפשרויות הזמינות. לדוגמה, אם השאילתה דורשת חישוב, ה-LLM יבחר בכלי מחשבון; אם השאילתה דורשת מידע על מזג האוויר, ה-LLM יבחר בכלי חיפוש אינטרנט.

3. הפעלת כלי: לאחר בחירת הכלי, ה-LLM יבצע שיחה לפונקציה החיצונית או ל-API שמיישם את פונקציונליות הכלי. פרמטרי הקלט לכלי נקבעים על ידי תרשים הקלט של הכלי.

4. יצירת תגובה: התגובה מהכלי החיצוני או מהשיחת הפונקציה מועברת בחזרה אל ה-LLM, אשר ישתמש במידע זה יחד עם שאילתת המשתמש המקורית כדי לייצר תגובה סופית.

זרימה זו מאפשרת ל-LLM לנצל יכולות וכלים חיצוניים כדי לספק תגובות מקיפות ומדויקות יותר לשאילתות המשתמש.

כדי להגדיר כלים במשפחת Cloud 3, יש שני רכיבים עיקריים:

1. תיאור: זהו תיאור מפורט של הכלי, שדגם ה-Cloud משתמש בו כדי לקבוע איזה כלי להשתמש עבור שאילתה נתונה. התיאור צריך לספק כמה שיותר פרטים, כולל מה הכלי עושה, מתי יש להשתמש בו, כל פרמטרים שהוא דורש, וכל הסתייגויות או מגבלות חשובות.

2. יישום: זהו היישום בפועל של הכלי, שיכול להיות API או פונקציה חיצונית. הגדרת הכלי מציינת את תרשים הקלט של הכלי, שקובע מה הקלטים שהשאילתת המשתמש צריכה לספק.

כאשר המשתמש מספק שאילתה, דגם ה-Cloud קובע תחילה איזה כלי להשתמש בו על בסיס תיאורי הכלים. הוא לאחר מכן מבצע שיחה ליישום הכלי המתאים, מעביר את הקלטים הנדרשים. תגובת הכלי מוזרמת בחזרה אל דגם ה-Cloud, אשר מייצר את התגובה הסופית למשתמש.

חלק מהנהלים הטובים ביותר להגדרת כלים כוללים:

• ספק תיאור מפורט מאוד, המכסה את כל היבטי הכלי.
• ודא שהשם של הכלי ברור ותיאורי.
• הגדר בקפידה את תרשים הקלט כדי להתאים לשאילתת המשתמש.
• שקול לשרשר מספר כלים יחד עבור מקרי שימוש מורכבים יותר.
• בדוק את הגדרות והיישומים של הכלים ביסודיות כדי להבטיח שהם פועלים כצפוי.

על ידי הקפדה על הנחיות אלה, תוכל לנצל בצורה אפקטיבית את יכולות השימוש בכלים של משפחת Cloud 3 כדי להעשיר את יכולות מודלי השפה שלך.

בעת הגדרת כלים לשימוש עם משפחת הדגמים Anthropic Cloud 3, חשוב לפעול על פי נהלים טובים אלה עבור תיאורי הכלים:

1. ספק תיאורים מפורטים: ודא שתיאור כל כלי הוא מפורט מאוד. כלול מידע על מה הכלי עושה, מתי יש להשתמש בו, והשפעתו על התנהגות הכלי.

2. הסבר פרמטרים: הסבר בבירור את המשמעות והשפעה של כל פרמטר הנדרש על ידי הכלי. זה מסייע למודל השפה להבין כיצד להשתמש בכלי בצורה אפקטיבית.

3. הדגש מגבלות: ציין כל הסתייגויות או מגבלות חשובות של הכלי, כגון סוג המידע שהוא אינו מחזיר.

4. הבטח בהירות: ודא שהשם של הכלי ברור וחד-משמעי. מודל השפה ישתמש בתיאור כדי לקבוע איזה כלי להשתמש, לכן שם ברור וקצר הוא קריטי.

5. תן עדיפות לשימושיות: התמקד בספק כלים שהם באמת שימושיים ורלוונטיים למשימה בידיים. הימנע מלכלול כלים מיותרים או חוזרים.

6. שקול שרשור כלים: אם מקרה השימוש שלך דורש רצף של שיחות כלים, שקול להשתמש בדגם Opus, שמתאים יותר לטיפול בשימוש בכלים סדרתי.

7. בדוק ביסודיות: בדוק ביסודיות את הגדרות והיישומים של הכלים כדי להבטיח שהם פועלים כצפוי ומספקים את הפונקציונליות הרצויה.

על ידי הקפדה על נהלים טובים אלה, תוכל ליצור הגדרות כלים באיכות גבוהה שיאפשרו למודלי Anthropic Cloud 3 לנצל בצורה אפקטיבית פונקציונליות חיצונית ולהעשיר את יכולותיהם.

כדי לבנות צ'אטבוט לשירות לקוחות באמצעות משפחת הדגמים Cloud 3, נפעל על פי השלבים הבאים:

1. התקנת חבילת Anthropic: נתחיל על ידי התקנת חבילת הלקוח Python של Anthropic.

2. הגדרת מפתח ה-API של Anthropic: נגדיר את מפתח ה-API של Anthropic, הנדרש לשימוש בדגמי Cloud 3.

3. בחירת דגם Cloud 3: לדוגמה זו, נשתמש בדגם CLA 3 Opus, מכיוון שהוא תומך בשימוש מורכב יותר בכלים ובשרשור.

4. הגדרת הכלים בצד הלקוח: נגדיר שלושה כלים עבור צ'אטבוט שירות הלקוחות שלנו:

   • קבלת מידע על לקוח
   • קבלת פרטי הזמנה
   • ביטול הזמנה

   לכל כלי יש תיאור מפורט, תרשים קלט, ויישום באמצעות פונקציות חיצוניות.

5. יישום הלולאה העיקרית: נייצר לולאה עיקרית שמטפלת בקלט המשתמש, קובעת איזה כלי להשתמש, מבצעת את הפונקציה המתאימה, ומזרימה את התגובה בחזרה אל מודל השפה כדי לייצר את התפוקה הסופית.

6. בדיקת הצ'אטבוט: נבדוק את הצ'אטבוט על ידי מתן שאילתות משתמש שונות, כגון קבלת כתובת דוא"ל של לקוח, בדיקת סטטוס הזמנה, וביטול הזמנה.

על ידי ביצוע תהליך זה, נוכל לבנות צ'אטבוט לשירות לקוחות שמנצל את יכולות משפחת הדגמים Cloud 3 ואת היכולת לקרוא לכלים או פונקציות חיצוניים כדי להעשיר את הפונקציונליות שלו.

בסרטון זה, חקרנו את המושג של שיחת פונקציה ושימוש בכלים חיצוניים עם משפחת הדגמים Anthropic Cloud 3. למדנו את הנקודות המפתח הבאות:

1. המוטיבציה לשיחת פונקציה: ל-LLMs יש מגבלות מסוימות, כגון חוסר היכולת לבצע חישובים מורכבים או לגשת למידע מעודכן. שיחת פונקציה מאפשרת ל-LLM לנצל כלים וAPI חיצוניים כדי להתגבר על מגבלות אלה.

2. זרימת שיחת פונקציה: ה-LLM קובע תחילה אם עליו להשתמש בכלי חיצוני, לאחר מכן בוחר את הכלי המתאים על בסיס התיאורים שסופקו, ולבסוף מבצע שיחה ליישום הכלי כדי לקבל את המידע הנדרש.

3. הגדרת כלים: כלים מוגדרים עם שם, תיאור מפורט, ותרשים קלט. התיאור הוא קריטי מכיוון שהוא עוזר ל-LLM להחליט איזה כלי להשתמש.

4. נהלים טובים: ספק תיאור