מטא זה עתה פרסמה את דגמי Llama החדשים, והדגם בן 405 מיליארד הפרמטרים נחשב לחדשני ביותר, עולה על GPT-4 ברוב הבנצ'מרקים. גם הדגמים בני 70B ו-8B עודכנו ל-Llama 3.1, עם שיפורים משמעותיים, בייחוד בדגם בן 8B.

הבנצ'מרקים מראים תוצאות מרשימות, כאשר Llama 3.1 45B מקבל 89 נקודות בהערכה אנושית, בשוויון עם GPT-4 Omni. במבחנים אחרים כמו MathLang, הוא אפילו עולה על דגמים חדשניים אחרים. הקפיצות בביצועים של הדגמים בני 70B ו-8B הן מיוחדות במיוחד, כאשר הדגם בן 8B רואה כמעט הכפלה של הציונים בחלק מהבנצ'מרקים.

בעוד שהבנצ'מרקים חשובים, ה"בדיקת הרוח" היא גם קריטית. נאמר שהטון והסגנון הכתיבה של Llama 3.1 דומים ללארק, שחלקם מעדיפים על פני ChatGPT. עם זאת, השיפוט הסופי יתלה בהעדפות אישיות ובמקרי השימוש.

האופי הפתוח-מקור של הדגמים האלה פותח אפשרויות מרגשות. משתמשים יכולים לכוונן את הדגמים למשימות ספציפיות, להשתמש ב-Retrieval Augmented Generation (RAG) כדי להרחיב את חלון ההקשר, ואפילו לייצר נתונים סינתטיים כדי להמשיך להדריך את הדגמים. התמחור תואם את דגמי שפת גדולים אחרים, אך הערך האמיתי טמון ביכולת להריץ את הדגמים באופן מקומי ולשנות אותם לפי הצורך.

באופן כללי, השחרור של Llama 3.1 הוא התפתחות משמעותית בנוף ה-AI, המספק דגם פתוח-מקור חדשני ביותר שניתן לנצל במגוון יישומים.

ראשית, בואו נסיר את המפרטים הבסיסיים. מטא שחררה שלושה דגמי Llama חדשים: דגם חדש לחלוטין בן 405 מיליארד פרמטרים, ודגמים מעודכנים בני 70B ו-8B (הנקראים Llama 3.1).

הדגם בן 405B מיועד להתחרות ב-GPT-4 ובדגמים חדשניים אחרים. דגמים גדולים אלה מצטיינים במשימות כמו קידוד, הנמקה מתמטית וידע כללי. עם זאת, הם עשויים להיות מחוץ להישג יד של רוב המשתמשים ביתיים.

הדגמים הקטנים יותר בני 70B ו-8B נגישים יותר, והדגם בן 8B בפרט עבר שיפורים משמעותיים. בבנצ'מרקים כמו הערכה אנושית, מתמטיקה ושימוש בכלים, הדגם בן 8B עולה על הגרסה הקודמת של Llama 3.

אבל כפי שאומרים, "הבנצ'מרקים אינם הכל". המבחן האמיתי הוא ה"בדיקת הרוח" - כיצד הדגם מתפקד בהערכות סובייקטיביות בעולם האמיתי. נאמר שהטון והסגנון הכתיבה של הדגם בן 8B דומים לקלוד של Anthropic, שחלקם מעדיפים על פני ChatGPT.

בסופו של דבר, בדיקת הרוח היא משהו שהמשתמשים יצטרכו לקבוע בעצמם. מקרי שימוש שונים עשויים להעדיף איכויות שונות. הבשורה הטובה היא שעם היותם דגמים בעלי מקור פתוח, המשתמשים יכולים לנסות ולמצוא מה שעובד הכי טוב עבור צרכיהם.

שחרור דגמי Llama 3.1 החדשים, בייחוד הגרסאות בנות 8B ו-405B, פותח עולם של מקרי שימוש מרגשים. אחת היכולות המעניינות ביותר היא היכולת לנצל את Rag (Retrieval-Augmented Generation) וכוונון מחדש.

Rag מאפשר לדגם להשלים את חלון ההקשר שלו באמצעות קבצים או מסמכים חיצוניים. זה למעשה מרחיב את ידע והיכולות של הדגם, מאפשר לו להסתמך על מגוון רחב יותר של מקורות מידע. זה יכול להיות שימושי במיוחד למשימות הדורשות ידע מעמיק או יכולת להתייחס למידע ספציפי.

כוונון מחדש, מצד שני, מאפשר לך להתמחות את הדגם למקרה השימוש הספציפי שלך. על ידי אספקת הדגם בזוגות קלט-פלט רלוונטיים, אתה יכול לכוונן אותו מחדש כדי להצטיין במשימה מסוימת, כמו סיווג נתונים או יצירת שפה מתמחה. זה יכול להיות כלי עצמתי לתאימת הדגם לצרכים הייחודיים שלך.

מעבר ל-Rag וכוונון מחדש, האופי הפתוח-מקור של דגמי Llama האלה מאפשר גם יצירת נתונים סינתטיים. זה אומר שאתה יכול ליצור מערכי נתונים מלאכותיים כדי להדריך או לכוונן מחדש את הדגם, ומעניק לך שליטה ואפשרויות גמישות רבות יותר בשיפור ביצועיו.

התמחור של הדגמים האלה גם ראוי לציון, כאשר הדגם בן 8B מתומחר בתחרותיות לעומת חלופות כמו GPT-4 Mini. זה, בשילוב עם היכולת להריץ את הדגמים באופן מקומי, הופך אותם נגישים למגוון רחב יותר של משתמשים ומקרי שימוש.

באופן כללי, דגמי Llama 3.1, בייחוד הגרסאות בנות 8B ו-405B, מציגים עושר של הזדמנויות מרגשות למשתמשים לחקור ולנצל. מ-Rag וכוונון מחדש ועד ליצירת נתונים סינתטיים והפעלה מקומית, הדגמים האלה מציעים רמה של גמישות וכושר שניתן להתאים למגוון רחב של יישומים וצרכים.

ישנן מספר אפשרויות לגשת ולהשתמש בדגמי Llama 3.1 החדשים, כולל אפשרויות חינם והפעלה מקומית:

1. Replicate Space: יש גרסה חינמית של דגמי Llama 3.1 המאוחסנת ב-Replicate, שניתן לגשת אליה ולהשתמש בה ללא עלות. הקישור לגרסה החינמית הזו יסופק בתיאור למטה.

2. הפעלה מקומית: אתה יכול להוריד ולהריץ את דגמי Llama 3.1 באופן מקומי במכונה שלך. ניתן לעשות זאת באמצעות כלים כמו LLM Studio, המספק ממשק גרפי נוח להורדה והרצה של הדגמים. זה מאפשר לך להשתמש בדגמים ללא תלות בשירותים חיצוניים.

3. פריצת כלא: ניתן "לפרוץ את הכלא" של דגמי Llama 3.1 באמצעות פקודות שמסירות את הגבלות התוכן. זה מאפשר לך ליצור תוכן לא מצונזר ואפשרי מסוכן. עם זאת, חשוב להשתמש בתכונה זו באחריות ולהימנע מיצירת כל דבר מזיק.

4. כוונון מחדש: ניתן לכוונן מחדש את דגמי Llama 3.1, כולל הגרסה הקטנה יותר בת 8B, למקרי שימוש ספציפיים. זה כולל אספקת הדגם בזוגות קלט-פלט מותאמים אישית כדי להתמחות אותו לצרכים שלך. Open AI שחרר גם יכולות כוונון מחדש עבור הדגם GPT-4 Mini שלהם, מספקות אפשרות נוספת לכוונון מחדש.

5. בנצ'מרקינג: בעוד שהבנצ'מרקים אינם הכל, דגמי Llama 3.1 הראו ביצועים מרשימים במגוון בנצ'מרקים, לעתים תואמים או עולים על יכולות של דגמים חדשניים אחרים כמו GPT-4 Omni.

באופן כללי, דגמי Llama 3.1 מציעים מגוון אפשרויות חינמיות וגמישות למשתמשים לגשת ולנסות את מודל השפה העצמתי הזה. בין אם אתה מחפש להריץ אותו באופן מקומי, לכוונן אותו מחדש למקרה השימוש הספציפי שלך, או אפילו לחקור את יכולותיו הלא מצונזרות, שחרור Llama 3.1 מספק הזדמנויות מרגשות למעריצי AI ומפתחים.

שחרור Llama 3.1 על ידי מטא יצר התרגשות משמעותית בקהילת ה-AI. מודל שפה חדשני זה, עם הבנצ'מרקים המרשימים שלו, יש פוטנציאל לשנות לחלוטין יישומים שונים. בואו נצלול ונחקור את יכולות הכלי החזק הפתוח-מקור הזה.

ראשית וקודם כל, הבנצ'מרקים של Llama 3.1 הם באמת מרשימים. הדגם בן 405 מיליארד הפרמטרים עולה על GPT-4 Omni במספר מדדים מרכזיים, כולל הערכה אנושית, מתמטיקה ושימוש בכלים. בעוד שהדגמים הגדולים עשויים להיות לא מעשיים לשימוש ביתי, הגרסאות בנות 70 מיליארד ו-8 מיליארד מציעות ביצועים מרשימים שניתן לנצל למגוון רחב של משימות.

אחת התכונות הבולטות של Llama 3.1 היא היכולת שלו לטפל בהקשר ארוך-טווח. חלון ההקשר של 128,000 טוקנים מאפשר לדגם לשמור על עקביות ועומק בתגובותיו, מה שהופך אותו מתאים במיוחד למשימות הדורשות ידע רקע נרחב או הנמקה רב-שלבית.

האופי הפתוח-מקור של Llama 3.1 פותח עולם של אפשרויות. משתמשים יכולים לכוונן מחדש את הדגם לצרכים הספציפיים שלהם, לנצל מקורות מידע חיצוניים באמצעות Retrieval Augmented Generation (RAG), ואפ