שחרור דגם LLAMA 3 של Meta הוא אירוע ציון דרך עבור קהילת הבינה המלאכותית. הבנצ'מרקים והביצועים של דגם קוד פתוח זה הם אכן מרשימים:

• דגם LLAMA 3 בעל 8 מיליארד פרמטרים כבר כמעט בעל עוצמה שווה לדגם LLAMA 2 הגדול ביותר, המציג שיפורים משמעותיים ביעילות ובכושר.
• דגם LLAMA 3 בעל 70 מיליארד פרמטרים מגיע לכ-82 MMLU (מדד רב-משימתי להבנת שפה), מובילים בבנצ'מרקים של הנמקה ומתמטיקה.
• דגם LLAMA 3 בעל 400 מיליארד פרמטרים, הנמצא כרגע בהדרכה, צפוי להיות מוביל בתעשייה במספר בנצ'מרקים, ואולי אפילו שווה ערך ביכולת לGPT-4.
• LLAMA 3 עבר את ביצועי דגמים מתקדמים כמו Claude Sonet, מדגים את יכולת Meta לדחוף את גבולות הבינה המלאכותית בקוד פתוח.
• בהשוואה לדגמים קוד פתוח אחרים כמו Megatron ו-Gemini, LLAMA 3 עולה עליהם בביצועים לאורך מגוון בנצ'מרקים ומשימות.
• Meta פיתחה סט הערכה אנושית איכותי חדש לאופטימיזציה של LLAMA 3 עבור תרחישים בעולם האמיתי, מבטיח שיכולות הדגם מתורגמות ליישומים מעשיים.

Meta פיתחה סט הערכה אנושית איכותי חדש לאופטימיזציה של ביצועי דגם Llama 3 שלהם עבור תרחישים בעולם האמיתי. סט הערכה זה מכיל 1,800 פרומפטים המכסים 12 מקרי שימוש עיקריים, כולל:

• בקשת עצה
• מיתוג
• סיווג
• מענה על שאלות סגורות
• קידוד
• כתיבה יצירתית
• استخراج
• התגלמות דמות
• מענה על שאלות פתוחות
• הנמקה
• כתיבה מחדש
• סיכום

כדי למנוע התאמה יתר מקרית, אפילו צוותי המודלינג של Meta עצמם אין להם גישה לסט הערכה זה.

בבדיקה מול דגמים מתקדמים אחרים כמו Claude Sonic, Llama 3 ביצע באופן מרשים בהערכה האנושית:

• 52% ניצחון
• 12.9% תיקו
• 34% הפסד

לאורך מגוון בנצ'מרקים, דגם Llama 3 בעל 70 מיליארד פרמטרים עלה בביצועים על דגמים קוד פתוח וסגורים אחרים, כולל Mistral's 8x22B ו-Gemini Pro 1.0.

דגם Llama 3 משתמש גם בטוקנייזר יעיל יותר עם אוצר מילים של 128,000 טוקנים, מה שמוביל לשיפורים ביצועיים משמעותיים. בנוסף, נתוני ההדרכה עבור Llama 3 גדולים פי שבעה מאלה ששימשו עבור Llama 2, עם ארבע פעמים יותר קוד ויותר מ-5% נתונים לא אנגלית באיכות גבוהה המכסים יותר מ-30 שפות.

Meta גם עובדת על דגם Llama 3 גדול אפילו יותר בעל 400 מיליארד פרמטרים, שנמצא כרגע עדיין בהדרכה. דגם זה צפוי להיות שווה ערך בביצועים לGPT-4, מסמן ציון דרך משמעותי עבור קהילת הבינה המלאכותית בקוד פתוח.

דגם llama 3 של Meta משתמש בטוקנייזר עם אוצר מילים של 128,000 טוקנים, מה שמאפשר קידוד יעיל יותר של שפה ומוביל לשיפורים משמעותיים בביצועי הדגם.

נתוני ההדרכה עבור llama 3 הם נרחבים, מורכבים מיותר מ-5 טריליון טוקנים שנאספו ממקורות ציבוריים זמינים. מערך נתונים זה גדול פי 7 מזה ששימש עבור llama 2, וכולל 4 פעמים יותר קוד. בנוסף, יותר מ-5% מנתוני ההדרכה מורכבים מנתונים לא אנגלית באיכות גבוהה המכסים יותר מ-30 שפות, אם כי הביצועים של הדגם צפויים להיות חזקים יותר באנגלית.

היקף והאיכות העצומים של נתוני ההדרכה היו גורמים מפתח בתוצאות הבנצ'מרק המרשימות של llama 3, עוברים דגמים מתקדמים כמו Claude Sonet ועולים על דגמים קוד פתוח וסגורים אחרים בגודל דומה. המיקוד של Meta על אופטימיזציה של הדגם עבור מקרי שימוש בעולם האמיתי באמצעות סט הערכה אנושי חדש תרם גם הוא לביצועיו החזקים.

בנוסף, Meta מאמנת כרגע גרסה גדולה אפילו יותר של llama 3 בעלת 400 מיליארד פרמטרים, שצפויה להגיע ליכולות ברמת GPT-4 ולהשפיע באופן משמעותי על נוף המחקר והפיתוח של הבינה המלאכותית.

אחת ההודעות המפתיעות והמרגשות ביותר משחרור LLAMA 3 של Meta היא הדגם בעל 400 מיליארד פרמטרים הקרב לצאת. דגם ענק זה נמצא כרגע עדיין בהדרכה, כאשר העדכון האחרון שלו היה ב-15 באפריל 2023.

בהשוואה למודלי שפה גדולים אחרים כמו GPT-4 ו-Chinchilla, דגם LLAMA 3 הקרב לצאת הזה נראה שווה ערך או אפילו עולה על יכולותיהם. על פי הבנצ'מרקים שסופקו, דגם LLAMA 3 בעל 400 מיליארד פרמטרים צפוי להשיג ביצועים מובילי תעשייה במגוון משימות, כולל בנצ'מרק MMLU של הנמקה ומתמטיקה.

דגם זה הקרב לצאת מייצג רגע מכונן עבור קהילת הבינה המלאכותית, שכן הוא יספק גישה פתוחה לדגם ברמת GPT-4. צפוי שזה ישנה באופן משמעותי את הנוף עבור מאמצי מחקר רבים ועבור סטארט-אפים ברמת הדשא, משחרר גל של חדשנות ואנרגיית בונה ברחבי המערכת האקולוגית.

בעוד שהשחרורים הנוכחיים של LLAMA 3 בעלי 8 מיליארד ו-70 מיליארד פרמטרים כבר הפגינו ביצועים מרשימים, דגם 400 מיליארד הפרמטרים צפוי להעלות את הדברים לרמה הבאה. ככל שהדגם ימשיך להתאמן בחודשים הקרובים, צפוי שהוא ישפר ויחזק את מעמדו כגב עמוד בינה מלאכותית בקוד פתוח חזק שיכול להיות מנוצל על ידי מפתחים וחוקרים כאחד.

שחרור דגם Llama 3 של Meta הוא אירוע ציון דרך עבור קהילת הבינה המלאכותית. ביצועי הדגם במגוון בנצ'מרקים, כולל עבירה על דגמים מתקדמים כמו Claude Sonet, הם אכן מרשימים.

הפתיחה של Llama 3 לקוד פתוח היא צעד משמעותי קדימה, שכן היא מספקת לקהילת המפתחים גישה למערכת בינה מלאכותית חזקה שהיא שווה ערך ליכולות של GPT-4. זה בוודאי יעורר חדשנות והתקדמות בתחומים כמו מדע, בריאות ועוד.

המיקוד של Meta על אופטימיזציה של Llama 3 עבור מקרי שימוש בעולם האמיתי, כפי שמוכח על ידי סט ההערכה האנושי החדש, הוא גישה ראויה לשבח. על ידי מתן עדיפות לביצועים מכוונים אנוש, Meta מבטיח שהדגם לא רק מרשים על הנייר, אלא גם מעשי ושימושי ביישומים יומיומיים.

שחרור הדגם Llama 3 בעל 400 מיליארד פרמטרים הקרב לצאת מצופה בקוצר רוח, שכן צפוי שהוא יקדם את הגבולות של מה שאפשרי עם בינה מלאכותית בקוד פתוח. הקהילה מצפה בקוצר רוח לשחרור הדגם ולפוטנציאל שלו לשחרר הזדמנויות מחקר ופיתוח חדשות.

בכללות, שחרור Llama 3 הוא ציון דרך משמעותי בנוף הבינה המלאכותית, וזה יהיה מרגש לראות כיצד הקהילה בקוד פתוח תנצל כלי עצמתי זה כדי לקדם חדשנות והתקדמות בשנים הבאות.