מטא שמחה להודיע על שחרור משפחת הדגמים Llama 3.1, כולל הדגם המהפכני בעל 405 מיליארד פרמטרים, וכן דגמים מעודכנים בעלי 8 מיליארד ו-70 מיליארד פרמטרים. זהו המודל השפתי הגדול והמסוגל ביותר שנשחרר אי פעם בקוד פתוח.

הדגם בעל 405 מיליארד הפרמטרים מציע שיפורים משמעותיים בתחום ההיסקה, השימוש בכלים, הרב-לשוניות וגודל החלון הקונטקסטואלי. תוצאות הבנצ'מרק האחרונות עולות על הביצועים שהוצגו מוקדם יותר השנה. מטא מעודדת את המשתמשים לסקור את הפרטים במאמר המחקר שפורסם לאחרונה.

לצד הדגם בעל 405 מיליארד הפרמטרים, מטא משחררת גם דגמים מעודכנים בעלי 8 מיליארד ו-70 מיליארד פרמטרים, המיועדים לתמוך במגוון רחב של מקרי שימוש, החל מחובבים וחברות הזנק ועד לארגונים ומעבדות מחקר. דגמים אלה מתהדרים בביצועים מרשימים ויכולות חדשות בולטות, כולל חלון קונטקסט מורחב של 128 אלף אסימונים, יצירת שיחות כלים וכישורי היסקה משופרים.

כדי להעמיק את מחויבותה לבינה מלאכותית בקוד פתוח, מטא עדכנה את הרישיון עבור דגמים אלה, מאפשרת למפתחים להשתמש בפלטים כדי לשפר מודלים אחרים, כולל באמצעות יצירת נתונים סינתטיים והפחתה. זה מאפשר אפשרויות חדשות ליצירת מודלים קטנים מסוגלים יותר ולקידום מחקר הבינה המלאכותית.

הדגם בעל 405 מיליארד הפרמטרים שנשחרר לאחרונה הוא הישג מהפכני, שמציב סטנדרט חדש למודלי בינה מלאכותית בקוד פתוח. מודל ענק זה מתהדר ביכולות חסרות תקדים, עולה על בנצ'מרקים קודמים ומציע שיפורים משמעותיים בתחום ההיסקה, השימוש בכלים והביצועים הרב-לשוניים.

הדגם בעל 405 מיליארד הפרמטרים הוא המודל הגדול ביותר בקוד פתוח שנשחרר אי פעם, מדהים את ההצעות הקודמות. מודל זה מציע התקדמויות מרשימות, כולל חלון קונטקסט גדול יותר של 128 אלף אסימונים, מאפשר לו לעבוד בצורה חלקה עם בסיסי קוד נרחבים וחומרי מקור מפורטים.

Llama 3.1 הוכשר ליצור שיחות כלים לפונקציות ספציפיות, כגון חיפוש, ביצוע קוד וסיבות מתמטיות, משפר עוד את יכולות פתרון הבעיות וקבלת ההחלטות שלו. היכולת של המודל לשימוש בכלים ללא הדרכה מראש והיסקה משופרת הופכים אותו לכלי עצמתי למגוון רחב של יישומים.

השחרור העדכני של Llama 3.1 כולל דגמים מעודכנים בעלי 8 מיליארד ו-70 מיליארד פרמטרים המציעים ביצועים מרשימים ויכולות חדשות בולטות. בהתבסס על משוב מהקהילה, חלון הקונטקסט של דגמים אלה הורחב ל-128 אלף אסימונים, מאפשר להם לעבוד עם בסיסי קוד גדולים יותר או חומרי מקור מפורטים יותר.

דגמים מעודכנים אלה בעלי 8 מיליארד ו-70 מיליארד פרמטרים הוכשרו ליצור שיחות כלים לפונקציות ספציפיות, כגון חיפוש, ביצוע קוד וסיבות מתמטיות. הם גם תומכים בשימוש בכלים ללא הדרכה מראש ובהיסקה משופרת, המשפרים את יכולות קבלת ההחלטות ופתרון הבעיות שלהם.

בנוסף, הגישה ברמת המערכת עודכנה כדי להקל על המפתחים לאזן בין התועלת לבין הצורך בבטיחות. דגמים אלה זמינים כעת להטמעה בשותפים שונים, כולל AWS, Databricks, NVIDIA ו-Gro, בנוסף להרצה מקומית.

הדגמים העדכניים של Llama 3.1, כולל הדגם בעל 405 מיליארד הפרמטרים, מציעים שיפורים משמעותיים בשימוש בכלים, היסקה ובטיחות. הדגמים הוכשרו ליצור שיחות כלים לפונקציות ספציפיות כמו חיפוש, ביצוע קוד וסיבות מתמטיות, מאפשרים למשתמשים לנצל ביעילות יכולות אלה. בנוסף, הדגמים תומכים בשימוש בכלים ללא הדרכה מראש, מאפשרים להם להחיל את יכולות ההיסקה שלהם על מגוון משימות ללא צורך בהדרכה מפורשת.

חלון הקונטקסט המורחב של 128 אלף אסימונים מאפשר לדגמים לעבוד עם בסיסי קוד גדולים יותר או חומרי מקור מפורטים יותר, משפר את יכולתם להסיק ולפתור בעיות. שיפורים אלה ביכולות ההיסקה מתורגמים לקבלת החלטות ויכולות פתרון בעיות טובות יותר, הופכים את דגמי Llama 3.1 ליותר רב-תכליתיים ויעילים במגוון יישומים.

בנוסף, הצוות עבד בקרבה עם שותפים להבטיח שהטמעת Llama 3.1 בפלטפורמות כמו AWS, Databricks, NVIDIA ו-Gro תהיה חלקה. שילוב זה עם ספקי ענן ובינה מלאכותית מובילים יקל על המפתחים לגשת ולנצל את היכולות המשופרות של דגמי Llama 3.1.

לבסוף, הרישיון המעודכן עבור דגמי Llama 3.1 מאפשר למפתחים להשתמש בפלטים כדי לשפר מודלים אחרים, כולל הדגם בעל 405 מיליארד הפרמטרים. גישה זו של קוד פתוח מאפשרת אפשרויות חדשות ליצירת מודלים קטנים מסוגלים יותר ולקידום מחקר הבינה המלאכותית, מחזקת עוד יותר את מחויבותה של מטא למערכת הבינה המלאכותית בקוד פתוח.

אנו שמחים להודיע שהדגמים החדשים של Llama 3.1, כולל הדגם בעל 405 מיליארד הפרמטרים, זמינים כעת להטמעה בטווח רחב של פלטפורמות שותפים. בנוסף להרצה מקומית של הדגמים, מפתחים יוכלו כעת לגשת ל-Llama 3.1 דרך AWS, Databricks, NVIDIA ועוד ספקי תשתית ענן ובינה מלאכותית מובילים.

גישת ההטמעה המשותפת הזו מיישרת קו עם המחויבות שלנו להפוך את Llama נגיש למגוון רחב של משתמשים, החל מחובבים וחברות הזנק ועד לארגונים ומעבדות מחקר. על ידי שיתוף פעולה עם מובילי התעשייה הללו, אנו מאפשרים שילוב חלק של Llama 3.1 במגוון זרימות עבודה ומקרי שימוש, מעצימים את קהילת המפתחים לבנות יישומים ופתרונות חדשניים.

חלון הקונטקסט המורחב של 128 אלף אסימונים בדגמים החדשים של Llama 3.1 יאפשר למשתמשים לעבוד עם בסיסי קוד גדולים יותר, חומרי מקור מפורטים יותר ומשימות מורכבות יותר. בנוסף, יכולות ההיסקה המשופרות של הדגמים והתמיכה בשימוש בכלים ללא הדרכה מראש יעצימו את יכולות קבלת ההחלטות ופתרון הבעיות במגוון יישומים.

אנו נרגשים לראות מה הקהילה תבנה עם Llama 3.1, ואנו מצפים להמשיך לשתף פעולה עם השותפים שלנו כדי לקדם את ההתקדמות של טכנולוגיית הבינה המלאכותית בקוד פתוח.

ב-Meta, אנו מאמינים בכוחו של קוד פתוח ומחויבים להעמיק את תרומתנו לקהילה עם שחרור Llama 3.1. עם הרישיון המעודכן, מפתחים יכולים כעת להשתמש בפלטים מהדגם בעל 405 מיליארד הפרמטרים כדי לשפר מודלים אחרים, מאפשר אפשרויות חדשות ליצירת מודלים קטנים מסוגלים יותר ולקידום מחקר הבינה המלאכותית.

אנו צופים שיצירת נתונים סינתטיים והפחתה יהיו מקרי שימוש פופולריים, מאפשרים לקהילה לבנות על עבודתנו ולדחוף את הגבולות של מה שאפשרי עם בינה מלאכותית בקוד פתוח. על ידי הפיכת Llama 3.1 לזמין דרך שותפים כמו AWS, Databricks, NVIDIA ו-Gro, אנו מבטיחים שמפתחים וחוקרים יוכלו לגשת בקלות למודל עצמתי זה, מניעים חדשנות ושיתוף פעולה נוספים.

מטרתנו היא להפוך את הבינה המלאכותית בקוד פתוח לסטנדרט התעשייה, ממשיכים את המחויבות שלנו לעתיד שבו גישה רחבה יותר למודלי בינה מלאכותית יכולה לעזור למערכות אקולוגיות להצליח ולפתור את האתגרים הדוחפים ביותר בעולם. אנו מצפים לקבל משוב ותרומות מקהילת המפתחים כשהם יבנו על יכולות Llama.

שחרור Llama 3.1 עם הדגם בעל 405 מיליארד הפרמטרים, יחד עם הדגמים המעודכנים בעלי 8 מיליארד ו-70 מיליארד פרמטרים, מייצג ציון דרך משמעותי בקידום הבינה המלאכותית בקוד פתוח. מודל זה עולה על הביצועים שהוצגו מוקדם יותר השנה ומציע יכולות מרשימות, כולל