AutoCoder הוא מודל שפה גדול חדש שהחל לעורר גלים בקהילת ה-AI. מודל זה עבר את ביצועי GPT-4 Turbo (גרסת אפריל 2024) וכן את ה-GPT-4 Omni החדש יותר בבנצ'מרק היוקרתי של הערכת האדם, שזהו הישג מרשים.

מה שמבדיל את AutoCoder הוא מפענח הקוד הרב-תכליתי שלו. בניגוד ל-GPT-4 Turbo ו-Omni, שמוגבלים לחבילות מובנות, AutoCoder יכול להתקין באופן אוטומטי חבילות חיצוניות לפי הצורך, מרחיב משמעותית את היקף המשימות שהוא יכול לטפל בהן. תכונה זו מאפשרת ל-AutoCoder להתמודד עם מגוון רחב יותר של אתגרי קידוד.

הבדל מפתח נוסף הוא האופן שבו מפענח הקוד מופעל. עם AutoCoder, המפענח משמש באופן סלקטיבי, רק כאשר המשתמש צריך לאמת את הקוד. לעומת זאת, המפענח הפתוח של GPT-4 Turbo מריץ את כל קוד Python שנוצר כברירת מחדל, מבלי להמתין לקלט משתמש או לאימות קוד.

האדריכלות של AI EV Instruct מחולקת לשני שלבים עיקריים: שלב ההוראה ושלב הלמידה העצמית.

בשלב ההוראה, המודל לומד בעיקר על ידי הפצת ידע ממודל מורה, כמו GPT-4 Turbo או DeBERTa. שלב זה כולל ארבעה צעדים עיקריים:

1. אתחול: המודל מאתחל תפקידים, הודעות דיאלוג והמפענח הקוד.
2. פתרון בעיות: המודל מתאר בעיות ומספק פתרונות, כאשר הודעות הדיאלוג מצורפות לתיאור הבעיה.
3. משוב ביצוע: המודל מטפל בשגיאות, מספק תיאורים בשפה טבעית ומשנה את מודל הקוד.
4. סיום: אם התוכנית מבוצעת בהצלחה, הודעות הדיאלוג מצורפות להשלמת ניתוח של רשומת נתונים אחת, והתהליך עובר לשלב הערכת הנתונים.

שלב הלמידה העצמית הוא המקום שבו המודל הסטודנט מחליף את המודל המקורי ונוטל על עצמו את תפקידי השואל והמתכנת. המודל הסטודנט משלים את כל תהליך משוב הביצוע באופן עצמאי, מה שמאפשר לו להמשיך ללמוד ולשפר את ביצועיו מבלי להישען על מודל המורה.

AutoCoder, מודל שפה גדול חדש המתמקד בשיפור קוד, יש לו מאגר נתונים הרבה יותר חסון בהשוואה למודלים מתקדמים אחרים המתמקדים בקידוד. להלן פירוט ההבדלים העיקריים:

• מאגר נתונים של AutoCoder: 169 אלף דגימות נתונים, 241 סבבי דיאלוג, כולל פונקציה ראשית, התקנת חבילות, שגיאות ביצוע קוד ותיקונים. הוא גם משלב בדיקות יחידה לדיוק טוב יותר.

• Magic Coder OSS Instruct: 75 אלף דגימות נתונים, 75 סבבי דיאלוג.

• Magic Coder EAL Instruct: רק 1,111 דגימות נתונים, 111 סבבי דיאלוג.

המאגר הנתונים הגדול בהרבה והסבבי דיאלוג המקיפים יותר במאמן של AutoCoder מעניקים לו יתרון ברור על פני מודלים אחרים. הכללת בדיקות יחידה מגבירה עוד יותר את הדיוק והמהימנות של הקוד שנוצר על ידי AutoCoder.

בהשוואה למודלי שפה גדולים כמו LLaMA 7B ו-GPT-4 Omni Ultra, AutoCoder מוכיח את עצמו, מדגים את ביצועיו החזקים בתחום הקידוד. מודל קוד פתוח זה מציג הזדמנות מרגשת למפתחים לנצל את יכולותיו בפרויקטים שלהם.

AutoCoder, מודל שפה גדול חדש המתמקד בייצור והבנת קוד, זה עתה עבר את ביצועי GPT-4 Turbo (גרסת אפריל 2024) ו-GPT-4 Omni בבנצ'מרק הערכת האדם. זהו הישג מרשים, שכן מודלים אלה נחשבו קודם לכן כמתקדמים ביותר בתחום המשימות הקשורות לקוד.

אחת היתרונות המרכזיים של AutoCoder היא היכולת שלו לגשת ולהשתמש בספריות חיצוניות, בניגוד למודל ה-GPT-4 Turbo המוגבל יותר. פונקציונליות מורחבת זו מאפשרת ל-AutoCoder לטפל במגוון רחב יותר של משימות ויישומים. בנוסף, מודל ה-AutoCoder מתוכנן להפעיל את מפענח הקוד באופן סלקטיבי בהתבסס על דרישות המשתמש, במקום להריץ את כל הקוד שנוצר כברירת מחדל כמו המפענח הפתוח.

מבחינת מאגר הנתונים, ל-AutoCoder יש מאגר נתונים משמעותית גדול יותר בהשוואה למודלים אחרים המתמקדים במשימות קידוד. מאגר הנתונים של AutoCoder מכיל 169,000 דגימות נתונים עם 241 סבבי דיאלוג, כולל פונקציה ראשית, התקנת חבילות, שגיאות ביצוע קוד ותיקונים. מאגר נתונים מקיף זה מאפשר למודל ללמוד ולשפר את יכולות ייצור והבנת הקוד שלו ביעילות רבה יותר.

בבנצ'מרק מול מודלים מתקדמים אחרים, כמו LLaMA 400B ו-GPT-4 Omni Ultra for Gemini, AutoCoder הוכיח את יכולתו להתחרות ואפילו לעבור את מודלי השפה המוסדיים הגדולים האלה. זהו הישג מרשים עבור מודל קוד פתוח, המדגים את הפוטנציאל של AutoCoder להפוך לכלי חשוב בתחום המשימות הקשורות לקוד.

בכללותו, תוצאות הבנצ'מרק מדגישות את היכולות המרשימות של מודל ה-AutoCoder ואת הפוטנציאל שלו לחולל מהפכה בדרך שבה אנו מתייחסים לייצור והבנת קוד. בהיותו מודל קוד פתוח, AutoCoder מציג הזדמנות מרגשת למפתחים וחוקרים לחקור ולנצל את התכונות המתקדמות שלו.

הצגת AutoCoder, מודל שפה גדול חדש שעובר את GPT-4 Turbo ו-GPT-4 Omni בבנצ'מרק הערכת האדם, היא התפתחות משמעותית בתחום הבנת והפקת קוד. מודל קוד פתוח זה, המבוסס על אדריכלות DeepSE coder, מציע מפענח קוד גמיש ויכולתי יותר בהשוואה לקודמיו.

אחת התכונות המרכזיות של AutoCoder היא היכולת להתקין באופן אוטומטי חבילות חיצוניות, מרחיבה את היקף יכולות הבנת הקוד שלו. זוהי שיפור משמעותי לעומת המגבלות של GPT-4 Turbo, המוגבל לחבילות מובנות בלבד. השימוש הסלקטיבי במפענח הקוד, בהתאם לדרישות המשתמש, הוא היבט נוסף ראוי לציון של AutoCoder.

המאמן של המודל, הכולל מאגר נתונים של דיאלוג רב-סבבי ומערכת של שילוב אינטראקציות סוכן עם אימות ביצוע קוד חיצוני, תרם לביצועיו המרשימים. ההשוואה של מאגר הנתונים של AutoCoder למודלים מתקדמים אחרים, כמו LLaMA 3 400B ו-GPT-4 Omni Ultra, מדגישה את יתרונותיו נוספות.

בכללותו, הצגת AutoCoder מייצגת צעד משמעותי קדימה בפיתוח מודלי שפה גדולים למשימות הקשורות לקוד. אופיו הקוד פתוח ויכולותיו המשופרות הופכים אותו לכלי חשוב למפתחים וחוקרים כאחד, וזה יהיה מעניין לראות כיצד הוא ימשיך להתפתח ולהשפיע על תחום הקידוד המסייע באמצעות AI.