איליה סוק, העובד לשעבר של OpenAI שניסה להוביל מרד נגד סם אלטמן, השיק חברה חדשה בשם "Safe Super Intelligence Inc." החברה מוקדשת לרדיפה אחר בינה מלאכותית על-אנושית בטוחה, שסוק מאמין שהיא הבעיה הטכנית החשובה ביותר בזמננו.

סוק הרכיב צוות של מהנדסים ומחקרנים מנוסים, כולל המייסדים המשותפים דניאל גרוס ודניאל לוי, כדי לעבוד להשגת מטרה זו. משימת החברה היא להתקדם בקצב מהיר ככל האפשר תוך הבטחה שהבטיחות תישאר מובילה, בניגוד לדאגות של סוק לגבי העדיפויות של OpenAI.

Safe Super Intelligence Inc. נוקטת בגישה של "ירי ישיר", עם מוקד יחיד ומוצר אחד. החברה היא ישות אמריקאית עם משרדים בפאלו אלטו ובתל אביב, מה שמאפשר לה לגייס כישרונות טכניים מובילים. סוק מדגיש שדגם העסקים, המשקיעים והתוכנית המלאה של המוצר של החברה מיושרים להשגת בינה מלאכותית על-אנושית בטוחה, ללא הסחות דעת של ניהול או מחזורי מוצרים.

הודעת ההשקה של החברה קובעת ש"בינה על-אנושית היא בהישג יד" וש-Safe Super Intelligence Inc. היא "המעבדה הראשונה בעולם המוקדשת לירי ישיר של SSI" לאתגר קריטי זה. מטרתו של סוק היא לרדוף אחר פריצות דרך מהפכניות בבינה מלאכותית על-אנושית בטוחה באמצעות צוות קטן ומרוכז.

אילון מאסק וטסלה בונים חווה שרתים אדירה בעזרת דל ונוידיה. חווה זו מיועדת להפעיל מודלים של שפה גדולים ומערכות בינה מלאכותית.

הפרויקט הוזכר לראשונה לפני מספר חודשים, עם תמונה המראה את הקנה המידה של מערכת הקירור הנדרשת לפרויקט הענק הזה. אתמול, מייסד דל, מייקל דל, אישר ש"אנחנו בונים מפעל AI של דל עם נוידיה כדי להפעיל את GPT עבור XAI".

חווה השרתים ממוקמת בטקסס, שם האקלים החם דורש מערכת קירור חזקה. התמונות מראות את הגודל העצום של המאווררים המותקנים כדי להחזיק את השרתים קרים.

שיתוף הפעולה הזה בין אילון מאסק, מייקל דל ונוידיה מדגיש את ההשקעה והתשתית המשמעותיות הנדרשות לתמוך בפיתוח של מערכות בינה מלאכותית מתקדמות. על ידי בניית חווה שרתים אדירה זו, הם מיצבו את עצמם כדי להפעיל את הדור הבא של מודלי שפה גדולים ויישומי בינה מלאכותית.

מאמר המחקר שפורסם לאחרונה נראה שמציג יישום של טכניקה הדומה לQ*, אלגוריתם חזק המשלב חיפוש עץ מונטה קרלו ולמידה עמוקה. גישה זו מאפשרת לסוכנים ללמוד קבלת החלטות וסיבתיות דרך תהליך של ניסוי וטעייה, בדומה לאופן שבו בני אדם לומדים.

החידוש המרכזי הוא השימוש ב-MCTS (חיפוש עץ מונטה קרלו) ובשיפור עצמי, מה שמאפשר למודל לתכנן מראש, לנסות אפשרויות שונות וללמוד מטעויותיו. זהו התקדמות משמעותית מעבר למודלי שפה מסורתיים המסתמכים רק על ניבוי המילה הבאה. התוצאות מרשימות, כאשר המודל מגיע לדיוק של 96.66% במבחן מתמטי, עובר אפילו את מודלי השפה הגדולים כמו GPT-4 ו-Gemini, תוך שימוש ב-200 פחות פרמטרים. זה מדגים את הכוח של שילוב תכנון, סיבתיות ולמידה במסגרת אחת.

היכולת לתכנן, לנסות ולשפר את הגישה היא צעד חיוני לקראת אינטליגנציה כללית יותר. ככל שנמשיך לראות פריצות דרך בתחומים כמו זה, הדרך לאינטליגנציה כללית מלאכותית (AGI) הופכת למוחשית יותר ויותר.

Meta AI שחרר לאחרונה מספר דגמים וטכנולוגיות חדשות מרגשות:

1. Meta Chameleon: מודל שפה בעל 7 מיליארד ו-34 מיליארד פרמטרים התומך בקלט מעורב ובטקסט כפלט. מודל זה יכול לטפל בקלט מולטימודלי באופן מובנה, בשונה ממודלים קוד פתוח קודמים שדרשו תוספות. כרגע הוא זמין רק ברישיון מחקר, אך טכנולוגיה זו היא צעד משמעותי קדימה ביכולות הבינה המלאכותית המולטימודלית.

2. ניבוי מרובה אסימונים: Meta הציעה גישה חדשה לדיוק שפה שמנבאת מספר מילים עתידיות בו-זמנית, במקום השיטה המסורתית של ניבוי מילה אחת בכל פעם. זה משפר את יכולות המודל והיעילות של האימון, תוך אפשור מהירות גבוהה יותר. Meta משחרר מודלים מאומנים מראש להשלמת קוד תחת רישיון מחקר לא מסחרי.

3. מודלים גנרטיביים של טקסט לצליל: Meta פיתח מודלים מסוגלים ליצור מוזיקה מקלט טקסט, עם מגוון קלטים מותנים לשליטה גבוהה יותר. המודל המאומן מראש והקוד להסקה יושחרר בחודש הקרוב תחת רישיון MIT, מה שיאפשר למחקרנים לחקור את היכולת המרגשת הזו.

שחרורים אלה מדגימים את ההתקדמות המתמשכת של Meta בבינה מלאכותית מולטימודלית, בדיוק שפה ובכישורים גנרטיביים. הפצת חינמית של מודלים וטכנולוגיות אלה תאפשר מחקר ופיתוח נוספים בתחומים אלה, מניעת התקדמות בבינה מלאכותית.

Anthropic זה עתה שחרר גרסה חדשה של מודל השפה שלהם, Claude, בשם Claude 3.5 Sonet. על פי ההודעה, זהו "המודל החכם ביותר שלהם עד כה" והשחרור הראשון במשפחת המודלים 3.5.

הדגשים העיקריים של Claude 3.5 Sonet כוללים:

• הוא עולה על מודלים מתחרים בהערכות מפתח, כולל GSM 8K (96.4%), סיבתיות ברמת תואר (60%) וקוד (92%) - כל זאת בקצב כפול מ-Claude 3 ו-Opus, ובעלות של 1/10 בלבד.

• הוא עובר את Claude 3 Opus בכל בנצ'מרקי החזותיים הסטנדרטיים, הופך אותו למודל החזותי החזק ביותר של Anthropic עד כה.

• הוא מציג תכונה חדשה בשם "Artifacts", המאפשרת למשתמשים לבקש מ-Claude ליצור מסמכים, קוד, תרשימים, גרפיקה וקטורית ואפילו משחקים פשוטים.

שחרור של Claude 3.5 Sonet מדגים את ההתקדמות המתמשכת של Anthropic בפיתוח מודלי שפה בעלי יכולות וביעילות גבוהות. השיפורים בביצועים במגוון בנצ'מרקים, כמו גם התכונה החדשה של Artifacts, הופכים זאת לעדכון משמעותי למשפחת המודלים של Claude.

פרס האר"ק הוא תחרות ציבורית בת מיליון דולר לפיתוח פתרון שיכול להביס את Abstraction and Reasoning Corpus (ARC), שנחשב למדד הרשמי היחיד לאינטליגנציה כללית מלאכותית (AGI).

הנקודות המפתח לגבי תחרות זו הן:

• מדד ARC מודד אינטליגנציה כללית, ולא רק מיומנויות ספציפיות. הוא בוחן את היכולת לרכוש מיומנויות חדשות בקצב יעיל, שהיא הסימן המובהק של אינטליגנציה אמיתית.

• בעוד שמודלי AI קיימים הצליחו במהירות לעבור מדדים אחרים, מדד ARC נותר אתגר משמעותי, כאשר היישום המוביל הנוכחי מגיע רק לשיעור הצלחה של 38%.

• התחרות מאורגנת על ידי מייק מירזאיאנוב, פרנסואה שולה וגרג ברוקמן, במטרה לעודד התקדמות לקראת המטרה הנמנעת של AGI.

• פרס של מיליון דולר יוענק לאדם או לצוות הראשונים שיפתחו מערכת בינה מלאכותית מסוגלת לפתור את מדד ARC.

תחרות זו מייצגת הזדמנות מרגשת לקהילת המחקר בבינה מלאכותית לדחוף את גבולות האפשרי ולעשות צעד משמעותי לקראת מימוש האינטליגנציה הכללית המלאכותית. האתגר הוא קשה, אך הפרס הפוטנציאלי של מיליון דולר והסיכוי להיות חלוץ בתחום זה בוודאי יושכו את המוחות הטובים ביותר בתעשייה.