הסיפור הראשון היום הוא על חברת שבבי AI חדשה בשם Etched, אשר טוענת שהיא מסוגלת לייצר יותר מ-500,000 אסימונים בשנייה בהרצת LLaMA 70B. השבב הזה, הנקרא Sohu, הוא ה-ASIC (מעגל משולב ייעודי) הראשון למודלי Transformer.

נאמר שSohu מהיר פי 10 ויותר זול מאפילו ה-Blackwell GPU הדור הבא של Nvidia. שרת Sohu אחד יכול להריץ יותר מ-500,000 אסימוני LLaMA 70B בשנייה, שזה פי 20 יותר מ-Nvidia H100 ופי 10 יותר מ-Blaize B2.

היתרון המרכזי של Sohu הוא התמחותו במודלי Transformer, שהם הבסיס של רוב המוצרי AI המרכזיים היום. החברה טוענת שכאשר מודלי Transformer הופכים לדומיננטיים יותר, שבבים מותאמים כמו Sohu יהיו חיוניים, מכיוון שה-GPU אינם משתפרים בצפיפות חישוב מספיק מהר כדי להדביק.

Etched מאמינה שהארכיטקטורה שמריצה את Transformer המהיר והזול ביותר בחומרה תזכה ב"הגרלת החומרה". הם טוענים שמעבדות AI מבזבזות מאות מיליונים על אופטימיזציה של ליבות עבור Transformer, וחברות הזנק משתמשות בספריות תוכנה מיוחדות של Transformer, מה שמקשה על "רוצחי Transformer" להדביק את ה-GPU.

בכללות, השבב Sohu מאת Etched מייצג התקדמות משמעותית בחומרת AI, ועשוי להפריע לדומיננטיות של ה-GPU בתחום זה.

OpenAI הודיעה על עיכוב בהפצת המצב הקולי המתקדם עבור ChatGPT, שהוצג בעבר במהלך העדכון האביבי. החברה מצטטת את הצורך לשפר את יכולת המודל לזהות ולסרב לתוכן מסוים, וכן לשפר את חווית המשתמש ולהכין את התשתית להרחבה למיליוני משתמשים תוך שמירה על תגובות בזמן אמת.

החברה מתכננת להתחיל להפיץ את הגרסה האלפא של המצב הקולי המתקדם לקבוצה קטנה של משתמשי ChatGPT Plus בסוף יוני, במטרה להפוך אותו זמין לכל משתמשי Plus בסתיו. עם זאת, הלוח זמנים המדויק יתלה בעמידה בסטנדרטים הגבוהים של בטיחות ואמינות שלהם.

OpenAI גם עובדת על הפצת יכולות וידאו וחלוקת מסך חדשות, שיוכרזו בנפרד. המצב הקולי המתקדם צפוי להביא את ChatGPT קרוב יותר לשיחות בזמן אמת וטבעיות עם AI, עם היכולת להבין ולהגיב עם רגשות ורמזים לא מילוליים.

העיכוב בהשקת תכונות אלה מאכזב, שכן הוא מהדהד את ההמתנה הממושכת להשקת Whisper, מודל הקול של OpenAI. עם זאת, החברה מדגישה את החשיבות של הבטחת רמה גבוהה של בטיחות ואמינות לפני הפצת יכולות אלה בהיקף רחב.

הדגם Claude 3.5 של Anthropic עשה קפיצת מדרגה משמעותית, מבטיח את המקום הראשון בזירת הקוד הקשה של Arita Arena ואת המקום השני בטבלת המובילים הכוללת. הדגם החדש Sonet עבר את Opus בשבר מהעלות, הופך אותו תחרותי עם דגמים כמו GPT-4 ו-Gemini 1.5 Pro של Frontier בכל התחומים.

בסרטון קודם, היוצר בדק את הדגם Claude 3.5 Sonet ומצא אותו להיות הטוב ביותר שבדק אי פעם. הדגם השמיד לחלוטין את בדיקות היוצר, מה שהוביל לבקשה לבדיקות חדשות ומאתגרות יותר.

השוואות בין Claude 3.5 ו-GPT-4 במשימות קוד מראות שClaude 3.5 עולה על GPT-4 בהצלחת המשימה ובהצלחת הפרויקט המלא, אם כי ל-GPT-4 יש שיעור הצלחה גבוה במעט בבניית הקוד. בנוסף, Claude 3.5 מפיק יותר מילים, מה שיכול להיות לתועלת בקטעי קוד ארוכים, אך עשוי להאט את הייצור. הדגם גם נוטה להיות פחות אמין בעקיבה אחר הוראות בפרומפטים גדולים בהשוואה ל-GPT-4.

בכללות, הדומיננטיות של דגם Claude 3.5 של Anthropic בזירות הקוד והפרומפטים הקשים היא הישג משמעותי, המציג את ההתקדמות המתמשכת בדגמי שפה גדולים וביישומיהם.

הסרטון שהוצג על ידי משתמש טוויטר chubby הוא באמת מדהים, שכן הוא מדגים את היכולות המדהימות של AI בייצור תוכן משחק וידאו ריאליסטי. החזותיות, שנראות כמושפעות מסגנון משחק בסגנון Call of Duty, הן מדהימות במציאותיותן, כאשר הצליל והחזותיות המיוצרות על ידי AI משתלבים בצורה חלקה ליצירת חוויה מעוררת השראה.

בעוד שאיכות הצילומים מרשימה, כמות כוח המחשוב הנדרשת להשגת רמת ריאליזם זו בזמן אמת עדיין אתגר משמעותי. כפי שצוין על ידי Jensen, מנכ"ל Nvidia, זו העתיד של משחקי וידאו, והיא תוביל את התעשייה לגבהים חדשים.

הסרטון מדגיש את ההתקדמות המהירה בייצור תוכן על ידי AI, שם הקו בין מציאות ליצירה מלאכותית הופך להיות מטושטש יותר ויותר. ככל שהטכנולוגיה תמשיך להתפתח, אנו יכולים לצפות לחוויות משחק וידאו מיוצרות על ידי AI מרשימות ומציאותיות אף יותר בעתיד הקרוב.

Apple החליטה שלא לשלב את מודלי ה-AI של Meta, כמו מודל Llama 3, בתוך Siri בשל חששות פרטיות. החלטה זו מגיעה ימים ספורים לאחר שדווח כי Apple היתה בשיחות עם Meta לשילוב מודלי ה-AI של האחרונה.

הסיבה העיקרית להחלטת Apple היא החששות של החברה בנוגע לפרקטיקות הפרטיות של Meta. Apple הביעה ביקורת על גישת Meta לפרטיות המשתמש, והענק הטכנולוגי כנראה אינו רוצה להיות מזוהה עם חברה שהתמודדה עם מספר פרשיות סקנדל הקשורות לפרטיות.

גם אם Apple יכלה לארח את מודלי ה-AI בעצמה ולשמור על שליטה בהיבטי הפרטיות, החברה עדיין בחרה שלא לשלב אותם. זה מרמז שחששות Apple חורגים מעבר לביצוע הטכני בלבד ומתייחסים לסיכונים התדמיתיים הרחבים של שיתוף פעולה עם Meta.

ההחלטה מדגישה את המחויבות של Apple לפרטיות המשתמש ונכונותה לוותר על יכולות AI פוטנציאליות אם הן באות על חשבון הערכים המרכזיים שלה. זה גם מדגיש את החשיבות ההולכת וגוברת של הפרטיות בתעשיית הטכנולוגיה, כאשר חברות מנווטות את האיזון בין חדשנות להגנה על נתוני המשתמשים.