עתיד הבינה המלאכותית עומד להשתנות מהתשתית המבוססת על ענן, המאופיינת בצריכת אנרגיה גבוהה, לגישה יעילה יותר ומבוזרת יותר, שבה חישובי הבינה המלאכותית מועברים להתקני הקצה כמו טלפונים חכמים, מחשבים ניידים ואפילו מכוניות.

חברות שבבים כמו Qualcomm מובילות את המהלך הזה, ומפתחות מעבדים חזקים וחסכוניים באנרגיה, המיועדים במיוחד להרצת מודלי שפה גדולים ומטלות בינה מלאכותית אחרות באופן מקומי על ההתקן. גישה זו מציעה מספר יתרונות עיקריים, כולל שיפור בפרטיות, אבטחה, זמן תגובה ויעילות עלויות.

ההתקדמויות בטכניקות דחיסת מודלים וניהול מערכות מאפשרות את הפריסה של מודלי בינה מלאכותית בעלי יכולות גבוהות על התקני הקצה. פרויקטים כמו Mixture of Agents ו-RouteLL M מדגימים כיצד מספר מודלים קטנים וחסכוניים יכולים לשתף פעולה כדי להפיק תפוקות דומות למודלים גדולים ויקרים יותר. זה מאפשר לטפל ב-90% מהמקרים השימוש על ידי מודלים מקומיים בעלות נמוכה, מה שמביא לחיסכון משמעותי בעלויות.

עתיד הבינה המלאכותית נע לכיוון חישוב בקצה, שבו ניתן לפרוס מודלי בינה מלאכותית חזקים אך יעילים ישירות על התקנים כמו טלפונים חכמים, מחשבים ניידים ואפילו מכוניות. גישה זו מציעה מספר יתרונות, כולל שיפור בפרטיות, אבטחה, זמן תגובה נמוך ועלויות נמוכות יותר בהשוואה להסתמכות בלעדית על עיבוד בינה מלאכותית מבוסס ענן. יצרני שבבים כמו Qualcomm מובילים את המהלך בפיתוח מעבדים ייעודיים מותאמים לריצת מודלי שפה גדולים ומטלות בינה מלאכותית אחרות על התקני הקצה. שבבים אלה מתוכננים להיות חסכוניים מאוד בחשמל, מה שמאפשר שילוב חלק של יכולות בינה מלאכותית במגוון רחב של יישומים.

ההתקדמויות בטכניקות דחיסת מודלים וניהול מערכות, כמו Mixture of Agents ו-RouteLL, מאפשרות את הפריסה של מודלי בינה מלאכותית קטנים ויעילים יותר שיכולים להציג ביצועים דומים למודלים גדולים ומשאבים רבים יותר. חידושים אלה מאפשרים לטפל ברוב מקרי השימוש על ידי עיבוד מקומי, מה שמקטין את הצורך בחיבור ענן קבוע והעלויות והזמן התגובה הקשורים לכך.

עתיד הבינה המלאכותית נע לכיוון גישה מבוזרת ויעילה יותר, שבה חישובי הבינה המלאכותית מועברים להתקני הקצה כמו טלפונים חכמים, מחשבים ניידים ואפילו מכוניות. שינוי זה נובע מההתקדמויות בטכנולוגיית השבבים, כאשר חברות כמו Qualcomm מפתחות מעבדים חזקים וחסכוניים באנרגיה, המיועדים במיוחד להרצת מודלי שפה גדולים ומטלות בינה מלאכותית אחרות על התקני הקצה.

אחת החידושים המרכזיים בתחום זה היא פיתוח שכבות ניהול מערכות שיכולות לקבוע בצורה חכמה אילו משימות בינה מלאכותית יש לטפל בצורה מקומית על התקן הקצה ואילו יש להעביר לדגמים מבוססי ענן חזקים יותר אך יקרים יותר. חוקרים פרסמו לאחרונה מאמרים וקוד פתוח המדגימים את היעילות של טכניקות ניהול מערכות אלה.

לדוגמה, הגישה של "Mixture of Agents" מאפשרת לסוכני בינה מלאכותית קטנים לשתף פעולה ולהפיק תוצאות הדומות לאלה של מודלים גדולים ויקרים יותר. באופן דומה, מאמר "Route LLM" מציג שכבת ניהול מערכות שיכולה לנתב 90% ממקרי השימוש למודלים קטנים ויעילים יותר, מה שמביא לחיסכון של 80% בעלויות לעומת ההסתמכות בלעדית על המודלים החזקים והמבוססים על ענן.

Qualcomm הציגה מגוון של חוויות הדגמה מונעות בינה מלאכותית על פני מגוון התקנים, מדגישה את החזון של החברה לעתיד חישוב הבינה המלאכותית. הדגמות אלה הציגו את היכולות של שבבי Qualcomm בהרצת משימות בינה מלאכותית ביעילות על התקני הקצה.

אחת ההדגמות הבולטות הייתה השילוב של בינה מלאכותית בממשקי מכונית. Qualcomm הדגימה כיצד שבביה יכולים להפעיל את מערכת הבידור והמידע ולאפשר לסוכן בינה מלאכותית לבצע משימות בשם הנהג, כל זה תוך הרצה על ההתקן. זה מדגים את הפוטנציאל של בינה מלאכותית לשפר את חוויית הנסיעה תוך שמירה על פרטיות ואבטחה.

הדגמה אחרת מרשימה הייתה השילוב של בינה מלאכותית בטילי רחפנים חכמים, שיכולים להשתמש ביכולות הבינה המלאכותית המקומיות למגוון יישומים, החל משימוש אישי וכלה במשימות חילוץ ומשלוחים. שבבי Qualcomm מאפשרים לרחפנים אלה לבצע משימות מורכבות מונעות בינה מלאכותית ללא הסתמכות על שירותי ענן.

יצרני טלפונים חכמים כמו Qualcomm מובילים את המהלך בהבאת יכולות בינה מלאכותית חזקות ישירות להתקני הקצה. על ידי שילוב עיבוד בינה מלאכותית מתקדם בשבבים הניידים החדשים שלהם, הם מאפשרים מגוון רחב של תכונות חדשניות שיכולות להיות מופעלות באופן חלק על ההתקן, ללא הצורך בחיבור לענן.

אחד הדוגמאות הבולטות הוא תכונת התרגום בזמן אמת, שבה המשתמשים יכולים פשוט ללחוץ על לחצן כדי לתרגם שיחות בזמן אמת, כל זה בהנעה על ידי הבינה המלאכותית המובנית בהתקן. יכולת אחרת מרשימה היא תכונת "עזרת הצ'אט", המשמשת כעוזר כתיבה מונע בינה מלאכותית, המסייע למשתמשים לשפר את הודעותיהם על ידי התאמת הטון, בדיקת האיות וספק שירותי תרגום - כל זה מבלי לצאת מההתקן.

עתיד הטלפונים החכמים המונעים בינה מלאכותית הוא אכן מרגש, שכן המשתמשים יכולים כעת להיות בעלי סוכני בינה מלאכותית העובדים בשבילם, מטפלים במשימות כמו לוח זמנים, ניהול דוא"ל ואפילו תכנון פיננסי - כל זה תוך הבטחת הפרטיות והאבטחה של נתוני האישיים שלהם, מאחר שיכולות אלה משולבות ישירות בחומרה והתוכנה של ההתקן.