צוות מחקר סיני הוכיח את היתכנות של פלטפורמת תקיפה רגלית - כלב רובוטי המצויד במקלעים שיכול להתחרות בירי מדויק של יורים אנושיים. התפתחות זו משמעותית לעתיד המלחמה, שכן היא מצביעה על הפוטנציאל של מערכות אוטונומיות לשחק תפקיד בולט יותר בשדה הקרב.

הסרטון המציג את הטכנולוגיה הזו די מזעזע, שכן הוא מדגיש את האופי הגולמי והאכזרי של מה שמערכות אוטונומיות מתקדמות מסוגלות לעשות. דיווחים מציינים שדיוק הכלב הרובוטי הוא בסביבות 60-80%, מה שמפתיע ומתחרה ביורים אנושיים מיומנים.

הדבר מעורר חששות לגבי קצב ההתפתחות של בינה מלאכותית בתחום הצבאי. ככל שמערכות הבינה המלאכותית ימשיכו להתקדם, ייתכן שנראה מעבר ממלחמה מרוכזת באדם למתקפה אוטונומית יותר. היעילות מבחינת עלות והפוטנציאל ההרסני של מערכות כאלה עשויים להפוך אותן לאפשרות אטרקטיבית עבור כוחות צבאיים, על אף ההשלכות האתיות והמוסריות.

ההשלכות של טכנולוגיה זו הן רחבות היקף. היא מאתגרת את התפיסות המסורתיות שלנו לגבי המלחמה ומעלה שאלות לגבי תפקיד קבלת ההחלטות האנושית בשימוש בכוח קטלני. ככל שהעולם הופך יותר תלוי במערכות מבוססות בינה מלאכותית, הצורך במסגרות אתיות ומבניות איתנות להבטחת פיתוח והטמעה אחראית של טכנולוגיות אלה הופך לדחוף יותר.

חיי אדם הם בלתי מחליפים, והאפשרות של מערכות אוטונומיות המשמשות ל"השמדה מהירה" של יעדים היא מדאיגה מאוד. המעבר ממלחמה מרוכזת באדם למתקפה אוטונומית יותר יהיה בעל השלכות חברתיות וגיאופוליטיות עמוקות שיש לשקול בזהירות.

התפתחות זו משמשת כתזכורת מחרידה שהעולם משתנה במהירות, והבינה המלאכותית מוכנה לשלוט בתעשיות ויישומים מסוימים שלא חזינו. חשוב שמקבלי ההחלטות, מנהיגים צבאיים והציבור יקיימו דיונים מעמיקים על עתיד המלחמה והשלכות האתיות של טכנולוגיות מתפתחות אלה.

בראיון אחרון, מנכ"ל DeepMind של Google דן בהתפתחויות מרגשות בפרויקט החדש שלהם, Astra. הם עובדים על קליטת סרטונים חיים שישמשו כעזר לזיכרון עבור קשישים, ויעזרו להם במשימות יומיומיות מעשיות.

הנקודות העיקריות הן:

• Google מפתחת את היכולת לקלוט תוכן ארוך כמו ספרים בגודל "מלחמה ושלום" או סרטונים באורך שעה, ולספק אינטראקציות וניתוח חכמים.

• זה עשוי לאפשר עוזרים חכמים בעלי יכולת לזכור ולהסיק על אירועים עבר בזרם הווידאו, ולעזור למשתמשים לזכור היכן הם השאירו את המפתחות שלהם או היכן נמצאים התרופות שלהם.

• המנכ"ל הדגיש שזה רק ההתחלה, וכמעט לא גרדנו את פני השטח של מה שמערכות הבינה המלאכותית האלה יהיו מסוגלות להשיג בעתיד.

• זה מציג את המטרה האמיתית של Google לפתח מערכות ברמת AGI כדי לעזור באמת לאנשים בחיי היומיום, בניגוד לחששות ההולכים וגוברים לגבי השימוש לרעה במודלים חזקים של בינה מלאכותית.

בכללות, זה מספק הצצה מרתקת לתוכניות השאפתניות של Google לעתיד של עוזרי בינה מלאכותית, תוך ניצול הבנה בקנה מידה גדול של וידאו וטקסט כדי לאפשר יכולות טרנספורמטיביות אמיתיות. ככל שהטכנולוגיה ממשיכה להתקדם, ההשפעה על חיינו היומיומיים צפויה להיות עמוקה.

אחד מהתפתחויות בתעשיית הבינה המלאכותית שמדאיגות רבים בנושא אבטחה הוא תכונת ה-recall של Microsoft. למעשה, תכונה זו אפשרה למשתמשים להקליט את מסך המחשב שלהם במלואו ואז לחפש בהקלטות באמצעות בינה מלאכותית גנרטיבית כדי למצוא מידע ספציפי. 然, תכונה זו סומנה מהר מאוד כסיוט פרטיות פוטנציאלי. Microsoft הפעילה את תכונת ה-recall כברירת מחדל, מה שפירושו שמשתמשים יכלו להפעיל את הפונקציונליות הזו מבלי להבין לגמרי את ההשלכות. היו חששות שפורצי דרך יכולים לנצל לרעה את הכלי הזה כדי לגשת למידע רגיש.

בתגובה, Microsoft ביצעה שינויים בתכונת ה-recall, והפכה אותה להפעלה ידנית במקום ברירת מחדל. זה נותן למשתמשים יותר שליטה על האם הם רוצים להפעיל את הפונקציונליות הזו ומשפר את אמצעי האבטחה והפרטיות הכוללים.

המקרה מדגיש את החשיבות של הטמעה זהירה של תכונות חדשות מבוססות בינה מלאכותית, בייחוד אלה שעלולות לפגוע בפרטיות המשתמש. בעוד שתכונת ה-recall הייתה בעלת יישומים שימושיים, כמו עזרה לקשישים לזכור משימות יומיומיות, הסיכונים גברו על היתרונות אם היא הייתה מיושמת ללא הסכמה והגנות אבטחה הולמות של המשתמש.

כפי שהבינה המלאכותית ממשיכה להתקדם, יהיה חיוני עבור חברות טכנולוגיה להעדיף פרטיות ואבטחה, וכן להבטיח שתכונות חדשות נבדקות ביסודיות ושלמשתמשים יש היכולת לקבל החלטות מושכלות לגבי הפעלתן. מקרה תכונת ה-recall של Microsoft משמש כסיפור אזהרה, המזכיר לנו שהקצב המהיר של התקדמות הבינה המלאכותית חייב להיות מאוזן עם פיתוח ופריסה אחראיים.

אילון מאסק מתכנן לבנות את המחשב העל-על הגדול בעולם בממפיס. זוהי התפתחות משמעותית שכן העולם נכנס לשלב חדש שבו אנו רואים את הופעתם של מחשבי על-על אדירים אלה כדי להניע את הדור הבא של מערכות בינה מלאכותית.

הנקודות העיקריות הן:

• מאסק מתכוון להפעיל את מחשב העל-על החדש הזה עד 2025, אם כי לוחות הזמנים שלו לא תמיד מיושרים בדיוק.
• מרכז הנתונים האדיר הזה יסתמך ככל הנראה על אלפי כרטיסי מסך Nvidia כדי לספק את הכוח החישובי העצום הנדרש לאימון מודלי בינה מלאכותית מתקדמים.
• המטרה היא לתמוך בחברת הבינה המלאכותית Exto של מאסק וגם במאמצי הבינה המלאכותית של טסלה, שכן הם מחפשים לחולל פריצות דרך בתחומים כמו AGI מגולם.
• עם זאת, הפעלת מרכזי נתונים אלה תהיה אתגר משמעותי, כאשר אומדנים מראים שביקוש האנרגיה למרכזי נתונים יותר מיכפיל עצמו עד 2026.
• הדבר מעורר חששות לגבי היכולת של רשתות החשמל לעמוד בביקוש הגואה מבינה מלאכותית, מטבעות דיגיטליים ויישומים אחרים הדורשים עוצמת חישוב רבה.
• מומחים דנים האם הגידול ביכולות הבינה המלאכותית יעקוב אחר עקומה אקספוננציאלית או לוגיסטית, כאשר זמינות החישוב היא גורם מפתח.
• בסופו של דבר, תוכנית מאסק למחשב העל-על הגדול בעולם מדגישה את הקצב המסחרר של התפתחות הבינה המלאכותית והתשתית העצומה הנדרשת לתמוך בה.

הדיון סביב השאלה האם ההתקדמות של הבינה המלאכותית תעקוב אחר מגמה אקספוננציאלית או לוגיסטית הוא דיון מורכב ונמשך בתחום. כפי שיאן לקון, חבר בצוות הפתיחות הבלתי מוגבלת בGoogle DeepMind, מציין, קשה לחזות בוודאות איזו דפוס יעקוב הגידול.

לפני נקודת המפנה, הן המגמה האקספוננציאלית והן הלוגיסטית יכולות להיראות דומות, מה שמקשה להבחין ביניהן. לקון מדגיש שבעוד שאנו צופים במגמה אקספוננציאלית במדדים כמו כוח חישוב או פרמטרים של רשתות עצביות, אנו לעולם לא יכולים להיות בטוחים שאיננו עדים למגמה לוגיסטית לפני נקודת המפנה.

הגורמים המרכזיים שעשויים להשפיע על מסלול ההתקדמות של הבינה המלאכותית כוללים:

1. יכולת חישוב: זמינות והיקפיות של כוח המחשוב לאימון מודלי בינה מלאכותית גדולים ומורכבים יותר הם מגבלה משמעותית. דרישות האנרגיה והתשתית לתמיכה במרכזי נתונים ומחשבי על-על עצומים יהיו שיקול חשוב.

2. חששות רגולטוריים ובטיחותיים: ככל שמערכות הבינה המלאכותית הופכות מתקדמות יותר, ייתכן שיהיה יותר פיקוח ובחינה סביב פיתוחן והטמעתן, מה שעלול להאט את קצב ההתקדמות.

3. מחקר בינה מלאכותית אוטומטי: היכולת לאוטומטיזציה של תה