נראה שהמאמצים האחרונים של גוגל בתחום הבינה המלאכותית נתקלו בבעיות חמורות, כפי שניתן לראות מהתגובות המדאיגות שהבינה המלאכותית שלהם סיפקה כאשר נשאלה ישירות דרך חיפוש גוגל.

כמה דוגמאות להמלצות בעייתיות של הבינה המלאכותית כוללות:

• המלצה להוסיף דבק לא רעיל לרוטב פיצה כדי שהגבינה תדבק טוב יותר.
• טענה שהשנה 1919 הייתה לפני 20 שנים.
• המלצה להרות לעשן 2-3 סיגריות ביום.
• הצהרה שתמיד בטוח להשאיר כלב במכונית חמה.
• המצאת פרטים על מוות בדיוני של דמות מ"ספוג בוב".
• מתן תהליך מסובך בכמה שלבים לקביעת מספר האחיות של אדם.

תגובות אלה שנוצרו על ידי הבינה המלאכותית אינן רק לא מדויקות, אלא במקרים רבים עלולות להיות מזיקות אם יפעלו על פיהן. נראה שהבינה המלאכותית של גוגל מתקשה לספק מידע אמין ועובדתי כאשר נשאלת ישירות, מה שמעורר חששות חמורים לגבי הבטיחות והמהימנות של שילוב טכנולוגיה כזו בפונקציונליות החיפוש העיקרית.

בעוד שגוגל טענה שהקול ששימש בהדגמת GPT-4 האחרונה שלהם לא היה של סקרלט ג'והנסון, הדמיון עורר מחלוקת ושאלות לגבי הפרקטיקות שלהם. השותפות של החברה עם News Corp גם מעוררת חששות לגבי הטיות אפשריות, אם כי גוגל טוענת שהדאגה העיקרית היא לגבי נתוני האימון הקיימים, ולא הגישה לתוכן החדש.

בכללות, אירועים אלה מדגישים את הצורך הקריטי בבדיקה יסודית, פיקוח ושקיפות כאשר מערכות בינה מלאכותית הופכות להיות משולבות עמוק יותר בשירותים היומיומיים. גוגל תצטרך להתמודד עם בעיות אלה במהירות כדי לשמר את אמון המשתמשים ולהבטיח את הבטיחות של ההצעות המונעות על ידי בינה מלאכותית שלה.

Yan Luo, ראש הסימון העל-יישור ב-OpenAI, עזב את החברה. בשרשור בטוויטר, Luo הביע חששות לגבי העדיפויות של OpenAI, תוך שהוא מציין שהוא "חלוק על הנהגת OpenAI לגבי העדיפויות הליבה של החברה כבר זמן רב".

Luo מאמין שיותר מהמשאבים של OpenAI צריכים להיות מושקעים ב"הכנה לדורות הבאים של דגמים בנושאי ניטור אבטחה, כוננות, בטיחות, עמידות בפני התקפות, יישור על-על, סודיות, השפעה חברתית ונושאים קשורים". הוא מודאג שתחומי מחקר קריטיים אלה נדחקו לשוליים לטובת "מוצרים מבריקים".

עזיבתו של Luo מגיעה לאחר מכן עזיבתו של Ilya Sutskever, המדען הראשי של OpenAI. בעוד שSutskever עזב בתנאים טובים, נראה שעזיבתו של Luo הייתה יותר שנויה במחלוקת, עם הרמז שעובדי OpenAI שמבקרים את החברה עלולים להיתקל בהשלכות, כמו אובדן מניות שהבשילו.

מנכ"ל OpenAI, Sam Altman, הכיר בדאגות של Luo והצהיר שהחברה מחויבת להתמודד איתן. עם זאת, המצב מדגיש את הדיון המתמשך בקהילת הבינה המלאכותית לגבי האיזון בין חדשנות לבטיחות.

עם המשך הפיתוח של מערכות בינה מלאכותית מתקדמות, החשיבות של העדפת בטיחות והתאמה לערכים אנושיים הופכת קריטית יותר ויותר. עזיבתו של Luo מ-OpenAI מדגישה את הצורך בחברות בינה מלאכותית לשמור על מיקוד חזק בנושאים קריטיים אלה.

על פי הדיווחים, ההדגמה האחרונה של GPT-4 של OpenAI כללה קול דומה מאוד לזה של השחקנית סקרלט ג'והנסון מהסרט "Her". כנראה שOpenAI פנתה אל ג'והנסון כדי להשתמש בקולה, אך היא סירבה. עם זאת, OpenAI טוענת שהם שכרו שחקן קול שקולו היה דומה במקרה, ולא היתה להם כוונה לשחזר את קולה של ג'והנסון.

זה הוביל למחלוקת, כאשר רבים מאמינים שOpenAI פשוט מצאה דרך להשתמש בשחקן קול שדומה לג'והנסון, למרות שהם נדחו מלהשתמש בקולה האמיתי. בעוד שOpenAI מקיימת שלא העתיקו את קולה של ג'והנסון, הציבור נראה שהתייצב מאחורי השחקנית, רואה זאת כמקרה אפור.

הנקודות העיקריות הן:

• OpenAI פנתה אל סקרלט ג'והנסון כדי להשתמש בקולה, אך היא סירבה.
• OpenAI טוענת שהם שכרו שחקן קול שקולו היה דומה במקרה, ולא התכוונו לשחזר את קולה של ג'והנסון.
• רבים מאמינים שOpenAI מצאה דרך להשתמש בשחקן קול דומה, למרות שהם נדחו מלהשתמש בקולה האמיתי של ג'והנסון.
• זהו אזור אפור שנוי במחלוקת, כאשר הציבור נוטה יותר לתמוך בג'והנסון בנושא.

בכללות, מקרה זה העלה שאלות לגבי האתיקה והשקיפות סביב יצירת קול באמצעות בינה מלאכותית, במיוחד כאשר מדובר בקולות הדומים מאוד לאנשים אמיתיים ללא הסכמתם.

OpenAI הודיעה לאחרונה על שותפות עם News Corp, המעניקה להם גישה לתוכן מפרסומים חדשותיים וידעניים מרכזיים. זה העלה חששות לגבי הטיות אפשריות שיוכנסו למודלי השפה של OpenAI, בפרט ChatGPT. 然, המציאות היא שהתוכן מ-News Corp כנראה כבר מאומן בתוך ChatGPT, וחוזה זה פשוט מספק גישה אתית ושקופה יותר לגישה לנתונים אלה. הטיות הקיימות בנתוני האימון לא צפויות להשתנות משמעותית בעקבות הסכם חדש זה.

בעוד ש-News Corp ידועה בנטיותיה הפוליטיות הקיצוניות יותר, בעיקר דרך חטיבת Fox News שלה, ההשפעה על פלטי ChatGPT צפויה להיות מוגבלת. המודל השפתי כבר אומן על כמות עצומה של נתונים מקוונים, שככל הנראה כוללים תוכן ממגוון רחב של מקורות חדשותיים, הן בעלי נטייה שמאלית והן בעלי נטייה ימנית.

השותפות עם News Corp פשוט מספקת ל-OpenAI את ההיתר החוקי להשתמש בתוכן זה באימונים עתידיים, במקום להסתמך על מקורות נתונים אפשריים מוטים או לא שלמים. זה צעד חיובי לקראת שקיפות ורכישת נתונים אתית, גם אם ההשלכות המעשיות על פלטי ChatGPT עשויות להיות מוגבלות.

בסופו של דבר, בעוד שהשותפות עם News Corp מעוררת חששות מוצדקים לגבי הטיות אפשריות, המציאות היא שפלטי ChatGPT כבר מושפעים כנראה ממגוון מקורות חדשותיים, הן מבחינת הנטיות הפוליטיות והן מבחינת האיכות. השותפות היא יותר על הסדרה והלגיטימציה של מקורות הנתונים שבשימוש, מאשר על הכנסת הטיות משמעותיות חדשות למודל השפה.

זה נכנס יותר לתחום השמועות, אבל זו טענה שראוי לדון בה. על פי אתר Mac Daily News, ישנה שמועה שאפל עומדת להתחבר עם OpenAI וזה יוכרז ב-WWDC.

זה גם דווח על ידי Bloomberg, אך עדיין לא אושר על ידי אפל או OpenAI. השמועה הנוכחית היא שהגרסה החדשה של Siri באייפון הבא של אפל עשויה להיות מופעלת על ידי הדגמים האחרונים של GPT של OpenAI.

אנו גם שמענו שמועות שאפל דיברה עם גוגל על שילוב Gemini, מודל שפה גדול אחר, בתוצריה. עם זאת, לא נדע בוודאות מה תהיה התוצאה עד אירוע ה-WWDC.

אם השמועה נכונה, ואפל אכן תשלב את הדגמים של OpenAI ב-Siri, זה עשוי להוביל לשיפורים משמעותיים ביכולות של Siri. מודלי השפה של OpenAI, כמו GPT-4, הפגינו ביצועים מרשימים במגוון משימות. שילוב של מודלים אלה עשוי לסייע בהפיכת Siri למקיימת שיחה יותר, בעלת ידע רב ומסוגלת להבין ולהגיב לשאילתות בשפה טבעית.

באותו הזמן, ייתכנו חששות לגבי הטיות או מגבלות אפשריות שעשויות להיות מוכנסות על ידי המודלים של OpenAI. יהיה חשוב שאפל תעריך ותתמודד בקפידה עם כל בעיות כאלה כדי להבטיח שSiri תישאר עוזר מהימן וניתן לסמוך עליו.

בכללות, השמועה על שותפות בין אפל ו-OpenAI עבור Siri היא מעניינת, ויהיה מעניין לראות אם היא תתממש באירוע ה-WWDC הקרוב. כמו בכל שמועה, עדיף להמתין לאישור רשמי לפני להסיק מסקנות.

באירוע Microsoft Build בסיאטל, ענקית הטכנולוגיה חשפה מספר תכונות וחידושים מרגשים:

1. מחשבים עם Co-Pilot: מיקרוסופט הציגה "מחשבים עם Co-Pilot" - מחשבים עם יחידת עיבוד עצבית (NPU) ייעודית להרצת הס