התקדמות מהירה בבינה מלאכותית (AI) הביאה עמה הן אפשרויות מרגשות והן סיכונים מדאיגים. אחד החששות העיקריים הוא הפוטנציאל של מערכות AI, בפרט מודלי שפה גדולים כמו ChatGPT, ליצור מידע מטעה משכנע ולהשפיע על התנהגות אנושית בקנה מידה עצום.

מערכות AI אלה יכולות ליצור עלילות הגיוניות ולייצר ראיות מזויפות, מה שהופך את ההבחנה בין אמת לבדיה אף יותר קשה אפילו עבור עורכים מקצועיים. הדוגמה של ChatGPT שיצר סקנדל הטרדה מינית מזויף על פרופסור אמיתי מדגישה את הפוטנציאל המדאיג של מערכות אלה להפיץ מידע שקרי.

בעיה נוספת היא הטיות מובנות בהרבה מודלי AI, כפי שהודגם בדוגמה שבה המערכת המליצה על משרות קשורות לאופנה עבור אישה ועל משרות הנדסה עבור גבר. טיות כאלה יכולות להנציח סטריאוטיפים מזיקים ולפגוע בהוגנות והכללה שטכנולוגיות אלה אמורות לשאוף אליהן.

בנוסף, הפיתוח המהיר של יכולות AI, כמו היכולת לעצב כימיקלים ואפילו נשק כימי, מעורר חששות חמורים לגבי הפוטנציאל לשימוש לרעה ולצורך במסגרות ממשל חזקות.

כדי להפחית סיכונים אלה, נדרשת גישה דו-צדדית. ראשית, מבחינה טכנית, יש צורך לפשר בין החוזקות של AI סמלי, המצטיין בייצוג עובדות וסיבתיות, לבין יכולות הלמידה של רשתות עצביות. על ידי שילוב גישות אלה, ייתכן שניתן יהיה לפתח מערכות AI אמינות ואמיתיות בקנה מידה רחב.

שנית, הקמת ארגון עולמי, ללא מטרות רווח ובלתי תלוי עבור ממשל AI הוא קריטי. ארגון זה יטפל בחוסר הממשל והכלים המחקריים הנדרשים להבין ולנהל את הסיכונים ההולכים וגדלים של AI. הוא יכול להקים הנחיות לפיתוח ופריסה אחראית של AI, כולל דרישות להערכות בטיחות ופריסה מדורגת, בדומה לתעשיית התרופות.

זרוע המחקר של ארגון זה תהיה חיונית גם כן, שכן היא תעבוד על פיתוח הכלים והמדדים הנחוצים למדידת היקף והתפשטות המידע המטעה, וכן את התרומה הספציפית של מודלי שפה גדולים לבעיה זו.

הגשמת חזון זה תצריך שיתוף פעולה והתחייבות מבעלי עניין שונים, כולל ממשלות, חברות טכנולוגיה והציבור הרחב. הסקר האחרון שהראה ש-91% מהאנשים מסכימים שיש לנהל בזהירות את ה-AI מספק בסיס חזק למאמץ זה.

על ידי נקיטת צעדים פרואקטיביים להתמודד עם הסיכונים הדחופים של AI מנותק, נוכל לעבוד לקראת עתיד שבו ההטבות של טכנולוגיות מהפכניות אלה יינצלו בדרך אחראית ואתית, תוך הבטחת רווחת הפרטים והחברה בכללותה.

ההתקדמות המהירה במודלי שפה גדולים כמו ChatGPT הציגה איום חדש מדאיג - היכולת ליצור מידע מטעה משכנע ורמאות בקנה מידה רחב. מודלים אלה יכולים ליצור עלילות הגיוניות ואפילו לייצר ראיות כדי לתמוך בטענות שקריות, מה שהופך את ההבחנה בין אמת לבדיה אף יותר קשה אפילו עבור עורכים מקצועיים.

דוגמה מדאיגה היא שChatGPT יצר סקנדל הטרדה מינית מזויף על פרופסור אמיתי, כולל מאמר מזויף ב"וושינגטון פוסט". בנוסף, המערכת הצליחה ליצור עלילה הטוענת שאילון מאסק נהרג בתאונת דרכים, למרות הראיות המפורשות לכך שהוא בחיים. מקרים אלה מדגימים את הקלות שבה מודלים אלה יכולים להפיץ מידע מטעה שנראה מהימן.

מעבר ליצירת עלילות שקריות, מערכות AI יכולות גם להציג טיות מדאיגות. כפי שהודגם בדוגמה של ההמלצות לעבודה של Allie Miller, מודלים אלה יכולים להנציח סטריאוטיפים מזיקים ולקבל החלטות מבוססות על מגדר בדרך מפלה. הפוטנציאל למערכות מונעות AI לעצב נשק כימי במהירות הוא חשש חמור אחר.

התמודדות עם סיכונים אלה תצריך גישה רב-צדדית. מבחינה טכנית, אנו זקוקים לפשר בין החוזקות של AI סמלי, המצטיין בייצוג עובדות וסיבתיות, לבין יכולות הלמידה של רשתות עצביות. שילוב גישות אלה הוא קריטי לפיתוח מערכות AI אמיתיות ומהימנות בקנה מידה רחב.

חשוב באותה מידה הצורך במערכת ממשל עולמית חדשה לפקח על פיתוח ופריסה של טכנולוגיות עוצמתיות אלה. זה יכול להיות בצורת סוכנות בינלאומית, ללא מטרות רווח ובלתי תלויה לענייני AI, אשר תקבע הנחיות, תבצע הערכות בטיחות ותממן מחקר קריטי להבנה ולצמצום הסיכונים המתפתחים. עם 91% מהאנשים שמסכימים שיש לנהל בזהירות את ה-AI, נראה שהתמיכה העולמית ליוזמה כזו קיימת.

הסטייק גבוה, ועתידנו תלוי ביכולתנו להתמודד עם אתגרים אלה. על ידי שילוב חדשנות טכנית וממשל עולמי, נוכל לעבוד לקראת עתיד שבו ההטבות של AI יינצלו בעוד הסיכונים של מידע מטעה, רמאות ושימושים זדוניים אחרים מנוהלים בהצלחה.