מודלי AI גנרטיביים עברו התקדמות משמעותית על ידי שאיבת השראה מעקרונות הפיזיקה. שני דוגמאות בולטות הן מודלי גנרציה של פיקסלים (PGMs) ומודלי פיזור.

מודלי גנרציה של פיקסלים (PGMs): PGMs מתייחסים לנקודות נתונים כאלקטרונים ומנצלים את השדה החשמלי שנוצר על ידי "המטענים" האלה כדי למפות את התפלגות הנתונים המורכבת לתפלגות פשוטה ומעגלית. על ידי למידת המקרב השדה החשמלי, PGMs יכולים ליצור דגימות נתונים חדשות על ידי דגימה מההתפלגות הפשוטה ותנועה לאחור לאורך קווי השדה החשמלי.

מודלי פיזור: מודלי פיזור שואבים השראה מהמושג של תרמודינמיקה ותנועה אקראית של אטומים. הם רואים פיקסלים בתמונה כאטומים ומדמים את תהליך הפיזור שלהם. על ידי למידה של האופן שבו האטומים (הפיקסלים) מתפזרים, מודלי פיזור יכולים ליצור תמונות חדשות על ידי התחלה עם רעש גאוסי והפיכה של תהליך הפיזור כדי להשיג דגימות חדשות מההתפלגות של הנתונים.

PGMs ומודלי פיזור משתמשים בעקרונות הפיזיקה, כמו אלקטרוסטטיקה ותרמודינמיקה, כדי להתגבר על האתגר של למידה ישירה ודגימה מההתפלגויות המורכבות של הנתונים. על ידי מיפוי ההתפלגויות המורכבות לפשוטות יותר, מודלים אלה יכולים ליצור בצורה יעילה דגימות נתונים חדשות שתופסות את הדפוסים הבסיסיים בנתוני האימון.

PGMs מתייחסים לנקודות נתונים כאלקטרונים ומנצלים את השדה החשמלי שנוצר על ידי נקודות נתונים אלה. שקלו התפלגות נתונים דו-ממדית, כמו גובה ומשקל של בני אדם. תארו לעצמכם שהתפלגות נתונים זו היא התפלגות מטען, כאשר נקודות עם הסתברות גבוהה יותר יש להן יותר מטען חשמלי.

השדה החשמלי של התפלגות המטען הזו יהיה מורכב ויהיה לו עקמומיות גבוהה סביב ההתפלגות עצמה. עם זאת, ככל שאנו מתרחקים, השדה החשמלי הופך להיות יותר סדיר. במרחקים רחוקים מאוד, התפלגות המטען תיראה כמו מטען נקודתי, והשדה החשמלי יהיה פשוט, מצביע בכיוון רדיאלי החוצה בכל הכיוונים.

התובנה המרכזית היא שהשדה החשמלי המורכב סביב התפלגות המטען חייב להתחבר בחלקו החלק לחלוקה הרדיאלית הזו במרחקים רחוקים. זה מספק מיפוי מההתפלגות המורכבת של הנתונים להתפלגות פשוטה ומעגלית.

כדי ליצור נתונים, אנו יכולים פשוט ליצור נתונים כדוריים פשוטים ואז לנוע לאחור לאורך קווי השדה החשמלי כדי להפיק נקודות נתונים חדשות מההתפלגות המקורית של הנתונים. במציאות, אנו לומדים שדה חשמלי מקורב באמצעות U-Net שמקבל וקטור קלט עבור נקודה במרחב ומחזיר את וקטור השדה החשמלי בנקודה זו.

גישה זו, הידועה כ-PGMs, הוצגה בסוף השנה שעברה, וגרסה מתקדמת יותר, PGM++, פורסמה לאחרונה יותר. המחברים טוענים שPGMs מציעים יתרונות על פני מודלי פיזור, המניעים את Stable Diffusion ואת Dolly.

מודלי פיזור, המניעים מודלים כמו Stable Diffusion, שואבים השראה מעקרונות התרמודינמיקה. התובנה המרכזית היא שהתנועה האקראית של אטומים, כפי שמתואר בתרמודינמיקה, ניתן למיפוי לפיזור אקראי של ערכי פיקסלים בתמונה.

התרמודינמיקה רואה באטומים כמו מטבעות, כאשר ההתנהגות המקרוסקופית של אנסמבל גדול של מטבעות (אטומים) יכולה להיות שונה מאוד מההתנהגות המיקרוסקופית של מטבעות בודדים. לדוגמה, ההסתברות שכל המטבעות יפלו עם הצד של ראש פונה מעלה נמוכה הרבה יותר מההסתברות שכ-50% מהמטבעות יפלו עם הצד של ראש פונה מעלה, למרות שלכל מטבע יש סיכוי של 50% בנפרד.

באופן דומה, במודלי פיזור, ערכי הפיקסלים בתמונה מטופלים כאטומים העוברים הליכה אקראית. כשם שהתנועה האקראית של צבע מזון במים מובילה להתפלגות אחידה, התנועה האקראית של פיקסלים מובילה לרעש גאוסי, שניתן לחשוב עליו כשקול לצבע אחיד של התמונה.

על ידי למידה של האופן שבו תהליך הפיזור הזה עובד עבור מערך מסוים של תמונות, מודלי פיזור יכולים לאחר מכן להפוך את התהליך. הם יכולים להתחיל עם רעש גאוסי ולהדרגה "לבטל" את תהליך הפיזור כדי ליצור תמונות חדשות ומציאותיות. זה דומה לקיחת תמונה בצבעים אקראיים ולעקוב אחורה בתהליך הפיזור כדי לשחזר את התמונה המקורית.

הפרטים המתמטיים של האופן שבו זה עובד ניתנים לחקירה נוספת בהקדמה למודלי פיזור בבלוג. אך התובנה המרכזית היא שעקרונות התרמודינמיקה והליכה אקראית מספקים מסגרת עוצמתית לבניית מודלי AI גנרטיביים מהמובילים בתחום.

התחומים השונים של פיזיקה וAI לעתים קרובות מאבקשרים, כאשר מושגים חשובים מתמטיקה ופיזיקה מניעים התקדמות ב-AI. בסרטון זה, חקרנו כיצד AI שאב השראה מתחומי האלקטרוסטטיקה והתרמודינמיקה כדי ליצור מודלי AI גנרטיביים מהמובילים בתחום.

מודלי AI גנרטיביים פועלים על ידי דגימה מההתפלגות של הנתונים, שיכולה להיות משימה מורכבת עבור נתונים בעלי מימדים גבוהים כמו תמונות. כדי להתגבר על אתגר זה, חוקרי AI פנו לעקרונות פיזיקליים כדי למפות את ההתפלגות המורכבת של הנתונים להתפלגות פשוטה יותר.

במקרה של מודלי גנרציה של פיקסלים (PGMs), השדה החשמלי שנוצר על ידי נקודות נתונים, המטופלות כחלקיקים טעונים, מספק מיפוי מההתפלגות המורכבת של הנתונים להתפלגות פשוטה ומעגלית. על ידי למידת השדה החשמלי הזה, PGMs יכולים ליצור נתונים חדשים על ידי דגימה מההתפלגות הפשוטה ותנועה לאורך קווי השדה החשמלי.

באופן דומה, מודלי פיזור, המניעים מודלים כמו Stable Diffusion, מנצלים את המושג של פיזור מתרמודינמיקה. כשם שהתנועה האקראית של אטומים מובילה להתפלגות גאוסית, מודלי פיזור רואים בפיקסלים בתמונה כ"אטומים" העוברים הליכה אקראית, מאפשרים להם ליצור תמונות חדשות על ידי התחלה עם רעש גאוסי והפיכה של תהליך הפיזור.

דוגמאות אלה ממחישות כיצד האבקשרות בין פיזיקה ו-AI יכולה להוביל למודלים גנרטיביים עוצמתיים וחדשניים. על ידי הבנה וניצול של עקרונות האלקטרוסטטיקה והתרמודינמיקה, חוקרים מצאו דרכים חדשות להתמודד עם האתגרים של יצירת נתונים בעלי מימדים גבוהים, סוללים את הדרך להתקדמות נוספת בתחום ה-AI.