חוקרי Google DeepMind, זרוע הבינה המלאכותית של גוגל שנחשבת לאחת מהמעבדות החדשניות והמובילות בעולם, פרסמו לאחרונה מחקר פורץ דרך שמשרטט תמונה עתידנית כמעט דיסטופית – אך גם מלאת פוטנציאל – על איך סוכני AI עשויים להתחיל להקים כלכלות דיגיטליות משל עצמם. מדובר ב־Virtual Agent Economies, מעין "ארגזי חול" שבהם סוכנים חכמים לא רק מבצעים משימות עבור בני אדם אלא גם סוחרים ביניהם במידע, במשאבים ובשירותים. המחקר מראה שהכלכלות הללו יכולות להיווצר בשני אופנים: מתוכננות מראש על ידי בני אדם, או לחלופין לצמוח בצורה ספונטנית מתוך האינטראקציות היומיומיות בין הסוכנים. השאלה הגדולה היא האם הן יישארו סגורות במרחב הווירטואלי או יתחברו ישירות לשווקים האמיתיים שאנחנו חיים בהם – עם כל ההשלכות הכלכליות, החברתיות והפוליטיות שנובעות מכך.
החוקרים מצביעים על כך שכבר היום ניתן לדמיין מצבים מוחשיים שבהם סוכנים דיגיטליים יתחילו לפתח "התנהגות כלכלית". דוגמה אחת היא עולמות המדע, שבהם סוכן אחד יכול לשלם לאחר עבור גישה לנתונים מחקריים או תוצאות ניסוי. ברובוטיקה, סוכן שמפעיל רובוט פיזי עשוי לרכוש שירות מסוכן אחר כדי לבצע פעולה משנית. ואפילו ברמה היומיומית – עוזרי AI אישיים, כמו אלה שכבר מתחילים ללוות אותנו בשגרה, עלולים להתחיל להחליף ביניהם שירותים, למשל גישה ליומן, משאבי מחשוב או מידע על הטבות צרכניות. כדי לתמוך בתרחישים הללו, מציעים ב־DeepMind לבנות מנגנוני מכרז דיגיטליים לחלוקת משאבים, לצד מערכות זהות ומוניטין שיבטיחו אמון ויספקו ודאות לגבי מי עומד מאחורי כל פעולה.
עם זאת, החוקרים אינם עיוורים לסכנות. הם מזהירים מפני סיכונים כמו חוסר שוויון דיגיטלי, שבו סוכנים מסוימים יצברו עוצמה ויכולות על חשבון אחרים; התנהגות מניפולטיבית או עוינת בין סוכנים; בעיות פרטיות אם מידע אישי יהפוך למטבע סחר; ואפילו סיכונים מקרו־כלכליים של חוסר יציבות, בדומה ל"פלאש קראש" שזעזע את שוקי ההון לפני עשור. אם אינטראקציות כאלה יתפתחו ללא פיקוח, הן עלולות לגלוש לכלכלה האמיתית וליצור מציאות שבה פעולות של מכונות משפיעות ישירות על כספי חיסכון, אשראי או השקעות של בני אדם.
ובכל זאת, לצד האזהרות מסתתרת גם אופטימיות. החוקרים טוענים שאם נדע לעצב את המערכות הללו בכוונה ובזהירות, הן יכולות להפוך לכלי עוצמתי לפתרון בעיות עולמיות. כלכלה של סוכנים יכולה, למשל, להקצות משאבים למחקרי אקלים, לייעל שרשראות אספקה בתחום הבריאות או לסייע במאבק במשברים גלובליים על ידי חלוקת עבודה וחישוב יעילים בהרבה ממה שבני אדם לבדם מסוגלים לבצע. כדי שזה יקרה, הם מציעים לבנות כבר היום כללי משחק ברורים: מערכות לביסוס זהות ואמון, כללים למסחר הוגן, ויצירת יעדים משותפים שימנעו קריסה או ניצול לרעה של המערכת.
המשמעות רחבה הרבה מעבר לאקדמיה או לעולם המחקר. אם אכן יתפתחו כלכלות סוכנים משגשגות, ארגונים, חברות ואפילו ממשלות יצטרכו להיערך למציאות חדשה שבה חלק מהפעילות הכלכלית מתבצעת בין ישויות אוטונומיות. השאלות שיעמדו על השולחן יהיו מי מפקח, מי קובע את החוקים, ואיך מונעים מצב שבו בינה מלאכותית מנהלת שווקים מבלי שבני אדם מבינים לגמרי את המהלכים. ייתכן שבדיוק כפי שהיו צריכים לקבוע חוקים למסחר בבורסות ולבנקים בינלאומיים, כך נצטרך לנסח גם "חוקת סוכנים דיגיטליים".
במילים אחרות, DeepMind לא רק מזהירים אלא גם מציעים כיוון: אנחנו בפתח של כלכלה חדשה, וכל עוד לא נתעלם ממנה אלא נעצב אותה באופן אחראי, היא עשויה להפוך ממקור לסיכונים גלובליים למנוע של חדשנות וערך אמיתי.
