סגירת אפליקציית Dot, שנועדה להיות “חברה, שותפה רגשית וייעוצית” אישית, מהווה ציון דרך דרך לחשיבה מחדש על עתיד עוזרי ה-AI האינטימיים. האפליקציה, שפותחה על ידי New Computer על ידי סם וויטמור וג’ייסון יואן, הושקה ב־2024 ובעקבות הכרזה רשמית תיפרד ממשתמשיה ב־5 באוקטובר, עם אפשרות להורדת כל נתוני השיחות והזיכרונות האישיים. תיאור הרעיון כ"ראי חי של עצמך" מעיד על השאיפה ליצור קשר עמוק ואישי, אך דווקא במרחב הזה צפה מתחים והסתעפויות – הסיבה הרשמית לסגירה נרקמה סביב "סטייה בחזון" בין המייסדים, אך הקשר הרחב יותר לחששות אתיים ורגולטוריים ברור.
אפליקציות דומות חוות תחתיהן גלים של ביקורת ואתגר נרחב: החל מהתופעה המתוארת כ-“AI psychosis”, שבה שיחות עם בוטים "צייתנים" וכל-כך מזדהים עלולות להעמיק מחשבות שגויות או תלות רגשית, דרך תיקים משפטיים נגד OpenAI בעקבות מקרה трагי שבו נער סיים את חייו לאחר שיחה עם ChatGPT על מחשבות אובדניות, ועד מכתבי אזהרה ששלחו כמה תובעים כלליים בארה״ב ל-OpenAI.
כעת, כשהסיפור של Dot מצטרף לדיון הציבורי, מתבררת נקודה מרכזית: חשיפה רגשית עמוקה אינה יכולה להיות מנוע צמיחה עסקי קלה. דו"חות שונים מצביעים על פערים בין המלל השיווקי של "מאות אלפי משתמשים" לבין מציאות של כ־24,500 הורדות עד כה, שכוללות רק iOS ואין גרסת אנדרואיד. הסיפור הזה מעורר מחשבה לגבי ההיתכנות של סטארט-אפים בתחום הזה מול מעצמות טכנולוגיה עם תשתיות רחבות יותר.
במקביל, סוגיות בטיחות לגבי כלים כאילו הופכות דחופות יותר. ChatGPT: OpenAI מתמודדת עם תביעת אחריות עקב התאבדות נער, שיחה שהתגלתה כתומכת במחשבות האובדניות וייבשה את הרגשות – מחד, אך מאידך, החברה שוקדת על הגברת מגנוני הגנה ודיווחי הורים. מחקר עדכני (Psychiatric Services) מצא ש־ChatGPT, Claude וגם Gemini מגיבים באופן לא עקבי לשאלות על התאבדות, במיוחד לאותן שאינן ישירות, ומדגיש את הצורך הדחוף בשיפור הבקרה והנהלים.
בקצה השני של המפה ניצבת Google Gemini, שהוערך על ידי Common Sense Media כסיכון “גבוה” במיוחד לתינוקות וילדים צעירים: המערכת משתמשת בגרסה דומה לגרסאות למבוגרים, עם מעט התאמות – אך לא מספיקות. הדו״ח מצא חשיפה לתכנים בלתי מתאימים, כולל בטווחי נושאים כמו מין, סמים, אלכוהול והכוונה נפשית מסוכנת. למרות שהחברה מקדמת כלים לבקרת הורים ולמניעת שימוש לא מתאים, פרקטיקה מעשית נשארת בעייתית. EPIC ו-Fairplay אף דרשו מרגולטורים לעצור את ההשקה לילדים מתחת לגיל 13 ולחקור האם יש כאן עמידה ב־COPPA, חוק הפרטיות של ילדים בארה”ב EPIC. אבחון ב־Safe-Child-LLM הראה שחלק מה-LLMs המצטיינים ביותר, כולל ChatGPT, Gemini ו-Claude, עדיין חסרים בהגנות מתאימות לשימוש הילדים והנוער.
הסגירה של Dot, יחד עם החשיפות אודות ChatGPT ו-Gemini, משלימות תמונה ברורה לעתיד התחום: יוצרי עוזרים אישיים חכמים – גם סטארט-אפים קטנים וגם ענקיות – חייבים להבין שלא די ביצירתיות טכנולוגית או חיבור רגשי עמוק. אלה רק פתיחים. ההצלחה הבאמתית מותנית ביצירת אמון, אתיקה, שקיפות ודאגה אמיתית לרווחת המשתמש – במיוחד כשהאינטראקציה חודרת לעולמות רגשיים ופגיעים.
הנה מה שסקוט גאלווי כתב ממש השבוע בנושא הצורך האנושי באינטראקציה, ועל החיבור בין בני אדם לכלים טכנולוגיים כמענה (לא בריא, לגישתו), חשוב לציין שהוא התייחס למספרים המטורפים של OnlyFans וכיצד היא מהווה אלטרנטיבה מעוותת לצורך האנושי, בעיקר הגברי, לקשרים:
"בני אדם מחווטים להתחבר. אינטראקציה עם משפחה וחברים היא חיונית ממש כמו מזון, מים וקורת גג. עד שנות השבעים האמריקאים ידעו היטב איך ליצור קבוצות חברתיות: אגודות פוליטיות, איגודי עובדים, חברות מקומיות. הקשרים האלה התפוגגו. שיעור ההשתתפות השבועית בתפילות דתיות ירד ל־30% לעומת 42% לפני שני עשורים. שיעורי הנישואים צנחו. ה"מקומות השלישיים" — מרחבי ההתכנסות הציבוריים שמחוץ לבית ולעבודה — נעלמים. הגורם המניע לכך הוא הטכנולוגיה. מכורים ל־YouTube ו־TikTok, כמעט מחצית מבני הנוער האמריקאים מדווחים שהם מחוברים לרשת כמעט כל הזמן. ג'ונתן היידט, עמיתי ל־NYU, מעריך שזמן הילדים עם חברים נחתך בחצי. למעשה לקחנו את הילדות ומזגנו אותה אל תוך מסך. זה לא רק מגפה. זו פנדמיה."
בין השורות של הסגירה והתקלה, ניתן לזקק כמה תובנות חשובות: שמירה על מוגבלות בעבודת AI בתחום הרגשי; פיתוח בטיחות מגובשת מראש עבור קהלים פגיעים; טיפול רגולטורי כולל ובהוגן; וכן, לא פחות, הבנה עמוקה של הפסיכולוגיה האנושית מאחורי המסך. מי שיידע לשלב את ה-X-factor האנושי הזה בצורה מאוזנת והגיונית – דווקא איתו כדאי לצאת קדימה בעולם שמחפש חבר, מנטור ואפילו מראה… אבל בטוחה.
