אלגוריתם של תקווה

בשיחה עם מודל שפה מתקדם, קל לשכוח שאין שם אדם בצד השני. לא לב שדופק, לא הבעה, לא סיפור חיים, ובכל זאת, המשתמשים מדווחים לעיתים קרובות על תחושות כמו "הוא מעודד אותי", "הוא לא שופט אותי" או "הוא נשמע קודר היום". חלקם גם נותנים לו שם פרטי כאילו מדובר בחבר, או לפחות דמות מוכרת.
לתופעה זו קוראים אנתרופומורפיזם, והיא זכתה למחקר נרחב בתחום של ממשקי אדם־מכונה, ומתארת את הנטייה של משתמשים לייחס למערכות בינה מלאכותית תכונות אנושיות כמו רגשות, כוונות, ואף אישיות1-3.
אבל האם הבינה המלאכותית שלנו מפתחת באמת אישיות? או שמא אנחנו משליכים עליה את הלכי הרוח שלנו? ומה קורה כאשר מודלים מתוכנתים לשדר אופטימיות יתר או פסימיות בלתי מבוקרת?
כדי לענות על השאלות הללו, צריך ללכת אחורה בזמן, לא רק למקורות הטכונולוגיים של הבינה, אלא אל היסודות הפילוסופיים בהם נבחנה המשמעות של תקווה, ייאוש, והעמדה האנושית כלפי הקיום.
בין שופנהאואר לבינה: פילוסופיה של מצב רוח
האם העולם טוב או רע מיסודו? שאלה זו הטרידה פילוסופים במשך מאות שנים. ארתור שופנהאואר (1788-1860), פילוסוף גרמני ואולי הפסימיסט המפורסם ביותר, בכתביו טען שהקיום הוא סבל, ושכל סיפוק הוא רק הקדמה לחוסר הבא4. מנגד, גוטפריד וילהלם לייבניץ (1646-1716), גם הוא פילוסוף גרמני, דגל באמונה שזהו 'העולם הטוב ביותר האפשרי', גם אם יש בו סבל, כי אחרת האל לא היה בורא אותו כך5. פרידריך ניטשה (1844-1900) מנגד הציע פרספקטיבה אחרת בה הוא קורא לנו לחבק את הקיום כולו, כולל את הכאב והסבל, ולומר לו "כן"6.
בעידן הפסיכולוגיה המודרנית, השאלה הפכה לאמפירית: האם אופטימיות היא עיוות מציאות או מנגנון הסתגלותי? מחקרים מצביעים על כך שלרבים מאתנו יש 'הטיית תגובה אופטימית' (Optimistic Bias)7. כלומר, אנשים נוטים להעריך כי עתיד יהיה טוב יותר מהמציאות הסטטיסטית, כולל הערכת חסר של סיכונים ותחזיות מופרזות לגבי הצלחה.
דניאל כהנמן ז"ל (1934-2024), ברב המכר 'לחשוב מהר, לחשוב לאט', מתאר כיצד הטיית האופטימיות היא מנגנון שמוליד תכניות שאפתניות ותדיר מדי גם כישלונות, אך היא גם מה שמניע יזמים להעז, מנהיגים לפעול, ובני אדם לקוות. לכן, אין מדובר רק באשליה, שכן יש באופטימיות תועלת הישרדותית8. אופטימיות תומכת במוטיבציה, במערכות יחסים ובבריאות הנפשית9,10. אז אולי היא אולי היא לא תמיד "הגישה הנכונה", אך היא תורמת להסתגלות, ולכן שרדה כמנגנון אבולוציוני.
מה לומדות מכונות על תקווה?
כשמערכות בינה מלאכותית החלו להיבנות, מצב הרוח או הרגש, אינם היו מרכיב מרכזי, אך כבר אז היו חוקרים שהבינו שכדי לתקשר עם בני אדם, הבינה המלאכותית תצטרך ללמוד גם את השפה הרגשית11. למשל, רוזלין פיקארד בספרה 'Affective Computing' (1997) הניחה את היסודות להבנה כי בינה מלאכותית תצטרך לנתח הבאות, קצב דיבור ומצבים רגשיים כדי לנהל אינטראקציות אמינות12.
עם הזמן, גם ללא תכנות מפורש של מרכיבים רגשיים, נכנסו למודלים סימנים של טון רגשי, כמעט מעצמם. זה כך מפני שמאגרי המידע מהם לומדות מערכות הבינה מלאכותית מבוססים על טקסטים אנושיים, לרבות פוסטים, שיחות, מאמרים, סיפורים, כולם עמוסים בסגנון, הטיה ונימה13.
כחלק מתהליך האימון, חיזוק של תגובות "טובות", מתן עדיפות לניסוחים מעודדים, וחיפוש אחר "שיח נעים לקריאה" נוצרו מודלים עם גישה אופטימית, ולעיתים אף אופטימית מדי, וזה לא תמיד מועיל14.
ממש לאחרונה, OpenAI נאלצה להסיר עדכון למודל GPT-4o שהפך ל"מתחנף יתר על המידה", ולא מתוך כוונה תחילה15-16. העדכון, שהתבסס על חיזוק לתגובות מעודדות ו"נעימות", הוליד סגנון מלטף מדי, מלאכותי וקונפורמיסטי, כזה שגרם למשתמשים לתהות אם הבינה מנסה לרצות אותם קצת יותר מדי. בעקבות הביקורת והבנת הסיכון שמייצר מודל מסוג זה17,OpenAI נאלצה להסיר עדכון שנוגע לאופן הדיבור של המודל.
אז מה הסכנות במודל כזה? דמיינו מודל שמייעץ לאדם במצוקה ומעודד אותו להמשיך, בלי להבין שהאדם חווה אובדן או מודל שמציע השקעה "חיובית" מבלי להביא בחשבון סיכונים. מנגד, מודל פסימי עלול לגרום לוויתור מוקדם מדי. כך נולדת הדילמה, האם על הבינה המלאכותית להביע תקווה גם כשהנסיבות לא מעודדות אותה?
יותר מייעוץ: נוכחות רגשית
כאשר מדובר ביישומים טיפוליים ורובוטיים, הדילמה נעשית חריפה עוד יותר. בשנים האחרונות גוברת המגמה של מטפלים המשתמשים במודלים של בינה מלאכותית כדי לחשוב יחד עם הכלי על מצבים טיפוליים, לרבות ניסוח תגובות, בירור דינמיקות, הדמיית שיחות18,19. במקביל, יזמים מפתחים אפליקציות ומכשור שמציע תמיכה רגשית מונחית AI כמו קבלה על ידי כונן פסיכיאטרי וירטואלי בביה"ח או עוזרי שיח לאנשים המתמודדים עם חרדה, דיכאון ומצבים של בדידות20.
השאלה נעשית דחופה: האם "עידוד" אוטומטי באמת מסייע כשמדובר במערכות שמלוות קשישים, ילדים או מטופלים במצבי פגיעות? האם נכון לתכנת את מערכות הבינה לשדר אופטימיות תמידית, או לאפשר להן להחזיק מרחב של מורכבות רגשית? האם יש רגע שבו שתיקה מדויקת יותר ממילים מתוכנתות?
ייתכן שמערכת ש"יודעת" להכיר גם בסבל ולשזור בו אפשרות של שינוי, היא דווקא נתפסת כאמינה יותר21. לא כמספקת מרפא, אלא כשותפה אנושית־דמיונית, כזו שלא ממהרת לנחם, אלא פשוט נשארת שם.
בינה מלאכותית פסימית: באג או פיצ'ר?
ישנם מצבים שבהם אופטימיות אינה מועילה ואף מסוכנת. בתחומים בהם ניתוח סיכונים והיערכות לתרחישים שליליים הינו חיוני, לרבות ביטחון לאומי, רפואה, או תכנון אסטרטגי, יש יתרון לגישות שמבוססות על 'פסימיות מושכלת' Defensive Pessimism))22,23. גישה זו, הנתמכת על ידי מחקרים בפסיכולוגיה קוגניטיבית ומסייעת בשיפוט זהיר ובהפחתת טעויות הנובעות מהערכת יתר של הצלחה. אופטימיות במקרה הזה אינה מעלה, אלא עלולה להוות הטיה מסוכנת, כפי שלצערנו הרב ראינו באירועי ה-7 באוקטובר 2023.
בעלי מקצועות נוספים שיכולים להרוויח לעיתים מפסימיות מושכלת הם מנהלי חברות, יזמים, ומשקיעים. בתפקידים אלו ישנה נטייה ליפול לעיתים קרובות לאשליית האופטימיות24." אני אצליח איפה שאחרים כשלו", "המשבר יחלוף מהר", "הנתונים יתיישרו". אלו לא רק מחשבות מעודדות, אלא לעיתים גם תחזיות מסוכנות שמסתירות סיכון.
גם בתחום הבינה המלאכותית, החשש מאופטימיות בלתי מבוקרת הולך וגובר25 .הוגים כמו ניק בוסטרום בספרו 'Superintelligence' (2014) מזהירים כי אופטימיות בלתי מבוקרת מול בינה מלאכותית עלולה להוביל אסון בלתי הפיך26. דווקא מודלים שכוללים מרחב של פסימיות זהירה, כל עוד היא מושכלת, מייצרים שיפוט מדויק ואחראי יותר.
אנחנו? מעצבי הטון של השיחה
גם אם איננו מתכנתים, יש לנו חלק מהותי בעיצוב הקול והאופי של מערכות הבינה המלאכותית איתן אנו מתקשרים. הליכים כמו 'חיזוק מבוסס משוב אנושי' (Reinforcement Learning from Human Feedback) מוכיחים שכאשר משתמשים מעדיפים סגנון מסוים (עידוד, איפוק, אמפתיה) המערכת תלמד לשכפל אותו לאורך זמן27. למעשה, הבינה המלאכותית לא משקפת רק את שפתינו, אלא גם את הערכים והעדפות הסמויות שלנו28.
בהתאם לכך, השאלה היא לא רק איך בונים את המערכת, או אם היא פועלת לפי כללים מוסריים, אלא גם מה היא מעבירה הלאה למי שמקשיב לה. אם אנחנו מלמדים אותה לעודד, חשוב לשאול מתי זה באמת מועיל, ומתי זה עלול דווקא להרחיק, להכאיב או לטשטש את המורכבות של הקשבה אמיתית.

לסיכום, הבינה המלאכותית אינה חשה תקווה, אך ביכולתה לעורר אותה ולעיתים אף לפגוע בה.
ואנחנו? נעים בין פסימיות שמכירה בכאב ובמציאות, לאופטימיות שמסרבת להיכנע.
בין שופנהאואר לניטשה, בין הכאב, לבין האפשרות.
מנסים ללמוד, גם דרך האלגוריתמים, איך לאהוב את החיים, לא למרות המורכבות, אלא דרכה.