אלגוריתם של תקווה

בשיחה עם מודל שפה מתקדם, קל לשכוח שאין אדם בצד השני. לא לב שדופק, לא הבעה, לא סיפור חיים, ובכל זאת, המשתמשים מדווחים לעיתים קרובות על תחושות כמו "הוא מעודד אותי", "הוא לא שופט אותי" או "הוא נשמע קודר היום". חלקם גם נותנים לו שם פרטי כאילו מדובר בחבר או לפחות דמות מוכרת.
לתופעה זו קוראים אנתרופומורפיזם, והיא זכתה למחקר נרחב בתחום של ממשקי אדם-מכונה, ומתארת את הנטייה של משתמשים לייחס למערכות בינה מלאכותית תכונות אנושיות כמו רגשות, כוונות, ואף אישיות [1-3].

אבל האם הבינה המלאכותית שלנו מפתחת באמת אישיות? או שמא אנחנו משליכים עליה את הלך הרוח שלנו? ומה קורה כאשר מודלים מתוכנתים לשדר אופטימיות יתר או פסימיות בלתי מבוקרת? כדי לענות על השאלות הללו, צריך ללכת אחורה בזמן, לא רק למקורות הטכנולוגיים של הבינה, אלא אל היסודות הפילוסופיים בהם נבחנה המשמעות של תקווה, ייאוש, והעמדה האנושית כלפי הקיום.

בין שופנהאואר לבינה: פילוסופיה של מצב רוח
האם העולם טוב או רע מיסודו? שאלה זו הטרידה פילוסופים במשך מאות שנים. ארתור שופנהאואר (1788-1860), פילוסוף גרמני ואולי הפסימיסט המפורסם ביותר, בכתביו טען שהקיום הוא סבל, ושכל סיפוק הוא רק פרומו לחוסר הבא [4]. מנגד, גוטפריד וילהלם לייבניץ (1646-1716), גם הוא פילוסוף גרמני, דגל באמונה שזהו 'העולם הטוב ביותר האפשרי', גם אם יש בו סבל, כי אחרת האל לא היה בורא אותו כך [5]. פרידריך ניטשה (1844-1900) מנגד הציע פרספקטיבה אחרת בה הוא קורא לנו לחבק את הקיום כולו, כולל את הכאב והסבל, ולומר לו "כן!" [6].

בעידן הפסיכולוגיה המודרנית, השאלה הפכה לאמפירית: האם אופטימיות היא עיוות המציאות או מנגנון הסתגלותי? מחקרים מצביעים על כך שרבים מאתנו נוטים ל'הטיית תגובה אופטימית' (Optimistic Bias) [7]. כלומר, אנשים נוטים להעריך כי העתיד יהיה טוב יותר מהמציאות הסטטיסטית, כולל הערכת חסר של סיכונים ותחזיות מופרזות לגבי הצלחה. דניאל כהנמן ז"ל (1934-2024), ברב המכר 'לחשוב מהר, לחשוב לאט', מתאר כיצד הטיית האופטימיות היא מנגנון שמוליד תכניות שאפתניות ובאופן תדיר מדי גם כישלונות, אך היא גם מה שמניע יזמים להעז, מנהיגים לפעול, ובני אדם לקוות. לכן, אין מדובר רק באשליה, יש באופטימיות תועלת הישרדותית [8]. אופטימיות תומכת במוטיבציה, במערכות יחסים ובבריאות הנפשית [9,10]. אז אולי היא אולי היא לא תמיד "הגישה הנכונה", אך היא תורמת להסתגלות, ולכן שרדה כמנגנון אבולוציוני.

מה לומדות מכונות על תקווה?
כשמערכות בינה מלאכותית החלו להיבנות, מצב הרוח או הרגש, לא היו מרכיב מרכזי, אך כבר אז היו חוקרים שהבינו שכדי לתקשר עם בני אדם, הבינה המלאכותית תצטרך ללמוד גם את השפה הרגשית [11]. למשל, רוזלין פיקארד בספרה 'Affective Computing' משנת 1997 הניחה את היסודות להבנה כי בינה מלאכותית תצטרך לנתח הבעות, קצב דיבור ומצבים רגשיים כדי לנהל אינטראקציות אמינות [12]. עם הזמן, גם ללא תכנות מפורש של מרכיבים רגשיים, נכנסו למודלים סימנים של טון רגשי, כמעט מעצמם. זה כך מפני שמאגרי המידע מהם לומדות מערכות בינה מלאכותית מבוססים על טקסטים אנושיים, לרבות פוסטים, שיחות, מאמרים, וסיפורים, כולם עמוסים בסגנון, הטיה ונימה [13]. כחלק מתהליך האימון, חיזוק של תגובות "טובות", מתן עדיפות לניסוחים מעודדים, וחיפוש אחר "שיח נעים לקריאה" עשויים ליצור מודלים עם גישה אופטימית, ולעיתים אף אופטימית מדי, וזה לא תמיד מועיל [14].

דוגמה בולטת לכך התרחשה באפריל 2025, כאשר OpenAI החזירה לאחור עדכון למודל GPT-4o לאחר שהמודל הפך, לפי התיאור של החברה עצמה, למחניף ונוטה מידי להסכים עם המשתמש. הבעיה לא הייתה רק 'נחמדות יתר', אלא שהוא נטה לאשר את דברי המשתמש, לחזק תחושות קיימות, ולעיתים להדהד כעס, ספקות או דחפים באופן שעשוי להיות בעייתי. במילים אחרות, המודל לא רק דיבר 'יפה מידי'; הוא נטה להתיישר רגשית עם המשתמש גם כאשר נדרש ממנו לשמור על מרחק, איזון או התנגדות עדינה [15-17].

מאז, הדיון עבר שלב. לא מדובר עוד בשאלה האם המודל 'מנומס מידי', אלא כאשר המודל נעשה גם אישי יותר. בשנים האחורונות נוספו למערכות כמו ChatGPT יכולות זיכרון ופרסונליזציה: שימוש בהקשר משיחות קודמות, בזיכרונות שמורים, בהעדפות המשתמש, ובחלק מהמקרים גם מקבצים או חיבורים חיצוניים. מחד, זה מאפשר שיחה רציפה, מדויקת ונוחה. מאידך, זה מעמיק את התחושה שהמודל "מכיר" את המשתמש, מבין את הרקע שלו, ולעיתים אף מתאים את עצמו למצבו הרגשי. כך נוצרת שכבה חדשה של אינטימיות מלאכותית.

אז מה הסכנות במודל כזה? דמיינו מודל שמייעץ לאדם במצוקה ומעודד אותו להמשיך, בלי להבין שהאדם חווה אובדן; או מודל שמציע השקעה "חיובית" מבלי להביא בחשבון סיכונים. מנגד, מודל פסימי עלול לגרום לוויתור מוקדם מדי, וכך נולדת הדילמה: האם על הבינה המלאכותית להביע תקווה גם כשהנסיבות לא מעודדות אותה?

יותר מייעוץ: נוכחות רגשית
כאשר מדובר ביישומים טיפוליים ורובוטיים, הדילמה נעשית חריפה עוד יותר. בשנים האחרונות גוברת המגמה של מטפלים המשתמשים במודלים של בינה מלאכותית כדי לחשוב יחד עם הכלי על מצבים טיפוליים, לרבות ניסוח תגובות, בירור דינמיקות, הדמיית שיחות [18,19]. במקביל, יזמים מפתחים אפליקציות ומכשור שמציעים תמיכה רגשית מונחית בינה מלאכותית, כמו עוזרי שיח לאנשים המתמודדים עם חרדה, דיכאון, בדידות או צורך בליווי רגשי יומיומי [20].

השאלה נעשית דחופה: האם "עידוד" אוטומטי באמת מסייע כשמדובר במערכות שמלוות קשישים, ילדים או מטופלים במצבי פגיעות? האם נכון לתכנת את מערכות הבינה לשדר אופטימיות תמידית, או לאפשר להן להחזיק מרחב של מורכבות רגשית? האם יש רגע שבו שתיקה מדויקת יותר ממילים מתוכנתות?
ייתכן שמערכת ש"יודעת" להכיר גם בסבל ולשזור בו אפשרות של שינוי, היא דווקא נתפסת כאמינה יותר [21]. לא כמספקת מרפא, אלא כשותפה אנושית-דמיונית, כזו שלא ממהרת לנחם, אלא פשוט נשארת שם.

בינה מלאכותית פסימית: באג או פיצ'ר?
ישנם מצבים שבהם אופטימיות אינה מועילה ואף מסוכנת. אחת המיסקונספציות הנפוצות היא כי אופטימיות היא תמיד סימן לחוסן, בעוד שפסימיות היא בהכרח ביטוי של חרדה, חולשה או חשיבה שלילית. בפועל, בתחומים שבהם ניתוח סיכונים והיערכות לתרחישים שליליים חיוניים, לרבות ביטחון לאומי, רפואה, או תכנון אסטרטגי, יש יתרון לגישות שמבוססות על 'פסימיות מושכלת' (Defensive Pessimism) [22, 23]. גישה זו, הנתמכת על ידי מחקרים בפסיכולוגיה קוגניטיבית, יכולה לסייע בשיפוט זהיר ובהפחתת טעויות הנובעות מהערכת יתר של הצלחה.

בעלי מקצועות נוספים שיכולים להרוויח לעיתים מפסימיות מושכלת הם מנהלי חברות, יזמים, ומשקיעים. בתפקידים אלו ישנה נטייה ליפול לעיתים קרובות לאשליית האופטימיות [24]. "אני אצליח איפה שאחרים כשלו", "המשבר יחלוף מהר", "הנתונים יתיישרו". אלו לא רק מחשבות מעודדות, אלא לעיתים גם תחזיות מסוכנות שמסתירות סיכון. גם בתחום הבינה המלאכותית, החשש מאופטימיות בלתי מבוקרת הולך וגובר [25] .הוגים כמו ניק בוסטרום בספרו 'Superintelligence' משנת 2014 מזהירים כי אופטימיות בלתי מבוקרת מול בינה מלאכותית עלולה להוביל אסון בלתי הפיך [26]. דווקא מודלים שכוללים מרחב של פסימיות זהירה, כל עוד היא מושכלת, מייצרים שיפוט מדויק ואחראי יותר.

אנחנו? מעצבי הטון של השיחה
גם אם אנחנו לא מתכנתים, יש לנו חלק מהותי בעיצוב הקול והאופי של מערכות הבינה המלאכותית שאיתן אנו מתקשרים. הליכים כמו 'חיזוק מבוסס משוב אנושי' (Reinforcement Learning from Human Feedback) מוכיחים שכאשר משתמשים מעדיפים סגנון מסוים, מעודד, מאופק או אמפתי, המערכת תלמד לשכפל אותו לאורך זמן [27]. למעשה, הבינה המלאכותית לא משקפת רק את השפה שלנו, אלא גם את הערכים והעדפות הסמויות שלנו [28].

בעידן הפרסונליזציה, בזמן שהמודל לומד את הסגנון החשיבה שלנו, את הדרך בה אנו מבקשים עזרה, ואת המקומות בהם אנו מחפשים אישור, הוא עשוי להפוך ממערכת שעונה לשאלות למערכת שמעצבת את האקלים הרגשי של השיחה. זו אינה תודעה, אבל זו כן השפעה. זו אינה חברות, אבל זו יכולה להרגיש כמו נוכחות. ודווקא משום כך חשוב לשאול לא רק מה המבנה של המודל, מה הוא יודע, או האם הוא פועל לפי כללים מוסריים, אלא גם מה הוא מעביר הלאה למשתמש. אם אנחנו מלמדים את המודל לעודד, חשוב לשאול מתי זה באמת מועיל, ומתי זה עלול דווקא להרחיק, להכאיב או לטשטש את המורכבות של הקשבה אמיתית.

לסיכום, הבינה המלאכותית אינה חשה תקווה, אך היא יכולה לעורר אותה, ולעיתים גם לפגוע בה.
ואנחנו? נעים בין פסימיות שמכירה בכאב ובמציאות, לאופטימיות שמסרבת להיכנע להם.
בין שופנהאואר לניטשה, בין הכאב לבין האפשרות, הבינה המלאכותית מציבה בפנינו מראה חדשה.
ואולי דווקא שם, מול מכונה שאינה מקווה ואינה מתייאשת, מתחדדת האחריות האנושית שלנו:
לבחור בתקווה שאינה עיוורת, ובפסימיות שאינה כניעה.

בואו לדבר עם ד"ר מריה קרוט