במחצית השנייה של המאה העשרים החלו להתגבש שתי מהפכות אינטלקטואליות שבמשך עשרות שנים התקדמו במסלולים נפרדים. הראשונה התרחשה במדעי המוח. השנייה במדעי המחשב. הראשונה ניסתה להבין כיצד המוח הביולוגי לומד, מסיק מסקנות ובונה ייצוגים של המציאות. השנייה ניסתה לבנות מערכות מלאכותיות שיוכלו לבצע חלק מן הפעולות הללו באמצעות חישוב.
במשך שנים רבות נדמה היה שמדובר בשני עולמות שונים לחלוטין. אלא שככל שהצטברו הנתונים, התברר ששני התחומים מתכנסים בהדרגה אל שאלה משותפת: כיצד מערכת מורכבת לומדת מן העולם.
בשנת 1950 הוצג מבחן טיורינג. בשנת 1957 פותח הפרספטרון הראשון. בשנות השמונים התפתחה מחדש למידת הרשתות העצביות. בשנת 2012 הוכיחה רשת AlexNet כי ניתן לזהות עצמים בתמונות ברמת דיוק ששינתה את התחום כולו. בשנת 2016 ניצחה AlphaGo את אחד משחקני הגו הגדולים בעולם. בשנת 2022 נחשפו מאות מיליוני בני אדם למודלי שפה גדולים.
רצף האירועים הזה נראה טכנולוגי. למעשה מדובר ברצף קוגניטיבי. בכל שלב הוסטה מעט יותר תשומת הלב מן השאלה “כמה מידע יש במערכת” אל השאלה “כיצד המערכת מארגנת מידע לכדי משמעות”.
במקביל, מדעי המוח עברו מהפכה שקטה לא פחות. במשך עשורים רבים שלטה המטפורה של המוח כמחשב ביולוגי המעבד קלט מן הסביבה. אלא שמחקרים בתחום התפיסה, הקשב והלמידה החלו להצביע על תמונה מורכבת יותר.
על פי גישות מובילות במדעי הקוגניציה, המוח אינו ממתין למידע. הוא מייצר ללא הרף השערות לגבי העולם. למעשה, חלק ניכר מן הפעילות העצבית איננו תגובה למציאות אלא ניסיון לחזות אותה מראש.
כאשר אדם מביט ברחוב, המוח כבר מנחש אילו עצמים יופיעו בשדה הראייה. כאשר הוא שומע משפט, המוח חוזה את המשך המשפט עוד לפני שהמילים נאמרות. כאשר הוא פוגש אדם מוכר, המוח משלים חלקים גדולים של המידע לפני שהעיבוד החושי הסתיים.
מחקרים בהדמיית מוח, אלקטרופיזיולוגיה ומדעי הקוגניציה מצביעים על כך שחלק ניכר מצריכת האנרגיה של המוח מוקדש לתחזיות, לא רק לתגובות. המוח האנושי, הצורך כעשרים ואט בלבד, מפעיל כ־86 מיליארד נוירונים ומאות טריליוני קשרים סינפטיים, וייתכן שההיגיון המארגן המרכזי שלו הוא צמצום מתמיד של שגיאות חיזוי.
הנקודה הזאת חשובה משום שהיא משנה את האופן שבו יש להבין גם את הבינה המלאכותית וגם את המשתמש האנושי.
רוב הדיון הציבורי מניח שהערך נמצא במידע. אלא שהן במוח והן במודל, המידע לבדו איננו מספיק. הערך נוצר במערכת היחסים בין מידע לבין מודל.
אדם אחד קורא מאמר גיאופוליטי ומסיק ממנו תובנה אסטרטגית. אדם אחר קורא את אותו מאמר ומוצא בו אישור לדעה שכבר החזיק קודם. אדם שלישי כלל אינו מבחין ברעיון המרכזי. הנתונים זהים. המסקנות שונות.
הסיבה לכך היא שהמוח איננו סופג מידע; הוא מפרש אותו באמצעות מודלים פנימיים שנבנו לאורך שנים של ניסיון, תרבות, חינוך, הצלחות, כישלונות והטיות קוגניטיביות.
וזה ממש גילוי של אחת התופעות המעניינות ביותר של עידן הבינה המלאכותית.
לראשונה בהיסטוריה, ניתן לצפות כמעט בזמן אמת בהשפעתם של מודלים מנטליים שונים על אותה מערכת ידע. שני אנשים יכולים להשתמש באותו מודל שפה, באותו יום, על אותה שאלה, ולקבל תוצרים שונים לחלוטין.
לא משום שהמודל השתנה, אלא משום שהשיחה עצמה היא תהליך של בניית הקשר.
משתמש אחד יבקש סיכום. משתמש אחר יבקש ביקורת. משתמש שלישי יבקש הפרכת הנחות יסוד. משתמש רביעי יבקש השוואה בין שלוש אסכולות מתחרות. המערכת מגיבה למסלול החקירה שנוצר.
במובן הזה, המשתמש איננו רק צרכן של התשובה. הוא שותף פעיל בבנייתה.
התופעה הזאת מוכרת היטב גם בפסיכולוגיה החברתית. כאשר שני בני אדם משוחחים, הם אינם רק מחליפים מידע. הם בונים בהדרגה מודל זה של זה.
מחקרים על סנכרון קוגניטיבי ועל מודלים מנטליים משותפים הראו כי קבוצות מצליחות אינן בהכרח קבוצות שבהן לכל המשתתפים אותו ידע, אלא קבוצות שבהן נוצרה הבנה משותפת של האופן שבו הידע מאורגן. במילים אחרות, איכות שיתוף הפעולה אינה תלויה רק בכמות המידע הזמינה אלא במבנה החשיבה המשותף שנוצר סביבו.
זהו בדיוק אחד המנגנונים הבולטים גם בעבודה עם בינה מלאכותית.
ככל שהמשתמש מצליח להעביר למערכת את אופן החשיבה שלו, כך גדל הסיכוי לקבל תוצאה המתאימה לצרכיו. לא במקרה משתמשים מנוסים מדווחים לעיתים קרובות שהם אינם מחפשים תשובות אלא בונים שיחה. הם למעשה בונים מודל משותף.
היבט נוסף, ולעיתים מוזנח, נוגע למערכת התגמול.
במוח האנושי, למידה מושפעת עמוקות ממנגנוני תגמול המבוססים בין היתר על פעילות דופמינרגית. בניגוד לתפיסה הפופולרית, דופמין איננו מולקולת ההנאה. במידה רבה יותר הוא אות למידה. הוא מסמן למערכת אילו קשרים היו שימושיים לצורך חיזוי העולם.
מחקרים בנוירוביולוגיה חישובית הראו כי פעילות דופמינרגית דומה מבחינה מתמטית למנגנון של שגיאת חיזוי תגמול, אחד העקרונות המרכזיים בלמידת חיזוק.
כאשר המציאות טובה מן הצפוי, המערכת מעדכנת את עצמה. כאשר היא גרועה מן הצפוי, המערכת מתקנת את המודל.
במובן זה, הלמידה האנושית והלמידה החישובית חולקות מבנה מופשט דומה: יצירת תחזית, קבלת משוב, חישוב פער ועדכון קשרים פנימיים.
אלא שכאן מסתתר הבדל עמוק.
האדם איננו ממקסם פונקציית מטרה אחת. האבולוציה יצרה מערכת רבת יעדים: הישרדות, שייכות חברתית, סקרנות, מעמד, ביטחון, חיסכון באנרגיה, למידה ועוד.
לעומת זאת, מערכות בינה מלאכותית פועלות בדרך כלל סביב פונקציות מטרה מוגדרות הרבה יותר.
ההבדל הזה מסביר מדוע בני אדם עשויים לעיתים להעדיף סיפור משכנע על פני עובדה נכונה, בעוד שמערכת חישובית עשויה להעדיף תבנית סטטיסטית סבירה גם כאשר היא איננה נכונה.
בשני המקרים קיימים מנגנוני אופטימיזציה. הם פשוט פועלים על יעדים שונים.
מה שמוביל אותנו למסקנה רחבה יותר לגבי החברה האנושית.
במשך מרבית ההיסטוריה, מחסור במידע היה בעיה מרכזית. כיום אנו חיים בסביבה שבה המידע זמין בשפע חסר תקדים. מדי יום נוצרים בעולם מאות מיליוני גיגה בייט של נתונים. מספר המאמרים המדעיים המתפרסמים מדי שנה חצה זה מכבר את רף שלושת מיליוני הפרסומים. כמות המידע האנושי גדלה בקצב שאף אדם בודד אינו מסוגל לעבד.
התוצאה היא פרדוקס.
ככל שהמידע נעשה זמין יותר, כך קטן ערכו היחסי של המידע עצמו וגדל ערכה של היכולת לבחור, להצליב, להעריך ולפרש.
במובן זה, הבינה המלאכותית איננה יוצרת אתגר חדש. היא חושפת אתגר ישן.
היא מאלצת את המשתמש להתמודד עם איכות מנגנוני החשיבה שלו עצמו.
משתמש שמקבל כל תשובה כפשוטה יישאר מוגבל גם מול המערכת החזקה בעולם. משתמש המפעיל ספק, חקירה, הצלבה ובדיקה יקבל תוצאה עשירה יותר גם ממערכת מוגבלת יחסית.
למעשה, ככל שהמודלים נעשים מתקדמים יותר, כך מתחדדת חשיבותם של הכישורים האנושיים שאינם קשורים ישירות לידע: שיפוט, סקרנות, מטא קוגניציה, בניית השערות, זיהוי הטיות והבנת הקשרים.
ייתכן שזו הסיבה שהשאלה החשובה ביותר בעידן הבינה המלאכותית איננה כמה חכמה תהיה המכונה.
השאלה החשובה היא איזה סוג של חשיבה היא תפגוש.
משום שבסופו של דבר, המפגש בין אדם לבינה מלאכותית הוא הרבה פחות מפגש בין ביולוגיה לטכנולוגיה והרבה יותר מפגש בין שני מנגנונים המנסים להבין את העולם באמצעות מודלים.
אחד מהם בנוי מתאי עצב. השני בנוי ממשקלים מתמטיים.
שניהם מחפשים דפוסים. שניהם מפיקים תחזיות. שניהם מעדכנים ייצוגים.
והמפגש ביניהם חושף אמת עמוקה שהייתה נכונה הרבה לפני הופעת המחשב הראשון: איכות התשובות שאנו מקבלים מן העולם תלויה במידה רבה באיכות השאלות שאנו יודעים לשאול.
מכאן ניתן לרדת מן הרובד התאורטי אל עולם הפרקטיקה. אם המוח האנושי ומערכות בינה מלאכותית הן במידה מסוימת מערכות הבונות ומעדכנות מודלים של המציאות, הרי שהשאלה החשובה איננה רק כיצד הן פועלות, אלא כיצד בני אדם יכולים לעבוד איתן בצורה מיטבית. בנקודה זו מופיעה אנלוגיה מעניינת במיוחד: היחסים בין אדם למודל דומים במובנים רבים ליחסים בין בני אדם.
כאשר אדם פוגש אדם אחר, הוא כמעט אף פעם אינו מקבל את מלוא התמונה מיד. היכרות נבנית בהדרגה. שאלות חושפות שכבות נוספות. ספק מחדד הבנה. ניסיון מצטבר מאפשר להבחין בין רושם ראשוני לבין תכונות עומק. אנשים בעלי חשיבה ביקורתית אינם מקבלים כל אמירה כפשוטה.
הם בוחנים עקביות, מחפשים סתירות, משווים בין מקורות מידע, מזהים הטיות ומעדכנים את הערכתם לאורך זמן. במילים אחרות, הם בונים מודל מנטלי של האדם שמולם ומעדכנים אותו באופן רציף.
בדיוק אותו עיקרון פועל גם בעבודה עם מערכות בינה מלאכותית. משתמש פסיבי נוטה לקבל תשובות כפי שהן. משתמש פעיל בוחן אותן, משווה אותן לידע קודם, מחפש פערים, מבקש הסברים חלופיים ומפעיל מנגנוני בקרה. התוצאה היא שהמערכת עצמה הופכת מכלי המספק תשובות לכלי המסייע בחקירה. ההבדל איננו טכנולוגי. הוא קוגניטיבי.
מנקודת מבט זו, המיומנות החשובה ביותר בעידן הבינה המלאכותית איננה כתיבת פרומפטים, היכרות עם ממשקים או שליטה בתכונה כזו או אחרת של מודל מסוים. כל אלה ישתנו במהירות.
המיומנות היציבה יותר היא היכולת לבנות תהליך חשיבה. היכולת לשאול שאלה טובה, לפרק בעיה לגורמים, לבחון הנחות יסוד, לזהות מידע חסר ולהצליב מסקנות בין מקורות שונים.
למעשה, ניתן לראות את השימוש המתקדם בבינה מלאכותית כתהליך מחקרי מוקטן. המשתמש מנסח השערה, בודק אותה באמצעות המודל, משווה את התוצאה למקורות נוספים, מזהה פערים ומעדכן את הבנתו. זהו אותו מנגנון בסיסי שבאמצעותו פועלים מדענים, חוקרים, אנליסטים ואנשי מודיעין. ההבדל הוא שהיום התהליך הזה נגיש כמעט לכל אדם המחזיק טלפון חכם.
כאן נכנסת לתמונה חשיבותם של מנגנוני ההנחיה והבקרה. בעולם רווי מידע, היכולת להפיק תשובה מהירה היא יתרון מוגבל בלבד. הערך האמיתי נוצר באמצעות סינון, השוואה, הצלבה והערכה. בדיוק כפי שאדם אינו מבסס החלטות חשובות על שיחה אחת עם אדם אחד, כך גם אין היגיון לבסס מסקנות משמעותיות על תשובה בודדת ממערכת בינה מלאכותית. תהליך בריא כולל בדיקה מול מקורות נוספים, הצגת פרשנויות חלופיות, חיפוש מידע סותר והבנת מגבלות המערכת.
מעניין לראות כי ככל שהמערכות הופכות חזקות יותר, כך גדל ערכם של מנגנוני הבקרה האנושיים. בעבר נדרש מאמץ רב כדי למצוא מידע. כיום נדרש מאמץ רב יותר כדי להעריך אותו. זהו שינוי עמוק. במשך דורות רבים הידע עצמו היה המשאב הנדיר. בעידן הנוכחי המשאב הנדיר הופך להיות שיקול הדעת.
לכן הדיון סביב בינה מלאכותית איננו דיון טכנולוגי בלבד. הוא דיון על פיתוח הרגלי חשיבה. על בניית מנגנונים המאפשרים לאדם להתמודד עם עודף מידע. על טיפוח סקרנות לצד ספקנות. על יצירת איזון בין פתיחות לרעיונות חדשים לבין דרישה לראיות. על פיתוח היכולת להחזיק מספר הסברים במקביל עד להצטברות מספקת של מידע.
המשמעות המעשית של כל אלה ברורה. ככל שהבינה המלאכותית תמשיך להשתפר, כך יגדל הפער בין משתמשים המפעילים אותה כמכונת תשובות לבין משתמשים המפעילים אותה כמערכת חקירה.
הראשונים יקבלו מידע. האחרונים יבנו הבנה. הראשונים יסתפקו בתוצאה. האחרונים יבדקו כיצד נוצרה. הראשונים יצרכו ידע. האחרונים ייצרו ידע חדש מתוך החיבורים, ההשוואות וההצלבות.
בסופו של דבר, המסקנה הרחבה ביותר העולה מן המפגש בין המוח האנושי לבין הבינה המלאכותית היא שהטכנולוגיה עצמה איננה הגורם המכריע. הגורם המכריע הוא איכות תהליכי החשיבה שהאדם מביא אליה. ככל שהיכולת האנושית לשאול, לבקר, להשוות, להצליב ולעדכן מודלים מנטליים תהיה מפותחת יותר, כך תהפוך הבינה המלאכותית למכפיל כוח אינטלקטואלי.
ככל שהיכולות הללו יהיו חלשות יותר, כך גם המערכות המתקדמות ביותר יישארו מקור לתשובות שטחיות בלבד. במובן זה, עתיד היחסים בין אדם לבינה מלאכותית תלוי פחות בהתפתחות המכונה ויותר בהתפתחות ההרגלים הקוגניטיביים של האדם המשתמש בה.
No Comments yet!