מהקוף האינסופי אל הנדסת ההקשר

כרונולוגיה של האינטליגנציה מן האבולוציה אל הבינה המלאכותית

דמיינו קוף היושב מול מקלדת ולוחץ על מקשים באקראי. אין לו שפה, אין לו כוונה, אין לו מושג מהי אות ומהי מילה. רוב הזמן הוא יפיק רצפים חסרי פשר: אותיות מבולבלות, סימנים שבורים, רעש. אך אם ימשיך להקליד לא שעה, לא שנה ולא מיליון שנה, אלא זמן אינסופי, יתרחש דבר מוזר מבחינה מתמטית. כל רצף אפשרי של סימנים יופיע לבסוף. מילה. משפט. עמוד. מחזה שלם. אפילו כל כתבי שייקספיר.

זהו משפט הקוף האינסופי: ניסוי מחשבתי בתורת ההסתברות, שלפיו מערכת המייצרת סימנים באקראי במשך זמן אינסופי תפיק בסופו של דבר כל טקסט אפשרי. לא מפני שהיא מבינה אותו, אלא מפני שהאקראיות, כאשר מעניקים לה אינסוף ניסיונות, מכסה לבסוף את כל מרחב האפשרויות. המשפט הזה נראה משעשע, אך הוא חושף שאלה עמוקה על טבעה של אינטליגנציה. מה חסר לרצף סימנים כדי להפוך למשמעות.

הקוף מסוגל, עקרונית, להפיק את המלט של שקספיר. אבל הוא לא יודע שכתב את המלט. הוא אינו יודע להבדיל בין יצירת מופת לבין גיבוב חסר פשר. מבחינתו, כל רצף שקול לכל רצף אחר. אין לו מנגנון שמדרג, מסנן, מזהה, מוחק, מעדיף או בוחר. לכן משפט הקוף האינסופי אינו רק משל על כוחו של המקרה. הוא גם משל על חולשתו. אפשר לייצר אינסוף אפשרויות ועדיין לא להבין אף אחת מהן.

הבעיה של הקוף אינה מחסור במידע. להפך, הוא נמצא בתוך עודפות מוחלטת של מידע אפשרי. הבעיה היא היעדר הקשר. מידע לבדו אינו מספיק. רצף סימנים נעשה בעל ערך רק כאשר מערכת כלשהי יודעת היכן למקם אותו, לאיזו מטרה הוא קשור, מה הוא משנה, מה הוא מאפשר לעשות ומה יש לדחות כלא רלוונטי. האינטליגנציה מתחילה במקום שבו אפשרות אחת נבחרת מתוך רבות מפני שהיא חשובה יותר ברגע מסוים.

מכאן אפשר לקרוא את ההיסטוריה של החיים כהיסטוריה של ניהול אי ודאות. כל יצור חי, מן התא הבודד ועד האדם, מתקיים בסביבה עשירה בהרבה מיכולת העיבוד שלו. בכל רגע מגיעים אליו אותות רבים מדי: אור, חום, תנועה, ריח, רעש, מגע, שינוי כימי, סכנה אפשרית, הזדמנות אפשרית. רובם אינם חשובים. חלק קטן מהם עשוי להכריע בין הישרדות לבין היעלמות. אילו כל אות היה זוכה לאותו יחס, שום פעולה לא הייתה מתבצעת בזמן. החיים היו נמחצים תחת עודף מידע.

האבולוציה פתרה את הבעיה באמצעות סלקציה. היא לא יצרה יצורים שיודעים הכול, אלא יצורים שיודעים לברור טוב יותר. מוח ביולוגי אינו נעשה חכם מפני שהוא קולט את כל המציאות. הוא נעשה חכם מפני שהוא מתעלם מרובה. רשרוש בעלים אינו עוד צליל סתמי; בתנאים מסוימים הוא עשוי להיות סימן לטורף. צל אינו רק שינוי בעוצמת האור; הוא עשוי להיות מחסה. מערכת העצבים אינה מסתפקת ברישום גירויים. היא שואלת, בלי מילים, מה מתוך כל זה דורש פעולה עכשיו.

כך נולד הקשב. מקובל לחשוב על קשב כעל פתיחה אל העולם, אך למעשה הוא מנגנון צמצום. הוא מסלק את רוב העולם מן התודעה כדי שחלק קטן ממנו יוכל להיעשות ברור, דחוף ושימושי. קשב הוא אמנות ההשמטה. בלעדיו, כל פרט היה מתחרה בכל פרט אחר. איתו, המציאות מקבלת היררכיה. יש עיקר ויש טפל. יש אות ויש רעש. יש מידע שמחייב תגובה ויש מידע שיכול להיעלם מבלי שיקרה דבר.

ההבחנה הזאת מובילה אל ההבדל בין קשר לבין הקשר. קשר הוא יחס בין שני דברים. הקשר הוא מערכת התנאים שבתוכה היחס הזה מקבל משמעות. המילה “אש” יכולה להיות תיאור של תופעה, אזהרה, פקודה, מטפורה או זיכרון. רצף האותיות אינו משתנה. המצב משתנה. מי אמר, למי, איפה, באיזה רגע, באיזו סכנה, לאיזו מטרה. המשמעות אינה יושבת בתוך המילה לבדה. היא נוצרת במפגש בין סימן, מצב, מטרה ופעולה.

המוח הביולוגי אינו פועל בחלל מופשט של סימנים. הוא מעוגן בגוף, בזמן ובמחיר. טעות אינה רק חישוב לא מדויק. טעות עשויה לעלות באנרגיה, בפציעה, בהחמצת מזון או במוות. משום כך האבולוציה לא אימנה את המוח להגיע לאמת מושלמת, אלא להכרעה מספקת בזמן. המוח אינו ממקסם ידע. הוא ממקסם הישרדות. ידיעה שאינה משנה פעולה כמעט אינה מועילה. הבחנה קטנה המשנה החלטה ברגע קריטי עשויה להיות בעלת ערך עצום.

כדי להחליט, המוח חייב לדחוס את המציאות. איננו זוכרים כל עלה שראינו ביער. אנו יוצרים את מושג היער. איננו זוכרים כל שיחה עם אדם קרוב. אנו בונים את מושג החבר. איננו זוכרים כל עסקה וכל מחיר. אנו יוצרים את מושג השוק. ההפשטה אינה קישוט אינטלקטואלי. היא תנאי לחשיבה. ללא דחיסה של אינספור אירועים למבנים פשוטים יחסית, כל החלטה הייתה מחייבת עיבוד מחדש של העולם כולו.

גם הציוויליזציה היא מנגנון דחיסה עצום. שפה דוחסת ניסיון למילים. כסף דוחס ערך למספר. מפות דוחסות מרחב לסימנים. חוקים דוחסים ניסיון היסטורי לנורמות פעולה. מתמטיקה דוחסת תופעות למשוואות. מוסדות דוחסים מורכבות לתפקידים, סמכויות והליכים. בית משפט אינו נועד לייצר עובדות חדשות, אלא לקבוע אילו עובדות רלוונטיות להכרעה. אוניברסיטה אינה רק אוסף של אנשים חכמים, אלא מערכת של ביקורת, סינון ותיקוף. המדע אינו מתקדם מפני שהוא אוסף עוד ועוד עובדות בלבד, אלא מפני שהוא בונה מסגרות שמסבירות אילו עובדות קשורות זו לזו.

אפשר לראות את ההיסטוריה האנושית כהרחבה מתמדת של ההקשר. ציורי המערות הוציאו זיכרון מתוך הגוף אל הקיר. הכתב שחרר את הידע מן הזיכרון הביולוגי. הספר אפשר להעביר מחשבה מעבר לחיי אדם יחיד. הספרייה יצרה סדר בין טקסטים. הדפוס הרחיב את ההפצה מעבר לגבולות של עיר, מעמד וכנסייה. המחשב הגדיל את כוח החישוב. האינטרנט חיבר פיסות מידע בקנה מידה עולמי. בכל שלב גדלה כמות המידע, אך יחד איתה גדלה גם הבעיה: מי יחליט מה רלוונטי.

כאשר המידע נדיר, המאמץ מופנה לאיסוף. כאשר המידע שופע, המאמץ עובר לאיתור. כאשר המידע כמעט אינסופי, האתגר נעשה עמוק יותר: ניהול הקשר. בעידן הדיגיטלי אין מחסור בתשובות. יש מחסור במנגנונים המסוגלים לקבוע איזו תשובה מתאימה למצב, מאיזה מקור היא מגיעה, האם היא עדכנית, האם היא מוסמכת, מה רמת האמון בה ומה יקרה אם נשתמש בה בטעות.

כדי להבין את המשבר הזה, צריך להבחין בין נתונים, מידע, ידע והקשר. נתונים הם הבדלים שאפשר למדוד. מידע הוא נתון שקיבל מבנה. ידע הוא מידע שניתן לשלב במודל של העולם. הקשר הוא המנגנון הקובע איזה ידע יופעל, באילו תנאים, עבור איזו מטרה ובאיזו עדיפות. ההקשר אינו תוספת נוחה לידע. הוא מערכת הבקרה שלו. ידע מדויק ללא הקשר עלול להיות חסר ערך, ולעיתים גם מסוכן. תרופה נכונה לחולה הלא נכון אינה ידע מועיל. סעיף משפטי נכון בהליך הלא נכון אינו פתרון. נתון פיננסי אמיתי בזמן הלא מתאים עלול להוביל להחלטה שגויה.

במקום הזה בדיוק מתבררת משמעותה העמוקה של הבינה המלאכותית. במשך שנים נמדדה אינטליגנציה מלאכותית ביכולת לפתור בעיות מוגדרות היטב: לחשב, למיין, לשחק שחמט, לזהות תבניות, לנצח במשחק. אבל בעיות כאלה מגיעות עם גבולות ברורים. יש כללים. יש מטרה. יש מצב פתיחה. העולם האמיתי אינו נדיב כל כך. בדרך כלל הקושי מתחיל לפני הפתרון: מהי בעצם הבעיה, אילו עובדות דרושות, איזה מקור אמין, מה אינו רלוונטי, מי מוסמך להחליט ומה מחיר הטעות.

מודלי שפה שינו את הדיון מפני שהם אינם פועלים כמו מנוע חיפוש רגיל. מנוע חיפוש שואל היכן נמצא המידע. מודל שפה מנסה להעריך מהו ההמשך הסביר ביותר בהתחשב בהקשר שניתן לו. כל מילה משנה את מרחב האפשרויות של המילים הבאות. כל מסמך שמוזן למערכת משנה את כיוון התשובה. כל הנחיה, מגבלה או מקור מידע משנים את אופי ההסקה. ההסתברות חוזרת אל מרכז הבמה, אך היא כבר אינה משחק מופשט. היא הופכת למנגנון עבודה של מערכות המנסות לפעול בתוך אי ודאות.

הסתברות היא אחת השפות המשותפות של האבולוציה, המוח והבינה המלאכותית. האבולוציה מעדכנת הסתברויות באמצעות ברירה טבעית. המוח מעדכן אותן באמצעות ניסיון, למידה ושגיאות ניבוי. מודל שפה מעדכן אותן באמצעות אימון על כמויות עצומות של טקסט. בשלושת המקרים אין ודאות מוחלטת. יש הערכה משתפרת של מה סביר, מה מתאים, מה צפוי, מה מועיל. אינטליגנציה אינה ביטול אי ודאות. היא יכולת לעבוד בתוכה.

אבל סטטיסטיקה לבדה אינה משמעות. דפוס חוזר יכול להיות חשוב, מקרי, מטעה או חסר ערך. שני משתנים יכולים להופיע יחד שוב ושוב מבלי שאחד גורם לשני. אירוע נדיר יכול להיות חשוב יותר מאלף אירועים שכיחים. האינטליגנציה האנושית אינה מסתפקת בזיהוי דפוסים. היא מנסה להבין איזה סוג של קשר מתקיים: סיבתי, סמלי, מוסדי, מוסרי, משפטי, רגשי או מקרי. זהו המעבר מן הדפוס אל המשמעות, ומן המשמעות אל שיקול הדעת.

לכן המושג החשוב ביותר בדור הנוכחי של מערכות בינה מלאכותית הוא ההקשר שבתוכו הוא פועל. מודל חזק, המקבל מקור מיושן, מסמך לא מוסמך, הרשאות שגויות או שאלה מנוסחת רע, עלול להפיק תשובה גרועה. מודל קטן יותר, הפועל בתוך הקשר מדויק, עדכני ומבוקר, עשוי להוביל להחלטה טובה יותר. המודל הוא מנוע הסתברותי. המערכת האמיתית היא הארכיטקטורה שמחליטה מה יגיע אליו, באיזה סדר, מאילו מקורות, תחת אילו כללים ובאיזו רמת אמון.

אז בואו נכיר את המושג הנדסת הקשר. אם הנדסת תוכנה עסקה בבניית אלגוריתמים, והנדסת נתונים עסקה בארגון מאגרי מידע, הנדסת הקשר עוסקת בארגון התנאים שבתוכם אלגוריתם יפעל. היא שואלת מי המשתמש, מה תפקידו, מה כבר ידוע לו, באיזה שלב בתהליך הוא נמצא, אילו מסמכים מחייבים ואילו הם טיוטה, איזה מידע עדכני ואיזה היסטורי, מתי נדרש אימות נוסף ומתי יש להעביר את ההחלטה לאדם. זו אינה שאלה של נוסח יפה יותר. זו שאלה של אחריות מערכתית.

מערכת בינה מלאכותית דומה לעיר יותר מאשר למכונה בודדת. בעיר טובה לא כל כביש מוביל לכל מקום. יש אזורי גישה, עומסים, תמרורים, סמכויות, חסימות, מעברים, מסלולים מהירים ונקודות בקרה. גם מערכת חכמה אינה אמורה לאפשר לכל מידע להגיע לכל החלטה. עליה לדעת להפריד בין הקשרים שאסור לערבב: רפואי, משפטי, אישי, פיננסי, מחקרי, בטיחותי. איכותה אינה נמדדת רק בעוצמת הרכיבים, אלא באיכות היחסים ביניהם.

הדבר נכון גם לארגונים אנושיים. ארגון אינו אוסף עובדים, אלא רשת של קשרים, תפקידים, הרשאות, נהלים ואמון. אוניברסיטה אינה אוסף חוקרים, אלא מערכת שמחליטה כיצד ידע נבדק, מתוקן, נלמד ומועבר. מדינה אינה אוסף אזרחים, אלא מערכת של מוסדות, חוקים, נורמות והכרעות. בכל המקרים הללו, האינטליגנציה אינה שוכנת ברכיב יחיד. היא מופיעה מתוך הארגון של היחסים. נוירון אחד אינו חושב. פרמטר יחיד במודל אינו מבין. משמעות נוצרת כאשר יחידות רבות פועלות בתוך מבנה שמאפשר בחירה, משוב ועדכון.

הבינה המלאכותית משנה גם את מושג המומחיות. בעבר מומחה נתפס כמי שמחזיק ביותר ידע בתחום מסוים. בעולם שבו הידע נגיש כמעט לכל אחד, היתרון עובר אל מי שיודע לבנות הקשר טוב יותר סביב הידע. שני אנשים עשויים להשתמש באותו מודל ובאותם מסמכים, אך להגיע לתוצאות שונות לחלוטין. אחד יגדיר את הבעיה במדויק, יבחר מקורות טובים, יציב גבולות, יזהה הטיות ויבין מה אינו רלוונטי. השני יטביע את המערכת ברעש. איכות השאלה נעשית חשובה כמעט כאיכות התשובה.

גם מערכת החינוך ניצבת מול אותו שינוי. במשך מאות שנים היא עסקה בעיקר בהעברת ידע. בעולם שבו ידע זמין כמעט בכל רגע, האתגר המרכזי משתנה. צריך ללמד כיצד להגדיר בעיה, לבחור מקור, להצליב ראיות, להבחין בין עובדה לפרשנות, לזהות הטיה, להבין מגבלה ולדעת מתי המידע הקיים אינו מספיק. החינוך עובר מהוראת תשובות להוראת שיפוט.

נותר להפריד בין הקשר לבין תודעה. מערכת יכולה לנהל הקשרים מורכבים, לחזות רצפים, לפתור בעיות ולהשתמש בכלים מבלי שתהיה לה חוויה פנימית של העולם. תודעה עוסקת בשאלה כיצד העולם נחווה. הקשר עוסק בשאלה כיצד העולם מאורגן לצורך פעולה. שתי השאלות קשורות, אך אינן זהות. לכן הצלחתם של מודלי שפה בניהול הקשר אינה מוכיחה שהם מודעים במובן האנושי. היא מוכיחה דבר אחר, חשוב דיו בפני עצמו: ניתן להנדס חלקים מפעולת הארגון שהייתה עד כה מזוהה כמעט לגמרי עם המוח.

אולי משום כך סיפור הקוף האינסופי חוזר בסוף המסלול במשמעות חדשה. הקוף מייצג את מרחב האפשרויות הבלתי מוגבלות. האבולוציה מייצגת את לידת הסלקציה. מערכת העצבים מייצגת את לידת הקשב. השפה מייצגת את לידת ההפשטה. הכתב מייצג את לידת הזיכרון החיצוני. המדע מייצג את לידת המודל המסביר. המחשב מייצג את החישוב האוטומטי. האינטרנט מייצג את הקישוריות הגלובלית. הבינה המלאכותית מייצגת את הניסיון להפוך את ההקשר עצמו למשאב הנדסי.

האינטליגנציה מעולם לא הייתה צבירה פשוטה של מידע. היא הייתה, מן התא הראשון ועד למודל השפה, דרך להפחית אי ודאות באמצעות ארגון טוב יותר של המציאות. בכל דור השתנה הכלי: נוירון, מילה, ספר, מוסד, מחשב, רשת, מודל. העיקרון נשאר יציב. היתרון שייך למערכת היודעת להחליט אילו דברים קשורים זה לזה, באילו תנאים, לאיזו מטרה ובאיזו רמת אמון.

מהפכת הבינה המלאכותית היא לא ניתוק מן האבולוציה, היא המשך מוזר ומואץ שלה. במשך מיליארדי שנים למדו החיים להפוך כאוס לפעולה, גירויים למשמעות, מידע להחלטה ואי ודאות לתנועה. כעת מנסה האנושות לתרגם חלק מן העיקרון הזה לארכיטקטורה חישובית. הצלחת המהפכה לא תיקבע רק לפי גודל המודלים או מספר הפרמטרים שלהם. היא תיקבע לפי שאלה עתיקה בהרבה מן המחשב: האם המערכת יודעת לבחור את ההקשר הנכון, ברגע הנכון, עבור ההחלטה הנכונה – פשוט

לחצו ליצירת קשר עם הכותב