מטאפורת הבינה המלאכותית והשלכותיה
מטאפורות של היום מעצבות את הדימיון שלנו לגבי העתיד. הן מספקות נרטיב עוצמתי לתעשייה ולמקבלי ההחלטות וקשה לחשוב על כל הספירה הטכנולוגית בלעדיהן. כשמטאפורה כמו "בינה מלאכותית" משווה מכונות לאנשים, היא לא מציעה מטרות שאינן ניתנות להשגה, אלא ממסגרת בעיות בדרכים שלא מובילות לפתרונות טובים ומצניעה בעיות חברתיות קריטיות. מטאפורות הן פוליטיות במהותן ולכן חשוב לשאול: למי יש אינטרס בשימור המונח "בינה מלאכותית"? למי יש אינטרס ליצור את ההאנשה העמוקה של המערכות הטכנולוגיות?
לפני כמה שבועות הושעה מהנדס תוכנה אמריקני בשם בלייק למוין מעבודתו בחברת גוגל. הסיבה לכך לא פחות ממדהימה: למוין טען בתקשורת שמערכת לפיתוח צ'אט-בוטים בשם LaMDA (ראשי תיבות באנגלית ל"מודלים שפתיים ליישומים דיאלוגיים") שפותחה במעבדות גוגל, הקימה מערכות שיחה חכמות שיש להן מודעות אנושית ורגשות אנושיים. כלי התקשורת בארץ ובעולם רעשו. "תמיד אמרנו לכם", קראו הכותרות, "שבינה מלאכותית תהיה בעלת מודעות, הכרה ומצפון". מנגד, מומחי בינה מלאכותית מיהרו להרגיע שאין זה נכון ומדובר בסך הכל בחיקוי מעולה של התנהגות אנושית.
מה הוביל את כלי התקשורת והשיח הציבורי להשתכנע כל כך מהר בנכונות טענתו של למוין? אולי זה מפני שהמטפורה הטכנולוגית העוצמתית ביותר של התקופה הנוכחית היא "בינה מלאכותית". כדי להבין עד כמה היא עוצמתית צריך לומר משהו על כוחן של מטפורות. מטפורות חודרות לזיכרון, מפעילות רגשות, משפיעות על עמדות ומעצבות ציפיות לגבי העתיד. כך גם המטפורה "בינה מלאכותית", שהפכה לכל כך נפוצה למרות שהיא כל כך מטעה.
היא מלאכותית אבל היא "בינה", היא ממוחשבת אבל היא "ראיה", היא שייכת למכונה אבל היא "למידה", היא מערכת אבל היא "נוירונית". אנחנו כמובן דורשים ש"תתאמן" היטב, שיהיה לנו בה "אמון" ושלא יהיו לה "הטיות", וכמובן שתסביר את עצמה באופן מובן. כל המטפורות האלה מגיעות ממקור אחד: ייחוס תכונות אנושיות למערכות טכנולוגיות. כאשר אנחנו משווים מערכת בינה מלאכותית למוח האנושי, אנחנו יוצרים קרבה ודמיון. הדמיון הזה יוצר קבלה חברתית של הרעיון שהמכונות עובדות כמו מוח אנושי, מה שיוצר בתורו את האמונה שהן מבצעות פעולות אנושיות באותה הדרך שבה מבצעים אותן אנשים. מכאן מתפתח מיקום המכונות בתחרות ראש בראש עם בני האנוש. כל דבר הופך ל"חכם" – מטרמוסטט ועד רחפן. השימוש במטפורה של אינטליגנציה/בינה/חוכמה לכל כך הרבה שימושים, מלמד על עוצמתה של המטפורה.
אלא, שמטפורות הן פוליטיות במהותן, ולכן חשוב לשאול: למי יש אינטרס בשימור המטפורה של "בינה מלאכותית"? למי יש אינטרס ליצור את ההאנשה העמוקה של המערכות הטכנולוגיות? אפשר לחשוב, למשל, על יצרנים של מערכות שלא רוצים שתהיה עליהם אחריות למעשים של המערכות האלה, להטיות שלהן ולדיעות הקדומות במאגרי המידע שעליהם הן מתאמנות, לפגיעות ולנזקים שיגרמו, לחוסר ההבנה המובנה שלהן בנוגע להשלכות החברתיות של החלטותיהן, ולקושי ליצור לגביהן שקיפות ותקינה. כמה נוח לומר: "הבינה המלאכותית טעתה" ולהרחיק את האחריות לגבי הטעויות ממי שיצר אותה או נתן לה את המשימה.
אפשר לחשוב גם על מי שרוצה שנראה במכשירי קצה טכנולוגיים, כמו טלפונים סלולריים או עוזרים דיגיטליים - בני משפחה, נמסור להם מידע פרטי וניתן אמון בהחלטות שלהם. אחרי הכל, אלה החלטות שמתקבלות בדיוק כמו ההחלטות שלנו. אפשר כמובן לחשוב על מי שרוצה שנאמין שהמערכות הטכנולוגיות מתפתחות באופן עצמוני, ממש כמו אבולוציה אנושית, ולא נשים לב לעובדה שענקיות הטכנולוגיה הפכו לשומרות סף גם בהקשרים של פיתוח מערכות לומדות.
וכאן הנקודה החשובה: המטפורות של היום, מעצבות את הדימיון שלנו לגבי העתיד. הן מספקות נרטיב עוצמתי עבור התעשיה וגם עבור מקבלי החלטות וקשה לחשוב על כל הספירה הטכנולוגית הזאת בלעדיהן. כאשר מטפורה כמו "בינה מלאכותית" משווה מכונות לאנשים, היא לא רק מציעה מטרות שאינן ניתנות להשגה, אלא ממסגרת בעיות בדרכים שאינן מובילות לפתרונות טובים ומצניעה בעיות חברתיות קריטיות.
אז מה לעשות? ראשית, להפסיק להכליל. אין דבר כזה "בינה מלאכותית", אלא יש טכניקות פעולה ספציפיות כמו למידת מכונה, מערכת ידע, סטטיסטיקה. אפשר להתייחס לטכנולוגיות בהקשר של היישום שלהן: למשל – סיוע לאיבחון באמצעות למידת מכונה; זיהוי ביומטרי במרחבים ציבוריים ועוד. אין צורך לכתוב הצעות חוק מכלילות, דוגמת הצעת חוק הבינה המלאכותית שנמצאת כעת על שולחן האיחוד האירופי. ההקשרים והשימושים כל כך שונים, שעדיף להתייחס אליהם בנפרד.
שנית, להניח לרגע למטפורות ההשוואה ליכולות ולסגולות האנושיות, וליצור מרחב למטפורות חדשות. מה היה קורה לו היינו קוראים למערכות האלה סתם "מערכת דוגמאות" או "מערכת סטטיסטית" מבלי להעניק להן מטען מטפורי? ומה אם היינו קוראים למערכת לומדת במקום "בינה מלאכותית", "תאגיד מלאכותי"? שניהם הרי מהווים מערכות אופטימיזציה – תאגיד רוצה למקסם רווחים ומערכת לומדת רוצה למקסם ביצועים. אולי בכלל נשתמש במטפורות מתחום המאובנים – למאגרי מידע נקרא "הנפט החדש", ולעיבודים שעל גבם נקרא "קצף פוליאוריטן", הפטנט המשמש לבנייה – מתרחב, מגשר על פערים, יעיל ועמיד. נשמע אולי מוזר אבל מעביר את הרעיון.
האם מכונה מסוגלת לחשוב? האם מטוס יכול לעוף? האם צוללת יכולה לשחות? אלה הן שאלות מסעירות, אבל כנראה לא הכרחיות. או במילים אחרות: To bot, or not to bot, that is (not) the question.
פורסם לראשונה בדה מרקר