היכונו לבואה של האם הגדולה
בעולם הבינה המלאכותית קוראים לשלוט במכונות, על ידי כך שנאמץ עבורן "אינסטינקטים אימהיים". האם זוהי דרך חדשה שתאפשר לגברים לשלוט במכונות־אימהות?
Photo generated by ChatGPT
בחודש שעבר נשמע רחש בכנס Ai4 שנערך בלאס וגאס. פרופ' ג'פרי הינטון, חתן פרס נובל בפיזיקה על תרומתו לתחום הרשתות העצביות, מי שעבד כמה שנים במעבדות גוגל DeepMind ואז פרש משם כדי לדבר באופן חופשי על סכנות הבינה המלאכותית, הציע את אחת המטאפורות המוזרות שנשמעו עד כה בדיון על עתיד הבינה. הינטון, שבעבר עוד נטה לאופטימיות זהירה, מתריע בשנים האחרונות מפני החשש של יצירת מערכות תבוניות יותר מבני אדם, ומתייחס בלגלוג מנומס בריטי־קנדי למחשבה שנצליח לשלוט בבינה המלאכותית באמצעות דיכוי או כפיה. הפעם, הוא נשמע מודאג אפילו יותר: הוא מעריך שהופעת הבינה המלאכותית הכללית תתרחש בתוך חמש עד 20 שנה, ותביא איתה סיכוי של 10%־20% לחיסול של כלל האנושות.
הפתרון שהציע בכנס היה שבמקום לנסות לשלוט בבינה המלאכותית, מוטב לשתול בה "אינסטינקט אימהי". כלומר, ליצור מכונה עתידית שהיא אמנם חזקה וחכמה מאיתנו, אבל שתהיה לה מוטיבציה פנימית לדאוג לאנושות כמו אם החומלת ודואגת לתינוקה. הורות, אמר הינטון, היא המודל היחיד בטבע שבו חיה חכמה וחזקה מאפשרת ליצור חסר אונים לשלוט בה. זה עבד כעניין אבולוציוני, ואולי יעבוד גם במעבדה. אם הבינה המלאכותית לא תחוש כלפינו תחושות הוריות ולא תפתח חובה־פנימית־מודעת לגדל אותנו, מזהיר הינטון, היא תחליף אותנו.
קשה שלא להקשיב, וקשה שלא לנוע בחוסר נוחות. הרי המושג "אינסטינקט אימהי" עצמו הוא תוצר של היסטוריה מגדרית. הדרך הפשוטה לבקר את הינטון היא לומר שכשהוא מציע "לשתול אינסטינקט אימהי" במכונות, הוא מייחס תכונה מיסטית ופשוטה למשהו שאינו רק אינסטינקט קסום שמוטמע בדי.אן.איי. אינסטינקט אימהי הוא מערכת שלמה של פרקטיקות וידע גופני, ולא פחות מזה, הוא מוסדות ותרבות שנבנו לאורך מיליוני שנים על ידי מיליוני גברים כדי לשלוט בפרקטיקות האלה. אז עכשיו אנחנו רוצים לשלוט במכונות, על ידי כך שנאמץ עבורן "אינסטינקטים אימהיים", שבתורם יאפשרו לגברים לשלוט במכונות־אימהות?
אבל ייתכן שיש כאן עניין עמוק יותר. הינטון יודע שכשבני האדם יוצרים ישות חזקה מהם וחוששים שלא יוכלו לשלוט בה בכוח בלבד, הם מנסים לתת לה סיבה פנימית להיטיב איתם. הפעם הקודמת שבה יצרו בני אדם ישות גדולה מהם, היתה כשהמציאו את מושג המדינה. גם היא נולדה כהבטחה לסדר, ביטחון ושגשוג, וגם היא נשאה סכנה של דיכוי, עריצות והשמדת בני אדם בשם האינטרס העליון. וראו זה פלא: גם אז עטפו אותה במטפורה של אם מיטיבה, מאמא אדמה ועד לאמא רוסיה. בני אדם הבינו אינסטינקטיבית שכדי למנוע מהיישות החדשה להפוך למפלצת, צריך לייחס לה אהבה אימהית. אבל היסטורית, מה שאפשר למוסד המדינה לשרוד לא היה האנתרופומורפיזם אלא החוזה החברתי: החוקה. הבלמים והאיזונים. מוסדות הפיקוח, בתי המשפט. לא אם טובה, אלא מגבלות וכללים.
אכן, אי אפשר לאלף יצור חכם יותר מבני האדם באמצעות הוראות כוחניות. כמו שהאנושות הבינה במאות הקודמות, הדרך להתמודד עם כוח היא לא לייחס לו חמלה אימהית אלא להקים מנגנוני משטר. אז אולי אם אנחנו זקוקים לדימוי ביחס לבינה מלאכותית הוא לא צריך להיות "מכונת־על שתגדל אותנו כמו תינוקות", אלא "מכונת־על בעלת אינסטינקט מדינתי". בדיוק כפי שהחוקות הראשונות לא היו מושלמות, ודרשו מאות שנות שכלול, כך גם כאן, נצטרך לבנות מנגנוני משילות לבינה מלאכותית. בתחום הזה יש עיסוק עצום בשנים האחרונות: רגולציה בינלאומית חדשה. הסדרי אחריות פלילית ואזרחית ליצרנים. חוזים חדשים בין ממשלות, חברות וטכנולוגיות.
חוסר הנוחות נותרת בעינה. אולי הינטון לא טועה בתחושה אלא במטפורה: אינסטינקט אימהי לא יציל אותנו. אבל גם "חוקה" ו"משילות" לא, והן למעשה מעניקות עכשיו למשפטנים ולחברות ייעוץ אשליה של שליטה וניסיון להמשיך את הסדר הישן. אנחנו נאחזים במטפורות ישנות – מדינות, אימהות – כי כך נוח לנו. מה שהינטון מנסה לומר הוא שבפעם הראשונה בהיסטוריה אין אלה בני אדם מול בני אדם, אלא בני אדם מול מכונות תבוניות, ואין לנו שפה שתמלל מה קורה כשמכונה מתחילה לחשוב על עצמה, ועלינו. כמאמר המשוררת מירה רן: "מה עושות האימהות בלילות? משאירות אור קטן, כי מפלצת דו־ראשית ממתינה להגיח".
אולי צריך להפסיק להסתפק באורות קטנים שמרגיעים אותנו, ולהתחיל לנסח מילים שיחשפו את המפלצת לאור יום. יכול להיות שמאוחר, אבל אנחנו מתרשמים מהדחיפות שהינטון מנסה לשים על השולחן. לא אנדרואידים עם "אינסטינקטים אימהיים" ולא אשליות של משילות משפטית, אלא איך לוקחים את אנשי הטכנולוגיה של העולם ושואלים אותם מה צריך להשתנות באופן שבו אנחנו מאמנים ומבנים מערכות תבוניות. איך מפסיקים לחשוב על רווחים לטווח קצר, ומתחילים לראות רחוק את עצם האפשרות של חיים משותפים עם תבונה אחרת. משפחה חדשה.
פורסם לראשונה ב"דה מרקר"
