האלגוריתם קיבל החלטות פיננסיות נכונות? לא זו הדרך לבדוק
דו"ח חדש לבחינת שימושי בינה מלאכותית במגזר הפיננסי מוכיח גישה רצינית, אבל נשאר באזור שמתחת לפנס
Photo generated by ChatGPT
המגזר הפיננסי נמצא גבוה מאוד ברשימת המגזרים שיושפעו מבינה מלאכותית. די אם נחשוב על ניתוח טבלאות ומאגרי מידע גדולים; על יכולותיהן של מכונות לומדות ליצור מערכות חיזוי וניבוי בהקשרים של חיתום אשראי וחיתום ביטוח; ועל כך שחלק גדול מהעבודה הוא תרגום טפסים והכנסת דאטה לתוך מערכת ממוחשבת, מה שבינה מלאכותית יכולה לעשות בקלות רבה. אין זה מפתיע, לפיכך, שבמסגרת ההתמודדות־מבוססת־ענף ביחס לבינה מלאכותית שמאפיינת את מדינת ישראל, הדו"ח הענפי הראשון הוא זה של הרגולטורים הפיננסיים.
צוות שכלל נציגים של משרדי המשפטים והאוצר, רשות התחרות, רשות ניירות ערך, שוק ההון והפיקוח על הבנקים, פרסם לאחרונה דו"ח לבחינת שימושי בינה מלאכותית במגזר הפיננסי. זהו דו"ח רציני ומעמיק המשקף את חוזקם ורמתם הגבוהה של הרגולטורים בסקטור הפיננסי.
הבעיה בדו"ח הזה היא שהוא מבריק היטב את המטבע שמתחת לפנס, אבל לא יוצא מאזור הנוחות. הדו"ח עוסק בחשש מפני הטיות במודל של חיתום אשראי או ביטוח שיגרמו לכך שלא נקבל משכנתה או שהפרמיה תהיה גבוהה, ובצורך בהסברתיות של קבלת החלטות על ידי מכונה וגילוי שזוהי תקשורת עם מכונה. הוא עוסק גם בהגנה על הפרטיות באיסוף מידע על לקוחות ובשימוש בו, ומדגיש את הצורך באימוץ גישה מבוססת סיכונים, שלפיה היקף הרגולציה יותאם למהות השירות הפיננסי והשפעתו על הלקוח.
אז מדוע משל המטבע והפנס? מפני שהדו"ח מניח שכל השחקנים יישארו כפי שהם, ורק יעברו להשתמש בבינה מלאכותית. במקום פקיד המשוחח עם לקוח – יהיה צ'טבוט, במקום מנהל בדרג ביניים המקבל החלטות לגבי חיתום האשראי – תהיה מכונה לומדת. אבל לא כך תיראה מערכת שעוברת ערעור. הנה כמה דוגמאות.
ראשית, על מה ועל מי תחול הרגולציה? למשל בייעוץ השקעות וניהול תיקים, האם לא היה צריך לשאול איך ייראה בכלל העולם הזה? יו"ר OpenAI סם אלטמן, ואריאנה האפינגטון, לשעבר "האפינגטון פוסט", פרסמו את מיזם Thrive AI, מאמן דיגיטלי לשינוי התנהגות בשיטת "מיקרו־צעדים". בראיון לרשת NBC הדגישה האפינגטון כי המיזם אינו מעניק ייעוץ רפואי, ולכן הוא מחוץ לרגולציה. עכשיו דמיינו מערכות כאלה בתחום הפיננסים. אלה לא יהיו יועצי השקעות כהגדרתם ברגולציה, אלא סוכנים־עוזרים־יועצים מסוג חדש, שייהנו מאוד מהתחום האפור וחסר הפיקוח. הם לא בהכרח יהיו שלוחיהם של הבנקים וחברות הביטוח, ולכן גם החובות שלהם לא יהיו במרחב הזה.
שנית, דווקא מחוץ למעגל האור של הפנס, זה שבו שואלים אם האלגוריתם קיבל החלטות הגונות ולא מפלות, נמצא האתגר שנוגע לכך שהמכונה תשכנע אותנו שההחלטות שלה הן הטובות ביותר עבורנו, תוך שימוש בשפה משכנעת ואמפתית, הצגה מתוחכמת של נתונים שתומכים בהחלטה ומתן תחושה של "החלטה רציונלית". סוכנים אישיים שישוחחו איתנו ויבצעו עבורנו מטלות, הם ה"קילר אפ" של הבינה המלאכותית. זיהו ספק? יגיבו באמפתיה. מיקרו־היסוס? יגבירו את הביטחון שלנו בהחלטה. חולשה וחוסר ריכוז לגבי מוצרים פיננסיים שמשעממים אותנו? אימון התנהגותי מכוון אישית, וחזרה לתלם.
הרגולטורים הפיננסיים מתמקדים בשלב שאותו אפשר לתאר כשלב "מקבל ההחלטות בכפייה". הם מניחים שקיימת מערכת אלגוריתמית שמנתחת נתונים, מבצעת חישובים ופרדיקציות ומקבלת החלטות. המערכת הזאת, כמו שולחיה – הבנק, חברת האשראי או חברת הביטוח, נהנית מפערי כוח וידע על פני הלקוחות, ולכן חשוב לוודא שהיא פועלת בהגינות ובאחריות כשהיא מקבלת החלטות חד־צדדיות לגביהם. אבל השלב השני הוא שלב "העוזר האישי". המערכות אינן מחליטות אלא מלוות לקוח בתהליך קבלת ההחלטה. אלה הם למשל בוטים פיננסיים הממליצים על אסטרטגיות השקעה, או מערכות לניהול תיקים אישיים, המציעות פתרונות ומעלות תרחישים. גם כאן, אומרים לנו: נדרוש שקיפות כדי לדעת שזהו בוט.
אבל בואו נתקדם לשלב השלישי, זה של "התאום הדיגיטלי". בשלב הזה, הבינה המלאכותית לא רק מלווה את המשתמש, אלא מייצגת אותו כייצוג וירטואלי של הפרופיל הפיננסי, ההעדפות האישיות וההתנהגויות שלו. זהו כבר שחקן עצמאי שמתחיל "לדבר" בשם הלקוח שלו. בשלב הרביעי זוהי כבר "רפליקה", כלומר חיקוי של הלקוח לצורך משא ומתן עם בנקים, תחזיות השקעה וביצוע השקעות. והנה הגענו לשלב החמישי, של "המשפיע", מערכת המעצבת את החשיבה וההתנהגות שלנו. דמיינו מערכת שמסבירה למה משכנתא מסוימת היא הטובה ביותר עבורנו, בטיעונים חכמים ואמפתיים. אנחנו לא נבוא אליה בטענות כי נחשוב שזו החלטה מצוינת, ושזו ההחלטה שלנו. וכך עשינו דרך מכפייה להשפעה, שאינה חלק מהשיח הפיננסי הנוכחי.
כדי ליצור מסגרות תפיסתיות שיהיה צורך לתרגם למנגנוני רגולציה, צריך בראש ובראשונה לדמיין, ולא נדרש דמיון פרוע: איך ייראה, פיזית, בנק בעולם שבו אנשים יוכלו להיכנס אליו עם משקפיים חכמים? איך ייראה המפגש בין סוכן מכירות של אשראי או ביטוח לבין לקוח? האם זה יהיה מפגש אנושי בתיווך של מכונה, מפגש בין אדם למכונה או מפגש בין שתי מכונות? והאם נדע להיערך בהתאם?
פורסם לראשונה ב"דה מרקר"
