מאמר דעה

האדם הסביר או הרכב הסביר

| מאת:

תעשיית הרכב האוטונומי נמצאת בצומת הדרכים שבין החזון לבין העיצוב והייצור ההמוני. מימוש האתגר של מציאת המרחב המשותף בין המשפטנים והמתמטיקאים, על מאפייניו הייחודיים, יהיה קריאת כיוון להבנת עולם הרגולציה על שימושים נוספים ורחבים של בינה מלאכותית

Shutterstock

תעשיית הרכב האוטונומי נמצאת בצומת הדרכים שבין החזון לבין העיצוב והייצור ההמוני. ברור לכל השחקנים - יצרנים וגם ממשלות, שמסגרת רגולציה תהיה תנאי הכרחי, ולחלופין - מוקש עיקרי, בפני היכולת לממש את החזון. להבדיל ממהפיכות טכנולוגיות אחרות, למשל מהפיכת הרשתות החברתיות, בשוק הרכב לא מדובר בגישוש, שינוי והתפתחות תוך כדי תנועה, אלא יהיה צורך ברגולציה עוד טרם עליית הרכבים האלה על הכביש.

אכן, בשנים האחרונות מתקיימים תהליכי חשיבה. כדאי להקדים ולומר: אנחנו כבר מזמן לא נמצאים בשאלה המוסרית של "דילמת הקרונית" – האם הרכב האוטונומי יעדיף להציל את הנוסע שלו על פני מי שנמצא ברכב המגיע ממול. אלא, מדובר בסוגיות כמו אבטחת סייבר, פרוצדורות רישוי, היבטי פרטיות (הרי הרכב יתעד היכן היה, ויוכל לצפות לאן בכוונתנו לנסוע, שלא לדבר על חיישנים אחרים שיהיו בו), ממשק בין חקיקה של מדינות שונות ועוד. אבל, כל הסוגיות האלה מתגמדות מול הפיל שבחדר: שאלת הבטיחות והביטוח, כלומר הגדרת החבות בנזיקין לתאונות שייגרמו על ידי רכב אוטונומי.

בקרב מי שכותבים על התחום אפשר לראות כל מיני הצעות. יש מי שמנסים לפרק את קטגוריות הפעילות של הרכב, ומציע לאסדר בנפרד את החלק המכני, החיישנים, האלגוריתם של הנהיגה, והקישוריות - הדרך שבה יתקשר עם רכבים מסביב. יש המציעים להתאים את האסדרה למידת האוטונומיות של הרכב. למשל, לחלק אחריות בין נהג אנושי למערכת האוטונומית, במיוחד כאשר המכונה רק מסייעת ועיקר העבודה הוא של הנהג, או לפחות כשיש לנהג אפשרות להחזיר לעצמו את השליטה ברכב. השאלה היא מה יקרה במערכת אוטונומית לחלוטין, שבה לא יהיו בכלל דוושות והגה. אפשרות אחרת היא לחלק את האחריות לפי שרשרת האספקה והשימוש, למשל, יצרני תוכנה, חומרה, מעצבים, חברות הפצה ומשתמשים - ולעצב פוליסות ביטוח מתאימות שיפזרו את עלויות הביטוח בין כולם.

אפשרות יצירתית במיוחד היא ליצור "האנשה" של המכונית האוטונומית: לראות בה אדם שיש לו חובות, "כוונה" או "אשם"; להניח שהיא "שליח" של מי שפיתח אותה ולבטח אותה בביטוח עצמאי.

מגוון ההצעות האלה מלמד על המבוכה של מי שמנסים לדבוק בתפיסות משפטיות מוכרות ולהחיל אותן על היצור העלום שנקרא רכב אוטונומי. מומחי משפט לא יודעים, לאמיתו של דבר, איך להתמודד עם חוסר ההבנה כיצד פועלת מערכת לומדת ועם "הקופסא השחורה" של קבלת ההחלטות שלה. הכמיהה שלהם היא ליצירה של סטנדרט זהירות שיוכל להוכיח שהמכונה פועלת כמו אדם סביר. באופן מסוים, זו גם הכמיהה של המתמטיקאים, מתכנני האלגוריתמים של הרכב האוטונומי, המבקשים לזכות באמון הרגולטורים והציבור.

לצורך כך, המתמטיקאים מנסים ללמד מכונות לחשוב בצורה "סמנטית", כלומר, באמצעות כללים מבוססי מילים. הוראות כמו: "סע בעקבות הרכב שלפניך", "עקוף את הרכב משמאל", הן הוראות שגם משפטנים יבינו. אבל, כשהמתמטיקאים מנסים לעצב "נהג אוטונומי סביר" וללמד את המכונות כללים: לא לדפוק מישהו מאחור, לא לחתוך ללא סיבה, למנוע תאונה בלי לגרום לתאונה אחרת - נוצר מתח בינם לבין המשפטנים. המתמטיקאים מבקשים ליצור כללים לוגיים, מספר קטן ככל האפשר של חוקים ועקרונות, שיסבירו כמה שיותר תופעות, ויתנו בכולן תשובה חד ערכית. חוקים כאלה אמורים להיות זהים בכל סיטואציה, ללא שינויים או מרחב שיקול דעת. המשפטנים, לעומת זאת, מאמינים שאי אפשר להקיף את כל המקרים במציאות באמצעות כמה חוקים פשוטים. איך אפשר לא להשאיר שיקול דעת לשופט, שהוא זה שיקבע בדיעבד את החלת החוק על הנסיבות?

אסדרת הרכב האוטונומי עובדת לשני כיוונים. היא זאת שתאפשר למפתחים לדעת מהם כללי המסגרת הנדרשים לעיצוב פעילות המכוניות החכמות. במקביל, היא זאת שתיתן לרגולטורים מספיק ביטחון לאשר את עליית הרכבים על הכביש. לכן החשיבות שלה כה רבה. כך, עוד לפני המלחמה על האינטרסים הכלכליים, עשוי להיווצר מצב שבו דווקא המשפטנים שלא יצליחו להיפטר מהקיבעונות המוכרים, אלה שמעדיפים חוקים עמומים ומרחב שיקול דעת בדיעבד, יהיו אלה שיפריעו ליצירת כללים מותאמים לעולם של מכונות. בעת הזאת, נדרש מצד המשפטנים ניסיון לשנות פרדיגמה: מצד אחד, להתעקש על הבנת הכללים ומצד אחר לוותר על מרחבי שיקול הדעת בדיעבד. זה לא פשוט ולא טריוויאלי, אבל אחרת נמשיך לחפש פתרונות עוקפים שעשויים להסתבר כלא מספיקים כבר בעתיד הקרוב. 

מימוש האתגר של מציאת המרחב המשותף בין המשפטנים והמתמטיקאים בנוגע לרכב האוטונומי, על מאפייניו הייחודיים, יהיה קריאת כיוון להבנת עולם הרגולציה על שימושים נוספים ורחבים של בינה מלאכותית. זאת כדי שלא נמצא את עצמנו בעוד עשור מוקפים בקופסאות שחורות שאין לנו הבנה, יכולת ואומץ להתמודד איתן. אז, כמו שאומרים באנגלית ביחס למכוניות: Let’s put the pedal to the metal.

פורסם לראשונה בדה מרקר.