בינה מלאכותית

הפלטפורמות שבשליטת חברות הענק מאפשרות התערבות מדינות בענייני מדינות אחרות והשפעה מסיבית על תהליכים פוליטיים, על הבחירות וגם על ניהול מלחמות. כללי השימוש בהן מהווים תחליף גלובלי לחקיקה מדינתית וכוחן מופעל עד כדי פגיעה ישירה ובוטה בריבונות מדינות, כפי שחוותה ישראל עם פרסומי הכזב של חמאס במלחמה.

יצירת מאגר מידע כה רגיש בידי המשטרה מעלה חשש לדליפה ואף לשימוש לרעה על ידי בעלי הגישה אליו. הצבת מערך המצלמות החכמות במרחב הציבורי, כפי שמציע תזכיר החוק, גם ימנע מאנשים להתנהג באופן חופשי ולממש את זכויותיהם הפוליטיות. האם אנחנו, כחברה דמוקרטית, רוצים שהטכנולוגיה הזו תימצא בידי המשטרה?

החוק מתמקד בזיהוי פנים אנושיים באמצעים מבוססי בינה מלאכותית לא רק כדי לפענח חשד לפשע ולאתר חשודים ספציפיים בדיעבד אלא גם להקמת מערכת "מעקב המונים" של מצלמות שמאפשרות לזהות עוברים ושבים ככלי מניעתי, בהפעלתה הבלעדית של המשטרה. מדוע הוא מסוכן, פוגעני ועלול להחריג את ישראל מהמדינות המתוקנות? השאלות והתשובות.  

מערכות בינה מלאכותית לזיהוי פנים מסוגלות לנתח מצבי רוח, נטייה מינית, מוצא אתני ואף נוטות לטעות בבואן להבחין בין אנשים בעלי גוון עור פנים כהה. הפעלתן בסמכות רחבה ובלעדית של המשטרה, כפי שמוצע בתזכיר, תגרור שגיאות חמורות באכיפה ותשוב לציבור כבומרנג.

איך יוצרים מסגרות לניהול סיכונים כשמדובר בטכנולוגיה שברור שתגבה מאיתנו מחירים, אבל בדרכים שעוד לא כולן ידועות לנו? דרוש רובד ביניים בין הבנת הטכנולוגיה לבין יצירת מדיניות בעניינה, שתתמקד ביכולותיה הרבות: מגילוי חולשות במערכות ועד ביצוע פעולות שלא תוכננה לבצע.

ספר ראשון מסוגו בעברית בוחן מהי בינה מלאכותית, מהם יתרונותיה ואילו חששות היא מעוררת בארץ ובעולם. הוא מציע להיערך לקראתה באמצעות אסטרטגיה לאומית ומדיניות רגולטורית.

משטרת ישראל רוכשת מערכות טכנולוגיות מבלי שמתקיימים דיון ציבורי ומקצועי מספק לגביהן והדברים מתגלים רק בדיעבד. המצב מחייב חשיבה מחודשת על התהליך שנדרש באימוץ טכנולוגיות, שיש בהן חשיבות אבל גם סיכון להפוך לפוגעניות, בשירות המשטרה.

כחלק ממירוץ החימוש בתחום הבינה המלאכותית היוצרת משחררת החברה מוצרים אפויים למחצה, שאינם מתיישרים עם הצהרות האתיקה שלה. אסור לטעות: למערכות האלה השלכות מרחיקות לכת ומיקרוסופט מצטרפת למעגל ענקיות הטק שלא נודעו באחריות גדולה כלפי ההשלכות החברתיות של הטכנולוגיה שלהן.

יותר ויותר מדינות משלבות כלים מבוססי בינה מלאכותית במלאכת השפיטה. אפשר היה להניח ששימועים מול מכונות ייחשבו חסרי משמעות או חלולים, אולם ככל שהן משתכללות ומסוגלות לזהות שפה, תנועות גוף, הבעות פנים ואף רגשות, ולהגיב בהתאם – הן יקנו תחושה שביכולתן גם להקנות צדק.

עמדתו של ראש אמ"ן ערב המלחמה ב-1973 ידועה לכל, אבל כיצד מערכת מבוססת בינה מלאכותית שאינה מכירה את השחקניות באזורנו ייצרה הערכת מודיעין שמאפשרת בניית אסטרטגיה בתנאי אי-ודאות?

טכנולוגיות ה-AI הרפואיות עשויות לאיים על הזכויות לשוויון, לפרטיות ואף לחיים ושלמות הגוף. על ישראל להציב סטנדרט רגולטורי גבוה ביחס אליהן, כדי שלא להפוך ל"חצר אחורית" שמפתחת מערכות אסורות בשימוש.

גיבוש רגולציה על בינה מלאכותית בנפרד מרגולציה על תחומים משיקים כפרטיות וסייבר היא בעייתית. מלבד זאת, האיסורים על פיתוח ושימוש במערכות נבונות נדרשים להתאים למקובל בעולם.

מטאפורות של היום מעצבות את הדימיון שלנו לגבי העתיד. הן מספקות נרטיב עוצמתי לתעשייה ולמקבלי ההחלטות וקשה לחשוב על כל הספירה הטכנולוגית בלעדיהן. כשמטאפורה כמו "בינה מלאכותית" משווה מכונות לאנשים, היא לא מציעה מטרות שאינן ניתנות להשגה, אלא ממסגרת בעיות בדרכים שלא מובילות לפתרונות טובים ומצניעה בעיות חברתיות קריטיות.
מטאפורות הן פוליטיות במהותן ולכן חשוב לשאול: למי יש אינטרס בשימור המונח "בינה מלאכותית"? למי יש אינטרס ליצור את ההאנשה העמוקה של המערכות הטכנולוגיות?

תעשיית הרכב האוטונומי נמצאת בצומת הדרכים שבין החזון לבין העיצוב והייצור ההמוני. מימוש האתגר של מציאת המרחב המשותף בין המשפטנים והמתמטיקאים, על מאפייניו הייחודיים, יהיה קריאת כיוון להבנת עולם הרגולציה על שימושים נוספים ורחבים של בינה מלאכותית