סייבר

אם הרשתות החברתיות מגבירות אנטישמיות, הבינה המלאכותית יוצרת "אוטומציה" שלה, ומעצימה מסרים של שנאה באפקטיביות שלא הכרנו. בינתיים בארה"ב מדברים על צעדים נוקשים נגד אנטישמיות אבל מבטלים פיקוח על בינה מלאכותית, ומי שנאבקת בהטיות המסוכנות של הטכנולוגיה היא דווקא אירופה.

הנשיא האמריקני מיהר לבטל את הצו הנשיאותי מתקופת ביידן העוסק בפיקוח על בינה מלאכותית, ופתח את הדלת לאג'נדה המהונדסת מבייג'ין. כמו במקרה של טיקטוק – כשארה"ב תבין את הסכנות שמביא אתו הצ'אטבוט הסיני, יתכן שכבר יהיה מאוחר מדי והפעם הנזק יהיה כבד בהרבה.

רגע לפני שאלגוריתמים יקטלגו את הבריאות שלנו בחשאי ויציעו תוכניות טיפול ובדיקות מאחורי גבנו — צריך להציב במהירות מנגנוני פיקוח ובקרה על שילוב בינה מלאכותית ברפואה.

מדיניות אכיפה בלתי מספקת של הרשתות החברתיות מאפשרת לתכנים הכוללים אנטישמיות והכחשת שואה להיחשף בתקופה זו בהיקף חסר תקדים. לצד כשל זה, התפתחו "אנטישמיות אלגוריתמית" מבוססת בינה מלאכותית, שמסוגלת להבין מיהו יהודי ברשת, וכן "אנטישמיות מבוססת דאטה" המאפשרת ליצור רשימות ומאגרי יהודים אשר ישמשו בסיס לרדיפה ולטרגוט אנטישמיים.

במעמד החתימה תצהיר כל מדינה האם בכוונתה להחיל את ההתחייבויות לניהול ומיגור הסיכונים גם על חברות במגזר הפרטי - והיא גם תוכל לחזור בה בכל עת. האם באמת אפשר לקבוע שזוהי ערובה לכך שבינה מלאכותית תמשיך להתפתח באופן אחראי ואמין?

רשת של אלפי דוברי ערבית מתנדבים מכל העולם, בראשות גולה מצרי המזוהה עם האחים המוסלמים, מציפה את רשת X במסרים שנועדים ליצור תבוסה פנימית בחברה הישראלית. זאת באמצעות חשבונות מזויפים בעברית שמתחזים לישראלים, האשטאגים שמיועדים ליצור טרנדים ואלפי פוסטים ותגובות ביום שמחלחלים לתוך השיח הישראלי הפנימי ברשת. על מגבלות השפה מנסים חבריה להתגבר באמצעות כלי בינה מלאכותית יוצרת שנועדו להקטין את חשד הגולשים הישראלים.

מלחמת "חרבות ברזל" הוכיחה עד כמה חברות הענק נסוגו מאחריותן לאקוסיסטם המידע, לנוכח תגובות עוינות להספדי הורים, תיעוד זוועות, קריאה לעזרה ואף גניבת טלפונים של קורבנות בידי חמאס ושימוש בהם. בכנס OECD שעסק בנושא בנובמבר התגלה הפער בין המדינות התמימות כמו ארה"ב, חלק ממדינות דרום אמריקה ומרכז אירופה, שבתגובה ל"ממד הרביעי" דורשות לכל היותר החלת שקיפות על הפלטפורמות, לבין המדינות המתפכחות כמו אוקראינה, לטביה ופינלנד, שמדברות על הרשתות כמצע למלחמה היברידית.

סרטוני החטופות, מתקפות הסייבר ושילוב חומרים קשים לצפייה ברשתות בידי גורמים עוינים הם חלק ממארג שנועד לצרוב תודעת טראומה אישית וקבוצתית ולפגוע בתחושת הביטחון האישי של אזרחי ישראל ב"חרבות ברזל". בהעדר היערכות והגנה ממסדיות, ארגוני החברה האזרחית והציבור לוקחים פיקוד גם על המערכה הדיגיטלית.

הפלטפורמות שבשליטת חברות הענק מאפשרות התערבות מדינות בענייני מדינות אחרות והשפעה מסיבית על תהליכים פוליטיים, על הבחירות וגם על ניהול מלחמות. כללי השימוש בהן מהווים תחליף גלובלי לחקיקה מדינתית וכוחן מופעל עד כדי פגיעה ישירה ובוטה בריבונות מדינות, כפי שחוותה ישראל עם פרסומי הכזב של חמאס במלחמה.

מאז תחילת המלחמה השתמשה הממשלה בסמכויות המוקנות לה במצב חירום והתקינה תקנות שעת חירום במעמד של חקיקה ראשית של הכנסת, המותקנות בלא אישור הכנסת. ניתן להתקינן אם מצב החירום מחייב זאת ואין אפשרות לחקיקה רגילה, אך בהעדר הבלמים הרגילים, הן עלולות לסכן את שלטון החוק ולהעלות חשש לפגיעה מופרזת בזכויות האדם ובמיעוטים.

איך יוצרים מסגרות לניהול סיכונים כשמדובר בטכנולוגיה שברור שתגבה מאיתנו מחירים, אבל בדרכים שעוד לא כולן ידועות לנו? דרוש רובד ביניים בין הבנת הטכנולוגיה לבין יצירת מדיניות בעניינה, שתתמקד ביכולותיה הרבות: מגילוי חולשות במערכות ועד ביצוע פעולות שלא תוכננה לבצע.

הממצאים הקשים שהופיעו בדו"ח המבקר על הגנת הסייבר מעידים על בורות קשה ביחס לחשיבות הסוגיה ומספקים תזכורת להיעדר תמריצים ומקלות ליצירת מנגנוני הגנה מפני המתקפות הבאות.