התמונות השתולות של נפתלי בנט ויאיר לפיד לצד ראשי המפלגות הערביות הן רק ההתחלה: כך תסייע הבינה המלאכותית ליצור מציאות פוליטית מדומה ולהשפיע על מערכת הבחירות. על ועדת הבחירות לקבוע כלל ברור: אסור לפרסם תמונות מפוברקות של יריבים פוליטיים מזוהים כחלק מתעמולת הבחירות.
תכנים מג'ונרטים, הצפת מידע ושימוש בצ'אטבוטים ככלי שכנוע: מערכת הבחירות הראשונה בעידן הבינה המלאכותית תתקיים במציאות שבה האמת קשה מאוד לזיהוי. בזמן שהטכנולוגיה דוהרת קדימה, חוקי הבחירות המיושנים לא מספקים הגנה מפני מניפולציות והנדסת תודעה. כדי ש"טוהר הבחירות" לא יהפוך לסיסמה ריקה, חייבים לעדכן את החוק ולהתאים אותו לאיומים הטכנולוגיים החדשים.
את הממשק הבא של הבינה המלאכותית לא נחזיק ביד אלא נרכיב על העיניים. המשקפיים החכמים יתרגמו לנו שלטים ברחוב ויאפשרו לצפות בסרטים ולעבוד תוך כדי תנועה, אבל גם יערכו בשבילנו את המציאות וישנו את האופן שבו אנחנו פוגשים זה את זה ואת העולם סביבנו. האם אנחנו מוכנים למהפכה?
"מילות השנה" שבהן בוחרים המילונים הגדולים של העולם, מאפשרות חשבון נפש לשנה האזרחית החדשה.
מאת: גלעד בארי
גלעד בארי, ראש התוכנית לרפורמות בכלכלה במרכז לממשל וכלכלה במכון הישראלי לדמוקרטיה מדבר בוועדת המשנה לנושא בינה מלאכותית וטכנולוגיות מתקדמות בכנסת. נושא הדיון: בינה מלאכותית בתעשיות מסורתיות - אתגרים והזדמנויות.
הצעת ההחלטה על האצת דיגיטציה, דאטה ובינה מלאכותית מציעה סוף-סוף מפת דרכים מדידה וברורה לשיפור השירות הממשלתי. אם תיושם במלואה, היא תצמצם בירוקרטיה, תשפר יעילות ותתקן כשלים חמורים בשירות הציבורי, אבל בלי תקציב ממשי והירתמות של כלל הגופים - גם ההחלטה הזאת תישאר על הנייר.
האם המכונות באמת ובתמים דואגות לנו?
סקר של ה-OECD חושף אתגר מהותי במימוש החזון הטכנולוגי של מדינת ישראל: הישראלים רוצים שימוש ממשלתי בבינה מלאכותית, אבל לא סומכים על הממשלה שתנהג בזהירות במידע שהיא אוספת עליהם. הפרדוקס הזה, יחד עם השקעה מוגבלת של המדינה במשאבים, עלולים להוביל לכך שבסופו של דבר התוכניות המתקדמות יישארו על הנייר.
החלטת חברת מיקרוסופט להגביל את השימוש שעושה יחידת 8200 בשירותי הענן שלה עלולה להיות רק השלב הראשון. בהמשך, חברות הטכנולוגיה מסוגלות לנתק מהענן שלל מערכות חיוניות צבאיות ואזרחיות אם האינטרס העסקי שלהן יצדיק זאת, וישראל יכולה וחייבת להיערך לכך.
בעולם הבינה המלאכותית קוראים לשלוט במכונות, על ידי כך שנאמץ עבורן "אינסטינקטים אימהיים". האם זוהי דרך חדשה שתאפשר לגברים לשלוט במכונות־אימהות?
מאת: יוחנן פלסנר, שירה ברביבאי-שחם, אלון כהן
מהם אתגרי ההיי-טק הישראלי בעיצומה של מלחמת חרבות ברזל? מאחורי המספרים והאקזיטים הגלים סוערים: גל רילוקיישן של יזמים ועובדים, ירידה בהשקעות וחרמות בינלאומיים נערמים לצד הזדמנויות חדשות בתחומי הסייבר והבינה המלאכותית. בפרק זה של סדר חדש, יוחנן פלסנר ושירה ברביבאי-שחם מארחים את אלון כהן, יזם ומייסד חברת סייברארק שנמכרה ב־25 מיליארד דולר, לשיחה אישית על המסע שלו כיזם ישראלי חלוצי, על מקומו של ההיי-טק בזירה הגיאופוליטית, ועל האתגרים האסטרטגיים מולם עומדת התעשייה כולה. האם מותג ההיי-טק הישראלי ישרוד את המלחמה? מה עתידה של ישראל כסטארט-אפ ניישן? האם ישראל ערוכה למהפכת ה-AI ומהי ההתרעה האסטרטגית שנותן אלון כהן בנושא?
מאת: ד"ר תהילה שוורץ אלטשולר, ניל"י גולדפיין
הודעת מיקרוסופט שתפתח בחקירה בעקבות הטענה שישראל השתמשה בענן שלה כדי לעקוב אחר מיליוני פלסטינים בעזה ובשטחים, חושפת את גבולות הריבונות הישראלית מול ענקיות הטכנולוגיה ומחייבת את המדינה להיערך גם לשינויים בכללי המשחק הדיגיטליים.
מאת: ד"ר תהילה שוורץ אלטשולר, ד"ר עמיר גפן
בתי הספר הפיג'יטליים של העתיד מגלמים את התקווה והמשימה של ישראל - הם צריכים להיות טובים יותר. חכמים יותר. אנושיים יותר.
מאת: גלעד בארי
תובנות ראשונות מסקר עסקים ייחודי שערך הלמ"ס מצביעות על רמת אימוץ משמעותית של בינה מלאכותית במגזר העסקי בישראל. עם זאת, ישנו פער משמעותי בין ענף ההייטק לבין ענפים אחרים במשק, שקשור במידה רבה בפערי ידע. הסקר מלמד גם על החלפת משימות ועובדים בבינה מלאכותית, אם כי נכון לעכשיו באופן מתון יותר מאומדנים שהוצגו במחקרים קודמים.
מאת: דפנה אבירם-ניצן, מרקו שבסון
השימוש ב-AI לצרכי עבודה אמנם זינק בשנה האחרונה בישראל, אך מרבית העובדים עדיין לא עושים בו שימוש משמעותי. מדדים בין-לאומיים מצביעים על פער בין חשיפה גבוהה של המשק ל-AI, לבין רמת מוכנות מערכתית נמוכה להטמעת הטכנולוגיה.
המהפך הטכנולוגי בחדרי החדשות יכול לחזק את העיתונאות המקצועית ולאפשר לה להישאר רלוונטית, אבל הוא גם עלול להפוך אותה לבת ערובה של התאגידים שמפתחים את כלי ה–AI.
אם הרשתות החברתיות מגבירות אנטישמיות, הבינה המלאכותית יוצרת "אוטומציה" שלה, ומעצימה מסרים של שנאה באפקטיביות שלא הכרנו. בינתיים בארה"ב מדברים על צעדים נוקשים נגד אנטישמיות אבל מבטלים פיקוח על בינה מלאכותית, ומי שנאבקת בהטיות המסוכנות של הטכנולוגיה היא דווקא אירופה.
הנשיא האמריקני מיהר לבטל את הצו הנשיאותי מתקופת ביידן העוסק בפיקוח על בינה מלאכותית, ופתח את הדלת לאג'נדה המהונדסת מבייג'ין. כמו במקרה של טיקטוק – כשארה"ב תבין את הסכנות שמביא אתו הצ'אטבוט הסיני, יתכן שכבר יהיה מאוחר מדי והפעם הנזק יהיה כבד בהרבה.
דו"ח חדש לבחינת שימושי בינה מלאכותית במגזר הפיננסי מוכיח גישה רצינית, אבל נשאר באזור שמתחת לפנס.
מאת: ד"ר תהילה שוורץ אלטשולר, ד"ר אימי לב
רגע לפני שאלגוריתמים יקטלגו את הבריאות שלנו בחשאי ויציעו תוכניות טיפול ובדיקות מאחורי גבנו — צריך להציב במהירות מנגנוני פיקוח ובקרה על שילוב בינה מלאכותית ברפואה.
מאת: המכון הישראלי לדמוקרטיה
מדיניות אכיפה בלתי מספקת של הרשתות החברתיות מאפשרת לתכנים הכוללים אנטישמיות והכחשת שואה להיחשף בתקופה זו בהיקף חסר תקדים. לצד כשל זה, התפתחו "אנטישמיות אלגוריתמית" מבוססת בינה מלאכותית, שמסוגלת להבין מיהו יהודי ברשת, וכן "אנטישמיות מבוססת דאטה" המאפשרת ליצור רשימות ומאגרי יהודים אשר ישמשו בסיס לרדיפה ולטרגוט אנטישמיים.
מאת: ד"ר תהילה שוורץ אלטשולר, ד"ר אורי פריימן
במעמד החתימה תצהיר כל מדינה האם בכוונתה להחיל את ההתחייבויות לניהול ומיגור הסיכונים גם על חברות במגזר הפרטי - והיא גם תוכל לחזור בה בכל עת. האם באמת אפשר לקבוע שזוהי ערובה לכך שבינה מלאכותית תמשיך להתפתח באופן אחראי ואמין?
מאת: ד"ר תהילה שוורץ אלטשולר, ד"ר רומי מיקולינסקי
המשקפיים החדשים של אפל יאפשרו להישאר בסביבה הפיסית ולשלב בתוכה שכבות מידע וחוויות תוכן ומדיה שונות, שיקנו חוויית מציאות סינתטית המחוברת לחיי היומיום. לקראת שינוי ממדי החיבור בין האדם לזולת ולמרחב והתמורה שתתחולל בתפיסת המציאות האנושית, חשוב לברר לעומק את ההשלכות הערכיות והמעשיות של מיזוג העולם הדיגיטלי עם העולם הפיסי.
מאת: ד"ר תהילה שוורץ אלטשולר, ענבר יסעור
רשת של אלפי דוברי ערבית מתנדבים מכל העולם, בראשות גולה מצרי המזוהה עם האחים המוסלמים, מציפה את רשת X במסרים שנועדים ליצור תבוסה פנימית בחברה הישראלית. זאת באמצעות חשבונות מזויפים בעברית שמתחזים לישראלים, האשטאגים שמיועדים ליצור טרנדים ואלפי פוסטים ותגובות ביום שמחלחלים לתוך השיח הישראלי הפנימי ברשת. על מגבלות השפה מנסים חבריה להתגבר באמצעות כלי בינה מלאכותית יוצרת שנועדו להקטין את חשד הגולשים הישראלים.
הפלטפורמות שבשליטת חברות הענק מאפשרות התערבות מדינות בענייני מדינות אחרות והשפעה מסיבית על תהליכים פוליטיים, על הבחירות וגם על ניהול מלחמות. כללי השימוש בהן מהווים תחליף גלובלי לחקיקה מדינתית וכוחן מופעל עד כדי פגיעה ישירה ובוטה בריבונות מדינות, כפי שחוותה ישראל עם פרסומי הכזב של חמאס במלחמה.
יצירת מאגר מידע כה רגיש בידי המשטרה מעלה חשש לדליפה ואף לשימוש לרעה על ידי בעלי הגישה אליו. הצבת מערך המצלמות החכמות במרחב הציבורי, כפי שמציע תזכיר החוק, גם ימנע מאנשים להתנהג באופן חופשי ולממש את זכויותיהם הפוליטיות. האם אנחנו, כחברה דמוקרטית, רוצים שהטכנולוגיה הזו תימצא בידי המשטרה?
החוק מתמקד בזיהוי פנים אנושיים באמצעים מבוססי בינה מלאכותית לא רק כדי לפענח חשד לפשע ולאתר חשודים ספציפיים בדיעבד אלא גם להקמת מערכת "מעקב המונים" של מצלמות שמאפשרות לזהות עוברים ושבים ככלי מניעתי, בהפעלתה הבלעדית של המשטרה. מדוע הוא מסוכן, פוגעני ועלול להחריג את ישראל מהמדינות המתוקנות? השאלות והתשובות.
מערכות בינה מלאכותית לזיהוי פנים מסוגלות לנתח מצבי רוח, נטייה מינית, מוצא אתני ואף נוטות לטעות בבואן להבחין בין אנשים בעלי גוון עור פנים כהה. הפעלתן בסמכות רחבה ובלעדית של המשטרה, כפי שמוצע בתזכיר, תגרור שגיאות חמורות באכיפה ותשוב לציבור כבומרנג.
איך יוצרים מסגרות לניהול סיכונים כשמדובר בטכנולוגיה שברור שתגבה מאיתנו מחירים, אבל בדרכים שעוד לא כולן ידועות לנו? דרוש רובד ביניים בין הבנת הטכנולוגיה לבין יצירת מדיניות בעניינה, שתתמקד ביכולותיה הרבות: מגילוי חולשות במערכות ועד ביצוע פעולות שלא תוכננה לבצע.
ספר ראשון מסוגו בעברית בוחן מהי בינה מלאכותית, מהם יתרונותיה ואילו חששות היא מעוררת בארץ ובעולם. הוא מציע להיערך לקראתה באמצעות אסטרטגיה לאומית ומדיניות רגולטורית.
משטרת ישראל רוכשת מערכות טכנולוגיות מבלי שמתקיימים דיון ציבורי ומקצועי מספק לגביהן והדברים מתגלים רק בדיעבד. המצב מחייב חשיבה מחודשת על התהליך שנדרש באימוץ טכנולוגיות, שיש בהן חשיבות אבל גם סיכון להפוך לפוגעניות, בשירות המשטרה.
כחלק ממירוץ החימוש בתחום הבינה המלאכותית היוצרת משחררת החברה מוצרים אפויים למחצה, שאינם מתיישרים עם הצהרות האתיקה שלה. אסור לטעות: למערכות האלה השלכות מרחיקות לכת ומיקרוסופט מצטרפת למעגל ענקיות הטק שלא נודעו באחריות גדולה כלפי ההשלכות החברתיות של הטכנולוגיה שלהן.
יותר ויותר מדינות משלבות כלים מבוססי בינה מלאכותית במלאכת השפיטה. אפשר היה להניח ששימועים מול מכונות ייחשבו חסרי משמעות או חלולים, אולם ככל שהן משתכללות ומסוגלות לזהות שפה, תנועות גוף, הבעות פנים ואף רגשות, ולהגיב בהתאם – הן יקנו תחושה שביכולתן גם להקנות צדק.
מאת: איתי ברון, ד"ר תהילה שוורץ אלטשולר
עמדתו של ראש אמ"ן ערב המלחמה ב-1973 ידועה לכל, אבל כיצד מערכת מבוססת בינה מלאכותית שאינה מכירה את השחקניות באזורנו ייצרה הערכת מודיעין שמאפשרת בניית אסטרטגיה בתנאי אי-ודאות?
מאת: עו"ד גדי פרל, ד"ר תהילה שוורץ אלטשולר, דניאלה גלבוע
טכנולוגיות ה-AI הרפואיות עשויות לאיים על הזכויות לשוויון, לפרטיות ואף לחיים ושלמות הגוף. על ישראל להציב סטנדרט רגולטורי גבוה ביחס אליהן, כדי שלא להפוך ל"חצר אחורית" שמפתחת מערכות אסורות בשימוש.
מאת: ד"ר תהילה שוורץ אלטשולר, עו"ד עמיר כהנא, עו"ד גדי פרל, ד"ר אורי פריימן
גיבוש רגולציה על בינה מלאכותית בנפרד מרגולציה על תחומים משיקים כפרטיות וסייבר היא בעייתית. מלבד זאת, האיסורים על פיתוח ושימוש במערכות נבונות נדרשים להתאים למקובל בעולם.
מטאפורות של היום מעצבות את הדימיון שלנו לגבי העתיד. הן מספקות נרטיב עוצמתי לתעשייה ולמקבלי ההחלטות וקשה לחשוב על כל הספירה הטכנולוגית בלעדיהן. כשמטאפורה כמו "בינה מלאכותית" משווה מכונות לאנשים, היא לא מציעה מטרות שאינן ניתנות להשגה, אלא ממסגרת בעיות בדרכים שלא מובילות לפתרונות טובים ומצניעה בעיות חברתיות קריטיות.
מטאפורות הן פוליטיות במהותן ולכן חשוב לשאול: למי יש אינטרס בשימור המונח "בינה מלאכותית"? למי יש אינטרס ליצור את ההאנשה העמוקה של המערכות הטכנולוגיות?
תעשיית הרכב האוטונומי נמצאת בצומת הדרכים שבין החזון לבין העיצוב והייצור ההמוני. מימוש האתגר של מציאת המרחב המשותף בין המשפטנים והמתמטיקאים, על מאפייניו הייחודיים, יהיה קריאת כיוון להבנת עולם הרגולציה על שימושים נוספים ורחבים של בינה מלאכותית