לא רק "דיפ פייק": למה חשוב לחייב סימון תעמולה שנוצרה בעזרת AI
הכנסת דנה השבוע בתיקון לחוק הבחירות שיחייב סימון תעמולה שנוצרה או שונתה באופן מהותי באמצעות בינה מלאכותית. לא מדובר במלחמה נגד הטכנולוגיה וגם לא נגד חופש הביטוי. בישראל, שמובילה באימוץ כלי בינה מלאכותית אבל רמת האוריינות הדיגיטלית של אזרחיה נמוכה יחסית, זהו צעד חשוב שנועד להגן על יכולתו של הציבור להבחין בין אמת לשקר
בנט, לפיד, איזנקוט ונתניהו | Photos by Chaim Goldberg/Flash90
לכאורה, התיקון לחוק הבחירות שנדון היום בוועדת החוקה קטן וטכני: אם יאושר, תעמולת בחירות שנוצרה או שונתה באופן מהותי באמצעות בינה מלאכותית – בין אם היא טקסט, תמונה, וידיאו או קובץ קול – תחויב בסימון. למעשה, זו אחת מהצעות החוק החשובות ביותר שקודמו בישראל מאז פרצה הבינה המלאכותית לחיינו.
במשך שנים נדמה היה שהוויכוח הוא האם מותר להפיץ שקרים בבחירות. באופן מפתיע או שלא בישראל לא קיים איסור כללי כזה, אבל זה אפילו כבר לא העניין. הבעיה שיוצרת הבינה המלאכותית אינה השקר, אלא העובדה שככל שהיא משתכללת – הציבור מאבד את היכולת לדעת מה נוצר בידי אדם ומה בידי מכונה.
היכולת לברר את המציאות איננה מותרות אלא תנאי מוקדם למימושו של הליך דמוקרטי תקין. בוחר שאינו יודע אם הסרטון שהוא צופה בו תיעד אירוע אמיתי או נוצר באמצעות בינה מלאכותית, מתקשה מאד לקבל החלטה פוליטית מושכלת. במדינת ישראל האתגר גדול במיוחד. מצד אחד, אנחנו אחת המדינות המובילות בעולם באימוץ כלי בינה מלאכותית בכלל וצ'אטבוטים בפרט. מצד שני, כל המחקרים ההשוואתיים הבינלאומיים מגלים שרמת האוריינות הדיגיטלית ואוריינות התקשורת של הישראלים – נמוכות. השילוב הזה הופך אותנו פגיעים במיוחד למניפולציות.
גרוע מכך: יכולות הג'ינרוט של מערכות מבוססות בינה מלאכותית יוצרות את מה שחוקרים מכנים "הדיבידנד של השקרנים". מרגע שכולנו יודעים שאפשר לזייף כמעט כל דבר, גם סרטונים אמיתיים הופכים קלים להכחשה. כל פוליטיקאי שנתפס אומר דבר מה יכול פשוט לטעון: "זה דיפ-פייק". לכן סימון של תוכן שנוצר באמצעות בינה מלאכותית מחזק גם את האמון במה שלא סומן.
הכללת חובת הסימון של תכנים כאלה בתוך חוק הבחירות איננה חשובה רק בגלל הסימון עצמו, אלא בשל הכלים שהיא מעניקה ליושב ראש ועדת הבחירות: סמכות לדרוש הסרה של תכנים שאינם מסומנים, להטיל עיצומים על מפרסמים ולפנות לפלטפורמות הדיגיטליות בדרישה שיוסיפו סימון מתאים. כדאי להפריך כבר עכשיו את הטענה שלפיה "אי אפשר בכלל לסמן". דווקא אפשר. האיחוד האירופי פרסם לאחרונה הנחיות מפורטות כיצד לסמן תוכן כזה, גם בצורה גלויה לבני אדם וגם באמצעות סימון טכנולוגי שמאפשר לפלטפורמות לזהות אותו. ראוי שהצעת החוק תחייב את יו"ר וועדת הבחירות לפרסם הנחיות יישום דומות.
אבל הסעיף עצמו לא מספיק, חשוב גם שהנוסח שלו יהיה מדויק: ההצעה מתמקדת כרגע במונח "דיפ-פייק", או בתרגום העברי שלו: "נחזות עמוקה". אלא ש"דיפ-פייק" הוא שם של טכנולוגיה אחת, והמחוקק אינו צריך להסדיר טכנולוגיה – הוא צריך להסדיר עיקרון: האם תוכן מסוים נוצר או שונה באופן מהותי שעלול לגרום לאדם סביר לחשוב שהוא משקף מציאות שלא הייתה?
צריך גם לזכור שזהו רק צעד ראשון. מערכות בינה מלאכותית ישפיעו על הבחירות גם באמצעות צ'אטבוטים, שכנוע מותאם אישית, הפעלת סוכנים אוטונומיים, מניפולציות רגשיות ועוד. החוק הזה אינו פותר את כל הבעיות, אבל הוא מתחיל לבנות את השפה הרגולטורית שנזדקק לה.
ולמי שמתחיל להתגרד כי הוא חושש מצנזורה, נבהיר: איש אינו אוסר להשתמש בבינה מלאכותית בקמפיין פוליטי. להפך. מותר לייצר כרזות, סרטונים, נאומים ואפילו הומור באמצעות AI . הדרישה היחידה היא יושר בסיסי כלפי הציבור: אם שיניתם באופן מהותי את המציאות באמצעות בינה מלאכותית, או יצרתם מציאות שלא הייתה, ספרו לנו. זו אינה מלחמה בבינה מלאכותית וגם לא בחופש הביטוי אלא מלחמה בהטעיה. אם אתם עומדים מאחורי המסר שלכם, חתמו עליו. ואם מכונה יצרה אותו, סמנו זאת.
פורסם לראשונה ב-N12