הסיפור האמיתי מאחורי סרטוני הבינה המלאכותית

בנט ולפיד מורידים את המסכות? מתוך חשבון הפייסבוק של ראש הממשלה

בשבוע האחרון חברי הכנסת של הליכוד ובכללם ראש הממשלה, בחשבונות הרשמיים שלו ושל המפלגה, מציפים את הרשתות החברתיות בתמונות ובסרטונים מג’ונרטים של נפתלי בנט. חלקם נראים כמעט אמינים, כאלה שמצריכים מבט שני; אחרים כל כך מגושמים עד שהתגובה האינסטינקטיבית אליהם היא מבוכה: מי בדיוק אמור להשתכנע מזה. אלא שהשאלה הזאת כבר לא רלוונטית. היא מניחה הנחה ששייכת לעידן אחר, שבו תעמולה פוליטית נמדדה לפי יכולתו של מסר לשכנע. מה שאנחנו רואים עכשיו פועל לפי הגיון שונה.

המטרה היא לאו דווקא ליצור מניפולציה, אלא לבדוק מה עובד. צריך לזכור: בינה מלאכותית אכן יודעת ליצור מסרים וסרטונים, אבל יכולותיה הרבה יותר רחבות: היא למעשה יוצרת אוטומטיזציה של כל תהליך התעמולה.

המסרים הם תוצר של תהליך: נתונים נאספים ממקורות מגוונים, מעובדים לכדי פרופילים, מתורגמים להערכות הסתברותיות לגבי התנהגות, ומשם הופכים להחלטות על איזה תוכן לייצר, למי להראות אותו, ובאיזה רגע. מערכות בינה מלאכותית מאפשרות ייצור מתמשך של מסרים, ניסוי שלהם בזמן אמת, ושיפור מתמיד של המודלים על בסיס התגובות שהם מקבלים .והכל באופן אוטונומי, בהיקף שלא הכרנו ובעלות נמוכה. במובן הזה, הסרטון הוא לא המסר. הוא נקודת דאטה בתוך מערכת.

ברגע שמבינים את זה, גם האיכות הלא אחידה של הסרטונים, מהאמין עד המגוחך,  מפסיקה להיות תקלה, והופכת להיות חלק מהשיטה. מערכת שמבוססת על מיקוד ובדיקה אמפירית של מסרים פועלת באופן מחזורי: היא מייצרת גרסאות שונות, מודדת את הביצועים שלהן ומשפרת את עצמה בהתאם. אין לה עניין עקרוני ב"מסר נכון", אלא בנתונים על תגובות. לכן, הצפה של המרחב בתכנים ברמות שונות של אמינות היא ניסוי.

מה בודקים כאן? איזה סוג של דימוי מעורר תגובה רגשית חזקה יותר; איזה תוכן מתפשט מהר יותר בקבוצות סגורות לעומת פידים פתוחים; איזה מסר שורד גם אחרי הפרכה. מערכת שמייצרת תכנים אמינים ומגוחכים זה לצד זה בוחנת את גבולות ההבחנה של הציבור: עד כמה אנחנו באמת יודעים לזהות זיוף, ועד כמה אנחנו רק בטוחים שאנחנו יודעים. הביטחון העצמי המופרז הזה של הישראלים, התחושה ש"עליי זה לא עובד", הוא חלק מהבעיה. יותר מזה, גם תוכן לא משכנע משאיר אחריו "עקבות" קוגניטיביות: אסוציאציה, תחושת בטן, זיכרון עמום של חיבור בין דמויות שלא בהכרח התרחש. כאשר מציפים את המרחב הציבורי בתכנים שגבולות האמת שלהם אינם ברורים, אפשר לבדוק מתי הציבור מאמין לשקר מסוים, וגם מתי הוא כבר מפסיק להאמין שניתן בכלל להבחין בין זיוף למציאות, בין אמת לשקר.

בסיבוב הקודם התמונה המזויפת הופצה בחשבונות הרשמיים של הליכוד ב־22 בינואר בשעות הלילה, ולאחר מכן עברה במהירות מהפיד הפתוח להפצה בקבוצות וואטסאפ וטלגרם. כבר ביום שלאחר הפרסום הופנתה אליה תשומת לב ציבורית, אך רק כשלושה שבועות לאחר מכן ניתנה החלטת יו״ר ועדת הבחירות, שקבעה כי יש להסירה לאלתר ולהטיל הוצאות על המפלגה. חלון שלושת השבועות הזה, שלא נראה שהוא משתנה גם בסיבוב הנוכחי, הוא החלון שבתוכו ניתן להפיץ תוכן, לצבור חשיפה, ובעיקר - למדוד השפעה לפני שמישהו מתערב. הבחירות, במובן הזה, כבר התחילו. עוד לא בקמפיין, אלא כניסוי.

הסרטונים על בנט אינם חריגה, ואינם תקלה, ואפילו לא בהכרח ניסיון מוצלח במיוחד לשכנע. הם חלק מתהליך שיטתי של בדיקה, מדידה וכיול — של הציבור, של המוסדות, ושל תנאי המציאות שבתוכה הבחירות מתנהלות.

הפער בין דיני תעמולת הבחירות לבין המציאות שבתוכה מתנהלת התעמולה לא היה מעולם גדול כל כך. הכללים נכתבו לעולם שבו מסר נבחן בדיעבד, בעוד שכאן מדובר במערכת שפועלת בזמן אמת, לומדת, משתפרת, ומנצלת בדיוק את פרק הזמן שבו אין תגובה. אם נמשיך להתייחס לכל סרטון וסרטון כאל אירוע נפרד, לרוץ להגיש תלונה, להמתין להכרעה, ולסמן עוד “הצלחה” של הסרה, אנחנו עלולים לגלות שאנחנו משתתפים בעצמנו בניסוי, במקום להבין אותו. העניין כבר איננו הסרטון הבודד, אלא המנגנון שמייצר אותו, בוחן אותנו דרכו, ומכוון מחדש את התנאים שבתוכם מתנהלת הבחירה הדמוקרטית.

---

התפרסם לראשונה ב-N12