מה למדנו מ"פרשת מלי וליאל יהלומי" על צ'אטבוטים ואשליית הפרטיות?
מלי וליאל יהלומי | צילום: דוברות המשטרה
האם ג'מיני אכן "הסגיר" את האם והבת שרצו להיעלם אי שם בדרום אמריקה? אנחנו לא יודעים. בשלב הזה לא ברור כיצד קיבלה המשטרה גישה להתכתבות שלהן עם הצ'אטבוט: האם מישהי מהן השאירה חשבון גוגל פתוח, בני המשפחה נתנו גישה או שהמשטרה ביקשה צו מבית המשפט, כפי שנדרש לפי חוק כשמדובר בחדירה לחומר מחשב? לא ידוע גם איזה תפקיד מילא בסופו של דבר המידע הזה במבצע לאיתור השתיים. דבר אחד בטוח: אם חשבנו שאנחנו יודעים איזה מידע הטכנולוגיה יכולה לגלות עלינו וממה צריך להיזהר, הבינה המלאכותית טורפת גם כאן את הקלפים.
לכאורה, אין הבדל גדול בין התכתבות עם ג'מיני לבין חיפוש בגוגל או שיחה בוואטסאפ. בכל אחד מהם אנחנו חושפים מידע על עצמנו ועל כוונותינו, וכל אחד מהם משאיר אחריו עקבות דיגיטליים שרשויות אכיפת החוק, ולעיתים גם גורמים אחרים, עשויים להגיע אליהם.
אבל בהתכתבות שלנו עם ג'מיני ושאר חבריו קורה משהו אחר. משהו שגורם לנו להסגיר, כמעט מבלי משים, מידע אישי ועמוק יותר מכפי שנדמה לנו. בחיפוש בגוגל אנחנו מקלידים שאילתה. בוואטסאפ אנחנו מדברים עם אדם אחר. הצ'אטבוט מטשטש את הגבול: הממשק בנוי כשיחה אחד על אחד, הטון לעיתים אמפתי, והחוויה כולה גורמת לנו להרגיש שאנחנו מדברים עם מישהו בחדר סגור. אלא שבפועל אנחנו מתקשרים עם שירות דיגיטלי שמעבד ושומר מידע.
וכך אנחנו מספרים לצ'אטבוט ממה אנחנו מפחדים, מה אנחנו מתכננים, מה מצבנו הרפואי או הזוגי. אנחנו מבקשים ממנו לשקול עבורנו חלופות, לפרש מצבים ולעזור לנו לקבל החלטות. אם היסטוריית החיפוש בגוגל מגלה מה חיפשתי, הצ'אטבוט עשוי לדעת גם למה חיפשתי את זה, בין אילו אפשרויות התלבטתי, ממה פחדתי ומה החלטתי בסוף.
בהנחיות שפרסמה לפני כמה חודשים הרשות להגנת הפרטיות, היא מזהירה במפורש מכך שהפרומפטים שאנחנו כותבים עלולים להכיל מידע אישי ורגיש, ולכן השימוש בבינה מלאכותית יוצר סיכון מיוחד לפרטיות. ההמלצה שלה היא לצמצם ככל האפשר פרטים מזהים ומידע רגיש, ולהשתמש בניסוח כללי כאשר אין צורך בפרטים האישיים.
אבל חשוב להבין שאנחנו כבר לא בשלב שבו מספיק לומר "אל תכניסו לצ'אט מספר כרטיס אשראי, סיסמה או תוצאות של בדיקות רפואיות". ככל שהצ'אטבוטים נעשים אישיים יותר, זוכרים שיחות קודמות ומתחברים, כאשר אנחנו מאפשרים להם, לשירותים ולמקורות מידע נוספים, התמונה שהם יכולים לבנות עלינו עשירה בהרבה מאוסף של פרטי מידע קלאסיים. היא יכולה לכלול את ההתלבטויות שלנו, ההעדפות, מערכות היחסים, התוכניות לעתיד, נקודות החולשה ותהליכי החשיבה והשיפוט שלנו. המידע הזה לא נשאר בינינו לבין המכונה. הוא יכול לשמש את חברת הטכנולוגיה לבניית פרופיל עשיר שמתחבר לנתונים אחרים שיש לה, כמו נתוני מיקום או חיפוש, לשמש במקרים מסוימים לאימון מודלים של בינה מלאכותית, ובתנאים הקבועים בדין גם להגיע לרשויות אכיפת החוק.
וכאן מגיעה אשליה נוספת: "מחקתי" אין פירושו בהכרח "המידע נעלם". בג'מיני, למשל, ברירת המחדל היא שמירת פעילות למשך 18 חודשים, אלא אם המשתמש הגדיר אחרת. אפשר למחוק פעילות או לכבות את שמירת הפעילות, אבל גם כאשר האפשרות כבויה גוגל מסבירה ששיחות עשויות להישמר עד 72 שעות לצורכי הפעלת השירות, משוב והגנה על השירות והציבור. בנסיבות מסוימות, מידע עשוי להישמר גם זמן ארוך יותר. במילים אחרות, מחיקה מהמסך שלנו אינה בהכרח מחיקה מיידית מכל מערכות הספק.
האם המסקנה היא שלא כדאי להשתמש בצ'אטבוטים לדברים אישיים? לא. הם כלים שימושיים מכדי שהמלצה כזאת תהיה רצינית. אבל אנחנו צריכים להפסיק להתייחס אליהם כאילו הם חבר שומר סוד. צ'אטבוט הוא שירות דיגיטלי של חברה מסחרית. כדאי לבדוק את הגדרות הזיכרון ושמירת השיחות, לשים לב להרשאות שנתנו לו, ובעיקר לא להתבלבל בגלל האינטימיות של הממשק. לפני שאנחנו כותבים משהו, אפשר לשאול שאלה פשוטה: האם הייתי מוכן שהמשפט הזה יישמר בחשבון שלי או בשרת של חברה מסחרית? אם התשובה היא לא, כדאי לחשוב שוב אם ואיך לכתוב אותו.
מסקרן מאד מה יעץ ג'מיני למלי וליאל יהלומי כששאלו אותו מהי הדרך הטובה ביותר לברוח. מה שבטוח הוא שהפרשה הזאת מספקת לנו תזכורת נוספת, כמעט אירונית: הטכנולוגיה יכולה לעזור לנו לעשות המון דברים. להיעלם בלי להשאיר עקבות, איננו אחד מהם.
התפרסם לראשונה ב-N12
