מוגנות בעידן הבינה המלאכותית

לספר העיון המלא (PDF)

האם נצליח להגן על אוכלוסיות פגיעות ממכונות המדמות בני אדם? | Photo by Horia Ionescu's Images via CANVA

מוגנות בעידן הבינה המלאכותית היא המצב שבו המשאבים החיוניים של אדם – גופו, נפשו, רגשותיו, יכולתו הקוגניטיבית, רכושו ומעמדו החברתי – מוגנים מפני נזק שעלול להיגרם לו הן מעיצוב טכנולוגי לקוי והן משימוש זדוני של אחרים בטכנולוגיה.

כיצד משנה הבינה המלאכותית את המציאות? 7 "שוברי שוויון":
הבינה המלאכותית אינה רק גרסה מתקדמת של הטכנולוגיה הדיגיטלית המוכרת, היא משנה את חוקי המשחק עצמם. הנה 7 "שוברי השוויון" – הסיכונים המרכזיים המשקפים את המציאות החדשה:

1. העברת פעולות קוגניטיביות למכונה: כאשר בינה מלאכותית מסוגלת לבצע במקומנו פעולות כמו קריאה, כתיבה, תרגום, ניתוח וייצור תוכן יצירתי, התוצאה עלולה להיות שחיקה של מיומנויות בסיסיות, היעלמות של מקצועות מסוימים או שינוי מהותי שלהם, וחוסר בהירות לגבי שאלות כמו "מהי הבנה אנושית" או "מיהו מומחה".
   
   
2. קבלת החלטות אוטונומית ומרובת סוכנים: מערכות בינה מלאכותית מסוגלות לבצע משימות באופן אוטונומי, כולל כאלה המבוססות על שיפוט ושיקול דעת, בנושאים כמו רפואה, חינוך, מינהל ופיננסים. מבחינת מוגנות, נוצרת זירה חדש לפגיעות קוגנטיבית, מוסדית וחברתית.
   
   
3. ערעור יכולת ההבחנה בין תוכן אותנטי לסינתטי: כאשר אי אפשר להבחין בין תוכן יציר מכונה לתוכן מציאותי, קשה לברר עובדות ולהגיע לקונצנזוס, וכך מתערערים התנאים הבסיסיים הנדרשים לחיים חברתיים ודמוקרטיים.
   
   
4. זיהוי רגשי על ידי מכונה והשפעה על המשתמש: מערכות בינה מלאכותית מסוגלות לזהות מצבים רגשיים כמו בדידות, חוסר ביטחון, מצוקה, ולהתאים את תגובתן. המשתמש חווה זאת כתקשורת אותנטית, אך בפועל מדובר במנגנון המבוסס על דפוסים ומטרות שאינם ידועים לו.
   
   
5. מעבר לתקשורת מדוברת: ממשקי הדיבור של הבינה המלאכותית מציבים גם הם סיכונים: ללא תיעוד כתוב קשה לחזור לאחור ולבחון החלטה, השיחה הזורמת מובילה לייחוס תכונות של כוונה ואמפתיה למערכת שאינה מחזיקה בהן, וקבוצות בעלות יכולת שפתית מוגבלת חשופות לפגיעה ולהפליה.
   
   
6. עירוב פיזי ודיגיטלי במרחב: משקפיים חכמים, רכב אוטונומי, רובוטים ומחשוב לביש מייצרים מרחבים שבהם הגבול בין פיזי לדיגיטלי מיטשטש. פעולות בסיסיות כניווט, זיהוי ואוריינטציה הופכות לפעולות משולבות מכונה, המרחב עצמו מעוצב מחדש, ולא בהכרח באופן שקוף לאנשים הנמצאים בו.
   
   
7. ריבוי ייצוגים דיגיטליים של בני אדם: האפשרות ליצור "תאום דיגיטלי" ולהעתיק קול, פנים וסגנון חשיבה מעלה שאלות כמו מי נושא באחריות, מהי הסכמה ולמי להאמין.

כדי להבטיח מוגנות, נדרש שילוב של כמה מנגנוני התערבות: מחקר ומעקב אחר טכנולוגיות מתפתחות; רגולציה; עיצוב טכנולוגי אחראי; חקיקה ויכולת אכיפה משוכללת; תוכניות מערכתיות בחינוך ובשירותי רווחה; אוריינות דיגיטלית; ושימוש בטכנולוגיה עצמה לצורך פיקוח וניטור. בסופו של דבר מדובר במשולש דינמי שיש לו שלושה קודקודים: רגולציה, חינוך וטכנולוגיה. אף אחד מהם אינו מספיק לבדו, ורק שילובם יוצר הגנה אמיתית.

אלא שמדיניות מוגנות אחידה אינה מספקת:

פגיעויות אינן מחולקות באופן שוויוני באוכלוסייה: קבוצות שונות חשופות לסיכונים שונים בהתאם להתפתחות הקוגניטיבית, לחסמים תרבותיים ומוסדיים, לרמת האוריינות הדיגיטלית ולמידת האמון שלהן במערכות שלטוניות. לכן עקרונות המוגנות חייבים להיות אוניברסליים אך יישומם צריך להיות מותאם לכל קבוצה.

ילדים ובני נוער:

 מצויים בפגיעות מובנית הנובעת מהתפתחות קוגניטיבית חלקית: הם עלולים להתקשות לזהות מניפולציה ולהעריך סיכונים. הם רגישים במיוחד להשפעות חיצוניות, ונטייתם לתגמול מיידי הופכת אותם לפגיעים במיוחד למנגנוני התמכרות. ההגנה עליהם מחייבת שיתוף פעולה בין רגולציה על פלטפורמות, הכשרת הורים ומחנכים ועיצוב טכנולוגי המגביל חשיפה לתכנים ולדפוסי שימוש מסוכנים.

החברה החרדית:

מאופיינת במבנה היררכי שבו ההנהגה הרבנית היא הרגולטור החברתי והערכי. אלא שמנגנוני הפיקוח הפנימיים אינם ערוכים להתמודד עם פגיעות הקשורות לטכנולוגיה וליחסים שבין אדם ומכונה, ולעתים גם ישתיקו שיח בנושא הזה. פתרונות אפקטיביים יצטרכו להיות מותאמים לערכים ולפרקטיקות של הציבור החרדי.

החברה הערבית:

משבר האמון העמוק של החברה הערבית מול מוסדות המדינה מתורגם גם למרחב הדיגיטלי: שירותים ממשלתיים ממוחשבים נתפסים כלא ניטרליים, וחשש מתגובת הסביבה מוביל לרוב להסתרת פגיעות ולהימנעות מדיווח. הנורמות החברתיות-קהילתיות, שמדגישות שמרנות ובושה, מחריפות את הקושי לפנות לעזרה. הגנה על אוכלוסייה זו תדרוש בניית אמון, השקעה בגורמי ביניים קהילתיים, פיתוח שירותים בערבית ועבודה עם ארגוני החברה האזרחית בתוך הקהילה.

זקנים:

נמצאים בבעיה כפולה: מצד אחד הם תלויים מאוד במערכות מידע שמספקים גופים שונים, מצד שני – הם לא תמיד רוצים או יכולים להתמודד היטב עם טכנולוגיות חדשות, שברוב המקרים מותאמות לצעירים. ירידה ביכולות הקוגניטיביות חושפת אותם לסיכונים כמו הונאות וניצול כלכלי, והם גם חשופים יותר לפגיעות פיזיות. מנגנוני התערבות שיגנו עליהם חייבים לכלול רגולציה, אוריינות והדרכה ושימוש בכלים טנולוגיים כדי לספק להם הגנה.