בינה מלאכותית ואכיפת חוק: טכנולוגיה ואתיקה של פרויקט AIDA

(של מאריס מטוצ'י)
14 / 03 / 22

לעתים קרובות יותר ויותר, בינה מלאכותית (AI) משמשת רשויות אכיפת חוק כדי להילחם בפשעים שגם הם שונים מאוד זה מזה, לרבות פשיעת סייבר (פשע סייבר) וטרור. אבל מהי תפיסת האזרחים ביחס לטכנולוגיה הזו, מבטיחה אך לא מושלמת, כאשר משתמשים בה במגזר הביטחוני והביטחוני? 

המטרות של "AIDA"

נושא מניעת הפשיעה חביב במיוחד על AIDA, אשר עם זאת מצביע על משהו עדין עוד יותר עם פרויקט המחקר האירופי שלה שכותרתו בינה מלאכותית וניתוח נתונים מתקדם עבור רשויות אכיפת החוק (בינה מלאכותית וניתוח נתונים מתקדם לאכיפת חוק - AIDA): חיזוי פשעים. משהו שאולי נשמע מוכר למעריצי הסרט "דוח מיעוטים", עם טום קרוז צעיר מאוד בתור קפטן ג'ון אנדרטון ומערכת, "הפשע הקדם", שהיה כל כך מושלם (כנראה) שהמשטרה יכלה להימנע מהפשעים לפני שהם קרה בפועל.

בקיצור, מטרה שאפתנית, של רצון למנוע פשעים על ידי חיזוי באמצעות אלגוריתמים מתוחכמים למידת מכונה ו - בינה מלאכותית מסוגל להבין ולנתח מידע הודות לפלטפורמת ניתוח נתונים תיאורית וחזויה. אבל כדי להשיג את התוצאה, שהיא הכל מלבד מוכתבת מעצם הפיתוח של טכנולוגיות, גם אם חדשניות, החליטה AIDA "לעבוד" על היבטים רבים. אחד מהם מתמקד במרכיב החברתי. או מה אנשים יחשבו על שימוש כה חשוב בבינה מלאכותית בשירות כוחות המשטרה?

חשיבות ההימור גרמה לאיחוד האירופי לממן את פרויקט מחקר אירופאי AIDA עם כמעט שמונה מיליון יורו במסגרת תוכנית Horizon 2020 (הסכם מענק מס' 883596), שהחלה רשמית בספטמבר 2020 ו זה יסתיים בספטמבר 2022, בדיוק 24 חודשים לאחר מכן.

באיטליה הפרויקט מובל על ידי הנדסת הנדסת מחשבים ורואה פלוריבוס אחד, מבוסס בקליארי, בראשות חבילת עבודה התמקדה ביצירת מערכות בינה מלאכותית לניהול ורכישת מידע ולניתוח בו-זמנית של קבוצות פליליות. 

פרויקט AIDA שואף לפתח פלטפורמת ניתוח נתונים ומערכת של כלים אד-הוק למאבק יעיל בפעילויות פליליות. עם זאת, מבלי להזניח את המרכיב החברתי, זו ההשפעה שיכולה להיות לשימוש כה מסיבי בבינה מלאכותית על ידי שומרי הסדר הציבורי על האזרחים. 

מסיבה זו, הפרויקט שקל סקר כמותי ראשון ואחריו סקר איכותי שנכנס לחקור יותר לעומק את החשיבה של אנשים, כדי לנסות להתמקד ברעיונות, פחדים, ספקות וכל מה שעולה על הדעת. כאשר בינה מלאכותית מובאת לתוך לשחק בשדה האבטחה. 

La ניתוח חלקי ראשון של סקרים כמותיים (עליו סיפרנו לך ב-a מאמר קודם) אשר נערכו על ידי 2850 אנשים ב-11 מדינות שונות באירופה הדגישו, למשל, כי במיוחד באסטוניה, ספרד ואנגליה יש אמון מוחלט בכוחות המשטרה ובעבודתם של האזרחים. התוצאות הוצגו על ידי השותף CENTRIC, מרכז מצוינות בחקר פשע וסיכול טרור, המבוסס באוניברסיטת שפילד האלאם (בריטניה), בכנס IKE'21 (הכנס הבינלאומי ה-20 בנושא הנדסת מידע וידע)1.

המטרה של AIDA היא להפוך מערכת וכלים שימושיים להגברת האבטחה העולמית לזמינים לרשויות אכיפת החוק. אבל לא בלי לקחת בחשבון את ההשפעה שיכולה להיות לשימוש מסיבי ב-AI על אנשים רגילים. 

זו הסיבה שפיתוח הפלטפורמה והכלים הנלווים יאורגן ב כבוד לפרטיות וייקח בחשבון את המרכיב האתי שלעולם אין להתעלם ממנו.

הסקר האיכותי

הסקר על הבינה המלאכותית שבה השתמש כוחות המשטרה כלל עשר מדינות באירופה, בסך הכל כ-140 ראיונות עם אזרחים מן השורה. 

לפיכך, גרמניה, יוון, הולנד, אנגליה, ספרד, פורטוגל, איטליה, צ'כיה, אסטוניה ורומניה השתתפו באופן פעיל בחלק היקר הזה של המחקר שיהיה לו משקל חשוב בהבנת סוג התפיסה שיש לאנשים לגבי טכנולוגיה. . 

מצלמות וידאו, רחפנים, ניטור מקוון הם כעת חלק מחיי היומיום. אבל האם הטכנולוגיות הללו גורמות לאזרחים לאי נוחות? או להיפך, האם הם מרגישים בטוחים יותר כאשר משתמשים בטכנולוגיות אלו? והעובדה שהמשטרה יכולה להשתמש בהם מהווה יתרון או חיסרון אם חושבים על פרטיות?

השאלות הופנו למשתתפים אשר יכלו בכך להסביר את רגשותיהם, והביעו גם ספקות ותמיהות אפשריות לגבי שימוש בבינה מלאכותית שאולי אינו נקי מבעיות קריטיות. 

הנתונים שעלו מבלוק הראיונות באיטלקית שנערך בקרב בני יותר מ-65 הדגישו כמה היבטים מעניינים. כלומר, ישנם ניואנסים שונים בתפיסה שיש לאנשים ביחס לבינה המלאכותית המשמשת את כוחות המשטרה. אנו עוברים מאלה שסומכים על אמון וסומכים באופן עיוור גם במקרה של שימוש "מחמיר" יותר בטכנולוגיה הזו, לאלה שבמקום זאת טומנים בחובם יותר מתמיהה אחת ומביאים מונחים חזקים בעליל כמו זה של תרחיש משטרתי. כי הוא יבטח במשטרה, כן, אבל בזהירות. 

ושוב, יש כאלה שכבר מרגישים מוטרדים מסוג מסוים של הפרעות בחיי היום-יום (מעקב וידאו, ניטור מקוון) ובמקום זאת כאלה שמרגישים איכשהו יותר בטוחים דווקא בגלל ש"מרגלים" אחריהם. 

הנתונים, שנאספו מדינה אחר מדינה, ינותחו ויעובדו על ידי CENTRIC ויופצו על ידי EUROPOL, משרד המשטרה האירופית, שותף לפרויקט ואחראי להפצת תוצאות המחקר שהושגו במסגרת AIDA.

הנושא של חיזוי פשע הוא אפוא אקטואלי מאי פעם, אבל יש עדיין הרבה מה לעבוד בכיוון הזה. עם כל הכבוד לחובבי "Minority Report" שכנראה ייאלצו לחכות עוד קצת לפני שיראו התממשות של פלטפורמה בסגנון "Precrime".

1 המאמר המדעי (PS Bayerl, B. Akhgar, E. La Mattina, B. Pirillo, I.Cotoi, D. Ariu, M.Mauri, J. Garcìa, D. Kavallieros, A. Kardara, K. Karagiorgou, " אסטרטגיות כדי להתמודד עם בינה מלאכותית באכיפת חוק: השוואה בין מדינות בין אזרחים ביוון, איטליה וספרד ") יפורסם במעגל ספרינגר כהמשך הוועידה.