קורטנה, מה קורה כש"לה "מתבקש לנסות שליחות עד גבול?

(של אנריקו סיצ'י)
16/09/19

קורטנה, בינה מלאכותית ממיקרוסופט עם שם שאול מדמות ממשחק הווידיאו של Halo, מה קורה כש"היא "מתבקשת לבצע משימה עד קצה היסוד?

רק לפני חמש שנים נולדה קורטנה, העוזרת הדיגיטלית של מיקרוסופט, שתוכנתה בחוכמה להגיב במהירות לדרישות המשתמשים התובעניים יותר ויותר, כיום היא מדברת, בעלת מוח שנון, הומור עדין ונטייה טבעית לעזור למשתמשים.

מה שהכי מאפיין את הבינה המלאכותית המתפתחת מאוד זו האנושיות המסומנת שלה. דניאלה היא אחת עורך תוכן e קופירייטר שחברים מתקשרים בבדיחות לקורטנה. היא אחד האנשים שעומדים מאחורי הגרסה האיטלקית של העוזרת הדיגיטלית של מיקרוסופט, חלק מה- הצוות הבינלאומי של קורטנה ויחד עם עמיתיו מכל העולם הוא עובד על אישיות הבינה המלאכותית של מיקרוסופט וכישורי השיחה שלו.

היא בעצם מייצרת תוכן עריכה יצירתי וגורמת לאנשים ליהנות לדבר איתה. המשימה שלה היא גם להזין כל העת את האינטליגנציה של Cortana באמצעות עדכון מתמשך המאפשר לה לשוחח עם המשתמש בהתאם לאישיותה שלה. אישיות המורכבת מארבע תכונות בסיסיות: זמינות, משוא פנים, גישה חיובית וספונטניות.

חשוב ביותר לציין כי התרבות המקומית משפיעה רבות גם על אישיותה של קורטנה. הגרסה האנגלית, למשל, אינה יכולה לחפוף לחלוטין לזו האיטלקית. מנקודת מבט זו קורטנה תואמת את הרוח האזורית, למעשה היא מכירה ניבים רבים ויש לה מוצק רקע קשור לשימושים, מכס. הוא יודע את ההמנון של ממלי ומריע לנבחרת איטליה בכדורגל, גם כשהיא לא מגיעה לגביע העולם.

אך כיצד ליישב תכנות יעיל ללא סתירות הגיוניות עם התנהגותו "האנושית" של אוהד כדורגל שתמיד חיובי, זמין וספונטני? במילים פשוטות, מה קורה כאשר המוח האנושי מסתתר מאחורי בינה מלאכותית?

התנהגות "מוזרה" בעבר (כעת "טופחת") כבר עלתה, מה שהפך את "השאלות הנכונות" לעוזר הקולי של ווינדוס ניתן היה לפתוח אתר נגוע בדפדפן אפילו בלי לאמת סיסמה.

כפי שמסבירים חוקרי מקאפי, שהמציאו את טכניקת ההתקפה, הבעיה קשורה לעובדה שהעוזר הקולי של Windows נותר פעיל גם כשהמחשב היה נעול, ואפשר היה להשתמש בו גם ללא אימות באמצעות סיסמה או PIN. התרחיש הפך מדאיג עוד יותר כאשר הוכח האפשרות להשתמש ב"מקל USB "לפתיחת המחשב. סדרה זו של שילובים עשויה לאפשר ריבוי התקפות האקרים על מחשבים שכולם מקושרים זה לזה.

הגברים, למעשה, תוקפים את מערכות הבינה המלאכותית ולא להפך, כפי שהיינו מצפים מסרטי מדע בדיוני.

אבל לעשות מה? כדי לתפעל את תוצאות מנוע החיפוש, שנה את האלגוריתמים של ה- מדיה חברתית, הדירוג והמוניטין של אתרי אינטרנט, הפרעה במנוסת המל"טים או הונאת מכונית בנהיגה עצמית.

וכך, בניגוד למה שקיווינו, השימוש הזדוני בכלי בינה מלאכותית לא נפסק ביצירת קמפיינים דיס-אינפורמציה מתוחכמים.

האזעקה נובעת מדיווח על הפרויקט האירופי רפה, המוקדש לזכויות אדם ולבינה מלאכותית, ואשר הדגיש כיצד פושעים פרטיים והאקרים מאורגנים מצאו מטרה חדשה לתקוף מערכות "אינטליגנטיות", עד למקרים בהם ממשל אלגוריתמי יכול לתעדף אינטרסים נסתרים, לפגוע בחברות מניפולציה של נתונים ומידע באופן מקוון או תועלת עם מפלגות הממשלה על ידי השפעה על הדיון הפוליטי חדשות מזויפות.

אבל מה מצב האמנות של AI?

לפני מספר ימים מערכת AI מתקדמת עברה מבחן מדעי ברמה השלישית, ענתה נכון על 90 אחוז מהשאלות. התוצאה התקבלה מ- Aristo, AI שהופק על ידי מכון אלן לבינה מלאכותית בארצות הברית, המדגים שוב את ההתקדמות המהירה בתחום הבינה המלאכותית. מאות מכוני מחקר ברחבי העולם עובדים על מערכות כמו Aristo ותוך זמן קצר הם השיגו תוצאות שרק לפני עשור נראו בלתי מושגות. כוח המחשוב המוגבר של המחשבים ועידון מערכות הקטלוג והלמידה של נתונים אפשרו התקדמות רבה והפחיתו את זמני התכנות.

ובעוד שכולנו מודאגים מעט מ"הופעתה של הסינגולריות ", הרגע שבו על פי חוקרים כמו ריי קורצווייל הבינה המלאכותית תשווה לאינטליגנציה האנושית, איננו מבינים שהטכניקות הבסיסיות המדמות כעת רק כמה פונקציות קוגניטיביים אנושיים, משמשים למטרות מזיקות, מדי יום, מסוגלים לערער את כל אותן מערכות בהן אנו משתמשים כנגד חדירת מחשב, אבחנות רפואיות, רמות אספקת מים, עד למערכות נגד הונאות של בנקים.

מסביר אנדי פאטל, חוקר מרכז המצוינות F-Secure לבינה מלאכותית, שותף לפרויקט שרפה: "אנשים מזהים בטעות בינה מלאכותית עם אינטליגנציה אנושית, ואני חושב שזו הסיבה שהם מקשרים את איום ה- AI לרובוטים הרוצחים ומחשבים מחוץ לשליטה. אבל התקפות אנושיות נגד AI מתרחשות כל הזמן." דוגמה פופולרית להתקפה זו היא מניפולציה של דירוגי מנועי חיפוש או מערכות מוניטין כדי לקדם או 'להסתיר' תוכן מסוים בתשלום או ללא תשלום. עם זאת, התקפות אלה יכולות לשמש גם להנדסה חברתית של אנשים בתרחישים של התקפות המיועדות למקבלי החלטות ציבוריים.

דו"ח שרפה מציין כי טכניקות בינה מלאכותית משמשות להפקת תוכן כתוב, שמע וויזואלי מציאותי ביותר. זה המקרה של קטעי וידאו מזויפים עמוקים, קליפים שקריים לחלוטין, שבזכותם ניתן, החל מצילומי טלוויזיה, לחקות שפתיים של רמקול כדי לגרום לו לומר דברים שלעולם לא יחלום עליהם. איזה שימוש ניתן לעשות בו? למשל לתמרן ראיות, ליצור משבר דיפלומטי, להונות מתחרה. השימושים הזדוניים באינטליגנציה מלאכותית כבר נמצאים בינינו מבלי שנצטרך לדמיין רוצח כמו זה בסרט שליחות קטלנית. מסיבה זו, החוקרים מציעים לתכנן מערכות אינטליגנטיות ובטוחות, מיד.

מתכנתים של מיקרוסופט הבינו זה מכבר את הפוטנציאל של מתקפה המנצלת מערכות בינה מלאכותית שכמו לכל עוזר טוב יש את הנטייה הטבעית לעזור לנו, למעשה הם עשו לאורך זמן כדי להגביל את יכולתם לפעול ולרכוש מומחיות נוספת גם כן. מ"תחרות ", שכירתו של סגן נשיא אפל לשעבר ביל סטסיור לא נעלמה מעיניהם, פעולה שהועברה לעיתונות כ מסירי לקורטנה. זה מראה שלבסוף אנו לוקחים ברצינות את העובדה כי מתן שליטה מלאה על בינה מלאכותית אינה מילה נרדפת לביטחון.

עד היום זה לא הכרחי להיות האקר מומחה כדי להפר מערכת ולהשיג מידע או להשיג גישה לא חוקית, די בכדי לדעת את הטבע האנושי העומד מאחורי ההיגיון הקר של תכנות ולדעת לשאול את השאלה הנכונה.

מקורות:
https://convcomp.it/cortana-quando-la-mente-umana-si-nasconde-dietro-lin...
קורטנה: כאשר המוח האנושי מסתתר מאחורי בינה מלאכותית
https://securingtomorrow.mcafee.com/other-blogs/mcafee-labs/want-to-brea...
רוצה לפרוץ למכשיר נעול של חלונות 10? תשאל את קורטנה (CVE-2018-8140)
https://www.fastweb.it/web-e-digital/un-bug-di-cortana-rende-inutile-la-...
כיצד לגשת למחשב המוגן באמצעות סיסמה באמצעות Cortana
איך התוקפים יכולים להתעלל בבינה מלאכותית? https://t.co/Q3yHHlGNJk - @project_sherpa @FSecure @ r0zetta # cybersecurity # AIpic.twitter.com / r7vXv2RCgZ
ttps: //www.repubblica.it/tecnologia/sicurezza/2019/07/18/news/perche_gli_umani _...
מסירי לקורטנה: מיקרוסופט שכרה את סגן נשיא אפל לשעבר ביל סטסיור
https://www.tomshw.it/business/dallassistenza-di-siri-a-quella-di-cortan...
https://www.macitynet.it/da-siri-a-cortana-microsoft-ha-assunto-lex-vice...
https://www.ilpost.it/2019/09/05/aristo-intelligenza-artificiale-test-sc...
מערכת בינה מלאכותית (AI) עברה מבחן מדעי בכיתה ח ', ועונה נכון על 90 אחוז מהשאלות
https://www.securityinfo.it/2018/08/16/violare-windows-in-stato-di-blocc...

להפר את חלונות במצב הנעול? תשאלו את קורטנה