חדשות מזויפות, Deepfake, Fake People: הגבול החדש של אבטחת סייבר

(של קרלו מאקלי)
14 / 07 / 21

במהלך הנעילה בשנה שעברה התחלתי לכתוב מאמר שמעולם לא היה לו אור ושמטרתו לגרום לאנשים להרהר בתופעה של חדשות מזויפות שיש לי את החוצפה להתחבר לאיומי הסייבר הפולשניים ביותר של השנים האחרונות.

אם המילה "חדשות מזויפות" הייתה מוצגת בדיווחים השונים הנוגעים לאיומי סייבר, אני בטוח שהיינו משיגים מספרים מעניינים מאוד, ככל הנראה גבוהים יותר מאלו של דיוג, למשל, המייצג את וקטור ההתקפה הנפוץ ביותר באופן מוחלט על פי דו"ח Clusit האחרון.

פחות או יותר, המאמר התחיל כך:

בעבודה בחברה אמריקאית, המונח "סיפור סיפורים" נמצא בשימוש בתדירות גבוהה מזה זמן מה. מה שמפתיע, אולי לא יותר מדי, הוא שלמרות שיש שפה כל כך יפה ועשירה במונחים, נהוג ומאוחד באיטליה, בכל רמה שהיא, להסתמך על מונחים זרים, לרוב אנגלית. אני חייב לומר, עם זאת, שיש במילה זו משהו מסוים, דבר שאיני יכול לתאר, אך מעורר סוג של פליאה ותדהמה אצל המאזין, ברגע שהוא מתעורר. די להשתמש בה כדי לגרום להנמקה להראות מעוטרת, בין אם היא תקפה ובין אם לא, וכאן, כאילו באמצעות קסם, בני השיח נדלקים כאילו בא לידי ביטוי המושג העמוק ביותר בכל הזמנים.

עכשיו זה הפך להיות דבר שבשגרה, עד כדי כך שאנחנו אפילו לא שמים לב אליו יותר, עד כדי כך שאולי הפסקנו לשאול את עצמנו למה אנחנו מתכוונים באמת כשאנחנו מדברים על סיפורים או שאנחנו יודעים על מה אנחנו מדברים, אבל, ככל הנראה, שכחנו את זה.

בזמן החירום של נגיף הכליה, תפקידנו ברור. הומלץ לנו "לבצע הזמנות" ולעשות את חלקנו על ידי כיבוד הכללים כפי שיותר מכך צריך לקרות תמיד בהקשר דמוקרטי וקהילתי. למעשים שלי יש השפעה לא רק על עצמי אלא גם על האנשים סביבי ועמם אני מתקשר וכך, להפך.

עם זאת, במהלך חוויה זו שלא חיה מעולם, יש לנו גישה קצת לא סימטרית כלפי אלה שמנסים להתמודד עם ולפתור את החירום ואנחנו יכולים רק לציית ולסמוך.

והנה מילת המפתחלסמוך. בואו נסתכל על מה טרקני מספר לנו על מונח חשוב מאוד זה.

fidùcia sf [מלט. אמון, דר. di fidĕre "לסמוך, לסמוך"] (pl., נדיר, -cie).

גישה, כלפי הזולת או כלפי עצמך, הנובעת מהערכה חיובית של עובדות, נסיבות, מערכות יחסים, שעליהם סומכים על אחרים או על האפשרויות של עצמך, ואשר בדרך כלל מייצרת תחושת ביטחון ושלווה: ו. באלוהים, בגברים, באחווה אנושית, במדע, בהתקדמות חברתית; f. בניצחון; f. להצליח; f. בכוכב שלו, בכוח שלו; f. בתוצאה של עסק; תסתכל עם f. לעתיד; עצור f.; f. בלתי מוגבל, מוחלט, ללא תנאי; שיהיה, להזין f.; לאבד את f. לתת תעודה, הוכחת F. לעורר f. להרוויח, מגיע, ליהנות, לקבל את f. של מישהו; הרחק את f. שלך טוב, או רע; התעללות ב- f. של אחרים. שימוש com. הביטויים: אנשי f., שלי, שלך, של f., אנשים אמינים המשמשים בעניינים עדינים וחשובים; רופא, עורך דין של נ., מי שנבחר באופן חופשי ובדרך כלל על ידי הלקוח; תפקיד, תפקיד, עמדת נשיא, של אחריות, עדין, הנשען רק על אנשים בטוחים ואמינים. 

בחוק החוקתי, הצבע לפי ו., הצבע לפיו הפרלמנט מאשר (או, אם ההצבעה נותנת תוצאה שלילית, לא מאשר) את ההנחיות המדיניות ואת הפעולה המקבילה של הממשלה; הצעת ו ', ההצעה, שהועלתה על ידי אחד הלשכות, לנקוט בהצבעת האמון; שאלת ו ', בקשת הממשלה לנקוט בהצבעת אמון לאישור או דחייה של תיקונים וכתבות הצעות חוק: הממשלה החליטה לשאול את שאלת האמון. 

במשפט האזרחי, ו. צוואה (או נטיית צוואה אמון), נטיית רצון שהנבדק שמקבל את הטוב הוא המוטב לכאורה, המחויבת להעביר את הטוב לאדם אחר (שבדרך כלל לא יכול להיות היורש הישיר של המוריש).

אמון היא מילה "כבדה" שמאמצת תרחישים רחבים ומייצגת אחריות חשובה אצל מי שנותן אותה ובאלה שמקבלים אותה.

זאת אומרת שעלינו לסמוך על אלה שמנסים, ללא מעט קשיים, להתמודד עם בעיה שאיש לא היה מוכן לה. לכן עלינו להיות אמונים על מוסדות מרכזיים, ממשלות מקומיות, רופאים, מדענים, ואחרון חביב, באלה המספרים לנו מה קורה, כלומר עיתונאים ומנצחים. 

אמון ... האם עלינו לקבל זאת ללא תנאי, במיוחד בהתחשב בעולם בו אנו חיים? עולם בו אנו מופגזים מדי יום בכמות עצומה של חדשות המציינות הכל וההפך מכל?

כאן, אולי, הנקודה הבסיסית: ניהול תקשורת.

הן מצד המוסדות והן מצד התקשורת, במיוחד בתחילת המגיפה, הדרך בה נמסרה גרמה לדליפת חדשות שיצרו דיונים עמוקים אך גם תגובות לא רציונליות כלפי הכל וכולם, החל מ הפרק המפורסם המתייחס לאלה שהצטופפו בתחנות הצפון כדי לברוח לדרום עד כדי כך, ככל שחלפו הימים, הבנו שתגובה לא רציונאלית זו עדיין מופעלת על ידי מחווה לא אחראית לא פחות.

לכן נראה שהייתה הזדמנות להרהר כיצד, במקביל למאמצים רפואיים, יש להתייחס וירוס הקורונה במונחים של תקשורת, תוך מחשבה מדויקת על אחד. סיפורים של החירום.

במקום זאת, נרטיב המשבר המשיך במסלולים שהסתמכו על מונחים, פרקטיקות והרגלים שלמרבה הצער מאפיינים לרעה תקשורת זמן רב, הרבה לפני התפשטות קוביד 19.

Il סנסציוניזם, L 'ניתוח גס, את חיפוש נמהר אחר טוב ורע, של גיבורים ואויבי המולדת. בתקופה בה האיטלקים לא יכולים שלא לסמוך על מה שאומרים להם בלבול ו מידע שגוי הם התפשטו כמו הנגיף, מה שהופך את התקשורת לקשה יותר ויותר ולמעשה כמעט מבטלת את ההזדמנות להציע סוף סוף נרטיב איכותי, שמעולם לא היה בעל חשיבות חיונית.

וכל זה מכיוון שהיום, הקריאה, המחקר המעמיק, החיפוש אחר אמיתות החדשות הם פריבילגיה של מעטים, בעוד שרוב האנשים מאזינים לנביחים פוליטיים ולעיתונאים מפלגתיים, שכדי לאסוף קולות, מצד אחד, ו להשפיע על דעת הקהל מצד שני, אפילו במצב כה קריטי כמו זה, הוא משתמש בתקשורת בצורה עובדתית ואינסטרומנטלית.

כל זה, בין אם תרצו בכך ובין אם לאו, נכנס לקטגוריה של חדשות מזויפות.

"מזויף" או "חדשות מזויפות" ממשיכים להיות מונחים שאינם עושים צדק במידת התופעה שאנו חווים מכיוון שנכון יותר לדבר עליה טיפול או מידע שגוי שהם ללא ספק לא מושגים חדשים אלא שבהשוואה לעבר מועשרים בהשלכות נוספות.

לאחר שהתברר כי עד כה, מרבית האוכלוסייה מעדיפה ללמוד כל סוג של מידע מ"רשתות חברתיות ", ללא קשר לחשיבות הנושא, ניתן לקבוע כי בין הסיכונים העיקריים ישנו מה שיכול להיחשב תקף ומידע כוזב בעליל.

המצב הזה מוגדל עוד יותר על ידי מה שמכונה "אפקט אש חזרה" זו התופעה לפיה "כשאתה מתמודד עם מידע כוזב אך כבר מאוחד, בסופו של דבר אתה מאשר זאת עוד יותר מכיוון שלמרבה הצער אתה מסרב לשנות את דעתך"..

אנו יכולים לאשר כי כל מגזרי התרבות של החברה העכשווית הם קורבנות ל"חדשות מזויפות "גם אם נראה שהריכוז הגדול ביותר הוא בתכנים מדעיים.

נקודת המבט האישית היא כי דיסאינפורמציה במגזר זה מוצאת קרקע פורייה להתפשטות משום שהיא מבוססת בעיקר על בורות של מושגי יסוד.

העובדה ששפה מדעית היא ספציפית ביותר מאפשרת לאלה שיוצרים דיסאינפורמציה להשיג הצלחה מיידית וניכרת, ומשפיעה לרעה על העולם האקדמי אשר עלול לאבד את האמינות. זה גם סמלי שכאשר מתעוררות שקר הנוגע לבריאות, הנזק גרם לסיכונים להיות בלתי הפיכים.

מחקרים רבים בוצעו בעניין זה ומה שעולה הוא שקיימת אמונה מצד רבים בהגדרת התפקיד של "חברות הטכנולוגיה" כמרכזיות, החברות הטכנולוגיות שמשחקות, רחוק מלהתפקד כ"פלטפורמות "בלבד. תפקיד מקוון יותר עם המאפיינים והדרישות של החברות.

הכוח הגדול של חברות אלה אינו מסתיים בהעלאת תכנים לפלטפורמה אלא להיפך, הוא עולה בזכות השליטה הסלקטיבית והדייקנית במה שאנו רואים מאחר וזה המודל העסקי שלהם.

והמטרה הסופית, בכל הקשור לפוליטיקה, נותרה להגדיל את קהל המשתמשים שלהם, מחליק את שיערו, להשתמש בנאמנות "צרפתית" משהו, המשנה את זרימת המידע למרות הניטרליות שלהם לכאורה.

לשם כך הם עושים שימוש נרחב באלגוריתמים מתוחכמים, ניתוח נתונים, התאמת נתונים וטכניקות פרופיל שבזכותם מעובד כמות גדולה של מידע שנאסף, המוענק לצדדים שלישיים ללא, לעתים קרובות הסכמת הגורמים המעוניינים או עם לא מודע. הַסכָּמָה; נתונים המשמשים, יחד עם האוסף, בקידום פרסומי ובמיקוד מיקרו באמצעות מדיה חברתית.

I לוע הם כלי נוסף המשמש בצורה בולטת. כידוע, מדובר בתוכניות שניגשות לרשת דרך אותו סוג של ערוצים המשמשים משתמשים אנושיים ומאפשרות, בין היתר, באמצעות אלגוריתמים ספציפיים, לבצע משימות מדויקות כמו פעילויות נתונים. גרידה e גירוד באינטרנט אשר מולידים מיצוי נתונים ומידע בדף נתון לשימוש בהם בהקשרים אחרים.

בריבוע הווירטואלי מוסתר מידע כוזב או שגוי, בין אם הוא בעל אופי מסחרי או פוליטי, ונשלח למיקרו יעד של אנשים על בסיס נתונים שנאספו על ידי חברות חזקות. שיווק באינטרנט, מבלי שהמעוניינים היו מודעים לכך.

לעתים קרובות יותר ויותר ה"דיון הציבורי ", שבמרכזו נושאים מורכבים וקשים מאוד לפתרון, הנוגעים לעתיד הכל, מעוות והופך לקמפיינים אמיתיים של שיווק הסכמה, עשוי רק מסיסמאות הממלאות את המרחב הציבורי.

בעיקרון, ה טק הם מגוררים, אפילו מבחינה כלכלית, לתעדף תוכן סנסציוני מכיוון שהם נוטים יותר למשוך תשומת לב וכן לטפח את הקיטוב והקצנת הדיונים.

התחושה הרווחת היא שהדיסאינפורמציה שמסתובבת על הפלטפורמות היא תוצאה של פרויקט שאורגן והובל על ידי גורמים שהבינו היטב כמה עקרונות בסיסיים של הכלכלה הדיגיטלית באמצעותם ניתן להשיג הכנסות מפרסום גדולות.

כל זה המשיך להתפשט ללא שליטה כך שבאוקטובר 2018 חתמו הפלטפורמות הדיגיטליות העיקריות על "קוד התנהגות" למאבק בחוסר מידע מקוון. זוהי התחלה, אך היא מייצגת צעד מהותי במאבק נגד בעיה העלולה לאיים על אמון האזרחים במוסדות, כפי שאושרה מחדש באיחוד האירופי.

מטרת האיחוד האירופי, בין היתר, היא לנהל חבילה של כללים לוויסות עצמי בהתנדבות, המתאימה למאבק בחוסר מידע ברשת.

למעשה, על ידי הצטרפותו לפרויקט זה כל חברת אתרים קבעה לעצמה כללים למאבק בדיסאינפורמציה בכל המדינות החברות באיחוד האירופי.

מכל אלה ברור שהמידע הפך ל"תקשורת "וכי במקביל התפתח דיסאינפורמציה המייצגת ללא ספק תופעה מורכבת ומשתנה, ואשר יכולה לשמש כלי נשק חדש, למדיניות, כלכלית. או מטרות צבאיות.

כיום, טכניקות דיסאינפורמציה כה רבות ומעודנות עד כי הן מהוות איום על ביטחונה ויציבותה של מדינה. לשם כך, כצפוי, יש לי את החוצפה שנוכל להחשיב אותם כאחד איום סייבר.

אין זה מקרה שכאשר מוטל בספק את שלמותה ויציבותה של מדינה, נעשה שימוש בשירותי הביון, הממלאים תפקיד מהותי במאבק בצורות איום אלה. יתר על כן, שירותי הביון עצמם התעניינו במהפך שהביא אותם להניח קונוטציה המסוגלת להתמודד עם האתגרים הביטחוניים החדשים.

מבלי להיכנס לפרטיהם של הכוונה במודיעין ולהכיר כי הקורא יכול ללמוד זאת ממקורות שונים (v.link), דווקא משום שיש צורך להתמודד עם איומים חדשים היברידיים ובעיקר אי-סימטריים, תפקידו הופך להיות יסודי.

מודיעין קשור קשר הדוק למה שקורה בזירה הבינלאומית, במיוחד בכל הקשור למאזן הכוחות בין מדינות, אך גם לשוק העולמי.

קישור זה נכון עוד יותר אם אנו חושבים על אותם אזורים בעולם בהם אין קונפליקטים בעלי אופי מסורתי, אך סובלים מתופעות פגיעות שמקורן בסכסוכים כלכליים, צורות טרור מתקדמות של מטריצות שונות והתקפות המיושמות במתודולוגיות חדשות. הדורשות צורות ספציפיות של אינטליגנציה.

"איומי אבטחה" מסורתיים התפתחו והגיעו לאיומי סייבר מורכבים יותר המופעלים על ידי גורמים שביסודם ניתן לחלק אותם לשתי קבוצות מאקרו:

- גורמים ממשלתיים שהם מאוד מובנים ומסוכנים ביותר מתוקף העובדה שיש להם משאבים כלכליים ואנושיים עצומים. אנו יכולים לייצג את האיומים שהם מחברים בשני שיעורים: לוחמה קיברנטית שהוא סוג של לוחמה דיגיטלית ו ריגול סייבר המייצג ריגול דיגיטלי.

- גורמים לא ממשלתיים לאילו קבוצות טרור שייכות (טרור סייבר), ארגוני פשע (פשע סייבר) ושחקנים אחרים המיוחסים ליחידים המונעים מדחפים דתיים, פוליטיים ואידיאולוגיים.

כל זה גורם לנו לחשוב שפעולות פליליות ישתמשו יותר ויותר בכלים מתקדמים טכנולוגית כמו בינה מלאכותית שמטרתם היא לערער את היציבות ביחסים בינלאומיים ולקבל תפיסה מושרה של ביטחון.

כלי נשק אפשרי אחד הוא של "זיוף עמוק", המבוסס על תהליכים המנצלים את עקרונות הבינה המלאכותית בכדי לשנות ולהעלות תמונות וסרטונים החל ממקורות המקור בכדי לפרט אחרים שבהם הנבדקים מבצעים פעולות, מדברים וזזים בהקשרים ממש לא אמיתיים, הודות לטכניקות למידת מכונה כגון "רשת יריבה גנרית".

ואז יש את "אנשים מזויפים", אנשים שאינם קיימים במציאות אך הם גיבורי הסרטונים הווירטואליים המייצרים רגשות עזים כמו כעס, חוסר אמון, חמלה, פחד או אי נוחות בהתאם למטרות שהם שואפים אליהם.

התפתחות א המודיעין הקיברנטי יעיל הוא מציאות בלתי-ניתנת לערעור שחייבת להסתגל לתרחישים שהשתנו על בסיס ניתוח מקורות פתוחים, על עיבוד נתונים גדולים, על פיתוח טכניקות בינה מלאכותית שבה ניתן להתמודד עם לוחמת סייבר ולהבטיח את הגנת הקהילה.

מכאן ניכר הקישור למה שמאמר זה התיימר להדגיש, כלומר: "חדשות", "מידע", "דיסאינפורמציה" נכנסים ומחלחלים בתוך מערכת "המדיה" ומערכת "המודיעין" וכדי להימנע מטכנולוגיות כה מקיפות יכולות "להתפוצץ" את מערכת התקשורת והמידע עם השלכות בלתי נתפסות על החברה עצמה, זה חיוני לכך שהמודיעין ממלא תפקיד מרכזי בהבטחת הביטחון.

לסיכום, אנו עומדים בפני מערכת מורכבת ביותר שבתוכה כמעט בלתי אפשרי לבסס את מקור החדשות או לאמת את אמיתותן. זה בגלל שמי מייצר חדשות מזויפות היא נוטה להשוות כל דעה או דעה בנושא מסוים לבין התוצאה שכולם מרגישים "מומחים מובילים". יתר על כן, זה מוגבר מאוד על ידי רשתות חברתיות.

הדרמה היא ש בפני כל אלה, רוב המשתמשים חסרי אונים גם ובעיקר מתוקף העובדה שעד עכשיו הם מקבלים כל חדשות שמספקים להם עיתונים, טלוויזיה או רשתות חברתיות.

נראה שיש דמיון עגום בין הזמנים שצנזורה, ללא קשר לכוחה הפוליטי של המדינה בה פעלה, עסקה בחסימת מידע לבין הזמן הנוכחי בו גופי כוח אחרים מנפים, מעריכים, משנים ובונים כמות עצומה. מידע חסר תועלת ולא רלוונטי על ידי בלבול ומניפולציה של מקבל המידע הזה, כלומר המשתמש הממוצע, למרבה הצער אינו מסוגל להתנגד.

אני חושב שזה הכרחי, בשלב זה, להשקיע במודרני ויעיל המודיעין הקיברנטי מסוגלים לפתח מיומנויות מודיעין נגד סייבר החורג מתפקיד ההגנה גרידא והוא, להיפך, הרבה יותר יוזם ומטרתו להיות מסוגל לפעול בממד הסייבר גם עם התקפות וסימולציות, שמטרתן אולי לעכב את המתנגדים שמתממשים בהדרגה בתרחיש זה .

אחרון חביב ולעולם לא נמאס להדגיש זאת, עלינו להשקיע באימון כל המשתמשים לקראת רגישות הולכת וגוברת של אבטחת IT, כך שניתן יהיה לגלות, לנתח ולטפל בסיכונים גדולים ומורכבים יותר ויותר.

מידע נוסף:

האפיפיור פרנסיסקוס: "טכנולוגיות הן מתנה, השתמש בהן נכון" - CorCom (corrierecomunicazioni.it)

מודיעין - מערכת מידע לביטחון הרפובליקה (sicurezzanazionale.gov.it)

הגנה על זכויות האדם בעידן לוחמת הסייבר עמוד ראשון

אינטרנט ודיספורמציה: תפקיד המודיעין (diricto.it)

חדשות מזויפות: העידן החדש של לוחמת סייבר | ייעוץ טריציו

סרטונים מזויפים ומעורבים: כיצד פועל הצד האפל של הבינה המלאכותית - Il Sole 24 ORE

מהו אפקט ה- backfire, שלא גורם לנו לשנות את האמונות השגויות שלנו - Wired

רשת גנרית מנוגדת - ויקיפדיה

אנשים מזויפים, מה הם ומדוע כדאי לשים עליהם עין | ה- Bo Live UniPD

צילום: המשמר הלאומי האווירי של ארה"ב / משרד ראש הממשלה / טוויטר / רשת