השוק השחור של הבינה המלאכותית. הנה ה"MALLA"!

האבולוציה של הבינה המלאכותית הובילה להתקדמות ניכרת במספר מגזרים אך גם פתחה את הדרך לטכניקות תקיפה חדשות כמו גם אפשרות לפעילויות זדוניות חדשות. בתרחיש חדש זה, ה"מאלה" מייצגת את א איום מתהווה ומתוחכם.

הם נקראים MALLA, ואם עדיין לא שמעתם עליהם, זה בגלל שזהו מונח די עדכני, שנטבע כדי לייצג שירותים שמשתמשים במודלים לשוניים מתקדמים כדי לבצע אוטומציה ולשפר התקפות סייבר בקנה מידה גדול.

אנחנו מדברים על השוק השחור של האינטליגנציות המלאכותיות הרעות והוא מתרחב במהירות בכל העולם. פושעי סייבר היו בין הראשונים שניצלו את הפוטנציאל של בינה מלאכותית ומודלים לשוניים מתקדמים. איך זה? להציע מה?

פשוט: שירותים זדוניים, החל מיצירת קוד תוכנות זדוניות ועד ליצירת מיילים דיוגים, יצירת אתרים זדוניים ובכלל, כל מה שמאפשר להם ליצור את התנאים להפעלת מתקפת סייבר.

איך Mallas עובד? איך הם פוגעים בביטחון שלנו?

אנו מדברים על זה במאמר זה על ידי ניתוח מסמך שנוצר על ידי כמה חוקרים מאוניברסיטת בלומינגטון שכותרתו: "שירותים זדוניים משולבים במודל שפה גדול

כפי שציפינו, Mallas הם שירותים זדוניים המשלבים מודלים של שפה גדולה (LLMs) ליצירת כלי תקיפה יעילים ביותר. הם שונים מאוד מהתקפות מסורתיות מכיוון שלא נדרשות כישורים טכניים גבוהים. למעשה, Mallas מאפשרים לפושעי סייבר לנצל יכולות בינה מלאכותית כדי ליצור קוד זדוני ולהפוך קמפיינים לאוטומטיים דיוג ולבנות תשתית תקיפה במהירות וביעילות.

שירותים אלה זמינים לעתים קרובות ב שוק האינטרנט האפל, שם הם נמכרים לפושעים בעלי כישורים שונים, ממתחילים ועד מומחים. לכן, Mallas דואגים להורדת חסמי הכניסה לפשעי סייבר, ומאפשרים הפעלת התקפות מתוחכמות על כמעט כל אחד במעט מאוד מאמץ, השקעה ומשאבים.

בואו נראה מה השימוש העיקרי שלהם ומהם הסוגים השונים של התקפות סייבר שהם מסוגלים לייצר:

1. יצירת קוד זדוני. זהו אחד מתחומי השימוש הנפוצים ביותר של Mallas. הודות ל-LLM, פושעים מסוגלים ליצור סקריפטים אד-הוק ותוכנות זדוניות כדי לנצל נקודות תורפה ספציפיות במערכות. מודלים אלה מנתחים ומבינים את ההקשר והמפרט הטכני של מערכת יעד נתונה, ומייצרים קוד המסוגל להתחמק מהגנות מסורתיות. דוגמה אמיתית, גם מתועדת, היא זו המתייחסת לקבוצת האקרים שהשתמשו בשירות Malla כדי לבנות ניצול של 0 ימים. זה איפשר להם לתקוף מערכות קריטיות ללא זיהוי במשך חודשים. הקוד היה כל כך מתוחכם שהוא הצליח להתחמק אפילו ממערכות זיהוי מתקדמות מבוססות בינה מלאכותית.

2. יצירת דוא"ל פישינג. זהו תחום בו Mallas יעילים ביותר. באמצעות הבנת שפה טבעית, מודלים של שפה יכולים ליצור מיילים מושלמים למהנדס חברתי המחקים בצורה מושלמת את הטון והסגנון של תקשורת ארגונית. ברור שזיהוי ההונאה הופך מסובך ביותר.
   במציאות, המקרה של ארגון פיננסי, קורבן של אחד, ידוע קמפיין דיוג מתוחכם ביותר. המיילים שנוצרו הונו מספר עובדים, פגעו בתשתית הקורבן, חילצו מידע רגיש וגרמו למוסד להפסד כספי משמעותי. אף מסנן פישינג לא הצליח לזהות את המיילים בגלל רמת התחכום והאיכות שבה הם נוצרו

3. יצירת אתרי פישינג. שימוש נוסף ב-Mallas הוא יצירה אוטומטית של אתרי דיוג. אלו הם חיקויים של אתרים לגיטימיים שמטרתם לאסוף נתונים רגישים כגון אישורי כניסה, מידע פיננסי ונתונים אישיים. גם במקרה זה, איכות האתרים שנוצרו היא גבוהה מאוד מה שמונע מהם להיות מוכרים אפילו על ידי המערכות המומחיות ביותר. מקרה אחד שקרה נוגע לאתר מסחר אלקטרוני מזויף שהצליח להונות אלפי לקוחות. האתר היה עותק כמעט זהה של קמעונאי מקוון ידוע, עם תעודות SSL וסגנון דומה מאוד. משתמשים שהזינו את פרטי התשלום שלהם היו נתונים להונאה פיננסית לאחר מכן.

4. אוטומציה של התקפות הנדסה חברתית. Mallas מסוגלים גם לבצע אוטומציה של התקפות הנדסה חברתית. מודלים אלו יכולים לנתח כמויות גדולות של נתונים, לזהות פגיעויות אנושיות וליצור סקריפטים המשכנעים את הקורבנות לבצע פעולות פשרניות, כגון לחיצה על קישורים זדוניים או מתן אישורי כניסה.
   דוגמה אמיתית: בקמפיין חנית דיוג, Malla שימש ליצירת פרופילים חברתיים מזויפים שקיימו אינטראקציה עם קורבנות במשך שבועות, וזכו באמונם. בסופו של דבר, הונפו קורבנות להעביר כספים לחשבונות בנק שבשליטת ההאקרים. התהליך כולו עבר אוטומטית, תוך מזעור התערבות אנושית של פושעים.

הופעתו של רֶשֶׁת שינה מהותית את נוף אבטחת הסייבר. שירותים אלו לא רק מגבירים את האפקטיביות של התקפות, אלא גם מקשים על ההגנה מפניהן. ההשפעות המשמעותיות ביותר הן:

• תדירות ומורכבות מוגברת של התקפות: בני המאלא מפחיתים את הזמן והמשאבים הדרושים להפעלת התקפות מורכבות על ידי הגדלת מספרם באופן משמעותי.

• איכות התקפה משופרת: היכולת של LLMs ליצור תוכן ריאלי ומותאם אישית הופכת את הזיהוי והיירוט של התקפות עצמן לקשים יותר ויותר. מערכות הגנה מסורתיות, המבוססות על דפוסים וחתימות, נכשלות פעמים רבות מול האיומים המתקדמים הללו.

• צמצום מחסום הכניסה לפשעי סייבר: המאלאס מאפשרים דמוקרטיזציה של פשעי סייבר. מה זה אומר? המשמעות היא שאפילו פושעים בעלי כישורים טכניים מוגבלים מסוגלים לבצע התקפות מתוחכמות וכתוצאה מכך לעלייה במספר הפושעים הפוטנציאליים.

• השפעה כלכלית ומוניטין: התקפות הנעשות "פשוטות" יותר על ידי שימוש ב-Mellas עלולות לגרום לחברות נזק כלכלי משמעותי וכתוצאה מכך נזק מוניטין שעלול להוביל לחוסר אמון מצד לקוחותיהן.

כדי לנטרל את רֶשֶׁת יש צורך בגישה מתקדמת ורב-שכבתית כגון:

1. פיתוח של AI הגנתי. יש צורך, קודם כל, להילחם בתנאים שווים ולכן יש צורך לפתח מערכות בינה מלאכותית שמסוגלות לזהות ולחסום את ההתקפות שיוצרות שירותים אלו. Defense AI יכול לנתח דפוסי התנהגות, חריגות תעבורת רשת ואינדיקטורים אחרים של פשרה (IoC) בזמן אמת, כך שהוא יכול להגיב לאיומים באופן מיידי. דוגמה היא זו הקשורה לשימוש בפלטפורמות AI המסוגלות לזהות ניסיונות דיוג שנוצרו על ידי Malla באמצעות ניתוח לשוני של מיילים. הרעיון הוא שיש מערכת שמסוגלת ללמוד ברציפות בהתחשב במהירות האבולוציונית של טכניקות התקפה. זה מתדלק את יכולת הזיהוי שלהם, ומפחית את הסיכון לפשרה.

2. חינוך ומודעות למשתמשים. אסטרטגיה נוספת שתמיד נחשבה למפתח בתחום המניעה היא חינוך משתמשים. הפיכת המשתמשים למתודולוגיות התקפה חדשות היא הבסיס לאפשר להם לזהות אותות סכנה ולאמץ התנהגויות בטוחות. מנקודת מבט זו, חשוב שחברות יגדירו ויציעו תכניות הכשרה מתמשכות לעובדיהן, עם סימולציות של התקפות פישינג ותרגילים מעשיים אחרים

3. שיתוף פעולה בינלאומי. כיום, למי שיש כוח טכנולוגי יהיה גם כוח פוליטי ולכן, מכיוון שפשיעת סייבר היא תופעה עולמית, יש לה טווח עולמי, נדרש שיתוף פעולה בינלאומי לניטור, זיהוי ופירוק של המאלאס.
   כך למשל, פעולות שבוצעו במשותף על ידי יורופול וחברות אבטחת סייבר הובילו לתפיסת שרתים המשמשים להפעלת שירותי מאלה, פירוק רשתות פליליות ומעצרו של האחראים.

4. פיתוח חוקים וכללים. חשוב לא פחות שהשימוש ב-LLM יהיה מוסדר על מנת למנוע שימוש בהם למטרות זדוניות. כדאי להכניס חקיקה להסדרת השימוש והפיתוח של מודלים מתקדמים של שפה.

לא ניתן לעצור את הגל הטכנולוגי ולעתים קרובות מדי נעשה בו שימוש לא נכון. אנחנו כבר יכולים לחזות שאני רֶשֶׁת הם יהפכו ליותר ויותר מתוחכמים ונפוצים. יכולתם של בני הזוג מאלאס ליצור התקפות סייבר שקשה יותר ויותר לזהות תגדל באופן אקספוננציאלי עם הצמיחה והפיתוח של מודלים של שפה מהדור הבא, כגון GPT-4. עם זאת, זה נכון גם שאם מודעים לכך שתופעה חדשה זו קיימת וגדלה ללא הרף, ניתן למתן אותה ולהפחית אותה רק באמצעות השקעות בטכנולוגיות הגנה חדשות, חינוך משתמשים ושיתוף פעולה בינלאומי.

_{ריפרימינטי}

_{https://arxiv.org/pdf/2401.03315}

_{https://www.darkweb-guide.com/malla-demystifying-llm-integrated-malicious-services/}