מערכות הסתגלות ומודעות מצבית

27 / 09 / 21

העולם משתנה במהירות מדהימה ... בכל המגזרים. 

מה היית אומר אם בן לילה כבר לא היית צריך לבזבז זמן בהבנת השינויים שביצע יצרן הגיליון האלקטרוני בו אתה משתמש כדי לנהל את החשבונות בחנות שלך? 

מה היית אומר אם פתאום כבר לא צריך לדאוג למעבר למערכת ההפעלה החדשה של מיקרוסופט או לגירסה החדשה של לינוקס או לגרסה החדשה תוֹכנָה שליטה במייבש הכביסה החכם שלך?

כדי להיות ברור, אני לא אומר שלא יהיו עוד גרסאות או שינויים במערכות, במיוחד כאשר אלה קשורים להיבטים בטיחותיים או לעלייה בפונקציונליות, אני מדבר על אותם גרסאות שמורכבות בהזזת כפתור או פונקציה מ תפריט אחר או שינוי הסמל או תיאור הכפתור או הצגת חלון בפינה הימנית התחתונה או השמאלית העליונה ... מזיק ולעתים קרובות אינם עושים דבר מלבד ליצור חוסר נעימות כלפי המוצר מצד המשתמשים המוצר הזה ... אולי במשך שנים!

אם נרצה לתרגם את השאלה באמצעות שפה מדעית נוכל לומר: "מדוע מערכות המחשוב בהן אנו משתמשים אינן אדפטיביות?"ובהקשר זה אני מתכוון שמערכות מחשוב צריכות להיות מסוגלות להסתגל למשתמש או, אפילו יותר טוב, שמערכת מחשב ומשתמש יהפכו למערכת אדפטיבית.

לשם כך, לדעתי, הטכנולוגיות כבר קיימות. בעולם משחקי הווידיאו, למשל, נעשה שימוש מזה זמן מה בבינה מלאכותית כדי "להתאים" את קושי המשחק לשחקן. אבל אני מדבר על משהו אחר.

בינה מלאכותית, ההולכת ומתפשטת, תתחיל במוקדם או במאוחר להיות חלק ממערכות מחשב בסיסיות, כגון מערכות הפעלה. 

במערכת האידיאלית שלי זו תהיה המשימה שלו ללמוד את ההתנהגות שלי, ללמוד את השינויים שנעשו לאורך זמן תוֹכנָה אני משתמש ומציע, או לא, להסביר לי או לא, את התועלת של הפונקציה החדשה. בפועל, מערכת ההפעלה תצטרך לדאוג לי (כמשתמש) ולהתאים את המערכות בהן אני משתמש למערכת הידע שלי על סמך השימוש שאני עושה בהן.

הרעיון החשוב השני העולה הוא זה של מודעות מצבייה, שאמרו באיטלקית מודעות למצב. 

המונח "מודעות מצבית" משמש בדרך כלל לתיאור מצב הידע והמודעות של אדם או ארגון לגבי נושא ספציפי או מצב מבצעי בזמן מסוים וביחס ליעדים מבוססים היטב. 

במקרה הספציפי, מכיוון שאני דורש שמערכת ההפעלה (שהוכנסה למערכת איתי כמשתמש) היא מערכת אדפטיבית, אני מניח שמערכת ההפעלה מצוידת ביכולות מודעות מצבית, כלומר היא מסוגלת ליצור שמירה על ידע מסוים ומודעות לשימוש שהמשתמש (I) עושה במערכת וב- תוֹכנָה מוּתקָן.

כדי לתת דוגמא ברורה נניח שאני המשתמש היחיד במחשב נייד שעליו התקנתי רק את מערכת ההפעלה (שאני קורא לה WinAI רק כדי לתת לה שם), דפדפן לגלישה באינטרנט, עורך טקסט ו- אנטי וירוס. 

מערכת ההפעלה שלי, החבר הנאמן WinAI, מתחילה ללמוד את ההתנהגות שלי מהרגע שאני מפעילה את המחשב בפעם הראשונה ומקבלת מושג איך אני מתנהגת, "רושמת" ב"רשת העצבית "את ההרגלים שלי, שלי אינטראקציות עם i תוֹכנָה, הרגלי הגלישה שלי, לוחות הזמנים, התדירות שבה אני משתמש במקש "enter" בעת הקלדת טקסט, אורך המשפטים אבל גם איך אני מתנהג מול גרסה חדשה של הדפדפן או האנטי וירוס שלי. 

לאחר תקופה קצרה של למידה, ה- WinAI הנאמן שלי, תיאורטית, צריך להיות מוכן להציע לי בחירות, ובכך להשפיע על התנהגותי, אך גם לקבל החלטות בעצמו על סמך הידע שלי שרכש. הודות לידע על התוכנות המותקנות (ושעמן הוא מדבר ברציפות) הוא גם אמור להיות מסוגל לעזור לי, לפשט את חיי, אם הוא יבין (וכאן את הרעיון של מודעות מצבית הפעם החל על AI של מערכת ההפעלה שלי) שאני לא רוצה לשנות את ההתנהגות שלי או שתקופת ההסתגלות למערכת החדשה עלולה להוביל לירידה בפריון או פשוט ללחץ נוסף.

כמובן שאני מפשט הרבה. למעשה, המערכת ההסתגלותית, כפי שהיא קלה להבנה, כוללת גם אותי כמשתמש ועוד הרבה "אובייקטים" או "ישויות", אשר באופן כלשהו מתקשרים עם המערכת עצמה.

ברור שלספר את זה ככה הכל נראה קל, אבל זה לא כך ואפילו לא נאמר שזה יהיה כך. מאחורי זה יש מניעים מסוגים שונים. 

אחד מאלה נוגע לאבטחת מערכת כזו, שבסופו של דבר נותרה בידי כל WinAI, שאנו באמת יודעים עליה מעט מדי ועל כך יכולת השליטה שלנו תהיה נמוכה מאוד. האבטחה (המובנת כאבטחה ובטיחות) של מערכת כזו תהיה ממש קשה לניהול, ראשית מכיוון שככל שמערכת מורכבת יותר, כך משטח ההתקפה נרחב יותר, שנית מכיוון שיכול להיות נתון לבינה מלאכותית להתקפות. נניח שהמורה היקר שלי WinAI מבין שברגע מסוים אני מאוד לחוץ (וכפי שראינו הוא מסוגל לעשות זאת), ועם הגעת תקשורת חשובה, אולי הכרזה על תאונה לקרוב משפחה, מחליט לא להזהיר אותנו מכיוון שזה יעלה את רמת הלחץ שלנו. כיצד ניקח התערבות כזו בחיינו הפרטיים? או, כדי לחזור לדברים פשוטים יותר, נניח כי האנטי וירוס דורש עדכון אבטחה מסוג חדש, שטרם מקוטלג על ידינו ולכן אפילו אינו מוכר על ידי WinAI שלנו. כעת נניח כי בהתבסס על ההתנהגות הרגילה שלנו בנוגע לעדכונים תוֹכנָה WinAI שלנו מחליט לא להמשיך מכיוון שעדכון זה מעוות מעל לכל (על פי הערכתו הבלעדית) את ההיבט הגרפי של הממשק ולכן אינו רלוונטי. וכי השתלשלות אירועים זו מביאה בסופו של דבר לפגיעה במערכת. איך ניקח את זה? איך קצין אבטחה בחברה שאני עובדת עבורה ייקח את זה? 

סיבה נוספת קשורה כנראה לחוסר הצפי של המשתמש, שמתנהג ברגעים מסוימים בצורה מסוימת בעוד שבאחרים, נתון לדחפים רגשיים או ללחץ, מתנהג אחרת. החבר שלנו WinAI, צריך להכיר אותנו טוב מאוד כדי לקבל החלטות שמאפשרות לנו להקל עלינו ואולי אף אחד לא ירצה ש- AI יכיר אותנו טוב מדי, גם כי בעצם אנחנו יצורים חשדניים ובתוך עמוק בפנים אנחנו אוהבים לשמור סודות בשבילנו.

בכל מקרה, תמיד מנקודת מבט תיאורטית, הטכנולוגיות לעשות את הדברים האלה כבר קיימות, עלינו להבין רק אם מישהו כבר משתמש בהן ליצירת מערכות הפעלה אדפטיביות, כל עוד זה מה שאנחנו רוצים, לפחות בוודאות מגזרים.

אלסנדרו רוגלו

ויגט: סימון דומיני

מידע נוסף:

מערכות מסתגלות - סקירה כללית | נושאי ScienceDirect

(PDF) Endsley, MR: לקראת תיאוריה של מודעות למצב במערכות דינאמיות. כתב העת Factors Human 37 (1), 32-64 (researchgate.net)