סבתא באלקסה

(של מרקו רוטיני)
07 / 07 / 22

באופן אישי אני מוקסם מבינה מלאכותית, מהטכנולוגיה ומהאופן שבו היא זוחלת לחיינו בהדרגה אך ללא הרחקה באופן נרחב.

על ידי שיפורם, כמובן, לפעמים בצורה מאוד משבשת כמו...החייאת רגשות הקשורים לאנשים שכבר אינם שם.

במקרים אלה, חשיבה ביקורתית חשובה: אותה מחשבה מובילה אותנו להעריך את ההשפעות הללו, להחליט אם אנחנו רוצים להיות חלק מהן, גם לשקול את ההיבטים השליליים הפוטנציאליים. זה מסביר את הקסם שיש לטכנולוגיה עליי, כסיבה להתגלות תכופות ולרגעים קתרזיים.

אחד מהרגעים האלה קרה לי לפני כמה ימים, בעקבות האירוע המחודש: MARS 2022. Kermesse על בינה מלאכותית שבה אמזון הענקית ממחישה לעולם את המחקרים, הניסויים והחידושים שלה במונחים של למידת מכונה, אוטומציה, רובוטיקה ו חלל... מיושם על עסקים בהווה ובעתיד.

האירוע עצמו מרתק, מלא רעיונות ופרובוקציות, עם הרבה אורחים מפוארים, כולל חיצוניים. הנאומים של אורחים אלה, הידועים בז'רגון כנושאים מרכזיים, זמינים גם באינטרנט ביוטיוב לצריכה חוזרת של הציבור.

ביום השני נאום מרכזי זמין ב https://www.youtube.com/watch?v=22cb24-sGhg, בדיוק אחרי שעה ושתי דקות מההתחלה, פגע בי קטע מרוהיט פראסד - מדען ראשי מאת Alexa AI.

עקבתי אחרי הקונטקסטואליזציה שלו, מוכנה היטב: כשדיברתי על האמפתיה בין האדם למכונה כתחושה העומדת בבסיס בניית מערכת יחסים של אמון, הוא התמקד בעובדה שעבור רבים מאיתנו חירום המגיפה האחרון פירושו אובדן של אדם אהוב.

אלכסה - לעתים קרובות סמל של נוכחות טכנולוגית זו, גם אם לשיחות פשוטות - פיתחה מיומנויות עם הזמן שבגללן הופתעתי, פשוטו כמשמעו: ברור שלא כדי לחסל את הכאב של ההפסדים האלה, אבל מספיק כדי לספק דרך נוספת להעלות את הזיכרון של אנשים. טיפול מתמשך יותר.
תוך שניות, הסרטון משתנה ומראה ילד המבקש מאלכסה שסבתו המנוחה תקריא לו קטע מהקוסם מארץ עוץ, בדיוק כפי שעשה בעודו בחיים.

אלכסה משיבה ב"אוקיי" לבקשה, לעבור מיד להדמיה מושלמת של קולה של הסבתא היקרה, תוך מתן רגש מוחשי בעליל לנכד הטכנולוגי.

לאחר מכן הסרטון חוזר לרוהיט, שמיד מסביר שני דברים שהדהימו אותי מאוד בזכות כוחו החדשני: הראשון, שהאפשרות שנראתה זה עתה נובעת משינוי פרספקטיבה באופן שבו הקול מנותח; ליתר דיוק, העברת הניתוח מבעיה של יצירת דיבור, כלומר הפקה של ביטוי אודיו, לשאלה של המרת קול.

הדבר השני, הקשור קשר הדוק לראשון, נוגע לאופן שבו שינוי הפרספקטיבה הזה אפשר שכפול עם דקה אחת בלבד של הקלטת קול קיימת, לעומת שעות של הקלטת אולפן שהגישה הקודמת הייתה דורשת!!!

(רוהיט פראסד על הבמה של מחדש: MARS 2022)

אבל דיברתי קודם על הצורך בחשיבה ביקורתית: עבר את רגע וואולמעשה, התחלתי להרהר בכמה היבטים.

ישנם מספר שירותים מקוונים, שבהם אחת משיטות האימות מורכבת דווקא בהגיית משפט כדי להוכיח שאתה האדם שאתה מתיימר להיות: ברור שעם טכנולוגיה כזו, שזמינה גם לא רק לאמזון, היא הופכת להיות חשוב להפקיד את כוחו של תהליך האימות למנגנונים אחרים - בוודאי שפחות ניתנים לסימולציה.

אימות ביומטרי קולי היא ללא ספק טכנולוגיה צעירה, אשר, עם זאת, חוותה פופולריות די מיידית בשל קלות השימוש שלה והיעדר כלים אביזרים שיש לה. חלק ניכר מהפופולריות הזו גרמה לשירותי בנקאות וביטוח לאמץ אותו בצורה משמעותית, אם כי לאחרונה בשילוב עם מנגנונים אחרים כדי להגביר את החוזק הכולל של התהליך. במאמר משנת 2020, השילוב של צלילים מרובי תדרים של מקלדת טלפון הונחה כתהליך אימות חזק, בשילוב עם משפט שהוקלט בקול הלקוח שהיה צריך לשחזר: מובן מאליו שהחידוש שהציגה אמזון זה יבטל את הכוח הזה, ויעמיד את תהליך האימות בסיכון להתקפות התחזות. התקפות שבהן יש לתוקף את כל הכלים הדרושים להתנהג כאילו הוא הקורבן הסופי, תוך שולל את הגורם הטכנולוגי שאמור לאשר את הזהות.

תהליך מסוכן נוסף הוא זה הכולל שליטה בגישה, פיזית או וירטואלית, לעבודה מטעמי תמחור או בדיקת שעות עבודה. תחום נוסף בו תוקפים יקלו מאוד על ידי טכנולוגיות סינתזת דיבור אלו.

ההשתקפות השנייה קצת יותר רגשית: כפי שאמרתי בהתחלה, אני מוצא את האפשרות הזו מרתקת וחדשנית לחלוטין; אני מבין, עם זאת, שעבור אנשים שונים זה אולי לא כבר מקור לרגשות חיוביים, אלא מאריך את הכאב של אובדן אדם אהוב בצורה חשובה ובלתי נסבלת.

ובכן, אם יש דבר אחד שמבדיל את האדם מהטכנולוגיה, זה התודעה, שממנה נובע הרצון החופשי. ההיסטוריה מלמדת אותנו את חוסר התוחלת בהכחשת הקידמה, המדע והטכנולוגיה לטובת רגשות ואמונות אישיות - נכונות או לא. לכן אני פשוט ממליץ לאנשים האלה לבחור. בחירה להתעלם מהאפשרות הזו שמציעה הטכנולוגיה, תוך השארת אותה זכות לשאר בני האדם.