באיטליה היא עברה כמעט מבלי שיבחינו בה - אולי מתוך חשש לזלזול - עובדה שהתרחשה לפני כמה חודשים, ובמקום זאת גרמה לאי-נוחות לפחות בחוסר מנוחה בעולם: "מרווהם" של שני "רובוטים", שפתאום החלו לדבר בין אותם בשפה שהם עצמם המציאו.
חלקם ראו את האירוע כ"מרגש "מנקודת מבט מדעית, בעוד שאלה, כמו פרופסור הרובוטיקה, קווין וורוויק, הדגישו מיד את הסכנות שיכולות לנבוע מכך, במיוחד אם לרובוטים איזו יכולת צבאית ...
אבל מה באמת קרה?
זה היה ניסוי שבוצע על ידי פייסבוק. שניים הותקנו chatbot (נ. מאמר), הנקראת אליס ובוב, שנאלצו לשפר את כישורי המשא ומתן שלהם. הם היו צריכים להשתמש בשפה האנגלית אחד עם השני ולאחר מכן, מאוחר יותר, עם משתמשים אפשריים. בשלב מסוים, ללא אזהרה, הם החלו להשתמש בשפה שלהם מובנת לאחרים. המומחים מ פייסבוק ולכן העדיפו לכבות את שתי המכונות כי התוצאה הצפויה לא הושגה.
לאחר התראה זו התברר כי עובדות דומות נראו כבר (לפחות) Google.
אז מה קורה? האם בינה מלאכותית יכולה להוות סיכון? ואם התשובה חיובית, האם זה יכול להוות סיכון לאנושות?
התשובה היא לא פשוטה. אולי התשובה היא לא שם.
כל אחד, כמוני, שהיה קורא מדע בדיוני נלהב כילד, לא יכול היה לקרוא את אסימוב. אבל כדי לדבר על הצעיר ביותר, בשנים האחרונות סרטים המדברים על בינה מלאכותית אשר מפריעים להתפתחות הטבעית של הציוויליזציה האנושית הם אינספור.
כיצד נוכל להיות בטוחים שתוכנית, שאולי פותחה על ידי קבוצה של פעילים סביבתיים לשמירה על הטבע, אינה יכולה להשתלט על העולם ולהחליט שהגזע האנושי הוא הסכנה האמיתית לטבע ולכן מחליט "לעשות טאטוא נקי "?
וזהירות, כל מי שחשב שמדובר בסך הכל במדע בדיוני, בנקודה בה אנו נמצאים, לא היה מבין דבר. למעשה, נראה כי לאחרונה המציאות עולה על מדע בדיוני!
אם ניקח בחשבון כי לעצור את האבולוציה בתחום זה הוא כמעט בלתי אפשרי, הדבר הגרוע ביותר הוא לא לדבר על זה מחשש ללעג. מה שנדרש הוא שליטה מדויקת על מה שקורה ועל מחקר כדי למנוע בעיות אפשריות שעלולות לנבוע משדה, בינה מלאכותית, חדש לחלוטין.
במובן זה רק לשבח את הדיון שהתחיל בפרלמנט האירופי בנוגע לצורך בהסדרת רובוטים (v.articolo).
(תמונה: מסגרת "אני רובוט" - פוקס המאה העשרים)
