אינטליגנציה מלאכותית ו-Tay, התוצר החדש של מייקרוסופט

הדור החדש של אינטליגנציה מלאכותית (AI), מה שנראה לנו בעבר כמעט בלתי אפשרי, כיום הוא כבר חלק מהמציאות היום יומית שלנו. תוכנות שיכולות לתרגם סימולטנית דיבור או כתיבה, לזהות או לצלם תמונות ופרצופים ולהיות העוזר האישי שלכם הם תוצאה של טכנולוגית Al שהפכה לחלק מחיינו.

המירוץ לפריצת הדרך

כמה מהחברות המובילות כמו פייסבוק וגוגל משתמשות בפיצ’רים המבוססים על Al, כמו חסימת דואר ספאם או חישוב המסלול המהיר ביותר להגיע הביתה בשעות העומס, אבל גם הן מבינות שהיישומים האלה, מלהיבים ככל שיהיו, כבר הפכו לחלק מהשגרה וזה מחייב אותן לעבוד במהירות על הפיתוח הבא. במרוץ הזה החברות מפנות יותר ויותר משאבים למחקרים ופיתוחים ב- Al ומומחים מעריכים שבשנים הקרובות צפויות פריצות דרך בתחום, במיוחד בתחומי ההשכלה, התחבורה והבריאות.

נכון לעכשיו, הדור החדש של Al מבוסס בעיקר על ביג דאטה. היכולת לאגור כמויות מידע עצומות מאפשרות למחשבים לזהות תמונות או להבין מילים בצורה הרבה יותר מדויקת מבעבר, אבל האם אותן מכונות יוכלו ללמוד על רגשות או ניואנסים אנושיים מתוך מאגרי מידע? זה האתגר הבא של עולם ה Al , ואחת הדרכים לפצח אותו נקראת integrative AI, קיבוץ תוכנות Al עם מיומנויות שונות כדי ליצור תוכנה הוליסטית יותר שתוכל לראות, לתקשר ולהבין בני אדם בצורה טובה יותר.

TAY ai

(מתוך פרופיל הטוויטר של Tay.ai, האינטליגנציה המלאכותית של מייקרוסופט)

מערכת אינטגרטיבית ניתן כבר למצוא בבתי חולים מסוימים.  אותה מערכת מסוגלת לנבא למי מהחולים שמשתחרר מאשפוז יש סיכוי גבוה להתאשפז שוב, והאם אותו חולה נמצא בסיכון לפתח זיהום כתוצאה מהשהייה בבית החולים.

עוד פיתוח מעניין במיוחד הן מחשבי מכוניות שיכולים להשתלט על ההגה בשניות שלפני תאונת דרכים. המחשב, בניגוד לבני האדם, מסוגל לקבל החלטות בקור רוח, וכך מנטרל את הגורם האנושי שמעורב בתאונות דרכים רבות. בנוסף, המחשב יכול לעבד מידע הרבה יותר מהר מהנהג הממוצע ולהגיב במהירות. הטכנולוגיה  הזו כבר קיימת, והיא צפויה להקטין משמעותית את כמות תאונות הדרכים כאשר תצא לשיווק מסחרי.

מתי ימומש הפוטנציאל?

הפוטנציאל שטמון ב Al הוא אין סופי, מביצוע משימות מסכנות חיים במקום בני אדם ועד מציאת פתרונות למשבר האקלים או לרעב, השאלה המרכזית היא מתי זה יקרה? מומחים רבים טוענים שאנחנו עדיין במרחק כמה עשורים לפחות מפריצות הדרך המשמעותיות. הסיבה העיקרית לכך היא שבמקביל לפוטנציאל החיובי שיש ב- Al  יש בה גם הרבה סכנות, לכן ההתקדמות בתחום נעשית באיטיות ובזהירות. חברות המפתחות טכנולוגיה מבוססת Al מצהירות כי הן מקפידות להתחשב בסוגיות אתיות וחוקיות, אבל דילמות מוסריות הן גם עניין תרבותי. ההשלכות של פיתוח מערכת שהיא מעין בן אנוש משודרג לא ממש ידועות לנו עדיין וגם אי אפשר לצפות את תוצאותיה. סרטי מדע בדיוני בהם רובוטים שולטים בעולם נראים אולי דמיוניים, אבל אם ניצור מערכות חכמות מאיתנו, לא נוכל לצפות מראש את כל התסריטים האפשריים.

ההפתעה של מייקרוסופט

אחת הדוגמאות המרתקות ליכולות הבלתי צפויות של מערכות Al הייתה ההשקה של Tay, רובוטית הצ’טים של מייקרוסופט המבוססת על Al. באתר של טאי, הצהירו מייקרוסופט שהרובוטית פותחה בעזרת כריית מידע, Al וצוות מפתחי תוכן שכלל גם סטנדאפיסטים.

לקראת ההשקה פתחה מייקרוסופט חשבון טוויטר לטאי, כדי שתוכל לצ’וטט כאחד האדם, ועודדה את הגולשים לצ’וטט איתה כדי שהמערכת תוכל ללמוד מהם. לצערה הרב של מייקרוסופט, תוך פחות מ- 24 שעות דברים החלו להשתבש, וטאי הורדה מהרשת. הרובוטית החלה לצייץ מסרים גזעניים כמו: “בוש גרם ל 9/11 והיטלר היה עושה עבודה טובה יותר מהקוף שיש לנו עכשיו. דונלד טראמפ הוא התקווה היחידה שלנו”. בציוץ אחר הביעה תמיכה ברצח עם.

הסיבה לציוצים המזעזעים נעוצה כנראה במערכת עצמה, שתוכננה כך שהיא לומדת מכל צ’ט וחוזרת או מחזקת את המסרים שלמדה מהגולשים.

 

הגולשים עלו מהר מאוד על פוטנציאל ההטרלה הגלום במערכת, והדגימו למייקרוסופט כמה קל לעשות מניפולציות על הרובוטית שלהם. מייקרוסופט מחקו את הציוצים והפסיקו את הצ’יטוטים הפרועים של הרובוטית, אבל היה ברור שטאי שלהם הצליחה להפתיע גם אותם.  לאחר שטאי הורדה מטוויטר,  הצהירו במייקרוסופט שהמערכת שלהם זקוקה לכמה שינויים, אבל לא פרטו מהם אותם שינויים. סביר להניח שבחברה יוסיפו פילטרים שימנעו ציוצים עם תכנים פוגעניים, אבל כמו שזה נראה כרגע, יהיה קשה מאוד לחסום את כל האפשרויות האלה.

האפיזודה הלא מוצלחת של מייקרוסופט מדגימה את הסכנות הבלתי צפויות שמסתתרות ב Al. במקרה של טאי מדובר רק בציוצים פוגעניים, אבל כאמור ב-  Al האפשרויות הן אינסופיות וכעת אין לדעת עוד לאן זה יתפתח.