מלכוד 22 של האינטליגנציה המלאכותית

אם אי פעם ניאלץ להרכיב תיבת נוח מודרנית בצורת חללית או מעבורת חלל שתטיס את כל בעלי המקצוע החשובים ביותר לכוכב לכת אחר, ייתכן מאוד שהאוכלוסייה המרכיבה אותה כלל לא תהיה אנושית ברובה, אלא יהיה מדובר באוסף של רובוטים ומכונות בעלות בינה מלאכותית מתקדמת שתדאג לטפל ולטפח את שארית האנושות אשר “תזרע” במקום החדש.

זהו כמובן תרחיש אופטימי במידה והמשימה תצליח, אבל יש לא מעט תרחישים פחות משמחים : לדוגמה , יכול להיות שהאנושות תוכל להישאר על כדור הארץ באמצעות שיפור בכריית המחצבים או אספקת תנאי מחייה מלאכותיים מיטביים, אך בני האדם יהנדסו בצורה גנטית כך שייווצרו מעמדות חדשים של כאלו השווים פחות ומבצעים את כל העבודות השחורות וכאלו השווים יותר ונהנים מכל ממטעמי החיים. מי שגורלו שפר עליו פחות, יקבל מינון מדויק של תרופות משנות מצב רוח ותודעה אשר ישמרו עליו תמיד מאושר למרות העולם האכזר בו הוא מתקיים, כך שלא ייווצרו מרידות והסדר החברתי הקיים לא יתערער.

זה בדיוק מה שקורה ברומן המדע הבדיוני המופתי “עולם חדש מופלא”  ומוטיב שחוזר על עצמו גם כיום ביצירות מד”ב ופנטזיה ידועות ומעורכות, החל משליחות קטלנית ועד לדוקטור הו :

Artificial Intelligence

כמובן שכל היצירות האלו משתמשות במוטיב הזה גם על מנת למתוח ביקורת מרומזת יותר או פחות על המגבלות של החברה כיום ועל כך שעם כל התקדמות טכנולוגית משמעותית האנושית עשויה לשלם מחיר כבד, אבל מסתבר שלא רחוק היום בו התסריט הזה עשוי יהיה להפוך למציאות…

לכן, אנחנו צריכים לשאול את עצמנו מהו אותו דבר שאנחנו רוצים, ומה יהפוך אותנו למאושרים יותר. אם נדע כיצד לפרש זאת נכון ובמיוחד כיצד ליישם זאת באמצעות אינטליגנציה מלאכותית מתקדמת (הרבה יותר מהיום), נוכל להימנע מאותה חרב פפיות העומדת לצווארנו.

בעיה נוספת אותה יש לפתור את בעיית ה – “הכול או כלום” : קשה לבצע את שלב האב טיפוס כאשר מדובר בבינה מלאכותית מכיוון שהיא משתנה ומתפתחת כל הזמן. כמו כן, בשלב מסוים מגיעים לנקודת האל חזור שממנה אין כבר דרך חזרה מכיוון שהתלות בבינה המלאכותית תהיה כבר גדולה מדי…

אנשי חווית המשתמש באים להציל את המצב

אז מי יכול להשיג את המטרות האלו בצור הטובה ביותר ? נראה שאין מתאימים יותר מאנשי חווית המשתמש על מנת לאפשר זאת, שאחרי הכול, אנחנו עוסקים בחיבור בין אדם למכונה באופן יום יומי ויודעים כיצד ליצור שיתופי פעולה עם המהנדסים ואף עם המשתמשים הפשוטים על מנת להבין את הצרכים הייחודים שלהם. באופן זה, אנו נוכל להטמיע באופן המיטבי את הרצונות שלנו ושל צאצאנו במעגלים האלקטרונים (או מה שישמש את עולם המחשוב בעתיד) של אותן אינטליגנציות.

בנוגע לתוצאות בלתי צפויות, ברור שלא ניתן לחזות את כל התוצאות האפשרויות, אבל ניתן לנסח מערכת של תנאים וחוקים שימנעו פגיעה בבני אדם ויביעו את האינטרסים שלהם בצורה הטובה ביותר.  בעניין זה, שווה להזכיר את אחד מהניסיונות המוקדמים ביותר לנסח זאת, עוד בשנות החמישים, הלא הם שלושת חוקי הרובוטיקה של אסימוב שנוסחו לראשונה באנתולוגית הסיפורים הקצרים “אני רובוט” (I, Robot) :

1.לא יפגע רובוט לרעה בבן אדם, ולא יניח, במחדל, שאדם יפגע.

2.רובוט חייב לציית לפקודותיו של אדם, כל עוד אינן סותרות את החוק הראשון.

3.רובוט ידאג לשמור על קיומו ושלמותו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני.

I robot

בהמשך נוצר גם חוק האפס שגובר על החוקים הללו :

לא יפגע רובוט לרעה באנושות ולא יניח, במחדל, שהאנושות תיפגע

כמובן שאלו חוקיים כללים מאוד שקשה עד בלתי אפשרי ליישם אותם כיום והם עדיין לא מגדירים במדויק מהי בדיוק פגיעה באנושות, אך הם מהווים בסיס טוב לכך.

לסיכומו של דבר,  יש צורך בשיתוף פעולה הדוק בין המהנדסים, המשתמשים ואנשי חווית המשתמש על מנת להשיג מטרה זו, כאשר אנשי חווית המשתמש עומדים במרכז השרשרת האנושית הזו ודואגים לשמור עליה יציבה ומתפקדת.