בתשובה להפונז, 26/11/12 9:55
 |
|
 |
||
|
||||
 |
במינוח עכשווי אתה נוגע כאן בבעיית ה-Friendly artificial intelligence [Wikipedia]. אסימוב היה כנראה קצת נאיבי. אולי תאר לעצמו רובוטים כפרטים המתפקדים בתוך החברה האנושית, ולא הבין שהחברה כולה יכולה להשתנות ולהפוך לישות חדשה ושונה לחלוטין מהקיום האנושי. קשה לישות בעלת יכולת קוגניטיבית מוגבלת לקבוע כללים שיכוונו לאורך זמן התנהגות ישות שונה בעלת יכולת קוגניטיבית גדולה יותר והולכת וגדלה. נדמה לי שיודקובסקי (ראה קישורים אליו בויקיפדיה) השווה באופן ציורי את הבעיה לבעיה העומדת בפני קוף שרוצה לתכנן כלוב שהחברה האנושית לא תוכל לברוח ממנו ותאלץ לשרת את הקופים. אם תקבע כללים מופשטים מדי תתקל בבעיית הפרשנות. אם תקבע כללים קונקרטיים מדי אתה עלול להתקל במימוש מפלצתי. אפשר לנסות לא לקבוע כללי עשה ועל תעשה, אלא כלל מהסוג "גרום לאנשים לשלם לך עבור מוצרים ושירותים שאתה מיצר". הרעיון הוא להעמיד מול בינת-העל את חוכמת ההמון שתתאים את עצמה לתנאים המשתנים, לנסות ליצור את בינת-העל בארכיטקטורה מבוזרת כדי שתרסן את עצמה בצורה זו או אחרת. חסידי שוק חופשי יאהבו כלל כזה, ויתכן שקצת משחק במטאפיזיקה מאשר לראות בחברות מסחריות סוג של בינות-על למרות שהן "מורכבות" מבני אדם. הבעייה כאן היא שעדיין יש כללים, יש בעיה להגדיר מי הוא אדם ועדיין יש צורך במנגנון חקיקה שניתן לתקיפה ולמניפולציה. בקיצור, עסק ביש. יש מי שחושב שאם אתה לא יכול ולא רוצה לבלום אותם או לרגלץ אותם - הפוך להיות אחד מהם. במותג המשחקים Mass Effect [Wikipedia] הפתרון המועדף הוא סימביוזה בין הקיום הביולוגי לסינטטי. בסרט היפני מ-1995(!) Ghost in the Shell [Wikipedia] הגיבורה הראשית לא ממש בטוחה אם נותר בגופה (במעטפת שלה) שריד ביולוגי כלשהו או שהיא כולה סינטטית. ברור שהמרכיב הקוגניטיבי (Ghost) של הגיבורים נמצא ברשת (בענן במינוח עכשווי) והם יכולים "לצלול" תוך אווטרים פיזיים שונים. בהצלחה לכולנו. |
 |
 |
 |
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |