|
אכן, בינה מלאכותית עלולה עד מהרה לעלות עלינו בחוכמתה, ואולי תגיע, ממעמקי בינתה, למסקנה שמוטב לה בלעדינו, ותחסל אותנו (או תאכל אותנו, אם הפנטיום XIII ימצא אותנו טעימים). יש להפסיק מיד את כל המחקר בבינה מלאכותית.
אבל לא הייתי מסתפק בכך. גם דור העתיד של בני האדם, ואפילו אם יוולדו לא ממבחנה ולא מהנדסה, כי אם כדרך הטבע - גבר, אישה, תשעה חודשים וחסידה - עלול להיות נבון יותר מאיתנו, בני הדור הנוכחי של ההומו סאפיינס. ואם לא חכמים, לבטח מצוידים ביותר ידע ובטכנולוגיה עדיפה. למעשה, עלולים צאצאינו להגיע למסקנה שאנו הזקנים מטרד לא קטן (עם סיפורי הסבתא שלנו על המאה העשרים), ולחסל אותנו. יש לאסור מיד על יצירת ילדים.
|
|