|
אני מסכים עם קביעה זו, אם כי את הרצונות הבסיסיים של בינה מלאכותית, הנחוצים לצורך תחילת פעולתה העצמאית, ויגדירו לה למשל לרצות ללמוד על העולם או על משהו יותר ספציפי, עדיין צריך יהיה לתכנת לה ואת זה רציתי להדגיש. מה שכנראה יווצר באופן עצמאי הם רצונות המשנה, המשרתים את אלו המוכתבים. זאת בתיקווה שהמבנה המוכתב לא יהיה כג'ונגל הדפוק שאצלנו, כאשר לכל רצון, משני עד כמה שיהיה, יש סיכוי, בנסיבות מסויימות, להשתלט על הגוף המשותף לכל החבורה ולנסות לממש את עצמו על חשבונם, כמו למשל אתמול, כאשר סיכנתי את חיי ואת בריאות הציבור ושלום העולם כדי להוסיף עוד *%^4 לאוסף ה*%^4ים שלי (כאשר *%^4 מציין תחביב איסוף מופרך במיוחד, רק שאין לי רעיון כרגע וגם ככה אף אחד לא היה מאמין לי כי הפעם זה באמת מופרך).
|
|