בתשובה לגדי אלכסנדרוביץ', 16/06/05 22:58
 |
|
 |
||
|
||||
 |
לא. לא ידועה שום דרך לייצר כמות מידע אינסופית. למעשה, גם אם חייזר נותן לנו במתנה קופסא שחורה שמחזירה את הספרות של מספר אי-רציונלי - אז אין לנו דרך לבדוק בזמן סופי שהיא באמת עובדת, שבאמת יש שם כמות אינסופית של ספרות אחרי הנקודה. הדרך היחידה היא להשתמש בקופסא שחורה אחרת, מתוצרת אותו חייזר. אני מקווה שהבהרתי לך שזו לא סתם בעיה של למצוא את התכונה הנכונה. זה תכונה אלמנטרית של מידע אינסופי. לגבי האלמוות, הטענה שלי "רובוט מסוגל לעבור כל מבחן שבנאדם עובר" היא עדיין נכונה. הבעיה שלך היא שאתה מניח באופן אפריורי שלבנאדם יש קוואליה, ולכן אתה נותן לו פטור ממבחנים. למעשה, פטור מאינסוף מבחנים וזה מאד מרגיז את איגוד הרובוטים. בכל זמן סופי (ואתה מקבל את זה שאי אפשר להגיד "אחרי זמן אינסופי". מצויין) הבנאדם עבר כמות סופית של מבחנים. אז אם אחרי זמן t האדם עבר X מבחנים, הרובוט יהיה מסוגל לעבור את אותו X מבחנים אחרי 2t (כי ב t הראשון הוא רק מקליט). |
 |
 |
 |
|
|
|
||
|
||||
|
בוא נעזוב את השאלה אם אפשר לייצר אינסוף מבחנים חסומים בזמן או לא, ונתמקד באלמוות. בוא גם לא נניח שלבן אדם יש קוואליה אוטומטית, אבל כן נניח הנחה שהיא לכאורה חלשה יותר: כל אדם עובר כל מבחן קוואליה שנותנים לו. מקובל? עכשיו אנחנו נחלקים בגישות השונות שלנו. אני אומר דבר כזה: האדם, בשל התכונה המיוחדת שלו שהנחנו למעלה, יעבור כל מבחן קוואליה שיתנו לו. לעומת זאת הרובוט שלך, מכיוון שהוא למד רק על מספר סופי של מבחנים, לא יהיה מסוגל לעבור כל מבחן קוואליה שיתנו לו. אני מניח שאתה מסכים איתי שאם ניקח עכשיו הן את הרובוט והן את האדם, נושיב אותם בחדר וניתן להם מבחן שאף אחד לא ראה עד היום, הרובוט ייכשל והאדם יעבור אותו. אתה מנסה לפתור את זה עם שיטת "הרובוט הלומד" שלך. אני טוען שזה לא פותר, אם כי אולי זה עניין של פרשנות. למה זה לא פותר? כי אנחנו לא בודקים פוטנציאל לקיום קוואליה, אלא קיום קוואליה. אם ביצור X יש קוואליה, פירוש הדבר הוא שכרגע, לא משנה איזה מבחן ניתן לו, הוא יעבור אותו, ובלי ללמוד את התשובות מראש (כמובן, עד לרגע הזה הוא יכל ללמוד מה שרצה). בניסוח מעט שונה: נניח שיש לנו כרגע רובוט X שאנחנו רוצים לבדוק אם יש לו קוואליה. מכיוון שקיים מבחן כלשהו שהוא ייכשל בו, אין לו קוואליה. אם הוא ילמד את התשובות למבחן הזה הוא לא יהיה יותר רובוט X אלא רובוט Y. גם עבור רובוט Y יש מבחן שיכשיל אותו, וכו' וכו'. כאן הרובוט נבדל מהאדם. האם זה מוכיח שלאדם יש קוואליה? לא. האם זה מוכיח שיש הבדל כלשהו בין האדם לרובוט? כן. |
|
|
|
|
|
|
||
|
||||
|
לשנות את הקריטריונים של הניסוי תוך כדי ניסוי זה רמאות. המבחנים חייבים להיות מוגדרים מראש, ואני חייב להקליט אנשים עוברים אותם כדי שאני אהיה מסוגל לבנות את הרובוט. אני לא מבין את הפרשנות שלך. אתה לא תציע שבנאדם יעבור את מבחן הקוואליה כשהוא ביצית מופרית. יתרה מכך - אם אני אאסור עליך לשים את התינוק הזה בחברה של אנשים אחרים (כדי שהקוואליה שלו לא תהיה, ח"ח, חיקוי של אנשים אחרים) אתה תגיד לי - באנה באנה, הגזמת. אין משחק. אם מחר יבוא חייזר, שהדרך שלו להתרבות היא פשוט שכפול מלא, כולל של המוח, על כל המידע שיש בתוכו והקוואליה שיש שם, האם תפסול את זה? אם מחרתיים יבוא חייזר שהוא טפיל בסגנון סטארגייט - חי רק בתוך פונדקאי אנושי ושולט על המוח שלו - האם תסכים לבדוק אותו רק מחוץ לפונדקאי, כדי שחס וחלילה לא ישתמש בקוואליה של בן האנוש? משום מה, לרובוט ההיפותטי1 המסכן שלי אתה לא מרשה להתבגר. אם אני מצרף את זה לכך שבעבר התייחסת אליו באופן לא הוגן, ואפילו דרשת ממנו לעשות אינסוף מבחנים קשים! - אני מקבל את הרושם שאתה לא מחבב אותו במיוחד. אותך להסתדרות הרובוטים. לא נראה לי לגיטימי. הגדרת הקוואליה לא מציבה שום תנאי על הדרך שבה התפתחת, התבגרת, והגעת למצוות. אם אתה פוסל יצורים שחייבים לגדול במעבדת קוואליה, למה אתה לא פוסל יצורים שחייבים לשחק במשך שנים עם בעלי קוואליה אחרים? ---- 1 אף אחד לא חושב לבנות אותו ברצינות. הוא רק נועד להדגים שקוואליה זה לא דבר מסתורי. |
|
|
|
|
|
|
||
|
||||
|
מי משנה את הקריטריונים של הניסוי? אני נותן עוד ניסויים. מה ה"רמאות" כאן? נראה לי שאתה, בדוגמטיות שאתה מייחס לצד השני, אומר "רמאות" על כל דבר שבגללו הרובוט ייכשל במבחן. אין שום סיבה ש*כל* המבחנים יהיו מוקלטים מראש (וכאמור, אם יש אינסוף מבחנים, זה גם לא אפשרי). בקשר ל"איסור על התפתחות", נראה לי שפספסת מה שניסיתי להגיד (והוא שלא משנה כמה תיתן לרובוט להתפתח, הוא אף פעם לא יעבור את המבחנים כמו שאדם עובר), אבל לא משנה, אני אפסיק כאן, כי לא נראה לי שנתקדם יותר, והויכוח נהיה טכני נטו. |
|
|
|
|
|
|
||
|
||||
|
צ'מע. לא התכוונתי להעליב אותך. רק ציינתי שהדרישה שלך שהרובוט יעבור את המבחנים מבלי שאנשים יעברו אותם היא דרישה שרירותית. היא בסה"כ נועדה להוציא את הרובוט מהמשחק. לא באמת מעניין אותה אם יש לרובוט קוואליה. נמחיש את זה ע"י סיפור. לאוניברסיטה שמרנית יש קריטריון כניסה שדורש ציון עובר בבוחן ספורט. מאז ומעולם, רק גברים עמדו בקריטריון והתקבלו לאוניברסיטה. פתאום מגלים שיש נשים שעומדות בקריטריון הזה. האוניברסיטה לא רוצה נשים. אז היא מחמירה קצת את הקריטריון. כדי שנשים לא יעמדו בו. אבל אחרי שכמה גברים עברו את הקריטריון, פתאום גם נשים עברו את הקריטריון (למשל, ע"י חיקוי שיטות האימון של הגברים). האוניברסיטה מגיעה למסקנה שלא משנה כמה שיחמירו את הקריטריון, בסוף הנשים הערמומיות ידעו לעבור גם אותו. ואז בא למישהו הרעיון המבריק שבעצם נשים הן לא באמת עומדות בקריטריונים, כי הן תמיד עושות את זה רק אחרי שגבר עמד בקריטריון. לכן, כל פעם שתגיע אישה לאוניברסיטה, אז נחמיר את הקריטריון בצורה כזו שאף גבר עדיין לא עמד בו. ברגע שגבר יעמוד בקריטריון הזה, אז כבר אי אפשר להשתמש בו יותר בשביל לבדוק נשים. האם זה נשמע סביר? הוגן? לא. לא טענתי שהרובוט הוא אנושי או שהוא עובר את המבחן כמו אנשים, או שהמוח האנושי הוא בעצם מכשיר הקלטה. ברור לחלוטין שהרובוט עושה פה חיקוי של אדם, ותהליכי המחשבה אפילו לא מזכירים תהליכים של אדם. ברור גם שהרובוט הוא לא מקורי, ושהוא תמיד יהיה שני לעבור את המבחנים. אלא מה? זאת לא השאלה. אנחנו לא בודקים מקוריות או אנושיות או את כל הדברים האלו. אנחנו בודקים רק דבר אחד - האם יש לרובוט קוואליה. אם זו השאלה, אז חייבים להודות ש - כן, יש לו קוואליה. |
|
|
|
|
|
|
||
|
||||
|
תגובה 309442 יותר טובה. | |
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |