|
||||
|
||||
אבל השייח כתב "אני יודע ב_ד_י_ו_ק מה טבע ההרגשות שלי, מעצם העובדה שאני חווה אותם", ואתה כתבת שאתה חולק על כך. למה? לעיקר הדברים, השאלה שבמחלוקת היא "נניח שהתודעה האנושית היא תוצאה של תהליכים פיזיקליים פשוטים ברמה הנמוכה (נדמה לי שגם השייח מסכים להנחה הזו), האם ייתכן שניתן להפיק תודעה כתוצאה של תהליכים *חישוביים* פשוטים?" ונניח ששמים בצד את טיעון פנרוז ודומיו, ומבקשים להישאר בתחום הטיעונים המטאפיזיים. אז נראה לי שיש ביניכם מחלוקת סמויה, שכדאי להציף אותה, על מי נטל ההוכחה. מצד אחד, אנחנו יודעים איך אפשר להפיק כתוצאה מתהליכים חישוביים אפקטים של הנפש כמו זכרון, הסקת מסקנות וכו'. מצד שני, אין לנו עדיין מושג ירוק איך להפיק תודעה. מכיוון אחר, אין לנו עדיין מושג ירוק איך להסביר את התודעה על-סמך מה שאנחנו יודעים על פעילות הנוירונים ומרכיבי המוח - אילו היינו יודעים, היינו יכולים אולי להרכיב את הרכיבים החישוביים המתאימים בסדר הנכון, ולדעת שנקבל תודעה. אבל אנחנו לא. אתה ואחרים כאן שוב ושוב דורשים מבחנים התנהגותיים לתודעה. אבל זו נראית לי מלכתחילה דרישה לא הוגנת: אנחנו יודעים מה זה בכלל תודעה על סמך החוויות בגוף ראשון. לכן קשה מאוד לשכנע שמבחנים התנהגותיים כלשהם יעידו על תודעה - שוב, נשאלת השאלה על מי חובת ההוכחה. אני דווקא משתעשע במחשבה שאפשר לבחון האם למכונה מלאכותית תבונית-מבחינה-התנהגותית יש קוואליה1, כך: נשאל אותה "האם יש לך קוואליה?". אפשר, כמובן, לתכנת אותה כך שהיא בכל מקרה תענה "כן". אבל אני לא מעוניין כאן במכונה שתעבור את מבחן טיורינג. עם קצת מזל, אני מקווה שאם אפשר לתכנת מכונה תבונית-מבחינה-התנהגותית, אז אפשר לתכנת אותה שתהיה *כנה* - שמתוך הבנת הקוד שלה אנחנו יודעים שהיא לא משקרת2. אם אין לה קוואליה, בהכרח או שהיא תאמר "לא", או שהיא תאמר "אני לא מבינה מה זה קוואליה", ולא נצליח להסביר לה. במילים אחרות, הסיבה הכי משכנעת שגורמת לי להאמין שלרוב האנשים יש קוואליה היא שדי קל להסביר לרובם מה זה קוואליה. 1 בפתיל אחר התווכחתי עם השייח, וטענתי שלטעמי קוואליה היא לא תנאי קריטי לתבוניות, ושמה שתבוני מבחינה התנהגותית הוא מבחינתי תבוני-נקודה, גם אם אין לו חוויה של הבנה. הסיוג כאן "מבחינה התנהגותית" הוא כדי להישאר במונחים שיותר בקונצנזוס. 2 יכול להיות ששקר הוא תוצר לוואי הכרחי של תבונה, ויכול להיות שהוא תוצר-לוואי שאינו הכרחי אבל שברמת מורכבות התוכנה של תבונה-התנהגותית כבר לא נדע האם היא עשויה לשקר או לא. אבל שתי האפשרויות האלה נראות לי אינטואיטיבית קצת פחות סבירות מהאפשרות שאני מניח - כאמור, עם קצת מזל. |
|
||||
|
||||
כתבתי שאני מסכים שהדוגמה עם השכן לא הייתה טובה. העניין שהשכן מדבר על משהו חיצוני לו, בזמן שהוא מדבר על משהו פנימי לו, היה חלק מהסיבה שהדוגמה עם השכן לא טובה. לדעתי חובת ההוכחה על מי שטוענים שיש בתודעה משהו שהוא מעבר למשהו מכניסטי, שההרגשת העצמי היא משהו מיוחד שיש טעם להתייחס אליו, ולא רק להתנהגויות שנובעות ממנו. זה שאנחנו לא מבינים *עד הסוף* איך הגוף האנושי מפיק את התודעה והתנהגויותיה, לא אומר שהפקת אותן ההתנהגויות בדרכים אחרת היא פחותה או שונה מהותית. למה? כי אין לנו שום ראיה שזה לא ככה. כי הראיות היחידות שיש לנו לשם השוואה הן ההתנהגויות המופקות, וטרם הוצגה סיבה להאמין שזה לא מספיק, שיש בכלל משהו מעבר לזה. |
|
||||
|
||||
"חובת ההוכחה על מי שטוענים שיש בתודעה משהו שהוא מעבר למשהו מכניסטי" - אם "מכניסטי" = פיזיקלי, אני מסכים, ואני חושב שגם השייח. אם "מכניסטי" = חישובי, לא התשכנעתי על מי חובת ההוכחה. בעצם, אני צריך שתזכיר לי את עמדתך בנוגע לקוואליה. נניח שמחשב מתנהג כמו בעל-תודעה. האם, לשיטתך (א) יש לו תודעה, ויש לו קוואליה (ב) יש לו תודעה, אבל אתה לא יודע האם יש לו קוואליה או לא (ג) אין דבר כזה קוואליה (ד) אחר (פרט) |
|
||||
|
||||
לשמחתי הרבה, יש בויקיפדיה ציטוט בנושא של מי שכתביו בנושאים הנ"ל תמיד גורמים לי להרגיש שהוא הוציא לי את המילים מהפה (ושיפץ אותן משמעותית) - מארווין מינסקי. שוב אני מצליף בעצמי על שלא מצאתי את הזמן להמשיך לקרוא את ספרו The Society of Mind. "Now, a philosophical dualist might then complain: "You've described how hurting affects your mind — but you still can't express how hurting feels." This, I maintain, is a huge mistake — that attempt to reify 'feeling' as an independent entity, with an essence that's indescribable. As I see it, feelings are not strange alien things. It is precisely those cognitive changes themselves that constitute what 'hurting' is — and this also includes all those clumsy attempts to represent and summarize those changes. The big mistake comes from looking for some single, simple, 'essence' of hurting, rather than recognizing that this is the word we use for complex rearrangement of our disposition of resources". דרך אגב, מה זה "*יש* לך קוואליה"? חשבתי שהמשמעות של "קוואליה" הוא "טבעה של התחושה", או "איך זה מרגיש לחוש [את איקס]". מבלי לקרוא את כל הערך, נראה שויקיפדיה מסכימה איתי.
|
|
||||
|
||||
בדיון הזה עלתה האפשרות, שלרוב האנשים נראית אפשרית לוגית (ולחלקם נראית גם אקטואלית), שתחושת האדום שלך שונה מתחושת האדום שלי - לצורך העניין (בעקבות ניסוי המחשבה הפילוסופי הסטנדרטי לעניין הזה) נניח שאני חווה אדום כפי שאתה חווה ירוק, וההפך. קל לראות שלא ניתן יהיה להסיק הבדל כזה מהתנהגותנו. האם לך זה נראה אפשרי לוגית? (קוואליה היא "איך זה מרגיש לחוש", בדגש על החווייה. לרבים, וגם לי, נראה אפשרי לוגית שמשהו יתנהג, לפחות מרוב הבחינות, כמוני, אבל ללא חוויית תחושה. תחת הנחה זו יש משמעות לשאלה "האם יש לו קוואליה", ששאלתי דווקא בגוף שלישי ולא שני.) |
|
||||
|
||||
אז אולי תוכל להבהיל לי מה קשורה קוואליה לעניין הבינה מלאכותית? קוואליה בצד ונוירולוגיה בצד, האפשרות שיש משהו *בהתנהגות* האנושית שאינו ניתן לתיאור אלגוריתמי נשמע לי מיסטי. זה אולי קצת מסובך, אבל בלתי אפשרי באופן עקרוני? אני לא מצליח להבין למה. הנה ניסוי מחשבתי: מצליחים לבנות מכונה שמתנהגת בדיוק כמו אדם, ומסוגלת לנהל שיחות ומערכות יחסים בסביבה אנושית כמוני וכמוך. אבל בזכות פריצת דרך מדעית-פילוסופית, אפשר להוכיח שהיא לא חווה דבר (על סמך האופן בו בנו אותה, לא על סמך באופן בו היא מתנהגת). זו הצלחה או כישלון, לתומכים בתזה החישובית? |
|
||||
|
||||
לדעתי היא לא קשורה. לעניין הניסוי שלך - אני מנחש שמחנה התומכים בתזה החישובית יתחלק לכאלה שיראו בזה הצלחה, כאלו שיראו בזה כישלון, ורוב שיחשבו שזה לא משנה. אבל שאלה יפה בהחלט. |
|
||||
|
||||
אפשרי, אבל לא משנה דבר. מאותה הסיבה שזה לא מדיד - לא משנה דבר - זה גם לא מעניין (''לא מעניין'' מהבחינה של ''חשוב''. לשבת ולתת למחשבות להתרוצץ על זה דווקא שורף את הזמן יופי). |
|
||||
|
||||
אז בוא נתחיל מזה שאתה קצת חולק על מינסקי: כאב הוא לא זהה לסט מסוים של נטיות ההתנגותיות, לכל היותר ההבדל ביניהם לא מעניין. חוץ מזה, ההבדל הזה הוא עיקרו של מה שמתכוונים אליו לרוב כשמדברים על תודעה. יכול להיות שלרוב הצרכים תודעה היא באמת לא כל כך מעניינת כמו שעושים ממנה: כפי שאמרתי כבר בדיון, אני בהחלט אשמח לקרוא למחשב "נבון" גם אם אין לו שמץ של *חוויית* הבנה. |
|
||||
|
||||
הסבר בבקשה שוב באיזו צורה אני חולק על מינסקי. |
|
||||
|
||||
מהציטוט שהבאת ממינסקי קשה לי לשים את האצבע בדיוק מה דעתו בסוגיה, אבל רוח הדברים שאני מבין היא שהכאב, וכמוהו תחושת הירוק, אינן אלא סך ההתנהגויות (יחסי הקלט-פלט), והקשרים למצבי נפש אחרים, שקשורים בראיית ירוק (בז'רגון, התזה הפונקציונליסטית, אחותה הצעירה והמוצלחת של התזה הביהייביוריסטית). בניסוי המחשבה שבו אנו הפוכים רק בתחושת הירוק הסובייקטיבית שלנו, אין בינינו הבדלים בהתנהגויות ובקשרים, ומכאן שאין הבדל בתחושת הירוק. |
|
||||
|
||||
ואני חולק עליו? |
|
||||
|
||||
אתה הסכמת שיש הבדל (אמנם לא מעניין) בתחושת הירוק. |
|
||||
|
||||
לא אמרתי שיש הבדל, אמרתי ש"אפשרי" שיש הבדל. אני לא חושב שמינסקי יתווכח עם זה. יש הבדל בין מערכת שזוכרת את מספר העיניים שלי כ-int או כ-uint? יש הבדל. משפיע על משהו? לא ממש. ואם אי-פעם יהיו לי מספיק עיניים בכדי ש-uint לא יספיק, אז יהיה לנו כבר הבדל מדיד בין שתי התפיסות של המספר - או, אם נחזור למקור, להבדל בין מי שתופס ירוק כאדום. |
|
||||
|
||||
והנה, תוך זמן קצר דורפל בא והזכיר לך שלפעמים קשה מאד להסביר לאנשים מה זה קוואליה. |
חזרה לעמוד הראשי |
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש | © כל הזכויות שמורות |