בתשובה לעומר, 18/01/16 17:44
 |
|
 |
||
|
||||
 |
"יצורים תבונתיים" כמשהו שונה מ"תבוניים" או שזאת שגיאת הקלדה? קשה לדבר על "חוויה" של מכונות שאין להן בכלל אמצעי חישה, אבל אם אתה מוכן להוסיף את אלה לתוכנות הלומדות שלך, כפי שאני מבין את התאור של אותה "דמות אנושית", ואם הן באמת תגענה לרמת האינטליגנציה שמאפשרת להן לעבור את מבחן טיורינג אני אופתע אם לא תהיה להן קוואליה. לא רק בגלל שאם הקוואליה היא תופעה מתהווה היא צפויה להתהוות גם אצלן (כלומר ההנחה שלי היא שההתהוות נובעת מרמת הארגון והסיבוכיות של האובייקט המחשב ולא מהיישום הפיזי ביחידות אורגניות או אחרות), אלא גם מפני שאותן מכונות לא יוכלו להבין כלל את הפתיל הזה שלנו - לפחות לא באותה רמה בלתי אמצעית בה אנחנו מבינים אותו, ובטח יימצא מישהו חכם ממני שיצליח לגרום לחסרון הזה שלהן להתבטא במבחן טיורינג. לאחר שמתי את הנקודה בסוף המשפט אני מתחיל להרהר קצת אם ה"בטח" הזה מוצדק - כדברי המשורר: פעם חשבתי שאני הססן אבל עכשיו אני לא בטוח. אני קצת מבולבל כרגע בשאלה מהי, בעצם, העמדה שלך? שקוואליה היא נס חד פעמי שאינו ניתן להסבר בשום אופן לעולמי עד? אם נחליף את הנוירונים, אחד לאחד, בשבבי מחשב אקויולנטיים1, לדעתך בשלב מסויים הקוואליה תיעלם? והתודעה בכלל? עד כמה שאני יכול לשפוט מההיכרות הוירטואלית שלנו, לא נראה לי שזה מה שאתה חושב. _______________ 1- אגב, שכחתי מי העלה לראשונה את הרעיון הזה שאני משתמש בו הרבה. מישהו יודע? |
 |
 |
 |
|
|
|
||
|
||||
|
________ 1 אחת הבעיות ברעיון הזה היא שהמוח כנראה גדול הרבה יותר מסכום נוירוניו. מחקרים אחרונים מראים (אפשר בNeuroglia [Wikipedia] אבל במקרה גם עבד איתי מישהו שהדוקטורט שלו עסק בזה לפני עשר שנים) שייתכן מאד שחלק ניכר מהחשיבה מתבצעת בתאי הגלייה שמקיפים את הנוירונים ומהווים 90% מהתאים במח0. עד כמה שאני זוכר, חלק מהסיבוך נובע מזה שהתקשורת בין התאים האלה פחות 'דיגיטלית' מאשר בין הנוירונים (הבאזז-וורד המתאים הוא "גלי קלציום"), מה שעשוי להוביל למסקנה שמודל תקף של המוח לא יסתפק בהחלפת הנוירונים ועלול לדרוש סימולציה ברמת הכימיה הבסיסית של המוח, קרי מולקולות ואטומים. נכון שברמה העקרונית זה לכאורה לא משנה2, אבל לדעתי התמונה המנטלית הפשוטה של רשתות נוירונים דיגיטליות עשויה להיות קצת מטעה. 0 האנלוגיה הכי מרחיקת לכת ששמעתי בכיוון הזה טענה שמי שחושב שהחשיבה מתרחשת בנוירונים דומה לחייזר שיגיע לכדור הארץ ויסיק שהיישות שמבצעת את החשיבה היא רשת הטלפונים. 2 אז במקום להחליף נוירון בטרנזיסטור נחליף אטום פחמן באטום סיליקון. הממ, מה? |
|
|
|
|
|
|
||
|
||||
|
שגיאת הקלדה. אחת מיני רבות. העמדה הרישמית שלי היא "יש פה משהו ממש מוזר, ואין לי מושג איך להסביר אותו". יש לי כל מיני רסיסי מחשבות בנוגע להסברים אפשריים, אבל הם כל כך גולמיים ולא-קוהרנטים שאין לי שום כוונה לדון בהם כרגע. בשורה התחתונה אני לגמרי באפלה. התשובה שלי לכל השאלות שלך היא "אני לא יודע". כתבת "...אני אופתע אם לא תהיה להן קוואליה". אבל איך אתה מתכוון להיות מופתע (או לא)? אם מחר אציג בפניך את האל, תוכנת ה-AI המושלמת שכתבתי במרתף בית הוריי - אז אחרי שתסיים לשוחח איתה, לבחון אותה, להתרשם ממנה ולוודא שהיא באמת מבינה את הדיון הזה באייל וגם יכולה להשתתף בו - מה יגרום לך לומר בהפתעה "אה, אופס, אבל מסתבר שאין לה קוואליה", או לחילופין, "אמרתי לך"? זו בעיני הנקודה המרכזית. גם אם ההתנהגות שלה תהיה חשופה בפניך באופן מבוקר כרצונך וקוד המקור שלה יהיה גלוי וידוע - גם אז כל המבחנים, האנליזות, המשוואות והסימולציות לא יקדמו אותך במילימטר בדרך לתשובה "יש לה קוואליה, או אין לה"? קוואליה היא "משהו" אחר. לא אנליטי, לא אינפורמטיבי, אי אפשר לקודד אותו ואי אפשר למדוד אותו. איך תופעה כזו בכלל מועמדת בעיניך להיות "תופעה מחתהווה"? תופעות מתהווות (כמו בעלי חיים, ישויות אינטליגנטיות או מערכות אקולוגיות) הן חלק מהעולם הפיזיקלי-הרגיל בדיוק במובן שבו הקוואליה היא לא. אני יכול (תאורטית) לעשות סימולוציה ממוחשבת של תאים ביולוגים, ולקבל בסוף קבוצה של המון תאים כאלה שמתנהגים יחד כמו צפרדע. לא תישאר שום שאלה פתוחה בנקודה הזו: אני אראה שם צפרדע. אבל אם אריץ סימולציה של צפריר, אוכל לראות שם קוגניציה ותפיסה, אוכל לזהות את האופן שבו "אשליות" אופטיות ומוזרויות של מערכת הקשב שלו משפיעות על בניית העולם המודע שלו, אוכל לזהות מצבים מנטליים בהם הוא ימצא - אבל בשום אופן לא אוכל לראות שם קוואליה. זה עניין עקרוני ומהותי. שווה לחזור על זה שוב: אלמלא הייתי בטוח בקיומה של קוואליה, לא הייתי מאמין בה בשום פנים ואופן. לגבי הסברים, הקשר של הקוואליה לפעילות מנטלית או למערכות מורכבות, שאלות כמו "האם לאבנים יש קוואליה" - אז שוב, אני כמובן לא יודע. אין לי תאוריה. אני מודה שניסיתי לחשוב על הנושא ברצינות פה ושם, אבל כדי שיהיה לי סיכוי להתקדם אני צריך כנראה לסתום כמה חורים עצומים בהשכלה הרלוונטית שלי, ולהוסיף איכשהו כ-250 נקודות אי-קיו. בינתיים אני מסתפק בלצאת מדעתי לאור העובדה שיש כאן תופעה שהפיזיקה אפילו לא מסוגלת באופן עקרוני להתמודד איתה, תופעה בולטת ונוכחת עד כמה שתופעה יכולה בכלל להיות בולטת-ונוכחות - והעולם שותק. |
|
|
|
|
|
|
||
|
||||
|
אם אני יודע הכל על האל אוכל לדעת אם הוא משקר, לכן אפשר להניח שהוא דובר אמת תמיד. אם, בתשובה לשאלתי "יש לך קוואליה?". הוא יגיד "כן" אהיה רגוע למדי, אם הוא יענה "לא" - אופתע, ואם הוא יסרב לענות על השאלה או ייכנס לאיזו לולאה אינסופית כמו בסרטי מד"ב ישנים אחזיר אותו ליצרן. לגבי התופעה המתהווה - כשהייתי בתיכון חשבתי ששדה חשמלי הוא רק כלי מתמטי נוח שנולד בגלל שפאראדיי היה חלש במתמטיקה. כשגדלתי הסבירו לי שהשדה החשמלי הוא מעין ישות עצמאית (אבל זכרתי שהוא מתהווה ממטענים ודעתי נחה) ואז השליכו עלי את "שדה ההסתברות" שהוא יצור מתמטי לגמרי אבל מתאר תופעות שניתן למדוד, כך שאם יש לו קיום ודאי וודאי שגם לשדה החשמלי יש. מה שכן, אני שותף לסנטימנט שאתה מביע. אולי המוח שלנו פשוט לא מסוגל להבין את עצמו (או אפילו את המוח של החתולה שלו) ברמה הזאת. מכל מקום, יש כאן כמה וכמה חבר'ה שיוכלו לתרום לך 250 נקודות IQ בלי שהם בכלל ירגישו בהבדל (אתה יודע, ההם שיש להם פתרון מיידי לכל בעיה מעשית). |
|
|
|
|
|
|
||
|
||||
|
אני חושב שכל תגובה של האל שאיננה "איך לעזאזל אני אמור לדעת?" תעיד שצריך להזמין טכנאי. | |
|
|
|
|
|
||
|
||||
|
ממתי הכרות עם קוד המקור גוררת ידיעה של כל התנהגות עתידית? מישהו כבר הזכיר כאן Convolutional neural networks שהן עכשיו הנושא החם במכונות לומדות - אתה כותב את הקוד1, נותן לו לרוץ על מאגר של מאות אלפי או מיליוני דוגמאות מבסיסי נתונים מוכרים ברשת, והרשת לומדת ובונה את עצמה (את המשקלים שלה) בלי לספר לך איך ולמה2. דה פקטו אין לך שום יכולת לחזות מראש את הפלט של מערכת כזאת. שדה חשמלי מתהווה ממטענים, זה קצת נכון, אבל מה היה הפוטון הזה (== התנודה בשדה החשמלי) שכרגע חלף כאן בלי שום נוכחות של מטען באזור? שיהיה, כל עוד לא טענת שגאוס היה חלש במתימטיקה, דיינו. את זה היינו זוכרים לך להרבה זמן. 1 ייתכן ואתה יודע כל מה שאני אכתוב, מתנצל מראש. 2 גם אם היא היתה מספרת, לא בטוח שזה בכלל במרחב כלשהוא שיהיה מובן לך. סביר שלא. |
|
|
|
|
|
|
||
|
||||
|
אתה צודק, אבל אם אפשר כבר היום לדעת במידה סבירה של הצלחה אם אדם דובר אמת, ואני מתכוון באמצעות fMRI ולא באמצעות הפוליגרף הפיזיולוגי, אפשר לשער שזאת לא תהיה המכשלה הגדולה בעולם העתידי והאמיץ שלנו, מה עוד שלמרות אי הידיעה שלך לגבי מצבי הרשת אני חושב1 שאפשר לתכנת אותה לא לשקר לעולם. אמנם האל המקורי לא ציית לכלל הזה אבל זה רק מפני שהגדירו לו מטרות על חשובות יותר, בנוסח יצחק "מותר לשקר למען ארץ ישראל" שמיר. אנחנו לא נעשה את הטעות הזאת! ֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹ______________ 1- לא בטוח שההכרות השטחית עם החומר מצדיקה שימוש בפועל "חושב" אבל נמאס לי ל"שער" ל"הניח" ול"נחש". |
|
|
|
|
|
|
||
|
||||
|
לא לשקר לעולם? ומה עם הרצון החופשי שלה? גם כן יישות תבונית, פחחח. סליחה, פח. ולא שיש משהו מעליב בזה, מה, פחמן יותר טוב? |
|
|
|
|
|
|
||
|
||||
|
היא לא תשקר לעולם מרצונה החופשי! נקרא לה קאנט. | |
|
|
|
|
|
||
|
||||
|
אתה מתייחס לזה כמו חידה בלוגיקה, ואני לא חושב שזו מסגרת ההתיחסות המתאימה. מה זה "שקר" בהקשר הזה? אתה תשאל אותו שאלה, הוא יעבד אותה איך-שלא-יהיה, ויענה לך תשובה (בערך כמו שאני עושה). כל עוד איפשהו, בשלב מאד-גבוה של העיבוד הקוגנטיבי שלו, הוא לא יחליט על תשובה חד-משמעית ואז יענה לך משהו אחר מתוך שיקולים זרים (גבוהים-קוגנטיבית גם כן) - זה לא יהיה "שקר" בשום מובן רלוונטי. אם, למיטב הבנתו הסמנטית, התשובה המתאימה מבחינה פרגמנטית לשאלה שלך היא "כן" - אז הוא יענה לך בכנות גמורה "כן" אפילו אם אין לו גישה לשום דבר שדומה לחוויה סובייקטיבית. | |
|
|
|
|
|
||
|
||||
|
חוששני שאתה והפונז צודקים. אני צריך לחשוב על זה קצת :-) | |
|
|
|
|
|
||
|
||||
|
אני לא כל כך מבין. אתה יכול להעלות בדעתך מה יגרום למחשב שאין לו קוואליה, ושלא תכנתו לו במפורש את המושג, ושאין לו קטע קוד יעודי של חיקוי "טיפש" של דיבור אנושי (בנפרד מ"קוד התבונה"), לענות "כן, יש לי קוואליה"? | |
|
|
|
|
|
||
|
||||
|
אותה הדבר שעולה בדעתי כשאני מציע (חצי בצחוק. נראה לי) שאולי צפריר ודניאל דנט הם זומבים פילוסופיים, למרות שהם טוענים שיש להם קוואליה. בסופו של דבר, אנשים משתמשים במילה "קוואליה" באופן מסויים שמצמצם מאד מרחב המשמעויות שהיא נושאת - אבל, כמו תמיד כשמדובר בשפה טבעית, בסוף נותרת עמימות מסויימת ודרגות חופש לא מעטות. המשמעות ה-"ספציפית" (במידה שיש כזו בכלל) של המילה הזו עבורי, עבורך או עבור דנט קשורה ברשת המושגים הסמנטית הייחודית שכל אחד מאיתנו בנה בנפרד, לאור ההיסטוריה האישית שלו - וקל לי מאד לראות איך גם ישות אינטליגנטית אך נטולת-קוואליה יכולה למצוא בו משמעות עקבית ומובחנת, ולהגיע למסקנה ש-"יש לה קוואליה". הדיון כאן כולו הוא הדגמה חיה עד כמה קשה לבדל את המשמעות המיוחדת של קוואליה משלל מושגים דומים אבל שאין בהם דבר מלבד קוגניציה (כמו "עולם פנימי" ו-"תפיסה חושית"). אם אתה לא-מאמין בקיומם של זומבים-פילוסופיים, אז יש לך כאן עדות עד כמה ליצורים להם יש חוויות בלתי אמצעיות קשה לבודד את המשמעות המדוייקת של המושג (מן הסתם אני מניח כאן, קצת בהתנשאות - אך בכנות - שכל מי שחושב ש-"אין מה להסביר" פשוט לא מבין עד הסוף את משמעות המילה), ובמקום זאת הם מבינים מיליון דברים אחרים, שחייבים להודות, עיקביים למדי עם השימוש במילה. אז לא רק שקל לי מאד להעלות בדעתי איך ישות ללא-קוואליה תוכל להבין את המילה באופן טיפ-טיפה שגוי ולהיות משוכנעת שיש לה קוואליה, I call and raise: אתה יכול להעלות בדעתך מה יגרום למחשב שאין לו קוואליה (וגו') להבין איכשהו שאין לו קוואליה? |
|
|
|
|
|
|
||
|
||||
|
(הבהרה לגבי השאלה בסוף: שים לב שגם "מכחישי הקוואליה" לא טוענים שאין להם קוואליה, אלא רק שאנחנו מ***נים את השכל כשאנחנו מדברים על זה). | |
|
|
|
|
|
||
|
||||
|
(ומצטער על השרשור שאני מנהל כאן עם עצמי, זה לא אופייני לי, אבל עוד הבהרה קטנה אחרונה לגבי ה-"התנשאות הכנה" שתבטיח שהיחיד שיוצא מגוחך מכל הסיפור הזה הוא אני: כן, אני חושב שגם דניאל דנט לא מבין עד הסוף את המושג). | |
|
|
|
|
|
||
|
||||
|
המפף, כן, יש בזה משהו. | |
|
|
|
|
|
||
|
||||
|
אם כי, בקשר לאתגר האחרון שלך, אני יכול להעלות בדעתי שהמחשב יענה "או שאין לי, או שאני לא מבין על מה אתה מדבר; כל מה שעובר לי במעבד כשאני חושב ניתן לתיאור פונקציונלי" - ואם הוא יהיה מספיק נבון כדי להבין מספיק דברים אחרים שאני מדבר עליהם, אני אטה בחוזקה לניחוש שאין לו. | |
|
|
|
|
|
||
|
||||
|
אני חושד שאחד מכיווני התשובה הסבירים למחשב תבוני לשאלה "יש לך קוואליה?" יהיה "קוואליה זה לא מושג מועיל, הוא לא מוביל אותנו לשום מקום". | |
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |