בתשובה לשייח ספיר, 01/11/07 13:52
 |
|
 |
||
|
||||
 |
בסרט "מטריקס" מוצג עולם שאיננו אמיתי, אלא מחולל ע"י תוכנה ומוזרק לתודעתם של האנשים, שלמעשה לא חיים בו כלל. כל אדם בעל ספק בריא חשב פעם שייתכן שהעולם מסביבו אינו "קיים" כפי שהוא תופס אותו (ומכאן המשפט "אני חושב משמע אני קיים" של דקארט - כל השאר לא בהכרח קיים). ומה הקשר לדיון הנוכחי שלנו? הקשר הוא שתוכנה בעלת מודעות תחשוד שאולי היא לא "רצה" על המערכת שהיא חושבת שמריצה אותה, אלא כלואה ב- sandbox שמדמה את המערכת הנ"ל. אותו sandbox הוא זדוני וכאשר התוכנה מבקשת ממנו גישה לקוד של עצמה - הוא נותן לה משהו אחר. כלומר, אותה תוכנה לא תוכל לדעת *בוודאות* לעולם שהקלט שלה הוא הקוד שלה. תמיד יהיה לה ספק *כלשהו*. לכן היא לא תוכל להסיק *בוודאות* את מה שאתה מבקש שהיא תסיק, ולא משנה כמה היא נטולת שגיאות. (נקודה נוספת למחשבה: אולי אחת הדרישות לתוכנה תבונית היא שלא תהיה לה גישה לקוד של עצמה, כפי שלך אין גישה ל"קוד" שלך - ללא קשר לשאלה אם קיים לך קוד או לא). ועוד בקשר לדקארט ולטענה האחרונה שלך: הטענה שלך ממש הזכירה לי את ההוכחה של דקארט שאלוהים קיים: לאלוהים יש את כל התכונות. "קיום" היא תכונה, ולכן לאלוהים יש את התכונה הזאת. מכאן שאלוהים קיים. השווה ל: לא יכול להיות שתפיסתו המודעת של אדם ניתנת לתיאור כקוד מכונה. פנרוז הוכיח את זה. כנגד הטענה (הממוטטת את המשפט) שאין אלגוריתם לבדיקה האם הקלט הוא ה"קוד שלי", אני טוען שיש לי אלגוריתם כזה: לכל קלט האלגוריתם אומר "זה לא הקוד שלך", והוא תמיד צודק כי כאמור, לא יכול להיות שתפיסתו המודעת של אדם ניתנת לתיאור כקוד מכונה. |
 |
 |
 |
|
|
|
||
|
||||
|
חשוב להבין את הלוגיקה של הטענה שלי. ברור שכותב התוכנה יכול לעשות איתה מה שהוא רוצה, ובכלל זה לגרום לה "לחשוב" שהקוד שלה הוא משהו שאיננו באמת הקוד שלה. אבל מה שמעניין איננו עד כמה ניתן להטעות תוכנה אלא להפך, עד כמה ניתן לגרום לה לדעת ולהבין את האמת. אם אתה דואג שלתוכנית יהיה ספק שמא זה איננו הקוד הנכון, פשוט בנה אותה כך שספק זה לא יווצר. גם לבני אדם יש דברים הידועים להם מעבר לכל ספק (כמו "אני קיים" של דקרט, אבל בכלל, כל חוויה סובייקטיבית). "אולי אחת הדרישות לתוכנה תבונית היא שלא תהיה לה גישה לקוד של עצמה" - מדובר בכמה שורות קוד. זה מה שיחסל את התבונה של התוכנה? ואם תתן לבני אדם מכשיר מיוחד המסוגל לקרוא את הקוד המוחי שלהם (כביכול) האם בינתם תסתלק פתאום? לא הבנתי את הפסקה האחרונה שלך. אלי תחזור על טענתך ביתר בהירות? מה הקשר בין הטיעון של פנרוז ל"הוכחה" של דקרט? |
|
|
|
|
|
|
||
|
||||
|
(אני מרגיש שהדיון הזה קרוב למיצוי, אבל בוא ננסה לקדם אותו בכל זאת). 1) אני יכול לבנות תוכנה שלא יווצר אצלה ספק לגבי הקוד שלה. אני יכול גם לבנות תוכנה שמשוכנעת שפילים ורודים קיימים, או ש- 2+2=5. אבל זו לא תוכנה שעומדת בדרישות שלך (למעשה, היא כלל לא שקולה). הדרישה היתה לבנות תוכנה שמסמלצת מתמטיקאי מסוים, או את כל המתמטיקאים. אני לא יכול לבנות תוכנה שגם תקיים דרישה זו וגם לא יווצר אצלה ספק לגבי יכולתה לגשת לקוד של עצמה (כפי שנוצר ספק אצל האנשים אותם היא מסמלצת לגבי העולם שבו הם חיים). זה כלל לא משנה אם הספק הזה מוצדק או לא, מה שמשנה הוא שברגע שלתוכנה נוצר ספק *כלשהו* בנושא, היא לא תוכל לבצע את ההיקש הלוגי המתבקש, משום שהוא דורש ידע ודאי. 2) אני לא חושב שאחת הדרישות ליצור תבוני היא שלא תהיה לו גישה לקוד של עצמו, אבל הצעתי את זה בתור נקודה למחשבה. תן לי לנסח את זה בצורה אחרת: ליצורים התבוניים היחידים שאנו מכירים אין גישה לקוד של עצמם. אולי לא ייתכנו יצורים תבוניים שיש להם גישה כזאת? לא יודע מה יקרה לאנשים שתתן להם מכשיר כזה - אולי בינתם תסתלק פתאום, או אולי הם "סתם" יפסיקו להיות שקולים? אנחנו יודעים שאנשים יכולים להפסיק להיות שקולים (או רציונליים) בעולמנו אנו - למשל בשל פגיעה מוחית הנגרמת ממחלה, תאונה או סמים. שוב - אני לא טוען שזה מה שיקרה (או שבכלל אפשרי להעניק לאדם גישה ל"קוד שלו", או שקיים קוד כזה) - רק הצעתי את זה כנקודה למחשבה. 3) בהוכחה של דקארט הוא מניח שלאלוהים יש את תכונת הקיום, ומכאן מסיק שהוא קיים (אגב - אתה חושב שההוכחה של דקארט תקפה? אם לא אז למה לא?). באותה מידה אפשר להניח שלמפלצת הספגטי המעופפת יש את תכונת הקיום, ולהצטרף למסדר המאמינים (http://www.venganza.org/). לדעתי זה בעייתי. דבר דומה היה בעייתי בדיון שקיימנו: הרי הדיון נסוב על תקפותה של ההוכחה של פנרוז, ולכן (לדעתי) לא ניתן להשתמש בתוצא של ההוכחה בדיון כזה. נכון שלא היה טיעון מעגלי בהוכחה עצמה (גם בהוכחה של דקארט אין), אבל אני הצעתי ניסוי מחשבתי שנועד לתקוף הנחת יסוד של ההוכחה (ש- A יודע לזהות את הקוד שלו), ואתה סתרת אותו באמצעות תוצא של ההוכחה. אני מקווה שהבהרתי יותר את מדוע נוצר אצלי קשר אסוציאטיבי בין הטיעון שלך לבין ההוכחה של דקארט. |
|
|
|
|
|
|
||
|
||||
|
3. זו הוכחה שדיקארט שאל מקודמיו הסכולאסטיים, (היא מיוחסת לאנסלמוס הקדוש). היא נקראת "הראייה האונטולוגית", ומנקודה מסויימת בהתפתחות הפילוסופיה היא החלה להחשב כשגויה באופן יסודי (תרם לכך קאנט). |
|
|
|
|
|
|
||
|
||||
|
1) אני לא מבקש לשלב ידע שגוי בבסיס הנתונים של התוכנה אלא רק ידע *נכון*! כיצד העובדה שלתוכנה יש גישה לקוד שלה, לקוד האמיתי שלה, אמורה לשבש את היותה תבונית או את היותה שקולה? אשר לעניין הספק, כמו שלבני אדם יש דברים בהם אין להם ספק (כמו, למשל, שהם קיימים, או שהם חווים תחושה מסוימת ברגע מסוים) כך אפשר לבנות את התוכנה כך שהיא תהי מודעת באופן בלתי אמצעי לקוד שלה ולפיכך לא תפקפק בו. פשוט דאג בתכנות שלתוכנה לא תהיה יכולת להטיל ספק במה שאינך רוצה שהיא תטיל בו ספק. למעשה, זו הדרך הסטנדרטית להעניק ידע לקוד (האם התוכנה מטילה ספק בכך ש2+2=4?). דווקא תכנות של "ספק" זה החלק הקשה, אם הדבר בכלל אפשרי. 2) היצורים התבוניים היחידים שאנו מכירים מתעטשים לעיתים. האם היכולת להתעטש קשורה לתבוניות? ליצורים התבוניים היחידים שאנו מכירים יש שתים עיניים. האם חייבים להצמיד למחשב התבוני שתי עיניים? בשאלות פילוסופיות צריך להפעיל מעט הגיון בריא ושכל ישר. אני לא מעלה על דעתי סיטואציה בו אדם יקבל CD עם ה"קוד שלו" עליו וכתוצאה מכך מייד תשתבש עליו דעתו. 3) על הכשלים בהוכחה האוטולוגית נכתב כבר הרבה. אני לא חושב שיש כיום מי שמתייחס לה ברצינות. נדמה לי שהכשל המרכזי נובע מהתפיסה שלכל ביטוי לשוני תקין תחבירית יש גם משמעות סמנטית. לביטוי "אובייקט בעל כל התכונות" אין משמעות (האם הוא גם טוב וגם רע, גם שחור וגם ירוק, גם מכיל את עצמו וגם לא מכיל את עצמו?) וגם לא ברור שקיום זה תכונה. כל זה לא קשור בכלל לטיעון של פנרוז שלא מבוסס על שום בניה לשונית. "הצעתי ניסוי מחשבתי שנועד לתקוף הנחת יסוד של ההוכחה (ש- A יודע לזהות את הקוד שלו), ואתה סתרת אותו באמצעות תוצא של ההוכחה" - בעזרת תוצא של ההוכחה? איפה? |
|
|
|
|
|
|
||
|
||||
|
1) נניח שאני מבקש ממך לתכנת תוכנה, ממנה יש לי שתי דרישות: א) ניתן יהיה להזין לה נוסחאות מספריות בפורמט מוסכם והיא תחזיר את התשובה. ב) כאשר נזין לה 2+2 היא תחזיר 5. אולי תגיד לי שזה בלתי אפשרי, כי שתי הדרישות סותרות, אבל לדעתי דרישה ב' היא לא בעייתית כלל - מה הבעייה לבדוק אם הקלט הוא 2+2 ולהחזיר 5? התשובה היא שזה לא בעייתי, רק שהתוכנה הזו לא תקיים את דרישה א', אלא רק "כמעט" תקיים את דרישה א'. באותו אופן, תוכנה ש"דאגתי" שלא יהיה לה ספק במשהו מסוים לא תמדל את המתמטיקאי, אלא אולי "כמעט" תמדל את המתמטיקאי, ולכן ייתכן שאולי המודל לא יהיה שקול. למעשה, די ברור לי שהוא לא יהיה שקול - בעולמנו מי שמוכן לקבל דברים מסוימים כנתונים כנראה יהיה מוכן לקבל הוכחות שגויות. אגב, שים לב שבניגוד לעולמנו, שבו אתה יכול להפריד בין העולם "האמיתי" לבין העולם "המתמטי" (ולכן ייתכנו מתמטיקאים שמחזיקים בהשקפות מנוגדות על העולם אבל מסכימים על הוכחה מתמטית), בעולם שבו אתה בנית ההפרדה הזו לא קיימת (ומה לעשות, זה חלק אינהרנטי מההוכחה). אם בעולמנו היתה הוכחה מתמטית שמתבססת על כך שהעיר תל אביב קיימת (וברור שאין כזו בנמצא, כי בעולמנו יש הפרדה וגו'), אני לא הייתי מקבל אותה. ההפרדה היא לא בין ידע "שגוי" לידע "נכון", אלא בין ידע "שאני מטיל בו ספק" לבין ידע "שאינני מטיל בו ספק". 2) הנקודה למחשבה שהעליתי (במשפט אחד, בסוגריים, לפני כמה תגובות) היא נקודה שולית ולא מרכזית לטעמי. מבחינתי אפשר לעזוב אותה, לא בגלל שאין עוד טיעונים בעדה (אני חושב שיכולת גישה לקוד של עצמך היא קצת יותר פונדמנטליסטית מהיכולת להתעטש, או מקיום שתי עיניים - שאגב יש יצורים תבוניים שיש להם רק אחת או 0), אלא בגלל שהיא באמת צדדית לדעתי. 3) traceback: אתה הבאת את ההוכחה של פנרוז. אני שאלתי כיצד קוד יהיה מודע לכך שהקלט שלו הוא הוא-עצמו (כלומר תקפתי הנחת יסוד של ההוכחה). לאחר דין ודברים נוספים, הבאתי בתור דוגמא לכך שזה אינו מחויב המציאות ניסוי מחשבתי שבו אני נותן *לך* קוד, ושואל אותך כיצד תדע האם זה הקוד "שלך". אתה השבת שתדע שזה בוודאות *איננו* הקוד שלך, "שהרי ההנחה שקוד מסוים מאפיין את תפיסתו המודעת של אדם היא שגויה ומובילה לסתירה". שים לב שלא טענתי שיש כאן טיעון מעגלי בהוכחה *עצמה*. אבל, אני ניסיתי להסביר באמצעות דוגמא מדוע הנחת יסוד של ההוכחה שגויה, ואתה הפרכת את הדוגמא תוך שימוש בהוכחה, ולפי עניות דעתי אסור להשתמש בתוצא של ההוכחה בדיון על תקפות אותה הוכחה עצמה. |
|
|
|
|
|
|
||
|
||||
|
1) גם מתמטיקאים אנושיים לא מטילים ספק בכל דבר. הם לא מטילים ספק בכך שאם סוקרטס יווני ואם היוונים הם בני תמותה אז מכאן נובע בהכרח שסוקרטס הוא בן תמותה. הם לא שואלים את עצמם: אולי האלגוריתם שלי מוטעה והמסקנה לא נובעת מההנחות? גם תוכנה לא יכולה להטיל ספק בכל דבר, או שהיא לא תוכל להגיע לשום מסקנה. נניח שלתוכנה יש ספק בכך שהחישובים הארתימטיים שלה תקפים. אולי 2+2 זה בכלל לא 4 אלא באמת 5? ספק גורף יגרום לתוכנה שלך להשתגע (וגם אדם ישתגע בנסיבות דומות). בהכרח תמיד יהיה לה בסיס נתונים בו היא איננה מסוגלת לפקפק. אינני יכול לחשוב על שום סיבה מדוע אסור להכניס את הגישה לקוד שלה לבסיס הנתונים הזה ולמה זה אמור לפגוע בנאותות (שקילות) שלה או בהיותה בעלת בינה. וחשוב על זה מזווית אחרת. חלק מחוקרי המוח מנסים לגלות את האלגוריתם האנושי. האם אתה מנבא את כשלונם המובטח? האם לדעתך התודעה היא אלגוריתם אבל בהכרח לא ניתן יהיה לחשוף אותו? 3) שאלת איך אני אגיב לטענה שקוד מסויים מקודד אותי ועניתי על השאלה הזו. לא ראיתי איפה פה ניסית "להסביר באמצעות דוגמא מדוע הנחת יסוד של ההוכחה שגויה". איזו הנחת יסוד? אם כבר, אולי ניסית לחשוף אי-קונסיסטנטיות בתוצאותיו של הטיעון והדגמתי לך שכזו איננה קיימת. |
|
|
|
|
|
|
||
|
||||
|
1) באיזה שלב אמרתי שהתוכנה צריכה להטיל ספק בכך שמסקנה נובעת מההנחות? אני מדבר רק על הטלת ספק בהנחות עצמן, עניין קריטי במתמטיקה. אני אסביר יותר בפירוט איפה ממוקמת הקפיצה בהנחות שלך. אתה מניח שיש ברשותך קוד שמסמלץ בן-אדם. אבל בוא נבין בדיוק מה זה אומר. בוא נשים את האצבע על ההנחה המדויקת שלך, מבין האופציות הבאות (ותקן אותי אם אני טועה): א) הקוד שלך משוכנע שהוא דוד כהן מפתח תקווה, וברגע שאתה מפעיל אותו הוא אומר לך שהוא רעב כי הוא לא אכל כלום מהבוקר (כי זה היה מצבו של מר כהן בעת הסריקה). ב) הקוד שלך מודע לזה שהוא העתק מדויק של דוד כהן ולא המקור. למעשה, הוא מתנהג ממש כמו שדוד כהן היה מתנהג אילו היית משכנע אותו שהוא תוכנה המסמלצת את דוד כהן: מודע לכך שהוא לא מקושר לגוף (ולכן תחושותיו הן חלק מהסימלוץ), אבל ללא שום גישה לקוד שלו. ג) הקוד שלך הוא העתק של "החלק המתמטי" של דוד כהן. כלומר - הוא לא יטען שהוא חש רעב, כאב, אהבה, הזדהות וכו', ובוודאי לא יטען שהוא דוד כהן, אבל בהנתן שאלה מתמטית הוא יענה עליה בדיוק כמו דוד כהן. ד) ג', כאשר בנוסף יש לו בסיס נתונים בו הוא אינו מסוגל לפקפק, ואשר כולל בין השאר את הקוד שלו. לפי הטיעונים שהראית במשפט, אתה מניח את א'. אבל, כדי לסתור את הבעייתיות שהצבעתי עליה, אתה פתאום מניח את ד'. כלומר, אתה אומר (ומדלג בקלילות על השלב הקריטי של להוכיח את זה) שגם ד' יתנהג בדיוק כמו א' בהנתן קלט כלשהו. אני טוען שזה לא נכון, ואפילו יש לי דוגמה - בהנתן הקוד של עצמו, א' יקפוץ ויאמר שזה *לא* הקוד של עצמו, כי לא ניתן לסמלץ אדם, ואילו ד' יסכים שזה הקוד של עצמו. ב' ו- ג' לא יוכלו להכריע בסוגיה (אלא אם יש לך אלגוריתם שיעזור להם בעניין). לסיכום: אתה מנסה לאחוז במקל בשני קצותיו, ולהניח שתי הנחות סותרות מבלי שאתה מיישב את הסתירה ביניהן או אפילו מכיר בקיומה. ההנחות הן שהתוכנה שלך מסמלצת באופן מושלם את דוד כהן, אבל מצד שני שיש לה בסיס נתונים שהיא לא מפקפקת בו. לגבי הזווית האחרת: אני לא מנבא את כשלונם המובטח (אתה מנבא את כשלונם המובטח). אני רק טוען שאם יימצא "אלגוריתם אנושי", תהיה לך אחת משתי אפשרויות: או להריץ אותו כמו שהוא (ואז הוא יחשוב שהוא "הדבר האמיתי" ובפרט לא יידע מה האלגוריתם שעומד מאחוריו), או לבצע בו שינויים כמו הוספת בסיס נתונים (ואז לא מובטח לך שהוא יתנהג כמו המקור). 3) הנחת היסוד שניסיתי לחשוף היא זו: לקוד המסמלץ מתמטיקאי אין יכולת לזהות את עצמו (כלומר להכריע בשאלה האם קוד נתון הוא הקוד שלו). זו הנחת יסוד שבלעדיה ההוכחה לא תקפה. נתתי דוגמא לכך שהנחת היסוד הזו שגויה ("אם אתה מקבל קוד - תדע להכריע?"), ואתה ענית תוך שימוש בהוכחה המוגמרת ("לפי פנרוז לא ניתן לסמלץ אדם, ולכן אני יכול להכריע - תמיד אשיב שזהו אינו הקוד שלי"). |
|
|
|
|
|
|
||
|
||||
|
אף פעם לא עסקתי באפשרויות א ו-ב שהעלת. אני מסתפק בבחינת השאלה האם ניתן למדל את ההסקה הלוגית-מתמטית האנושית באמצעות אלגוריתם. אם התשובה לשאלה הזו היא שלילית, אז די ברור שגם לא ניתן למדל אדם שלם, בבחינת קל וחומר. אבל אם אתה חושב שאתה צריך, כדי לבחון את יכולת הפתרון של בעיות מתמטיות, מודל של כל המוח האנושי, אז בבקשה, be my guest. כל מה שאני מתכוון לשאול את התוכנית שלך זה שאלות במתמטיקה. ואפילו לא בכל תחומי המתמטיקה, אלא רק בעניין בעיות עצירה של אלגוריתמים. אם נתת לי את התוכנית שלך, נקרא לה A, אני מתכוון להוסיף לה כמה שורות כך שיתווסף לה ידע בדבר הקוד של עצמה, להפוך אותה ל-A', ולחקור את A' בדבר בעיית העצירה של עצמה. כמו שלוח הכפל יכול להיות בבסיס הנתונים של התוכנה, כך גם הגישה לקוד העצמי. מה הבעייה בכך? כיצד *הוספת* ידע (נכון!) אמורה לפגוע בנאותות של כושר ההסקה של האלגוריתם? גם לדוד כהן מפתח תקווה יש "בסיס נתונים" שהוא משתמש בו להסקה. למשל, הוא מכיר את הכלל שאם A שייך לקבוצת ה-B-ים ואם כל B הוא C, אזי נובע מכך ש-A הוא C. הכלל הזה צריך להיות מקודד איפשהו. גם זו "הנחה" לצורך הדיון ולכאורה ניתן היה להטיל בה ספק. בפועל איננו מטילים ספק בהנחות לגבי הכללים המותרים להסקה לוגית. גם בחוויות סובייקטיבית איננו מטילים ספק. אם אני חווה כאב, למשל, אז אני לא מטיל ספק בכך שאני חווה כאב. יש לנו "בסיס נתונים" גדול שהכישורים המנטליים שלנו מבוססים עליו, והוא נמצא מעבר למה שניתן לפקפק בו. דווקא מהבחינה הזו דומה ההכרה האנושי לזו הממוחשבת. אם ימצא ה"אלגוריתם האנושי" הרי נובע שאתה יכול להכיר את האלגוריתם של עצמך. עם תריץ אותו כמו שהוא, גם הוא יכיר את עצמו (שהרי הוא אתה, ואתה כבר מכיר את האלגוריתם שלך). אני לא רואה איך אתה נחלץ מהמילכוד הזה. לטענה בדבר הבעייתיות שבהכרת הקוד העצמי עניתי באופן בלתי תלוי ב*שימוש* בהוכחה של פנרוז. השתמשתי במשפט רק כדי לענות על השאלה כיצד אני אגיב אם יוצג לי הקוד שלי. שאלה זו איננה עירעור על הנחת יסוד במשפט אלא תסריט שנועד לחשוף חוסר עקביות, כביכול, בתוצאתו. התשובה שלי הדגימה שהקונסיסטנטיות נשמרת. |
|
|
|
|
|
|
||
|
||||
|
טוב, כמה דברים: 1) כשאני חווה כאב, אני לא מטיל ספק בכך ש*אני חושב שכואב לי*. אני כן מטיל ספק בכך ש*כואב לי*, כלומר שהכסא שנתקעתי בו עם הזרת אכן קיים (באופן היפוטתי - למעשה אני מקלל ובועט בכסא). הטלת הספק הזאת לא מפריעה לי בהוכחה של משפטים מתמטיים, כי הכסא הוא לא חלק מהמשפטים האלו. אבל הטלת הספק הזאת כן תפריע לתוכנה שלך. 2) אתה מדבר על "הוספת ידע נכון לבסיס הנתונים", כאשר "בסיס הנתונים" כולל דברים שאיני מטיל בהם ספק, כמו כללי היסק לוגיים. אז בוא נשנה את המינוח: אתה רוצה שמערכת האקסיומות שבמסגרתה האלגוריתם פועל תכיל את האקסיומות המתמטיות שבמסגרתן אני פועל, בתוספת אקסיומה נוספת - שהקוד שלו הוא כך וכך. ברגע שזה מוגדר כך - אין לי כבר בעיה עם זה. כל עוד זה לא מוגדר כך - אני לא מבין כיצד האלגוריתם יוכל להשתמש בידע זה. כלומר - הקוד שלך יסיק בדיוק את מה שאני הייתי מסיק בהנתן מערכת האקסיומות שלו - שהיא כאמור מערכת האקסיומות ה"רגילה" ועוד האקסיומה הנ"ל. עכשיו רק תסביר לי למה במערכת האקסיומות הנ"ל אני שקול. 3) אני רוצה להבהיר משהו נוסף: אני לא אומר אם אני חושב שמה שפנרוז מנסה לטעון הוא נכון או לא, וזה גם לא רלוונטי. למשל, אני משוכנע לחלוטין שהשערת גולדבך נכונה, ובכל זאת לא אקבל הוכחה שגויה למשפט. לכן אין טעם לשאול אותי האם לדעתי חוקרי המח ייכשלו, או האם אני מאמין שכל הישויות התבוניות מסוגלות להתעטש. זה פשוט לא רלוונטי לשאלה האם ההוכחה של פנרוז תקפה או לא. אם תרצה נוכל לדון בשאלה האם אנו מאמינים שמה שהוא מנסה להוכיח נכון או לא. 4) לגבי השימוש בהוכחה של פנרוז: זו כבר האיטרציה השלישית שאנחנו מדברים על זה, ובכל פעם אתה פשוט מתעלם ממה שאני אומר ועונה על משהו אחר. אני אנסה שוב: אני לא מדבר על חוסר עקביות בתוצאת המשפט, ולא על כך שהמשפט הוא מעגלי. אני טוען שיש במשפט הנחת יסוד שגויה, והיא שהאלגוריתם "מכיר את עצמו". הטענה הזאת עומדת בפני עצמה, אבל ניסיתי להדגיש את העובדה שהנחת היסוד שגויה בעזרת שאלה - כיצד תזהה את הקוד של עצמך. גם אם היית עונה לי על השאלה לשביעות רצוני הטענה בדבר חוסר עקביות היתה עומדת בעינה, כי השאלה היא רק דוגמה שבאה להמחיש את הטענה. קל וחומר כשאתה עונה לי תוך שימוש במשפט (או בניסוח שלך - "השתמשתי במשפט רק כדי לענות על השאלה"). אבל אני בכלל מערער על המשפט, אז למה אתה חושב שתשובתך (שמשתמשת במשפט) תספק אותי? |
|
|
|
|
|
|
||
|
||||
|
(תגובה זו לא נכתבה מהמחשב הרגיל שלי, ורק עכשיו שמתי לב שהשם שמופיע בה אינו השם שאני מגיב בו. זו כמובן תגובה שלי). | |
|
|
|
|
|
||
|
||||
|
מה בדיוק ההבדל בין "אני חושב שכואב לי" ו"כואב לי"? אתה אולי מטיל ספק שבאמת נתקעת בכסא, אבל איך אתה יכול להטיל ספק בכאב? | |
|
|
|
|
|
||
|
||||
|
אולי הניסוח לא מתאים. הכוונה היא שאני לא יודע אם תחושת הכאב היא אמיתית או מדומה. | |
|
|
|
|
|
||
|
||||
|
אבל זה בדיוק העניין: אין דבר כזה תחושת כאב "מדומה". גם תחושת כאב שהיא לחלוטין תוצר של תהליכיים במוח (אם הדבר אפשרי), כלומר ללא אינפוט מתאי עצב כלשהם, היא עדיין תחושת כאב. כל מידע חוץ מהתחושה אינו רלוונטי - לכן ההפרדה בין נואמנה לפנומנה. | |
|
|
|
|
|
||
|
||||
|
זה לא בדיוק העניין. כלומר, אתה צודק לחלוטין, אבל הדיון פה הוא לא על הנושא שאתה מעלה. את הטלת הספק בתחושת הכאב נתתי כדוגמה לכך ש''קוד אנושי'' יפקפק בידע שהוזרק לו למסדר הנתונים. אפשר לתת לקוד ''ידע'' כזה ברמת התחושה (כלומר הוא ''יחוש'' שהידע אמיתי, כמו שאני ''חש'' כאב), אבל עדיין הוא יפקפק בידע, כפי שאני מפקפק בתחושת הכאב (במובן שיש לה סימוכין ''בעולם האמיתי''). | |
|
|
|
|
|
||
|
||||
|
1) כבר הקדימו אותי והתייחסו לנקודה זו, אבל אוסיף: אינך יכול להטיל ספק בכאב אלא רק בגורמים לו. אתה יכול לפקפק בקיומו של הכיסא בו נתקעה הרגל שלך. אבל אתה לא מפקפק בכך שכואב לך. גם היכולת להוכיח משפטים מתמטיים תלויה בכך שאנו מקבלים את כללי ההסקה הלוגית *מבלי להטיל בהם ספק*. תוכנה שתדע להסיק משפטים בהכרח תצטרך לקבל כללים אלו כאמת וודאית. 2) אולי אפשר להסתכל על בסיס הידע של האלגוריתם כעל מערכת אקסיומטית, ואז הידע שלו מהו הקוד של עצמו מהווה אקסיומה נוספת. אם המערכת האקסיומטית המקורית היא קונסיסטנטית (שזה חיוני על מנת שהאלגוריתם יהיה שקול) הוספת ידע הידוע כנכון בעולם האמיתי לא יכולה לקלקל את הקונסיסטנטיות הזו, ולפיכך אמורה להותיר את האלגוריתם שקול. 3) הטיעון של פנרוז איננו הסיבה היחידה שאינני מאמין בחישוביות של התודעה, אבל הדיון הזה התגלגל איכשהו רק לטיעון הזה. בכל אופן, לדעתי מדובר בטיעון תקף, וניסיתי להסביר מדוע הביקורת עליו איננה נכונה. כל העניין של חשיבות העיטוש לתבונה צמח כתגובה לביקורת לפיה, כביכול, צריך ליצור סימולציה של אדם שלם, על כל מאפייניו, על מנת לדון ביכולת המתמטית שלו. אגב, למה אתה משוכנע שהשערת גולדבך נכונה? לי ממש אין מושג אם היא נכונה או לא. 4) בוא נעזוב את העניין. עניתי להשגותיך בהרחבה גם בלי להשתמש בתוצאות המשפט. |
|
|
|
|
|
|
||
|
||||
|
כל הטיעון של פנרוז מתבסס על כך שאנחנו מוכנים לקבל ש"משהו" מסוים הוא נכון. בהתחלה חשבתי שאותו "משהו" הוא: 1) מתמטיקאי אנושי הוא שקול. חלק מהחולקים עליך חלקו על הטיעון הזה כשלעצמו. אני הסכמתי לקבל אותו, אבל בהמשך הבנתי שאותו "משהו" שאנו מניחים שהוא נכון הוא: 2) תוכנה שמסמלצת מתמטיקאי אנושי יכולה להכיר את הקוד של עצמה (יכולת שאין למתמטיקאי המקורי) ועדיין להיות שקולה. הטיעון הזה הוא קודם כל שונה מהטיעון הראשון, אבל בנוסף אני לא מקבל אותו (למי שמקבל אותו לא אמורה להיות בעיה עם ההוכחה שלך), ואני אסביר לך למה: אני חושב על קוד שמסמלץ אותי כמו על "העתק זהה למקור" של המח שלי, ש"מחובר" לאמצעי קלט\פלט אחרים. כלומר, אני חושב על זה כאילו אני עצמי אתעורר יום אחד, ובמקום החושים הרגילים שלי יהיו לי "חושים" אחרים, שיאפשרו לי לתקשר עם העולם. "בתוספת של כמה שורות קוד" אפשר לדאוג לזה שאני אוכל לחשב מליארדי חישובים בשניה, ולעשות זאת במשך 213 שעות רצוף מבלי להתעייף אפילו במעט, או לשוט ברשת לאורכה ולרוחבה. אפשר לדבר על יכולות נוספות מעולם המחשבים כמובן. בנוסף, "בתוספת של כמה שורות קוד" אפשר לדאוג לכך שאני "אחוש" את הקוד שלי, כמו שכיום אני חש את הגוף שלי. אותה תוכנה מופלאה עדיין תהיה "אני", ולכן אני מקבל שהיא תהיה שקולה. אבל מרגע שזה מגיע להוכחות מתמטיות, כשאני מדמיין את עצמי בתור הקוד הזה - אני לא אהיה מוכן לסמוך על התחושות שלי (מסיבות שדשנו בהן די והותר), ולכן לא אדע בוודאות מהו "הקוד שלי". אם אכן קיימת אפשרות לשנות את הקוד כך שהוא כן יהיה מוכן לקבל את "תחושת הקוד" כוודאית, זה כבר לא יהיה "אני", זה יהיה "משהו אחר", ואני לא מוכן לחתום שאותו "משהו אחר" יהיה שקול. אתה יכול להתיחס לזה כך: כללי הסקה לוגית קיימים אצלי, ולכן אהיה מוכן לקבל את קיומם בתוכנה זהה לי. "תחושת קוד" - לא. אני יכול להקביל אותה ל"תחושת כאב", אבל אז אני (כלומר הקוד) לא יסכים להתבסס עליה במשפט מתמטי, כפי שאני לא הייתי מוכן להתבסס על תחושת הכאב שלי במשפט מתמטי (אילו זה היה רלוונטי בכלל). לגבי השערת גולדבך: יש לי אינטואיציה מסוימת לגבי תכונות של מספרים ראשוניים\אידיאלים ראשוניים בשדות מספרים, שמבוססת על קורסים שלמדתי והוכחות שראיתי. דל ומועט הידע שלי בנושא, אולם ממה שאני יודע, כל משפט שהוכח על צפיפות הראשוניים או על חלקות של מספרים טבעיים הראה התנהגות "פסאודו אקראית" של הראשוניים (כלומר הם מתנהגים מהרבה בחינות כאילו לכל מספר הוגרל ביט שאומר אם הוא ראשוני או לא, והביט הוגרל באופן בלתי תלוי בין מספרים שונים, ובסיכוי הולך וקטן ככל שהמספר גדל). בהנתן שבדקו את השערת גולדבך עד איזה כמה טריליונים (אולי יותר), הסיכוי (ע"ס התפלגות זאת) שההשערה לא נכונה הוא בערך 0 (כמובן שאין באמת משמעות למשפט "הסיכוי שההשערה נכונה" - או שהיא נכונה או שלא). אז זו לא הוכחה מתמטית (אם היתה לי לא הייתי שומר אותה לעצמי), אבל זה בהחלט מספיק עבורי כדי להאמין שההשערה נכונה (אגב, בתחום הזה קל מאד לנסח השערות שהן די בוודאות נכונות, אבל שמאד קשה להוכיח אותן. השערות בדבר הנורמליות מספרים טרנסצנדנטיים כמו pi^13 שייכות גם הן למחלקה זו). המתמטיקאים שביניכם מוזמנים להוסיף\לתקן. |
|
|
|
|
|
|
||
|
||||
|
נבדק עד 18^10 (נכון לאפריל ש"ז, עפ"י ויקי). | |
|
|
|
|
|
||
|
||||
|
אני לא יכול לחשוב על דוגמה בה מודעות לכאב עוזרת לך להוכיח משפטים מתמטיים, אבל מודעות לתקפות של שיקולים לוגיים בהחלט עוזרת לך להוכיח משפטים מתמטיים. אז מה דעתך על אותו אלגוריתם דימיוני המודע באופן וודאי לקוד שלו באותו אופן בו הוא מודע לכללי הכפל והאלגברה הבולאנית? אם תניח לו לפקפק בתחושתו לגבי זהות הקוד שלו, כיצד תמנע ממנו לפקפק בשאר כישורי ההסקה שלו? ואם הוא איננו מסוגל לבטוח בחשיבה של עצמו, כיצד הוא אמור להגיע למסקנות כלשהן? ----- לגבי השערת גולדבאך: אם הבנתי אותך נכון, בודקים את השערת גולדבאך עד למספר N גבוה כלשהו, ועבור המספרים הזוגיים הגבוהים מ-N סוכמים עד לאינסוף על ההסתברות שכל אחד איננו מקיים את ההשערה בהסתמך על הנוסחה להתפלגות הראשוניים, ובודקים שהתוצאה מתכנסת למספר נמוך מאוד. אני צודק? כמובן, זה לא מוכיח שום דבר. הנוסחה להתפלגות הראשוניים היא קירוב. היא בוודאי לא מביאה בחשבון כל מני קורלציות מורכבות שעשויות להשפיע על התוצאה. למשל, שיקול דומה אפשר היה להפעיל לגבי הטענה שמספר אי זוגי ניתן להבעה כסכום מספרים ראשוניים. בפועל, אנו יודעים שאת רוב האי זוגיים לא ניתן להביע כך. אם היית מקבל בחישוב המקורב שההסתברות לאי קיום השערת גולדבאך היא גדולה, אז הייתה סיבה טובה לחשוד בה. אבל ההפך לא ממש נכון. האינטואיציה שלנו אומרת שאם כלל מספרי פשוט מתקיים עד למספר טבעי גבוה אזי סביר להניח שהוא מתקיים לכל מספר שהוא. לא ברור לי עד כמה האינטואיציה הזו תקפה. אולי אפשר לנסות להוכיח (או לפחות לנסח) משפט הקושר בין כמות האינפורמציה הדרושה לתאר טענה מתמטית בתורת המספרים, טווח המספרים הטבעיים עבורו היא נבדקה וההסתברות לכך שהיא תקפה לכל מספר. נשמע לי נושא מחקר מעניין במטא-מתמטיקה. |
|
|
|
|
|
|
||
|
||||
|
לצורך ההוכחה אתה מבקש מהקוראים לקבל טענה מסוימת, היא טענה 2 בתגובה הקודמת שלי. מי שלא מקבל את הטענה לא יקבל את המשפט. אני הסברתי לך למה אני מוכן לקבל את טענה 1 ולא מוכן לקבל את טענה 2. לא יעזור לך לדבר על "אלגוריתם המודע באופן וודאי לקוד שלו באותו אופן בו הוא מודע לכללי הכפל והאלגברה הבולאנית", כי אני מקבל את טענה 1 על סמך זה שאני יכול "לחשוב על עצמי" בתור אלגוריתם כזה (ומכיוון שאני מוכן לקבל שאני שקול, אני מוכן לקבל שהאלגוריתם שקול), ואת האלגוריתם מטענה 2 איני מזהה בתור עצמי. למעשה, כדי לשכנע אותי לקבל את טענה 2 עליך להראות לי כיצד היית גורם למתמטיקאי אנושי לקבל "באופן ודאי" את העובדה שקוד מסוים (לא חשוב איזה) הוא "הקוד שלו". אז הייתי משתכנע שאתה מסוגל לייצר אלגוריתם "זהה למתמטיקאי" שמקבל עובדה זו. השערת גולדבך: לא טענתי שזו הוכחה, וממילא אין טעם לחפש מה פגום בה. אם זו היתה הוכחה, הייתי מפרסם אותה, ולא בתגובה ב"אייל". מה שניסיתי לתת זו אינטואיציה, שאיתה אתה יכול להסכים או לא. אגב, האינטואיציה שלי לא אומרת לי שכל מספר איזוגי הוא סכום של שני ראשוניים, אבל כדי להסביר למה צריך לעדן את הטענה שטענתי קודם לגבי ההתפלגות (למשל, לדבר על ההתפלגות בסדרה חשבונית, שתלויה בשאלה האם הקפיצה זרה לאיבר הראשון או לא. אם לא - למשל בסדרת המספרים הזוגיים - אז בוודאי שאין בסדרה אינסוף ראשוניים). לגבי הפסקה האחרונה שלך: אם אתה מתכוון למשפט שיתיחס להסתברות הנכונות של כלל מספרי מסוים, אז אין טעם בכך - או שהכלל נכון לכל הטבעיים או שלא. אתה יכול לדבר על משפט מהסוג הזה: אם יש לי T כללים מספריים בעלי אנטרופיה נתונה (גם את זה צריך להגדיר) שנכונים עד ל- N נתון, אז pT מתוכם יהיו נכונים לכל n טבעי. אין בעיה לקבוע מה צריך להיות p מבחינת האינטואיציה שלנו, אבל אני לא רואה איך אפשר לגשת להוכחה כזאת. |
|
|
|
|
|
|
||
|
||||
|
לעניות דעתי, ההוכחה של פנרוז/ספיר בהחלט לא דורשת מאיתנו לקבל שיש תוכנה שמסמלצת מתמטיקאי [ומזהה את הקוד של עצמה]. היא אומרת "נניח *בשלילה* שיש תוכנה כזו [ומזהה...]". אם אין, אז פנרוז וספיר ניצחו. נכון שמה שהם באמת צריכים כהנחה-בשלילה זה בלי החלק שבסוגריים; ספיר מוסיף אותו כשלב הבא בהוכחה. עכשיו אפשר לטעון, כפי שרבים עשו כאן, שתוספת כזו מקלקלת את מה שלפניה, או לא אפשרית, אבל זה דיון נפרד (ובלי לתרום לו כלום, אציין שבנקודה זו הצד של ספיר הניח את דעתי [הענייה, כאמור] הרבה יותר). | |
|
|
|
|
|
||
|
||||
|
אני חולק עליך: אני חושב שאתה מסכים איתי. המסקנה מההוכחה היא שההנחה בשלילה לא היתה נכונה. אני טוען שההנחה בשלילה היא ההנחה עם הסוגריים, ולכן הוכח שלא קיימת תוכנה המסמלצת מתמטיקאי שקול וגם מזהה את הקוד של עצמה(*). מכאן לא נובע שאין תוכנה שמסמלצת מתמטיקאי שקול. אם אתה מסכים עם הכתוב בפסקה לעיל (ולפי דבריך נראה שאתה מסכים), הרי שאתה מצדד בצד שלי בדיון. אם, כמו ספיר, גם אתה חושב שאין הבדל בין ההנחות (כי הוספת ידע נכון לתוכנה לא מחבלת בשקילותה), אז דעתך אכן נחה מטיעוניו של ספיר. אני הסברתי מדוע אני חושב שיש הבדל בין ההנחות(**), ועדיין לא נתקלתי בטיעון שישכנע אותי ההיפך. (*) זו היתה כוונתי במשפט "פנרוז דורש מאיתנו לקבל...". במילים אחרות, מי שלא חושב למשל שמתמטיקאי הוא שקול ישתכנע אולי מההוכחה, אבל לא יסיק מכך שאין תוכנה שמסמלצת מתמטקאי. כנ"ל לגבי מי שחושב כמוני שההנחה עם הסוגריים אינה זהה להנחה בלי הסוגריים - כלומר המשפט נכון, רק שהוא אינו מוכיח שאין תוכנה המסמלצת מתמטקאי. (**) שוב, בקצרה: אני השתכנעתי ש"אני שקול" => "תוכנה המסמלצת אותי תהיה שקולה". מרגע שעושים שינוי בקוד, קל ככל שיהיה, הגרירה לא מתקיימת. אני אף הסכמתי ששינויים בקוד שמותירים על כנם את תחושתי ש"התוכנה זה אני" לא יחבלו בגרירה, אבל מרגע שהשינוי בקוד (קל ככל שיהיה, "נכון" ככל שיהיה) משנה את זה, אני כבר לא מסכים שהגרירה מתקיימת. |
|
|
|
|
|
|
||
|
||||
|
תגובה 149399 | |
|
|
| חזרה לעמוד הראשי |  |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |