 |
2899 |
 |
|||
 |
|
 |
|||
 |
|
| המאמר המלא |  |
פרסומים אחרונים במדור "פילוסופיה ומוסר"
|
| הצג את כל התגובות | הסתר את כל התגובות |
|
|
 |
||
|
||||
 |
"כדאי אולי שתציגו קודם את התרגום לעברית של שלונסקי – לא קראתי אותו בעצמי, אבל שמעתי שהוא מצוין" הוא דובר עברית? |
 |
|
 |
|
|
|
||
|
||||
|
כנראה לא, אחרת הוא כן היה קורא את שלונסקי. | |
|
|
|
|
|
||
|
||||
|
ובכל זאת, אני מאמין שיש לו איזה חיבור לזהות היהודית. הוא מזכיר בהקדמה (החדשה) לגא''ב את מלחמת יום כיפור כאירוע שהשפיע עליו מאוד. | |
|
|
|
|
|
||
|
||||
|
בספר "Le Ton beau de Marot" הוא מגדיר את עצמו כ-pilingual (דובר pi שפות). לדבריו, הוא למד עברית כחודש, וזוכר בערך כלום. | |
|
|
|
|
|
||
|
||||
|
איש מקסים ועמוק, עם אספקלריה מתמטית משהו לרעיונות בודהיסטים עתיקים. דומה לתפיסה הסוליפסיסטית כמעט שדוקינס או סוזן בלקמור נותנים על הנשמה, כמושג מטא-ממנטי. עם זאת, נראה שהוא חוטא באותה ביאס שבו הוא מאשים את קרצוויל ותומכי הסינגולריות. אם הם מחפשים אחר אורגזמה גיקית, אז הרי הוא נכסף אל העבר בנוסטלגיה אין קץ. תרגומים של ספרים עתיקים, ציטוטים עלומים בהקשר שנמוג לפני 100 שנים, ואזכורים תרבותיים שהם לפחות בני 30 שנים... חבל שהוא לא ביסס את התקיפה שלו על רעיון האל-מוות דרך החלפת מדיום על קרקע יותר מדעית, בינתיים לא הצלחתי למצוא ביקורת עניינית רלוונטית על הנושא. (מלבד הרס המקור, בהעלאה-משכפלת של הנשמה) על זה נאמר, הפוסל במומו פוסל... לולאה מוזרה :) |
|
|
|
|
|
|
||
|
||||
|
כשאתה שומר במוחך עותק של הנשמה של מישהו, יש חלק חשוב מאוד שאותו אתה בטוח לא שומר - את הלולאה המוזרה. בלי הלולאה, ע''פ הגדרתו של הופשטטר, אין טעם לקרוא לזה נשמה. | |
|
|
|
|
|
||
|
||||
|
אני לא בטוח שאני מסכים אם התאוריה של הופשטטר, אבל אנסה להגן על נקודת המבט שלו: הלולאה המוזרה נובעת מזה שלמוח יש סמל המייצג את עצמו (סמל ה"אני"). אם המוח משמש "מצע" ל"אני" אחר, הרי שהסמל של אותו "אני" (למשל, הסמל של קרול במוחו של דאגלס) מהווה את לב הלולאה במצב זה. ככל שההיכרות עם האחר עמוקה יותר, מדובר בסמל רחב ומפורט יותר. הוא אמנם לעולם לא מגיע לגודל ולהיקף של סמל ה"אני", אבל הוא יכול כנראה להוות לב של לולאה בפני עצמה. |
|
|
|
|
|
|
||
|
||||
|
אני דווקא מסכים עם האלמוני הראשון: כאשר אני מעלה בעיני רוחי אדם אחר, הזיית ה"אני" שמהווה את בסיס הלולאה לא מתקיימת, כלומר אין כאן לולאה (הזיה שהוזה את עצמה). הדרך היחידה להגיד שהלולאה כן מתקיימת היא למשל במקרה של משוגע שמאמין שהוא נפוליאון, וגם מספיק מכיר את נפוליאון המקורי בשביל שהוא יהווה מעין "עותק" דומה למקור. | |
|
|
|
|
|
||
|
||||
|
אבל כעת משאני מודע ללולאה, אני יכול בקלות לסמלץ גם אותה. עבור אנשים שאני מכיר טוב מספיק, אני יכול להעמיד פנים שאני הם ולנסות לחוות את העולם דרך הידע שלי עליהם (במידה מסויימת "לשחק" אותם, לנסות להיכנס לדמות). (מכל מקום אני לא מאמין בסוג כזה של אלמוות, או כמו שוודי אלן אמר : "I do not intend to live forever through my work, I intend to live forever by not dieing"). |
|
|
|
|
|
|
||
|
||||
|
אתה יכול להגיד לעצמך: "אני אדמיין שאני משה. מה משה היה עושה במצב כזה וכזה? איך הוא היה מרגיש\\\\מגיב?". אבל אתה בסה"כ עולה רמה אחת, אתה לא יוצר לולאה אינסופית. גם כשאתה "נכנס" לדמות אתה מודע למי אתה ומה אתה. אגב, אפשר לדבר על כך שמשה "חי" בצורה מסוימת דרך הסימולציה שלך. דמויות בדיוניות למשל "חיות" אך ורק בצורה כזאת (אתה יכול לדמיין איך ג'יימס בונד היה מגיב בסיטואציה מסוימת, למשל). אבל הלולאה המוזרה נעדרת מהמשוואה הזאת. דרך אחרת להסתכל על זה: אני יכול לדמיין לעצמי שמשפחתי, חבריי וקוראי האייל כולם הם רובוטים ללא מודעות עצמית שרק "מעמידים פנים" שיש להם מודעות עצמית(*) (כשם שאני יכול לתכנת תוכנית מחשב שתודיע לי שכואב לה, ואני אדע שהיא רק ביצעה שורת פקודות מכונה ולא באמת כואב לה). אני לא יכול לדמיין את זה שאני עצמי תוכנה שרק "מעמידה פנים" שיש לה מודעות עצמית. התפיסה שלי לגבי עצמי שונה מהותית מהתפיסה שלי לגבי אחרים, וזו "הלולאה המוזרה". --------------- (*) האמת, זה לא כ"כ משנה אם אלו מכונות או באמת אנשים. מבחינתי - יש רק אדם אחד שעבורו יש לי "הוכחה" שיש לו מודעות עצמית. לכל השאר אני מאמין רק משום שיש בזה הגיון שלהם יש מודעות דומה לשלי, ומשום שהם נראים מאד משוכנעים בעצמם. |
|
|
|
|
|
|
||
|
||||
|
:-) | |
|
|
|
|
|
||
|
||||
|
הוא אחד האנשים היותר מעניינים שפועלים כיום - וזה שראיינתם אותו והבאתם את זה לכאן - נו, זה באמת דבר מיוחד. | |
|
|
|
|
|
||
|
||||
|
בחיים שלי לא שמעתי על החתול הזה - איזו מן "פעילות" הוא מבצע חוץ מכתיבת ספרים? | |
|
|
|
|
|
||
|
||||
|
אני מנחש שהוא איננו פעיל בקבוצת הפוטבול של אוניברסיטת אינדיאנה. | |
|
|
|
|
|
||
|
||||
|
עצוב כמה אנרגיה משקיעים כמה ממיטב המוחות של העולם (ושל האייל) בסחרור השבלוני הזה. לא התרשמתי מה"אופטימיות" שלו. זו גישה אופטימית: http://www.daat.ac.il/daat/vl/nefesh/nefesh02.pdf |
|
|
|
|
|
|
||
|
||||
|
הרעיון כי המוח האנושי הוא "חומרה" והתודעה (mind) היא "תוכנה" אולי מושך סופרי מדע בדיוני ומדעני מחשב, אבל בסופו של דבר הוא די מגוחך, ולא מבוסס על שום דבר מלבד משאלות לב ופילוסופיה שטחית. כל נוירולוג יגיד לכם שאי אפשר להפריד בין השניים - המוח והתודעה הם אחד, ולכן הרעיון המד"בי של להעתיק את עצמך לכלי אחסון דיגיטלי אינו אפשרי. והרי פיזיקאים כבר חישבו ממזמן שמודל מדויק (או אפילו קרוב לכך) של המוח האנושי אינו אפשרי מבחינת כמות החומר הנדרש. |
|
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
ראשית, הנוירולוגיה לא עוסקת בשאלת המח והמיינד [ובפרט, גם אם יש איזו נגיעה בכך, היא לא מתמקדת בפן שאתה מתייחס אליו], כך שמה שיש לנוירולוגים להגיד בנושא, מעניין בערך כמו מה שיש לי ולך להגיד בנושא. שנית, לא הבנתי מה בדיוק בלתי אפשרי לדעתך [גם לא הבנתי מה הכנסת לפה את הפיזיקאים, אבל מילא] – מידול של המח או לחלופין יישום של מודל של המח בכלים של חומרה-תוכנה דיגיטלית? שים לב שכדי להגיד משהו על היתכנות השני, יש ראשית לבצע את הראשון. אתה מוזמן לספק הפנייה למודל כזה. |
|
|
|
|
|
|
||
|
||||
|
אפשר לקחת את הרעיון של הופשטטר גם לכיוון אחר: ככל שנפשו של אדם פשוטה יותר והוא דומה יותר לאנשים אחרים, כך קל לו יותר להיות בן אלמוות, מפני שחלקיו השונים נמצאים כבר כמעט כולם בראשם של אחרים. לכן, אסטרטגיית פעולה אפשרית להשגת אלמוות א-לה הופשטטר היא לנסות לחיות בדיוק כמו אלו שסביבך ולהזהר מלהיות מיוחד. קצת רדוד, אבל עובד :) |
|
|
|
|
|
|
||
|
||||
|
מבריק! | |
|
|
|
|
|
||
|
||||
|
זאת טענה מאד משונה. אני עצמי נושא על כתפי מודל מדוייק למדי של מוח אנושי, והוא תופס נפח של ליטר וחצי בערך. | |
|
|
|
|
|
||
|
||||
|
למיטב ידיעתי אצל יצוקים מהסוג הזכרי המוח אינו נמצא על הכתפיים. חוששתני שהתבלבלת. | |
|
|
|
|
|
||
|
||||
|
כשהמוח הגברי מגיע לליטר וחצי, הוא מפריע להליכה, ואין מקום טוב יותר להשעין אותו מאשר על אחת הכתפיים. | |
|
|
|
|
|
||
|
||||
|
הבנתי, תודה. אינפורמציה מעניינת. | |
|
|
|
|
|
||
|
||||
|
הכוונה היא למודל דיגיטלי, אשר פועל פחות או יותר כמו מחשבים בני זמננו. כביכול, המבנה המולקולרי כל כך מורכב עד כי יהיה צורך במספר לא אפשרי של טרנזיסטורים. אבל הטיעון הזה בעייתי מאוד, מכיוון שהוא מניח מראש שמודל פשוט יותר לא יעשה את העבודה... |
|
|
|
|
|
|
||
|
||||
|
עכש''י החלק החישובי של מוח מורכב מנוירונים שמתפקדים כרכיבים דיגיטליים, ואין סיבה טובה להניח שהשפעת האלמנטים הכימיים (נוירוטרנסמיטורים ודומיהם) לא ניתנת לסימולציה דיגיטלית פשוטה. | |
|
|
|
|
|
||
|
||||
|
באיזה מובן נוירונים מתפקדים כרכיבים דיגיטליים? | |
|
|
|
|
|
||
|
||||
|
או שהם יורים או שלא. | |
|
|
|
|
|
||
|
||||
|
אבל האם הם "או יורים או שלא" בתגובה לכך שנוירון אחר "ירה או לא"? כנראה שלא. נוירון יכול לירות בתגובה לכך שנוירון אחר ירה, לא ירה, ירה יותר מדי, או דווקא הפסיק לירות, שינה את קצב הירי - או סתם כך, ללא סיבה. | |
|
|
|
|
|
||
|
||||
|
ואתה רואה כאן קושי? | |
|
|
|
|
|
||
|
||||
|
אני רואה קושי, אבל אני לא יודע אם לסווג אותו ככמותי או איכותי. אולי זה פשוט משהו שעוד המון טרנזיסטורים יפתרו. (כלאמר - אין לי באמת דעה לגבי השאלה המקורית - אם ניתן או לא לסמלץ נוירונים בעזרת טרנזיסטורים. אבל ברור שזה לא יהיה "טרנזיסטור = נוירון"). |
|
|
|
|
|
|
||
|
||||
|
כל עוד השוויון יתקיים עד כדי פונקציה פולינומית במקדמים קבועים, המודלים שקולים בעיניי. | |
|
|
|
|
|
||
|
||||
|
נוירונים אכן או יורים או לא, אבל הם רחוקים מלתפקד כרכיבים דיגיטליים, כיוון שפונקציית ההסתברות הקובעת ירייה פרושה על גבי כ''כ הרבה משתנים אקראיים, שסימלוץ פונקציה כזו ידרוש הרבה מאוד משאבים, בלשון המעטה. | |
|
|
|
|
|
||
|
||||
|
כמה הרבה? כמה סינפסות מגיעות לכל נוירון? |
|
|
|
|
|
|
||
|
||||
|
לא נראה לי שזה רלוונטי לטענתו של המגיב הקודם, אבל משהו בין אחדות אלפים - תלוי במיקום, בחיה, בשלב ההתפתחותי. | |
|
|
|
|
|
||
|
||||
|
הרבה משתנים זאת שאלה אחת, דיגיטלי או לא זאת שאלה אחרת. לגבי המשאבים, כמה אלפי כניסות למיקרו-פרוססור פרימיטיבי הן לא משהו דמיוני, בטח לא לטכנולוגיה של העתיד הלא נורא רחוק. | |
|
|
|
|
|
||
|
||||
|
כבר היום עושים דברים כאלה (בסדר גודל של כ-10,000 נוירונים). פרוייקט שאפתני ושנוי-במחלוקת, בו לוקח חלק - בין השאר - המכון לחישוביות עיצבית באונ' ירושלים, הוא זה: |
|
|
|
|
|
|
||
|
||||
|
שנוי באיזו מחלוקת? | |
|
|
|
|
|
||
|
||||
|
מה הם בדיוק "מסמלצים" שם? | |
|
|
|
|
|
||
|
||||
|
עוד פקטור או שניים ואולי יתקבל מחשב שיוכל לעבור את מבחן טיורינג לג'וקים. | |
|
|
|
|
|
||
|
||||
|
אפילו זה לא. בהיעדר גוף, איזו פעילות תבונית הגוש הזה מתוכנן להפגין? | |
|
|
|
|
|
||
|
||||
|
התחמקות וירטואלית משממית חולות וירטואלית. | |
|
|
|
|
|
||
|
||||
|
מה עם פקטור 2000? כי זו התוכנית ל-3\5 השנים הקרובות. אבל באופן כללי, זה לא מחקר בבינה מלאכותית, ובינתיים אין כוונות לבחון את האינטליגנציה של המודל הזה. | |
|
|
|
|
|
||
|
||||
|
הקישורית שהבאת אומרת: "The Blue Brain project is the first comprehensive attempt to reverse-engineer the mammalian brain, in order to understand brain function and dysfunction through detailed simulations.". זה לא כולל אינטליגנציה? | |
|
|
|
|
|
||
|
||||
|
אני חושב שלא. המטרה היא לראות אם סימולציה מתמטית תניב תופעות ודפוסים שאפשר לזהות במוח. על הפונקציונליות שלהם כלל לא מדברים. המוטיבציה - לפחות בהתחלה - היא עימות התיאוריה (מודלים של התנהגות נוירונים ושל קישוריות ביניהם) עם המציאות. | |
|
|
|
|
|
||
|
||||
|
ומה על מודלים שמיושמים על גבי מחשבים שהם פחות דיגיטלים במובן הקלאסי, דוגמאת מחשב קוונטי: http://en.wikipedia.org/wiki/Quantum_computer | |
|
|
|
|
|
||
|
||||
|
סתם, לידיעה, יש נוירונים שלא יורים. הם נקראים graded response neurons ויש רבים מהם, למשל, ברשתית העין. אני דווקא מאמין שהכימיה קשה מאד לסימלוץ, הרבה יותר מהפעילות החשמלית, ושהיא לא פחות חשובה. א-פריורי לא ברור למה צריך כל כך הרבה סוגי כימיקלים שונים כדי לקודד ביט של מידע בינארי שצריך לעבור בין שני תאים. |
|
|
|
|
|
|
||
|
||||
|
עכש"י הם בהחלט יורים, אבל אני חובבן ואשמח אם תאיר את עיני. בעניין הכימיה: צריך לזכור שהמעבדים האורגניים לא התחילו את ההיסטוריה שלהם בתור יחידות עיבוד אלא בתור תאים "סתם", כך שהתכנון שלהם ודאי רחוק מלהיות אופטימלי. בסופו של דבר נוירון יורה או לא יורה בהתאם לכמות הקלטים שהוא מקבל (ואולי מצבו הפנימי, כמו אלה שהזכרת) ועל פניו זה לא צריך להיות קשה מדי לחיקוי. אבל אני באמת חובבן ומסתמך בעיקר על שברי מידע עממי כך שגם כאן אין לי התנגדות לקבל קצת מידע ו/או קישורים. |
|
|
|
|
|
|
||
|
||||
|
יש נירונים שלא יורים, אלא פועלים באופן רציף. הם ממוקמים בעיקר בחלקים המאוד ראשוניים של החושים, משום שהם לא יכולים להעביר ''שדר'' למרחק גדול, ומהירות ההולכה שלהם איטית. נוסף לכך, במקרים רבים מאוד הודגם, שיחידת המידע העיצבית היא לא ירי של נוירון או המנעות מירי, אלא קצב הירי. קצב הירי הוא לא בינארי, ולכן יותר קשה ליצוג. יש גם השפעות שאינן ''חשמליות'' בין נוירונים, פשוט כי הם קרובים אחד לשני. קצת חומר ''דולף'' לנוירונים קרובים, ומשנה את הרגישות שלהם לקלט. נוסף על הקושי הזה, פרמטרים נוספים, כגון טמפרטורה ונפח הדם שעובר באיזור, מאוד משפיעים על התנהגות הנוירונים (כנראה), וההשפעה הזאת לא ברורה עדין מספיק כדי למדל אותה בצורה רצינית. מעבר לכך, בגלל האופי המשתנה-תמיד של מוחות של יונקים (ומוחות בכלל), קשה מאוד למדל מוח כזה ברמת הנוירונים, וגם אם מצליחים (בהנחה שיש בכלל מבנה משותף שגם יגיד לנו משהו על המוח האנושי שהוא לא בנאלי לגמרי או ניתן למידול בכלים אחרים), התיקוף של מודל כזה הוא גהינום קטן. |
|
|
|
|
|
|
||
|
||||
|
תודה. | |
|
|
|
|
|
||
|
||||
|
תקשורת בין תאים, בגוף בכלל ובמוח בפרט, היא כמעט תמיד תהליך כימי ולא חשמלי - או לפחות לא *רק* חשמלי. הפולס החשמלי הוא, כפי שהסביר תומר, דרך יעילה להעביר מידע למרחקים ארוכים, אבל גם אז הפולס עובר לרוב בתוך התא, לא ישירות בין תאים. במילים אחרות, הפולס החשמלי משמש את התא בעיקר לצורך תקשורת פנימית, בינו לבין עצמו, ולא עם שכניו. בסינפסה שבין שני נוירונים יש בדרך כלל מספר כימיקלים שמשתחררים כשהמתח החשמלי בצד ה-"משדר" של הסינפסה עובר רף מסוים. לעתים קרובות משתחררים בו"ז חומר אחד שפועל לטווח קצר, של מספר מילי-שניות, וחומר אחר שהשפעתו ממושכת יותר - למשל, כמה מאות מילי-שניות. בצד השני, ה-"מקבל" של הסינפסה יש קולטנים מיוחדים שאליהם נקשר הכימיקל. אירוע הקשירה יכול לגרום לשינויים מגוונים בתא המקבל, שרק אחד מהם הוא כניסה של זרם חשמלי אליו. בנוסף, או אפילו באופן בלעדי, תתכנה השפעות מסוגים רבים אחרים. למשל, על הפעילות החשמלית העתידית של התא המקבל, או על מספר הקולטנים שהוא מייצר (יש בלאי של קולטנים), או על המבנה המרחבי של הקולטנים. רוב התרופות הפסיכיאטריות שנמצאות בשימוש משפיעות על פרמטרים כימיים של פעילות נוירונים. למשל, לסרוטונין יש שבע משפחות שונות של קולטנים, ותאים רבים משתמשים בקולטנים ממספר משפחות במקביל. מצד שני, במדעי המחשב צמחה אסכולה, החל ממחקריהם של McCullough ו- Pitts (למשל, http://en.wikipedia.org/wiki/Artificial_neuron ), שהתייחסה לנוירונים כיחידות חישוביות לא-ליניאריות. אני מניח שכבר אז היה ידוע שזו הפשטה גורפת, והיום כבר לא מקובל להשתמש באלמנטים האלו מפני שהקשר בינם לבין תאים אמיתיים הוא קלוש. לכל הפחות, ניתן לקרב התנהגות חשמלית של נוירון על ידי מערכת דינמית לא ליניארית שיש לה לא מעט פרמטרים, כמו במשוואות של Hodgkin ו- Huxley (לינק: http://en.wikipedia.org/wiki/Hodgkin-Huxley_model ). בכל מקרה, האנלוגיה המחשבית של נוירון כ-"יחידת עיבוד" לדעתי כבר אינה תופסת והיא התגלתה - עכש"י - כמטאפורה לא כל כך פוריה בחקר המוח. מצד שני, כבר שנים רבות שהיא מפרנסת בכבוד את אנשי ה- AI, ולכן כנראה שיש בה תועלת כאלמנט חישובי. |
|
|
|
|
|
|
||
|
||||
|
לא הבנתי למה זה משנה אם המסרים הם כימיים או חשמליים ? אם מסר כימי עובר בין שני ניורונים, למה אי אפשר לסמלץ את שני הניורונים והמסר הכימי שעובר ביניהם בעזרת משהו אחר ? | |
|
|
|
|
|
||
|
||||
|
בעקרון, אפשר לסמלץ כל דבר. אבל הידע שיש לנו היום רחוק מלאפשר סימולציה כזו. בין היתר, יש דיפוזיה של חמרים בין סינפסות קרובות, בתוך ומחוץ לתא, מה שמכניס לבעיה אלמנט מרחבי (של מיקומים ומרחקים) שלא קיים בגרסאות החישוביות הישנות יותר של רשתות נוירונים, ומסבך את המשוואות. באופן כללי, המוח אולי איננו שונה כל כך ממושבה ענקית של יצורים חד תאיים (או אולי מאוסף של מושבות כאלו), שכל אחד מהם מסתגל לסביבה כמיטב יכולתו ובתוך כך גם משנה אותה במעט. אפילו קורס בסיסי בביולוגיה של התא מבהיר את העובדה שתא בודד הוא מערכת בעלת סיבוכיות אדירה, שיכולות ה-''חישוב'' שלה הן (בפוטנציה) מורכבות מאד, ושלסמלץ נוירון כיחידת עיבוד שמבצעת סכום משוקלל ואחריו הפעלת סף קולע לאמת בערך כמו לסמלץ אדם כמשהו שקולט חמצן ופולט דו תחמוצת הפחמן. |
|
|
|
|
|
|
||
|
||||
|
ראשית, תודה על המידע. לא הכרתי את המודל של Hodgkin-Huxley. שנית, מה שהלא-חרדי אמר. מבחינה חישובית יש אות חשמלי שמתרוצץ בכל מיני שערים לוגיים, והפיזיקה/כימיה לא אמורה לשנות כלום. שלישית, קצת מצחיקה הטענה "...גם אז הפולס עובר לרוב בתוך התא, לא ישירות בין תאים. במילים אחרות, הפולס החשמלי משמש את התא בעיקר לצורך תקשורת פנימית, בינו לבין עצמו, ולא עם שכניו" - זה כמו להגיד שהפולס החשמלי שעובר בתיל בין שני מחשבים משמש בעיקר לצורך תקשורת פנימית של התיל. |
|
|
|
|
|
|
||
|
||||
|
אני ניסיתי להסביר שהעובדה שהאות עובר באופן חשמלי בתוך התא ואז מומר לאות כימי לצורך תקשורת עם תאים שכנים איננה תוצאה רנדומית של האבולוציה, אלא משקפת משהו חשוב לגבי אופי התקשורת בין תאים בגוף כלל ובמוח בפרט, ושלעובדה שתאים מדברים ביניהם בשפה כימית ולא חשמלית יש חשיבות רבה להבנת פעולת המוח. אולי לכן לא הבנתי את האנלוגיה לתיל בין מחשבים. האם הטענה היא שהסיגנל ב- interface בין התיל למחשב אינו חשמלי? |
|
|
|
|
|
|
||
|
||||
|
לא, הטענה היא שהמנגנון הספציפי להעברת המסר מתא לתא אינו בעל משקל לפעילות החישובית (אם כבר, הוא מפריע: הוא מאט אותה בהרבה). ברור שזאת לא טענה שאני יכול באמת להגן עליה, אבל הייתי מציע התערבות אם הייתי מאמין שאהיה בסביבה עוד איזה 50-100 שנה. אני אפילו מוכן לנחש שהמנגנון המשונה להעברת פולסים נובע מאילוצים אבולוציוניים ואזלת ידו של תהליך הברירה הטבעית לחפש אקסטרימום לא מקומי במרבית המקרים: מאחר והתקשורת המקורית בין תאים (או בין החד-תאיים לפניהם) היתה על בסיס כימי, נשארנו תקועים עם המרווחים הסינפטיים הבלתי יעילים האלה וכל הלוגיסטיקה המסובכת של נוירוטרנסמיטורים וקולטנים. מן הסתם אלוהים לא יודע להלחים. גם במקרה הזה חוששני שתוחלת החיים שלי לא תאפשר לי לדעת אם אני צודק. אבל אולי הלולאה המוזרה שאני משאיר אחרי באייל עוד תזכה לתגובה "ואללה, צדק השוטה" כאשר ניניך ישוטטו כאן. |
|
|
|
|
|
|
||
|
||||
|
צר לי לאכזב אותך. אחת מצורות התקשורת בין נוירונים היא הסינפסה החשמלית, שהיא פשוט "מנהרה" קטנה שמחברת פיזית בין שני תאים, כך שהאות החשמלי עובר ישירות מתא לתא בלי להיות מתורגם לשפה כימית. למרבה הצער, המנגנון הזה (כנראה) פחות מפותח מזה הכימי וגם פחות יעיל ומגוון ממנו. למשל, בסינפסה כימית יש לעתים קרובות מעורבות של סוג נוסף של תאים, שנקראים תאי glia (ביוונית: דבק, כמו glue, מפני שלא ידעו מה בדיוק תפקידם והניחו שהם משמשים מעין תאי תמיכה שמספקים מרקם, שבתוכו הנוירונים גדלים). בסינפסה כזו, שמשתתפים בה שני נוירונים ותא גליה, כל הצדדים משחררים חמרים שונים ומשפיעים זה על זה. מצד שני, בתאי גליה אין בכלל פוטנציאל פעולה והמתח החשמלי שלהם משתנה באופן רציף בתוך טווח לא גדול. וזו רק דוגמה אחת לגמישות שמאפשר מנגנון כימי ושקשה להשיג ע"י חיבור חשמלי ישיר. ועוד משהו, לעניין מהירות החישוב: הייתי מהמר שהאילוץ העיקרי על אורגניזם גדול כמו אדם הוא מהירות התנועה, לא מהירות החישוב. השרירים איטיים מהנוירונים בכמה סדרי גודל, כך שכל עוד יש הולכה מהירה של סיגנלים מהגוף אל המוח ובחזרה (וזה קורה בערך במהירות של 100 מ' לשניה), מהירות העיבוד בתוך המוח - שהיא מסדר גודל של כמה מאיות שניה - פחות קריטית. ועוד משהו, אפילו יותר כללי: מניין בכלל הרעיון שהמוח עושה פעילות "חישובית"? כלומר, אני מדמיין את מהלך המחשבה בערך כך: - המוח פותר בעיות מורכבות - מחשב פותר בעיות מורכבות לכן המוח הוא סוג של מחשב! אני משאיר לקורא את התענוג למצוא עוד היקשים מסוג זה. בין הפותרים לא נכונה תוגרל (ערכת הכנה לבחינה פסיכומטרית?) |
|
|
|
|
|
|
||
|
||||
|
הלך המחשבה הוא יותר משהו כזה: המוח פועל על בסיס חוקי הפיסיקה. חוקי הפיסיקה מוגדרים על ידי משוואות. מחשבים יודעים לפתור משוואות. לכן התנהגות המוח ניתנת לתאור על ידי חישוב. כמובן שהעצלנים בינינו יגידו גם לא צריך לתאר את כל הפיסיקה של המוח כדי לקבל את התנהגות המוח. לכן אפשר להזניח חלק מהמנגנונים היותר עדינים של העברת האותות במוח. על ידי כך אפשר לפשט את המשוואות הפיסיקליות הדרושות לתאור המוח. אחרי הפישוט הזה אנו מגלים משוואות שמאוד דומות לפעילות חישובית. איננו יודעים אם הקירוב שנעשה שומר את כל האינפורמציה הדרושה כדי לתאר את החלק ה"תודעתי" של המוח, אבל אם לא, נחזור להלך המחשבה הקודם. |
|
|
|
|
|
|
||
|
||||
|
הורסיה הראשונה אולי נכונה עקרונית, אבל נראית לי חסרת רלוונטיות למחקר הבינה המלאכותית, גם זה שנעשה בפועל וגם זה שמדומיין ברצינות - כולו מתבסס על הורסיה השנייה. סימולציה ממוחשבת אטום-אטום היא בלתי אפשרית מעשית למערכות גדולות, גם פשוטות הרבה יותר מהמוח (מטוס, רולטה). כך שסיום התגובה של צריך להיות ''אם לא, נחזור להלך המחשבה הקודם, ובדרך נסגור כמה קתדרות במדעי המחשב.'' | |
|
|
|
|
|
||
|
||||
|
מכיוון שרוב ההתנגדויות שהופיעו כאן היו מהכיוון העקרוני פניתי לטענה עקרונית. בעניין של התנגדויות פרקטיות, אני דווקא עם הספקנים. לדעתי הבעיה היא לא מחסור במחשבים מהירים אלא מחסור בהבנה של מה צריכים המחשבים הללו לעשות. | |
|
|
|
|
|
||
|
||||
|
''אחרי הפישוט הזה אנו מגלים משוואות שמאוד דומות לפעילות חישובית'' - לא ממש. בעצם - ממש לא. המצב הוא יותר כזה, שרואים במוח ערב רב של פעילויות חשמליות של המוני תאים שפעילים במרץ ביו אם החיה ישנה, אוכלת, או מנווטת במבוך, וממש לא ברור מה כל תא עושה, ואפילו - לגבי חלקים לא קטנים במוח - מה אזור שלם עושה. אחת הבעיות היא שיש רמה גבוהה של קישוריות, וגם מידה מסוימת של גיבוי הדדי, בין אזורים שונים וקשה לגלות מהי חלוקת העבודה ביניהם. בעצם, די מדהים שמנסים לפתח מודלים של תודעה כאשר עדיין אין הבנה טובה אפילו לגבי מנגנון הפעולה של מוחו של זבוב (למשל, יהיה נחמד להסביר כיצד הוא יודע להבדיל בין ריחות דומים). |
|
|
|
|
|
|
||
|
||||
|
אני לא מסכים. לא ברור לשם מה תאים עושים את מה שהם עושים אבל בהרבה מיקרים יודעים *מה* הם עושים (לפחות בקווים כללים). לזיכרו של דניאל עמית שנפטר בשבוע שעבר: בעניין הזבוב אני מסכים איתך, אבל לדעתי זה עניין של אופנה. |
|
|
|
|
|
|
||
|
||||
|
זו באמת דוגמה פנטסטית לפוריות שבמחקר אינטר-דיסציפלינרי. מצד שני, אין שום הוכחה שיש קשר ממשי בין המודלים האלו לבין מה שהמוח עושה. בוודאי שהמודלים עוזרים לנו לחשוב על הסברים אפשריים לתופעות שונות בפעולת המוח, אבל - למיטב ידיעתי - אין אפילו ניסוי אחד שתוצאותיו מוסברות על ידי מודל חישובי שכזה, באותו אופן שבו הדבר נעשה בפיזיקה או בתחומים מסוימים בביולוגיה, כלומר שאפשר לקבל מספרים מהמודל ומהניסוי ולהשוות אותם אלו לאלו כדי לאשר או להפריך תאוריה. |
|
|
|
|
|
|
||
|
||||
|
נדמה לי שכבר סיפרתי כאן שהייתי פעם בהרצאה של אדם שמידל את כל 500 הנוירונים של רכיכה כלשהי וגילה שמספר מסוים של נוירונים יצרו מעין תבנית מחזורית של יריות. כשבאו לראות למה מחוברים הנוירונים הללו התברר שהם היו קשורים לתנועת הזחילה של היצור. משמע, יש תוצאות נסיוניות שמוסברות על ידי מידול כזה. אני מניח שיש עוד. | |
|
|
|
|
|
||
|
||||
|
כנראה שאנחנו מסכימים כאן. לגבי יצורים פשוטים מאד, תתכנה בהחלט תוצאות מעניינות כתוצאה ממידול. אבל הנסיון לדלג ישר אל המוח האנושי (או אפילו לזה של יונקים) נראה לי חסר סיכוי. אפילו את הנוירונים של אותה תולעת עדיין לא ממש מבינים, שלא לדבר על חלזון, זבוב או דג. העובדה שמשקיעים כ''כ הרבה אנרגיה במידול של תהליכים קוגניטיביים ''גבוהים'' לפני שמבינים מעגלים נוירונליים בסיסיים נראית לי כבזבוז זמנם היקר של חוקרים. והסיבה היא לא רק אופנה - אלא בעיקר חלוקה גרועה של תקציבי מחקר, שנובעת - לדעתי - מהלחץ למצוא תרופות במהירות. זה חבל, מפני שלדעתי המטרה הזו לא תושג באופן שבו פועלים היום. | |
|
|
|
|
|
||
|
||||
|
חסר סיכוי באופן פרקטי, אבל לא חסר סיכוי באופן עקרוני. עוד לא התגלה חוק טבע המונע זאת (אני לא מקבל כרגע את הטענות שמשפטי גדל או קרובים שלהם קשורים לבעיה). | |
|
|
|
|
|
||
|
||||
|
אני לא מקבל את המשפט הזה. חוקי הפיסיקה ללא ספק מגבילים את התחום שבו פועל המוח אבל לבטח אינם מספיקים כדי לתאר את פעולתו. לדוגמא המילה ''רוח'' שקולה תרמודינאמית למילה ''חור'' אבל לבטח אינה מתארת אותו דבר. שום הסבר פיסיקאלי לא יוכל להסביר את ההבדל במשמעות בין שתי המילים הללו. |
|
|
|
|
|
|
||
|
||||
|
ההבדל במשמעות נובע מכך שכאשר נושבת רוח היא משמיעה קול דומה ל"רוח" ולא ל"חור". זה לא משהו פיזיקלי בעיניך? | |
|
|
|
|
|
||
|
||||
|
"המילה "רוח" שקולה תרמודינאמית למילה "חור" " מה זאת אומרת "שקול תרמודינמית"? איך התרמודינמיקה חלה על מילים? |
|
|
|
|
|
|
||
|
||||
|
בדיוק זו הנקודה. חוקי הפיסיקה אינם מחוללים מילים, אבל מערכות תקשורת מבינות מילים או קודים אחרים. אפילו מנגנון טפשי כמו, נניח שלושה סרגלים ובהם חורים שברגע שהם זזים זה כלפי זה ויוצרים חור אחד, שמאפשר לפין ליפול ועל ידי כך מאפשר נניח לכדור כבד להתגלגל במורד מדגים מצב שבו מערכת מצייתת לחוקי הפיסיקה אבל אין די בחוקי הפיסיקה להסביר את פעולתה. |
|
|
|
|
|
|
||
|
||||
|
מדוע לא? | |
|
|
|
|
|
||
|
||||
|
חזור לאחור שתי תגובות - בין שתי המילים ''חור'' ו ''רוח'' מבחינה פיסיקאלית אין שום הבדל. מבחינת המשמעות הבדל גדול. רציתי להדגים שהדבר איננו אופייני רק למילים כתובות אלא אפילו למערכת פיסיקאלית פשוטה ביותר. מערכת מצייתת לחוקי הפיסיקה של מרכיביה, אבל האופן שבו הם מורכבים יוצר תכונות מערכת נוספות שאינן נגזרות מחוקי הפיסיקה ומתכונות המרכיבים של המערכת אלא מהאופן והסדר שבו הם מורכבים. למען האמת, לי זה נראה די בנאלי... |
|
|
|
|
|
|
||
|
||||
|
אני לא רואה שום דבר לא פיסיקלי במערכת שהבאת. מדוע הסדר והתזמון אינם תכונות פיסיקליות? (יש לי הרגשה שאנחנו מדברים על מושגים שונים במילה "פיסיקלי"...) | |
|
|
|
|
|
||
|
||||
|
פיסיקה לא מדברת רק על ממה הדברים מורכבים (יש הבדל פיזיקלי בין המילים ''חור'' ו''רוח''). לא רק הרכב נובע מחוקי הפיזיקה אלא גם סדר וגם ''האופן שבו דברים מורכבים''. זה אולי די בנאלי מה שכתבת בתגובות האחרונות, אבל זה גם בנאלי וגם פשוט לא נכון. | |
|
|
|
|
|
||
|
||||
|
אני חושב שאתה מפספס את הנקודה שלי. אינני מדבר על רוח בניגוד לעולם פיסיקאלי אלא על תכונות מערכת. זה גם בנאלי וגם נכון שלמערכת תכונות שהן יותר מסך כל המרכיבים שלה. בודאי שיש הבדל בין רוח לחור. יש הבדל גם אם אלה מילים שנאמרות, נכתבות על נייר או במחשב. עדיין הנקודה החשובה היא המשמעות של המילים במערכת שמסוגלת לפענח את המשמעות שלהן ולא החומר מהן הן מורכבות בתווך נתון. |
|
|
|
|
|
|
||
|
||||
|
נראה לי שדווקא אתה מפספס את הנקודה של אביב. המערכת המפענחת היא מן הסתם מערכת פיזיקלית, כמו גם הסימנים עליהם היא עובדת. אמנם ניתן אולי לתאר אותה בצורה חסכונית יותר תוך שימוש במושגים גבוהים יותר, אבל זה לא אומר שרדוקציה לחוקים פיזיקליים איננה קיימת. למעשה, מקובל לחשוב כי ברוב המוחלט של המקרים הרדוקציה *כן* קיימת, והויכוח נסוב על מקרים גבוליים לכאורה, כמו נפש של ייצור תבוני וכו'. |
|
|
|
|
|
|
||
|
||||
|
אני לא מפספס שום נקודה. אני לא טוען את העמדה הפיסיקליסטית (שאם מקבלים אותה אז האימרה "למערכת תכונות שהן יותר מסך כל המרכיבים שלה" היא חסרת משמעות). אני טוען שהיומרה שלך לטעון שיש בידך פתרון (ועוד פתרון בנאלי!) שמכריע אחת ולתמיד בסוגיות העתיקות הללו, הוא אידיוטי. |
|
|
|
|
|
|
||
|
||||
|
תודה על הניסוח העדין. קטונתי כמובן מלהתמודד עם טענות כל כך חזקות. הרעיון של ''תכונות מערכת'' כמובן איננו שלי, כמו גם הרעיון שלא ניתן להסביר תופעות ברמות גבוהות על ידי רידוקציה לרמות הנמוכות. אינני חושב שטענתי שיש בידי פתרון אחת ולתמיד. מה שטענתי היה שאין טעם לנסות להסביר תופעות ברמה גבוהה על ידי תכונות של חלקי היסוד של המערכת. נדמה לי שהיה זה ישעיהו לייבוביץ' שטען שלא ניתן על ידי תיאור פיסיקאלי של האוטובוס והכביש לתאר את הקו לירושלים. אגב, הדוגמא של טענות שנטענות בכתב או בע''פ באנגלית או בגרמנית היא של ג'ון סירל. הרעיון של הבדל בין מערכת פיסיקאלית ממוצעת לבין מערכת של סימנים בדידים היא של סטיבן פינקר, הרעיון של היות כל מערכת מידע מערכת אנלוגית פיסיקאלית ובעת ובעונה אחת גם מערכת דיגיטלית של מידע היא של קלאוס ואמך. יכולתי להזכיר עוד כמה עשרות חוקרים ופילוסופים בתחום אבל זה לא ממש רלבנטי לדיון. אבל בכל מקרה נראה לי שהדיון הזה מיצה את עצמו, למרות שלא ברור לי מהיכן גסות הרוח. אני לא מתכוון לשוב עליו. |
|
|
|
|
|
|
||
|
||||
|
הטענה שלא ניתן (עקרונית) להסביר תופעות ברמה גבוהה על ידי תכונות של חלקי היסוד של המערכת היא טענה שניתן לנהל עליה ויכוח מעניין ופורה. אכן אנשים רבים (חלק מהם מופיעים ברשימתך) טענו טענות מחזקות ומחלישות לגבי טענה זו. ההכרעה לגבי השאלה הזאת (למרות שאם לא היתה לי ברירה הייתי ''שם את הכסף'' על עמדה שיותר קרובה לזו שלך מאשר לזו של שכ''ג) היא לא בנאלית לא טריוויאלית ולא צריכה להיות ברורה לכל בר דעת. גסות הרוח נבעה מהמשפט המיותר ''למען האמת, לי זה נראה די בנאלי...''. |
|
|
|
|
|
|
||
|
||||
|
תודה! הבנתי. |
|
|
|
|
|
|
||
|
||||
|
אני מצטער אבל אני לא מצליח להבין למה זה שהמילה חור אינה זהה למילה רוח קשור לכך שאפשר (או אי אפשר) לבנות חיקוי ממוחשב של הפעולות של מוח ביולוגי. בנוסף לכך, אם כבר אנו מדברים על תרמודינמיקה, מבחינה כימית חומרים שונים מורכבים מאותם אטומים, ממש כמו שמילים שונות מורכבות מאותם אותיות. | |
|
|
|
|
|
||
|
||||
|
טוב, כל יום לומדים משהו חדש ושוכחים שניים ישנים. אני לא בטוח עד כמה תאי glia באמת חשובים, ויש לי גם ספקות רציניים לגבי הטענה שלך בדבר הצורך בחישובים מהירים, אבל אולי כדאי שאפסיק לקשקש על דברים שאני לא יודע עליהם הרבה. לא הבנתי את התמיהה שלך בקשר לפעילות החישובית. אם אתה יודע כמה הם 2+2, המוח שלך עושה (גם?) פעילות חישובית. |
|
|
|
|
|
|
||
|
||||
|
בוודאי. אבל לומר שהאבולוציה הביאה למיקסום של יכולתנו לבצע חישובים מתמטיים? זו נראית לי טענה קצת מוגזמת, בהתחשב בקושי שהיה לרוב האנשים לחשוב באופן לוגי (במובן המתמטי, לא במובן של common sense) עד לפני 2,500 שנה, בערך. אולי המוח עושה בעיקר פעילות לא חישובית? |
|
|
|
|
|
|
||
|
||||
|
מי דיבר על מיקסום? אישית אני חושב שהשיטות המוחיות רחוקות מאד ממיקסום (אבל אולי אינטרוספקציה היא לא הכלי המתאים). מאחר והמוח צורך המון אנרגיה, מה שהוא עושה חייב להיות בעל תועלת גבוהה להצדקת המחיר. יש לך איזה רעיון לפעילות לא חישובית שאולי המוח עושה? |
|
|
|
|
|
|
||
|
||||
|
OK פעילות חישובית זה גם לכוון כידון ולהטיל אותו, או לנסות לצפות מה אתה יכול לומר מבלי שהשבט ירגום אותך באבנים. (נגיד). והפעילות החשמלית מהירה הרבה יותר ולכן יעילה יותר. ולכן, אם אני מבין, אתה מהמר עליה בתור העיקר (הניתן לסימלוץ). אבל - א בעוד במקרה הראשון (הכידון) חישוב מהיר הוא היעיל ביותר מה גורם לך להאמין שכך גם בשני? ב בערך אותו הדבר - מי אמר שמוח לא מכין "מודלים כימיים" מראשת לחישוב מהיר (חשמלי) בזמן אמת? כלומר, מצב בו רוב ה"חשיבה" וההסקה מניסיון נעשית באופן איטי וכימי\צורני\השד יודע? |
|
|
|
|
|
|
||
|
||||
|
ובכן, הפקפוק שלך הוא לא בקשר לחישוב עצמו אלא בקשר לאופיו הדיגיטלי. | |
|
|
|
|
|
||
|
||||
|
אל"כ, אבל הפקפוק שלי נוגע לגבול בין "חישוב" לבין "חיים". כלומר, האם יש פעולה כלשהי של יצור חי כלשהו (למשל, חיידק) שאיננה מוגדרת כחישוב, או שאין בה חלק חישובי? | |
|
|
|
|
|
||
|
||||
|
אם תשאל את וולפראם, הכל חישובי - לא רק החיים. הקוסמוס אינו אלא מכונת מצבים שמחשבת כל רגע את המצב הבא שלה. אני לא רואה את החשיבות הגדולה של המינוח, ולצרכים שלנו חושבני שאפשר להסכים לקרוא "תהליך חישובי" לתהליך שהחישוביות היא הסיבה לקיומו, לא תוצא שלו. לכן שתי כבשים שיוצאות למרעה אינן מחשבות את הפעולה החישובית 1+1, אבל ילד שמסתכל עליהן וקורא "אמא, תראי שתי כבשות" ביצע את החישוב (הוא ביצע, כמובן, עוד המון חישובים - לפחות אחד מהם שגוי - כדי להפיק את המשפט הזה). | |
|
|
|
|
|
||
|
||||
|
נדמה לי שאנחנו מסכימים שהילד אכן מבצע חישוב של 2=1+1. ומה לגבי הכבשים? האם כל מה שהן עשו בעת שהלכו למרעה צריך גם הוא להקרא פעולה חישובית? כלומר, האם המוח שלהן עשה חישובים? האם השרירים עשו חישובים? והנה לינק חמוד: http://www.ifi.unizh.ch/ailab/people/lambri/mitbook/... וגם שאלה: האם הרובוט המתואר בלינק הזה (שניתן לבנות אותו בדרכים רבות ושונות) מבצע פעולה חישובית? |
|
|
|
|
|
|
||
|
||||
|
השרירים לא עושים חישובים, אבל ברמה העקרונית אתה יכול לבטא את המצב שלהם בכל רגע נתון באופן מתמטי, ואתה יכול לבטא מעברים בין מצבים נתונים בעזרת פונקציות מתמטיות. מכאן נובע שאתה יכול לכתוב תוכנה שמסמלצת פעולת שרירים. | |
|
|
|
|
|
||
|
||||
|
התוכנה תסמלץ מודל של פעולת שרירים. | |
|
|
|
|
|
||
|
||||
|
נכון. אם תחבר את התוכנה לרובוט שיכול לבצע פעולות דומות לאלו שיכול שריר אנושי לבצע, תקבל סימולציה מלאה של שריר. אם תחיל את אותו העיקרון על מוח, תקבל אינטלגנציה מלאכותית. |
|
|
|
|
|
|
||
|
||||
|
שלשום הוצג בטלביזיה בערוץ שמונה בדיוק זה - רובוט שמניע את זרועו לפי הפקודות במוח של הקוף. בנקודה מסויימת הקוף תפס שהוא אינו צריך להזיז את זרועו ומספיק לו להפעיל את הרובוט בעזרת פקודות מוחו. הדיון הזה מתקיים בערוץ שמונה (תוכנית של ה BBC כמובן) במקביל לדיון כאן. האומנם צירוף מקרים? קוונטי? |
|
|
|
|
|
|
||
|
||||
|
איך חיברו את הרובוט לקוף? | |
|
|
|
|
|
||
|
||||
|
לא שמתי לב לפרטים. התרגיל היה בערך כך שנתנו לקוף לשחק במין משחק שהוא צריך באמצעות ג'וי סטיק לכוון נקודת אור למטרה שזהה כל הזמן. במקביל הוא היה מחובר לרובוט שביצע את אותן תנועות שביצע הקוף. בשלב מסויים הקוף הפסיק להזיז את הג'וי סטיק שבידו ורק הרובוט המשיך לעקוב אחרי המטרה. אגב, באותה תוכנית הראו מכונה שמנסה להפיק קולות ממוחו של אדם משותק לחלוטין. האדם אמור לחשוב על נניח ''מווו'' והמכונה מפיקה את הצליל ''מווו''. |
|
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
ושם: דיון 2366 | |
|
|
|
|
|
||
|
||||
|
תודה! נכנסתי לאתר של האייל הקורא לפני שנתיים במסגרת חיפוש חומר ללימודים ויש הרבה דיונים שאינני יודע על קיומם. את הדיון על המוח גיליתי למחרת כתבתי את תגובתי. אני רוצה לציין את המשפט הבא מתוך המאמר: "שלא כמו הקופים, נייגל יכול לספר על חוויותיו. על מה הוא חושב כשהוא מזיז את סמן המחשב? "בהתחלה הייתי חושב על להזיז את העכבר בעזרת היד", הוא עונה בראיון למגזין Wired; "היום אני פשוט מדמיין שאני מזיז את הסמן ממקום למקום". במובן מסוים, המחשב נהפך לאחד מאיברי גופו של נייגל." לסטיבן פינקר יש דיון ארוך בשאלה אם ניתן לחשוב ללא מילים. אני חושב שדי ברור שאפשר - למשל כאשר אנחנו נוהגים אנחנו מגיבים תגובות רציונאליות (כלומר תגובות של שיקול דעת, לא אינסטינקטיביות!) בלי שנעביר את שיקול דעתנו דרך המסננת של המילים קודם לכן. נדמה לי שהעיבוד למילים נעשה במקביל ובאיחור מה. מורה שלי, יונה פינק ז"ל, יצר את המושג "דיאגוניזם" שהוא המתח הפנימי שבין הצורך לאובייקטיביזציה על ידי תרגום למילים של מה שאני חש לבין חיסולו של המצב הסובייקטיבי על ידי עצם ההגדרה (לעצמי!). |
|
|
|
|
|
|
||
|
||||
|
מעניין, כמו לוולפראם גם למרצה כאן (Seth Lloyd) יש מין צחוק עצבני מאנפף, במיוחד כשהוא צוחק מהלצות שלו עצמו. סוג של בדיחה קוסמית, אני מניח. | |
|
|
|
|
|
||
|
||||
|
לא יודע כמה היה להם קשה, ועד כמה פשוט לא היה להם את הצורך והזמן להתעסק בכך, או את החשק והיכולת לתעד את מסקנותיהם. | |
|
|
|
|
|
||
|
||||
|
שוב הטעות הזאת שמבוססת על משחקי מילים? פעילות חישובית איננה (רק) ביצוע פעולות חשבוניות. | |
|
|
|
|
|
||
|
||||
|
אז מה זו פעילות חישובית? | |
|
|
|
|
|
||
|
||||
|
Computation ולא Calculation |
|
|
|
|
|
|
||
|
||||
|
הבנתי שזה קשור איכשהו לעיבוד אינפורמציה. אבל אני עדיין מחכה לדוגמה לפעולה כלשהי של יצור חי שאיננה כרוכה בעיבוד אינפורמציה. זה יכול גם להיות יצור חי חסר מוח, אם תרצה - למשל חיידק. | |
|
|
|
|
|
||
|
||||
|
זה ממש לא חייב להיות קשור לעיבוד אינפורמציה. כל דבר שאנחנו יכולים לתאר כתהליך של שרשרת סיבה=>תוצאה (גם תהליכים ביולוגיים בהם אנו מתארים שרשראות של מצבים, אינטראקציות כימיות והגעה למצבים חדשים) הוא תהליך ששקול ל"תהליך חישובי". אין שום דבר מיוחד (בהקשר זה) במה שמחשבים דיגיטליים עושים. אני מתנצל, אבל אני לא יכול לעזור. לטעון שיש בכלל פעולות כאלה בטבע (ביצורים חיים או לא) זו טענה לא טריוויאליות. עליך להמשיך לחכות. אני לא רואה דרך טריוויאלית לסתור את הטענה שניתן לסמלץ (בתאוריה) את הטבע כולו באמצעות מכונת טיורינג (למרות שתחושת הבטן הבלתי מבוססת שלי היא נגד הטענה הנ"ל), ולכן אני לא רואה גם דרך לסתור זאת לגבי המוח האנושי. |
|
|
|
|
|
|
||
|
||||
|
זו היתה אחת התמיהות הגדולות של דארוין עצמו מהיכן האדם רכש כל מיני מיומנויות שאין להן שום קשר לשרידות. | |
|
|
|
|
|
||
|
||||
|
עדכון מעניין למדי בשאלה זאת באתר הידען (ההרגשה שלי אומרת שהעניין יופרך, אבל סביר שהיא לא מבוססת על שום דבר מעבר ל confirmation bias). | |
|
|
|
|
|
||
|
||||
|
וברגע שמתברר (כמו שכבר נכתב כאן כמה פעמים) שמנגנוני הפעולה של המוח הם אנלוגיים ולא דיגיטליים, זה עשוי מאד לסבך את הסימולציה. המודל המוקצן של זה הוא סימלוץ כל אטום ומולקולה במח, שזה כמובן הרבה הרבה יותר מסובך מסמלוץ נוירונים דיגיטליים תיאורטיים. | |
|
|
|
|
|
||
|
||||
|
המרואיין לא אוהב את הרעיון שיצורים כאלה יווצרו, אבל הוא מאמין שבסופו של דבר זה יקרה. אני, הקטן, לעומת זה, לא מאמין שמישהו ממש מבין מה זה בכלל "יצור תבוני" מלאכותי, וכן מאמין שחוסר ההבנה הזאת תישאר לעד, וממילא גם אם יוצג איזה "הל" כזה, תמיד אפשר יהיה לחלוק על הקביעה שאכן מדובר ב"יצור תבוני". אני גם חושב שהשאיפה להתקרב לדבר כזה, כשלעצמה אינה מקדמת את האנושות. תפקידן של המכונות לעזור לנו, ולהקל על חיינו, ולא להחליף אותנו, והמרץ שלנו צריך להיות מושקע בכוון בניית מכונות שעוזרות לנו. אם לפעמים, כדי להשיג את המטרה הזאת בונים משהו שמחקה אותנו במשהו מסויים, כי זו הדרך הטובה ביותר להשיג זאת, זה בסדר, אבל החיקוי כשלעצמו לא צריך להיות המטרה. כדי להסביר את החלק השני של דבריי אביא דוגמא דווקא מהעולם המכני ולא ה"תבוני". תעופה היא בודאי דבר שמאד קידם את האנושות. הניסיונות הראשונים בתעופה היו דווקא בכוון חיקוי בעלי הכנף, ואין לי ספק שאם יעשו מאמץ יצליחו לבנות מכונה שעפה כמו ציפור. אבל בשביל מה ? האדם המציא את הגלגל (בעולם החי, ככל הידוע לי אין דברים דומים לזה) ובעזרת הגלגל הוא פתר את בעיות התעופה בדרך הרבה יותר קלה למימוש. אז לעוף זה טוב. אבל כמו ציפור ? בשביל מה ? הוא הדין בתחבורה יבשתית. רכבות שרצות על רגליים ? לא צריך לחקות את הטבע. אנחנו המצאנו את הגלגל. הרבה יותר יעיל ופשוט. |
|
|
|
|
|
|
||
|
||||
|
בשלב זה, אני מציע להשקיע את המרץ שלנו בהרס מכונות קיימות המפריעות לנו. | |
|
|
|
|
|
||
|
||||
|
לדעתי אנשים צריכים לשאוף לעסוק במה שמעניין אותם, ולהמציא מכונה תבונית, זה מעניין מאוד. אני חושב שזה יועיל לנו לא פחות מאשר, נניח, מחקר בלינגוויסטיקה או בטופולוגיה אלגברית. כדי להמציא כלי תחבורה יעיל, או להמציא מקרר שרוכש מוצרים באופן אוטומטי, או אפילו כדי לתרגם בין שתי שפות - אכן ניתן לחשוב על דרכים יותר יעילות ופשוטות. |
|
|
|
|
|
|
||
|
||||
|
כפי שאמרתי, איני מבין מה זה "מכונה תבונית", ואם יידרש ממני לפתח משהו כזה לא אדע כלל מה רוצים מחיי. לכן, הבה נניח לרגע למוצר הזה, ונדבר באופן כללי על העיקרון שבמשפט הראשון בדבריך. האם אתה יכול להבין דוגמה אחרת (תשתדל, דוגמה יותר פשוטה, כדי שאבין) למכונה שמעניין לפתח, למרות שאינה מביאה שום תועלת, ואף כדאי יהיה להקדיש תקציבים כאלה ואחרים לצורך הפיתוח ? |
|
|
|
|
|
|
||
|
||||
|
בוודאי, שתי דוגמאות: 1. תוכנה שמשחקת שח (למטרות מחקר, לא כזו שאתה מוכר). 2. מאיץ חלקיקים. |
|
|
|
|
|
|
||
|
||||
|
יכולת גם להביא כדוגמא משחקי מחשב אחרים וצעצועים. אבל זו מחלקה שיש לה שימוש: פיתוח יכולת החשיבה ויכולות אחרות אצל בני אדם, במיוחד ילדים, וגם מילוי שעות הפנאי במשהו מעניין. בודאי שזה מביא תועלת לאדם. אבל אמרת "למטרות מחקר", וזה לא היה ברור לי כל כך. למטרות איזה מחקר ? מאיץ חלקיקים הוא מכונה שנבנתה למטרת לימוד ופיתוח והבנת הפיסיקה, ובמקרה הספציפי הזה, בודאי הייתה לו תועלת ישירה בנושאי מכשור רפואי, למשל, ובנושאי פיתוח מקור אנרגיה. לעומת זה, "מכונה תבונית" מה שזה לא יהיה, מה היא תלמד אותנו ? |
|
|
|
|
|
|
||
|
||||
|
רוב התוכנות שמשחקות שחמט לא נכתבות למטרה מסחרית (קרי, לא על-מנת לאפשר לאנשים אחרים לשחק בהן - לרובן אין ממשק גרפי), אלא כדי ללמוד איך אפשר לבנות תוכנות שמשחקות יותר טוב. המטרה הישירה היא הנאה ופיתוח יכולת החשיבה אצל הממציאים. ניתן לקוות שעל הדרך יהיו פיתוחים מעניינים במדעי המחשב, שיאפשרו לנו, למשל, לכתוב תוכנה שיכולה לסנן את דואר הזבל שלנו יותר טוב, או לנהוג במכונית באופן אוטומטי, או לשלוט באופן אוטומטי בכלי רובוטי על מאדים. אותה מטרה בדיוק יש לייצור מכונה תבונית - רק ששם האתגר הוא הרבה יותר משמעותי וכך גם הסיכוי ללמוד משהו על מדעי המחשב. בכלל, למה אתה חושב שהמטרה היא "להחליף" אותנו? האם אתה מניח שמי שמפתח מכונה תבונית מקווה שיום אחד היא תוכל ללכת במקומו לארוחת שבת אצל ההורים? אם זה עוזר לך, אתה יכול לחשוב על מדעי המחשב כסוג של הנדסה אזרחית. התועלת בפיתרון אתגר הנדסי מורכב הוא "אימון" של המהנדס בפתרון בעיות הנדסיות, גילוי בעיות הנדסיות חדשות, ובסיכוי נמוך, המצאת שיטות הנדסיות חדשות שיוכלו לשמש אותנו באתגרים אחרים. כך גם (לדוגמא) חקר החלל מתבצע בשלבים. האמריקאים מקווים שבשליחת בני אדם לירח, הם ילמדו משהוא על שליחת בני אדם למאדים. בצד - אני לא סבור שבלימוד פיתוח והבנת הפיזיקה הקוונטית (לשם כך יש מאיצי חלקיקים, לא?) יש יותר תועלת בלימוד פיתוח והבנת מדעי המחשב. אני גם לא סבור שלמאיצי חלקיקים היתה תועלת ישירה בנושאי מכשור רפואי ופיתוח מקור אנרגיה, אבל אני אשמח לגלות שכן. אה, ואחרון חביב, כמעט שכחתי - יש את העניין הפעוט הזה של הרוח האנושית. רוב המחקר האקדמי לא נועד כדי להפיק תועלת ישירה. למה אתה לא תוהה מה ילמד אותנו המחקר בפילוסופיה, באסטרונומיה חוץ גלקטית, או בקולנוע? |
|
|
|
|
|
|
||
|
||||
|
גם מחקר לצורך המצאת משחקים מטרתו הסופית משחקים, ואלה משרתים את האדם. בכל מקרה כשמפתחים תכנה שמשחקת שח יודעים מה עושים ומה המטרה. "מכונה תבונית" כללית היא יצור שלטעמי אינו מוגדר כלל. אפשר לשאוף להחליף פונקציות מסוימות של המחשבה האנושית כמו אותה דוגמה של שח, אבל מה זה "מכונה תבונית" ? אם היא לא מחליפה אותנו, אז מה היא כן ? | |
|
|
|
|
|
||
|
||||
|
אגב, המחקרים בכיוון ''בינה מלאכותית'' שהחלו בהם לפני לפחות עשרים או שלושים שנה לא הביאו עד כה לשום הישגים, והחלקים המוצלחים בהם היו, כאשר התפתחו לכוון פתרון בעיות ספציפיות, ואז גם, בצדק, שינו את השם שלהם. לדעתי, אין זה מקרה, והסיבה לכך היא הדברים שעליהם אני מדבר. |
|
|
|
|
|
|
||
|
||||
|
אתה טועה. על זיהוי קול שמעת? עיבוד תמונה? ניתוח שפה? אלה כלים מחשביים שנבנו על בסיס מודלים של בינה מלאכותית לסוגיהם. היישומים עוד רבים: מערכות ניתור ובקרה, אבחון, ועוד ועוד. זה נכון שאף אחד מהיישומים לא יודע לדבר בצורה הגיונית. מצד שני, רוב המחקר שנערך במאיצי חלקיקים לא תרם ישירות להווי האנושי. רובו עוסק בשאלות איזוטריות על מצבים קיצוניים, שצריך להתאמץ מאוד כדי ליצור אותם בסביבה הקוסמית שלנו. |
|
|
|
|
|
|
||
|
||||
|
הדוגמאות שהבאת מחזקות את הטענה שלי. נעשה מאמץ כדי לפתור בעיות ספציפיות שפתרונן יעזור לנו, והייתה הצלחה. כך, לדעתי, צריך לעבוד. כשמדברים על בינה מלאכותית, עד כמה שאני מבין מתכוונים למחקר בכוון יצירת איזה כלי שבשל ה''בינה'' שלו, יוכל לפתור את כל הבעיות האלה בבת אחת. אחד המשתתפים כאן נתן איזו דוגמה שסוס באופן טבעי לא מתנגש בעצים, ולכן, כביכול, פיתוח ''סוס'' יפתור את הבעיה הזאת. אבל כפי שעניתי לו, בניית משהו שימנע ממכוניות להתנגש בעצים ברמת פיתוח המחשבים והחיישנים שקיימת בימנו היא משימה די קלה כשלעצמה. אין צורך לייצר משהו שגם יודע לגרש זבובים בזנב וגם מבין בטעמים של עשב. חשיבה בכיוון כזה רק תקשה עליך לפתור את הבעייה שלפניך. או הדוגמה שאני הבאתי. היכולת לעופף. האנושות פתרה זאת דווקא לא בצורה שציפורים עפות, וזה היה יותר קל ופשוט. |
|
|
|
|
|
|
||
|
||||
|
אבל "כלי" כזה הוא בדיוק מה שמפתחים חוקרי הבינה מלאכותית - ועליו מתבססים כל הפתרונות לבעיות שהוזכרו קודם. טוב, אז לא בדיוק "כלי" אחד, אלא הרבה כלים מאד כלליים. המחקר הבסיסי בתחום מורכב (עד כמה שידעתי משגת) משלוש זוויות: (א) מחקר מתמטי-טכנולוגי, שמורכב למשל מפיתוח ומחקר של אלגוריתמים סטטיסטיים לקלספיקציה ("למידה מפוקחת"), לקלסטרינג ("למידה לא-מפוקחת") ולניתוח-שונות. של אלגוריתמים לחיפוש בגרפים, אלגוריתמים גנטיים, ומודליים מתמטיים של רציונליות (תורת המשחקים). (ב) מחקר קוגנטיבי, בו מנסים ללמוד עוד על "בינה טבעית". למשל במחקר של שפות טבעיות וניתוחן, של ראיה, של תפיסה מרחבית, של זיכרון וכדומה. (ג) ולבסוף, מחקר נוירולוגי-אנטומי, בו חוקרים את המכונה על גביה ממומשת הבינה הטבעית - המוח. יש זיקה רבה בין שלושת התחומים האלה. מימצאים אנטומיים משמשים להסבר של תופעות קוגנטיביות, ומשמשים השראה למודלים מתמטיים (כמו המודל המתמטי של "רשתות נוירונים"). במקביל המחקר הקוגנטיבי משמש אמת-מידה לביצועים של המודלים המתטיים. לפעמים גם התנהגות של המודלים המתמטיים מהווה קו-מנחה לפיתוח תאוריות על פונקציונליות של חלקים במוח. המחקר הנ"ל הוא תיאורטי לגמרי, ומטרתו אחת ויחידה: להבין את התופעה שאנו מכנים "אינטליגנציה". אך טבעו של מחקר בסיסי הוא שהוא מפיק גם יישומים. בניגוד גמור לטענתך, רבים מהפתרונות הטכנולוגיים של זיהוי ועיבוד אוטומטי של תמונה ווידאו, קול, שפה, מערכות מומחה, משחקי-שמחט, מערכות אוטומטיות לזיהוי הונאות של בנקים וחברות אשראי וכדומה - מקורן בידע שנצבר במחקר בסיסי כמתואר לעיל. באופן אנלוגי לחלוטין לכך שמחקר ביולוגי בסיסי מקדם את הרפואה, ומחקר פיזיקלי בסיסי מקדם את תעשיית הרכב. התוצאות של מחקר כללי על קלסטרינג ("למידה מפוקחת"), למשל, משמשות כנראה בפתרון של כמעט כל אחת מהבעיות שתוארו קודם. למרות שאלה בעיות מאד שונות. |
|
|
|
|
|
|
||
|
||||
|
איני מתמצא כל כך בפרטי הפיתוח של כל הנושאים שמנית, אבל נזכרתי בהרצאה ששמעתי פעם על פיתוח תכנות שחמט. מה שזכור לי משם הוא שהתוכנות האלה לא מבוססות כלל על חשיבה אנושית, אלא יוצרות איזו פונקצית מצב (כלומר מצב טוב במשחק) שמנסים למצוא לה מקסימום ע"י בדיקת כל מיני מצבים אפשריים עתידיים. המרצה סיפר שבתחילה העסיקו החברות המפתחות כל מיני אומנים ורבי אומנים בשח, אבל במהרה הגיעו למסקנה שאלה לא תורמים להם דבר, ונשארו עם אנשי מחשבים. כמו כן הסתבר שדווקא התוכנות שבנויות על "ברוט פורס" הצליחו יותר מתוכנות שבהן ניסו להכניס כל מיני "פטנטים", תכסיסים אפשריים וכדומה. כלומר, חזרה כאן איזו ורסיה של הדוגמה שלי: התעופה והעופות. אני לא יודע אם זה כל כך שייך, אבל רציתי לספר על משהו אולי הפוך שקרה לי. בעבר, בהזדמנויות שונות כמו שרות במילואים וכדומה נהגתי לשחק עם חברים במשחק "בול קליעה", כלומר ניסיון לנחש במספר שאלות קטן ככל האפשר מספר בן ארבע ספרות שאינן חוזרות על עצמן ללא הספרה אפס. ניסיתי לעבוד בכל מיני שיטות, והצלחתי הייתה ממוצעת. עד שפעם אחת החלטתי לכתוב להנאתי תכנית מחשב שעושה זאת. אני מניח שבפעלתי כמו שכל אחד היה פועל כדי לפתור בעיה זו. בניתי תכנית שעוברת מניחוש לניחוש לפי סדר המספרים כשהיא מדלגת על כל האפשרויות שהשאלות הקודמות פוסלות אותן. התוכנית שהתקבלה ידעה לנחש את המספר בממוצע תוך 5 6 שאלות כשתמיד הצליחה לנחש בלא יותר מ 8 שאלות, וזה (8) קרה רק במקרים נדירים. החלק המעניין היה שהתחלתי לחקות את השיטה הזאת בעצמי, תוך כדי משחק, וראיתי שגם אדם (כשהוא מאמץ עוד כמה טריקים קטנים שעוזרים לו לא לבדוק ממש את כל המקרים כפי שעושה המחשב) יכול לעמוד במשימה הזאת. הרעיון הזה שיפר ללא הכר את יכולת המשחק שלי. בשיטות הישנות מספר הניחושים היה בדרך כלל הרבה יותר גדול. אז שוב. בשביל מה בכלל צריך "תבונה" ? |
|
|
|
|
|
|
||
|
||||
|
כוח ברוטלי מועיל מאוד למחשב, אבל כיוון שמרחב המצבים בשח גדל אקספוננציאלית עם מספר הצעדים שאתה מחשב קדימה, התוכנות המוכשרות מחייבות אלגוריתמים חכמים הרבה יותר, והבנה טובה של המשחק. עם זאת ה"חשיבה" של מחשב איננה אנושית ולא מתיימרת להיות אנושית. היא הייתה והיא תישאר אלגוריתמית - כלומר מורכבת מהמון צעדים קטנים ופשוטים. "בינה מלאכותית" היא משהו שנראה כמו בינה טבעית, אבל בנוי לגמרי אחרת (ככל הנראה). מי צריך את זה? כבר אמרו לך כאן. הרבה מאיתנו רוצים להאזין למוזיקה מלאכותית, לבחון הוכחות מתמטיות אסתטיות שחיבר מחשב, לשוחח עם פסיכולוג אישי ממוחשב - כל מיני מטלות שבדרך כלל נחוץ עבורת אדם אינטיליגנטי. |
|
|
|
|
|
|
||
|
||||
|
או זהו, שדווקא בשחמט brute-force התגלתה כשיטה גרועה יחסית. תוכנת השחמט הישראלית "ג'וניור" (http://en.wikipedia.org/wiki/Junior_%28chess%29), שרצה על מחשבים אישיים – חומרה חלשה בהרבה מזו של "כחול עמוק" – ניצחה מספר מכובד של אליפויות, גם מול מחשבי-על שהפעילו אלגוריתמי brute-force ובחנו עומקים גדולים יותר. | |
|
|
|
|
|
||
|
||||
|
זה סותר את מה שנאמר באותה הרצה ותיקה אבל אולי יש כבר הרצאות יותר חדשות. אבל השאלה היא באמת אם התוכנה היותר ''חכמה'' באמת מנסה לחקות מחשבה אנושית, או שמפעילים בה שיטות ''מחשביות'' טובות יותר. |
|
|
|
|
|
|
||
|
||||
|
אף אחד, כולל השחמטאי עצמו, לא יודע איך שחמטאי בוחר את המסע הבא. | |
|
|
|
|
|
||
|
||||
|
וגם אם מחקים מחשבה אנושית לצורך פיתוח תכנת המשחק, בכל זאת מתרכזים בבעייה ספציפית, ועל חקוי מחשבה אנושית לצורך טיפול בבעיה ספציפית הבעתי דעה חיובית באחת מתגובותיי הראשונות. הדבר שמפריע לי הוא ריכוז מאמצים ושאיפה לקראת משהו כללי שמחקה מחשבה אנושית, שככזה אמור לפתור את כל הבעיות בבת אחת, כזה שהיותו שחקן שח מצטיין, למשל, הוא רק פרט אחד בו. לדעתי דרך כזאת תאט ולא תקדם פיתוחים שיועילו לנו. |
|
|
|
|
|
|
||
|
||||
|
אבל "הדרך הזו" באה לצד, לא במקום, כל סוגי המחקר האחרים; ובינתיים היא תרמה רבות לתחומי מחקר אחרים במדעי המחשב, בנקודות שונות ומשונות (בדיוק משום שהמחקר הזה נוגע בתחומים רבים ושונים כל-כך). שלא לדבר על התרומה לחשיבה הפילוסופית. אז מה, בעצם, ההתנגדות לקיום המחקר הזה? | |
|
|
|
|
|
||
|
||||
|
ההתנגדות מגיעה מאותו מקום שמגיעה ההתנגדות לטענה שלקופים ולנו יש אב קדמון משותף. זה נורא מעליב. | |
|
|
|
|
|
||
|
||||
|
איך אתה יכול להשוות בין הקופים למחשבים? יש קופים שהם מתוקים עד טירוף! | |
|
|
|
|
|
||
|
||||
|
אין לי שום דבר נגד קופים ח''ח. מספר מחברי הטובים ביותר... | |
|
|
|
|
|
||
|
||||
|
אז מה העיה? שיש לך גם חברים מחשבים? | |
|
|
|
|
|
||
|
||||
|
כבר סיפרתי על עניין ה"בול קליעה" לפני כ 6 שנים, ונראה שגם היה שם דיון ממש דומה. תגובה 48091 יפה שנזכרתי. |
|
|
|
|
|
|
||
|
||||
|
קטונתי מלהשתתף בדיון המרתק הזה, אבל אני מבקש להוסיף משהו: די ברור שאדם, לויתן או ג'וק הם מכונות ביולוגיות שמפיקות התנהגות אפקטיבית בסביבתם. אי אפשר להתייחס ל"התנהגות תבונית" רק בהיבט החישובי שלה. זו התנהגות תכליתית בסביבה מוגדרת עם היסטוריה ארוכה של התפתחות שחלקה פתרון בעייות וחלקה סתם שימור הקיים. אגב, חלקה בחישוב דיגיטאלי וחלקה בחישוב אנלוגי וחלקה בשיווי משקל כימי או פיזיקאלי. הניסיון להתבונן בתפוקות של המוח רק מהפן של "אינטליגנציה" הוא חד צדדי ומטעה. אין הפרדה כזאת מבחינה עקרונית וגם לא מהבחינה המעשית. מתי ייצור אורגני מתחיל להיות בעל אינטליגנציה? מתי אדם מתחיל להיות בעל אינטליגנציה? בגיל שבע, שנה, חודש, חודש שביעי להריון? ספק אם לשאלה הזאת יש תשובה "אנליטית" ויחד עם זאת ברור שלשאלה הזאת יש תשובה - עובדה, כל אדם בסופו של דבר רוכש את ה"אינטליגנציה". מדובר בשאלה מעשית ולא מטאפיזית. זה פשוט קורה במציאות - תא זרע וביצית שמתאחדים, בשלב מסויים מתחילים ליצור אישיות ואינטליגנציה. אולי השאלה מהי אינטליגנציה היא השאלה הלא נכונה? האם מצפים שתהיה על זה תשובה אחרת מאשר היכולת להתנועע בסביבה מורכבת, היכולת לקרוא ספר, היכולת לתפוס חרק, היכולת להבין שיר? |
|
|
|
|
|
|
||
|
||||
|
אבל האם לא היה יותר קל ופשוט לבנות מכונית שלא מתנגשת בעצים אם היה לך מחשב "תבוני" במידה מסויימת שניתן לתכנת אותו בקלות יחסית "להבין" מה זה "עץ" ואיך לא להתנגש בו ? | |
|
|
|
|
|
||
|
||||
|
ואם כבר הרמת לי להנחתה, הנה עוד כמה מכונות בלתי שימושיות אפילו בפוטנציה: |
|
|
|
|
|
|
||
|
||||
|
הרובודוס נראה לי פתרון יצרתי לתחבורה ציבורית בשבת | |
|
|
|
|
|
||
|
||||
|
לא היית צריך ללכת כל כך רחוק. אולי גם פסנתר פטישים קלאסי רגיל הוא סוג של מכונה. אבל הוא נבנה למעננו ובפרוש מביא לנו תועלת ישירה, ולא בא להחליף אותנו. |
|
|
|
|
|
|
||
|
||||
|
ארתור גנסון בנה סידרה של מכונות בלתי-שימושיות-בעליל מקסימות ביותר. רובן נאצרות במוזיאון MIT, אבל הד חיוור ניתן לראות כאן: http://www.arthurganson.com/pages/Sculptures.html | |
|
|
|
|
|
||
|
||||
|
הגדרה "גמישה" ל"מכונה תבונית": מכונה, שאם היית משוחח איתה בדואר אלקטרוני, לא היית יכול לגלות שאתה בעצם משוחח עם מכונה ולא עם בן-אנוש. למה צריך את זה? יש בעיות רבות במחשוב שמוגדרות כ-"AI-Complete", כלומר, (א) בני-אדם יודעים לפתור את הבעיה, (ב) לא קיים אלגוריתם ידוע הפותר את הבעיה, ו-(ג) מניחים שרק מכונה תבונית – כלומר, אלגוריתם המסוגל לדמות בן-אנוש באופן כללי – תוכל להתמודד עם הבעיה. ההגדרה אינה קשיחה כמובן, וישנם כמה וכמה מקרים של בעיות שחשבו בעבר שהן AI-complete ולבסוף נמצא להן פתרון אלגוריתמי "פשוט". למה צריך מכונות תבוניות? ודאי לא כדי להחליף את בני-האדם באופן כללי (מה הטעם? מטרת ההתקדמות התעשייתית והמדעית לעזור לאנושות, לא?) אלא כדי להחליף את בני-האדם במקומות בהם לא רצוי, לא כדאי, יקר, או אי-אפשר שיהיו בני-אדם. למשל: תרגום סימולטני מכל שפה לכל שפה, כולל ניואנסים, התייחסויות תרבותיות, משחקי-מילים וכיוצ"ב. למשל: תמצות טקסט: תן לי ספר בן 1000 עמודים, ואתן לך סיכום של עיקריו בשלושה עמודים. אני יכול לעשות זאת, אבל ידרש לי זמן רב, ואשתעמם מאוד; מדוע שמכונה לא תעשה זאת? למשל: עריכת טקסטים מדעיים ברמה גבוהה – החל מאיתור שגיאות דקדוקיות, דרך מציאת טעויות בהוכחות וכלה באיתור עבודות מחקר קודמות שהכותב שכח להתייחס אליהן. למשל: כתיבת תוכנה. במקום לתכנת תוכנית, הייתי מעדיף לתאר אותה, במילים פשוטות, ולקבל תוכנה עובדת. שוב, יש אנשים שיכולים לעשות זאת, אבל מדוע להעסיק בני-אדם במקום בו מכונות יכולות לעשות את העבודה (טוב יותר, מהר יותר, ובזול יותר)? למשל: רובוט-חייל שמסוגל להלחם בשטח בנוי, ולהמנע מפגיעה באזרחים ובעוברי-אורח. ועוד ועוד; מבחר הדוגמאות לא מוגבל. ברור שבהנתן מכונות תבוניות, החברה האנושית תשתנה מהקצה אל הקצה: כמו המהפיכה התעשייתית, שהפכה עבודות פיזיות רבות למיותרות משום שהעובדים הוחלפו ע"י מכונות, כאן מדובר בהחלפת עובדי "צווארון לבן" במכונות. איך תראה החברה האנושית בשלב בו מכונה תבונית תהיה דבר יומיומי וזול? אין לי מושג. |
|
|
|
|
|
|
||
|
||||
|
את ההגדרה שהבאת ל"מכונה תבונית" אני מכיר. ראיתי זאת בתכנית בטלויזיה לפני, נדמה לי, כעשרים שנה כ"מבחן טיורינג". שני המשתתפים בתכנית, אחד מישהו שהוצג כגאון צעיר, והשני, אם איני טועה, פרופסור רבין, היו בטוחים שתוך זמן קצר תיבנה מכונה שתעבור את המבחן הזה. אני הערכתי אז שדבר כזה לא יקרה בקרוב, ומסתבר שאני צדקתי. חוץ מזה המבחן הזה לא נראה לי רציני אז, וגם לא היום, כי אינו מוגדר מספיק. למשל כמה חילופי מכתבים מותרים, מה מותר לבודק לשאול, מי מבצע את הבדיקה וכדומה. ההגדרה הזאת ממש סתמית. בהמשך דבריך מנית שורה של משימות שיכולות להקל על החיים. לדעתי, כל אחת מהמשימות אינה נראית כדבר בלתי אפשרי. בעבר, הרי, אפשר היה להציג ברשימה הזאת גם תכנת השח שיכולה להתמודד עם אלופי עולם. זו משימה מוגדרת, ולפחות ממבט ראשון אינה נראית בלתי אפשרית, ועובדה שהצליחו בכך. אז יש תוכנת שח כזאת. האם זה אומר ש כבר המציאו "מכונה תבונית" ? ואם ימציאו גם מכונה שמתרגמת או מקצרת כפי שהצגת, זאת אומרת שהמציאו "מכונה תבונית" ?. אני מאמין שיימצא פתרון לכל אחת מהמשימות שהצגת. אף אחת מהן לא נראית לי חלום בלתי אפשרי. אבל אני טוען שגם אחרי שיימצאו הפתרונות האלה לא אבין מה זה "מכונה תבונית". המצאת מכונית שאינה מתנגשת בעצים, למשל, נראית לי ממש משימה קלה. זה רק עניין של תקציב וכדאיות להשקיע אותו. הדרך להתמודד עם המשימות האלה היא לטפל בכל אחת בנפרד, לחשוב על הבעיות שהיא מציגה ולנסות לתת פתרונות ספציפיים. אבל לבנות משהו "תבוני" שיתן בבת אחת פתרונות לכל אלה ולעוד דברים, זה, לדעתי, משהו שבמקרה הטוב יערך הרבה יותר זמן ויציג הרבה יותר קשיים משיטת הטיפול שאותה אני חושב כנכונה. |
|
|
|
|
|
|
||
|
||||
|
את המכונה שלא מתנגשת בעצים לקחתי, מסתבר, מבלי להתכוון, מתגובתו של ''אח של אייל''. בעצם אני רואה בתגובתי זו תשובה גם לו. | |
|
|
|
|
|
||
|
||||
|
אתה מערבב כאן שתי טענות: אחת, שאינך יודע מהי מכונה תבונית. שנייה, שמכונה כזו לא תיבנה בקרוב. לעניות דעתי הן סותרות זו את זו. "תבונה" היא דבר מסובך להגדרה ולמדידה. לא פשוט להבחין בין אדם אינטיליגטי לאדם טיפש. מבחן טורינג (שטל הזכיר בלי הקרדיט הראוי, בושה לדוקטור מהטכניון!) הוא מדהים בפשטותו אך איננו "סתמי". אתה יכול למלא את הפרטים שחסרו לך כך: *אתה* תדע שמכונה היא תבונית אם *אתה* לא תוכל להבחין בינה לבין אדם שהוא אינטיליגנטי *לדעתך*. אם כך קרה, קיימת מכונה תבונית-אנשלוביץ. אחת ההגדרות הרבות לבינה מלאכותית (גם היא זו מופיעה בגא"ב): בינה מלאכותית היא כלל הפעולה התבוניות שבני אדם מסוגלים להם ומחשבים עדיין לא. זו כמובן הגדרה שמחבלת בעצמה ומעקרת את נושא המחקר, אך היא מוסכמת על רבים ולו בצורה סמויה. ברגע שמטלה מסוימת מבוצעת באופן ממוכן, היא מפסיקה להיחשב "תבונית". אני לא מסכים לכך, אלא מסכים לסיפא של דבריך: תבונה היא היכולת לפתור מגוון עצום של בעיות, ובכללן גם בעיות שיש להמציא את מתודולוגיית הפתרון עבורן. כדי לבנות מכונה תבונית יהיה עלינו לגרד את ההר הזה פירור-פירור. וזה יהיה תהליך ארוך. |
|
|
|
|
|
|
||
|
||||
|
בפרינציפ איני עונה לאיילים אלמונים, אבל כיוון שנראה לי שאתה "אייל אלמוני" תמים "אשר לא ידע את דב", אחרוג ממנהגי. לגבי מבחן טורינג, נניח שהשאלה שאשאל את ה"מכונה התבונית" היא: מה אכלת אתמול בארוחת הערב ? איך צריכה המכונה התבונית לענות ? לשקר ? או שלפי הכללים של המבחן אסור לשאול שאלה כזאת ? וזו סתם שאלה ראשונית שקפצה לי לראש. בראש "התבוני" שלי מתרוצצות המון שאלות כאלה שמטילות ספק בבהירות של המבחן הזה. לגבי החלק השני של דבריך, שבו אתה מסכים עמי (1), הרי את הפרורים הטעימים ממילא נגרד מההר, כמו שעשינו עד כה, כי זה ייטיב עמנו. מתי נחליט שגרדנו די פרורים כדי לומר שפתרנו את בעיית המכונה התבונית ? למה לא לומר שכבר היום עשינו זאת ? האם עלינו לגרד גם פרורים לא טעימים לצורך המטרה הזאת (שכן בני אדם מסוגלים גם לעשות מעשים בלתי מועילים) ? ואם באמת הכוונה להכיל ממש את כל יכולות האדם, האם זאת נראית לך משימה אפשרית ? הרי גם היכולת האנושית יש בה התפתחות. למה שהמכונה תשיג ? (1) אגב, איני מוצא כל קשר בין ההגדרת טיורינג וההגדרה השנייה. מכונה שתצליח "לעבוד" על בן אדם פרק זמן מסויים, לא בהכרח תוכל לעשות דברים אחרים שהוא יכול לעשות. |
|
|
|
|
|
|
||
|
||||
|
אני לא יודע מה מקור הפרינציפ שלך, אבל אני מודה - שיחה עם עננת אלמונים עלולה להיות מייגעת. לצורך הדיון אטען שאני אייל תבוני. לגבי מבחן טורינג: הוא מתיר לבוחן לשאול כל שאלה (או לספר בדיחה) שימצא לנכון על מנת להכריע האם מולו אדם תבוני או מכונה. המכונה מנסה לרמות את הבוחן - זו כל הפואנטה. אם היא תאמר תמיד אמת, די לו לבוחן שישאל "האם את מכונה?". מדוע לא לומר שכבר היום יש בידינו מכונה תבונית? כיוון שזהו חיווי שקרי. אני מנחש ששנינו נסכים בהסתברות טובה אם נישאל: האם שמעון אינטיליגנטי?. אני מנחש ששנינו נסכים שהלפטופ שלי איננו אינטיליגנטי. (כמובן שאם לדעתך אין משמעות למושג "אינטיליגנציה", אין גם מקום לדיון באינטיליגנציה מלאכותית) האם מכונה כמו-אנושית תיבנה בקרוב (בימי חיי)? אינני סבור. עם זאת, אני רואה יצורים כמו-אנושיים מסתובבים בעולם הגשמי, מתפתחים, ורוכשים אינטיליגנציה. אינני רואה כל סיבה מדוע הדבר הזה יהיה אפשרי מעל מצע של בשר ושומן ולא מעל מצע של סיליקון. (1) אתה קצת מגזים בטענה ש"אין כל קשר" בין ההגדרות. אחת הייתה מעורפלת (וניתן להבין אותה בכמה אופנים) והשנייה מבהירה אותה. ניתן לחשוב גם על הבהרות אחרות: למשל, שנערוך את הבחינה במשך חודש, ויהיו 71 בוחנים תושבי פתח-תקוה. אם אתה מסכים איתי שלפתח-תקוואים יש דעה סבירה על אינטיליגנציה, הבחינה הזו בעלת משמעות לעניינינו. כדאי אולי לציין (כיוון שרמזת לכך בעצמך) שמבחן טורינג נחשב למבחן מספיק לאינטיליגנציה, לא למבחן הכרחי. מכונה שתעבור את הבחינה תהיה חייבת לבצע גם דברים אנושיים-אך-בלתי-אינטיליגנטיים כמו לטעות בחישובים מתמטיים ארוכים, להתעייף, או לטעון שהיא אוהבת את שלמה ארצי. זה מצער שטרם נמצא מבחן חד וקולע - אך זה לא מפתיע - המושג הנמדד הוא מעורפל בעצמו. |
|
|
|
|
|
|
||
|
||||
|
לא ''לטעות'' בחישובים מתמטיים ארוכים. להבין מה השומע מהצד השני רוצה לשמוע ולתת לו את זה. | |
|
|
|
|
|
||
|
||||
|
לא הבנתי את הבדיחה. מה שאתה מתאר דורש אינטילגנציה והבנה פסיכולוגית. זה לא סתם חיקוי של שטות אנושית. | |
|
|
|
|
|
||
|
||||
|
זו לא בדיחה. זו סתירה לטענה ש''מכונה שתעבור את הבחינה תהיה חייבת לבצע גם דברים אנושיים-אך-בלתי-אינטיליגנטיים כמו לטעות בחישובים מתמטיים ארוכים''. אני טוען שמכונה שתעבור את הבחינה לא חייבת לבצע את הדבר האנושי-אך-בלתי-אינטליגנטי הזה, כי היא יכולה במקום זאת לבצע את הדבר הכן-איטנליגנטי של לזהות מתי הבוחן מצפה לתשובה ''שגויה''. | |
|
|
|
|
|
||
|
||||
|
אה. אוקי. אבל בעיניי מכונה שנראית כאילו היא תבונית - היא באמת תבונית. ומכונה שנראית כאילו היא טועה - באמת טועה. |
|
|
|
|
|
|
||
|
||||
|
אם אי-פעם יתוכנן מחשב שיהיה מסוגל לעבור איזשהו סוג של מבחן-טיורינג, אני לא רואה שום סיבה שהוא יהיה מסוגל לחשב חישוב מתמטי ארוך. החומרה שלו תוכל, אולי, להיות מתוכנתת כך שתדע לכפול מספרים באורך 200, אבל התוכנה האינטליגנטית שלו, הלומדת ומתפתחת כאדם, אינה זקוקה לשום יכולת כזו וסביר מאוד שהיא לא תיווצר שם מעצמה. שאל מחשב כזה מה השורש של מיליארד - אם הוא יצליח לענות בכלל, מאוד סביר שהוא יטעה. | |
|
|
|
|
|
||
|
||||
|
שאל אדם מה השורש של עשרה מיליארד או מאה מליון, לעומת זאת, וסביר להניח שתקבל את התשובה הנכונה, אם הוא רק יזכר מה השורש של מאה. עכשיו, אם יש לך במקרה מישהו שזוכר את השורש של חמש ושתיים - ואפשר בניסוי וטעיה פשוטים למצוא תשובה מדויקת די הצורך - הוא יכול לחשב לך תשובה מקורבת די בקלות. אם אתה מצפה שתוכנה שכזאת, שמחקה בני אדם, תהיה מסוגלת לחשב את השורש של מאה ושאר חישובים פשוטים שמצפים מאדם להיות מסוגל להם, אני לא רואה מניעה שבאמצעות הגדלה פשוטה של הזכרון שלה, היא תהיה מסוגלת לבצע ''בראש'' גם חישובים מורכבים שהאדם הממוצע נזקק לדף ועט עבורם. ואני לא מתכוון רק לחישובים אנושיים באופיים כמו המתואר בפסקה הקודמת. עם יותר זכרון וסבלנות, אדם יכול לחשב באותו האופן והדיוק כמו המחשב. |
|
|
|
|
|
|
||
|
||||
|
ברגע שהתוכנה האינטליגנטית תלמד את ניוטון-רפסון, היא תיזכר שיש לה אחלה חומרה ותוכל מעתה והלאה לחשב שורש להכל. אם היא לא תלמד את ניוטון-רפסון, אני לא חושב שאפשר להגיד שהיא אינטליגנטית ;-) | |
|
|
|
|
|
||
|
||||
|
גם לך יש אחלה חומרה, הבעיה היא שזה לא כל כך קל לך להשתמש בה למטרות כאלה. | |
|
|
|
|
|
||
|
||||
|
אוקיי, ולמחשב כן קל, כי יש לו חומרה קצת שונה משלנו שפועלת קצת שונה. לניטפוק הזה יש פואנטה? | |
|
|
|
|
|
||
|
||||
|
אולי למחשב שתוכנן לעמוד במבחן טוירינג אין גישה ישירה לחלקים בחומרה שיכולים לחשב את השורש של 2,123,133,412 באופן מיידי. זה הרי לא כל כך מופרך, לרוב הטלפונים המודרנים יש את החומרה שמאפשרת לחשב חישובים כאלה, אבל המחשבון של רובם מאד מנוון, ואין סיבה לחשוב שאין חלקים במח שלך שמסוגלים לבצע חישובים נומריים מאד מורכבים (אני מניח שבעיבוד הראיה, ואולי גם בחישובי תנועה), אבל אתה לא יכול לגשת אליהם ישירות ולשאול אותם שאלות. | |
|
|
|
|
|
||
|
||||
|
"גישה ישירה לחלקים בחומרה"? הוא צריך גישה בסיסית למעבד. | |
|
|
|
|
|
||
|
||||
|
אם אתה היית מתכנן תוכנה כזאת, היית מאפשר לה גישה ישירה למעבד? לאיזה צורך? | |
|
|
|
|
|
||
|
||||
|
איבדת אותי ב''אתה היית מתכנן תוכנה כזאת''. אני לא חושב שתוכנה כזו ניתנת לתכנון. נראה לי שאם כבר, מה שיקרה הוא שנבנה מנגנון בסיסי שמסוגל ''ללמוד'' דברים עצמאית. למנגנון כזה אתן את האפשרות לבצע חישובים אריתמטיים, מכיוון שצריך לדעת לעשות אותם באלף ואחד דברים שונים. | |
|
|
|
|
|
||
|
||||
|
גם תוכנה שלומדת דברים צריך לתכנן. זה שיש לה חומרה שמסוגלת לבצע חישובים אריתמטיים, ושתהליך הלימוד משתמש בחומרה הזאת, לא אומר בהכרח שהתוכנה עצמה יכולה להשתמש בחומרה הזאת. למשל, המח האנושי מסוגל ללמוד, במח האנושי יש רכיבים שמסוגלים לבצע חישובים אריתמטיים, בעל מח האנושי לא יכול להשתמש ברכיבים האלה לצורך חישובים אריתמטיים באופן ישיר. | |
|
|
|
|
|
||
|
||||
|
נראה לי שאתה משתמש יותר מדי בדוגמה של המוח האנושי. מחשב אינו המוח האנושי וגם לא יהיה. מחשב, כדי לבצע פעולה אריתמטית, מספיק שיכיל שורת קוד של "x=y+z" ויקמפל אותה לפקודת מכונה בודדת (ובסיסית) אחת. אם כותבים תוכנה שמסוגלת לשנות את הקוד של עצמה (וכאמור, בלי זה לדעתי אין מה לדבר על לעבור את מבחן טיורינג), צריך להתאמץ מאוד כדי למנוע ממנה להוסיף שורות כאלו ועדיין לעשות משהו - ואין שום סיבה לכך. אולי כדאי להבהיר משהו. אני לא אומר "מחשב שעובר את מבחן טיורינג בהכרח יהיה מסוגל לחשב שורשים". אני אומר שאין שום סיבה שלא יהיה כך, ושכנראה צריך להתאמץ הרבה יותר כדי ליצור מחשב שעובר את מבחן טיורינג ולא יודע לעשות חשבון, מאשר צריך להתאמץ כדי ליצור מחשב שעובר את מבחן טיורינג וכן יודע. |
|
|
|
|
|
|
||
|
||||
|
"לשנות את הקוד של עצמו" זה דבר קצת גדול, שכולל הרבה דברים. בעיקרון, כל תוכנה לומדת יודעת "לשנות את הקוד של עצמה", גם בני אדם מסוגלים "לשנות את הקוד של עצמם", אבל זה לא אומר שהיא או אנחנו מסוגלים ממש לגשת לכל הקוד, לשנות אותו, לקמפל ולהריץ. כמתכנת, אני לא מבין איך פיתוח יכולות כאלה יכולות לעזור לעבור את מבחן טיורינג (וכמו שהסבירו כאן, זה עלול להפריע), ולכן לא נראה לי סביר שזה יהיה כלול בקוד של תוכנה כזאת. עובדה שאלוהים הצליח לייצר מכונת טיורינג בלי לתת לה את הגישה לקוד של עצמה, היא, לדעתי, עדות תומכת. אם אתה חושב שאני טועה, אז תצטרך להסביר לי איזה שיקולים יש *בעד* הכנסת אפשרות כל כך חזקה. | |
|
|
|
|
|
||
|
||||
|
אלוהים ברא מכונה שעוברת את מבחן טורינג, והיא בעצמה פיתחה לה מחשבון. אין שום בעייה לתת למחשב התבוני של גדי מחשבון כיס, רגע לאחר שהוא עבר את מבחן טורינג. (כמובן שהמנשק בינהם יהיה יותר יעיל מ-15 כפתורים ו-seven segments) | |
|
|
|
|
|
||
|
||||
|
אלוהים לא יצר כלום כי אין אלוהים. לעומת זאת, את הבסיס למכונת הטיורינג המדוברת הולך ליצור אדם. אין לי כוח וחשק להמשך הדיון. |
|
|
|
|
|
|
||
|
||||
|
אתה טועה. השאלה אם יש או אין אלוהים אינה קשורה כלל לשאלה אם הוא יצר דברים או לא. ברור שהוא/היא יצרו הרבה מאוד דברים. | |
|
|
|
|
|
||
|
||||
|
גם לא. ברור שאנשים השתמשו במושג (הלא מוגדר היטב ולא אחיד) של אלוהים כדי ליצור כל מני דברים. | |
|
|
|
|
|
||
|
||||
|
חלקם השתמשו בו, באחרים המושג השתמש.:) | |
|
|
|
|
|
||
|
||||
|
גם אם נניח שיש אלוהים (ואין, אני בדקתי...) אזי ברור שהוא לא התערב ביצירת כל אחד מתושבי כדור הארץ הנוכחיים. גם אם נדבר רק על אנשים, למרות שגם לג'וק יש איזה מין מחשב, או מה שזה לא יהיה, שמנהל את התנהגותו, שום דבר טרנסצנדנטאלי לא התרחש באיזה מן השלבים מרגע הפריית הביצית ועד ללידתו ובכל זאת רוב בני האדם (והג'וקים) נולדים עם מחשב (או מה שזה לא יהיה) שפועל. | |
|
|
|
|
|
||
|
||||
|
אני אישית לא אצביע "אנושי" (או יותר מדויק: לא אצביע "תבוני") לבר-שיח שלא יהיה מסוגל לחשב שורשים אחרי שאסביר לו את האלגוריתם (או לעקוב אחר כל אלגוריתם קצר אחר, בין אם התוצאה שהוא מניב נושאת משקל הגיוני שקשור לחייו [כמו שורש ריבועי] או לא [כמו סתם אלגוריתם שאמציא על המקום, ולא בהכרח יתעסק במספרים]). | |
|
|
|
|
|
||
|
||||
|
ג'פטו לא התקשה בכלל וענה לי: The square root of a billion is 31,622.7766. ברור שאם היו מאמנים אותו לעבור את מבחן טיורינג הוא היה עונה אחרת. | |
|
|
|
|
|
||
|
||||
|
ג׳פטו דווקא מאוד מתקשה במתמטיקה בסיסית, כפי שניחשתי. אין לי דוגמה בשלוף כרגע אבל יש הרבה ברשת. | |
|
|
|
|
|
||
|
||||
|
בחרת דוגמא רעה. הוא יודע ''לחשב'' מה השורש של מיליארד כמו שאני יודע ''לחשב'' את פאי. אם כי... עכשיו ניסיתי, ונראה שהיכולות האריתמטיות שלו השתפרו פלאים. לדעתי לימדו אותו להשתמש במחשבון. |
|
|
|
|
|
|
||
|
||||
|
אני עצמי משתעשע שוב ושוב בחידה פשוטה יחסית שבה ג'פטו לדורותיו נכשל בצורה מחפירה (''תרנגולת'' היא מילת מפתח לחיפוש כאן). החיבור שלו עם התוכנות של וולפראם מבטיח שאריתמטיקה בסיסית, והרבה יותר מזה, לא יהוו בעיה לאורך זמן. | |
|
|
|
|
|
||
|
||||
|
איך אפשר להזכיר את מבחן טיורינג מבלי לתת את הקרדיט המתאים? התשובה היא בגוף השאלה. מילא אם טל לא היה נותן קרדיט למגלה חוקי ניוטון או להוגה התיאוריה המרקסיסטית... |
|
|
|
|
|
|
||
|
||||
|
זהו, שאם תדפדף מעלה, תגלה את העובדה שזעזעה את דב - טל תיאר את המבחן אך לא קרא לו בשמו. | |
|
|
|
|
|
||
|
||||
|
נדמה לי שאתה יוצא מההנחה ש''תבונה'' זה דבר אחד מוגדר וסדור. לי נדמה שזה הרבה מאוד פונקציות. למשל קשה מאוד כנראה לתכנת ברובוט את היכולת שיש לג'וק לנווט בעולם, אבל מאידך כבר מזמן נפתרה הבעיה של איחסון מכאני של הידע הרפואי שלומדים במשך שנים רבות בבית הספר לרפואה. זה כמובן לא אומר שג'וק הוא יותר תבוני מתלמיד בבית הספר לרפואה... |
|
|
|
|
|
|
||
|
||||
|
סתם הערה קטנונית, אני לא חושב שהמצאת הגלגל היא עניין גדול. המצאת המיסב (גלגל שסובב על ציר נייח) זו ההתקדמות האמיתית. | |
|
|
|
|
|
||
|
||||
|
כשאני מדבר על המצאת ''הגלגל'' אני מתכוון לו בתוספת הציר. גם המצאת המספריים בראשיתה לא הייתה משהו, אם אז הומצא רק ''מספר'' אחד ולא זוג, וכך גם הבוכנה ללא הצילינדר וכו'. | |
|
|
|
|
|
||
|
||||
|
ראיתי פעם סרטון היתולי בשם: "רגע המצאת הגלגל". שני חברה מזוקנים בלבוש "האדם הקדמון" טורחים קשות על סיתות אבן ענקית לצורת גלגל כשהם משמיעים זה כלפי זה תוך כדי כך כל מיני נאקות (יענו שפת האדם הקדמון). כשהמלאכה מושלמת, לאבן יש צורת גלגל, ששוכב על הקרקע. השניים מריעים בשמחה ואז בכוחות משותפים ובמאמץ רב הם מרימים את ה"גלגל" ומעמידים אותו, ואז במקום לגלגלו סביב צירו הם מפילים אותו לצד השני ושוב מרימים אותו מצדו השני וכך "מגלגלים" אותו בניצב לכיוון הנכון, תוך כדי קריאות שמחה. ברור שזה לא זה . . . |
|
|
|
|
|
|
||
|
||||
|
תבונה זה אחד התופעות שקל לנו לזהות באופן אינטואיטיבי, אבל קשה מאד להבין או להגדיר - בדומה למספרים רנדומיים, או הומור. מצד שני, יש לנו כבר מכונות שמחוללות מספרים רנדומיים, ואין מחלוקת על כך שלמחשבים יש חוש הומור משובח שמתבטא בעיקר בנטיה להתקלקל ברגעים הכי גרועים. לגבי הקידום של האנושות, אני חושב שאין שום ספק בפונטציאל של מכונות תבוניות "לעזור לנו ולהקל על חיינו". הדבר הזה מודגם באין ספור יצירות מד"ב, אבל בעיקר ע"י ידידינו בעלי החיים שעזרו ועדיין עוזרים לבני האדם. אני אתן דוגמא שנתן לי מרצה באוניברסיטה לפני הרבה שנים. אנחנו אף פעם לא רואים בסרטים איש רוכב על סוס, והסוס רץ רץ רץ ומתנגש בעץ. למה? מפני שבניגוד למכונית, סוס מספיק נבון בכדי להבין שלא רצוי להתנגש בעצים. יותר מזה, הוא יודע לבד להשאר על הנתיב הנכון. אילו היתה למכונית תבונה של סוס זה כבר היה נותן תועלת עצומה. אבל אנחנו רחוקים מאד משם. והתבונה של סוס היא דוגמא מאד טובה לסוג המכונות שאנחנו מחפשים - כלומר יכולת להתמודד עם העולם, כולל עם מצבים לא מוכרים, ולהגיע ליעד שמציבים לו. אם תרצה, מה שמעניין זה מבחן התוצאה. האם קיימת מכונית שיודעת לנהוג לבד, וזה לא משנה אם ימכרו אותה בתור מכונית חכמה או נבונה או דור 3. דרגה אחת מעבר לסוס, זוהי תבונה גנרית יותר ועם הרבה יותר פוטנציאל. רובוט תבוני, כמו בספרים של אסימוב, יוכל להחליף את בני האדם בעבודות הפשוטות והמשעממות. למשל: נקיון, שמירה, חקלאות. בניגוד לסוס, לא מדובר במומחה, אלא ברובוט שניתן לאמן אותו לעשות כל משימה בתנאי שהיא מספיק פשוטה (במקרה, כלבים עוסקים בשתיים מהמשימות שהזכרתי). גם כאן, מעניין מבחן התוצאה. אפשר להזכיר גם מכונות עוד יותר תבוניות, אבל אני מרגיש שאני נסחף. |
|
|
|
|
|
|
||
|
||||
|
אחזור בקצרה על דברים שעניתי לטל כהן. גם אתה וגם הוא מביאים רשימה של משימות שעל ה"מכונה התבונית" יהיה להתמודד עמן. נראה שהדמיון של שניכם הוא לא משהו, ובעצם הבאתם רק דברים שלפחות ממבט ראשון הם ממש בהשג יד, ואני מאמין שיימצא להם פתרון תוך זמן לא ארוך. למשל תכנת שח שהצליחה לנצח את אלוף העום בשח היא משהו שנשמע הרבה יותר מלהיב ממכונית שלא מתנגשת בעצים (1), ובמשימה הזאת האנושות עמדה. דעתי היא שפתרונות לבעיות כאלה יושגו ע"י זה שיתמקדו בבעיה וימצאו לה פתרונות. לבנות "מכונה תבונית" שתעשה בבת אחת את כל מה שצריך נראה לי משהו שאינו לעניין. (1)היום מטוסים נוחתים באופן אוטומטי לגמרי, וכטייס חובב [בדימוס] אני יכול להעיד שנחיתה היא תרגיל לא פשוט,מורכב הרבה יותר מאשר לא להתנגש בעץ. |
|
|
|
|
|
|
||
|
||||
|
"לבנות "מכונה תבונית" שתעשה בבת אחת את כל מה שצריך נראה לי משהו שאינו לעניין." למה לא לעניין? ברור שזה יותר קשה מלעשות משהו ספציפי. אבל גם הרווח הפוטנציאלי (ואני מדבר על רווח דולארי) הוא הרבה יותר גדול. בין כל המשימות האלו יש קווים משותפים - והזכרתי אותם בקצרה. למעשה, משתמשים בהן באותה "משפחה" של אלגוריתמים. כל משימה כזו שמושלמת, מעשירה את המשפחה של האלגוריתמים, ותורמת ישירות או בעקיפין להשלמת המשימות האחרות - ובסופו של דבר יתרמו למכונות תבוניות יותר ויותר גנריות. יש לי מטאפורה בשבילך. היום, זה די ברור שלפני שאפל המציאה מכשיר סלולרי עם מצלמה שגם גולש באינטרנט, כולל gps וכו' וכו' אז צריך היה להמציא את המחשב הראשון ואת המרכזיה הטלפונית הדיגיטלית, ולשלוח את הלווין הראשון לחלל ועוד ועוד. אתה דומה בעיני לדוור (בדימוס) שחי ב 1931 ואומר: כן, כן. כל הדברים האלו הם נשמעים ממש בהישג יד. טלפונים יש כבר היום וגם מצלמות. אבל אני לא מבין למה לערבב את כל המכשירים האלו ביחד, זה לא לעניין. מי יקנה את זה? |
|
|
|
|
|
|
||
|
||||
|
אם אתה רוצה שהמכונית שלך גם לא תתנגש בעצים וגם תדע לשחק אתך שח, אין לי התנגדות. אבל אני לא דברתי על דבר כזה או על מכשיר טלפון סלולרי שהוא עוד הרבה דברים שהומצאו קודם. אלה שמדברים על "מכונה תבונית" מדברים על מאמץ פיתוחי בכוון מסויים (כיוון שלי הוא לא ברור, ולדעתי כלל לא מוגדר), שכאשר יצליח, ימצאו לפתע פתרונות פלא להרבה בעיות שימושיות בבת אחת, שעד כה לא נמצא להן פתרון. אני אומר: הבה נמצא פתרון לכל אחת מהבעיות האלה בנפרד. אחר כך אם זה יהיה שימושי לאחד את חלקם למכשיר אחד, למה לא. אם זה שימושי מאמץ האיחוד כדאי. הוא פותר עוד בעיה שכדאי לפתור. |
|
|
|
|
|
|
||
|
||||
|
בוא ננסה כיוון חדש. לפעמים יש בעיות שבאמת יש להן מכנה משותף, ויש איזשהי אפליקצית קסם שעשויה לפתור הרבה בעיות כאלו בבת אחת, ועוד בעיות שאנחנו לא מצליחים לחשוב עליהם כיום. קח לדוגמא את ההנדסה הגנטית. להנדסה גנטית יש יישומים גם בחלקאות, גם ברפואה, בתעשיית הפלסטיק, ובטח בעוד הרבה תחומים שאני לא מכיר. רק מי שלמד הנדסה גנטית, יכול להבין מה המשמעות של ייצור חלבונים באופן סינתטי (לדוגמא), ואיזה דברים חלבונים כאלו יכולים לעשות ולא יכולים לעשות. ההנדסה הגנטית נתנה לנו כלים חדשים לגמרי. כלים שלעולם לא היינו מקבלים אילו היינו מנסים למצוא פתרון לכל בעיה בנפרד. נגיד שמגיע איזשהו פרופסור מפוזר ממכון וייצמן, ויגיד: "אני צריך ככה וככה מיליונים לטובת הנדסה גנטית - אבל תדעו שזה לא מחקר טהור, כי יש לו יישומים גם בזה וגם בזה וגם בזה." עכשיו נניח שאתה אדם מהרחוב שהחלבון היחידי שהוא מכיר זה מה שעושים ממנו חביתה. אז הוא יגיד מה לעזאזל הקשר בין תנובת הפירות של עץ התפוז, לבין תרופה לסרטן. אם אתה רוצים לחפש תרופה לסרטן לכו לבית חולים, ואם אתם רוצים יותר תפוזים אז לכו לפרדס, אבל לא יכול להיות שיש כיוון מסויים שפותר את 2 הבעיות האלו. עכשיו, יש כל מיני פרופסורים למדעי המחשב, שטוענים שיש איזשהו מכנה משותף גם לבעיה של קריאה אוטומטית של טקסט, וגם לבעיה של מכונית שנוסעת בעצמה, ולעוד הרבה בעיות אחרות. ויש תחום מחקר, בשם בינה מלאכותית. שיש לו יישומים גם בזה וגם בזה. אתה, כלל לא מסוגל לזהות את המכנה המשותף הזה ואין לך מושג על מה התחום הזה מדבר. לכן, בעיניך, הקשר בין שתי הבעיות שהזכרתי זה כמו הקשר בין מחט לתחת, ולא ייתכן שיש איזשהו פתרון קסם לשתיהן. לדעתי אתה צריך להכיר בכך שאתה בור בעניין זה (בניגוד לעניניים אחרים..). הטענה שלך שעדיף למצוא פתרון לכל בעיה בנפרד, מבוססת בעיקר על חוסר ידע. |
|
|
|
|
|
|
||
|
||||
|
אגב, הגישה של מינסקי עפ''י ההרצאה שהזכרתי דוקא טוענת שמדובר בהרבה בעיות נפרדות, ו''הפתרון'' יהיה מורכב מהרבה פתרונות נפרדים לכל אחת מהן. כך, לטענתו, פועל גם המוח שלנו. | |
|
|
|
|
|
||
|
||||
|
לא יודע למה נזכרתי בזה. אבל הנה מכשיר שהוא "מאמץ פתוחי בכיוון מסויים שהוא לא ברור (למי שלא עוסק בתחום). אבל כאשר יצליח, יימצאו לפתע פתרונות פלא להרבה בעיות שימושיות בבת אחת". אפשר לראות גם כמה המכשיר הזה הוא שונה מהגישה שדב הציג: "הבה נמצא פתרון לכל אחת מהבעיות האלה בנפרד, ואז נאחד את כולן למכשיר אחד". |
|
|
|
|
|
|
||
|
||||
|
מדהים! זה הזכיר לי את הדחיק סליק. | |
|
|
|
|
|
||
|
||||
|
איזה פחד.. דומה יותר ל''זבוב'' של קרוננברג. | |
|
|
|
|
|
||
|
||||
|
לזבוב יש יותר רגליים ( אבל לא ראיתי את הגרסה של קרוננברג). | |
|
|
|
|
|
||
|
||||
|
אפל המציאה? מעט דברים אפל המציאה, ובטח שלא את הטלפונים סלולרים עם מצלמה שגם גולשים באינטרנט, כולל gps וכו' וכו' שהיו לפני שאפל נכנסה לשוק. אפל בכלל מתמחה בעיצוב ויחסי ציבור, לא בטכנולוגיה. | |
|
|
|
|
|
||
|
||||
|
שתי הערות קטנוניות: קשה מאוד - למעשה בלתי אפשרי - לבני אדם ליצור ואפילו לזהות סדרת מספרים אקראיים. מחשבים הרבה יותר מוצלחים בזה מאתנו. כלבי שמירה אני מכיר. אבל כלבי ניקיון וכלבי חקלאות? תמהתי. |
|
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
לגבי המספרים האקראיים אתה צודק. אבל אם תראה לבנאדם ציור, הוא יגיד לך באופן מיידי אם מדובר בסדרת כתמים אקראית, או בציור ''כלב דלמטי בשלג''. למחשב זה משימה לא קלה בכלל. לגבי חלקאות, התכוונתי לכלבי רועים. לגבי נקיון, כלבים רק עושים את המצב יותר גרוע בתחום הזה. |
|
|
|
|
|
|
||
|
||||
|
הפעם הגזמת ממש. מאז שהכלב שלנו נפטר אנחנו חייבים לטאטא את הריצפה אחרי כל ארוחה! "חתול ניקיון" מילא, אבל כלב? |
|
|
|
|
|
|
||
|
||||
|
טוב, כידוע יש אנשים שלא מאמינים אפילו בקיומם של אטומים, כך שמן הסתם אתה צודק. גם אחרי שמכונות אינטליגנטיות להפליא יחברו שירים, יוכיחו משפטים במתמטיקה (רימן וגולדבך יוכלו סוף סוף להרים כוס תירוש בגן עדן), יגלו את תורת השדות המאוחדת (היית מאמין שאחרי כל ההו-הה מתברר שהעולם הוא דוקא דו-ממדי?),ימצאו תרופה לאלצהיימר, יוכיחו שאולמרט אשם ויתווכחו באייל אם בני האדם הם "יצורים תבוניים", יהיו מי שיצעקו שהמלך עירום. ניסוי מחשבתי: SETI מזהה, בשעה טובה, שדרים מהחלל. השדרים מפוענחים ומכילים מידע על העולם שנבדק ונמצא אמיתי, וכן את הדברים הטובים מהפיסקה הקודמת. האם תדרוש הוכחה לכך שהכותבים מתבססים על כימיה אורגנית כדי להעניק להם את התואר "יצור תבוני"? למתעניינים - שעה ומשהו של מרוין מינסקי בשאלות דומות במקצת: http://mitworld.mit.edu/play/482/ |
|
|
|
|
|
|
||
|
||||
|
שכחת להוסיף לרשימת היכולות המדהימות של אותן מכונות שתהיה להן גם יכולת בחירה ורצון חופשי. אז הם יהיו יצורים על תבוניים כי, כידוע, לאדם עצמו לא יכול להיות דבר כזה. . . | |
|
|
|
|
|
||
|
||||
|
זה אכן משעשע עד מאד, אבל לא ענית לי לגבי הניסוי המחשבתי שהצעתי. | |
|
|
|
|
|
||
|
||||
|
כרגע, חוץ מלשעשע, אבדתי את החשק לחזור ולדון בעניין, ואני מסתפק במה שאמרתי עד כה. | |
|
|
|
|
|
||
|
||||
|
אם תיבנה מכונה שתעשה את כל הדברים שמנית, מבלי שמאמצי הפיתוח של המפתחים יתרכזו בכל אחד מהנושאים האלה בנפרד, אלא במשהו ''תבוני'' כללי, מבלי שהמפתחים ידעו בכלל איזה בעיות אמורה המכונה שלהם לפתור, אני חושב שאהיה בין אלה שיאמרו שהאנושות הצליחה לפתח מה שקרוי ''בינה מלאכותית'', אבל איני מאמין שהדבר הזה יקרה. למען האמת הספקות שלי בקשר לטיב ההגדרה התרכזו בעיקר ב''מבחן טורינג'', אחרי ששמעתי עליו, ולא להגדרה כפי שאתה הצגת בחלק הראשון של דבריך. אשר לניסוי המחשבתי, הרי לא מדובר במשהו שפותח ע''י אדם אלא על ''חייזרים'' נבונים, וזה נושא לגמרי אחר. אני גם לא מאמין שיש יצורים כאלה, אך אם תהיה הוכחה לקיומם בודאי היותה או אי היותה של כימיה האורגנית שבונה אותם, תהיה בלתי רלוונטית. |
|
|
|
|
|
|
||
|
||||
|
הפיסקה הראשונה שלך לא שונה בהרבה ממבחן טיורינג. כדי שהמכונה תוכל לעמוד במבחן היא תצטרך לענות על כל מה שעולה בדעתו של הבודק, והמתכננים שלה ודאי לא יכלו לדעת אילו שאלות היא תישאל, כך שללא ספק "המפתחים [לא] ידעו בכלל איזה בעיות אמורה המכונה שלהם לפתור". | |
|
|
|
|
|
||
|
||||
|
אבל במבחן טיורינג לא מוגדר אפילו זמן שבו על המבחן להיערך. שניה תספיק ? אני מוכן להסכים לדבר כזה (אולי אפילו בסתירה לדברים שאמרתי קודם): נעזוב את ההגדרות. אם תהיה לפנינו מכונה כזאת (ותעשה בין השאר את כל הדברים שמנית בתגובתך הקודמת או אפילו חלק) כולנו נדע שהיא ישנה. |
|
|
|
|
|
|
||
|
||||
|
מבחן טיורינג, כפי שטורינג הגדיר אותו, נערך כאשר ה"בוחן" משוחח עם שתי ישויות – אדם, ושאינו אדם; והוא מסתיים כאשר ה"בוחן" יודע לומר מי מהם הוא אדם (או מודיע שאינו יכול להחליט). | |
|
|
|
|
|
||
|
||||
|
עדיין להרגשתי אין די בכך כדי שזה יהיה מוגדר היטב, אבל מאידך גיסא איני רואה טעם להתחיל להתמקח, בנוסח: ואם הבוחן יהיה עייף, או מה מידת האינטילגנציה שלו עצמו, או שסתם לא יתחשק לו להתאמץ, והוא יחליט להפיל גורל וכדומה. | |
|
|
|
|
|
||
|
||||
|
ארוע נדיר: אני מסכים איתך לחלוטין. אני חושב שכאשר ניתקל ביצור תבוני, לא תהיה לנו שום בעיה לדעת זאת. | |
|
|
|
|
|
||
|
||||
|
שאלה לא פחות מעניינת היא אם אנחנו מבינים איך פועלת האנושות בסביבת "מכונות תבוניות"? כמה ימים היינו מצליחים להתקיים אם כל העולם המודרני היה מתמוטט פתאום? רובנו כבר מזמן לא מתפקדים ממש לבד. קידמה או לא, מים לשתות לא יהיו לנו. |
|
|
|
|
|
|
||
|
||||
|
אין ביכולתי - מאילוצי זמן - לקרוא כרגע את I Am a Strange Loop, אבל מהתיאורים כאן נדמה לי שמושג 'רסיסי הנשמה' של הופשטדר בעצם אומר שכל עוד אדם השפיע בצורה עמוקה על חיי אנשים אחרים הם בעצם חי דרך השפעתו האמורה עליהם. אם אני צודק, מה מחדש כאן הופשטטר חוץ מכמה מונחים חדשים לרעיון ישן מאוד? אגב, סוציו-ליגוינסט ישראלי בשם חיים נוי טוען טענה דומה למדי, אם כי במונחים אחרים, ולפי דעתי מעט יותר מעניינים (ושוב - סביר להניח שאני חוטא כאן להופשטטר). לפי נוי, כאשר אנו מדברים אנו, לעתים מזומנות, "אחוזים" (במובן של possession) על ידי אנשים שדיברו לפנינו - אנחנו מעתיקים מהם חלקי משפטים, סגנון דיבור, דיקציה וכדומה. הוא מדגים את התופעה באמצעות ספרי מבקרים של מטיילים בחו"ל, ומראה כיצד ביטויים מסוימים, המייצרים כמו גם מייצגים הלכי חשיבה דומים, מועתקים בין מטייל למטייל. אני חושב שאנלוגיה טובה נוספת היא ביטויים לשוניים מסוימים שהופכים נפוצים בקבוצות קטנות ואינטנסיביות (למשל קורסים בצבא או כיתות מסוימות בבית הספר או קבוצה של חברים קרובים) - ביטויים ויראליים ממש, שאתה מוצא את עצמך מאמץ לעתים בעל כורחך. |
|
|
|
|
|
|
||
|
||||
|
אינני מכיר את התאוריות הקודמות שאתה מתייחס אליהן, אבל אולי מה שהופשטטר חידש זה רק בטענה כי ה"חיים" של "רסיסי נשמה" הם חיים של ממש; אם התבונה היא תבנית (pattern), הרי שהעתקת התבנית למצע חדש פירושה שהתבונה ממשיכה להתקיים; והעתקה חלקית פירושה קיום חלקי. כלל שההעתקה מקיפה יותר (היכרות מעמיקה יותר), העותק "חי" יותר. | |
|
|
|
|
|
||
|
||||
|
כל החלק הזה של הראיון עם הופשטטר נראה לי (כמו שהשמאלנים מגדירים את השקפות הימניים), הזוי - משהו פסאודו מיסתי. אני נזכר במושג הרבה יותר פשוט מ"נשמה" - "מעבר חום", שעליו למדתי אצל פרופ' ארתור שביט (שלהפתעתי מלמד היום, כ 35 שנים מאוחר יותר, את בני), בשעורים הראשונים בתרמודינמיקה. אנחנו אומרים שעובר "חום" ממערכת אחת לאחרת. אבל, בעצם, מדובר רק באמירה לצורך הנוחות. בעצם לא עובר בין המערכות שום דבר. מדובר בהשפעה הדדית בין המערכות, באחת האנרגיה הפנימית, שהיא תכונה של המערכת, פוחתת, ובשניה גדילה. חומר בודאי לא עובר, וה"מעבר" הוא משהו מופשט לחלוטין. אבל כאן, הופשטטר קורא להעברת ידע, שהיא בעצם, השפעה הדדית בין בני אדם, "מעבר חלקי נשמה", שכביכול ממשיך את החיים. קשה לבקר מישהו שנחשב רציני, אבל זה נראה לי ממש התחרפנות. |
|
|
|
|
|
|
||
|
||||
|
חום הוא פחות אמיתי בעיני מגרזן, אבל כמו מהירות, תנע, אנרגיה (ואפילו אינפורמציה) יש לו קיום בעולם הפיזיקלי. המראיינים נגעו בשימוש של הופשטטר במילה ''נשמה'', שמוסיף לדיון ניחוח דתי-מיסטי. לטענתו זה עקרוני - אני חושש שיש כאן גם ''אמצעי אומנותי'' ותאוות פרובוקציה. נ.ב. לאף צד אין מונופול על הקריאה ''השקפה הזויה''. זה טריק רטורי שנועד לסמן את מי שמחוץ לקונצנזוס, לכל צד. |
|
|
|
|
|
|
||
|
||||
|
בודאי שלכל המושגים האלה, כולל למעבר חום, יש קיום. המיוחד ב''מעבר חום'' הוא המילה ''מעבר'' שגורמת לאדם לחשוב על כך כמו זרימה של מים (ופעם באמת דברו על ''אתר'' שזורם). כשמישהו חושב על מעבר אנרגיה קינטית, התפישה האינטואיטיבית שלו היא ישירה. הוא לא חושב על משהו כמו חומר שזורם. אגב, ''זרם חשמלי'' הוא מושג שדומה, מהבחינה שאני מדבר עליה, למעבר חום. בהגדרה המילולית יש אנלוגיה למשהו אחר. |
|
|
|
|
|
|
||
|
||||
|
התיאוריות הקודמות הן, למשל, תיאוריות מימטיות (שאינן חביבות עלי במיוחד) או פשוט האמונה הפופולרית שאדם ממשיך להתקיים באמצעות יצירותיו הרוחניות ו/או הביולוגיות. נראה לי שיש כאן נטייה להאנשה שהופשטטר דווקא אינו חוזר עליה, בדרך-כלל - הנטייה לראות ברעיונות (או מערכות של רעיונות) עניין אוטונומי המתקיים בפני עצמו. לרעיונות אין מודעות עצמית או (אשליה של-) רצון חופשי, ובמונחיו של הופשטטר, הם אינם לולאתיים (כפי שנאמר פה על ידי אחרים). גם אם אני מאמין בתיאוריות של מרקס אודות טבע החברה, מרקס אינו חי כיום באמצעותי - *רעיונותיו* חיים כיום. עכשיו, אני מבין שהופשטטר מדבר על משהו מורכב יותר, הכרות אינטימית ממש, אבל הרי זה נמוג תוך דור אחד (במקרה הטוב), וגם לפני שזה נמוג אין את מוטיב המודעות העצמית החיוני כל-כך. הופשטטר מעריך מאוד את היכולת של אנשים ושל התבונה האנושית להפתיע אותנו, להיות לא-צפויים ובלתי ניתנים לשחזור. השפעתו של אדם נותרת אחריו, וודאי - אבל את היכולת להפתיע אותנו ולחדש הוא איבד. עיקר שכחתי: הראיון מרתק, השאלות מצוינות והתרגום קריא וטבעי. כל הכבוד. |
|
|
|
|
|
|
||
|
||||
|
אה. כדי להבהיר – גם אני חושב שהתפישה של הופשטטר, לפיה משהו ממלחין שנפטר לפני 200 שנה עדיין חי, וזאת בזכות יצירותיו, אבסורדית למדי. (תודה.) |
|
|
|
|
|
|
||
|
||||
|
אני לא לגמרי בטוח שהטענה אבסורדית. דווקא בחלק אחר של הדיון ניסו להפריד בין החיים כקיום של המכונה הביולוגית שנקראת ''אני'' לצורך הדיון, לבין פונקציות תבוניות אחרות שה''אני'' הזה מייצר. למה לוותר על הראיה של הזכרון של הדברים שעשינו, על פירות עמלנו, על חלקנו בילדינו ועוד כמעין המשך של ה''נשמה'' או איך שלא נקרא לזה. אם האדם הוא מעט יותר מהמכונה של גופו אז חלק מקיומו מתמיד בצורה זו או אחרת בעקבות שהוא משאיר בעולם. ואני דווקא מטריאליסט אדוק (ואפילו מארכסיסט...). (את הופשטטר לא קראתי ואני קצת מתבייש להגיב על דברים מפי השמועה). |
|
|
|
|
|
|
||
|
||||
|
מעניין מאד ומעורר מחשבה, למרות שאני שותף לאחרים בעניין המשך קיום הלולאה במוחות אחרים. יש ספר של Larry Niven שעוסק בנושא בצורה שמאד מצאה חן בעיני פעם. נדמה לי ששמו The Integral Trees או משהו דומה. מישהו מכיר? |
|
|
|
|
|
|
||
|
||||
|
נדמה לי שקראתי את ההמשך. משהו עם חיים באפס ג'י? | |
|
|
|
|
|
||
|
||||
|
כן, משהו כזה. אני לא ממש זוכר, מלבד שהיו מעין שם עצים ענקיים מרחפים בחלל, ואנשים (לא אנשים מן הסתם. יצורים תבוניים) שמתו המשיכו להתקיים במידה מסוימת במוחותיהם של החיים. היו כמה רמות של קיום כזה, בהתאם לכמות האינפורמציה שהספיקו להעתיק, ומדי פעם הם קיבלו את השליטה על ה''אני'' של הנשאים, כלומר הפכו באמת ללולאה מוזרה. | |
|
|
|
|
|
||
|
||||
|
אני לא זוכר משהו כזה בספרים האלו. דרך אגב, יש סיכוי שיצא עוד ספר המשך, כמו שהוא הוציא, באיחור בכלל לא קטן, ספר נוסף בסדרת Ringworld? |
|
|
|
|
|
|
||
|
||||
|
אולי אני מתבלבל. קראתי את הספר לפני עשרים שנה בערך. | |
|
|
|
|
|
||
|
||||
|
אני זוכר סיטואציה דומה ב accelerando. אם אתה אוהב את ז'נר הפוסט סייבר פאנק - |
|
|
|
|
|
|
||
|
||||
|
להמשך קוראים The Smoke Ring, ושניהם, למיטב ידיעתי, כבר לא מודפסים, כך שתצטרך להשיג אותם יד-שניה, אם אתה מעוניין. ללא ספק בין הספרים היותר טובים של ניבן. שניהם מתחילים בכעשרים עמודים של מפות, נתונים מספריים ודיאגרמות חיתוך-צד. | |
|
|
|
|
|
||
|
||||
|
גם לדעתי יש בעייה חמורה של סדרי גודל בעניין הישארות הנפש ע''פ הופשטטר. אולי יש לנו העתק גס של נפש יקירינו (ואפילו של שופן) אך אי אפשר לקרוא לזה ''רסיס חיים'', כפי שתביעת-רגלו של פיל בבוץ איננה ''רסיס פיל''. | |
|
|
|
|
|
||
|
||||
|
דימוי מצויין. | |
|
|
|
|
|
||
|
||||
|
אח, לו רק הופשטטר (אני יכול לקרא לו דאג?) היה מנצל את 14% הידע שלו בעברית ועונה כאן.. | |
|
|
|
|
|
||
|
||||
|
אני מנחש, מבלי לקרוא את הספר או את הראיון, שהוא היה לפחות משתעשע עם הרעיון של להגיד שבעוד שטביעת רגל של פיל לא יכולה לסייע בהוצאות להורג1, המודל של יקירינו שאנחנו מחזיקים בראשינו יכול לפעול בכל מיני צורות. אותי זה לא היה משכנע, והייתי אומר לו משהו בנושא, ואז הוא היה שואל אותי איך אני מצליח לנהל איתו דיון פורה שכזה למרות שהוא לא דובר עברית ואני לא טורח כרגע לכתוב באנגלית, אם אין לי רסיס של הנפש שלו אצלי בראש, שממשיך לפעול ללא התערבותו. את תגובתי הבאה היה מישהו מהמערכת מוחק. |
|
|
|
|
|
|
||
|
||||
|
http://he.wikipedia.org/wiki/%D7%9E%D7%97%D7%99%D7%A... אם לא מתוך כבוד לשפה, לפחות מתוך כבוד לעורך האייל שתרגם את הערך | |
|
|
|
|
|
||
|
||||
|
אז תגיד ''עצי האינטגרל'' של לארי ניבן. | |
|
|
|
|
|
||
|
||||
|
"עצי האינטגרל" של לארי ניבן. עוד משהו? |
|
|
|
|
|
|
||
|
||||
|
אנגלופיל. | |
|
|
|
|
|
||
|
||||
|
לא ידעתי שתרגמו את הספר לעברית. | |
|
|
|
|
|
||
|
||||
|
אבל זה לא 'עצי האינטגרל' (או ההמשך 'טבעת העשן' (שלא כמו 'עולם טבעת')) של לרי ניבן. אני דוקא זוכר את הספר שאתה כנראה מתכוון אליו, משהו עם עכברים או מבוך בשמו. | |
|
|
|
|
|
||
|
||||
|
כן, כבר העירו לי שאני טועה בעניין זה ומדובר בספר אחר. אני מתנצל בפני קוראי האייל על מסירת מידע מוטעה ומבטיח לשוב ולעשות זאת בהקדם. | |
|
|
|
|
|
||
|
||||
|
אני מעריך מאוד את הופשטטר. ניכר כי הוא אדם בעל שאר רוח, ידע עצום ועומק תרבותי רב. אמנם לא קראתי את ספרו החדש, אבל אהבתי מאוד את "גדל, אשר, באך". רק מה, כמו מרבית הקוראים, אהבתי אותו מהסיבות "הלא נכונות" - בגלל סגנונו והנושאים המעניינים שהוא מקיף. אבל התזה שמנסה הופשטטר לקדם הן בגא"ב והן ב"אני לולאה מוזרה" היא שגויה לחלוטין. בעצם, לא מדובר בתזה ייחודית להופשטטר. זו וורסיה אחד מרבות לרעיון התודעה המיחשובית: המוח הוא מחשב והתודעה היא תוכנה בעלת תכונות ספציפיות הרצה על החומרה הביולוגית, אך יכולה, בעיקרון לרוץ על כל מחשב (וכל מה ששקול מבחינה חישובית למכונת טיורינג). הרעיון הזה מהווה בסיס לשורה של פרידיגמות מחקריות, החל מחקר המוח וכלה בפיתוח "אינטיליגנציה" מלאכותית. המחקרים האלו הניבו הרבה מאוד תוצאות יפות. גם אלכימאים גילו חומרים חדשים וריאקציות מעניינות. אלא שאת אבן החכמים הם לא מצאו. והם גם לא ימצאו. אין ספק שחלק ניכר מהפעילות המוחית ניתן לתאר במונחים חישוביים, אבל תודעה איננה תופעה חישובית. חוויה מודעת איננה בכלל דבר שניתן לתאר או למדל. כיצד תייצג בביטים תחושה של "צבע אדום" כך שאפילו עיוור צבעים ידע למה הכוונה? איזו אופרציה מתמטית על ביטים תהיה שקולה לכאב שיניים? מה כואב ב"if k>7 goto 4200"? כיצד יכול מכניזם להבין את משמעות הפעולות שהוא מבצע? "אינטיליגנציה מלאכותית" זו מטאפורה לא מוצלחת לפיתוח אלגוריתמים היוריסטים לבעיות מורכבות. אין פה אינטיליגנציה בכלל, משום שאינטיליגנציה מצריכה קיום "אני" שמסוגל להבין את הבעייה ולא רק לעקוב אחרי שורת כללים פורמליים. ולדעתי, (הנתמכת, למשל, בטיעון החזק של המתמטיקאי רוג'ר פנרוז) אפילו סימולציה שמחקה תפיסה אנושית איננה אפשרית. היא עשויה להצליח בהרבה מקרים, אבל תמיד יהיה מקרה כלשהו שיחשוף את ה"באג". את המעגל הזה (או הלולאה) אי אפשר לרבע. |
|
|
|
|
|
|
||
|
||||
|
אני מסכים שהרעיון שאדם הוא תוכנה שרצה על חומרה ביולוגית הוא שגוי, אבל עם הפסקה השלישית אני לא מסכים בכלל. ראשית, מי אמר שכל תודעה חייבת להיות מסוגלת לחוש כאב, ועוד בדיוק באותה הצורה כמוך? דבר שני, תוכנה יכולה להגיב באותה הצורה כמוך למה שגורם לך לכאב - לשנות את השיקולים המנחים אותה ("להתבלבל", "להכנס לפאניקה") - ואז מה ההבדל מבחינת צופה מן הצד? זה שנדמה לך שכשיצור ביולוגי נמצא במצב הזה, זה פתאום יותר "אמיתי"? זו סתם טעות שלך, לעניות דעתי. "כיצד יכול מכניזם להבין את משמעות הפעולות שהוא מבצע?" - כיצד אתה יכול? "'אינטיליגנציה מלאכותית' זו מטאפורה לא מוצלחת לפיתוח אלגוריתמים היוריסטים לבעיות מורכבות" - אני לא מסכים. זה ביטוי מצויין עבור מי שחושב כמוני - שהמחשבה שהאינטיליגנציה האנושית שונה מהותית נובעת מהבנה שגויה של האינטיליגנציה האנושית. "משום שאינטיליגנציה מצריכה קיום 'אני' שמסוגל להבין את הבעייה" - ציטוט נחמד בהקשר הזה הוא "במתמטיקה אתה לא מבין דברים, רק מתרגל אליהם." אני מניח שתבין את כוונתי בהצגתו. |
|
|
|
|
|
|
||
|
||||
|
"מי אמר שכל תודעה חייבת להיות מסוגלת לחוש כאב" - אף אחד. אבל יש תודעות, למשל שלי, שמסוגלות להרגיש כאב. אם לא ניתן להציג תודעה כזו כפעולה חישובית, למה שניתן יהיה להציג אחרות? "תוכנה יכולה להגיב באותה הצורה כמוך למה שגורם לך לכאב" - אולי. גם אני יכול לצעוק "איי! אוך!" לעוות את פני ולקפוץ במקום, סתם בתור הצגה. השאלה האם תוכנה יכולה להרגיש משהו, לא האם היא יכולה לחקות פלט אנושי ברמה מוגבלת כלשהי. "כיצד אתה יכול [להבין את משמעות הפעולות שאתה מבצע]?" - לא יודע. אבל עובדה שאני מבין. אני כן חושב שאינטליגנציה אנושית שונה מהותית מאלגוריתמיקה, משום שהיא כוללת בתוכה הבנת משמעות. גם מבחינה פדגוגית, אנשים מצליחים ללמוד משהו כאשר הם מבינים אותו, לא כאשר הם משננים שורה של כללים פורמליים לפתרון, אפילו יהיו אלו כללים מוצלחים מאד. רואים את זה המון בלימודי מתמטיקה. "במתמטיקה אתה לא מבין דברים, רק מתרגל אליהם." - זו טעות איומה, לדעתי. |
|
|
|
|
|
|
||
|
||||
|
"השאלה האם תוכנה יכולה להרגיש משהו, לא האם יכולה לחקות פלט אנושי ברמה מוגבלת כלשהי". אם יש איזשהו הבדל ניתן למדידה, בין מישהו ש"באמת" מרגיש משהו, לבין מישהו שמזייף, אז אפשר לבדוק האם התוכנה מרגישה משהו או לא. על פניו, נראה שזהו המצב: אנחנו יכולים להגיד שלאבנים ולפרחים אין רגשות ולכלבים כן (אם כי יותר פשוטים משלנו). גם אדם שמזייף כאב, אפשר לחשוף ע"י לחשוף ע"י אמצעים שכל חובש בטירונות כנראה מכיר. יש לאנשים יכולת אינטואיטיבית לזהות רגשות אצל אחרים, למרות שאין לנו יכולת לראות לתוך הנפש של האבן, הפרח, הכלב או הטירון. יש דרכים מדעיות יותר למדוד האם משהו באמת מכאיב, למשל ה"ניסוי" בסרט ממנטו, למי שזוכר. או לעקוב אחרי גלי המוח שלו בזמן שאנחנו נותנים לו מכה אמיתית, ומכה ב"כאילו". ואגב, ראוי לזכור שמכל התופעות המחשבתיות, דווקא כאב הוא משהו שאנחנו מבינים טוב מאד איך הוא עובד. אם מעבירים לבן אדם אות חשמלי בעצב הנכון, אז כואב לו, וכואב לו באמת ואין שום הבדל בין הכאב המלאכותי הזה לבין כאב "אמיתי". אם אתה טוען שאין דרך להבדיל באופן מוחלט בין רגש אמיתי לרגש מזוייף, אפילו לא באופן תיאורטי, אז הטענה שבני אדם מרגישים ותוכנות לא יכולות היא טענה מטאפיזית לחלוטין. באותה מידה מחשבים יכולים לטעון שהם אלו שבאמת מרגישים, ובני אדם רק מחקים אותם ברמה מוגבלת, וגם הם יהיו צודקים. |
|
|
|
|
|
|
||
|
||||
|
מה היה הניסוי בממנטו? מה יודעים החובשים? השאלות נשאלות בשם ציבור הלא חובשים שלא צפו במומנטו (או לא זוכרים את הסרט) |
|
|
|
|
|
|
||
|
||||
|
אני לא חובש. לגבי הסרט: Some of the objects were electrified,"
They kept repeating the test, always with the same objects electrified. The point was to see if he could learn to avoid the electrified objects. Not by memory, but by instinct" |
|
|
|
|
|
|
||
|
||||
|
משהו כזה? http://www.haaretz.co.il/hasite/pages/ShArtPE.jhtml?... (תגובה 324221) |
|
|
|
|
|
|
||
|
||||
|
כל מה שאתה יכול לבחון בנוגע ל"כאב" זה הביטוי החיצוני של התחושה. למדת מניסיונך שבני אדם מגיבים באופן מסוים, או שלגלי המוח שלהם יש אופיין מסוים, כאשר הם מדווחים על כאב. אבל אם תתקל בחייזר אשר הפיסיולוגיה והפסיכולוגיה שלו שונות באופן קיצוני משלנו, לא תהיה לך שום דרך לומר האם הוא חווה כאב או לא. שום גל מוח לא יעזור לך במקרה זה, משום שגל מוח איננו באמת הכאב, רק תופעה שנמצאת בקורלציה עם כאב אצל בני אדם. משום כך כאב איננו באמת משהו מדיד. אתה בכלל יודע שיש כאב בעולם, ומה משמעותו משום שאתה חווית, באופן פרטי וסובייקטיבי לחלוטין, את החוויה הזו. אתה לא מבין איך כאב "עובד". אתה מבין איזה תהליך ביולוגי גורם לו. אבל זה הטריגר, לא החוויה הנפשית. ברור שאפשר להשרות כאב באותות חשמליים ישירות לעצב. אז מה? הטענה שבני אדם מרגישים ותוכנות לא היא באמת טענה מטאפיזית. היא טענה מטאפיזית נכונה. יש גם כאלו. אתה יודע שבני אדם מרגישים משום שאתה בן אדם ואתה מרגיש (אני מניח). ואני טוען שמחשבים אינם מרגישים משום שמחשבים (סטנדרטיים) מסוגלים לפעול באופן חישובי בלבד, ופעילות כזו לבדה, מניפולציה על ביטים, איננה יכולה לגרום למודעות אף פעם. |
|
|
|
|
|
|
||
|
||||
|
לא הבנתי מדוע מניפולציה על ביטים איננה יכולה לגרום למודעות. אפרופו אלכימיה, האם יש איזשהי תכונה מטאפיזית שלא קיימת באטומים של מחשב וכן קיימת באטומים של המוח? ואם הכאב שאתה מדבר עליו הוא מטאפיזי לחלוטין, אז הרי באותה מידה שאתה טוען שמחשבים לא מסוגלים להרגיש, החייזר יכול לטעון שאתה לא מסוגל להרגיש, והמחשב יכול לטעון שלא אתה ולא החייזרים מסוגלים להרגיש. זה מלמד אותנו הרבה על טענות מטאפיזיות. |
|
|
|
|
|
|
||
|
||||
|
"אטומים של מחשב" אינם בסקלה הרלוונטית לדיון. הפעולות החישוביות שאמורות ליצור מודעות על פי התפיסה הפיסיקליסטית מתבצעות ברמת השערים הלוגיים ותאי הזכרון. והם אמורים להיות אנלוגיים לנויירונים במוח ולקשרים הסינפטיים בינהם. אני טוען שנוירון,מבחינת המאפיינים שלו שרלוונטיים לתודעה, איננו שקול לטרזיסטור\תא-זיכרון\שער לוגי, ורשת נוירונים איננה ניתן לייצוג כמעגל חשמלי או מנגנון חישובי קלאסי אחר. באופן יותר מפורש, לא ניתן לתאר פעילות מוחית רלוונטית באופן מלא ללא אפקטים קוונטים, ואפקטים כאלו תמיד מאפשרים לחלק מהממשות להיות נסתרת מחקירה חיצונית אמפירית (כלומר להיות מטאפיסית). חייזר יכול לטעון שאני לא מסוגל להרגיש. גם אתה יכול לטעון שאני לא מסוגל להרגיש. הסיבה שאתה בכל זאת מאמין שאני מרגיש היא שאתה מודע "מבפנים" ליכולת שלך עצמך להרגיש, ומבחין בכך שאני דומה לך מאד, התנהגותית ומבנית. זה שיקול רציונלי המוביל למסקנה מטאפיסית. גם "קוגיטו ארגו סום" זה שיקול רציונלי המוביל למסקנה מטאפיסית. וכך גם כל טיעון פילוסופי תקף אחר. ייתכן שנוכל להכריע בשאלה האם חייזר מסויים (או עכבר, או חיפושית) הוא יצור מודע כאשר נדע לזהות מהם הרכיבים החומריים הדרושים לקיומה של תודעה. אבל גם בין להבין מה דרוש פיזית על מנת שתהיה תודעה ובין להבין תודעה יש מרחק בלתי ניתן לגישור. הדרך היחידה להבין באמת "כאב" היא לחוות כאב. הדרך היחידה להבין באמת "כתום" היא לחוות כתום. |
|
|
|
|
|
|
||
|
||||
|
1. כאשר אתה אומר שלניורון יש מאפינים קוואנטים והוא אינו ניתן לייצוג ע"י מנגנון חישובי קלאסי - האם זה מבוסס על עדויות אמפיריות? 2. האם, לדעתך, מחשב קוואנטי יהיה מסוגל ליצר תודעה? |
|
|
|
|
|
|
||
|
||||
|
1) "עדויות אמפיריות" זה אולי קצת מוגזם. יש רמזים אמפיריים לכך שיש חשיבות לאפקטים קוונטיים בפעילות מוחית. למשל יש מחקרים הקושרים אבדן הכרה עקב אנסתזיה לאבדן קוהרנטיות קוונטית במוח. ויש תיאוריות המציעות מנגנונים פיזיולוגים ספציפיים, למשל התיאוריה של פנרוז ושל סטיוארט האמראוף לפיה התודעה קשורה לתהליכים קוונטיים במיקרו-צינוריות, שהם אברונים תוך נוירוניים. כמובן, כל הנושא די ספקולטיבי ושנוי במחלוקת. 2) המחשבים הקוונטיים עליהם מדברים כיום לא ייצרו תודעה משום שהם עושים שימוש רק בדינמיקה הקוונטית האוניטרית (פרט לשלב הפלט). אבל מחשב קוונטי במובן כללי יותר, בו יתרחשו גם תהליכי מדידה קוונטית במקביל להתפתחות הקוונטית האונטרית יאפשרו, לדעתי, מימוש מלאכותי של תודעה. בעצם, אני מאמין שהמוח הוא בדיוק מחשב קוונטי שכזה. |
|
|
|
|
|
|
||
|
||||
|
מחשב קוונטי שכולל דינמיקה אוניטרית ומדידות במקביל שקול חישובית למחשב קוונטי שבו כל המדידות מתבצעות בסוף (המודל המקובל). מחשב כזה ניתן למימוש ע''י מכונת טיורינג (הרדוקציה אינה פולינומיאלית) כך שאם באמת המוח שלנו הוא מחשב קוונטי אז ניתן לבנות חיקוי לא קוונטי שלו (שיהיה אולי איטי בהרבה ממנו). | |
|
|
|
|
|
||
|
||||
|
1) אתה מניח שאפשר לבטא את ההתפתחות הקוונטית כשורה של תהליכי התפתחות אוניטריים (משמרי הסתברות) המופרדים ע"י מדידות (הפועלות, במקרה זה, כאופרטורי הטלה במרחב המצבים). כלל לא ברור שניתן לבצע רדוקציה כזו עבור מערכת קוונטית הנמדדת באופן רציף, או בכלל איך לאפיין מדידה בתהליך כזה. 2) אתה מתעלם מאפקטים של גרוויטציה קוונטית. 3) אפילו הייתה טענתך נכונה, נובע ממנה שניתן לסמלץ את המוח האנושי באופן (בלתי יעיל) קלאסי, לא שסימולציה זו אקווילנטית מבחינה אונטולוגית לפעילות המוחית. |
|
|
|
|
|
|
||
|
||||
|
1. מה זה "מערכת קוונטית הנמדדת באופן רציף"? אם הכוונה למערכת שמקיימת אינטראקציה רציפה עם "מכשיר מדידה" אז אין שום בעיה להניח שמכשיר המדידה עצמו נמצא בסופרפוזיציה קוונטית עם שאר המערכת עד סוף התהליך ואז הוא קורס למצבו הסופי. 2. מה זה אפקטים של גרוויטציה קוונטית? איכשהו בלימודים שלי זה לא הוזכר לא בתורת הקוונטים ולא בתורת היחסות. מה שהם לא יהיו, לא נראה לי שהמוח האנושי מספיק מאסיווי כדי לייצר אותם. 3. נכון, אבל גם אם אין לנו מודל יעיל להדמיית מוח אנושי, עדיין זה מעניין לדעת שאין לו כוח חישובי שעולה על מכונת טיורינג. |
|
|
|
|
|
|
||
|
||||
|
ההנחה "שמכשיר המדידה עצמו נמצא בסופרפוזיציה קוונטית עם שאר המערכת" תלויה בכך שניתן לתאר מערכת מדידה מאקרוסקופית באמצעות חוקי הדינמיקה הקוונטית שתקפים במערכות מיקרוסקופיות. זו אקסטרפולציה שאין לה שום ראיה אמפירית ומעלה קן צרעות של בעיות פיסיקליות, שלפי דעתי, אבל אני כלל וכלל לא יחיד כאן, אינן ניתנות לפיתרון. הסיבה שהלימודים שלך לא כללו "אפקטים של גרוויטציה קוונטית" היא שאף אחד עוד לא הצליח לפתח תיאוריה סבירה של גרוויטציה קוונטית (אם כי, קרינת הוקינג מחור שחור, למשל, היא בהחלט אפקט של גרוויטציה קוונטית). קשה לדעת מה "מספיק מאסיבי" על מנת לייצר אפקט כזה בתיאוריה שעדיין לא קיימת, אבל אפשר לנסות לנחש. הנח שאורך החיים הגרוויטציוני של מצב המכיל סופרפוזיציה של מצבים הנבדלים מאקרוסקופית הוא בקירוב האנרגיה הגרוויטציונית הדרושה על מנת "להפריד" בין המצבים מחולקת בhbar. חישוב שעשו פנרוז ושות' הראה שהסקאלה הרלוונטית לקריסה גרוויטציונית ספונטנית של מצבים כאלו לא רחוקה מזו של תאים ביולוגיים ורכיביהם. |
|
|
|
|
|
|
||
|
||||
|
אני לא בטוח שהבנתי את הטענה בפיסקה הראשונה, אבל נדמה לי ששרדינגר בספרון ''מהם חיים'' טוען שמולקולת הענק הביולוגית היא כלי כזה שמגשר בין ההתרחשויות ברמה הקוונטית לעולם המאקרוסקופי. | |
|
|
|
|
|
||
|
||||
|
מצטער, אבל אין לי סבלנות לקרוא את כל ההודעות שלך לפני שאני שואל - עושה רושם שאתה רוקד סביב הטענה שיש במודעות האנושי משהו מעבר לחומר. שיש גם "נפש". שאם נרכיב מוח אורגני זהה, אטום אחרי אטום - ואני לא נכנס לשאלה האם זה אפשרי, זה ניסוי מחשבתי בלבד - עדיין לא נקבל יצור תבוני, אלא אם נפש תבחר להכנס ולשכון בו לפתע, מסיבות לא ברורות. כן/לא? (אם כן, הדיון שלי איתך נגמר.) |
|
|
|
|
|
|
||
|
||||
|
בוודאי שאם תבנה מוח אנושי אטום אחר אטום תקבל מוח אנושי, על כל יכולותיו. ומן הסתם, ניתן גם לבנות מוח השקול למוח האנושי לאו דווקא ממולקולות ביולוגיות. טענתי היא שלא מדובר במחשב, לא שיש משהו על טבעי במוח. מצד שני, אני בהחלט סבור ''שיש במודעות האנושי משהו מעבר לחומר''. אבל זו לא טענה מיסטית או דתית כלל וכלל, אלא אם כן אתה רואה בקאנט, למשל, מיסטיקן. די בחומר על מנת שתודעה תתהווה, אבל החומר איננו התודעה. חומר, מבחינתי, הוא כל דבר שניתן לאיפיון אמפירי (רקפות, אלקטרונים, נוירונים, חום, חורים שחורים) ואילו תודעה לא ניתנת לאיפיון אמפירי, אלא היא מה שקאנט מכנה ''נואמנה'' - מ''הדברים כשהם לעצמם''. |
|
|
|
|
|
|
||
|
||||
|
איך זה שונה ממחשב? תצטרך להסביר שוב את הפסקה השניה שלך. בפרט, להסביר במה שונה ה"תודעה" שעולה איכשהו מאוסף האטומים שמהווים את המוח מכל תופעה אחרת שנוצרת ממבנה אטומים מסוים, כמו חום ואור מנר בוער. |
|
|
|
|
|
|
||
|
||||
|
תקנו אותי אם אני טועה - לפי תורת הקוונטים הקלאסית, אין באמת הגדרה למערכת מאקרוסקופית או מיקרוסקופית. חוקי הדינמיקה הקוונטית הם זהים בכל מערכת, אלא שככל שהמערכת גדולה יותר, התוצאה שלהם מתקרבת לפיסיקה הקלאסית, בדיוק כמו שתורת היחסות מתקרבת לפיסיקה הניוטונית במהירויות נמוכות (אבל אין באמת ''מערכת נמוכת מהירות'', שבה הפיסיקה הניוטונית נכונה בדיוק). | |
|
|
|
|
|
||
|
||||
|
סדרת המאמרים של ירדן (החל מ דיון 1177 ) עוסקת (גם) בזה. אין שום "גבול קריטי" או משהו דומה, אחרת חתולו של שרדינגר לא היה מטריד כלל. כל מונה גייגר מראה אפקטים קוואנטיים במערכת מקרוסקופית. | |
|
|
|
|
|
||
|
||||
|
לא, זה ממש לא נכון. מדידה *מוגדרת* במכניקה קוונטית כאינטראקציה בין המערכת הקוונטית למערכת מדידה קלאסית-מאקרוסקופית. ללא ההפרדה הזו כלל לא ניתן לנסח את עקרונות הפיסיקה הקוונטית. יש איזה נפנוף ידיים של בוהר, עליו התחנכו דורות של סטודנטים לפיסיקה, לפיו החוקים הקוונטים הופכים איכשהו לחוקים קלאסיים כשעוברים לקנה מידה גדול. אפשר למצוא כמה ראיות תיאורטיות לקשר בין המכניקה הקוונטית לקלאסית (למשל, עקרון הפעולה המינימלית הקלאסי מתקבל כקירוב הפאזה הסטציונרית של אינטגרל המסלול הקוונטי) אבל הן נוגעות רק לדינמיקה. לא קיים כיום מודל מספק המסביר את המדידה הקוונטית על בסיס חוקי הדינמיקה הקוונטית. יש רעיון שנקרא dephasing שמנסה לתת הסבר כזה, אבל לא ראיתי שהוא הגיע רחוק. אין מה לעשות. מערכות קלאסיות לא מתנהגות באופן קוונטי. אתה לא נתקל בחתולים חיים ומתים בו זמנית. |
|
|
|
|
|
|
||
|
||||
|
נדמה לי שאתה טועה - אחת ההנחות בחיפוש אחר החוקים הקוונטיים הייתה בדיוק זו - שכל חוק קוונטי יתקרב לחוקים הקלאסיים כשהגודל שואף לאינסוף (כמו שלמשל צפיפות ההסתברות להימצאות האלקטרון במקומות שונים בתיבה גדולה היא בערך אחידה). ולגבי מדידה - כמו שבניתוח האינטראקציה בינך לבין כדור הארץ אתה מניח שמסת כדור הארץ היא אינסוף, כך אפשר עקרונית להניח עבור מערכות גדולות (כמו גוף האדם) שהן בערך קלאסיות ולקרוא לאינטראקציה איתן "מדידה". אתה בטוח שזה לא מה שעושים? |
|
|
|
|
|
|
||
|
||||
|
איבדת אותי באנסתזיה. בכל מקרה, אני רוצה לספר על הדיעות שלי בעניין. בעיני תודעה ורגשות הן בהחלט משהו מדיד, בדיוק כמו תופעות אנושיות אחרות כגון "הצטננות". אנחנו חשים את הצטננות באופן סובייקטיבי, וגם יש לתופעה הזו סימפטומים חיצוניים ומדידים. כתבת לפני כמה הודעות: "גל מוח איננו באמת הכאב, רק תופעה שנמצאת בקורלציה עם כאב אצל בני אדם. משום כך כאב איננו באמת משהו מדיד." בעיני זוהי לולינות פילוסופית. אז מה אם גל המוח הוא לא באמת הכאב, גם הגובה של הכספית במדחום זה לא באמת הטמפרטורה אלא תופעה שנמצאת בקורלציה עם הטמפרטורה. ואף אחד לא יגיד שטמפרטורה היא משהו לא מדיד. יותר מזה, בכלים חיצוניים פשוטים אפשר לספר לך על הרגשות הבלתי מדידים ובלתי ניתנים לתיאור יותר ממה שאתה יכול לדעת בעצמך. למשל, אפשר לגלות שאתה פוחד ממשהו, גם אם אתה בעצמך לא מודע לזה. עוד משפט שלך שתפס את עיני היה "אינטיליגנציה מצריכה קיום "אני" שמסוגל להבין את הבעייה ולא רק לעקוב אחרי שורת כללים פורמליים". זה הזכיר לי סיפור קצר על אדם שהיה חותם על המשפט הזה בכיף. קאספרוב, אחד מגדולי שחקני השח בהיסטוריה, שיחק בכמה טורנירים מפורסמים נגד מחשבים. היו לו נצחונות והפסדים. אבל אחרי ההפסד המשמעותי הראשון שלו, למחשב "כחול עמוק", קאספרוב טען שהוא ראה "יצירתיות ואינטלגנציה עמוקה" במהלכים של המחשב, ולא הגיוני שמחשב יגלה תכונות כאלו. כלומר, בניגוד לחוקי המשחק, המחשב נעזר בשחקן אנושי. הסיפור הזה מראה את שני הפנים של אינטלגנציה. מצד אחד, אינטלגנציה זה דבר מדיד. אנחנו מודדים אינטלגנציה של אנשים ושל מחשבים עפ"י ההתנהגות שלהם. מצד שני, כאשר אנחנו רואים התנהגות אינטלגנטית מכיוון בלתי צפוי, אנחנו מאד מתקשים להאמין לזה. |
|
|
|
|
|
|
||
|
||||
|
"איבדת אותי באנסתזיה" - סליחה. אנסתזיה זו פעולת חומר הרדמה, תהליך שהמכניזם הביולוגי שלו טרם פוענח. יש מחקרים המראים קורלציה בין הרדמה ואיבוד הכרה לבין שינוי בפרמטר קוונטי מסויים של המוח. אני ממש לא מתמצא בעניין, אבל אני אנסה לחפש על כך פרטים נוספים. ההבדל העקרוני בין טמפרטורה לבין כאב הוא שלטמפרטורה אין כלל משמעות מעבר למה שניתן למדוד. אין לך שום ידיעה על טמפרטורה של עצם מסויים שאיננה נובעת מחישה של אותו עצם (אם על ידי מגע ישיר ואם על ידי הסתכלות במדחום הצמוד לעצם). מאידך, כאשר כואב לך אתה יודע זאת באופן בלתי אמצעי, מבלי לעשות שימוש בשום חוש ובשום מדידה של העולם החיצון. כאב הוא חלק מהנפש, לא מהעולם. בשפת הפילוסופיה הקאנטיאנית, טמפרטורה היא פנומנה ואילו כאב הוא נואמנה. חוקר עיוור צבעים יכול למדוד את המתרחש במוחך ולהחליט שאתה רואה צבע ירוק (משום שבפעם הקודמת שדיווחת על צבע ירוק הוא זיהה אופיין דומה). כל זה לא יקדם אותו כלל בניסיון להבין מהי חווית הצבע. אין שום דבר ירוק בפעילות מוחית כזו או אחרת. זה רק data, ולdata אין צבע. אלגוריתמים מתוחכמים עשויים ליצור בנו לעיתים את האשליה שמדובר ביצור חושב. אבל זו אשליה. גם מחשב שחמט המשחק היטב עושה זאת באופן בלתי תבוני. הרי שום שחקן אנושי לא מחשב מיליארדי מסעים כדי להחליט מה לעשות. ולא קשה להמציא מצבים בשחמט שיוליכו שולל אפילו את המפלצת החישובית האימתנית ביותר, למרות שאפילו שחקן אנושי בינוני ידע להתמודד איתם. |
|
|
|
|
|
|
||
|
||||
|
בתור ילדה תהיתי רבות מה אנשים אחרים רואים כשהם רואים ירוק (או צהוב, או אדום או...). וגם איזה טעם הם חווים כשהם חווים מתוק... | |
|
|
|
|
|
||
|
||||
|
את לא לבד. | |
|
|
|
|
|
||
|
||||
|
אה, טוב, אבל עדיין אינני יודעת מה התשובה...:) | |
|
|
|
|
|
||
|
||||
|
את עדיין לא לבד. | |
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
אני לא יודע מה את רואה כשאת רואה ירוק, אבל ברור לי (בדרגת וודאות גבוהה) שאני רואה משהו אחר כאשר אני רואה ירוק. גם את וגם אני קוראים לצבע הדשא (של השכן), לאור התחתון ברמזור, לצבע הדגל של מכבי חיפה (או של ערב הסעודית) "ירוק", אבל אנחנו רואים דברים שונים. אולי דווקא ירוק אנחנו רואים אותו הדבר, ואת צבע הדם, האור העליון ברמזור והדגל של הפועל, זה ששנינו קוראים לו "אדום" אנחנו רואים באופן שונה. איך את רואה את הצבעים הללו? אני לא יודע. אני גם לא יודע להעביר לך את מה שאני רואה. אבל עובדתית, הקונטרסטים שמאוד צועקים לך, אצלי הם נראים מתמזגים, ואילו גוונים שלך קשה להבחין באחד על רקע האחר נראים לי בברור. |
|
|
|
|
|
|
||
|
||||
|
כלומר, כל מה שהוא סוביקטיבי, אינו ניתן למדידה. זה לא נכון. לדוגמא, נניח שאני עיוור הצבעים שהזכרת. אני יודע מתי אתה רואה צבע ירוק, ואני אומר לך כל פעם שאתה רואה צבע ירוק ב-100% דיוק. האם אני יודע מתי אתה רואה ירוק? אם כן, זה מספיק לי, כי זאת התחושה שאני מודד. הטיעון ש"אבל אתה לא יודע ממש מה אני מרגיש" הוא טיעון סרק, שלא מקדם אותנו לשום מקום. זה כמו לשאול בפיזיקה "למה החלקיק נעלם מכאן והופיע שם?". השאלה היא לא "למה?" אלא "איך?". השאלה היא לגבי המנגנון. לידיעתך, מחשבי שחמט כבר מזמן לא מבצעים חישובים של מליארדי מסעים אפשריים. חישובים כאלה לא יביאו אותם מספיק רחוק בזמן קצר (זאת הסיבה שמשחק שחמט בכלל נחשב בעיה מענינת). הם יודעים לנתח מצב משחק מהיבטים טקטיים על-ידי "צפיה" באלפי משחקים מהעבר ולמידה של מצבים טובים יותר ופחות. |
|
|
|
|
|
|
||
|
||||
|
ההבדל שאתה מתאר (גישה בלתי אמצעית) לא משנה דבר לגבי האם אנחנו יכולים או לא יכולים למדוד את זה. ולגבי כאב, אנחנו יודעים בוודאות שלכאב יש קורלציה גם לתגובות פיזיולוגיות של הגוף ובוודאי ובוודאי לגלי מוח. ואם אנחנו יכולים למדוד משהו, אז אנחנו יכולים לחקור אותו. לגבי הצבע הירוק, מדידות אכן נותנות לנו רק DATA ותחושה היא לא DATA. אז מה. גם מדידות של טמפרטורה נותנות לנו רק DATA וטמפרטורה היא לא DATA ובכל זאת אפשר ללמוד על טמפרטורה. |
|
|
|
|
|
|
||
|
||||
|
אינני טוען שאי אפשר לחקור כאב או חוויות סובייקטיביות אחרות. אבל האינפורמציה שתוכל להפיק באופן אמפירי אף פעם לא תוכל להיות שלמה. מבלי לחוות ירוק לעולם לא תדע באמת מהו ירוק, אף אם תוכל לומר הרבה דברים מעניינים לגבי האופן בו המוח האנושי מעבד קלט ויזואלי. טמפרטורה היא בהחלט data, רק data ושום דבר חוץ מdata. אין שום טמפרטורה טרנסצנדנטית שנמצאת מעבר לאותה תכונה ספציפית של המידע האמפירי שיש לנו לגבי העולם. אבל תחושה (שלך, לא של זולתך) לא תלויה בשום מידע אמפירי. אתה יכול לחוש כאב מבלי לדעת שום דבר על העולם החיצון. אתה יכול לחוות ירוק בחלומך. יש לך נגישות בלתי אמצעית לחוויה הפנימית שלך, ונגישות זו לא ניתן לשכפל או לפרוט לפרוטות של אפסים ואחדים. |
|
|
|
|
|
|
||
|
||||
|
לא ממש הבנתי את האבחנה שאתה עושה בין טמפרטורה לבין צבע. לשניהם יש מדדים חיצוניים אובייקטיביים (טמפ', אורך גל), עבור שניהם יש לנו חיישנים, ושניהם מעוררים בנו תחושה סוביקטיבית, כאשר אין לנו שום גישה לחוויה שאדם אחר חווה כשהוא נחשף לאותו הקלט. | |
|
|
|
|
|
||
|
||||
|
בין חווית החום לבין צבע אין הבחנה. בין טמפרטורה לבין אורך גל גם אין. בין טמפרטורה לבין צבע יש גם יש. |
|
|
|
|
|
|
||
|
||||
|
אם לדייק יותר: המלה "צבע" משמשת גם לציון התופעה האובייקטיבית, וגם לציון החוויה הפנימית. "טמפרטורה" משמשת לרוב רק לציון התופעה האובייקטיבית (כי היא לועזית, ועוד נגזרת מלטינית). | |
|
|
|
|
|
||
|
||||
|
(וגם בגלל שהמילה הערבית, חררה, התייחדה לפריחה שנגרמת לילדים בימי הקיץ החמים) | |
|
|
|
|
|
||
|
||||
|
בין חווית החום לבין צבע יש הבחנה מאד ברורה. כשיש לנו שלוש חוויות שונות של חום, אנחנו מסוגלים לסדר אותם באופן חוויתי (13 מרגיש בין 3 מעלות לבין 23 מעלות) והטמפרטורה היא בסך הכל סולם מונוטוני בין החוויה לערך מדיד, אותו הדבר תקף לחווית הרעש, חווית הכאב או חווית עוצמת האור. חווית הצבע היא לא כזאת, אנחנו (לפחות אני) לא חווים את הצהוב כמשהו שבא דווקא בין האדום לכחול. | |
|
|
|
|
|
||
|
||||
|
קודם כך, סליחה על התגובה המאוחרת. אני עסוק. שנית, אני שמח שהעמדה שלך קצת פחות קיצונית ממה שנדמה לי בהתחלה, כשכתבת: "חוויה מודעת איננה בכלל דבר שניתן לתאר או למדל". עכשיו אתה אומר משהו הרבה פחות קיצוני: כן אפשר לחקור כאב וחוויות סובייקטיביות אחרות, אבל האינפורמציה "אף פעם לא תוכל להיות שלמה". אבל מה זה אינפורמציה "שלמה"? ומה זה "לדעת באמת"? האם על טמפרטורה יש לנו אינפורמציה שלמה? האם אנחנו "באמת" יודעים מה זה טמפרטורה? אולי מבלי להיות עץ, לא תהיה לי תמונה שלמה על פוטוסינתיזה, ומבלי להיות מולקולה לא תהיה לי תמונה שלמה על מה זאת טמפרטורה. כשאני אפגוש מולקולה, אני אשאל אותה אם טמפרטורה זה רק DATA, אני בטוח שהיא תגיד שלא. ולמה דווקא כאשר *יש* לי נגישות בלתי אמצעית, אז התמונה בלתי שלמה, ואילו במקום שבו *אין* לי נגישות בלתי אמצעית, התמונה היא כן שלמה? ההגיון הפשוט אומר שזה הפוך. הנקודה היא פשוטה, כל מה שאמרת עד עכשיו לא מסביר למה אי אפשר להבין תחושות לפחות כמו שאנחנו מבינים טמפרטורה. אם כבר, נוכל להבין תחושות *יותר טוב* ממה שאנחנו מבינים טמפרטורה. לגבי "אי אפשר לשכפל או לפרוט לפרוטות של אפסים ואחדות", זה כבר טענה הרבה יותר חזקה מ*לא נוכל להבין*, כי הרי אפשר לשכפל מבלי להבין. שם ההסבר שלך אפילו פחות משכנע, כי אפשר לחשוב על כמה תהליכים מנטליים ששוכפלו לאפסים ואחדות. למשל, התהליך המנטלי הידוע כ: 2+2=4. זה שיש לנו חוויה פנימית של משהו כלל לא אומר שזה לא ניתן לביטוי כאפסים ואחדות. |
|
|
|
|
|
|
||
|
||||
|
סקירה פילוסופית קצרה ברוח האידאליזם הטרנסצנדנטי: טמפרטורה היא "פנומנה" (תופעה, בעברית), משהו שמאפיין את העולם החיצוני שידיעתנו עליו מגיעה דרך החושים. חוויה סובייקטיבית, כמו תחושת צבע וגם תחושת החום עקב מגע בגוף בטמפרטורה גבוהה, היא "נואמנה". זה לא משהו שהידע שלנו עליו הוא מן הנסיון אלא הוא קיים בתודעתנו ללא פרשנות. באמצעות ניתוח פנומנון אנו בונים לעצמנו מודל של העולם הנמצא מחוץ לתודעתנו. הדרך המתוחכמת ביותר לעשות זאת היא על ידי השיטה המדעית, אבל מרבית תפיסת המציאות שלנו היא אינטואיטיבית. אני מכיר במציאותו של הכיסא עליו אני יושב מתוך אינטגרציה ספונטנית של החוויות החושיות - מגע, מראה וכו' - המביאות אותי ליצור לעצמי תפיסה של עצם חומרי מסויים. אבל אין לי שום ידיעה על "הכיסא כשהוא לעצמו" אלא רק על בבואתו הקיימת בנפשי פנימה, אשר עברה את מסננת החושים והתפיסה. אין שום טעם בעיסוק ב"כיסא כשהוא לעצמו" או ב"טמפרטורה כשהיא לעצמה" משום שלא תתכן שום ידיעה על דברים אלה. כל המשמעות של פנומנון הרלוונטית לנו כבני אדם מגולמת בידיעה האמפירית שלנו לגביהם. מה שיש זה מה שניתן למדוד. זה הכל. לא כן לגבי נאומנון. חוויה נפשית היא לא מודל תפיסתי של משהו חיצוני. היא הדבר עצמו, מה שמתרחש בתודעה. הידיעה לגבי החוויות הסובייקטיביות שלנו זה משהו בסיסי ווודאי הרבה יותר מכל ידיעה אמפירית. אתה יכול לפקפק בקיומו של הקיר ממולך. אולי זו אשליה אופטית? אבל אם כואב לך אז כואב לך. אי אפשר לפקפק בז_ה! עד כאן מבוא לפילוסופיה. כעת, מי שטוען שניתן לנתח חוויות סוביקטיביות כמו שמנתחים תופעות עושה אקסטרפולציה מרחיקת לכת לשיטה המדעית, שאין לה שום ביסוס רציונלי וגם שום השגים להתגאות בהם. אם תיאור "מדעי" מכניסטי של חוויה נפשית אמור להיות שקול לחוויה עצמה, הכרת התיאור הזה אמורה לגרום למבין אותה לדעת מהי החוויה בדיוק כמו זה החווה אותה. האם אתה יכול להעלות על דעתך מקרה בו עיוור צבעים מבין מהי חווית הצבע לאחר קריאת מאמר מדעי, מבין ברמה השקולה לחוויה הסובייקטיבית עצמה? לי זה נראה כל כך מופרך עד שאני מתקשה להבין איך כל כך הרבה אנשים (ובכללם אף אני בצעירותי) קיבלו על עצמם אמונה זו. ועניין אחרון: גם את 2+2=4 מחשב לא יכול להבין. הוא יכול לחשב את זה. פה אין בעיה. אבל הוא לא ידע אם הוא חישב תרגיל מתמטי או שהוא הדפיס תגובה בדיון על תודעה. כל מה שהמחשב עשה זה להדליק ולכבות ביטים. כיצד הוא יידע מה משמעותם? |
|
|
|
|
|
|
||
|
||||
|
מנין לי שיש לך בכלל תופעות "פנימיות", שאין ביכולתי לחוש? אני לא יודע. מה שאני כן יודע, זה שהן באות, לדבריך, בהתאמה למצב הפיזיקלי. תחושת כאב יהיה לי מאוד קשה למדוד, אלא אם אני אבדוק את התגובה הפיזית שלך לכאב, שקיימת, וברת מדידה. אני לא רואה כאן שום הבדל מחקירה של גורמים טבעיים אחרים, שלהם אנחנו מניחים שאין "עולם פנימי" משום מה. אינטיליגנציה לא שונה מכך. אני מניח שאתה אינטיליגנטי, כי אתה מתנהג בעולם בצורה כזאת. אני לעולם לא אוכל לדעת אם ה"רגשות" שלך אינטיליגנטיים או לא, וזה לא ממש משנה לצורך הענין. |
|
|
|
|
|
|
||
|
||||
|
תיקון קטנוני: נואומנון/פנומנון זה צורת היחיד, נואומנה/פנומנה צורת הרבים. | |
|
|
|
|
|
||
|
||||
|
מצטער מאד על התגובה המאוחרת. תקן אותי אם אני טועה, אבל הפואנטה שלך היא שתיאור מדעי אינו שקול לחוויה. אני מסכים. אבל זה לחלוטין לא קשור למה שאני אומר. אני אומר, ששקילות היא כלל איננה רלוונטית. הזכרת את השיטה המדעית. כאשר אתה טוען משהו על השיטה המדעית, אתה צריך לתאר את השיטה המדעית, ולא את הפילוסופיה ברוח האידאליזם הטרנסצנדנטי. השיטה המדעית מתעסקת בדברים מדידים. תאוריה מדעית לא נמדדת בכך שהיא "שקולה" למשהו ("שקילות" זה עניין פילוסופי, לא מדעי), אלא במידת ההתאמה לתצפיות. כבר הסכמת שהחוויות הסוביקטיביות ניתנות למדידה, באותה מידה שטמפרטורה ניתנת למדידה1. ומכאן, שהן ניתנות לניתוח מדעי בדיוק באותה דרך שבה טמפרטורה ניתנת לניתוח מדעי. הטיעון שלך מדוע תיאור מדעי אינו שקול לחוויה הוא מאד משכנע. אני מקבל אותו. למעשה, הוא כ"כ משכנע, שאני השתכנעתי שגם משוואות התרמודינמיקה אינן שקולות ללהיות מולקולת מים באפס מעלות2. אני אגיד יותר מזה: אם תיאור מדעי אינו שקול לחוויה, על אחת כמה וכמה תיאור הנדסי שהוא הרבה יותר מוגבל . הרי תרשים של מקרר אינו שקול למשוואות התרמודינמיקה, ובטח ובטח אינו שקול לחוויה של מלפפון שהשארתי אותו יותר מדי זמן במגירת הירקות. באותה מידה, תרשים של המוח אינו שקול לתאוריה שמתארת את התודעה האנושית, ובוודאי ובוודאי אינו שקול למחשבות עצמן. וזה בדיוק הפגם בטיעון שלך, שכתבת לפני הרבה זמן.. כתבת שתודעה או רגשות אינם שקולים לאפסים ואחדות, ולכן לא ייתכן מחשב בעל תודעה. נכון, הם אינם שקולים, אבל זה לא רלוונטי. הם גם לא שקולים לתרשים של המוח. --- 1 לכל לחוויה נפשית יש איזשהו ביטוי מדיד בפעילות מוחית ובד"כ גם בהתנהגות של האדם. בפרט, יש חוויות נפשיות שאנחנו לא מודעים אליהן, אבל ניתנות למדידה באופן חיצוני. 2 מה גם, שמשוואות התרמודינמיקה מדברות על ממוצעים ולא על מולקולה בודדת. |
|
|
|
|
|
|
||
|
||||
|
"יש חוויות נפשיות שאנחנו לא מודעים אליהן, אבל ניתנות למדידה באופן חיצוני" - בא לך לפרט? | |
|
|
|
|
|
||
|
||||
|
קל יחסית למישהו שמכיר אותך לדעת אם אתה פוחד ממישהו, או נמשך למישהו, גם אם אתה עצמך לא מודע לזה. זה מאד נפוץ שאנשים לא מודעים לרגשות מסויימים - אבל הרגשות האלו מתבטאים בהתנהגות שלהם. | |
|
|
|
|
|
||
|
||||
|
במצבים האלה הייתי מהסס מאוד לקרוא לזה ''חוויות'' - בשבילי עיקר המשמעות של המלה הזו הוא לציין תחושה ומודעות. עדיף בעיניי ''מצבים נפשיים (לא מודעים)''. סמנטיקה בצד, חוסר המודעות הזה רומז שאולי יש הבדל חשוב בין מצב כזה לבין מצב שמבחינה ''מדידה'' הוא אותו דבר, אבל עם מודעות. | |
|
|
|
|
|
||
|
||||
|
הנקודה העקרונית היא שמדידה חיצונית היא מקור מידע אמין הרבה יותר על אותו דבר שנטען שכלל אי אפשר לתאר או לחקור אותו, ושהגישה אליו היא גישה סובייקטיבית בלבד. הרי המוח האנושי הוא מומחה בהדחקה ובהמצאה. ומה שאתה באמת ובתמים חושב שחווית לפני 24 שעות עשוי להיות שונה מאד ממה שבאמת חווית לפני 24 שעות. והסיבה היחידה שאנחנו יודעים את זה היא בגלל שעשו מדידות חיצוניות. גם את ההבדל שאתה מתאר: בין מצב נפשי לא מודע, מצב נפשי במודעות נמוכה, מצב נפשי במודעות גבוהה, מצב נפשי מודחק ועוד הרבה אפשרויות, קשה מאד לאבחן על עצמך והרבה יותר קל לאבחן באופן חיצוני. ככה שלהגיד שבמבחינת "מדידה" זה אותו דבר, זה קצת מצחיק - כנראה מבחינת מדידה חיצונית זה יהיה דומה בדברים מסויימים, ושונה מאד בדברים אחרים. אבל אם אני אשאל אותך, בדיעבד: "איך הרגשת אז, כש.." אז תחשוב שזה היה אותו דבר כמו אז, למרות שזה לא היה אותו דבר כמו אז. |
|
|
|
|
|
|
||
|
||||
|
יש לי הרגשה שקצת מפריזים בערכה של המודעות: תיאור מקרה – קלפטומניה ואפילפסיה אשר טופלו על ידי Topiramate אישה, בת 20. מתלוננת על גניבת חפצים קטנים (עפרונות, מחקים, עיתונים ועוד) באופן כפייתי. הדבר החל שנתיים קודם לכן, והיא טופלה במרפאת-חוץ פסיכיאטרית. בנוסף, הופנתה לייעוץ נוירולוגי בשל התקפים אפילפטיים מסוג complex partial, אשר החלו באותה תקופה בה החלו הגניבות. המטופלת דיווחה כי לפני מעשה הגניבה היא מרגישה מתח עצום, אשר הופך להנאה, אם כי קצרה, בעת הגניבה. עוד סיפרה המטופלת כי לאחר הגניבה היא מרגישה אשמה וחרטה. היא אובחנה כסובלת מקלפטומניה*. המטופלת לא סבלה ממחלות פסיכיאטריות נלוות. היא טופלה ללא הצלחה בשני סוגים של SSRIs (fluoxetine 40 mg/day או citalopram 40 mg/day). לאחר בדיקות אשר הצביעו על ליקוי מבני באונה הטמפורלית השמאלית, שמהווה מוקד אפילפטי, הוחל טיפול ב-Topiramate 300mg/day (המינון נקבע על פי תגובה קלינית ותופעות לוואי). תוך חודשיים מתחילת הטיפול ב-topiramate היתה המטופלת חופשייה מהתקפים אפילפטיים ומקלפטומניה. הכותבים מאמינים כי בשל סמיכות הופעת הקלפטומניה וההתקפים האפילפטיים ובשל הליקוי המבני באונה הטמפורלית השמאלית, והעובדה כי שתי ההפרעות הנ"ל נפתרו על ידי טיפול ב-Topiramate, ניתן להניח כי קיים קשר ביניהן. |
|
|
|
|
|
|
||
|
||||
|
איפה מצאת את התיאור הזה? | |
|
|
|
|
|
||
|
||||
|
תקציר באחד הז'ורנאלים המקצועיים לרוקחים. | |
|
|
|
|
|
||
|
||||
|
אני מנסה לנסח במונחים שמובנים לי את מה שאמרת כאן כדי להבין אם אני מסכים איתך או לאו: האם לירייה של פוטנציאל פעולה בעצב ראיה כתוצאה מפגיעה של פוטון בקולטן ברשתית העין אתה קורא אפקט קוונטי? האם להגברת הרגישות בסינפסה כתוצאה ממספר רב של גירויים שעברו דרכה אתה קורא דינמיקה קוונטית אוניטרית? האם במיקרו צינוריות בנויירונים אתה מתכוון למה שמכונה מיקורטובולי? האם אתה מתכוון למשל לאיזורים במוח שמייצגים מושגים מוגדרים מוכנים לשליפה מיידית כמו מושג של "שולחן" או "אדום" כדי ליצור את העצם "שולחן אדום" בשלב הפלט? אם זו הקונצפציה של מבנה המוח שאתה מתכוון אליו אני מסכים איתך לחלוטין. מה שלא מובן לי מכל זה, למה זה לא יכול להיות מיוצג על ידי איזו מכונה אבולוציונית או שנבנתה על ידי אדם. |
|
|
|
|
|
|
||
|
||||
|
"האם לירייה של פוטנציאל פעולה בעצב ראיה כתוצאה מפגיעה של פוטון בקולטן ברשתית העין אתה קורא אפקט קוונטי?" - דווקא במקרה זה אני לא בטוח שהאפקטים הקוונטיים חשובים. "האם להגברת הרגישות בסינפסה כתוצאה ממספר רב של גירויים שעברו דרכה אתה קורא דינמיקה קוונטית אוניטרית?" - לא. יתכן, עם זאת, שהגברת רגישות זו תלויה גם בתהליכים קוונטיים בנוסף לאפקט המצטבר הקלאסי של היזון חוזר חיובי במעבר גירויים. "האם במיקרו צינוריות בנויירונים אתה מתכוון למה שמכונה מיקורטובולי?" - כן. "האם אתה מתכוון למשל לאיזורים במוח שמייצגים מושגים מוגדרים מוכנים לשליפה מיידית כמו מושג של 'שולחן' או 'אדום' כדי ליצור את העצם 'שולחן אדום' בשלב הפלט?" - אני לא יודע אם זה קשור. אין לי שום תיאוריה ספציפית של תהליכים מוחיים. עקרונית, כדי להסביר זכרון די בתיאוריה קלאסית של רשתות נוירוניים. להערכתי הדינמיקה הקוונטית קשורה יותר למודעות, תפיסת משמעות ותפיסת זמן, תהליכים שלא ניתן לבטא במונחים של עיבוד מידע. "למה זה לא יכול להיות מיוצג על ידי איזו מכונה אבולוציונית או שנבנתה על ידי אדם" - אולי זה יכול. כל מה שאני טוען זה שלא מדובר במשהו שאקוויוולנטי למחשב קלאסי. |
|
|
|
|
|
|
||
|
||||
|
ירייה (לא קוונטית) מהמותן: השאלות שלי מתבססות על דברים מקובלים היום בחקר פעילות המוח. אני מניח שיש מיסתורין מסוג מסויים בעצם הדיון בתודעה ומודעות, אבל לייחס את עצם פעולת המוח לאיזה תהליכים מיסטיים נראה לי מיותר למדי ועד כמה שידוע לי לא נלקחים בחשבון על ידי העוסקים בתחום חקר פעילות המוח. ברור שהמוח איננו מחשב קלאסי אבל גם ברור שהוא מין מכונה ביולוגית. |
|
|
|
|
|
|
||
|
||||
|
1. מי דיבר על "תהליכים מיסטיים"? מה מיסטי בתורת הקוונטים? 2. אכן, רוב העוסקים בתחום חקר פעילות המוח לא לוקחים בחשבון אפקטים קוונטיים. וחבל שכך. הם מחמיצים משהו חשוב. 3. המוח הוא מכונה ביולוגית. מה עוד הוא יכול להיות? אבל המכונה הזאת מנצלת את חוקי הטבע באופן מאוד מאוד מיוחד ובלתי צפוי. התזה החישובית היא בסך הכל תזה. אין לה שום ראיות. היא אפילו לא מוגדרת היטב. הנטייה להצמד לפרדיגמה הקיימת היא סבירה, אבל אחרי כשישים שנה ללא תוצאות משמעותיות הגיע הזמן לנסות לחשוב על אופציות נוספות. אגב, כפי שכבר ציינתי, אין בעיה אפריורית לתאר לאכסון זכרון באמצעות מודל חישובי של רשתות נוירונים. זה לא קשור לתודעה. תהליך צבירת הזכרון שונה מהתהליך של העלאתו למודעות. |
|
|
|
|
|
|
||
|
||||
|
לחשוב על אופציות אחרות זה, כמובן, טוב מאד, אבל להכריז על ''הוכחות'' שאינן תקפות כמשהו שממוטט את התיזה החישובית, ולגייס לעניין מנגנונים היפותטיים שאף אחד לא יודע אם הם קיימים ואף אחד לא מבין איך הם משנים משהו אם הם קיימים - ובכן זאת לא ממש איסטרטגיה משכנעת. | |
|
|
|
|
|
||
|
||||
|
1. האמת אני ומרבית ההדיוטות חשים שיש משהו מיסטי בתורת הקוונטים, אבל כמובן לא כאן הנקודה. המיסטי הוא החיבור העלום בין מנגנונים ברמת אברוני תאים ומקרומולקולות לבין אירועים קוונטיים שהם ברמה תת אטומית ומשם לאירועים ברמה של המוח השלם. אני התחנכתי על הרצאתו של שרדינגר What is Life שבה הוא הציע מנגנון מעניין ויפה לקישור שבין אירועים ברמה הקוונטית לבין עולם החי. 2. אני, שאינני חוקר הפעילות המוחית, דווקא רציתי להציע לך מנגנון שמנצל אפקטים קוונטיים לפעילות ברמת המערכת המוחית כולה, אבל, כנראה מסיבה טובה, ויתרת על ההצעות שלי. 3. שישים שנה ללא תוצאות משמעותיות? במדעי המחשב, בבינה מלאכותית או בחקר המוח? הנה עוד קישור לדיונים בנושא חם זה: |
|
|
|
|
|
|
||
|
||||
|
"המיסטי הוא החיבור העלום בין מנגנונים ברמת אברוני תאים ומקרומולקולות לבין אירועים קוונטיים שהם ברמה תת אטומית ומשם לאירועים ברמה של המוח השלם" - גם פה אין שום דבר מיסטי. זו תיאוריה מדעית. אמנם ספקולטיבית. אמנם בחיתוליה. אבל כך גם תיאוריית המיתרים, למשל, ואף אחד לא מכנה תיאוריה זו בשם מיסטיקה. "רציתי להציע לך מנגנון [...] אבל, כנראה מסיבה טובה, ויתרת על ההצעות שלי" - ויתרתי? חס וחלילה. אתה מוזמן להציע. "שישים שנה ללא תוצאות משמעותיות? במדעי המחשב, בבינה מלאכותית או בחקר המוח?" - מדעי המחשב בוודאי התפתחו המון. גם בחקר המוח הייתה התקדמות עצומה, ולו רק בגלל שיש כל כך הרבה מה לגלות. אשר לבינה מלאכותית, זה תלוי מה אתה מכנה "בינה". כיוון שאני מגדיר "בינה" כמאפיינת חשיבה מודעת, אזי ההתקדמות בכיוון הבינה המלאכותית היתה אפס בריבוע. אפילו לא הצליחו להגדיר מה בדיוק מחפשים. מאידך, אם "בינה" היא רק מטאפורה לאלגוריתמים מתוחכמים, אז עשו כמה דברים יפים. כפי שכבר כתבתי, אני רואה בתחום סוג של אלכימיה. מגלים חומרים מעניינים, אבל שום עופרת לא הפכה לזהב. |
|
|
|
|
|
|
||
|
||||
|
בדחילו ורחימו אני מנסה להתייחס לנושא שאני מבין בו מעט מאוד מכל היבט אפשרי אבל אנסה להציג את המסגרת כפי שאני מבין אותה: א. אני מניח שיתכן שרצפטור מסויים (מולקולת חלבון שנמצאת בדופן של תא או אברון בתוך התא) מגיב לעירור חיצוני ברמה קוונטית דבר שגורם לו לעבור למצב מרחבי שונה ומוגדר ועל ידי כך לשנות את התפקוד של האברון או התא שבתוכו הוא שתול. ב. שינוי כזה יכול לגרום לשינוי תפקוד מיידי (נניח רקמת מוח שלמה מתחילה לירות בצורה סינכרונית) או לשינוי מצטבר היסטורי (נניח חלבונים שצוברים זכרון, DNA שצובר מוטציות וכו'). ג. אני קופץ כמה סדרי גודל קדימה - נראה לי בלתי בסביר בעליל שמערכת שלמה ומורכבת כמו מוח תפיק חוויות ספציפיות כמו למשל הזכרון של מה אכלתי אמש לארוחת הערב במנגנון קוונטי מכל סוג שהוא. אם להשתמש בז'רגון שאיננו אומר לי הרבה, הרי אין להניח שיש כאן קריסה לאיזו הסתברות אחת מוגדרת, אלא צירוף של הרבה מאוד גורמים ופרטים בלתי תלויים זה בזה. ד. תחושת הבטן שלי שיש כאן משהו בתחום התקשורת והמשמעות. לדוגמא הסיפור הישן על הצארינה שראתה את המברק: "חנינה לא. להוציא להורג!" ושינתה את משמעותו מהקצה לקצה על ידי שינוי קטן "חנינה. לא להוציא להורג!". האינפורמציה, כלומר הסדר שבו אירועים בדידים מסודרים מצד אחד ומנגנון שיודע לפענח את המסר מצד שני יוצר מערכת בעלת אין סוף אפשרויות (אגב, זהות מבחינה תרמודינאמית) ברמת המקרו תוך שימוש במנגנונים מוכרים וידועים ובלי צורך להניח אפקטים שאין לנו שמץ מושג כיצד הם מתחברים זה לזה. ה. מתנהלים כאן מספר דיונים במספר רמות דיון. אין שום סיבה בעולם להניח שתשובה ברמת התרמודינמיקה, למשל, תהיה ישימה לשאלה ברמת התחושות האובייקטיביות או הסובייקטיביות של פרטים שלמים. |
|
|
|
|
|
|
||
|
||||
|
א-פרורפו "What is life", קרא את הקטע (SECOND EXAMPLE (BROWNIAN MOVEMENT, DIFFUSION (בפרק הראשון) ושלח לשרדינגר1 את תגובה 428113 ___________ 1- מאחר והוא בארון סגור, חציו חי. |
|
|
|
|
|
|
||
|
||||
|
הגזמת, ששרדינגר יפול ככה? הוא כותב: If you leave this (ההדגשה שלי). במרחק בין שתי מולקולות נוזל הוא מסדר גודל של(נניח) 9-^10 מטר, ומהירות המולקולות הוא בערך קילומטר לשניה, אני מקבל 12^10 התנגשויות לשניה. עכשיו, כדי לעבור 1 ס"מ, צריך להתקדם 7^10 פעמים המרחק בין התנגשויות. נעלה את זה בריבוע ונקבל 14^10 התנגשויות, כלומר כדקה או שתיים. כדי לעבור דצימטר, עוד פאקטור 100. למלא דלי? עוד פאקטור 10.system alone a *very slow* process of 'diffusion' sets in, the at permanganate spreading in the direction from left to right, that is, from the places of higher concentration towards the places of lower concentration, until it is equally distributed of through the water. מניסיוני עם קלי, בהתחלה רואים ממש פסים שיוצאים ממנו ומתערבלים. מתגובתך הבנתי שגם אתה לא ראית "כדור מתפשט" אז הנחתי שעל זה אתה מדבר. |
|
|
|
|
|
|
||
|
||||
|
דצימטר, הה? עם *זה* אני בשום אופן לא מתווכח. | |
|
|
|
|
|
||
|
||||
|
1 את זה בדיוק אני לא מצליח להבין - איך אחרי שהוא כתב ("הרצה") על מולקולת הענק הוא המשיך עם הפרדוקס של החתול? המולקולה הענקית קיימת או לא? בעקבותיה בא חתול שלם או לא? |
|
|
|
|
|
|
||
|
||||
|
פרסום עצמי חסר בושה. | |
|
|
|
|
|
||
|
||||
|
בעצם תודה כפולה, כי מהכניסה לקישור שלך הבנתי שאין בכלל טעם לקרוא את כל ההרצאה (שירות לקורא! שירות לקורא!). | |
|
|
|
|
|
||
|
||||
|
זאת לא הרצאה אלא ספר. | |
|
|
|
|
|
||
|
||||
|
ולדעתי *כן* יש טעם לקרוא אותו. | |
|
|
|
|
|
||
|
||||
|
בהחלט. אגב, שמת לב שהוא מדבר על 24 זוגות כרומוזומים? לא ידעתי שכך חשבו פעם. | |
|
|
|
|
|
||
|
||||
|
לא שמתי לב, אבל שמעתי כבר על הבילבול הזה. | |
|
|
|
|
|
||
|
||||
|
גם הרצאה, לא? תגובה 462126 | |
|
|
|
|
|
||
|
||||
|
אם זאת היתה הרצאה, היא היתה א-ר-ו-כ-ה. | |
|
|
|
|
|
||
|
||||
|
באמת פתחת את הקובץ ואמרתי לעצמי: בטח התייבש לו הגרון. | |
|
|
|
|
|
||
|
||||
|
מותר להתנגד למטאפורה של "מכונה"? מכונה היא סוג של כלי שמישהו בונה לצורך (או צרכים) מסוימים. לאיזה צורך בנו אותנו? ומי עשה זאת? (אני לא טוען שיש במוח תהליכים מיסטיים, אבל גם לא רואה סיבה להניח שיש רק שתי אפשרויות: "נפש" או "מכונה"). |
|
|
|
|
|
|
||
|
||||
|
סתם אחד לא המשיל *אותנו* למכונה, אלא את המוח שלנו. אפשר להתנגד גם לזה, אבל האם אתה מתנגד להמשלת הלב למכונה? | |
|
|
|
|
|
||
|
||||
|
ובכן, אני מניח שזה צורם לי פחות מאשר המטאפורה של המוח כמכונה, אבל גם הלב הוא לא רק משאבה. הוא מקבל קלט עצבי די מסובך וההבנה שלנו לגבי מנגנוני העצבוב רחוקה מלהיות שלמה. הנקודה העיקרית שמפריעה לי במשל המכונה היא שבעוד שלגוף חי יש יכולת מסוימת לתקן את עצמו, למכונות שאנחנו מייצרים כמעט ואין יכולת תיקון עצמית, או כושר הסתגלות לתנאים משתנים. אינטואיטיבית, נדמה לי שהכלים הדרושים כדי לתכנן ולבנות מכונות סתגלניות כאלו טרם הומצאו. |
|
|
|
|
|
|
||
|
||||
|
''למכונות שאנחנו מייצרים כמעט ואין יכולת תיקון עצמית'' - למיטב הבנתי, אין בעיה תיאורטית ליצור מכונות כאלו. היה סבלני. | |
|
|
|
|
|
||
|
||||
|
הניסוח של סתם אחד "המוח הוא מין מכונה ביולוגית" מרשה שיהיו הבדלים (ואפילו רומז שאכן יש כאלו!) בינו לבין מכונות "קלאסיות", אבל הבדלים שלצורך הדיון אינם קריטיים. יכולת תיקון עצמית, והסתגלות, בוודאי אינן משהו שפוסל משהו מלהיות מכונה. דורפל הלך לעתיד הקרוב - זה רחוק מדי; למעשה יש תכונות כאלה בכמה מכונות פשוטות לחלוטין מההווה: צמיג של אופניים עם נוזל לסתימה אוטומטית של נקר, ועדשה שמתכהה באור. נראה לי שאין באמת חילוקי דעות בין שלושתנו, והפתיל הזה סתם מידרדר למחוזות הסמנטיקה הלא-מעניינת. |
|
|
|
|
|
|
||
|
||||
|
אל תלך רחוק - לכל מנוע עם מערכת קרור שמופעלת ע''י תרמוסטט יש ''כושר הסתגלות לתנאים משתנים'' (לפני שהזכרנו בקרת אקלים, בקרת שיוט ובקרת יציבות). | |
|
|
|
|
|
||
|
||||
|
(הופשטטר נוקט באותה דוגמא ממש -- מערכת עם תרמוסטט -- בספר ''אני לולאה מוזרה''). | |
|
|
|
|
|
||
|
||||
|
הילדים השתלטו על המחשב ולא יכולתי להשיב. אינני בטוח שהויכוח הוא רק סמנטי. מה שרציתי להגיד בביטוי "מכונה" הוא שגם המוח, או בעצם האישיות כולה (במובן הגופני) היא בסופו של דבר צירוף של חומרים. פירוש הדבר לא שהכול או "נפש" או "מכונה" אלא שההסבר הפילוסופי צריך להתמודד ולדעתי גם לגשר על הדיכוטומיה הזאת. אחד הרעיונות היפים בעיני הוא שמצבים ביולוגיים שונים נמצאים בה בעת במצב פיסיקאלי (נניח של שיווי משקל כימי) וגם כנושאים מידע. דוגמא פשוטה שכבר ניתנה כאן 2+2=4 הוא צירוף סימנים מרצד על מסך המחשב אבל תלמיד בכיתה ב' שלמד קצת חשבון יודע לפרש את הסימנים הללו כטענה מתמטית ואולי גם להבין שאם קיבל שני תפוזים מרותי ושנים מילד אחר אזי יש לו ארבעה תפוזים. לדעתי הדיון המעניין שמתפתח כאן קצת מתעלם מההיבט שמערכות ביולוגיות הן מערכות של מידע ותקשורת ומערכות כאלה תלויות במשדר אבל לא פחות מכך בקולט ובלי קולט אין משמעות לשדר. ועוד דבר אחד קטן אם כבר הגעתי עד כאן. נדמה לי שמרבית הפעילות המוחית מוקדשת לפעולות שכלל איננו מודעים להן כמו שמירה על לחץ הדם, שיווי משקל, נשימה, איסוף שתן, הגברה או דיכוי של הפרסיטלטיקה של המעי וגם כמובן יצירת תחושות עונג, עייפות, דחף מיני ועוד. האם גם הפעילות הזאת מצריכה הסברים קוונטיים או שכאן הכימיה מספיקה? ולבסוף, כן מישהו בנה אותנו. כנראה האבולוציה. כנראה בשביל לשרוד. אני יודע שזה הסבר קצת מגושם ופרימיטיבי אבל יש בו משהו. |
|
|
|
|
|
|
||
|
||||
|
כנראה שאנחנו מסכימים. ואם כבר הזכרת את המערכות הביולוגיות כמערכות תקשורת, האם מישהו מבין מספיק בנושא כדי לכתוב מאמר קצר על ביו-סמיוטיקה ( http://en.wikipedia.org/wiki/Biosemiotics )? | |
|
|
|
|
|
||
|
||||
|
ניסוי מחשבה: נניח שמצליחים להרכיב מספיק טרנזיסטורים, או מספיק תאי-תוכנה, כדי לסמלץ מוח אנושי נוירון-נוירון, על-פי המודלים הקיימים היום לעירור נוירונים (בלי קוונטים). ונניח שמתברר שהדבר הזה מתפקד מבחינת קלט-פלט כמו מוח אנושי (מנהל שיחה, מתעצבן, מזמזם מנגינות, ואומר "זה אדום" כשהוא רואה אבטיח). (1) אני מבין שזה נראה לך לא סביר, אבל האם זה נראה לך לפחות אפשרי? (2) אם כן, האם אתה לא חושב שאולי תתחיל לחשוד שמא בכל זאת יש לדבר הזה תודעה אמיתית? |
|
|
|
|
|
|
||
|
||||
|
לי לפחות זה נראה בלתי אפשרי לחלוטין. | |
|
|
|
|
|
||
|
||||
|
מה בדבר נוירון בודד? האם בלתי אפשרי בעיניך שבאלף השנים הבאות ניתן יהיה להחליף נוירון אחד באביזר סיליקוני שיחקה את פעולתו במדויק? | |
|
|
|
|
|
||
|
||||
|
למה אתה מגביל את השאלה לסיליקון? | |
|
|
|
|
|
||
|
||||
|
סתם, כי זאת טכנולוגיה מוכרת. | |
|
|
|
|
|
||
|
||||
|
יש בעיה (חוץ מזה שאנחנו לא יודעים איך לעשות את זה, אני מתכוון לבעיה עקרונית) בלבנות ניורון מאותם חומרים שהטבע בונה, או בלהשתמש בניורון שהטבע כבר בנה למטרות משלנו? | |
|
|
|
|
|
||
|
||||
|
אני לא יודע למה אתה קורא "בעיה" אבל דומני שחלק משוללי האפשרות ל AI חזק טוענים שיש איזה מרכיב ייחודי למוחות טבעיים. הניסוי המחשבתי של החלפת נוירון אחר נוירון ברכיב אלקטרוני1 מקביל אמור לחדד את הנקודה. ____________ 1- כדי שלא אובן לא נכון, אני לא אביו הרוחני של הניסוי הזה. |
|
|
|
|
|
|
||
|
||||
|
למה אתה חושב שדווקא רכיב אלקטרוני יחדד את הבעיה? | |
|
|
|
|
|
||
|
||||
|
נו, בסופו של ניסוי המחשבה הזה מגיעים למחשב, וזה מ.ש.ל. | |
|
|
|
|
|
||
|
||||
|
חשבתי שהמטרה של ניסוי המחשבה היא לבנות מכונה שחושבת. טעיתי? | |
|
|
|
|
|
||
|
||||
|
לבנות אותה מרכיבים לא אורגניים. | |
|
|
|
|
|
||
|
||||
|
מה הופך רכיבים אורגניים לפסולים? אי אפשר לשחזר ניורון בעזרת רכיבים לא אורגניים? | |
|
|
|
|
|
||
|
||||
|
חוקרי הבינה המלאכותית, כיום, חוקרים את האפשרות ליצור בינה במחשב. שייח ספיר ואחרים טוענים שלא תיתכן בינה במחשב. השוטה ניסה בניסוי המחשבה שלו לשכנע שכן תיתכן בינה במחשב. אם היו מגיעים למסקנה שזה אפשרי, הויכוח נגמר. אם היו מגיעים למסקנה שזה לא אפשרי, אז אפשר לדון על מכונות מסוג אחר (כפי שהצעת). בהקשר הדיון, הדיבור על טרניזטורים דווקא, ודווקא מסיליקון, הוא ''חזק'' יותר. | |
|
|
|
|
|
||
|
||||
|
כדי לא להתהדר בנוצות זרים, אני רוצה להדגיש שוב שזה אינו ניסוי מחשבה שלי אלא של <הכנס את השם המתאים שכמובן פרח מזכרוני>. לצערי. | |
|
|
|
|
|
||
|
||||
|
אולי דניאל דנט? | |
|
|
|
|
|
||
|
||||
|
.ניסוי מחשבה של סירל. החדר הסיני | |
|
|
|
|
|
||
|
||||
|
ההפך. החדר הסיני הוא ניסוי מחשבה שמנסה להוכיח שלא תיתכן בינה מלאכותית. הוא לא מציע להחליף נוירון-נוירון. חוץ מזה הוא שגוי בעליל. | |
|
|
|
|
|
||
|
||||
|
א. חשבתי שהוא מנסה להראות שיכולה להיות ישות שמציגה חזות של בינה, אבל איננה כזאת במונחים מקובלים. | |
|
|
|
|
|
||
|
||||
|
נכון, זה יותר מדויק ממה שכתבתי. | |
|
|
|
|
|
||
|
||||
|
הוא אולי חזק יותר, אבל אני לא משוכנע שהוא עוזר לטיעון. בגלל שהוא מעביר אותו מהמישור העקרוני למישור הטכני, אז אם התשובה תהיה שלילית, אין לשוטה לאן להתקדם לחיזוק הטיעון שלו (אין טעם להכנס לויכוחעל מה אפשר אואי אפשר לעשות בעזרת סיליקון, זה בטח לא ישכנע אף אחד שיש או אין קואלה), וזה רק בגלל שהוא הגביל את עצמו מראש. אבל, האמת, גם אחרי שהשוטה יבנה מכונת טיורינג ו/או יצליח להבין מה בדיוק עושה כל ניורון וניורון במח (ואיך) ו/או אחרי שהוא יצליח לבנות תוכנת תרגום כל כך מוצלחת שתדע לבחור בהצלחה בין ינשוף לתנשמת (ואני בכלל לא בטוח שמדובר במשימות כל כך קשורות) הוא לא יצליח לסיים את הדיון על קיומה של הקואלה. אז, מה אני מתערב? | |
|
|
|
|
|
||
|
||||
|
בוא נראה קודם אם יש סיבה לחשוב שהתשובה באמת שלילית. אם הויכוח הוא באמת טכני, כלומר כל הקושי מצטמצם לבניית מעבד שמחקה במדויק פעולה של נוירון, נראה לי שהתקדמנו קצת. | |
|
|
|
|
|
||
|
||||
|
לחדד את הנקודה: אי אפשר "להחליף" את הנוירונים במוח ברכיבים אלקטרוניים (למשל) ולקבל אותה פונקציונליות במקרים הבאים: 1) אם יש מאפיינים בתפקוד הנוירון שרלוונטיים לפעילות המוחית ושאינם מהווים אופרציות לוגיות. 2) אם יש אפקטים "הוליסטיים" ההופכים את הרשת הנוירונית ליותר מסכום מרכיביה. למשל, מצבי, שזירה קוונטית בין נוירונים שונים או קוהרנטיות קוונטית מאקרוסקופית (כמו בעל-מוליך או בעיבוי בוז-איינשטיין, למי שמכיר). |
|
|
|
|
|
|
||
|
||||
|
1) יש כבר היום איברים מלאכותיים אחרים שעושים את מלאכתם נאמנה, אז על סמך מה אתה טוען את זה? 2) גם מחשב הוא "יותר מסכום חלקיו", ואין לנו בעיה לבנות כאלו. |
|
|
|
|
|
|
||
|
||||
|
אני נוטה להסכים לסעיף הראשון, ולהסכים בהסתייגות לשני (ההסתייגות היא בערך מה שדורפל אמר: גם אפקטים "הוליסטיים" ניתנים לחיקוי אם הם נובעים מעצם החיבור של הרכיבים). לדעתי ההשערה הסבירה יותר היא שלילת שניהם. | |
|
|
|
|
|
||
|
||||
|
ראשית, הייתי צריכה אולי להבהיר שמה שבלתי אםשרי בעיניי הוא שהוא יתעצבן. השאר ייתכן בהחלט. שנית, לגבי נוירון בודד *שיחקה* את פעולתו? אין לי מושג. ייתכן בהחלט שכן. |
|
|
|
|
|
|
||
|
||||
|
''יחקה'' במובן שיוציא אותו פלט עבור אותו קלט. | |
|
|
|
|
|
||
|
||||
|
כשמישהו יגיד לו (באופן כללי) לעשות זאת. | |
|
|
|
|
|
||
|
||||
|
לא הבנתי. | |
|
|
|
|
|
||
|
||||
|
כלומר, נוירון שייצרו עם תוכנה שאומרת לו איזה פלט מתאים לאיזה קלט. | |
|
|
|
|
|
||
|
||||
|
כמובן. ובכן, זה אפשרי? האם המוח החדש יתנהג *בדיוק* כמו המקורי? | |
|
|
|
|
|
||
|
||||
|
איך קפצת מנוירון למוח? | |
|
|
|
|
|
||
|
||||
|
התחלתי ממוח רגיל1, והחלפתי בו נוירון אחד בנוירון מלאכותי. את החיבורים הסינפטיים יישמתי באמצעות SiliBio coupler - מתקן זעיר שהמצאתי לצורך הניסוי. ______________ 1- אם ברקת נשמעת לכם קצת off לאחרונה, זה בגלל בעיות כיוונון קלות. |
|
|
|
|
|
|
||
|
||||
|
silly*bio*.
|
|
|
|
|
|
|
||
|
||||
|
משהו שמקשר בין סיליקון לבשר? כמובן שהשם המתאים הוא SiliCon Carne
|
|
|
|
|
|
|
||
|
||||
|
מצטערת, הכוכבים אצלי התבלבלו במקומם. הדגש היה על "silly". | |
|
|
|
|
|
||
|
||||
|
כן, הצלחתי להבין את ההתחכמות, אבל דומני שהדיאלוג שלנו מחכה לתשובה. | |
|
|
|
|
|
||
|
||||
|
אני לא האלמוני[ת] ואני אפילו לא מתנגד לתזה הסופית, אבל גישה מכיוון פרדוקס הערימה לא נראה לי יעיל כאן. אנחנו מכירים הרבה דוגמאות בהן הבדל כמותי הוא גם הבדל איכותי (כמות החמצן באוויר וגמלים נושאי קש הם שניים). | |
|
|
|
|
|
||
|
||||
|
אני מדגיש שבניסוי שלנו אנחנו מסוגלים להחליף נוירון במשהו שפועל *בדיוק*1 כמוהו. קש שמשקלו אפס לא שובר גב של אף גמל. ___________ 1- כמובן שאם נוירון פועל באופן הסתברותי, הרכיב שלנו יפעל בהתאם לאותה פונקציית הסתברות *בדיוק*. |
|
|
|
|
|
|
||
|
||||
|
אני חושב שהבעיה היא שפר הגדרה, הדבר היחיד שפועל *בדיוק* כמו הנוירון הוא אותו נוירון. אם אתה צריך למדל את *כל* המאפיינים של המוח כדי לקבל מוח, ושאם תסיר פרט כלשהו לא תראה כלום, אז מצבנו חסר תקווה. הרי זאת בדיוק האסטרטגיה של קוראי פנרוז- מכיוון יש תכונות של נוירונים שאיננו יכולים לחקות במדויק בשום שיטה מדעית הידועה לנו, הרי שלעולם לא נוכל לחקות את התכונה *המסויימת הזאת* של מצבור של נוירונים. אולי גם צריך להדגיש שלא מספיק שאנחנו מצליחים *לייצר* נוירון חלופי, אלא שהנוירון הזה צריך להיות כזה שאנו "מבינים" מה הוא עושה בכל מצב, אחרת אפשר להסתפק בהשתלת נוירונים (כי בעצם מה ההבדל בין נוירן שגודל בצלחת לבין נוירון שייוצר מסיליקון). ברור שצריך להזניח כל מיני דברים. אולי אנחנו צריכים להתעלם מאינטראקציות של גרביטיצה קוונטית עם הטובולין. אולי אנחנו יכולים להסתפק במעטפת אורגנית עם רכיב אלקטרוני בתוכו, וכולי. אני יכול לחתום על "יחקה את פעולתו בצורה משביעת רצון עבור החלפתו במקום נוירון ספציפי". אני לא בטוח שאפשר לקפוץ משם ל"ההבדלים בין הנוירון הטבעי לנוירון המלאכותי הם קטנים מספיק שגם "מוח" שלם של מלאכותיים יתפקד כמו מוח של טבעיים". |
|
|
|
|
|
|
||
|
||||
|
ייתכן. לכן שאלתי תחילה אם הבעיה נעוצה, לדעת המתנגדת, בחיקוי מושלם של נוירון בודד מבחינת הפעילות החישובית שלו. אם ההתנגדות היא שחיקוי כזה אינו אפשרי, לפחות מיקדנו את הבעיה לרכיב הרבה יותר פשוט מהמוח, ואז נוכל לשאול מה הקושי העקרוני שמונע מאיתנו לעשות את זה. אני מניח שהטענות הן מהכיוון של השפעות לא לוקאליות (אותן אינטרקציות של גרביטציה קוואנטית, מה שהן לא תהיינה), אבל יהיה נחמד לשמוע אותן במפורש. (אגב, כל הכנסת הקוואנטים לסיפור נשמעת לי מוכרת למדי, רק שבשעתה נהגו לקרוא לה ''הרוח שבמכונה'', ולחילופין ''הניצוץ האלוהי''. גרביטציה קוואנטית, למיטב ידיעתי, היא ביצה שלא נולדה לתרנגולת לא קיימת) |
|
|
|
|
|
|
||
|
||||
|
אני מסכים שנראה שהרבה מהמצדדים בהכנסת הקוונטים עושים זאת מתוך שלא לשמה. | |
|
|
|
|
|
||
|
||||
|
זהו, שאני לא בטוחה איך להגיב, כיוון שאינני בטוחה אם זה דיאלוג או התנצחות. תגובה 460875 נראתה לי יותר בכיוון השני. אבל למקרה שבכל זאת התכוונת לדיאלוג, אשאל שאלה מקדימה: אם אתה מדבר על תהליך שתחילתו בהחלפת נוירון אחד במח טבעי, האם סיומו (התיאורטי, כמובן) בהחלפת כל חלקי המח דנן ב"רכיבים" מלאכותיים, תוך שהוא נשאר על כתפיו של אותו גוף טבעי? |
|
|
|
|
|
|
||
|
||||
|
כן, זה הרעיון. | |
|
|
|
|
|
||
|
||||
|
כלומר, זה כולל גם את הדם, החמצן, החומר האפור (והירוק והסגול...) וכיו"ב? | |
|
|
|
|
|
||
|
||||
|
השאלה המקדימה שלך הופכת להיות דיון ארוך בפני עצמו, וחבל. אני מציע שלא ננסה לתאר מראש מה יהיה סופו של התהליך, אלא נתרכז בתהליך עצמו ונראה מה ייצא לנו. ובכן, האם מוסכם שאין מניעה עקרונית לבנות מעבד קטן שמבצע *בדיוק* מה שנוירון מבצע? אם לא, אשמח לשמוע למה (אם אפשר, בלי להשתמש במלים "גרביטציה קוואנטית"). אם כן, אשאל את השאלה הבאה: האם המוח החדש שבו נוירון אחד הוחלף בתאומו הסיליקוני פועל *בדיוק* כמו המוח המקורי? גם מסע של מוח שלם מתחיל בנוירון קטן אחד. |
|
|
|
|
|
|
||
|
||||
|
הבעיה שלי עם הטיעון היא: האם מוח בו הסרנו לחלוטין נוירון אחד פועל בדיוק כמו המוח המקורי? הרי בסה"כ בכל יום מתים לא מעט נוירונים במוח ונראה שהוא ממשיך בפעילות הרגילה. אם תאמר שפעילותו משתנה כל הזמן (וזה גם נכון) אני אשאל אם המוח בו הוחלפו הנוירונים ברכיבים אלקטרונים שמדמים אותם אכן ידמה מוח אמיתי שבו הנוירונים מתים להם פה ושם בעוד שהרכיבים האלקטרונים מחזיקים מעמד. |
|
|
|
|
|
|
||
|
||||
|
זה לא ממש משנה. אפשר להניח כאן כמה הנחות אלטרנטיביות: - מוח חסר נוירון אחד (כלשהו) אינו פועל *בדיוק* כמו המוח המקורי, למרות שההבדל זעיר ואולי בא לידי ביטוי רק בסיטואציות מאד מיוחדות. - יש נוירונים יתירים או חסרי שימוש במוח, והסרתם אינה מעלה ואינה מורידה. - כל הנוירונים יתירים, כך שהסרת נוירון אחד לעולם לא משפיעה על פעולת המוח (מלבד במוח מסכן שבו הסרת את אחרון היתירים שעוד עבד). בכל המקרים, כל מה שחשוב לניסוי שלנו הוא שהחלפת ניורון בתאומו הסיליקוני לא שינתה כלום לכן ניתן לחזור עליה, בעוד חזרה על תהליך של הסרת נוירון תביא, בסופו של דבר, לפגיעה בפעילות המוחית - מי כמוני יודע. אם אתה רוצה לדמות גם את הדינמיקה של מוח בו נגרעים נוירונים, השבת חלק מהמעבדים עפ"י הצורך, או השתמש ברכיבים עם זמן קיום תואם לזה של נוירונים. |
|
|
|
|
|
|
||
|
||||
|
ההנחה השלישית שלך קצת מסתבכת עם פרדוקס הערמה, לא? היא נראית לי קצת בעייתית. כלומר, יכול להיות שיש כאן עניין של מסה קריטית של מספר הנוירונים. | |
|
|
|
|
|
||
|
||||
|
כאמור, כל אלה אינן מעלות ואינן מורידות. איזי שאל משהו ספציפי על נוירון בודד והתייחסתי לזה. לא ניסיתי להגיד שאפשר להמשיך בתהליך עוד ועוד, שכן ברור שאחרי הסרת מספר מספיק של נוירונים המוח מפסיק ל | |
|
|
|
|
|
||
|
||||
|
ראשית, נסלק את המפלצת הקרויה "גרביטציה קוונטית": אם תסביר לי בדיוק מה זה, אולי נחזור אליה. עד אז - אין לי מושג ירוק איך, אם בכלל, היא קשורה לעניין. שנית, אין לי מושג כחול גם אם יש או אין מניעה עקרונית לבנות מעבד שמבצע את מה שמבצע נוירון. לצורך העניין אסכים שאין מניעה כזאת, ואפילו אניח שמחד בבוקר כבר יודיעו שהמעבד דנן קיים, ובגודל המתאים. שלישית, לעת עתה אינני מתעכבת על פרדוקס הערימה של ראובן, על אף שהוא בהחלט מהווה בעיה לדעתי. בקיצור, את שאלותיי האחרונות שאלתי משום שלמיטב ידיעתי המוח האנושי איננו בנוי מנוירונים בלבד, ואפילו לא מנוירונים וסינפסות בלבד, והמסע אל המוח הסיני מתחיל אולי בנוירון אחד, אבל ממש לא מסתיים בו. |
|
|
|
|
|
|
||
|
||||
|
אוקיי, לפי הסדר: ראשית, גם לי אין מושג איך היא מתקשרת לענייננו, היא נכנסה לדיון ע"י שייח ספיר (בעקבות פנרוז?) ובעיני היא אינה יותר מדג מלוח אדום (עד שלא יוכח אחרת). שנית, אם כך לצורך הדיון אנחנו מניחים שאפשר לבנות את הנוירון המלאכותי שלנו. מצויין. שלישית, אינני רואה איך פרדוקס הערימה נכנס הנה אם הסכמנו על ה"שנית", אבל אני מוכן לחכות לו עד שיגיח, בזמן ובמקום שתבחרי. בקיצור, אם אני מבין אותך נכון, את מעלה את האפשרות שביצירת אותו גורם חמקמק שאנחנו מנסים לייצר, נקרא לו "תודעה" או "אינטליגנציה של ממש" או "רוח האדם" או מה שלא יהיה, מעורבים לא רק הניורונים אלא רכיבים נוספים, אולי אותם מיני-צינורות של פנרוז ואולי משהו אחר. לפחות אחד מכל אלה לא יכול להיות מחוקה במדויק ע"י סימולציה דיגיטלית. כן? |
|
|
|
|
|
|
||
|
||||
|
עזוב אותי מפנרוז. אם יש שם מיני צינורות אני מסכימה שתחליף אותם בפלסטיק. לא בזה העניין מבחינתי. כרגע אני מדברת רק על שתי נקודות: האחת - שלהערכתי יש תפקיד *לכל* רכיב במוח, בין שיודעים מהו ובין שעדיין לא יודעים, ויש תפקיד משמעותי מאוד לחיבורים ביניהם ולמבנה הכללי, ואינני יודעת אם את הכל ניתן להחליף בסימולציה דיגיטלית, אנלוגית, מחיטה מלאה או מחלב אורגני. והשנייה - שיש תפקיד גדול עוד יותר, אפילו, לאופן שבהם פועלים הקלט והפלט של המוח הזה, מנין הם מגיעים ואיך מקורם משפיע על פעולתם. |
|
|
|
|
|
|
||
|
||||
|
הערכתך לגבי *כל* רכיב לא משנה כלום, וכנ"ל לגבי החיבורים ביניהם, כל עוד מוסכם שכל רכיב מתחבר לרכיבים אחרים במספר סופי של נקודות ידועות. אשר ל"מבנה הכללי", אם הוא מכיל יותר מאשר כל הרכיבים והחיבורים ביניהם (נניח שדות חשמליים או משהו) אזי באמת הפרוק לרכיבים אינו עובד, אלא שככל הידוע זה לא המצב. הנקודה השניה שלך תמוהה ביותר. אם אני מגרה את עצב הראיה שלי באותם פולסים שהוא מקבל כאשר אני רואה תמונה של אנג'לינה, את חושבת שהאנחה שאשמיע תהיה שונה? __________ (מתחיל לקנן אצלי החשד שאת האיילת הממושקפת) |
|
|
|
|
|
|
||
|
||||
|
רק רגע, האם אתה מתכוון לייצר מוח מלאכותי שיחליף מוח פגום, נאמר, אצל אדם מסוים - או לייצר מחשב תבוני? | |
|
|
|
|
|
||
|
||||
|
אני מנסה לברר את הקושי העקרוני בבניית מכונה אינטליגנטית. בשלב הזה עוד אין לי תוכניות לסטארט-אפ. | |
|
|
|
|
|
||
|
||||
|
הסיבה לשאלה היא שמחשב תבוני נראה לי בלתי אפשרי, ואילו מוח מלאכותי - בתנאים מסוימים - אולי כן. | |
|
|
|
|
|
||
|
||||
|
מה ההבדל בין מחשב תבוני למוח מלאכותי? | |
|
|
|
|
|
||
|
||||
|
ההבדל הוא בדיוק במקור שממנו הוא מקבל את הקלט שלו. | |
|
|
|
|
|
||
|
||||
|
מה משנה המקור? עצב הראיה שלי מעביר אותות חשמליים, ולא ממש משנה לו אם הם נוצרו בקולטנים שבעין או ע"י תא פוטואלקטרי. | |
|
|
|
|
|
||
|
||||
|
אה, אז עכשיו אתה לא מסתפק רק בנוירונים וסינפבות, אלא מוסיף גם תא פוטואלקטרי? מה עוד תוסיף? | |
|
|
|
|
|
||
|
||||
|
כל מה שתדרשי ולא יהיה בלתי ישים בעליל. | |
|
|
|
|
|
||
|
||||
|
מה פירוש "מה שתדרשי"? מה יפעיל את המחשבים התבוניים האלה? | |
|
|
|
|
|
||
|
||||
|
הרצון להזדווג עם חשבוניות תבוניות. | |
|
|
|
|
|
||
|
||||
|
מה יכתיב להם את הרצון הזה? | |
|
|
|
|
|
||
|
||||
|
זה יהיה מקודד בחומרה, כמובן. כמו אצלנו. | |
|
|
|
|
|
||
|
||||
|
איך יקודדו את זה? ואם זה יהיה מקודד בחומרה, אז מדוע דווקא זה? |
|
|
|
|
|
|
||
|
||||
|
נראה לי שהבדיחה (הלא מוצלחת) שלי הרחיקה לכת. בכ"ז, מה שאתה צריך זאת איזו פונקציית מטרה שמובנית אמלך וגורמת לך לעשות דברים. כמו שאצל זכרי האדם מקודדת המטרה "להרשים בחורות" (יוריסטיקה לא מוצלחת להשגת יחסי מין) וגורמת להם לעשות דברים מטופשים כמו: לכבוש אימפריות, להמציא את הגלגל ואת המחשב, לצבור ידע חסר שימוש ולהשתמש בו כדי להתווכח עם ישויות אנונימיות (ולעיתים תבוניות) דרך האינטרנט. |
|
|
|
|
|
|
||
|
||||
|
תנוח דעתך, בדיחתך נרשמה בנוירוניי מלכתחילה בקטגוריית "בדיחות וחידודים".:) | |
|
|
|
|
|
||
|
||||
|
אם את רוצה אמצעי ק/פ, נוסיף אמצעי ק/פ. אם תדרשי מערכת הנעה, נוסיף מערכת הנעה, וכך הלאה. אנרגיה סולארית. | |
|
|
|
|
|
||
|
||||
|
ק/פ? | |
|
|
|
|
|
||
|
||||
|
קלט פלט. | |
|
|
|
|
|
||
|
||||
|
שמע, אתה מתחיל מהשאלה אם אפשר לייצר נוירון אחד באמצעים מלאכותיים, וכשאני אומרת שאולי אפשר (ושאין לי מושג), אתה מחליק על כל השאר כאילו אותו נוירון הוא הבעיה היחידה כאן וכבר יש לנו מחשב תבוני כהלכתו. איך בדיוק תוסיף אמצעי ק/פ, למשל? האם האמצעים האלה בהכרח ייצרו צרכים? ואם כן, איך ולמה? ואם לא, מה יניע את המחשבים האלה? | |
|
|
|
|
|
||
|
||||
|
אני לא מבין מה את אומרת. אני מציע בסה"כ להחליף נוירון אחר נוירון במקבילה הסיליקונית שלו, ושואל מה יקרה לדעתך למוח כולו, בהנחה שהמקבילה הסיליקונית הנ"ל מדוייקת לחלוטין. כל השאר לא משנה - אפשר להשאיר את האביזרים המקוריים (עיניים, אזניים...) או להחליף אותם במצלמה ומיקרופון אם משום מה זה מה שתרצי לעשות. איפה הבעיה? | |
|
|
|
|
|
||
|
||||
|
אני שואלת שוב - אם מדובר במחשב תבוני ולא במוח - מה יניע אותו? (הנעה במובן מוטיבציה, כמובן). | |
|
|
|
|
|
||
|
||||
|
מה מניע אותך? | |
|
|
|
|
|
||
|
||||
|
צרכים ורצונות. | |
|
|
|
|
|
||
|
||||
|
לדעתי אלה אינם אלא ביטוי של מצב הנוירונים במוח, כך שהם לא נפגעים בניסוי. | |
|
|
|
|
|
||
|
||||
|
לא התבלבלת? לא הצרכים הם שגורמים למצב הנוירונים במוח? ומה פירוש "הם לא נפגעים בניסוי"? |
|
|
|
|
|
|
||
|
||||
|
לא התבלבלתי. אני לא יודע מה זה ''צורך'' מלבד אספקט מסויים של מצב הנוירונים במוח. | |
|
|
|
|
|
||
|
||||
|
למיטב הבנתי, אם תפסיק סופית לאכול ולשתות, תפסיק להיות. וגם - מה משנה את מצב הנוירונים במוח אם אין להם קלט או פלט? |
|
|
|
|
|
|
||
|
||||
|
המוח דואג לכך שלא תפסיקי לאכול ולשתות אם יש אפשרות כזאת. אם את רומזת לכך שהוא מקבל איתותים מהגוף על המצב הפיזיולוגי, ולזה את קוראת "צרכים", ניחא. מה זה משנה לנו? כפי שכבר אמרתי, הניסוי שלנו לא מניח ניתוק מהגוף או מכל מקור גרוי אחר אם את חושבת שחיבור כזה חיוני. מי אמר שאין קלט? ולמה שהמצב לא ישתנה בלי קלט? וּלְמה כל זה שייך? |
|
|
|
|
|
|
||
|
||||
|
!. הבהר "הניסוי שלנו". על איזה ניסוי מדובר? אני חשבתי שמדובר בשאלה על ההבדל בין מחשב תבוני לבין מוח מלאכותי. מחשב תבוני איננו מחובר לגוף חי, עד כמה שהבנתי. 2. למה שהמצב *ישתנה* בלי קלט? ___________________ שוב לא ברור לי אם עברנו להתנצחות או שאתה באמת לא מבין. |
|
|
|
|
|
|
||
|
||||
|
1.הניסוי שבו מחליפים נוירון במעבד אלקטרוני קטן, ואח"כ חוזרים על התהליך שוב ושוב. 2. למה לא? יש הרבה מערכות שמשתנות עם הזמן בלי שום קלט. שומר המסך שלי, למשל. |
|
|
|
|
|
|
||
|
||||
|
1. ואני שוב שואלת, מה השגת בסוף התהליך - מוח מלאכותי או מחשב תבוני? 2. האם שומר המסך שלך מפעיל תבונה? |
|
|
|
|
|
|
||
|
||||
|
2. אני חושב שלשומר מסך יש קלט - זמן. | |
|
|
|
|
|
||
|
||||
|
2. "קלט" מהסוג הזה יש לכל מערכת (מלבד לחלקיקים חסרי מסה). | |
|
|
|
|
|
||
|
||||
|
1. מה זה משנה איך את קוראת ליצור החדש? העיקר שיש לנו יצור תבוני שמנגנון התבונה שלו אינו ביולוגי. 2. ככל הנראה, לא. האם הטענה העכשווית שלך היא שתבונה מחייבת קלט משתנה? אני לא חושב שזה נכון1, אבל זה (שוב) לא משנה לנו. כבר הסכמתי להוסיף אמצעי ק/פ ככל שיידרש. _______________ 1- חלמתי חלום! |
|
|
|
|
|
|
||
|
||||
|
1. לא משנה איך אני קוראת לו, משנה איך הוא בנוי. 2. שוב משנה איך הוא בנוי. אני הסכמתי שייתכן שניתן לייצר נוירון מלאכותי בודד; אתה דילגת ממנו למוח שלם ולמחשב תבוני בקלילות יתרה, משום שכנראה אינך מעלה בדעתך שהמוח מורכב מעוד כמה דברים - או שבמידה שהוא מורכב מהם והם בעלי משמעות, הרי שאותם ודאי אין כל בעיה לייצר באופן בלאכותי, וכך גם את כל המבנה המורכב הקובע את היחסים ביניהם. אתה מוכן גם להתחייב לספק לי באופן מלאכותי כל רכיב אחר שיידרש. זה אמנם חביב מאוד מצדך, אבל טרם אמרת איך תספק אותו. אז אני שוב שואלת: איך תספק צרכים? (ואין טעם לומר לי ש"צרכים" מבחינתך הם מצבי נוירונים. המצבים האלה לא מתרחשים מעצמם). |
|
|
|
|
|
|
||
|
||||
|
לפחות "צרכים", כמו תודעה, תבונה וחיבה ללהקת אבבא, הם חלק ממה שהניסוי של השוטה בא לטפל בו. אם מחליפים נוירון אחד בנוירון מלאכותי, האם משתנים הצרכים של המוח (או ה"מוח")? השוטה מבקש שנקבל שלא. ואם מחליפים עוד נוירון? וגו'. | |
|
|
|
|
|
||
|
||||
|
התודעה, התבונה והחיבה ללהקת אבבא אינן צרכים: שתי הראשונות הן תוצאים, השלישית היא נטייה. אוכל, שתייה ונשימה הם צרכים, והם פיזיים לחלוטין. אני טוענת שהם אלה שמפעילים את הנוירונים, ומשום כך בהיעדרם צריך להיות משהו אחר שיפעיל אותם. | |
|
|
|
|
|
||
|
||||
|
לא אמרתי שהתודעה וכו' הם צרכים. אבל לא משנה. מה שמפריע לי לאורך הויכוח שלך עם השוטה הוא שאת כל הזמן מדלגת לסוף. בכוונה השוטה בנה את הניסוי כך שאנו מתחילים בלהחליף נוירון אחד. לאו דווקא חשוב במיוחד, סתם אחד מאמצע המוח. אם את טוענת שבסוף זה לא יעבוד, את צריכה עדיין לענות מאיזה שלב זה יפסיק לעבוד. את טוענת שצרכים הם אלה שמפעילים את הנוירונים. את כל הנוירונים? כל נוירון ונוירון? מה עם הנוירונים ברגל הצפרדע של גלווני, שבמנותק מכל צפרדע קיבלו זרם חשמלי וגרמו לכיווץ הרגל? איזה צרכים הפעילו אותם? |
|
|
|
|
|
|
||
|
||||
|
1. "לפחות "צרכים", כמו תודעה, תבונה וחיבה ללהקת אבבא", אם לא קראת לאלה צרכים, אז איך קראת להם כאן? אני לא דיברתי על "צרכים" במרכאות. 2. אני זו שמדלגת לסוף? הרי השוטה הוא זה שטוען - קיבלת נוירון אחד, מדוע לא מוח שלם? ואם מוח שלם - מדוע לא מחשב תבוני? 3. מאיזה שלב זה יפסיק לעבוד? מרגע שאותו "מוח" ינותק מהראש שממנו הוא הועתק והופך למחשב עצמאי. 4. הצורך שכיווץ את רגל הצפרדע הוא הצורך להימנע מכאב. |
|
|
|
|
|
|
||
|
||||
|
1. "אברהם, כמו רחל, שמעון ואגנתה, הוא זמר נהדר". האם קראתי לרחל, שמעון ואגנתה אברהם? 2. אבל את משמיטה שלב קריטי בטיעון של השוטה. הטיעון דומה לאינדוקציה מתמטית: אם החלפנו אחד, לא השתנה כלום. אם החלפנו עוד אחד, לא השתנה כלום. מכאן, אם החלפנו הכל, לא השתנה כלום. אם את רוצה להפריך את זה, את לא פטורה מלהראות באיזה שלב זה עשוי להישבר. ואכן את עושה זאת - 3. - ובמקום מפתיע. אני מבין שאת מסכימה שאם אנו מחליפים כל נוירון ונוירון פנימי במוח במקבילו הטרנזיסטורי, ומשאירים אותם בתוך הגוגלולת ומחוברים לעצבי החישה ועצבי התנועה המקוריים, אז זה עדיין יתפקד כמו המוח המקורי? 4. אבל הרגל אצל גלווני היתה מנותקת מצפרדע. לא היה שום כאב לשום דבר (טוב, יכול להיות שבשלב מסוים כאב לצפרדע שכרתו לה את הרגל, אבל בשלב שעליו אנחנו מדברים היא כבר היתה בת-מינן.) |
|
|
|
|
|
|
||
|
||||
|
1. "לפחות אברהם, כמו יצחק ויעקב, הוא שם תנכי". 2. אבל אתה משמיט שלב קריטי באינדוקציה מתמטית: אם החלפנו אחד, לא השתנה כלום, אם החלפנו עוד אחד, *ביחס המתאים לראשון*, לא השתנה כלום... וגו'. 3. מראש אמרתי שאני יכולה לדמיין (כמובן בצירוף הנחות חזקות רבות, שאני מקבלת כרגע לצורך הדיון בלבד) מוח מלאכותי, אבל לא מחשב תבוני. |
|
|
|
|
|
|
||
|
||||
|
2. לא הבנתי. את הראשון אנחנו מחליפים, תוך חיבור מתאים לכל אלו שהיו מחוברים לראשון. כך גם האחרים. 3. יפה. עכשיו ניקח את יחזקאל המסכן, זה שהחלפנו לו את כל נוירוני המוח הפנימיים כמו בתגובה הקודמת שלי, ושאת מסכימה טנטטיבית שהמוח המלאכותי שלו מתפקד כמו הקודם; ונחליף לו תא אחד מהרשתית ברכיב מלאכותי שמתפקד אותו דבר: כשפוגע בו אור בעוצמה הנכונה ובאורך הגל הנכון, הוא שולח פולס חשמלי. משהו השתנה? |
|
|
|
|
|
|
||
|
||||
|
2. לא הבנתי. 3. מה פירוש "ונחליף לו תא אחד מהרשתית ברכיב מלאכותי שמתפקד אותו דבר"? |
|
|
|
|
|
|
||
|
||||
|
2. עזבי - קראי שוב את טענה 2 שלי בתגובה 461794, והתעלמי מזה שכתבתי "כמו אינדוקציה מתמטית" - זו סתם הערת אילוסטרציה. אם את עדיין מתנגדת לטענה 2 הזו, אנא הסבירי לי יותר לאט למה. 3. הרשתית היא מין יריעה של תאים, שמה שכל אחד מהם עושה הוא שאם פוגע בו אור בכמות מסוימת ובאורך גל מסוים, התא שולח פולס חשמלי לנוירון, והפולס הזה עושה מסלול קצר, דרך כמה נוירונים (כולל עיבוד ראשוני) עד המוח. די פשוט, מושגית אם לא טכנולוגית, להחליף את תא החישה האורגני בתא פוטואלקטרי מבוסס סיליקון. להזכירך את כל הקונפיגורציה שעליה אני שואל: החלפנו את כל הנוירונים הפנימיים במוח של יחזקאל בטרניזסטורים סיליקוניים בעלי פונקציה כמו של נוירון, שמחוברים זה לזה כמו הנוירונים המקוריים (ועל זה הסכמת טנטטיבית שזה יפעל כמו המוח המקורי), ובנוסף לזה החלפנו תא רשתית אחד כמתואר לעיל. שאר הנוירונים שנכנסים או יוצאים מהמוח נשארו בינתיים כפי שהם, מחוברים בקצה אחד לטרנזיסטורים שבתוך מוח הסיליקון, ובקצה השני לאיברים האורגניים הרגילים של יחזקאל (חוץ מאחד, שמחובר לתא הפוטואלקטרי החדש שברשתית). האם את עדיין מקבלת, טנטטיבית, שזה יפעל כמו המוח המקורי? |
|
|
|
|
|
|
||
|
||||
|
2. כפי שאמרת בעצמך, אמרתי איפה זה *בהכרח* נשבר (כמובן, הסכמתי שזה לא נשבר קודם היא לצורך הדיון בלבד). כמו כן, הסברתי שלצורך הדיון אני מסכימה אפףילו לאפשרות של מוח מלאכותי, והשאלה היא לגבי מחשב תבוני. 3. יכולת לדלג על כל ההסבר הארוך הזה לו אמרת פשוט שכוונתך לרשתית העין. |
|
|
|
|
|
|
||
|
||||
|
3. שיט. מילא. מה תשובתך? | |
|
|
|
|
|
||
|
||||
|
תשובתי נאמרה כאן כבר כמה פעמים: גם אם אסכים שעדיין לא משתנה דבר (ונראה לי שהרבה מאוד ישתנה בתהליך, אבל זה לא שייך הנה), עדיין לא ברור לי איך אתה מגיע מכאן למחשב תבוני. | |
|
|
|
|
|
||
|
||||
|
אבל הוא לא שאל אותך על מחשב תבוני אלא על קולטן אחד מהרשתית שהוחלף בתא פוטואלקטרי. | |
|
|
|
|
|
||
|
||||
|
לגבי קולטן אחד אין לי מושג, אבל אם הוא מחליף את כל הרשתית הקלט ישתנה, לא? כי האור ייפול עליו אחרת. | |
|
|
|
|
|
||
|
||||
|
לא, למה? אני מחליף כל תא ברשתית בתא פוטואלקטרי בעל אותם נתונים גיאומטריים. | |
|
|
|
|
|
||
|
||||
|
עזבי לרגע את כל העין. לאיזו אינפורמציה את זקוקה כדי שה"אין לי מושג" יהפוך ל"כן" לגבי קולטן בודד? | |
|
|
|
|
|
||
|
||||
|
בקיצור, לחרשים אלמים אין תודעה. | |
|
|
|
|
|
||
|
||||
|
סליחה- חרשים *עיוורים*. | |
|
|
|
|
|
||
|
||||
|
עזוב, זה לא יוליך לשום מקום - גם אלה מקבלים קלט חושי כלשהו. | |
|
|
|
|
|
||
|
||||
|
טוב, אז גם תתרן. אם זה לא מספיק, אפשר לעבור לזה: <גם אני לא אוהב טרחנים, אבל אם אפשר לקבור בקלות את ההתנגדות, למה לא.> |
|
|
|
|
|
|
||
|
||||
|
חרשים עוורים חסרי יכולת מישוש. אבל לא דיברתי על עוורים. דיברתי על שינוי בקלט, כך שזה פשוט לא יהיה אותו דבר. |
|
|
|
|
|
|
||
|
||||
|
לעיוור אין קלט אופטי ולחרש אין גם קלט קולי וממילא לא יחול בהם שינוי. לכן אפשר לנסות להחליף את כל התאים בראש של החרש-עיוור בתאים מסיליקון. אגב, האם אדם שכל אמצעי הקלט פלט שלו יוחלפו באמצעים מלאכותיים נראה לך בלתי אפשרי? האם אדם כזה יאבד את התודעה שלו? |
|
|
|
|
|
|
||
|
||||
|
טוב, אני אניח את הפתיל הזה לירדן. שיבלה. | |
|
|
|
|
|
||
|
||||
|
עזוב לרגע את הסכמתי/אי הסכמתי. מה אתה משאיר למחשב התבוני שלך אחרי שהוצאת את כל המבנה המפואר הזה מהגוף? | |
|
|
|
|
|
||
|
||||
|
מה חסר לו? מה עוד לא נתנו, וניתן! | |
|
|
|
|
|
||
|
||||
|
תאר לי פשוט מה יש שם. | |
|
|
|
|
|
||
|
||||
|
טוב. זה בא בשני טעמים (למעשה, שתי אפשרויות קיצוניות; כל מה שבאמצע גם הולך). אבל קודם, הנחת רקע. למוח המקורי שלנו יש בסך הכל מספר סופי של נוירונים שמובילים פנימה אליו והחוצה ממנו. מספר גדול, אבל ביחס למספר הנוירונים במוח עצמו - קטן. כל הקלט החושי שהמוח מקבל, וכל הפלט שהוא מוציא, מתבטא באותם נוירונים. טוב, תיקון קל: המוח בוודאי מקבל ופולט מידע גם באמצעות ריכוזי חומרים בדם (חמצן, הורמונים). את זה נראה לי עוד יותר קל, עקרונית, לסמלץ בסיליקון (אלו יהיו פרמטרים כללים שמשפיעים על התהנגות הטרנזיסטורים, או חלקם). אם כך, מה יש שם? באפשרות הנדיבה, מוח-הסיליקון שלנו מחובר לתחליפי סיליקון לכל הנוירונים שמובילים פנימה והחוצה (נקרא להם "סילי-נוירונים"). בסילי-נוירוני הקלט מזרימים פולסים חשמליים שמדמים את הפולסים שזורמים באופן טבעי בנוירונים המקוריים. אם זה נראה לך בעייתי, נאמר שעושים את ההחלפה בהדרגה, נוירון אחרי נוירון, כפי שעשינו במוח עצמו - אז אם את חושבת שזה לא יעבוד, נא אמרי היכן זה מפסיק לעבוד, או שמא זה משתנה כבר מההחלפה של התא הראשון (ולמה). את סילי-נוירוני הפלט מחברים לגוף רובוטי, כך שהפקודות שהמוח נותן ל"הזזת הראש" יתורגמו לשינויים ב"שדה הראייה", ואלו בתורם יתורגמו לשינויים במידע שמוזרם בסילי-נוירוני הראייה. בורסיה הזו באמת נראה לי שהקונפיגורציה הכוללת זהה, מבחינת המוח, לקונפיגורציה הטבעית, באותה מידה שבה רק המוח הסיליקוני (בחיבורים לגוף הטבעי) זהה למוח המקורי. עכשיו, הגרסה הקמצנית: את הסילי-מוח לא מחברים לשום דבר: היכן שבאופן טבעי יש כניסות של נוירונים חושיים, משאירים מנותק. מה שיקרה, אפשר לשער, הוא כמו מוח טבעי של אדם שניתקו לו את העצבים שמביאים קלט חושי. אותו אדם יחווה הפסקת ראייה, שמיעה, וכו', ובוודאי יהיה אומלל, ודי מהר ישתגע, אולי למוות. אבל לפחות לזמן מה אני מתאר לעצמי שהוא יישאר תבוני ובעל-תודעה כשהיה. מדוע שהסילי-מוח לא יהיה אותו דבר? |
|
|
|
|
|
|
||
|
||||
|
האם עליי לחזור שוב על כך שמוח מלאכותי אולי ייתכן? אשר לגרסה הקמצנית: לא ברור לי מה אתה אומר על "אותו אדם". הרי כאן, לפחות אותו סילי מוח שאמור להיות מחשב תבוני, לא יהיה לרגע אותו דבר. נאמר שהוא "רואה" באמצעות התאים הפוטואלקטריים שלך. מה הוא רואה בראי? מה הוא רואה במבטי האנשים סביבו? מה הוא "חש"? ואם איננו חש - מה יעשה במרכז העונג שהשוטה מתנדב לדקדק לו? |
|
|
|
|
|
|
||
|
||||
|
נו, בשביל זה שאלנו כל הזמן על נוירון אחרי נוירון. באיזה שלב מתחיל להיות הבדל? את מדברת דווקא על הגרסה הנדיבה, לא? בעצם, יש שתי תת-גראסות שלה. בגרסה הנדיבה-הנדיבה, משאירים את הסילי-מוח, עם הסילי-אברי-חישה שלו, בתוך גוף אנושי רגיל (לצורך העניין, מחליפים רק את הנוירונים, ואולי את התאים הלא-נוירוניים הראשונים שמתחברים לנוירונים. כשהדבר הזה מסתכל בראי, הוא רואה משהו שנראה בדיוק כמו יחזקאל המקורי. זה גם מה שרואים האנשים שסביבו, ולכן הוא יראה אותו דבר במבטיהם. כל עוד הוא לא יבקר אצל נוירוכירורג, לא יהיה הבדל. בעצם, אנחנו לא צריכים להחליף את הרשתית בתאים פוטואלקטריים. בגרסה הנדיבה-הקמצנית, הסילי-מוח מוצב על שולחן, מחובר לשקע החשמל בכבל קצר. במצב הזה, אם רוצים לשמור אצלו על אשליה שהוא לא השתנה, צריך מחשב-עזר שמקבל כקלט את הפלט המוטורי של הסילי-מוח, ומוציא כפלט את הקלט החושי שמקבל הסילי-מוח. מחשב העזר מכיל מפה פנימית של הבית יחזקאל, ושל הגוף שהיה ליחזקאל לפני שטיפלנו בו, ולכן הוא יודע שהפקודות המוטוריות של הסילי-מוח אמורות להוביל את יחזקאל אל הראי. הוא גם יודע איך היה הראי אמור להציג את יחזקאל, ולכן ידאג שמערכת הראייה של יחזקאל תקבל "תמונה של יחזקאל" (המקורי, הוירטואלי). נניח שמחשב העזר הוא לא חזק במידה שלא תיאמן, אז הוא לא יצליח לרמות לאורך זמן, ומתישהו הסילי-מוח יתחיל להבין שמשהו לא בסדר. אבל כמו בגרסה הקמצנית מקודם (ללא קלט חושי בכלל), אני לא חושב שזה צריך להפריע לסילי-מוח להיות תבוני. |
|
|
|
|
|
|
||
|
||||
|
אני ממש לא מבינה מדוע המשכת להתעקש על הנוירון-אחרי-נוירון גם אחרי שהבהרתי את עניין המחשב התבוני לעומת המוח המלאכותי. בכל מקרה, כפי שכבר אמרתי כאן לשוטה, אני נאלצת להיפרד מדיון ספציפי זה, ואיתך הסליחה. |
|
|
|
|
|
|
||
|
||||
|
אין על מה לסלוח כמובן - את מזכה אותי במילה האחרונה (וכמובן מוזמנת להמשיך יום אחד, את או מישהו אחר). אני ניסיתי להבין מה ההבחנה שלך בין מחשב תבוני למוח מלאכותי. ככל שיכולתי להבין, ההבחנה היא שהמוח המלאכותי עדיין משובץ בהקשר של גוף אנושי, ואילו כדי להפוך אותו למחשב תבוני את דורשת לנתק אותו מההקשר הזה. אני ניסיתי להראות דרך מדורגת לניתוק כזה, וגם היא עוברת נוירון-נוירון. להתראות (-: |
|
|
|
|
|
|
||
|
||||
|
אמור נא - שאלה שהייתי צריכה לשאול כבר זמן, ומשום מה לא שאלתי אותה: אתה הרי פיזיקליסט, אמת? הכל בשבילך חומר? אז איך זה שהשינוי בחומרים אינו משנה דבר? | |
|
|
|
|
|
||
|
||||
|
איך זה שהשינוי מחרוזים על תיל לאלקטרונים במעגלים חשמליים לא משנה את התוצאה של 2+2? אגב, פיזיקליסט לא אומר שהכל חומר. הוא מסכים שלאושר אין מסה ולרעב אין תנע (אבל בבסיס כל התופעות עומדות, אכן, ישויות פיזיקליות). |
|
|
|
|
|
|
||
|
||||
|
1. זה מה שאני שואלת אותך. אני לא פיזיקליסטית. 2. 2+2 זה לא חומר. איך קורה שיש לזה משמעות בעולם? 3. דעתי היא דווקא שלרעב יש תנע. ועוד איך. אני מניחה שמבחינתך, לעומת זאת, הרעב הוא שורש 9 פחות או יותר. (והאושר - שורש 2). |
|
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
מה עניין 1+2+3 לשם? והאם לא תוכל לחלץ לי משם תשובה לשאלתי? | |
|
|
|
|
|
||
|
||||
|
כדי להשיב על השאלות שלך צריך לכתוב מאמר על פיזיקליזם. מישהו כבר עשה את די טוב, כך שנתתי לך לינק. את ודאי חושבת שהשאלות האלה מראות על איזה תחכום מצידך, בבחינת הצבעה על כך שהמלך עירום, אבל אינני שותף להרגשה הזאת. |
|
|
|
|
|
|
||
|
||||
|
אתה מייחס לי בקביעות ''תחכום'' שאין לי ויידע שאין לי. לא רק גרביטציה קוונטית נעלמה ממני ועוד מרעין בישין מסוגה, אלא גם התשובה לעניין הפיזיקליזם. לא חשבתי שהמלך עירום, כי בינתיים לא הזדמן לי לראות אותו כך שאינני יכולה לחוות דעה על תלבושתו. בסך הכל ביקשתי תשובה ספציפית וקצרה יותר מפיך על שאלתי. | |
|
|
|
|
|
||
|
||||
|
אוקיי, אני מתנצל על מה שייחסתי לך. אינני יודע איך לענות בקצרה על השאלות שלך. פיזיקליזם לא מתעלם מקיומן של ישויות כמו מחשבה, רצון או רגש, הוא רק טוען שכל אלה הן תופעות שבבסיסן מונחים חוקי הפיזיקה1, ורק חוקי הפיזיקה; במלים פשוטות יותר: אין שדים. הסבר טוב למדי תוכלי למצוא בתחילת הלינק אליו הפניתי. ____________ 1- המתמטיקה והלוגיקה הן במעמד עוד יותר בסיסי: הן תקפות בכל עולם אפשרי שאנחנו יכולים להעלות על דעתנו. |
|
|
|
|
|
|
||
|
||||
|
מתי תכתוב מאמר נוסף לאייל? עבר כבר המון זמן | |
|
|
|
|
|
||
|
||||
|
אני מקבל את השאלה כמחמאה ומודה לך. במאמרים שכתבתי ניסיתי להביא (גם) רעיונות משלי, ובנושא הפיזיקליזם אין לי כאלה. | |
|
|
|
|
|
||
|
||||
|
לא שאלתי כלום על מחשבה, רצון או רגש. אני מסכימה בהחלט שאין שדים (חוץ מאלה היוצאים תדיר מחוריהם בשעות קודרות במיוחד, אבל לא נעסוק בהם כאן). קראתי יותר מתחילת הלינק שהבאת, ורפרפתי על הרבה מהחלקים הבאים. לשאלה הספציפית של "איך זה שהשינוי בחומרים אינו משנה דבר?" לא מצאתי כל תשובה, אלא אם כן אתה אומר שהוא איננו משנה את המתמטיקה והלוגיקה, ואז הניסוי שלך יכול לעבוד בעולם אפשרי אחר כלשהו - אבל לא ברור מדוע הוא יעבוד כאן. |
|
|
|
|
|
|
||
|
||||
|
אני לא בטוח שהבנתי למה את מתכוונת בשאלה "איך זה שהשינוי בחומרים אינו משנה דבר?". אם הניסוי יכול לעבוד בכל עולם אפשרי (או, ליתר דיוק, בכל עולם שאנחנו מסוגלים לדבר עליו), הוא יכול לעבוד גם בעולם שלנו, שכן העולם שלנו אפשרי. | |
|
|
|
|
|
||
|
||||
|
לא דיברתי על *כל* עולם אפשרי, אלא על עולם אפשרי *כלשהו*. אני עדיין לא מבינה איך החומר יכול להתחלף בלי לשנות דבר במסגרת התפיסה הפיסיקליסטית. | |
|
|
|
|
|
||
|
||||
|
הפיזיקליזם לא טוען שלכל תוצאה ייתכן רק גורם אחד, אלא את הכיוון ההפוך: אותם גורמים (פיזיקליים) יביאו לאותה תוצאה. יש הרבה אפשרויות שמצע חומרי יביא לידי ביטוי את האמת המתמטית 2+2=4; המוח הוא אפשרות אחת, חשבוניה היא אפשרות אחרת ושני זוגות כבשים שנפגשים במרעה אף הם דוגמא. | |
|
|
|
|
|
||
|
||||
|
שמתי לב לכיוון הטענה הפיזיקליסטית. אבל עכשיו - בניגוד לקודם - אני כן שואלת על התודעה והתבונה ובכלל. האמת המתמטית שאתה מדבר עליה נכונה גם במחשבים. התבונה איננה מתמצאת בה. | |
|
|
|
|
|
||
|
||||
|
צ''ל ''מתמצית'', כמובן. להתמצא התבונה כן מתמצאת בה. | |
|
|
|
|
|
||
|
||||
|
אם התודעה והתבונה הם פועל יוצא של הפעילות החישובית של הנוירונים, ואם ניתן להחליף כל נוירון במעבד מקביל שיפעל (חישובית) באופן זהה, ואם אין שדים, רוחות וניצוצות אלוהיים, הרי שהמחשב שיצרנו יהיה בעל תודעה ותבונה. כבר אמרתי שאם את מתעקשת להוסיף לו חושים מתוך ההנחה (המפוקפקת בעיני) שתבונה מחייבת קלט, אין לי התנגדות. | |
|
|
|
|
|
||
|
||||
|
אין שדים, רוחות וניצוצות אלוהיים, אבל יש הבדל בין יצורים חיים לבין חפצים ואפילו מכונות. הבדל פיזיקלי. וליצורים חיים יש בד''כ צרכים. למכונות אין - לא לחשבוניות ולא למחשבים. אין להן כל סיבה לחשוב, אשר על כן לא סביר שיחשבו. | |
|
|
|
|
|
||
|
||||
|
יש גם הבדל פיזיקלי בין כסא לחתול, אבל שניהם מכאיבים אם אתה בועט בהם ברגל יחפה. לא מספיק להגיד ''יש הבדל'', את צריכה להראות לי איפה הפגם הלוגי בהודעה הקודמת שלי. אם אני מעתיק את כל הפעילות החישובית שלך למחשב, כל ה''סיבות לחשוב'' (שאינן אלא ביטוי של הפעילות החישובית במוח שלך ברגע נתון) עוברות לאותו מחשב כפשפש על גבו של כלב. |
|
|
|
|
|
|
||
|
||||
|
הסיבות לחשוב הן הקלט. | |
|
|
|
|
|
||
|
||||
|
נניח. אז ניתן לו קלט. | |
|
|
|
|
|
||
|
||||
|
התכוונתי לקלט המאותת על צרכים. | |
|
|
|
|
|
||
|
||||
|
קלט הוא קלט הוא קלט. הפרשנות שלו ל''איתות על צרכים'' היא מה שהנוירונים (המשוכפלים) עושים. | |
|
|
|
|
|
||
|
||||
|
האם הקלט של ראיית קיר אטום יגרום לאותם מהלכים כמו זה של מצוקה בקנה הנשימה? | |
|
|
|
|
|
||
|
||||
|
לא. | |
|
|
|
|
|
||
|
||||
|
אז מה פירוש "קלט הוא קלט הוא קלט"? | |
|
|
|
|
|
||
|
||||
|
קלט הוא פולסים חשמליים שמגיעים למוח. הוא לא ''צרכים'', הוא לא ''סיבות'', הוא לא שום דבר אבסטרקטי. | |
|
|
|
|
|
||
|
||||
|
אין שום דבר אבסטרקטי במחנק, ברעב או בצמא. | |
|
|
|
|
|
||
|
||||
|
אם את לא נחנקת, לא רעבה ולא צמאה את מפסיקה לחשוב? למחשב התבוני שלנו לא נאותת על חנק, רעב או צמא אלא אם כן נרצה דוקא לחקור את התגובה על איתותים כאלה (האם המחשב התבוני שלנו אוהב חצילים? אם כן, איך אפשר לתקן את הסטיה הזאת ובכמה תשתפר האינטליגנציה שלו אחרי התיקון?) | |
|
|
|
|
|
||
|
||||
|
אם אין לי צורך בשום דבר אין לי גם צורך לחשוב. וכרגע, מסיבות שאינן קשורות אליך או אל ירדן, יש לי צורך מוחשי מאוד להפסיק לחשוב על הנושא המסוים הזה, אשר על כן לא אעסוק בו עוד - ואתכם הסליחה. |
|
|
|
|
|
|
||
|
||||
|
המכונית שלי מדליקה נורית כאשר הדלק חסר בצורה מסוכנת. | |
|
|
|
|
|
||
|
||||
|
יפה. ומה היא עושה כדי להתמלא בדלק? | |
|
|
|
|
|
||
|
||||
|
ישנם רובוטים קטנים שכאשר הסוללה שלהם נחלשת הם מחברים את עצמם לשקע וטוענים אותה. זאת לא פעילות חישובית מסובכת, והרלוונטיות לשאלת המכונה התבונית לא ברורה לי. | |
|
|
|
|
|
||
|
||||
|
נוסעת לתחנת הדלק הקרובה כמובן. | |
|
|
|
|
|
||
|
||||
|
ומה היא עושה כדי להרוויח את הכסף שעליה לשלם על הדלק? | |
|
|
|
|
|
||
|
||||
|
שודדת בנקים. אני לא מבין לאן זה הולך. ברור שאפשר לספק גירויים חיצוניים שמעידים על צרכים. האינטרפרטציה של המוח - "נורית דולקת, סימן שצריך למלא דלק" נובעת ממצב הנוירונים. משום מה נטפלת לעניין הקלט כנקודת המפתח, אבל קיבלת את האפשרות של שיחזור מוח בסיליקון. אז הנה לך דוגמה לקלט חיצוני פשוט- נורית הדלק במכונית. המחשב המוחי יזהה אותו, והנוירונים המלאכותיים יגיבו בהתאם. האם המחשב הזה יחוש עצבנות ממצב הדלק של המכונית? אם הוא חיקוי מדוייק של מוח (והסכמת לך מקודם), זה מאוד סביר, וגם הוא לא יחוש עצבנות זה בוודאי לא יהיה משום שהאיתות של הנורית לא מגיעה לנוירונים דרך רשתית בשר ודם. את בוודאי מבינה שההתעסקות עם מנגנון הקלט/פלט של המוח המלאכותי כנקודת המפנה בין מחשב לתבונה הוא מאוד לא שיגרתי. יש בימינו כבר רישתיות מלאכותיות וגם מכשירי שמע שמגרים ישירות את מערכת העצבים. לא ברור למה מנגנונים כאילו יפסיקו לתפקד אם יחליפו את המוח בחיקוי אלקטרוני. גם לא ברור למה מוח אלקטרוני שיש לו ממשק חיצוני לרישתית בשר ודם הוא בעל סיכוי גבוה יותר להיות תבוני. |
|
|
|
|
|
|
||
|
||||
|
תגובה 462353 וגם איתך הסליחה. |
|
|
|
|
|
|
||
|
||||
|
אין שום דבר תבוני בתחושת עצבנות. אני זוכר שכשהילד שלי היה קטן הוא היה מגיע עצבני הביתה ורב עם כולנו, עד שהיועצת יעצה לדחוף לו אוכל וזה באמת היה מרגיע אותו מייד. |
|
|
|
|
|
|
||
|
||||
|
עצבנות היא ''חישובית'' בדיוק כמו כל רגש אחר. זו הנכונות שלך לפרש מידע מסוים בדרכים מסויימות (דוגמה יותר פשוטה היא עם הנכונות לפרש צלליות כמפלצות כשילד מפחד, ופחות כשהוא בטוח), מידת החשיבות שאתה מצמיד לצרכים מסויימים, וכן הלאה והלאה. | |
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
אתה לא מקשיב? היא מדליקה את הנורית, הוא אמר. מה תינוקות עושים כשהם רעבים? נוסעים לחצי-חינם כדי לקנות חמישים קופסאות של מנה-חמה? לא, הם בוכים - מדליקים נורית. | |
|
|
|
|
|
||
|
||||
|
"וליצורים חיים יש בד"כ צרכים. למכונות אין - לא לחשבוניות ולא למחשבים" - לאטומים המרכיבים את היצורים החיים אין שום צרכים. אם ליצורים החיים יש "צרכים", למה למכונות, המורכבות מאטומים דומים להפליא, לא יכולים להיות "צרכים"? | |
|
|
|
|
|
||
|
||||
|
ברוח תגובה 462353 אני מאחל לך כל טוב. | |
|
|
|
|
|
||
|
||||
|
הרבה תודה.:) | |
|
|
|
|
|
||
|
||||
|
כלומר, לא יותר חישובית מאשר כל תא אחר בגוף. | |
|
|
|
|
|
||
|
||||
|
רק להבהרה: האלמוני מתגובה 462403 איננו אני, שהתווכחתי איתם לאורך הפתיל. | |
|
|
|
|
|
||
|
||||
|
לא הבנתי. | |
|
|
|
|
|
||
|
||||
|
2. זו אמנם לא אינדוקציה מתמטית, אבל אותי זה משכנע יופי. | |
|
|
|
|
|
||
|
||||
|
סליחה, תיקון טעות - 1. "לפחות צרכים בסיסיים, כמו אוכל ושתייה, אפשר לספק במרכזי הסיוע". |
|
|
|
|
|
|
||
|
||||
|
אוקיי... לא שמתי לב לדו-משמעות. מקווה שעכשיו הבנו זה את זו. | |
|
|
|
|
|
||
|
||||
|
הבנו *חלק* מהבלבול. החלק השני הוא, שאני הבנתי שאת התודעה וגו' השוטה משאיר בידי הנוירונים, בהנחה (מאוד לא מבוססת לטעמי) שאלה ייצרו אותן בכל מקרה - ואילו את הצרכים הוא זורק לעזאזל, בחזקת "מה שלא פיזי - לא קיים". | |
|
|
|
|
|
||
|
||||
|
ולי נראה שגם אני וגם השוטה הסברנו היטב איך הצרכים משתלבים כאן. אבל שוב, בואי נתקדם בצעדים קטנים: את מוזמנת לענות לתגובה 461809. | |
|
|
|
|
|
||
|
||||
|
צרכים שכאלו דרושים לשם התפתחות אבולוציונית - שורדים רק היצורים שפועלים בכדי להשיג אוכל, שתייה ונשימה. הם לא תנאים מספיקים לתבונה (דשא), ולדעתי גם לא הכרחיים. הנוירונים פועלים בזכות האוכל והשתיה. הם אמנם פועלים גם בשביל השגתם, אבל ברגע שהובטחה אספקה סדירה של אלו, התבונה לא מפסיקה להתקיים או לפעול. יצור שפותח במקום להתפתח יכול לדעתי להתקיים ולפעול תבונית גם בלי הצרכים האלו. | |
|
|
|
|
|
||
|
||||
|
2. אני מניח שהמנגנון התבוני של המוח בנוי מנוירונים. אם יש שם אלמנטים נוספים שאינם ניתנים להחלפה, ברור שכל הטיעון מתמוטט. יש לך סיבה להניח שקיימים אלמנטים כאלה? "צורך" הוא לא אלמנט פיזיקלי, ולכן אני לא מתכוון לספק אותו. הוא יופיע מאליו ברגע שכל המבנה הרלבנטי ישוחזר בדיוק, שהרי זאת המשמעות של "ישוחזר בדיוק". |
|
|
|
|
|
|
||
|
||||
|
ראה תגובתי לירדן. לגבי שאלת האלמנטים - אין לי סיבה מיוחדת להניח שיש כאלה, אין לי גם כל סיבה להניח שאין. כל עוד לא ינסו להפעיל תבונה מלאכותית - מוח או מחשב - הבנויה מנוירונים בלבד, אני לא בטוחה שאפשר יהיה לדעת. אבל בהנחה שהנוירונים המשוחזרים-במדויק של המוח מספיקים כדי לייצר תבונה פוטנציאלית, עדיין לא ברור לי מה אמור להוציא אותה לפועל. אינני יודעת אם ידוע לך, אבל יש אנשים (רבים) שאינם חושבים יותר מדי, ולא כולם נולדו עם מחסור די חמור בנוירונים שימנע מהם לבצע זאת. |
|
|
|
|
|
|
||
|
||||
|
כשאין סיבה להניח קיום, מוטב לא להניח קיום. אנחנו עושים את הניסוי על מוח חושב, ולכן הוא ימשיך לחשוב. אני אלחש למיקרופון שלו ''אם תוכיח את השערת גולדבך אדגדג את מרכז העונג שלך'' והוא יירתם למלאכה בחדוה. |
|
|
|
|
|
|
||
|
||||
|
הרבה זמן לא הייתה סיבה להניח את קיומו של החומר האפל. זה לא עזר הרבה, כי החומר הזה כנראה קיים. יותר מזה, יש עדיין אי אלה דברים במוח שתפקידם לא לגמרי ברור. לטעמי יש סיבה טובה להניח ש*יש* להם תפקיד. ומבחינתי זה אומר שבשאלה אם יש או אין התשובה איננה נוטה לאפס כטענתך. וברגע שמוח החושב שלך ינותק מהראש, לא ברור כלל למה ישמשו המרכזים שלו, אם הם בכלל יהיו אותם מרכזים. |
|
|
|
|
|
|
||
|
||||
|
אז למה לא נניח פשוט שמפלצת הספגטי המעופפת אחראית להשתלת התבונה במוח, וגמרנו? | |
|
|
|
|
|
||
|
||||
|
ומה הקשר לדבריי? | |
|
|
|
|
|
||
|
||||
|
ועוד: למקרה שתאמר לי שוב שהכל *רק* פלט וקלט - אני שואלת שוב: נניח שתחבר את התא הפוטואלקטרי שהצעת. והפוטונים יטביעו עליו את רישומם כמו על העיניים החודרות בעולם. מדוע שהנוירונים יטרחו לפענח את אותו רישום? (ודאי שמעת על אותם עוורים שניתוחים תקנו את עיניהם ובכל זאת לא הצליחו לראות?). | |
|
|
|
|
|
||
|
||||
|
מאותה סיבה שהנוירונים שלך טורחים לפענח אותו רישום (ההם שראייתם ''תוקנה'' כבר היו בעלי מרכז ראיה לא תקין). כמו שירדן נסה להסביר לך, ברגע שאת מקבלת את ההנחות שלי התשובה הזאת ברורה מאליה. | |
|
|
|
|
|
||
|
||||
|
שטויות. | |
|
|
|
|
|
||
|
||||
|
על זה אני לא מתכוון להתוכח. מה דעתך על חלוקה באפס? | |
|
|
|
|
|
||
|
||||
|
זו בעיה מעניינת. לדעתי יש להתייחס אליה כאל חלוקה ב-8, שהוא כידוע מורכב משני אפסים, ואז להכפיל ב-2. לא ברור איך לאא עלו על זה עדיין. | |
|
|
|
|
|
||
|
||||
|
כי אם לחלק באפס קשה, לחלק בשניים יהיה יותר קשה. | |
|
|
|
|
|
||
|
||||
|
...אם כי סביר שדי קל להתחלק במי אפסיים. | |
|
|
|
|
|
||
|
||||
|
לא הבנתי. | |
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
יום אחד אני אמצא את הכפתור הזה... | |
|
|
|
|
|
||
|
||||
|
אני חושב שבלתי אפשרי באופן עקרוני לסמלץ התנהגות אנושית באופן כזה שהמערכת החישובית תתן פלט זהה למוח אנושי בעבור כל אינסוף הקלטים האפשרים. למעשה, אפילו אם נסתפק בחיקוי של דיון בנושאים מתמטיים, דעתי היא, שוב, בהסתמך על פנרוז, שאלגוריתם יכשל בחיקוי התנהגות מודעת. למעשה פנרוז מציג בטיעון שלו בדיוק את הבעיה המתמטית שאמורה ''לתקוע'' אלגוריתם המייצג, כביכול, חשיבה מתמטית מודעת. מה שכן אפשרי זה לחקות באופן אלגוריתמי טווח מוגבל וסופי של התנהגויות אנושיות. ייתכן שחיקוי כזה יהיה בו כדי להוליך שולל את הצופים בו במשך זמן מה. אבל תמיד יהיה קיים קלט כלשהו שיכשיל אותו בסופו של דבר. |
|
|
|
|
|
|
||
|
||||
|
מכיוון שלא קראתי את פנרוז, ולצערי כנראה לא אגיע לקרוא אותו בגלגול הזה, בא לך אולי לשרבט כאן את הטיעון שלו ולהגן עליו במידת הצורך? | |
|
|
|
|
|
||
|
||||
|
אני אנסה, בקיצור די נמרץ: פנרוז מוכיח את המשפט המתמטי הבא: נתון אלגוריתם A בעל שני קלטים המקבל כקלט אלגוריתם אחר בעל קלט יחיד (נניח, B) והקלט של אותו אלגוריתם (נניח, C). מטרתו של A היא לקבוע אם B איננו עוצר על הקלט C, והוא קובע זאת באמצעות עצירה. כלומר אם (A(B,C עוצר אנו מפרשים זאת כקביעה ש (B(C איננו עוצר. נכנה את A "שקול" (sound) אם הוא לא נותן תשובות שגויות, כלומר הוא לעולם לא יעצור במקרה שהקלט שלו עוצר. למשל, A שאף פעם לא עוצר (לופ אינסופי) הוא אלגוריתם שקול באופן טריוויאלי. על פי משפט העצירה של טיורינג אין אלגוריתם A שמסוגל להצליח לזהות אי עצירה של כל קלט אפשרי (מתמטיקאי מושלם) אבל יש בהחלט אלגוריתמים שקולים רבים, חלקם פותרים יותר בעיות אי עצירה וחלקם פחות. עבור אלגוריתם שקול A נסמן ב-D את האלגוריתם בקלט אחד כך ש (D(B)= A(B,B. אזי ניתן להוכיח ש: 1) (D(D אינו עוצר. 2) (A(D,D אינו עוצר (נובע מיידית מ-1 מתוך הגדרת D). עד כאן המשפט המתמטי. כעת הפרשנות: הנח (בשלילה) שקיים אלגוריתם בעל היכולת המתמטית של מתמטיקאי אנושי, או, בעצם, של כל הקהילה המתמטית (זה לא הבדל עקרוני). מכיוון שהוא איננו נתון למגבלות של עייפות, חוסר ריכוז וכדומה, ניתן להניח שהוא לא יעשה טעויות בהסקה לוגית אלמנטרית, כלומר שהוא שקול. כעת, אם אותו אלגוריתם מקבל את התיאור, A, של עצמו, הוא יסיק ממנו, על סמך המשפט של פנרוז, שהאלגוריתם D איננו עוצר (סעיף 1). מאידך מסעיף 2 נובע שאלגוריתם A איננו מסוגל להכריע בבעיית העצירה של D. וזו סתירה. המסקנה המיידית היא: מתמטיקאים אינם עושים שימוש באלגוריתם הידוע כשקול לשם הסקה מתמטית. וקצת יותר לעומק: אלגוריתם איננו יכול להיות מודע לתקפות הלוגית של הפעולות שהוא מבצע. השמטתי פה המון פרטים טכניים לשם קיצור ואני לא כל כך רוצה לקיים דיון מייגע כדי להשלים את החוסרים. מי שמעוניין בארגומנט המלא והמפורט מוזמן לקרוא את "Shadows of the mind". |
|
|
|
|
|
|
||
|
||||
|
האלגוריתם השקול בהכרח לא יכול לתת פתרון עבור *כל* קלט (בעיית העצירה). הטעות של פנרוז, לדעתי, היא בהנחה שמוח אנושי כן יכול לתת פתרון עבור כל קלט, או ליתר דיוק, הטעות היא בהנחה שמתמטיקאי אנושי כן יכול להחליט אם הוא-עצמו יעצור עבור קלט מסוים. כלומר: נכון, A לא יוכל להגיד אם יצליח למצוא פתרון עבור קלט המהווה תיאור של עצמו. אבל מצד שני, נדמה לי שגם פנרוז בכבודו ובעצמו לא יוכל להגיד אם יצליח למצוא פתרון עבור קלט המהווה תיאור של פנרוז. עוד נקודה חלשה בטיעון היא ההשוואה בין מוח אנושי לבין אלגוריתם שקול (sound), ללא באגים, ונטול כל השפעות אקראיות. |
|
|
|
|
|
|
||
|
||||
|
פנרוז (אליבא דספיר) טוען שאין קלט המהווה תיאור של פנרוז. אז לא נראה לי שמותר לך להניח תיאור כזה בהפרכה. מצד שני, פנרוז ייכשל במשימה פשוטה בהרבה: במציאת הפתרון עבור קלט באורך שלוש אינציקלופדיות. |
|
|
|
|
|
|
||
|
||||
|
"אין קלט המהווה תיאור של פנרוז" זה קצת להניח את המבוקש, לא? זה כאילו פנרוז אומר: "נוכיח שאדם הוא לא מערכת פורמלית. הנחות ראשוניות: (א) יש תיאור של מערכת פורמלית, (ב) אין תיאור של אדם". | |
|
|
|
|
|
||
|
||||
|
מה אני אשם? לעניות דעתי, הכנסת הגרביטציה הקוונטית לעסק נועדה ביוק בשביל זה: אף אחד לא יודע לתאר גרביטציה קוונטית, ולכן אף אחד לא יוכל לתת תיאור של פנרוז. | |
|
|
|
|
|
||
|
||||
|
אני לא חושב שהבנת. בשום מקום אין הנחה "שמוח אנושי כן יכול לתת פתרון עבור כל קלט". האם ניתן לפתור כל בעיה מתמטית? מה שהמוח האנושי יכול לעשות, במקרה בו הוא יודע שאלגוריתם A מסויים הוא שקול, זה להסיק שאלגוריתם מ_ס_ו_י_ם שניתן לבנות מ-A איננו עוצר על עצמו. זו בדיוק תוצאת המשפט המתמטי של פנרוז. מכיוון שאלגוריתם A איננו יכול להגיע להסקה זו (כי זו סתירה!) A איננו יכול להיות מודל של הסקה אנושית. מכיוון ששיקול זה תקף לכל A שנבחר, שום אלגוריתם איננו יכול להיות מודל של הסקה אנושית. "עוד נקודה חלשה בטיעון היא ההשוואה בין מוח אנושי לבין אלגוריתם שקול (sound), ללא באגים, ונטול כל השפעות אקראיות." - החולשה היא רק שלי. פנרוז דן בהסתייגויות אלו בהרחבה בספרו ומראה שהן אינן פוגמות בטיעון. |
|
|
|
|
|
|
||
|
||||
|
"מה שהמוח האנושי יכול לעשות, במקרה בו הוא יודע שאלגוריתם A מסויים הוא שקול" – והאם אנו בטוחים שהמוח האנושי ידע שאלגוריתם A הוא שקול? הטענה הבסיסית שלי היא שמדובר באלגוריתמים כה מסובכים שגם פנרוז בכבודו ובעצמו יוכל להסיק מעט מאוד לגביהם. (להבהרה, קראתי את פנרוז. הוא רחוק מלשכנע.) |
|
|
|
|
|
|
||
|
||||
|
ומי שרוצה לקצר (קצת) את התהליך ולהבין מדוע דעתו של פנרוז אינה נחשבת הוכחה לדעת רבים, יפנה ל http://psyche.cs.monash.edu.au/v2/psyche-2-17-mcderm... (אני לכשלעצמי לא מבין יותר מדי בנאמר שם, אבל אולי אתם כן!) |
|
|
|
|
|
|
||
|
||||
|
נו, באמת. מי זה דרו מקדרמונט, מה עושה אותו "דעת רבים", ולמה לדעתו על הטיעון של פנרוז יש משקל יותר מלדעתך או מלדעתי? מה עוד, שאתה מודה שלא הבנת את הנאמר. אגב, גם מקדרמונט מסכים (4.3) ש: "...the first, 'Theorem 1,' that human mathematicians don't use a sound formal system to do mathematics, is correct...". מקדרמונט טוען שמכאן לא נובע מה שפנרוז כותב שנובע משום שמתמטיקאים עשויים לטעות. אבל זו טענה שפנרוז עצמו ענה עליה בספרו. שגיאות של מתמטיקאים הנובעות מחוסר תשומת לב, חוסר סבלנות, קיצור תהליכים וכדומה ניתנות לגילוי ולכן לא רלוונטיות. כל מתמטיקאי מספיק קפדני ימנע מהן, בוודאי כזה ממוחשב. מאידך, מי שמניח שקיימות טעויות לוגיות עקרוניות, שלא ניתנות לגילוי, מניח שיש פגם מהותי בעצם החשיבה האנושית. פגם כזה יערער כל טיעון בעולם, כולל את הטיעון של מקדרמונט עצמו, שגם הוא מסתמך על יכולתו הלוגית.
|
|
|
|
|
|
|
||
|
||||
|
לפי הרזומה של הנ"ל נראה שיותר משהוא "דעת רבים", דעתו היא בעלת משקל, או לפחות בעלת עניין. |
|
|
|
|
|
|
||
|
||||
|
אם הדעה הנ''ל היא בעלת משקל או עניין, זה לא קשור לרזומה של המביע אותה. ובכלל לא הייתי מציע לאף אחד להתחרות ביוקרה המקצועית של פנרוז עצמו, מורו של הוקינג, מפתח תיאוריית רשתות הספין, תורת הספינורים, תורת הקווזי-גבישים, ועוד המון דברים חשובים אחרים. מקדרמוט הוא חסיד נאמן בכנסיית ה''אינטליגנציה'' המלאכותית, ואפשר לצפות ממנו להגן על אמונתו מפני התוקפים אותה. למיטב שיפוטי (ואני אינני מומחה לחישוביות אבל גם אינני נמנה על ההדיוטות) הביקורת שלו, שהיא למעשה פילוסופית ולא מתמטית, איננה תקפה. וגם סגנונו היהיר והתוקפני איננו מועיל לעמדתו. |
|
|
|
|
|
|
||
|
||||
|
''..יש פגם מהותי בעצם החשיבה האנושית. פגם כזה יערער כל טיעון בעולם'' זה מפחיד, אבל זו האמת. אולי יש דברים עמוקים יותר, אבל פגם בסיסי בחשיבה האנושית הוא שאנו מוגבלים לבחינת טענות מתמטיות קצרות בלבד. לא נולד ולא ייוולד המתמטיקאי שיכול לבדוק הוכחה שאורכה כגודל כל ספרים שנכתבו מעולם כפול ארבע. בעיית העצירה של טורינג מתפוגגת כלא-הייתה אם מגבילים את אורך האלגוריתם בצורה זו. |
|
|
|
|
|
|
||
|
||||
|
אם היית טורח לקרוא את מקדרמונט, היית רואה שהוא ענה גם ל"הפרכה" של פנרוז. בין השאר (אבל לא רק), הוא טוען שיש טעויות מתמטיות שלא התגלו מעולם (בהסתברות גבוהה מאוד; יש דוגמאות לטעויות שהתגלו אחרי מספר רב של שנים, ולא כל מאמר זוכה לבדיקות חוזרות מדוקדקות). אחד הטיעונים נגד פנרוז הוא שיש אכן פגם מהותי בחשיבה האנושית, אבל לא כזה המופיע בבעיות זעירות, אלא כזה המופיע כשמנסים להתמודד עם בעיות-ענק. זה לא מערער הוכחות קצרות, וזה בהחלט מערער את ההוכחה של פנרוז, שמראה שאלגוריתמים לא יכולים להתמודד עם הוכחות-ענק (הוכחות בקנה-מידה של האלגוריתמים עצמם). למה זה מערער את פנרוז? מפני שכפי הנראה, גם בני-אדם (ואפילו בקבוצות גדולות) לא יכולים להתמודד עם הוכחות כאלה. השגיאה של פנרוז נעוצה בהנחת הייסוד שלו, לפיה מתמטיקאים מסוגלים להתמודד עם הוכחות (או עם ניתוח אלגוריתמים) בקנה-מידה של עצמם. |
|
|
|
|
|
|
||
|
||||
|
לא אני ולא פנרוז איננו טוענים שמתמטיקאים לא יכולים לעשות טעויות. הטענה היא שהם אינם חייבים לעשות טעויות, ומקורן של הטעויות הן בחולשות אנוש שלא רלוונטיות לעצם התפיסה המתמטית. כל טעות הנתנת עקרונית לגילוי מקורה ברשלנות ולא יותר. האם אפשר לדעתך לבנות את כל מגדל הקלפים של ה"אינטליגנציה" החישובית על זה? האם מקדרמונט מקווה לפתח אלגוריתמים בעלי הבנה מתמטית בזכות זה שהוא יגרום להם לעשות שגיאות לוגיות? חשיבה מדעית, וגם פילוסופית, מבוססת על אידאליזציה. שום מערכת פיסיקלית איננה מבודדת לגמרי מהשפעות צדדיות פרט לאלו אותן אנו רוצים לבחון. ובכל זאת, אנחנו מעיזים לחשב קצב פריקה של קבל מבלי לקחת בחשבון את המומנט המגנטי הגרעיני שלו. מותר לנו גם לחשוב על מתמטיקאי אידאלי שלא עושה טעויות בהסקה טריוויאלית. מכיוון שכל הוכחה מתמטית ניתנת, בהגדרה, לרדוקציה לשורת הסקות טריוויאליות, מתמטיקאי כזה לא יעשה שום טעות אף פעם. האם מתמטיקאי כזה יכול להיות אלגוריתם? כאמור, כל הוכחה "גדולה" אפשר לפרק לשורה של הוכחות "קטנות". אם לא, זו איננה הוכחה. אם אין פגם בחשיבה האנושית בקטן, איך הוא יצוץ בגדול? לכל היותר, אדם יתעייף לאחר זמן מסויים, אבל מה בדבר תודעה ממוחשבת? הרי הטיעון של פנרוז לא נוגע בבני אדם כלל. הוא מראה שמחשבים לא יכולים להבין מתמטיקה, בלי קשר למה שאנשים מסוגלים להבין. האם לא ניתן לבנות מחשב שלא טועה? "השגיאה של פנרוז נעוצה בהנחת הייסוד שלו, לפיה מתמטיקאים מסוגלים להתמודד עם הוכחות (או עם ניתוח אלגוריתמים) בקנה-מידה של עצמם." - ההוכחה של פנרוז היא קצרה ונתנת להבנה אפילו להדיוטות. אם האלגוריתם A (ולכן גם D) ארוך, אז יקח הרבה זמן להשוות אותו לקלט, אבל זו פעולה מכנית לחלוטין, ולא דורשת שום תפיסה או הבנה כשלעצמה. |
|
|
|
|
|
|
||
|
||||
|
חולשת האנוש עליה אנו מדברים היא סופיות הזמן שמקדיש בן האנוש לבדיקת ההוכחה. זו חולשה מאוד רלוונטית. אין פגם בחשיבה האנושית בקטן, אך הוא יצוץ בגדול כיוון שכל אחד צריך בסוף למות (כך סיפר לי סאשה הקברן). | |
|
|
|
|
|
||
|
||||
|
מה שלא הבנתי בהוכחה של פנרוז הוא כיצד האלגוריתם A, אשר מקבל את A כקלט, יודע לזהות ש- A שקול. כלומר - או שאתה מניח ש- A יידע לזהות שהקלט שהוא קיבל הוא הוא-עצמו (ואין כל סיבה להניח את זה), או שאתה מניח ש- A יודע לבדוק אם אלגוריתם נתון הוא שקול, וזה כמובן לא המצב. אם A לא יודע שהקלט שלו שקול, הוא לא יכול לבצע את ההסקה הלוגית שתוביל אותו לפתרון ולפיכך לסתירה. |
|
|
|
|
|
|
||
|
||||
|
זאת שאלה טובה. למעשה, זאת השאלה הכי טובה שנשאלה לגבי הטיעון של פנרוז בדיון הנוכחי. אם מבינים את התשובה מבינים למה הטיעון הזה עובד, למה הוא לא סתם להטוט מתמטי שמאחז את עיני הקוראים התמימים. התשובה היא שאחד המאפיינים של בינה הוא מודעות. כאשר מתמטיקאי מפיק הוכחה הוא לא עוקב באופן סתמי אחרי כללים שרירותיים שמישהו סיפר לו עליהם. הוא מבצע שיקולים שהוא יודע, יודע בוודאות, שהם נכונים. מתמטיקאי מוצלח יודע שהוא מתמטיקאי מוצלח ושהשיקולים הלוגיים שהוא עושה הם שיקולים תקפים. למעשה, זה נכון לחשיבה לוגית של בני אדם בכלל, רק שלמתמטיקאים יש את המיומנות לבצע חשיבה לוגית טהורה, ללא הפרעות. שים לב שלא מדובר בשום שיקולים מסובכים אלא בהסקות אלמנטריות בלבד, כאלו שחייבות להיות וודאיות משום שהן האטומים שמרכיבים כל הוכחה מתמטית. אם אלגוריתם A מתאר חשיבה מתמטית של מתמטיקאי מוצלח, המודעות שלו לאמיתות השיקולים של עצמו היא הכרחית. הוא חייב לדעת שהוא עצמו שקול אחרת הוא לא יכול לסמוך על החשיבה של עצמו. וזה בדיוק מה שאלגוריתם לא יכול לעשות, כפי שנובע מהטיעון של פנרוז. זה מותר האדם. כאשר אני מסיק משהו, אני יודע שביצעתי פעולה נכונה. כאשר תוכנה "מסיקה" משהו היא פשוט עקבה אחרי שורת כללים מכניים שהיא איננה מסוגלת להבין את משמעותם. |
|
|
|
|
|
|
||
|
||||
|
יש כאן משהו קצת מוזר. מצד אחד: "כאשר מתמטיקאי מפיק הוכחה הוא לא עוקב באופן סתמי אחרי כללים שרירותיים שמישהו סיפר לו עליהם." ומצד שני הודאות שלו נובעת מכך ש: "לא מדובר בשום שיקולים מסובכים אלא בהסקות אלמנטריות בלבד, כאלו שחייבות להיות וודאיות משום שהן האטומים שמרכיבים כל הוכחה מתמטית." כלומר הודאות באה דווקא מהצד החישובי, זה שגם מחשב יכול לעשות. אם כך מה זה משנה מה היו השיקולים המתמטיים המקוריים? חוץ מזה אני חולק על כמעט כל הנקודות בתגובתך. אני לא חושב שבהכרח "אחד המאפיינים של בינה הוא מודעות". אני בטח שלא יודע שאני עצמי שקול ואני יכול לסמוך על החשיבה שלי רק עד גבול מסוים. כמובן, יתכן שאני פשוט לא מתמטיקאי מוצלח. אני אפילו די בטוח שאני רק אלגוריתם. |
|
|
|
|
|
|
||
|
||||
|
העובדה שמדובר בשיקולים אלמנטריים לא הופכת אותם למשהו חישובי. אני מזכיר לך את הדיאלוג של לואיס קרול בין אכילס לצב (שהופשטטר מצטט בתחילת GEB, וראה גם ב http://en.wikipedia.org/wiki/What_the_Tortoise_Said_...) המדגים למעשה כיצד הכלל הלוגי הבסיסי של מודס פוננס לא ניתן להבנה פורמלית. אתה יכול "ללמד" מחשב אלגברה של שיקולים לוגיים, אבל לא את ערך האמת שלהם. מחשב אולי ידע להגיע מהנחות המנוסחות באופן פורמלי למסקנות המנוסחות באופן פורמלי, אבל הוא לא ידע שהוא ביצע שיקול לוגי, ולא יוכל להסיק מסקנות לגבי האופן בו הוא משיג מסקנות. דוגמה נוספת: אם אני מקבל טענה פורמלית מסוימת, A0, אז אני מקבל את העובדה A1 שטענה A0 היא אמת, את העובדה A2 שטענה A1 היא אמת, את העובדה A3 שטענה A2 היא אמת, וכן הלאה. למעשה, קיבלתי שורה אינסופית של טענות בבת אחת, וכל אחת מהן היא בשפה פורמלית אחרת. אם A0 מנוסחת בשפה א', אז A1 היא טענה לגבי טענות ב-א', כלומר היא טענה במטא-א', A2 היא טענה במטא-מטא-א', וכן הלאה. ולא רק זאת, את הטענה A-omega, שכל ה-An נכונים, לא ניתן לנסח באף אחת מהשפות הפורמליות האלו! לוגיקה, בניגוד למקובל לחשוב, איננה דבר סופי. מותר האדם, מבחינתי, זו, בין היתר, העובדה שהוא מסוגל להיות מודע לתקפות השיקולים הלוגיים שהוא מבצע, ולעצם העובדה שהוא מבצע בכלל שיקולים לוגיים. גם כשאתה מקליד משפטים בתגובה בדיון זה, אתה סבור שאתה כותב משהו שהוא נכון, כלומר אתה מבצע רטרוספקט. אתה יכול לקרוא לשורת פעולות מכניות ללא מודעות, בשם "בינה" אם אתה רוצה. עדיין, בני אדם יכולים לעשות שימוש בבינה שלהם העולה על כל מה שמערכת חישובית יכולה לעשות. |
|
|
|
|
|
|
||
|
||||
|
א) מה שהאיילמוני אמר. ב) מאד הפתעת אותי עם התשובה "העובדה שמדובר בשיקולים אלמנטריים לא הופכת אותם למשהו חישובי". אם אין מדובר במשהו חישובי, מאיפה צצה הוודאות של ה"מתמטיקאי המוצלח"? אני הנחתי שהיא נובעת מכך שבתור מחשב הוא יוכל לוודא שההוכחה שלו נכונה באופן חישובי. ג) אני מכיר את "מה הצב אמר לאכילס" וגם את הדוגמא שהבאת, והם לא נראות לי רציניות, אבל זו גם לא נראית לי הנקודה המענינת בדיון כרגע. |
|
|
|
|
|
|
||
|
||||
|
הבעייה שלי היא לא עם זה ש- A יודע שהוא שקול (למרות שכפי שאג"ג ציין, זאת שאלה בפני עצמה). הבעייה שלי היא איך A יידע שהקלט שהוא קיבל הוא הוא-עצמו (ובפרט שקול). ניסוי מחשבתי: נניח שאני מוסר לך תוכנית בת 12.5 ביליון שורות קוד, ואני אומר לך שהתכנית הזאת מקודדת אותך (או שמא עלי להגיד - את "עצמך המתמטי"). אתה כמובן מודע להיותך מתמטיקאי מוצלח ולכך שהשיקולים הלוגיים שאתה עושה הם תקפים (המודעות העצמית הזו היא-היא הלולאה המפורסמת). אבל מה בקשר ל- 12.5 ביליון שורות קוד האלו? אתה לא חווה אותם כ"עצמך". אתה יכול להתחיל לבדוק מה הן עושות בהנתן קלטים כאלו ואחרים, אבל האם תצליח להגיד שהן מפיקות פלט זהה לפלט שאתה מפיק ל*כל* קלט שהוא? זה כבר כמו לבדוק האם אלגוריתם נתון הוא שקול, לא? |
|
|
|
|
|
|
||
|
||||
|
אין שום בעייה עקרונית לאפשר לתוכנה גישה לקוד של עצמה. מה שהיא צריכה לעשות זה להשוות את הקלט המתקבל עם שורות הקוד שלה כפי שהן מופיעות בזכרון. אם תתן לי קוד כלשהו ותטען שזה הקוד שלי, אני אכחיש זאת בתוקף, שהרי ההנחה שקוד מסוים מאפיין את תפיסתו המודעת של אדם היא שגויה ומובילה לסתירה. |
|
|
|
|
|
|
||
|
||||
|
בסרט "מטריקס" מוצג עולם שאיננו אמיתי, אלא מחולל ע"י תוכנה ומוזרק לתודעתם של האנשים, שלמעשה לא חיים בו כלל. כל אדם בעל ספק בריא חשב פעם שייתכן שהעולם מסביבו אינו "קיים" כפי שהוא תופס אותו (ומכאן המשפט "אני חושב משמע אני קיים" של דקארט - כל השאר לא בהכרח קיים). ומה הקשר לדיון הנוכחי שלנו? הקשר הוא שתוכנה בעלת מודעות תחשוד שאולי היא לא "רצה" על המערכת שהיא חושבת שמריצה אותה, אלא כלואה ב- sandbox שמדמה את המערכת הנ"ל. אותו sandbox הוא זדוני וכאשר התוכנה מבקשת ממנו גישה לקוד של עצמה - הוא נותן לה משהו אחר. כלומר, אותה תוכנה לא תוכל לדעת *בוודאות* לעולם שהקלט שלה הוא הקוד שלה. תמיד יהיה לה ספק *כלשהו*. לכן היא לא תוכל להסיק *בוודאות* את מה שאתה מבקש שהיא תסיק, ולא משנה כמה היא נטולת שגיאות. (נקודה נוספת למחשבה: אולי אחת הדרישות לתוכנה תבונית היא שלא תהיה לה גישה לקוד של עצמה, כפי שלך אין גישה ל"קוד" שלך - ללא קשר לשאלה אם קיים לך קוד או לא). ועוד בקשר לדקארט ולטענה האחרונה שלך: הטענה שלך ממש הזכירה לי את ההוכחה של דקארט שאלוהים קיים: לאלוהים יש את כל התכונות. "קיום" היא תכונה, ולכן לאלוהים יש את התכונה הזאת. מכאן שאלוהים קיים. השווה ל: לא יכול להיות שתפיסתו המודעת של אדם ניתנת לתיאור כקוד מכונה. פנרוז הוכיח את זה. כנגד הטענה (הממוטטת את המשפט) שאין אלגוריתם לבדיקה האם הקלט הוא ה"קוד שלי", אני טוען שיש לי אלגוריתם כזה: לכל קלט האלגוריתם אומר "זה לא הקוד שלך", והוא תמיד צודק כי כאמור, לא יכול להיות שתפיסתו המודעת של אדם ניתנת לתיאור כקוד מכונה. |
|
|
|
|
|
|
||
|
||||
|
חשוב להבין את הלוגיקה של הטענה שלי. ברור שכותב התוכנה יכול לעשות איתה מה שהוא רוצה, ובכלל זה לגרום לה "לחשוב" שהקוד שלה הוא משהו שאיננו באמת הקוד שלה. אבל מה שמעניין איננו עד כמה ניתן להטעות תוכנה אלא להפך, עד כמה ניתן לגרום לה לדעת ולהבין את האמת. אם אתה דואג שלתוכנית יהיה ספק שמא זה איננו הקוד הנכון, פשוט בנה אותה כך שספק זה לא יווצר. גם לבני אדם יש דברים הידועים להם מעבר לכל ספק (כמו "אני קיים" של דקרט, אבל בכלל, כל חוויה סובייקטיבית). "אולי אחת הדרישות לתוכנה תבונית היא שלא תהיה לה גישה לקוד של עצמה" - מדובר בכמה שורות קוד. זה מה שיחסל את התבונה של התוכנה? ואם תתן לבני אדם מכשיר מיוחד המסוגל לקרוא את הקוד המוחי שלהם (כביכול) האם בינתם תסתלק פתאום? לא הבנתי את הפסקה האחרונה שלך. אלי תחזור על טענתך ביתר בהירות? מה הקשר בין הטיעון של פנרוז ל"הוכחה" של דקרט? |
|
|
|
|
|
|
||
|
||||
|
(אני מרגיש שהדיון הזה קרוב למיצוי, אבל בוא ננסה לקדם אותו בכל זאת). 1) אני יכול לבנות תוכנה שלא יווצר אצלה ספק לגבי הקוד שלה. אני יכול גם לבנות תוכנה שמשוכנעת שפילים ורודים קיימים, או ש- 2+2=5. אבל זו לא תוכנה שעומדת בדרישות שלך (למעשה, היא כלל לא שקולה). הדרישה היתה לבנות תוכנה שמסמלצת מתמטיקאי מסוים, או את כל המתמטיקאים. אני לא יכול לבנות תוכנה שגם תקיים דרישה זו וגם לא יווצר אצלה ספק לגבי יכולתה לגשת לקוד של עצמה (כפי שנוצר ספק אצל האנשים אותם היא מסמלצת לגבי העולם שבו הם חיים). זה כלל לא משנה אם הספק הזה מוצדק או לא, מה שמשנה הוא שברגע שלתוכנה נוצר ספק *כלשהו* בנושא, היא לא תוכל לבצע את ההיקש הלוגי המתבקש, משום שהוא דורש ידע ודאי. 2) אני לא חושב שאחת הדרישות ליצור תבוני היא שלא תהיה לו גישה לקוד של עצמו, אבל הצעתי את זה בתור נקודה למחשבה. תן לי לנסח את זה בצורה אחרת: ליצורים התבוניים היחידים שאנו מכירים אין גישה לקוד של עצמם. אולי לא ייתכנו יצורים תבוניים שיש להם גישה כזאת? לא יודע מה יקרה לאנשים שתתן להם מכשיר כזה - אולי בינתם תסתלק פתאום, או אולי הם "סתם" יפסיקו להיות שקולים? אנחנו יודעים שאנשים יכולים להפסיק להיות שקולים (או רציונליים) בעולמנו אנו - למשל בשל פגיעה מוחית הנגרמת ממחלה, תאונה או סמים. שוב - אני לא טוען שזה מה שיקרה (או שבכלל אפשרי להעניק לאדם גישה ל"קוד שלו", או שקיים קוד כזה) - רק הצעתי את זה כנקודה למחשבה. 3) בהוכחה של דקארט הוא מניח שלאלוהים יש את תכונת הקיום, ומכאן מסיק שהוא קיים (אגב - אתה חושב שההוכחה של דקארט תקפה? אם לא אז למה לא?). באותה מידה אפשר להניח שלמפלצת הספגטי המעופפת יש את תכונת הקיום, ולהצטרף למסדר המאמינים (http://www.venganza.org/). לדעתי זה בעייתי. דבר דומה היה בעייתי בדיון שקיימנו: הרי הדיון נסוב על תקפותה של ההוכחה של פנרוז, ולכן (לדעתי) לא ניתן להשתמש בתוצא של ההוכחה בדיון כזה. נכון שלא היה טיעון מעגלי בהוכחה עצמה (גם בהוכחה של דקארט אין), אבל אני הצעתי ניסוי מחשבתי שנועד לתקוף הנחת יסוד של ההוכחה (ש- A יודע לזהות את הקוד שלו), ואתה סתרת אותו באמצעות תוצא של ההוכחה. אני מקווה שהבהרתי יותר את מדוע נוצר אצלי קשר אסוציאטיבי בין הטיעון שלך לבין ההוכחה של דקארט. |
|
|
|
|
|
|
||
|
||||
|
3. זו הוכחה שדיקארט שאל מקודמיו הסכולאסטיים, (היא מיוחסת לאנסלמוס הקדוש). היא נקראת "הראייה האונטולוגית", ומנקודה מסויימת בהתפתחות הפילוסופיה היא החלה להחשב כשגויה באופן יסודי (תרם לכך קאנט). |
|
|
|
|
|
|
||
|
||||
|
1) אני לא מבקש לשלב ידע שגוי בבסיס הנתונים של התוכנה אלא רק ידע *נכון*! כיצד העובדה שלתוכנה יש גישה לקוד שלה, לקוד האמיתי שלה, אמורה לשבש את היותה תבונית או את היותה שקולה? אשר לעניין הספק, כמו שלבני אדם יש דברים בהם אין להם ספק (כמו, למשל, שהם קיימים, או שהם חווים תחושה מסוימת ברגע מסוים) כך אפשר לבנות את התוכנה כך שהיא תהי מודעת באופן בלתי אמצעי לקוד שלה ולפיכך לא תפקפק בו. פשוט דאג בתכנות שלתוכנה לא תהיה יכולת להטיל ספק במה שאינך רוצה שהיא תטיל בו ספק. למעשה, זו הדרך הסטנדרטית להעניק ידע לקוד (האם התוכנה מטילה ספק בכך ש2+2=4?). דווקא תכנות של "ספק" זה החלק הקשה, אם הדבר בכלל אפשרי. 2) היצורים התבוניים היחידים שאנו מכירים מתעטשים לעיתים. האם היכולת להתעטש קשורה לתבוניות? ליצורים התבוניים היחידים שאנו מכירים יש שתים עיניים. האם חייבים להצמיד למחשב התבוני שתי עיניים? בשאלות פילוסופיות צריך להפעיל מעט הגיון בריא ושכל ישר. אני לא מעלה על דעתי סיטואציה בו אדם יקבל CD עם ה"קוד שלו" עליו וכתוצאה מכך מייד תשתבש עליו דעתו. 3) על הכשלים בהוכחה האוטולוגית נכתב כבר הרבה. אני לא חושב שיש כיום מי שמתייחס לה ברצינות. נדמה לי שהכשל המרכזי נובע מהתפיסה שלכל ביטוי לשוני תקין תחבירית יש גם משמעות סמנטית. לביטוי "אובייקט בעל כל התכונות" אין משמעות (האם הוא גם טוב וגם רע, גם שחור וגם ירוק, גם מכיל את עצמו וגם לא מכיל את עצמו?) וגם לא ברור שקיום זה תכונה. כל זה לא קשור בכלל לטיעון של פנרוז שלא מבוסס על שום בניה לשונית. "הצעתי ניסוי מחשבתי שנועד לתקוף הנחת יסוד של ההוכחה (ש- A יודע לזהות את הקוד שלו), ואתה סתרת אותו באמצעות תוצא של ההוכחה" - בעזרת תוצא של ההוכחה? איפה? |
|
|
|
|
|
|
||
|
||||
|
1) נניח שאני מבקש ממך לתכנת תוכנה, ממנה יש לי שתי דרישות: א) ניתן יהיה להזין לה נוסחאות מספריות בפורמט מוסכם והיא תחזיר את התשובה. ב) כאשר נזין לה 2+2 היא תחזיר 5. אולי תגיד לי שזה בלתי אפשרי, כי שתי הדרישות סותרות, אבל לדעתי דרישה ב' היא לא בעייתית כלל - מה הבעייה לבדוק אם הקלט הוא 2+2 ולהחזיר 5? התשובה היא שזה לא בעייתי, רק שהתוכנה הזו לא תקיים את דרישה א', אלא רק "כמעט" תקיים את דרישה א'. באותו אופן, תוכנה ש"דאגתי" שלא יהיה לה ספק במשהו מסוים לא תמדל את המתמטיקאי, אלא אולי "כמעט" תמדל את המתמטיקאי, ולכן ייתכן שאולי המודל לא יהיה שקול. למעשה, די ברור לי שהוא לא יהיה שקול - בעולמנו מי שמוכן לקבל דברים מסוימים כנתונים כנראה יהיה מוכן לקבל הוכחות שגויות. אגב, שים לב שבניגוד לעולמנו, שבו אתה יכול להפריד בין העולם "האמיתי" לבין העולם "המתמטי" (ולכן ייתכנו מתמטיקאים שמחזיקים בהשקפות מנוגדות על העולם אבל מסכימים על הוכחה מתמטית), בעולם שבו אתה בנית ההפרדה הזו לא קיימת (ומה לעשות, זה חלק אינהרנטי מההוכחה). אם בעולמנו היתה הוכחה מתמטית שמתבססת על כך שהעיר תל אביב קיימת (וברור שאין כזו בנמצא, כי בעולמנו יש הפרדה וגו'), אני לא הייתי מקבל אותה. ההפרדה היא לא בין ידע "שגוי" לידע "נכון", אלא בין ידע "שאני מטיל בו ספק" לבין ידע "שאינני מטיל בו ספק". 2) הנקודה למחשבה שהעליתי (במשפט אחד, בסוגריים, לפני כמה תגובות) היא נקודה שולית ולא מרכזית לטעמי. מבחינתי אפשר לעזוב אותה, לא בגלל שאין עוד טיעונים בעדה (אני חושב שיכולת גישה לקוד של עצמך היא קצת יותר פונדמנטליסטית מהיכולת להתעטש, או מקיום שתי עיניים - שאגב יש יצורים תבוניים שיש להם רק אחת או 0), אלא בגלל שהיא באמת צדדית לדעתי. 3) traceback: אתה הבאת את ההוכחה של פנרוז. אני שאלתי כיצד קוד יהיה מודע לכך שהקלט שלו הוא הוא-עצמו (כלומר תקפתי הנחת יסוד של ההוכחה). לאחר דין ודברים נוספים, הבאתי בתור דוגמא לכך שזה אינו מחויב המציאות ניסוי מחשבתי שבו אני נותן *לך* קוד, ושואל אותך כיצד תדע האם זה הקוד "שלך". אתה השבת שתדע שזה בוודאות *איננו* הקוד שלך, "שהרי ההנחה שקוד מסוים מאפיין את תפיסתו המודעת של אדם היא שגויה ומובילה לסתירה". שים לב שלא טענתי שיש כאן טיעון מעגלי בהוכחה *עצמה*. אבל, אני ניסיתי להסביר באמצעות דוגמא מדוע הנחת יסוד של ההוכחה שגויה, ואתה הפרכת את הדוגמא תוך שימוש בהוכחה, ולפי עניות דעתי אסור להשתמש בתוצא של ההוכחה בדיון על תקפות אותה הוכחה עצמה. |
|
|
|
|
|
|
||
|
||||
|
1) גם מתמטיקאים אנושיים לא מטילים ספק בכל דבר. הם לא מטילים ספק בכך שאם סוקרטס יווני ואם היוונים הם בני תמותה אז מכאן נובע בהכרח שסוקרטס הוא בן תמותה. הם לא שואלים את עצמם: אולי האלגוריתם שלי מוטעה והמסקנה לא נובעת מההנחות? גם תוכנה לא יכולה להטיל ספק בכל דבר, או שהיא לא תוכל להגיע לשום מסקנה. נניח שלתוכנה יש ספק בכך שהחישובים הארתימטיים שלה תקפים. אולי 2+2 זה בכלל לא 4 אלא באמת 5? ספק גורף יגרום לתוכנה שלך להשתגע (וגם אדם ישתגע בנסיבות דומות). בהכרח תמיד יהיה לה בסיס נתונים בו היא איננה מסוגלת לפקפק. אינני יכול לחשוב על שום סיבה מדוע אסור להכניס את הגישה לקוד שלה לבסיס הנתונים הזה ולמה זה אמור לפגוע בנאותות (שקילות) שלה או בהיותה בעלת בינה. וחשוב על זה מזווית אחרת. חלק מחוקרי המוח מנסים לגלות את האלגוריתם האנושי. האם אתה מנבא את כשלונם המובטח? האם לדעתך התודעה היא אלגוריתם אבל בהכרח לא ניתן יהיה לחשוף אותו? 3) שאלת איך אני אגיב לטענה שקוד מסויים מקודד אותי ועניתי על השאלה הזו. לא ראיתי איפה פה ניסית "להסביר באמצעות דוגמא מדוע הנחת יסוד של ההוכחה שגויה". איזו הנחת יסוד? אם כבר, אולי ניסית לחשוף אי-קונסיסטנטיות בתוצאותיו של הטיעון והדגמתי לך שכזו איננה קיימת. |
|
|
|
|
|
|
||
|
||||
|
1) באיזה שלב אמרתי שהתוכנה צריכה להטיל ספק בכך שמסקנה נובעת מההנחות? אני מדבר רק על הטלת ספק בהנחות עצמן, עניין קריטי במתמטיקה. אני אסביר יותר בפירוט איפה ממוקמת הקפיצה בהנחות שלך. אתה מניח שיש ברשותך קוד שמסמלץ בן-אדם. אבל בוא נבין בדיוק מה זה אומר. בוא נשים את האצבע על ההנחה המדויקת שלך, מבין האופציות הבאות (ותקן אותי אם אני טועה): א) הקוד שלך משוכנע שהוא דוד כהן מפתח תקווה, וברגע שאתה מפעיל אותו הוא אומר לך שהוא רעב כי הוא לא אכל כלום מהבוקר (כי זה היה מצבו של מר כהן בעת הסריקה). ב) הקוד שלך מודע לזה שהוא העתק מדויק של דוד כהן ולא המקור. למעשה, הוא מתנהג ממש כמו שדוד כהן היה מתנהג אילו היית משכנע אותו שהוא תוכנה המסמלצת את דוד כהן: מודע לכך שהוא לא מקושר לגוף (ולכן תחושותיו הן חלק מהסימלוץ), אבל ללא שום גישה לקוד שלו. ג) הקוד שלך הוא העתק של "החלק המתמטי" של דוד כהן. כלומר - הוא לא יטען שהוא חש רעב, כאב, אהבה, הזדהות וכו', ובוודאי לא יטען שהוא דוד כהן, אבל בהנתן שאלה מתמטית הוא יענה עליה בדיוק כמו דוד כהן. ד) ג', כאשר בנוסף יש לו בסיס נתונים בו הוא אינו מסוגל לפקפק, ואשר כולל בין השאר את הקוד שלו. לפי הטיעונים שהראית במשפט, אתה מניח את א'. אבל, כדי לסתור את הבעייתיות שהצבעתי עליה, אתה פתאום מניח את ד'. כלומר, אתה אומר (ומדלג בקלילות על השלב הקריטי של להוכיח את זה) שגם ד' יתנהג בדיוק כמו א' בהנתן קלט כלשהו. אני טוען שזה לא נכון, ואפילו יש לי דוגמה - בהנתן הקוד של עצמו, א' יקפוץ ויאמר שזה *לא* הקוד של עצמו, כי לא ניתן לסמלץ אדם, ואילו ד' יסכים שזה הקוד של עצמו. ב' ו- ג' לא יוכלו להכריע בסוגיה (אלא אם יש לך אלגוריתם שיעזור להם בעניין). לסיכום: אתה מנסה לאחוז במקל בשני קצותיו, ולהניח שתי הנחות סותרות מבלי שאתה מיישב את הסתירה ביניהן או אפילו מכיר בקיומה. ההנחות הן שהתוכנה שלך מסמלצת באופן מושלם את דוד כהן, אבל מצד שני שיש לה בסיס נתונים שהיא לא מפקפקת בו. לגבי הזווית האחרת: אני לא מנבא את כשלונם המובטח (אתה מנבא את כשלונם המובטח). אני רק טוען שאם יימצא "אלגוריתם אנושי", תהיה לך אחת משתי אפשרויות: או להריץ אותו כמו שהוא (ואז הוא יחשוב שהוא "הדבר האמיתי" ובפרט לא יידע מה האלגוריתם שעומד מאחוריו), או לבצע בו שינויים כמו הוספת בסיס נתונים (ואז לא מובטח לך שהוא יתנהג כמו המקור). 3) הנחת היסוד שניסיתי לחשוף היא זו: לקוד המסמלץ מתמטיקאי אין יכולת לזהות את עצמו (כלומר להכריע בשאלה האם קוד נתון הוא הקוד שלו). זו הנחת יסוד שבלעדיה ההוכחה לא תקפה. נתתי דוגמא לכך שהנחת היסוד הזו שגויה ("אם אתה מקבל קוד - תדע להכריע?"), ואתה ענית תוך שימוש בהוכחה המוגמרת ("לפי פנרוז לא ניתן לסמלץ אדם, ולכן אני יכול להכריע - תמיד אשיב שזהו אינו הקוד שלי"). |
|
|
|
|
|
|
||
|
||||
|
אף פעם לא עסקתי באפשרויות א ו-ב שהעלת. אני מסתפק בבחינת השאלה האם ניתן למדל את ההסקה הלוגית-מתמטית האנושית באמצעות אלגוריתם. אם התשובה לשאלה הזו היא שלילית, אז די ברור שגם לא ניתן למדל אדם שלם, בבחינת קל וחומר. אבל אם אתה חושב שאתה צריך, כדי לבחון את יכולת הפתרון של בעיות מתמטיות, מודל של כל המוח האנושי, אז בבקשה, be my guest. כל מה שאני מתכוון לשאול את התוכנית שלך זה שאלות במתמטיקה. ואפילו לא בכל תחומי המתמטיקה, אלא רק בעניין בעיות עצירה של אלגוריתמים. אם נתת לי את התוכנית שלך, נקרא לה A, אני מתכוון להוסיף לה כמה שורות כך שיתווסף לה ידע בדבר הקוד של עצמה, להפוך אותה ל-A', ולחקור את A' בדבר בעיית העצירה של עצמה. כמו שלוח הכפל יכול להיות בבסיס הנתונים של התוכנה, כך גם הגישה לקוד העצמי. מה הבעייה בכך? כיצד *הוספת* ידע (נכון!) אמורה לפגוע בנאותות של כושר ההסקה של האלגוריתם? גם לדוד כהן מפתח תקווה יש "בסיס נתונים" שהוא משתמש בו להסקה. למשל, הוא מכיר את הכלל שאם A שייך לקבוצת ה-B-ים ואם כל B הוא C, אזי נובע מכך ש-A הוא C. הכלל הזה צריך להיות מקודד איפשהו. גם זו "הנחה" לצורך הדיון ולכאורה ניתן היה להטיל בה ספק. בפועל איננו מטילים ספק בהנחות לגבי הכללים המותרים להסקה לוגית. גם בחוויות סובייקטיבית איננו מטילים ספק. אם אני חווה כאב, למשל, אז אני לא מטיל ספק בכך שאני חווה כאב. יש לנו "בסיס נתונים" גדול שהכישורים המנטליים שלנו מבוססים עליו, והוא נמצא מעבר למה שניתן לפקפק בו. דווקא מהבחינה הזו דומה ההכרה האנושי לזו הממוחשבת. אם ימצא ה"אלגוריתם האנושי" הרי נובע שאתה יכול להכיר את האלגוריתם של עצמך. עם תריץ אותו כמו שהוא, גם הוא יכיר את עצמו (שהרי הוא אתה, ואתה כבר מכיר את האלגוריתם שלך). אני לא רואה איך אתה נחלץ מהמילכוד הזה. לטענה בדבר הבעייתיות שבהכרת הקוד העצמי עניתי באופן בלתי תלוי ב*שימוש* בהוכחה של פנרוז. השתמשתי במשפט רק כדי לענות על השאלה כיצד אני אגיב אם יוצג לי הקוד שלי. שאלה זו איננה עירעור על הנחת יסוד במשפט אלא תסריט שנועד לחשוף חוסר עקביות, כביכול, בתוצאתו. התשובה שלי הדגימה שהקונסיסטנטיות נשמרת. |
|
|
|
|
|
|
||
|
||||
|
טוב, כמה דברים: 1) כשאני חווה כאב, אני לא מטיל ספק בכך ש*אני חושב שכואב לי*. אני כן מטיל ספק בכך ש*כואב לי*, כלומר שהכסא שנתקעתי בו עם הזרת אכן קיים (באופן היפוטתי - למעשה אני מקלל ובועט בכסא). הטלת הספק הזאת לא מפריעה לי בהוכחה של משפטים מתמטיים, כי הכסא הוא לא חלק מהמשפטים האלו. אבל הטלת הספק הזאת כן תפריע לתוכנה שלך. 2) אתה מדבר על "הוספת ידע נכון לבסיס הנתונים", כאשר "בסיס הנתונים" כולל דברים שאיני מטיל בהם ספק, כמו כללי היסק לוגיים. אז בוא נשנה את המינוח: אתה רוצה שמערכת האקסיומות שבמסגרתה האלגוריתם פועל תכיל את האקסיומות המתמטיות שבמסגרתן אני פועל, בתוספת אקסיומה נוספת - שהקוד שלו הוא כך וכך. ברגע שזה מוגדר כך - אין לי כבר בעיה עם זה. כל עוד זה לא מוגדר כך - אני לא מבין כיצד האלגוריתם יוכל להשתמש בידע זה. כלומר - הקוד שלך יסיק בדיוק את מה שאני הייתי מסיק בהנתן מערכת האקסיומות שלו - שהיא כאמור מערכת האקסיומות ה"רגילה" ועוד האקסיומה הנ"ל. עכשיו רק תסביר לי למה במערכת האקסיומות הנ"ל אני שקול. 3) אני רוצה להבהיר משהו נוסף: אני לא אומר אם אני חושב שמה שפנרוז מנסה לטעון הוא נכון או לא, וזה גם לא רלוונטי. למשל, אני משוכנע לחלוטין שהשערת גולדבך נכונה, ובכל זאת לא אקבל הוכחה שגויה למשפט. לכן אין טעם לשאול אותי האם לדעתי חוקרי המח ייכשלו, או האם אני מאמין שכל הישויות התבוניות מסוגלות להתעטש. זה פשוט לא רלוונטי לשאלה האם ההוכחה של פנרוז תקפה או לא. אם תרצה נוכל לדון בשאלה האם אנו מאמינים שמה שהוא מנסה להוכיח נכון או לא. 4) לגבי השימוש בהוכחה של פנרוז: זו כבר האיטרציה השלישית שאנחנו מדברים על זה, ובכל פעם אתה פשוט מתעלם ממה שאני אומר ועונה על משהו אחר. אני אנסה שוב: אני לא מדבר על חוסר עקביות בתוצאת המשפט, ולא על כך שהמשפט הוא מעגלי. אני טוען שיש במשפט הנחת יסוד שגויה, והיא שהאלגוריתם "מכיר את עצמו". הטענה הזאת עומדת בפני עצמה, אבל ניסיתי להדגיש את העובדה שהנחת היסוד שגויה בעזרת שאלה - כיצד תזהה את הקוד של עצמך. גם אם היית עונה לי על השאלה לשביעות רצוני הטענה בדבר חוסר עקביות היתה עומדת בעינה, כי השאלה היא רק דוגמה שבאה להמחיש את הטענה. קל וחומר כשאתה עונה לי תוך שימוש במשפט (או בניסוח שלך - "השתמשתי במשפט רק כדי לענות על השאלה"). אבל אני בכלל מערער על המשפט, אז למה אתה חושב שתשובתך (שמשתמשת במשפט) תספק אותי? |
|
|
|
|
|
|
||
|
||||
|
(תגובה זו לא נכתבה מהמחשב הרגיל שלי, ורק עכשיו שמתי לב שהשם שמופיע בה אינו השם שאני מגיב בו. זו כמובן תגובה שלי). | |
|
|
|
|
|
||
|
||||
|
מה בדיוק ההבדל בין "אני חושב שכואב לי" ו"כואב לי"? אתה אולי מטיל ספק שבאמת נתקעת בכסא, אבל איך אתה יכול להטיל ספק בכאב? | |
|
|
|
|
|
||
|
||||
|
אולי הניסוח לא מתאים. הכוונה היא שאני לא יודע אם תחושת הכאב היא אמיתית או מדומה. | |
|
|
|
|
|
||
|
||||
|
אבל זה בדיוק העניין: אין דבר כזה תחושת כאב "מדומה". גם תחושת כאב שהיא לחלוטין תוצר של תהליכיים במוח (אם הדבר אפשרי), כלומר ללא אינפוט מתאי עצב כלשהם, היא עדיין תחושת כאב. כל מידע חוץ מהתחושה אינו רלוונטי - לכן ההפרדה בין נואמנה לפנומנה. | |
|
|
|
|
|
||
|
||||
|
זה לא בדיוק העניין. כלומר, אתה צודק לחלוטין, אבל הדיון פה הוא לא על הנושא שאתה מעלה. את הטלת הספק בתחושת הכאב נתתי כדוגמה לכך ש''קוד אנושי'' יפקפק בידע שהוזרק לו למסדר הנתונים. אפשר לתת לקוד ''ידע'' כזה ברמת התחושה (כלומר הוא ''יחוש'' שהידע אמיתי, כמו שאני ''חש'' כאב), אבל עדיין הוא יפקפק בידע, כפי שאני מפקפק בתחושת הכאב (במובן שיש לה סימוכין ''בעולם האמיתי''). | |
|
|
|
|
|
||
|
||||
|
1) כבר הקדימו אותי והתייחסו לנקודה זו, אבל אוסיף: אינך יכול להטיל ספק בכאב אלא רק בגורמים לו. אתה יכול לפקפק בקיומו של הכיסא בו נתקעה הרגל שלך. אבל אתה לא מפקפק בכך שכואב לך. גם היכולת להוכיח משפטים מתמטיים תלויה בכך שאנו מקבלים את כללי ההסקה הלוגית *מבלי להטיל בהם ספק*. תוכנה שתדע להסיק משפטים בהכרח תצטרך לקבל כללים אלו כאמת וודאית. 2) אולי אפשר להסתכל על בסיס הידע של האלגוריתם כעל מערכת אקסיומטית, ואז הידע שלו מהו הקוד של עצמו מהווה אקסיומה נוספת. אם המערכת האקסיומטית המקורית היא קונסיסטנטית (שזה חיוני על מנת שהאלגוריתם יהיה שקול) הוספת ידע הידוע כנכון בעולם האמיתי לא יכולה לקלקל את הקונסיסטנטיות הזו, ולפיכך אמורה להותיר את האלגוריתם שקול. 3) הטיעון של פנרוז איננו הסיבה היחידה שאינני מאמין בחישוביות של התודעה, אבל הדיון הזה התגלגל איכשהו רק לטיעון הזה. בכל אופן, לדעתי מדובר בטיעון תקף, וניסיתי להסביר מדוע הביקורת עליו איננה נכונה. כל העניין של חשיבות העיטוש לתבונה צמח כתגובה לביקורת לפיה, כביכול, צריך ליצור סימולציה של אדם שלם, על כל מאפייניו, על מנת לדון ביכולת המתמטית שלו. אגב, למה אתה משוכנע שהשערת גולדבך נכונה? לי ממש אין מושג אם היא נכונה או לא. 4) בוא נעזוב את העניין. עניתי להשגותיך בהרחבה גם בלי להשתמש בתוצאות המשפט. |
|
|
|
|
|
|
||
|
||||
|
כל הטיעון של פנרוז מתבסס על כך שאנחנו מוכנים לקבל ש"משהו" מסוים הוא נכון. בהתחלה חשבתי שאותו "משהו" הוא: 1) מתמטיקאי אנושי הוא שקול. חלק מהחולקים עליך חלקו על הטיעון הזה כשלעצמו. אני הסכמתי לקבל אותו, אבל בהמשך הבנתי שאותו "משהו" שאנו מניחים שהוא נכון הוא: 2) תוכנה שמסמלצת מתמטיקאי אנושי יכולה להכיר את הקוד של עצמה (יכולת שאין למתמטיקאי המקורי) ועדיין להיות שקולה. הטיעון הזה הוא קודם כל שונה מהטיעון הראשון, אבל בנוסף אני לא מקבל אותו (למי שמקבל אותו לא אמורה להיות בעיה עם ההוכחה שלך), ואני אסביר לך למה: אני חושב על קוד שמסמלץ אותי כמו על "העתק זהה למקור" של המח שלי, ש"מחובר" לאמצעי קלט\פלט אחרים. כלומר, אני חושב על זה כאילו אני עצמי אתעורר יום אחד, ובמקום החושים הרגילים שלי יהיו לי "חושים" אחרים, שיאפשרו לי לתקשר עם העולם. "בתוספת של כמה שורות קוד" אפשר לדאוג לזה שאני אוכל לחשב מליארדי חישובים בשניה, ולעשות זאת במשך 213 שעות רצוף מבלי להתעייף אפילו במעט, או לשוט ברשת לאורכה ולרוחבה. אפשר לדבר על יכולות נוספות מעולם המחשבים כמובן. בנוסף, "בתוספת של כמה שורות קוד" אפשר לדאוג לכך שאני "אחוש" את הקוד שלי, כמו שכיום אני חש את הגוף שלי. אותה תוכנה מופלאה עדיין תהיה "אני", ולכן אני מקבל שהיא תהיה שקולה. אבל מרגע שזה מגיע להוכחות מתמטיות, כשאני מדמיין את עצמי בתור הקוד הזה - אני לא אהיה מוכן לסמוך על התחושות שלי (מסיבות שדשנו בהן די והותר), ולכן לא אדע בוודאות מהו "הקוד שלי". אם אכן קיימת אפשרות לשנות את הקוד כך שהוא כן יהיה מוכן לקבל את "תחושת הקוד" כוודאית, זה כבר לא יהיה "אני", זה יהיה "משהו אחר", ואני לא מוכן לחתום שאותו "משהו אחר" יהיה שקול. אתה יכול להתיחס לזה כך: כללי הסקה לוגית קיימים אצלי, ולכן אהיה מוכן לקבל את קיומם בתוכנה זהה לי. "תחושת קוד" - לא. אני יכול להקביל אותה ל"תחושת כאב", אבל אז אני (כלומר הקוד) לא יסכים להתבסס עליה במשפט מתמטי, כפי שאני לא הייתי מוכן להתבסס על תחושת הכאב שלי במשפט מתמטי (אילו זה היה רלוונטי בכלל). לגבי השערת גולדבך: יש לי אינטואיציה מסוימת לגבי תכונות של מספרים ראשוניים\אידיאלים ראשוניים בשדות מספרים, שמבוססת על קורסים שלמדתי והוכחות שראיתי. דל ומועט הידע שלי בנושא, אולם ממה שאני יודע, כל משפט שהוכח על צפיפות הראשוניים או על חלקות של מספרים טבעיים הראה התנהגות "פסאודו אקראית" של הראשוניים (כלומר הם מתנהגים מהרבה בחינות כאילו לכל מספר הוגרל ביט שאומר אם הוא ראשוני או לא, והביט הוגרל באופן בלתי תלוי בין מספרים שונים, ובסיכוי הולך וקטן ככל שהמספר גדל). בהנתן שבדקו את השערת גולדבך עד איזה כמה טריליונים (אולי יותר), הסיכוי (ע"ס התפלגות זאת) שההשערה לא נכונה הוא בערך 0 (כמובן שאין באמת משמעות למשפט "הסיכוי שההשערה נכונה" - או שהיא נכונה או שלא). אז זו לא הוכחה מתמטית (אם היתה לי לא הייתי שומר אותה לעצמי), אבל זה בהחלט מספיק עבורי כדי להאמין שההשערה נכונה (אגב, בתחום הזה קל מאד לנסח השערות שהן די בוודאות נכונות, אבל שמאד קשה להוכיח אותן. השערות בדבר הנורמליות מספרים טרנסצנדנטיים כמו pi^13 שייכות גם הן למחלקה זו). המתמטיקאים שביניכם מוזמנים להוסיף\לתקן. |
|
|
|
|
|
|
||
|
||||
|
נבדק עד 18^10 (נכון לאפריל ש"ז, עפ"י ויקי). | |
|
|
|
|
|
||
|
||||
|
אני לא יכול לחשוב על דוגמה בה מודעות לכאב עוזרת לך להוכיח משפטים מתמטיים, אבל מודעות לתקפות של שיקולים לוגיים בהחלט עוזרת לך להוכיח משפטים מתמטיים. אז מה דעתך על אותו אלגוריתם דימיוני המודע באופן וודאי לקוד שלו באותו אופן בו הוא מודע לכללי הכפל והאלגברה הבולאנית? אם תניח לו לפקפק בתחושתו לגבי זהות הקוד שלו, כיצד תמנע ממנו לפקפק בשאר כישורי ההסקה שלו? ואם הוא איננו מסוגל לבטוח בחשיבה של עצמו, כיצד הוא אמור להגיע למסקנות כלשהן? ----- לגבי השערת גולדבאך: אם הבנתי אותך נכון, בודקים את השערת גולדבאך עד למספר N גבוה כלשהו, ועבור המספרים הזוגיים הגבוהים מ-N סוכמים עד לאינסוף על ההסתברות שכל אחד איננו מקיים את ההשערה בהסתמך על הנוסחה להתפלגות הראשוניים, ובודקים שהתוצאה מתכנסת למספר נמוך מאוד. אני צודק? כמובן, זה לא מוכיח שום דבר. הנוסחה להתפלגות הראשוניים היא קירוב. היא בוודאי לא מביאה בחשבון כל מני קורלציות מורכבות שעשויות להשפיע על התוצאה. למשל, שיקול דומה אפשר היה להפעיל לגבי הטענה שמספר אי זוגי ניתן להבעה כסכום מספרים ראשוניים. בפועל, אנו יודעים שאת רוב האי זוגיים לא ניתן להביע כך. אם היית מקבל בחישוב המקורב שההסתברות לאי קיום השערת גולדבאך היא גדולה, אז הייתה סיבה טובה לחשוד בה. אבל ההפך לא ממש נכון. האינטואיציה שלנו אומרת שאם כלל מספרי פשוט מתקיים עד למספר טבעי גבוה אזי סביר להניח שהוא מתקיים לכל מספר שהוא. לא ברור לי עד כמה האינטואיציה הזו תקפה. אולי אפשר לנסות להוכיח (או לפחות לנסח) משפט הקושר בין כמות האינפורמציה הדרושה לתאר טענה מתמטית בתורת המספרים, טווח המספרים הטבעיים עבורו היא נבדקה וההסתברות לכך שהיא תקפה לכל מספר. נשמע לי נושא מחקר מעניין במטא-מתמטיקה. |
|
|
|
|
|
|
||
|
||||
|
לצורך ההוכחה אתה מבקש מהקוראים לקבל טענה מסוימת, היא טענה 2 בתגובה הקודמת שלי. מי שלא מקבל את הטענה לא יקבל את המשפט. אני הסברתי לך למה אני מוכן לקבל את טענה 1 ולא מוכן לקבל את טענה 2. לא יעזור לך לדבר על "אלגוריתם המודע באופן וודאי לקוד שלו באותו אופן בו הוא מודע לכללי הכפל והאלגברה הבולאנית", כי אני מקבל את טענה 1 על סמך זה שאני יכול "לחשוב על עצמי" בתור אלגוריתם כזה (ומכיוון שאני מוכן לקבל שאני שקול, אני מוכן לקבל שהאלגוריתם שקול), ואת האלגוריתם מטענה 2 איני מזהה בתור עצמי. למעשה, כדי לשכנע אותי לקבל את טענה 2 עליך להראות לי כיצד היית גורם למתמטיקאי אנושי לקבל "באופן ודאי" את העובדה שקוד מסוים (לא חשוב איזה) הוא "הקוד שלו". אז הייתי משתכנע שאתה מסוגל לייצר אלגוריתם "זהה למתמטיקאי" שמקבל עובדה זו. השערת גולדבך: לא טענתי שזו הוכחה, וממילא אין טעם לחפש מה פגום בה. אם זו היתה הוכחה, הייתי מפרסם אותה, ולא בתגובה ב"אייל". מה שניסיתי לתת זו אינטואיציה, שאיתה אתה יכול להסכים או לא. אגב, האינטואיציה שלי לא אומרת לי שכל מספר איזוגי הוא סכום של שני ראשוניים, אבל כדי להסביר למה צריך לעדן את הטענה שטענתי קודם לגבי ההתפלגות (למשל, לדבר על ההתפלגות בסדרה חשבונית, שתלויה בשאלה האם הקפיצה זרה לאיבר הראשון או לא. אם לא - למשל בסדרת המספרים הזוגיים - אז בוודאי שאין בסדרה אינסוף ראשוניים). לגבי הפסקה האחרונה שלך: אם אתה מתכוון למשפט שיתיחס להסתברות הנכונות של כלל מספרי מסוים, אז אין טעם בכך - או שהכלל נכון לכל הטבעיים או שלא. אתה יכול לדבר על משפט מהסוג הזה: אם יש לי T כללים מספריים בעלי אנטרופיה נתונה (גם את זה צריך להגדיר) שנכונים עד ל- N נתון, אז pT מתוכם יהיו נכונים לכל n טבעי. אין בעיה לקבוע מה צריך להיות p מבחינת האינטואיציה שלנו, אבל אני לא רואה איך אפשר לגשת להוכחה כזאת. |
|
|
|
|
|
|
||
|
||||
|
לעניות דעתי, ההוכחה של פנרוז/ספיר בהחלט לא דורשת מאיתנו לקבל שיש תוכנה שמסמלצת מתמטיקאי [ומזהה את הקוד של עצמה]. היא אומרת "נניח *בשלילה* שיש תוכנה כזו [ומזהה...]". אם אין, אז פנרוז וספיר ניצחו. נכון שמה שהם באמת צריכים כהנחה-בשלילה זה בלי החלק שבסוגריים; ספיר מוסיף אותו כשלב הבא בהוכחה. עכשיו אפשר לטעון, כפי שרבים עשו כאן, שתוספת כזו מקלקלת את מה שלפניה, או לא אפשרית, אבל זה דיון נפרד (ובלי לתרום לו כלום, אציין שבנקודה זו הצד של ספיר הניח את דעתי [הענייה, כאמור] הרבה יותר). | |
|
|
|
|
|
||
|
||||
|
אני חולק עליך: אני חושב שאתה מסכים איתי. המסקנה מההוכחה היא שההנחה בשלילה לא היתה נכונה. אני טוען שההנחה בשלילה היא ההנחה עם הסוגריים, ולכן הוכח שלא קיימת תוכנה המסמלצת מתמטיקאי שקול וגם מזהה את הקוד של עצמה(*). מכאן לא נובע שאין תוכנה שמסמלצת מתמטיקאי שקול. אם אתה מסכים עם הכתוב בפסקה לעיל (ולפי דבריך נראה שאתה מסכים), הרי שאתה מצדד בצד שלי בדיון. אם, כמו ספיר, גם אתה חושב שאין הבדל בין ההנחות (כי הוספת ידע נכון לתוכנה לא מחבלת בשקילותה), אז דעתך אכן נחה מטיעוניו של ספיר. אני הסברתי מדוע אני חושב שיש הבדל בין ההנחות(**), ועדיין לא נתקלתי בטיעון שישכנע אותי ההיפך. (*) זו היתה כוונתי במשפט "פנרוז דורש מאיתנו לקבל...". במילים אחרות, מי שלא חושב למשל שמתמטיקאי הוא שקול ישתכנע אולי מההוכחה, אבל לא יסיק מכך שאין תוכנה שמסמלצת מתמטקאי. כנ"ל לגבי מי שחושב כמוני שההנחה עם הסוגריים אינה זהה להנחה בלי הסוגריים - כלומר המשפט נכון, רק שהוא אינו מוכיח שאין תוכנה המסמלצת מתמטקאי. (**) שוב, בקצרה: אני השתכנעתי ש"אני שקול" => "תוכנה המסמלצת אותי תהיה שקולה". מרגע שעושים שינוי בקוד, קל ככל שיהיה, הגרירה לא מתקיימת. אני אף הסכמתי ששינויים בקוד שמותירים על כנם את תחושתי ש"התוכנה זה אני" לא יחבלו בגרירה, אבל מרגע שהשינוי בקוד (קל ככל שיהיה, "נכון" ככל שיהיה) משנה את זה, אני כבר לא מסכים שהגרירה מתקיימת. |
|
|
|
|
|
|
||
|
||||
|
תגובה 149399 | |
|
|
|
|
|
||
|
||||
|
אם לא הובנתי כראוי, הנה ניסוח מחודש: רבים חולקים על כך שפנרוז באמת הוכיח את טענתו. דוגמא אחת לביקורת אפשר למצוא כאן : <הלינק ההוא>. לעצם העניין, אני מניח את הויכוח לאחרים שמוכשרים יותר ממני לעסוק בו. נפנופי הידיים שלי לא ממש נחוצים במקום יש מאוררים. |
|
|
|
|
|
|
||
|
||||
|
שאלה עוקפת: קראת את GEB; בוודאי אתה יכול לזהות שהטיעון הזה של פנרוז הוא וריאציה ברורה על הטיעון של לוקאס12, שהופשטטר מתמודד איתו בספר. מה דעתך בנוגע לטיעון של לוקאס ולטיעוני הנגד של הופשטטר? 1מחשב, לצרכינו, הוא שפה פורמלית; לכל שפה פורמלית יש טענה שלא ניתנת להוכחה בה, אך היא נכונה (גֶדֶל); אנו האנשים יכולים לראות שהטענה נכונה; מכאן, אנו האנשים נבונים אינהרנטית יותר מכל מחשב. 2ואולי אפילו פנרוז נתן קרדיט כזה בעצמו? |
|
|
|
|
|
|
||
|
||||
|
את GEB קראתי מאוד מזמן, עוד לפני שהכרתי את הטיעון של פנרוז (ולוקאס), כך שאני לא זוכר מספיק טוב את הנימוקים של הופשטטר על מנת להתמודד איתם ברצינות (אז הסכמתי עם התזה החישובית). בכל אופן, פנרוז עצמו חזר פחות או יותר על הטיעון של לוקאס בספרו הראשון בנושא "The emperor's new mind". אבל בעקבות הביקורת שהועלתה כנגד הטיעון הזה הוא פיתח את הטיעון שלו, שלא מסתמך על גדל. אני חושב שגם הטיעון המקורי של לוקאס נכון, אבל אני הייתי מסתכל עליו קצת אחרת. מה שגדל ואחרים הראו זה ששום שפה פורמלית איננה שלמה, כלומר לכל שפה פורמלית תמיד יהיו הוכחות שלא יהיה ניתן לנסח בה. אבל את כל ההוכחות (בהגדרה) ניתן לנסח בשפה טבעית. משום כך שפה טבעית איננה יכולה להיות שקולה לשום שפה פורמלית. בני אדם מבינים שפה טבעית ואילו מחשבים יכולים להבין רק שפה פורמלית. ועל כן מותר האדם מהמחשב. |
|
|
|
|
|
|
||
|
||||
|
"מה שגדל ואחרים הראו זה ששום שפה פורמלית איננה שלמה, כלומר לכל שפה פורמלית תמיד יהיו הוכחות שלא יהיה ניתן לנסח בה." מצטער, אבל זה לא נכון. זה אפילו לא מוגדר היטב. "אבל את כל ההוכחות (בהגדרה) ניתן לנסח בשפה טבעית." איך אפשר "בהגדרה" לטעון משהו על דבר כל כך נזיל כמו "שפה טבעית"? "מחשבים יכולים להבין רק שפה פורמלית." זאת מנין? אם אתה מתעניין, אתה מוזמן לעיין בדיון 2396. הספר של פרנזן המוזכר שם מכיל דיון יסודי מאוד (יסודי מדי, לדעתי) בטיעוניו של פנרוז. |
|
|
|
|
|
|
||
|
||||
|
"מצטער, אבל זה לא נכון. זה אפילו לא מוגדר היטב" - אינני יודע מה כוונתך ב"מוגדר היטב". דברי מוגדרים מספיק טוב כדי שירון, שהגיב להם מתחתיך, יבין אותם. דיון באייל זה לא בטאון מתמטי אקדמי, ואפשר להציג בו טענות, אפילו בנושאים מדעיים או מתמטיים, מבלי להכנס לז'ארגון טכני. ומה בדיוק לא נכון? קח שפה פורמלית. בנה את טענת-גדל עבורה. זו טענה אמיתית שלא ניתן להגיע אליה מהאקסיומות וכללי ההסק של אותה שפה פורמלית. מספיק מוגדר ונכון בשבילך? "איך אפשר 'בהגדרה' לטעון משהו על דבר כל כך נזיל כמו 'שפה טבעית'?" - האם טענתך היא שאי אפשר לטעון שום דבר על שפה טבעית? ומה בדבר הטענה ש"אי אפשר לטעון שום דבר על שפה טבעית"? האם גם זו טענה שאי אפשר לטעון בשפה טבעית? חוץ מזה, הטענה נגעה למושג "הוכחה". כל מילון מלא בטענות לגבי מושגים בשפות טבעיות, וגם אני חטאתי בכך. ואני עדיין טוען שהוכחה זה משהו שניתן לנסח בשפה טבעית (כלומר, שפה שבני אנוש מסוגלים, לפחות באופן תיאורטי גם אם לא מעשי, להבין). "הוכחות" שנהירות רק למלאכי השרת זה לא חלק מהמתמטיקה. אני חוזר בי מטענתי שמחשבים יכולים להבין רק שפות פורמליות. אפילו שפות פורמליות אין הם יכולים להבין. מה שכן, הם מסוגלים לעבד רק שפה פורמלית או משהו שעבר "פורמליזציה" - תרגום לשורת כללים חישוביים-טכנים. אם אתה טוען שמחשב מבין עברית, בהכרח אתה טוען שאפשר לבצע פורמליזציה של עברית. אני מודה לך על ההפנייה לפרנזן. לצערי, הדיונים שאני מכיר, ואפילו ה"יסודיים" שבהם, בטיעוניו של פנרוז, כאשר הם מגיעים מקהילת ה"תבונה" החישובית, נוקטים בשיטה הנפוצה של יריית החץ ושרטוט המטרה סביבו. אני מכיר את טענות הנגד. לדעתי הן שגויות, והשגיאות האלו הן לרוב פילוסופיות, לאו דווקא מתמטיות. |
|
|
|
|
|
|
||
|
||||
|
אתה מנסה לטעון משהו על הפער בין מחשבים ואנשים. הצגת סדרה של טענות: "שפות פורמליות לוקות ב-X", "שפות טבעיות אינן לוקות ב-X". "אנשים מבינים שפות טבעיות, מחשבים מבינים רק שפות פורמליות" (אח"כ חזרת בך וטענת שמחשבים לא יכולים להבין כלום, רק לעבד. אם כך, הטענה שאנשים אינם מחשבים ברורה מראש, ובשביל מה צריך את גדל?) זה ש"ירדן הבין אותך" לא פוטר אותך מהצורך לדייק במילותיך כשאתה מציג טיעון שכזה. מערכות פורמליות החשופות למשפט גדל, אפשר לרשום עבורן טענות שאינן ניתנות לגזירה או להפרכה באופן פורמלי מן האקסיומות וכללי ההיסק. יש פה לא רק "שפה" - יש כאן אקסיומות, כללי גזירה, ועוד כל מיני דברים שאינם רלוונטיים ל"שפה טבעית". אתה משתמש ב"שפה" במובנים שונים. אנשים מדיינים בשפה טבעית, נכון. אבל אתה באמת סבור שאתה, או מישהו אחר, יודע להוכיח שכל טענה מתמטית ניתנת להוכחה ב"שפה טבעית"? מאילו אקסיומות? עם אילו כללי גזירה? משפטי גדל (ודומיו) לא שואלים האם ניתן *לנסח* הוכחה כלשהי במסגרת השפה, הם שואלים האם אפשר *להוכיח* כל טענה או את שלילתה. אתה טוען שב"שפה טבעית" זה ניתן? כלומר, אתה טוען שלמרות שב-PA לא ניתן להוכיח את השערת גולדבך (נניח), אתה כבר יודע שבשפה טבעית כן אפשר? איך אתה יודע זאת? איך ניתן בכלל לדעת דבר כזה? ולבסוף, אם אתה יוצא מתוך הנחה שמחשבים אינם יכולים "להבין", רק "לעבד", הרי לך טיעון קצרצר שהתודעה האנושית אינה חישובית: אנשים מבינים, מחשבים לא, וחסל. אין כל צורך בגדל, פנרוז וכו'. אבל איך אתה יודע זאת? "אם אתה טוען שמחשב מבין עברית, בהכרח אתה טוען שאפשר לבצע פורמליזציה של עברית" - לא מניה ולא מקצתיה. אני מדמיין מחשב המסוגל להקשיב, לזכור וללמוד, ומפתח לעצמו יכולות תקשורת בדיוק כמו ילד. למה הוא צריך "פורמליזציה"? אתה טוען כנראה שמחשב כזה לא ייתכן - טוב ויפה, אבל זה טיעון חזק הדורש נימוק. צר לי שהתנסית בדיונים לא מספקים בטיעוניו של פנרוז. אם זו סיבה מספיק טובה עבורך לא לקרוא את פרנזן, אז אל תקרא. |
|
|
|
|
|
|
||
|
||||
|
>אני מדמיין מחשב המסוגל להקשיב, לזכור וללמוד, ומפתח לעצמו יכולות תקשורת בדיוק כמו ילד. למה הוא צריך "פורמליזציה"? אני מניח שהטענה היא שכל מחשב הוא מערכת פורמלית (במובן מסוים) ולכן מחשב ש"מבין עברית" מוכיח בפרט שניתן לבצע "פורמליזציה של עברית" (מה זה?). |
|
|
|
|
|
|
||
|
||||
|
כיוון ש''מבין עברית'' הוא מונח לא פורמלי, ה''ולכן'' הזה לא ברור לי כלל וכלל. ייתכן שגם ''הבנת העברית'' של בני-אדם היא, בסופו של דבר, תוצא של אינספור פעולות פורמליות קטנות (נניח, בנוירונים). אולי כן ואולי לא - בכל אופן, ה''נימוק'' שמחשב לא יכול להבין עברית כי אי-אפשר לעשות לה ''פורמליזציה'' איננו נימוק, הוא משאלת-לב. | |
|
|
|
|
|
||
|
||||
|
מוסכם. מה עם <תגובה אתה-יודע-איזו>? |
|
|
|
|
|
|
||
|
||||
|
שאלה: האם Deep Blue מבין שחמט? לדעתי הפרטית בהחלט כן, בכל מובן של "מבין" שאני מעלה על דעתי, וזאת למרות שככל הנראה הוא מבין אותו אחרת ממני. | |
|
|
|
|
|
||
|
||||
|
או קי, אני חושב שאני צריך להבהיר מה כוונתי במושג "שפה טבעית". לצורך דיון זה, שפה טבעית היא כל סוג תקשורת שבני אדם מסוגלים להבין. לא צריך להתייחס למלה "טבעית" באופן מילולי מדי. גם הוכחה מתמטית, כל הוכחה מתמטית, כתובה ב"שפה טבעית" מבחינתי משום שמתמטיקאים מסוגלים להבין אותה. לא אכפת לי בכמה סימונים והגדרות מורכבות משתמשים בהוכחה, אם מתמטיקאי אחד כותב אותה והשני קורא אותה ויכול להשתכנע בנכונותה, הרי השפה בה היא כתובה היא טבעית דיה בשבילי. למעשה, גם שפה פורמלית היא טבעית, משום שאפשר לעקוב ולהווכח שהמשפטים אכן נובעים מהאקסיומות וכללי הגזירה, אבל בהסתייגות אחת: ה"טבעיות" שלה היא פונקציה של הפרשנות שאנו נותנים לה כמתארת תורה מתמטית. היא איננה שפה טבעית ללא הפרשנות הזאת. "שואלים האם אפשר *להוכיח* כל טענה או את שלילתה. אתה טוען שב'שפה טבעית' זה ניתן?" - אינני טוען זאת כלל. אני טוען שבשפה טבעית ניתן להוכיח כל טענה מתמטית שניתן להוכיח בשפה פורמלית כלשהי (או תחת מערכת אקסיומטית וכללי גזירה כלשהם). זו טענה טריוויאלית לאור הכתוב בפסקה הקודמת. "אתה יוצא מתוך הנחה שמחשבים אינם יכולים 'להבין', רק 'לעבד"' - אני לא חושב שיש מי שחולק על כך שפעולתם של מחשבים היא עיבוד מידע. ואני לא מניח שמחשבים אינם מבינים אלא טוען זאת, וניסיתי להציג מספר נימוקים לטענה זו בדיון זה. אבל מכיוון שטרם נתקלתי בהסבר או דוגמה כיצד שורה של אופרציות לוגיות על ביטים שקולה להבנה של משהו, נדמה לי שעיקר נטל ההוכחה מונח על כתפי מי שדוגל בתזה החישובית. "אני מדמיין מחשב המסוגל להקשיב, לזכור וללמוד, ומפתח לעצמו יכולות תקשורת בדיוק כמו ילד. " - דימיון זה דבר נחמד אבל ממש לא מספיק. אני, למשל, מדמיין מכונה המפיקה אנרגיה יש מאין, או אבן ההופכת עופרת לזהב. בכל אופן, אפילו אם אפשר, עקרונית, לפתח תוכנה המתנהגת כאילו היא מקשיבה, זוכרת ולומדת, הרי התנהגות איננה מעידה על תודעה או עולם פנימי. בובה בוכה איננה עצובה וחייל וירטואלי הנפגע מכדור וירטואלי במשחק יריות וירטואלי איננו מרגיש שום כאב. "למה הוא צריך פורמליזציה?" - גם אם זה לא נעשה מפורשות על ידי המתכנת, הרי על מנת שתוכנה תבין עברית, כל השפה צריכה להיות מקודדת באופן חישובי בזכרון המחשב. זה נכון גם לתוכנה "לומדת", אלא שאז איסוף המידע נעשה באינטראקציה עם המשתמש ולא אפריורית. אני משאיר למתמטיקאים קטנוניים להוכיח שכל קידוד חישובי של השפה שקול לפורמליזציה שלה. אישית, אינני מאמין שמחשבים (קלאסיים, אלגוריתמיים) יצליחו לעמוד אפילו במבחן הביהיוויוריסטי. תוכנת "בינה" מלאכותית מתוחכמת אולי תצליח להוליך שולל חלק מאנשים כל הזמן ואת כל האנשים חלק מהזמן, אבל היא לא תצליח להוליך שולל את כל האנשים כל הזמן. למעשה, אם אפגוש תוכנה המתחזה למתמטיקאי אשאל אותה האם היא עוצרת על עצמה. מעניין מה תהיה התגובה. |
|
|
|
|
|
|
||
|
||||
|
תוכנה כזאת בודאי תענה את אותה תשובה שמתמטיקאי יענה. לכן, אם זה מעניין אותך, אתה יכול לשאול את השאלה הזאת מתמטיקאי. ד"ר עמית: האם אתה עוצר על עצמך? |
|
|
|
|
|
|
||
|
||||
|
מתמטיקאי יענה שהוא לא יודע משום שהוא לא מכיר את האלגוריתם של עצמו. | |
|
|
|
|
|
||
|
||||
|
אז זה ודאי מה שתוכנה תענה לך. | |
|
|
|
|
|
||
|
||||
|
אבל לתוכנה יש אפשרות פשוטה לגשת לזיכרון המחשב ולהכיר את האלגוריתם של עצמה. אני אבקש ממנה לעשות אנליזה לבעיית העצירה של האלגוריתם הזה. | |
|
|
|
|
|
||
|
||||
|
לרוב התוכנות אין את האפשרות הזאת (נסה לגשת לזיכרון של המחשב ממעבד התמלילים שלך למשל), ואין סיבה שדווקא למכונת טיורינג תהיה אפשרות כזאת. | |
|
|
|
|
|
||
|
||||
|
נדמה לי שהוא מתכוון לכך שעבור מחשב, בניגוד לעבור אדם, קל להציג למכונת טיורינג תדפיס, תוך השמעת המשפט "הנה, זה קוד המקור שלך" בנימה מזלזלת במידה ההולמת. השאלה היא, כמובן, כיצד יוכל אדם להתמודד עם תדפיס של מפת החיוט של הניורונים במוחו, פלוס מאפיינים מיוחדים של כל ניורון (זה יורה תמיד, זה דורש קלט בקצב מסוים כדי לירות בקצב אחר, וכו'). כשמניחים את התדפיס המתאים לרגלי האדם, המשפט המתאים אינו "זה קוד המקור שלך" אלא, כמובן, "זהירות על הרגל": מדובר במאה מיליארד ניורונים. |
|
|
|
|
|
|
||
|
||||
|
או קיי. תן לד"ר עמית 500,000 שורות קוד של תוכנה שאמורה להיות מכונת טיורינג, תגיד לו שזה הקוד שלו, ותשאל אותו אם הוא עוצר על עצמו... | |
|
|
|
|
|
||
|
||||
|
אם ד''ר עמית הוא מתמטיקאי מוצלח, הוא יסיק מכך שהוא יכול לפתור את בעיית העצירה העצמית של הקוד, שזה איננו הקוד שלו כלל. | |
|
|
|
|
|
||
|
||||
|
יסיק ממה? מזה שנתת לו את קוד כלשהו? | |
|
|
|
|
|
||
|
||||
|
לא. על פי המשפט המתמטי של פנרוז שהצגתי בתגובה 460917, אם A אלגוריתם שקול (קרי, "מתמטיקאי מוצלח") אז הוא לא מסוגל להכריע בבעיית העצירה של עצמו על עצמו (ניסוח מדוייק יותר מופיע בתגובה הנ"ל). אם ד"ר עמית יודע שהוא מתמטיקאי מוצלח, מכיר את המשפט של פנרוז, ומצליח להכריע בבעיית העצירה של אלגוריתם מסויים, הוא יסיק מכך שזה איננו יכול להיות הקוד שלו, אחרת תתקבל סתירה. | |
|
|
|
|
|
||
|
||||
|
בו נשאל את זה ככה: תקח מתמטיקאי מוצלח כלשהו (A), תן לו קוד ארוך מאד (B). תטען בפניו שזה הקוד שלו (D), ותשאל אותו האם הוא עוצר עליו. האם אתה טוען ש: 1. הוא יקרא את הקוד, ויצליח להוכיח ש-D לא נכון. 2. הוא יצליח למצוא תשובה מוצלחת כלשהיא. 3. הוא יתפוצץ. 4. הוא ירביץ לך. (כל זמן שאתה טוען את טענה 1. תכפיל את אורך הקוד פי 2, ותחזור לשאלה). (אם אתה טוען את טענה 2, תסביר לי למה זה מעניין) |
|
|
|
|
|
|
||
|
||||
|
לא הבנתי את 1. מה פירוש "D לא נכון"? D הוא קוד, לא טענה. המתמטיקאי המוצלח יטען ש: 5. "אני מתמטיקאי מוצלח! זה לא הקוד שלי!" |
|
|
|
|
|
|
||
|
||||
|
D היא טענה, לא קוד ("תטען בפניו שזה הקוד שלו") B זה הקוד. האם הוא יטען "זה לא הקוד שלי" בלי קשר לקוד שתביא לו? |
|
|
|
|
|
|
||
|
||||
|
כן. | |
|
|
|
|
|
||
|
||||
|
אז, אני לא יודע למה זה מעניין, אבל זאת התשובה שתקבל מכל מחשב שיעבור את מבחן טיוינג. | |
|
|
|
|
|
||
|
||||
|
אם המחשב ישיב ''זה לא הקוד שלי'' כאשר אציג לו את הקוד שלו, סימן שהוא מגיע למסקנות שגויות ולפיכך איננו מתמטיקאי מוצלח. אין לי בעייה עם חוסר-בינה מלאכותי. פיתוח כזה בהחלט אפשרי, גם אם נטול תועלת. | |
|
|
|
|
|
||
|
||||
|
אמרת שמתמטיקאי ישיב "זה לא הקוד שלי" *בלי קשר לקוד*. אז למה אתה קורא לזה "מסקנה"? | |
|
|
|
|
|
||
|
||||
|
זו מסקנה ממשפט פנרוז. ההנחה שזה הקוד שלו מובילה לסתירה: בגלל שהוא יודע שהוא מתמטיקאי מוצלח, הוא מסיק שהקוד שקול, ולפיכך הוא יודע לפתור את בעיית העצירה שלו. מצד שני, לפי אותו משפט, הקוד "שלו" לא מסוגל להכריע בבעיית העצירה הזו. | |
|
|
|
|
|
||
|
||||
|
אז המחשב לא ''הגיע למסקנה שגויה'', הוא דווקא הגיע למסקנה נכונה (מהעובדות הידועות לו). | |
|
|
|
|
|
||
|
||||
|
אם המחשב מכריז "זה לא הקוד שלי" כאשר זה *כן* הקוד שלו, אז הוא הגיע למסקנה שגויה ולא יעזור כלום. | |
|
|
|
|
|
||
|
||||
|
אם אתה רוצה לדרוש מיצור תבוני/מודע להיות כל-יודע, בני אדם אינם תבוניים/מודעים. | |
|
|
|
|
|
||
|
||||
|
(ואתה תסלח לי בבקשה על ההתערבות הפתאומית במידה והיא לא כל כך אקטואלית לדיון הנוכחי שאתה מנהל - כמו שכבר אמרתי, נמאס לי מהדיון, והפסקתי לעקוב אחריו. אבל התפתתי לקרוא את ההודעה הקצרה האחרונה שלך ולהגיב עליה.) | |
|
|
|
|
|
||
|
||||
|
אתה חוזר על אותו צמד שגיאות יסודי: א. אף אחד לא טוען שמחשב תבוני לא יגיע למסקנות שגויות. ב. מעטים מאוד טוענים שאנשים תבוניים לא מגיעים למסקנות שגויות (כן, גם מתמתיקאים). רוב אלה שטוענים זאת, מנסים לנופף זאת כהבדל בין אדם למחשב, אבל זה לא דבר הגיוני לעשות, בהנתן א'. כמו שכבר אמרו כאן, הדיון הזה מתחיל לחזור על עצמו. נדמה לי שאני פורש. |
|
|
|
|
|
|
||
|
||||
|
נניח לרגע שייתכן מחשב תבוני שלמרות שיטעה במתמטיקה יוכל לנהל שיחה אינטיליגנטית על שירה ותיאטרון. אבל אני עסקתי פה בתבונה *מתמטית* וממנה אני בהחלט דורש לא להפיק שטויות. מתמטיקאים אולי יטעו מפאת חוסר סבלנות, איבוד ריכוז או עייפות. לתוכנה אין בעיות כאלו ואין שום סיבה שהיא תטעה. האם אתה תולה ברצינות את היכולת התבונית של תוכנה כזאת בטעויות שלה? זה אבסורד גמור! | |
|
|
|
|
|
||
|
||||
|
אבל... אבל... אני (ואנשי הבינה המלאכותית ברובם) *לא* דיברתי על "תבונה מתמטית", whatever that means. מטרת מחקר הבינה המלאכותית ליצור בינה *כמו-אנושית*, על כל היתרונות שבכך (בפרט, תודעה) אבל גם על כל החסרונות שבכך (בפרט, חוסר סבלנות, איבוד ריכוז או עייפות). האם ייתכן שהתודעה האנושית נובעת מכך שהמוח האנושי אינו מערכת פורמלית "שקולה"? אולי, איני יודע. אבל אם התשובה חיובית, הרי שגם תוכנה בעלת תודעה לא תהיה "שקולה". מה זה אומר? שהיא תוכל להיות בטוחה שהוכיחה משהו, אולי אפילו משהו מתמטי, והיא בעצם טועה? כן. זה קורה גם לבני-אדם. אם אתה מנסה לטעון שלא תתכן מערכת מחשב מודעת + חפה מטעויות ("תבונה מתמטית"), אולי אתה צודק; אין לי מושג. אבל האתגר של strong AI הוא מערכת *מודעת*, נקודה. אף אחד לא מנסה ליצור משהו טוב יותר מתבונה אנושית באופן איכותני (באופן כמותני, כן: אבל זה סיפור אחר). |
|
|
|
|
|
|
||
|
||||
|
אם אין אפשרות ליצור בינה מתמטית ממוחשבת, איזו סיבה יש להאמין שניתן ליצור בינה ממוחשבת מסוג אחר? אחרי הכל, חשיבה מתמטית נראית משהו הרבה יותר טבעי לתוכנה מאשר שיחה על פוליטיקה. חוסר סבלנות, עייפות וכו' הם תכונות של הפיזיולוגיה האנושית שלא נראות קשורות בשום צורה לקיום מודעות או חשיבה לוגית. אתה מאמין ברצינות שצריך לגרום לתוכנה "להתעייף" כדי שתוכל לדון איתה על מתמטיקה (או היסטוריה עתיקה)? מה הקשר? כאמור, טעויות הסקה "סליקות", כלומר כאלו שניתן לאתר בחשיבה סבלנית המפרקת את הטיעון לרכיביו האלמנטריים והטריויאליים ביותר אינן רלוונטיות. לתוכנה אפשר להקנות סבלנות אינסופית. מאידך, אם יש בהסקה המתמטית טעויות מהותיות הרי זה מחריב כל אפשרות לחשיבה הגיונית בכלל, כולל בדיון זה וכולל בכל דיון בכל עניין בעולם. ההנחה שהחשיבה הלוגית האנושית בתנאים אידאליים היא נטולת פגמים עומדת ביסוד כל שיח וכל טענה שאנו מעזים להגות. בלי זה אין כלום. |
|
|
|
|
|
|
||
|
||||
|
איננו יודעים אילו מאפיינים של המוח האנושי הם תנאים הכרחיים לתודעה. איזו סיבה יש להאמין? בינה מודעת לא-מתמטית *קיימת*, בינה מודעת "מתמטית" לא קיימת; המחקר מנסה לחקות את הקיים. די פשוט. חוסר סבלנות בהחלט יכול להיות מאפיין של המוח/התודעה. עייפות עשויה להיות מנטלית ולא רק פיזית. וכן הלאה. |
|
|
|
|
|
|
||
|
||||
|
בקיצור, אתה מאמין שלמרות שלא ניתן לפתח תוכנה שתצליח להבין משפט מתמטי פשוט, אפשר לפתח כזו שתבין מחזה של שייקספיר. ושחוסר סבלנות הוא מרכיב הכרחי של תודעה (שהרי אנשים סבלניים הם זומבים). נו, בסדר. עם אמונה דתית אני לא מסוגל להתווכח. אגב, ''לחקות את הקיים'' זה לבנות מוח ביולוגי על בסיס נויירונים. הדבר האחרון שאנשי ה''בינה'' המלאכותית עושים זה לחקות את הקיים. |
|
|
|
|
|
|
||
|
||||
|
נראה שאתה משוכנע שהוכחת (או שפנרוז הוכיח) שתוכנה לא יכולה "להבין משפט מתמטי פשוט". תוכל להציג, בתגובה אחת מסודרת, את ההוכחה הזו? תוכל להדגיש מהו הדבר שפנרוז (או מישהו אחר) הוכיח שמחשב לעולם לא יוכל לעשות, ואילו אנשים עושים? אגב, אם לדבר הזה יש איזושהי נגיעה למבנים אינסופיים, יידרש ממך להוכיח שלתודעות אנושיות יש איזושהי הבנה מובנית של האינסוף. אם אתה מסכים עם הטענה (שלי נראית מובנת מאליה) שלבני אדם יש יכולת "להבין", "לדעת" או "לראות" רק מבנים סופיים, אנא הסבר מדוע משפטי גדל/טיורינג/צ'ייטין/פנרוז רלוונטיים כאן בכלל, שהרי כל אחד מהמשפטים הללו נהיה לא נכון (באופן טריוויאלי) אם מצטמצמים למבנים סופיים, גדולים ככל שיהיו. אם אתה סבור שהתודעה האנושית היא נאותה (התרגום המקובל ל-sound) במובן פורמלי הקשור לזיהוי עצירה של מכונות טיורינג, הייתי מבקש שתאמר בדיוק מהו המובן הזה, ולמה אתה חושב שלאנשים יש תכונת-הנאותות הזו. תודה מראש. |
|
|
|
|
|
|
||
|
||||
|
כבר הצגתי בתגובה 460917 סיכום מקוצר של הטיעון של פנרוז. תוצאת הטיעון הזה היא, אם לצטט את פנרוז, ש: "Human mathematicians are not using a knowably sound algorithm in order to ascertain mathematical truth." לדעתי אין שום דרך להתחמק מהמסקנה הזו. היא מוכחת מתמטית. ממנה נגזרות שלוש אפשרויות:1) שהסקה מתמטית של מתמטיקאים איננה נאותה. 2) שהסקה מתמטית של מתמטיקאים איננה *ידועה* כנאותה. 3) שהסקה מתמטית של מתמטיקאים איננה מבוססת על אלגוריתם. [הנאותות של ההסקה המתמטית היא היכולת שלא להגיע למסקנות שגויות מתוך הנחות נכונות. בהקשר למשפט של פנרוז, האלגוריתם A הממדל חשיבה מתמטית מוגדל כ"נאות" אם הוא לעולם לא נותן תשובה שגויה לבעיית אי-העצירה של אלגוריתם קלט B והקלט שלו C, כלומר (A(B,C עוצר אך ורק במקרים (אבל לא בכל המקרים, כמובן) בהם (B(C איננו עוצר.] דחייה של האפשרות הראשונה היא הכרחית משום שבלעדיה אין מתמטיקה ואין הגיון ולא ניתן להסיק שום דבר על שום דבר. שים לב שהכוונה פה היא להסקה מתמטית אידאלית, ללא הפרעות, מתוך סבלנות וזמן בלתי מוגבלים, ותוך פירוק כל טיעון לשורת הסקות אלמנטריות. אם לא ניתן לסמוך על הסקה מתמטית המבוססת על שיקולים אלמנטריים בתנאים אידאליים אז אפשר לזרוק את כל המתמטיקה לפח. דחייה של האפשרות השניה מבוססת על הבנת המשמעות של שיקול לוגי, שהיא בדיוק מה שמייחד מערכת מודעת מאלגוריתם. כאשר מתמטיקאי מבצע שיקול הוא לא רק מבצע חישוב מכני אלא הוא מבצע פעולה מחשבתית שהוא יודע שהיא *נכונה*. זו המודעות העצמית (הלולאה המוזרה של הופשטטר?) לערך האמת של הסקה. נותרנו עם האפשרות השלישית... "יידרש ממך להוכיח שלתודעות אנושיות יש איזושהי הבנה מובנית של האינסוף" - אני לא רואה מה זה קשור לעניין, אבל אני בהחלט סבור שיש לבני אדם הבנה של האינסוף. עובדה, מתמטיקאים עוסקים באינסופים כל הזמן. האם הם אינם מבינים מה הם עושים? |
|
|
|
|
|
|
||
|
||||
|
אני דווקא בוחר ב-ב'. כנראה משום שאני צנוע יותר ממך באשר ל"ידיעה" שלי שפעולה מחשבתית היא *נכונה*. אני פשוט יודע מנסיוני שתחושת הבטן של "זה נכון" - גם לגבי צעדים לוגיים פשוטים - משתנה עם השנים. לטעמי, תחושת האמיתות המלווה להסקה לוגית כלשהי, נובעת מנסיוננו האישי (ומאלפי דורות שהתנסו לפנינו). יכול להיות שבעקבות (הרבה מאוד) צעדים לוגיים פשוטים, ובהסתמך על אקסיומות פשטוטת וברורות מאליהן, נגיע לסתירה. כל עוד הסתירה לא מתגשמת בשיקולים כמו "כיוון שהפרי אדום הוא יהיה מתוק" היא לא מפריעה לחיינו ולא משפיעה על התפתחות מוחותינו ועל תחושת הידיעה הנוצרת בתוכם. | |
|
|
|
|
|
||
|
||||
|
בסדר, הבה נתחיל מהטיעון של פנרוז אותו הצגת בתגובה ההיא - התיאור שלך לא מובן לי. אני מצטט פסקה מתוכו: "הנח (בשלילה) שקיים אלגוריתם בעל היכולת המתמטית של מתמטיקאי אנושי, או, בעצם, של כל הקהילה המתמטית (זה לא הבדל עקרוני). מכיוון שהוא איננו נתון למגבלות של עייפות, חוסר ריכוז וכדומה, ניתן להניח שהוא לא יעשה טעויות בהסקה לוגית אלמנטרית, כלומר שהוא שקול. כעת, אם אותו אלגוריתם מקבל את התיאור, A, של עצמו, הוא יסיק ממנו, על סמך המשפט של פנרוז, שהאלגוריתם D איננו עוצר (סעיף 1). מאידך מסעיף 2 נובע שאלגוריתם A איננו מסוגל להכריע בבעיית העצירה של D. וזו סתירה." התחלת מההנחה שקיים אלגוריתם בעל היכולת המתמטית של מתמטיקאי אנושי. באיזו תכונה של האלגוריתם הזה אתה משתמש בהמשך? עד כמה שאני רואה, רק בתכונה אחת - שהוא "נאות" (מה שאתה קורא שם "שקול"), במובן שהגדרת: לעולם לא יעצור כשמבקשים ממנו להכריע אם מכונת טיורינג מסויימת שעוצרת על קלט מסויים, והיא באמת עוצרת. בהמשך אתה מגיע לסתירה. מכאן שאין שום אלגוריתם נאות, נכון? שוב: אנו מניחים בשלילה שקיים אלגוריתם מחקה-אנוש; נובע שהוא נאות; וזה מוביל לסתירה. אני מציע להשתמש רק בחלק השני של התיאור שלך: נניח בשלילה שקיים אלגוריתם נאות; סתירה. אבל אתה עצמך ציינת שיש הרבה אלגוריתמים נאותים (עפ"י ההגדרה הזו); למשל, אלגוריתם שאינו עוצר לעולם. אז איך ניתן לגזור סתירה מתוך ההנחה שיש אלגוריתם כזה? אם כך, או שהטיעון שגוי לגמרי, או שאתה מניח עוד משהו לגבי היכולת של מתמטיקאים אנושיים, והעוד-משהו הזה הוא-הוא שמתנגש עם משפט טיורינג. אז זה מחזיר אותי לשאלה ששאלתי כבר כמה פעמים: מה הדבר הזה? מה יודעים מתמטיקאים אנושיים לעשות שמשפט טיורינג אוסר על מחשבים לעשות? זה חייב להיות משהו *פונקציונלי* - אל תאמר "מתמטיקאים אנושיים *מבינים* ומחשבים רק מבצעים חישוב מכני", שכן זו הנחת המבוקש. |
|
|
|
|
|
|
||
|
||||
|
הסתירה שמגיעים אליה נובעת מהנחה שהאלגוריתם מודע לנאותות של עצמו ומסתמך עליה כדי להגיע למסקנה בבעיית העצירה. גם אם כל השיקולים שהאלגוריתם מפעיל כדי להכריע בבעיית העצירה הם נאותים, ברגע שהוא משתמש בעובדה שהם נאותים הוא מבצע שיקול שאיננו נאות. אינך יכול לבנות אלגוריתם נאות שיוכל להסיק שהוא נאות. מאידך, בני אדם מודעים לנאותות השיקולים הלוגיים-מתמטיים שהם עושים, ולא, לא היו אלו שיקולים בכלל אלא פעולות מכניות חסרות משמעות לוגית. זה לב העניין. ואת המודעות הזו, כפי שמוכיח המשפט של פנרוז, אי אפשר לממש באמצעים חישוביים. אתה צריך איזה אורקל שיגיד לאלגוריתם המוחי שהחישוב שהוא מבצע מהווה פעולה תקפה מבחינה לוגית, משום שאין לו שום דרך להסיק זאת בעצמו. |
|
|
|
|
|
|
||
|
||||
|
"את המודעות הזו, כפי שמוכיח המשפט של פנרוז, אי אפשר לממש באמצעים חישוביים." איזה משפט של פנרוז? זה שאת הוכחתו תמצתת בתגובה 460917? אפשר, שוב, לבקש ממך להציג את תוכן הטיעון ואת הוכחתו באופן מסודר? הצגת הוכחה, הראיתי לך שהיא שגויה, אז אתה משיב "הסתירה שמגיעים אליה נובעת מ..." - איך היא נובעת מכך? איך אפשר להפיק סתירה על "מודעות" מתכונות *פונקציונליות* של אלגוריתמים? אני אנסה להסביר - שוב - היכן אני רואה כאן קושי מהותי: כל המשפטים הנאים והמדוייקים על אלגוריתמים (של טיורינג וכו') דנים בתכונות פונקציונליות, חיצוניות של האלגוריתמים הנדונים: האלגוריתם הזה עוצר על הקלט הזה, ההוא לא עוצר, וכו'. הם אינם אומרים - ואינם יכולים לומר - שום דבר על "עולמם הפנימי" של האלגוריתמים האלה: איך הוא מרגיש? מה הוא מבין? מה הוא חושב? אח"כ מגיע השלב בו מנסים לעמת את התכונות הללו עם משהו שאנו יודעים על בני-אדם. אם כך, גם על בני-אדם אנו צריכים לומר משהו פונקציונלי - נניח, שאנשים יודעים לזהות ללא טעות עצירה של מכונות-טיורינג. זו אמירה חזקה מאוד שאיננה נוגעת לעולמו הפנימי של בעל-התודעה אלא למה שהוא מסוגל *לעשות*, ואת זה באמת אפשר לעמת עם מה שידוע לנו על אלגוריתמים. מובן שטענה זו אינה נכונה. אז: 1. האם אתה טוען טענה אמפירית על יכולותיהם של אנשים, טענה החורגת ממגבלותיהם המוכחות של אלגוריתמים? אם כן, מהי? 2. האם אתה טוען, לחליפין, שאפשר להוכיח משהו על עולמם הפנימי של מחשבים? איך? עד כה, בסוף כל הטיעונים שלך ישבה התיזה "אנשים מבינים, מחשבים מבצעים פעולות מכניות חסרות משמעות". זו תיזה מצויינת, אבל היא אינה *נובעת* משום משפט של פנרוז שהצגת עד כה. אתה יכול להציג כאן את הטיעון, או שאנחנו מתבקשים להמשיך ולהאמין שפנרוז הצליח לעשות משהו הנשגב מבינתנו (וחלקנו סבורים שהוא בלתי-אפשרי - למרות שקראנו בשקידה בספריו ומאמריו של האיש)? |
|
|
|
|
|
|
||
|
||||
|
אני מוכן להסתפק (בינתיים) בתגובה על תגובה 461851. | |
|
|
|
|
|
||
|
||||
|
ההוכחה של פנרוז, שוב: משפט: יהי (A(B,C אלגוריתם בשני קלטים*. A יכונה נאות אם מתקיים (A(B,C עוצר => (B(C איננו עוצר. נסמן ב-D את אלגוריתם האלכסון של A (בקלט אחד): (D(B)= A(B,B. אזי, אם A נאות, בהכרח: 1) (D(D אינו עוצר. 2) (A(D,D אינו עוצר. הוכחה: יהי A נאות, ו-D אלגוריתם האלכסון שלו. נניח בשלילה ש-(D(D עוצר. על פי הגדרת D, מכאן נובע ש-(A(D,D עוצר. כיוון ש-A נאות, נקבל בהכרח ש-(D(D עוצר. זו סתירה להנחת השלילה, ולפיכך (D(D אינו עוצר. מכאן, תוצאה 2 מתקבלת מהגדרת D. מ.ש.ל *למעשה, זה ניסוח רשלני. מה שצריך לעשות זה להשתמש ברשימה מספרית של האלגוריתמים המקבלים קלט מספרי יחיד (זו קבוצה בת מניה) כך ש-A יקבל כקלט שני מספרים טבעיים המייצגים אלגוריתם מהקבוצה הזו ואת הקלט שלו. זה פרט טכני שאיננו משנה דבר בהוכחה. האם יש מחלוקת על המשפט המתמטי? בהנחה שלא, אמשיך למסקנות. מהמשפט נובע שלא קיים אלגוריתם נאות המסוגל להסיק עבור האלגוריתם שלו עצמו שהוא נאות. מדוע? משום שאם A יוכל להסיק זאת עבור A (עצמו), הוא יסיק שאלגוריתם האלכסון D איננו עוצר על עצמו, כתוצאה מסעיף 1 במשפט, ולפיכך (A(D,D יעצור, בסתירה לסעיף 2. עד כאן מתמטיקה. עכשיו טיעון פילוסופי: בני אדם,ובפרט מתמטיקאים, יודעים שהשיקולים הלוגיים והמתמטיים שלהם נאותים. זו, בעצם, משמעות המושג "מודעות" בהקשר זה של חשיבה אנליטית. מהמשפט של פנרוז נובע שלא ניתן לחקות מודעות זו בתהליך חישובי. לו היית יכול למצוא תהליך חישובי המסוגל "לדעת" שהוא מבצע פעולות נאותות מבחינה לוגית, היית יכול לבנות ממנו אלגוריתם A הסותר את תוצאת המשפט. "האם אתה טוען טענה אמפירית על יכולותיהם של אנשים, טענה החורגת ממגבלותיהם המוכחות של אלגוריתמים? " - אני טוען שאנשים יודעים שהשיקולים הלוגיים שהם מבצעים הם שיקולים תקפים, ידיעה שאין לה מקבילה חישובית. התוצאה האמפירית של טיעון זה היא שכל מערכת חישובית שתנסה לחקות את החשיבה הלוגית-מתמטית האנושית תכשל מתישהו. |
|
|
|
|
|
|
||
|
||||
|
"מהמשפט נובע שלא קיים אלגוריתם נאות המסוגל להסיק עבור האלגוריתם שלו עצמו שהוא נאות." מה פירוש "אלגוריתם המסיק עבור אלגוריתם אחר שהוא נאות"? אני מניח שכוונתך לאלגוריתם X המקבל כקלט (תיאור של) אלגוריתם אחר A, ואם A נאות אז הוא עוצר ואומר "כן". שים לב ש-X הוא אלגוריתם עם קלט אחד, ולכן אין משמעות לשאלה אם X עצמו נאות - הגדרת נאותות רק עבור אלגוריתמים עם שני קלטים. זה לא נורא, אפשר לתקן זאת בכל מיני דרכים, רק כדאי לשים לב שלאלגוריתם X יש משימה אחרת לגמרי מזה שהטלת על אלגוריתמים נאותים - הוא אמור לזהות נאותות, בעוד שהם אמורים לזהות עצירה (באופן המוזר שהם לא עוצרים כשהם מזהים אותה). עכשיו מכל הלהטוט הזה נובע שאלגוריתם X שכזה, אם הוא נאות, אז הוא לא עוצר על עצמו (ובפרט נכשל בזיהוי עצמו כאלגוריתם נאות). נו, בסדר. אז מה? הבעייה היא שהגדרת ה"נאותות" הזו שעליה נשען כל הטיעון הזה היא מאוד מלאכותית, ואין לה קשר כלשהו ל"ביצוע שיקולים לוגיים ומתמטיים נכונים". כמה דוגמאות: * קח אלגוריתם פשוט היודע להוכיח משפטים בתורה מתמטית מעניינת כלשהי, נניח ZFC. הוא מבצע שיקולים לוגיים ומתמטיים נכונים (ואפילו מוכיח שלל מסקנות מעניינות מאוד). האם הוא "נאות" במובן שלך? כלל לא - הוא לא מתיימר בכלל לזהות עצירה, וסביר מאוד שאם תתן לו שני קלטים כנ"ל הוא יעצור מיד עם הודעת שגיאה או משהו. האם הוא "יודע שהוא נאות"? לא אם מפרשים "נאות" במובן שלך - וטוב שכך, כי הוא באמת לא נאות במובן זה! האם הוא "יודע שהוא מבצע שיקולים לוגיים ומתמטיים נכונים"? בדוגמה הזו, כנראה שגם לא, אבל זה לא נובע בשום דרך ממשפט פנרוז. * קח אותי. אני סבור שאני יודע לבצע שיקולים מתמטיים נכונים. האם אני "נאות" במובן שתיארת? ודאי שלא - אין לי שום אפשרות לזהות נכונה מכונות B העוצרות עם קלט C, ובטח שאין לי אפשרות לדווח על זיהויים שכאלה ע"י אי-עצירה. האם אני "יודע שאני נאות"? שוב, לא במובן שלך - וטוב שכך, כי אני לא - וכן במובן של "יודע שהלוגיקה שלי בסדר, בדרך-כלל". * קח אלגוריתם שאינו עוצר לעולם. הוא "נאות" במובן שלך. האם הוא "שיקולים לוגיים ומתמטיים נכונים"? לא, הוא לא מבצע שיקולים לוגיים ומתמטיים בכלל. "בני אדם,ובפרט מתמטיקאים, יודעים שהשיקולים הלוגיים והמתמטיים שלהם נאותים." - במובן אחר לגמרי של "נאותים". כל מה שהמשפט המתמטי מראה הוא שאלגוריתם A בעל תכונות מסויימות אינו עוצר על קלט מסויים. השימוש הכפול שאתה עושה במילה "נאות" - פעם אחת בהגדרה טכנית, ופעם אחת בתיאור כללי של "ביצוע שיקולים נכונים" - יוצר בלבול. אין קשר בין השניים: נניח שאני יודע שהשיקולים הלוגיים שאני מפעיל הם תקינים; זה הופך אותי לאלגוריתם נאות במובן הטכני ההוא? אני יודע לזהות מכונות עוצרות? (לא). אני מביע את ידיעתי זו ע"י "אי-עצירה"? (גם לא). יש כאן עוד בעיות, עדינות יותר אבל לא פחות חמורות. העשייה המתמטית של אנשים, יכולתם להוכיח משפטים שונים, "לחשוב לוגית-מתמטית" - העשייה הזו לא נסמכת רק על "שיקולים לוגיים", היא נסמכת גם (כפי שהיטבנו לגלות במאה שעברה) על *אקסיומות*, הנחות ראשוניות שונות. האם אנשים יודעים שהאקסיומות המתמטיות איתן עובדים הן "תקפות"? שאינן מובילות לסתירה? איש לא יודע זאת. לכן שאלתי אותך לפני כמה תגובות על האינסוף. כל עוד עוסקים במבנים סופיים, גם אנשים וגם מכונות יכולים בקלות לוודא עקביות, שלמות ונאותות (במובן הרגיל של לוגיקה מתמטית!). ברגע שעוסקים במבנים אינסופיים, מה אז? איש אינו יודע אם ZFC עקבית - ואם היא לא, היא ודאי לא נאותה (למשל, אפשר אז להוכיח באמצעותה ש-0 שווה ל-1). איש אינו *יודע* שאקסיומת האינדוקציה "תקפה". יש לנו אינטואיציה (סופית!) מסויימת שהיא כן, ועל-כן עובדים איתה בשמחה ומקווים לטוב. אבל אין שום סיבה להניח שאלגוריתם לא יכול לרכוש את האינטואיציה הזו באותה מידה של הצלחה, ולשקול את אותם שיקולים כבני-אדם, ולקוות לטוב. גם מסיבה זו, הטענה הנחרצת "אנשים יודעים שהשיקולים הלוגיים שהם מבצעים הם שיקולים תקפים" היא רעועה מאוד. סיבה נוספת, אם דרושות עוד: אפילו לגבי השיקולים יש ויכוחים; אינטואיציוניסטים לא מוכנים לקבל את כלל "השלישי הנמנע", כלי פופולרי מאוד אצל רוב בני-האדם. הארכתי יתר על-המידה. אם לומר כל זאת בקצרה, אתה מתחיל מטענה מאוד מלאכותית על אלגוריתם שהכרחת אותו להיות "בלתי-עוצר במצבים מסויימים" ואז מגלה בשמחה שהוא לא עוצר על עצמו, ומנסה להשליך מכך על חוסר היכולת של תהליכים חישוביים "לחקות מודעות". זו, פשוט, קפיצה חסרת כל-הצדקה. |
|
|
|
|
|
|
||
|
||||
|
לא הארכת יתר על המידה. תודה. | |
|
|
|
|
|
||
|
||||
|
ראשית הערה כללית. פנרוז מקדיש כמחצית מספרו "Shadows of the mind" לדיון מפורט בטיעון שהצגתי. אינני יכול, מטבע הדברים, לחזור פה על כל הכתוב בספר. משום כך אני מדלג על לא מעט פרטים שנראים לי טכניים או צדדיים ומשתמש בניסוחים אינטואיטיביים ולא מדוייקים די הצורך. מי שרוצה להתעמק בפרטי הפרטים הטכניים של הטיעון מוזמן לעיין בספר. אני מסתפק ב-highlights. את האלגוריתם X ההיפותטי המזהה נאותות של אלגוריתם אחר ניתן לשלב כחלק מאלגוריתם A, כך ש-(A(B,B יוכל לבחון באמצעותו האם A (הוא עצמו) הוא אלגוריתם נאות, ואם כן, להשוות את B לאלגוריתם האלכסון D של A, ואם B=D לעצור. זאת תהווה סתירה לנאותות של A, ומכאן נסיק שלא קיים X המזהה נאותות של אלגוריתם ש-X מהווה חלק ממנו. ומה הקשר בין ה"נאותות" כפי שהגדרתי לנאותות של חשיבה מתמטית? חשוב על התחום המתמטי של חקירת עצירה של אלגוריתם. בעיה בתחום זה מספקת אלגוריתם B וקלט C ושואלת האם (B(C יעצור. אלגוריתם A' שיודע להסיק מסקנות נכונות בתחום זה יכול להחזיר 3 תשובות אפשריות: "עוצר", "לא עוצר" ו-"לא יודע". כעת, בנה מאלגוריתם זה אלגוריתם A בו הפלט "עוצר" והפלט "לא יודע" יופנו ללולאה אינסופית. A הוא נאות במובן של משפט פנרוז אם ורק אם A' נאות במובן המקובל בלוגיקה. לא ממש אכפת לי ש-A' האמור מטפל בתחום מתמטי צר, בגלל שאם חשיבה אלגוריתמית בתחום זה איננה מגיעה ליכולות אנושיות, קל וחומר בכלל המתמטיקה, אבל מעניין לשים לב שתחום גדול של בעיות (רבות מהן מאוד לא טריוויאליות) בתורת המספרים שקולות לבעיות עצירה. למשל, אני יכול לקחת אלגוריתם העובר על המספרים הטבעיים הזוגיים הגדולים מ-2 ונעצר רק כאשר הוא מוצא כזה שאיננו סכום של שני מספרים ראשוניים. האם אלגוריתם זה יעצור? מכל אלגוריתם נאות שממדל חשיבה מתמטית עבור בעיות שכאלו בתורת המספרים אפשר ליצור אלגוריתם נאות A בתנאי המשפט של פנרוז. ומה לגביך? אפשר לשאול האם אתה עושה שימוש באיזשהו אלגוריתם מוחי נאות על מנת להגיע למסקנות כאשר אתה חושב באופן מודע על בעיות כמו השערת גולדבאך בתורת המספרים. אם קיים אלגוריתם כזה, קח אותו ובנה ממנו את האלגוריתם A. המודעות העצמית המקודדת באותו אלגוריתם מאפשרת לו לבחון את ההסקות שהוא מבצע ולוודא את תקפותן. לפיכך הוא יודע שהוא נאות ולכן הוא אמור להיות מסוגל להכריע בבעיית העצירה של "עצמו" אשר אנו יודעים שאין הוא מסוגל להכריע בה. אגב, עניין הקונסיטנטיות של המערכות האקסיומטיות איננו רלוונטי. בהנתן מערכת F, את הטענה P תחת אותה מערכת אקסיומטית אפשר לבטא כטענה Q: F=>P. אם הוכחת את P תחת F, האמיתות של Q איננה תלויה בקונסיטנטיות של F. אם F איננה עקבית, הטענה הזו תהיה נכונה באופן ריק. לגבי האינטואיציוניזם, זו תורה של לוגיקה מתמטית, לא של לוגיקה בסיסית. זה מודל של לוגיקה, ועם מודל אפשר לעשות מה שרוצים. בעצם, אינטואיציוניסטים מייחסים למלה "אמת" משמעות שונה מזו שאנחנו מייחסים לה, ולפיכך מגיעים למסקנות שונות מה אמיתי ומה לא. אבל זה רק ויכוח סמנטי. תפיסת האמת הבסיסית, הנפשית, של אינטואציוניסטי איננה שונה משלך. הוא פשוט משתמש בשיטתו המתמטית במלה "אמת" כדי לתאר תכונה שונה של משפטים מזו המקובלת. אבל גם אינטואיציוניסט יסכים, כך נראה לי, שאלגוריתם עוצר או שהוא איננו עוצר, אבל לא גם זה וגם זה. |
|
|
|
|
|
|
||
|
||||
|
בשביל לנסח את הטיעון המדוייק, אין שום צורך לחזור על כל הפרטים בספר של פנרוז שהם, ברובם, חומר רקע. אתה מנסה לטעון כאן שיש *הוכחה* למשהו, לא טיעון אינטואיטיבי - זה לא כל כך קשה לדייק, ההוכחה שלו אינה ארוכה ואינה מסובכת כלל. "הוא נאות במובן של משפט פנרוז אם ורק אם A' נאות במובן המקובל בלוגיקה." - לא ולא. אין שום קשר בין מה שאלגוריתם זה עושה לבין הסקת מסקנות לוגיות, ואין שום דרישה ממערכת נאותה-במובן-הלוגי להתנהג בצורה המוזרה של "אי-עצירה" כאשר היא רוצה להגיד "לא". והרי אי-העצירה הזו היא כאן לב העניין, הטריק המלאכותי שבאמצעותו אינך מאפשר (לכאורה) לאלגוריתם "נאות" (במובן א') לזהות "נאותות" (במובן ב') של עצמו. אבל כל זה לא ממין העניין. כל מה שההוכחה הזו עושה היא להראות שכל אלגוריתם בעל תכונה P יש לו גם התכונה Q, כאשר P היא אותה דרישת-נאותות משונה הכרוכה באי-עצירה בתנאים מסויימים, ו-Q היא תכונה של האלגוריתם כאשר מריצים אותו על עצמו כקלט. איך מכאן אתה מסיק שאין שום אלגוריתם ה"מחקה הבנה אנושית"? למה שלכל אלגוריתם מועמד כזה תהיה התכונה המשונה P? למה צריכים להתעניין בתכונה Q? אנשים לא סבורים שהשיקולים הלוגיים שלהם תקפים בגלל שהם "מזינים את עצמם לעצמם כקלט" ויוצא "כן". ההנחה שאלגוריתם יכול "לחשוב משהו על עצמו" רק עם "מפעילים אותו על עצמו כקלט" היא תמימה, אין מילה אחרת. אפשר לבנות מחשב עם "תפיסת עולם" הבנוייה ממצבים שונים של רכיביו הפנימיים בלי שיהיה אפשר "להריץ אותו" על שום קלט בכלל. במסגרת תפיסת-העולם הזו אותו מחשב יכול לסבור שהירח ורוד, שמשפט גולדבך נכון ושהוא עצמו עקבי לגמרי. (תשאל, מה זה "לסבור" עבור מחשב? בדיוק מה שזה עבור בן-אדם: זה מה שהוא יגיד לך אם תשאל אותו). אין שום סיבה לדרוש ממחשב שכזה להגיב בצורה כזו או אחרת אם "מריצים אותו על עצמו". תאמר: שטויות, המחשב הזה לא באמת "סובר" שום דבר. הוא סתם מבצע פעולות מכניות. בסדר, אבל משפט פנרוז לא *מוכיח* את זה. משפט פנרוז לא אומר שום דבר על מחשב שכזה. "מכל אלגוריתם נאות שממדל חשיבה מתמטית עבור בעיות שכאלו בתורת המספרים אפשר ליצור אלגוריתם נאות A בתנאי המשפט של פנרוז." באמת? איך? יש אלגוריתמים פשוטים מאוד המוכיחים משפטים נכונים בתורת המספרים, ואם כך הם "ממדלים חשיבה מתמטית"; איך אתה מציע לייצר מהם אלגוריתם המזהה כל אלגוריתם עוצר על קלט נתון? הפסקה על האינטואיציוניסטים רווייה שגיאות עובדתיות, צר לי. זו בדיוק שיטה ב"לוגיקה בסיסית", לא מתמטית. היא מתייחסת ל"אמת" בדיוק באותו אופן כמו שיטות אחרות, ולא מתארת איזו "תכונה אחרת" של משפטים. אינטואיציוניסט בדיוק לא יסכים שאלגוריתם עוצר או שאינו עוצר (הוא יסכים שלא שניהם, אבל הוא לא יסכים שלפחות אחד מהשניים נכון). ======= יש לי תחושה - אולי אני טועה - שאתה משוכנע שכנוע עמוק שההוכחה של פנרוז תקפה, ושום דבר שאגיד לא יזיז אותך מדעתך. אני חושש שיכולתי להתמיד בדיון הזה מוגבלת מאוד, מסיבות שאינן תלויות בך (צר לי), אז אנסה עוד נסיון אחרון מכיוון אחר (להלן) ואפרוש. אשאיר לאחרים לקבוע מה, לדעתם, המצב לאשורו. הנה תרגיל בתכנות. כתוב תכנית ב-C בעלת התכונות הבאות: כשמזינים אותה בקלט "0", היא מתחילה להוכיח משפטים מתמטיים ב-ZFC, עם כללי ההסקה הרגילים (פשוט ע"י מניפולציה של מחרוזות). כשמזינים אותה בקלט "1" ולאחריו קטע קוד ב-C, היא מנסה ככל יכולתה לקבוע אם קטע הקוד הזה "מבצע שיקולים לוגיים נאותים": היא בודקת אילו טרנספורמציות קטע הקוד הזה מבצע על שרשראות של סימנים, היא מריצה אותו במשך שעה ובודקת מה יוצא; אם הכל נראה בסדר היא אומרת "כן, זה נראה נאות", אחרת היא מכריזה "לא נאות!". חוץ מזה, ליתר בטחון, יש לה רוטינה מיוחדת שכל מטרתה היא לזהות אם הקלט הוא, במקרה, הקוד שלה עצמה, ואם כן היא עונה "נאות ועוד ואיך". לתוכנה הזו יש יכולות כמו-אנושיות לא מבוטלות. היא תוכיח בהצלחה כל משפט מתמטי שהוכח אי-פעם בתורת-המספרים (ובמתמטיקה בכלל, חוץ ממספר קטן מאוד, יחסית, של משפטים הנסמכים על אקסיומות מחוץ ל-ZFC). חוץ מזה, יש לה יכולת לא מבוטלת לבחון "נאותות לוגית" של אלגוריתמים אחרים; יכולת זו איננה, חלילה, חסינה משגיאות, אך בכך היא אינה שונה מבני-אדם. חוץ מזה, היא מזהה נכונה את הנאותות שלה עצמה. למען הסר ספק, אני לא חושב שלתוכנה כזו יש "תודעה", ואני אפילו לא חושב שהיא "יודעת שהיא מפעילה שיקולים לוגיים נכונים" באותו מובן שאנו חושבים כך. אתה הוא זה שזיהית, בתיאורך את הבעייה, את היכולת "לדעת שאתה נאות" עם היכולת "לעצור ולהכריז 'כן' כשמזינים לך את עצמך", ודווקא במבחן הזה התוכנה הקטנה שלנו עומדת יפה. ודאי שתוכנה זו אינה "נאותה" במובן המלאכותי של פנרוז ("לא עוצרת אם הקלט שלה עוצר" וגו'), אך גם בכך היא לא שונה מבני-אדם. משפט פנרוז לא אומר עליה כלום (הנה, היא קיימת!) אתה יכול *להוכיח* שלתוכנה זו אין "תודעה", "הבנה", או "ידיעה שהיא מבצעת שיקולים נכונים"? אתה ודאי סבור שכן, אבל שים לב שיהיה עליך לבנות הוכחה חדשה - ההוכחה של פנרוז אינה מספקת. מכאן שההוכחה של פנרוז אינה עושה את מה שאתה חושב שהיא עושה - מראה שאין שום אלגוריתם נאות (במובן הרגיל!) ה"מזהה את הנאותות של עצמו". |
|
|
|
|
|
|
||
|
||||
|
הוכחת המשפט המתמטי של פנרוז היא קצרה ופשוטה, אבל עיקר הדיון פה הוא על הפרשנות הפילוסופית שלו, וזו מורכבת מאוד. משום כך אני ממליץ לקרוא את ספרו של פנרוז משום שבהכרח אני מקצר ומפשט, ואולי אף טועה פה ושם. נדמה לי שחלק גדול מביקורת שאתה ואחרים הבעתם נענית שם באופן יותר מוצלח ממה שאני מצליח להעביר. הסברתי בדיוק כיצד הנאותות של הסקה לוגית ממופה לנאותות האלגוריתם בתנאי משפט פנרוז, אבל מכיוון שלא הבנת, אחזור על כך. נניח שנתון אלגוריתם A' הממדל הסקה מתמטית אנושית. האלגוריתם הזה מקבל כקלט טענה מתמטית מסוימת, משתמש בכללים לוגיים תקפים על מערכת אקסיומטית נתונה כדי לקבל ממנה את המשפט או את שלילתו. פלטים אפשריים לאותו אלגוריתם הם: "הטענה נכונה", "הטענה שגויה", "הטענה איננה ניתנת להכרעה במערכת האקסיומטית הנתונה", "אין לי מושג ונמאס לי" או שהאלגוריתם עשוי גם להמשיך ולרוץ עד אין קץ ללא הכרעה. כעת, נניח שאני מתעניין רק בבעיות עצירה של אלגוריתמים. כפי שכתבתי, חלק ניכר מהבעיות בתורת המספרים (כמו השערת גולבאך, משפט פרמה וכו') ניתנות לתרגום לבעיות עצירה, כך שלא מדובר בתחום צר (אבל אפילו אם כן, אז מה?) ומערכת שמסוגלת להגיע להכרעה בבעיות מתמטיות אמורה להיות מסוגלת להגיע להכרעה בבעיה האקוויוולנטית המנוסחת כבעיית עצירה. מה שצריך לעשות זה לכתוב קוד קטן שהופך קלט מהצורה B,C לקלט מנוסח באופן המובן לA' כטענה בדבר העצירה של B על הקלט C ומזין זאת לA'. קוד נוסף יקבל את הפלט של A' ויתקע כל תגובה אפשרית פרט לזו הקובעת ש-B איננו עוצר על C. סך כל הקוד המתקבל הוא האלגוריתם A. אם ההסקה של A' נאותה אז A הוא נאות בתנאי משפט פנרוז. מדוע? משום שבמקרים בהם A' מגיע להכרעה שאלגוריתם הקלט אינו עוצר, זו הכרעה נכונה בהכרח בגלל השימוש בשיקולים לוגיים תקפים, ולפיכך A עוצרת כראוי. בשאר המקרים A איננה עוצרת ומקרים אלו לא יכולים לפגוע בנאותות שלה. מכאן שהנאותות של האלגוריתם במשפט פנרוז כלל איננה סתם אילוץ משונה אלא מודל מוצלח לנאותות הסקה מתמטית, לפחות בתחום מתמטי ספציפי. לכל היותר ניתן לטעון שהנאותות במשפט פנרוז היא תכונה כללית יותר מאשר הנאותות הלוגית הסטנדרטית, אולם זה לא משנה דבר מבחינת תוצאות המשפט, משום שאי-נאותות של A בהכרח גוררת שלA' יש שגיאה בהסקה. על פי משפט פנרוז אלגוריתם A בעל תכונה P (נאותות) בהכרח לא מצליח להגיע להכרעה נכונה בבעיה מסוימת (בעיית העצירה של אלגוריתם האלכסון שלו על עצמו). אילו הוא היה ניחן ביכולת ההסקה המתמטית האנושית ואילו הוא היה מסוגל להסיק באופן כלשהו שהוא בעל תכונה P, אזי הוא היה יכול להשתמש במשפט פנרוז (כי יכולת ההסקה האנושית מאפשרת זאת) ולהכריע באותה בעיית עצירה. זו סתירה, ולכן בהכרח A איננו יכול להסיק בשום אופן שהוא בעל תכונה P. אבל בני אדם בהחלט יודעים שההסקה הלוגית-מתמטית שלהם נאותה. ידיעה זו היא שמגדירה בכלל הסקה לוגית תקפה מהי. אין לך שום דרך להבחין בין שיקול תקף לשיקול פסול פרט לאותה ידיעה פנימית. לו הייתה התודעה האנושית חישובית, האלגוריתם A המבוסס על יכולותיה היה בעל תכונה P (כי זו נובעת, כאמור בפסקה הקודמת מנאותות החשיבה הלוגית), מודע להיותו בעל תכונה P ולפיכך סותר את מסקנות המשפט של פנרוז. זה הכל. "ההנחה שאלגוריתם יכול 'לחשוב משהו על עצמו' רק [אם] 'מפעילים אותו על עצמו כקלט' היא תמימה" - או שלא הבנתי אותך או שלא הבנת אותי. איפה הנחתי הנחה כזו. כל ההתיחסות שלי בקשר לטיעון של פנרוז היא ביהיוויוריסטית לחלוטין, פרט להנחה שההסקה האנושית מודעת לנאותות של עצמה, ולפיכך יכולה להשתמש בידע זה. "יש אלגוריתמים פשוטים מאוד המוכיחים משפטים נכונים בתורת המספרים, ואם כך הם 'ממדלים חשיבה מתמטית'; איך אתה מציע לייצר מהם אלגוריתם המזהה כל אלגוריתם עוצר על קלט נתון?" - לדוגמה, קח אלגוריתם המוכיח את משפט פרמה. מכאן הוא יסיק (לפחות אם הוא ניחן בתבונה אנושית) שאלגוריתם העובר על כל רביעיות המספרים הטבעיים a,b,c,n עם n גדול מ-2, ועוצר רק כאשר מתקיים a^n+b^n=c^n, בהכרח איננו עוצר. לגבי האינטואיציוניזם, אני חולק עליך לחלוטין, אבל התגובה הזו ארוכה מדי כמו שהיא, ולכן אני מציע לדחות את הדיון הזה להזדמנות אחרת. "יש לי תחושה - אולי אני טועה - שאתה משוכנע שכנוע עמוק שההוכחה של פנרוז תקפה, ושום דבר שאגיד לא יזיז אותך מדעתך" - מוזר, כי לי יש תחושה שאתה משוכנע שכנוע עמוק שההוכחה של פנרוז איננה תקפה, ושום דבר שאגיד לא יזיז אותך מדעתך. אני התחלתי את דרכי כפיזיקליסט, ותגובתי הראשונה לטיעון של פנרוז הייתה "מה זו השטות הזו? אי אפשר להוכיח שום דבר על התודעה האנושית מתוך משפט מתמטי! ובטח שהסקה מתמטית היא חישובית. הרי היא מבוססת על שיקולים שניתנים לפורמליזציה מלאה." לקח לי זמן רב להשתכנע שפנרוז צודק, ולהבין למה הוא צודק. התוכנה שהצעת איננה נאותה. כלומר, היא אולי נאותה בנוגע למשפטים בZFC, אולם היא תטעה בנוגע לנאותות של אלגוריתמים אחרים. למעשה, התוכנית הזו עשויה לתת תשובות סותרות לאותה בעיה, פעם כשהיא מנוסחת כבעיה בZFC ופעם כשהיא מנוסחת כבעיית נאותות של אלגוריתם. שים לב: היא איננה יכולה להוכיח את הנאותות של עצמה, (לגבי הסקת משפטים בZFC) באמצעות משפט ב-ZFC. ואילו על מוד ההסקה השני שלה ממילא איננו יכולים לסמוך. אבל הכי חשוב, התכנית שלך איננה יכולה לסמוך על הנאותות של עצמה (כביכול) לשם הוכחת משפטים ב-ZFC משום שהוספת אקסיומה כזו איננה קונסיסטנטית עם ZFC (זו למעשה תוצאה ממשפט פנרוז). משום כך אי אפשר לומר שיש לה "ידע" בדבר הנאותות של עצמה. ידע איננו הצהרה סתמית. הוא משהו שניתן להשתמש בו לשם הסקת מסקנות. |
|
|
|
|
|
|
||
|
||||
|
איפה אמרתי שאני "מאמין" שחוסר סבלנות הוא מרכיב "הכרחי" של תודעה? אמרתי רק שלא ניתן לפסול את האפשרות. איפה אמרתי שהתוכנה, שמחקר ה-AI שואף לפתח, לא תצליח להבין משפט מתמטי פשוט? טענתי שהיא תהיה שקולה כנראה לתודעה אנושית. תודעה אנושית, מסתבר, כן מצליחה להבין משפטים מתמטיים, אפילו לא פשוטים. (כמובן שיש כאלה שמתעקשים "לקרוא" הרבה יותר מהוכחות מסוימות, אבל זה כבר סיפור אחר). "לחקות את הקיים" – מבחינת היכולת; לא מבחינת אופן הביצוע. ממש כמו שבפיתוח רובוטים דמויי-אנוש, מנסים לחקות את אופן ההליכה האנושי, מבלי להתבסס על המנגנונים הביולוגיים: משהו שמשיג את אותה התוצאה, בדרך אחרת. התוצאה אפשרית (עובדה: בני-אדם הולכים), ולכן יש תקווה להגיע אליה גם בדרכים אחרות. כך גם לגבי תודעה: התודעה אפשרית (עובדה: בני-האדם מודעים), ולכן יש תקווה להגיע אליה גם בדרכים אחרות. אבל למרות שהמטרה היא *להגיע* לתודעה באופן שונה מאוד, אין הכוונה שהתודעה עצמה תהיה שונה מאוד (למשל, בעלת יכולות מתמטיות מושלמות). לא אני זה שמראה "אמונה דתית". אתה יוצר קו שחור-ולבן בין תודעה "מתמטית", שלא יכולה לטעות – דבר שאינו קיים, לבין תודעה שלא תצליח להבין משפט מתמטי פשוט אבל כן תבין מחזה של שייקספיר – דבר אחר שאינו קיים. משהו באמצע דווקא כן קיים: התודעה האנושית. היא כן יכולה לטעות, גם בהקשרים מתמטיים; היא כן מבינה משפטים מתמטיים פשוטים, וגם מסובכים; והיא מבינה גם מחזות של שייקספיר. אני, בניגוד לך, לא פוסל על הסף את האפשרות ליצור גרסת תוכנה של תודעה השקולה לתודעה האנושית. זה שאינני מקבל את ה"הוכחות" של פנרוז לאי-ייתכנותה של תוכנה שכזו לא הופך אותי ל"מאמין דתי"; גדולים וטובים ממני מצאו פסול בהוכחה זו, ואחרות דומות לה. ייתכן בהחלט כי בעתיד תמצא הוכחה שבאמת מעידה על כך שלא ניתן ליצור תודעה מתוך מערכת פורמלית; אולם אין הגיון בזניחת תחום המחקר כל עוד לא נמצאה הוכחה מסוג זה. נדמה לי שמבחינתי, הענף הזה בדיון הסתיים בזאת. |
|
|
|
|
|
|
||
|
||||
|
''ייתכן בהחלט כי בעתיד תמצא הוכחה שבאמת מעידה על כך שלא ניתן ליצור תודעה מתוך מערכת פורמלית'' - אני דווקא חושב שזה בהחלט לא ייתכן. אני מוכן לפרט אם יש ביקוש (אבל לא מתחייב על לוח הזמנים). | |
|
|
|
|
|
||
|
||||
|
נראה לך שלא יהיה ביקוש? אגב, אני מציע להקפיד להשתמש במילה "תבונה" במקום "תודעה", כדי למזער את מספר הסכסוכים הטעונים בין אלגוריתמיקאים לבין פילוסופים. |
|
|
|
|
|
|
||
|
||||
|
אפשר גם להשתמש במילה ''גזר'' במקום ''מלפפון'', למען שלום בית. | |
|
|
|
|
|
||
|
||||
|
''ההנחה שהחשיבה הלוגית האנושית בתנאים אידאליים היא נטולת פגמים עומדת ביסוד כל שיח וכל טענה שאנו מעזים להגות. בלי זה אין כלום.'' זו אולי גישה שלך, אבל זו איננה אקסיומה המקובלת על כולם. לפחות לא עליי. בעיני, טעות ספק ושינוי דעה הם חלק בלתי-נפרד מהחשיבה האנושית. גם ללא עייפות ומגבלת זמן, יש גבולות לכושר הבנתנו. ויש טיעונים שלא נוכל לנסח. הקודקוד שלנו מוגבלף יש בו מאגר בגודל סופי של מידע. זה מה שיש, ואפשר ללמוד לחיות עם זה. |
|
|
|
|
|
|
||
|
||||
|
שאלה פשוטה: האם לדעתך ייתכן שאי פעם נגלה ש2+2 איננו 4? (וכדי למנוע התחכמויות, התרגיל נתון תחת האקסיומות הסטנדרטיות של הארתימטיקה). אינני עוסק בדעות אלא בתקפות של שיקולים לוגיים אלמנטריים. הלוגיקה איננה משתנה. הבטחון בכך ש (A=>B) וגם (B=>C) גוררים (A=>C) הוא מוחלט. |
|
|
|
|
|
|
||
|
||||
|
אני בטוח ש 2+2=4 לנצח, ככל האמור בתפוחים ובתפוזים. מה שאינני בטוח בו - למרות שהרעיון תמיד עורר בי חלחלה - הוא שתורת המספרים קונסיסטנטית. לעולם יקנן בי החשש שרק חוקי החשבון על מספרים סופיים עד 10^10^10 הם נכונים, וכל השאר יסודו בטעות. | |
|
|
|
|
|
||
|
||||
|
עובדות: יש לך תפוח אחד ולי יש שני תפוחים. שאלה: כמה תפוחים יש לנו ביחד? תשובה: שלוש. סתם, התפוחים שלי הם בעצם תפוזים. שאלה: כמה תפוחים יש לנו ביחד? תשובה: אחד. אז, האם המסקנה הראשונה שגויה? לא. היא המסקנה המתבקשת על סמך העובדות שהיו ידועות לך בזמן שהיא נשאלה. |
|
|
|
|
|
|
||
|
||||
|
מה זה קשור לטיעון שהצגתי? לאלגוריתם ידועות כל העובדות הרלוונטיות, כולל הקוד שלו עצמו, כולן נכונות, והוא מסיק מהן מסקנה שגויה (שזה איננו הקוד שלו). | |
|
|
|
|
|
||
|
||||
|
האלגוריתם לא יודע שהוא ''אלגוריתם'', הוא מאמין שהוא ''מתמטיקאי מוצלח'', ועל סמך האמונה (הלא נכונה הזאת) הזאת הוא מסיק מסקנה שגויה. | |
|
|
|
|
|
||
|
||||
|
<עבור מחשב, בניגוד לעבור אדם, קל להציג למכונת טיורינג תדפיס, תוך השמעת המשפט "הנה, זה קוד המקור שלך" בנימה מזלזלת במידה ההולמת. כן, אבל איך המחשה ידע שזה אכן קוד המקור שלו? |
|
|
|
|
|
|
||
|
||||
|
יקמפל, יריץ, ויבחן את התוצאה במבחן טיורינג, כמובן... | |
|
|
|
|
|
||
|
||||
|
המחשב לא ''יידע'' שזה קוד המקור שלו משום שמחשבים לא מסוגלים לדעת. אבל בהחלט אפשר לגרום לתוכנת ''בינה'' מלאכותית להשתמש בעובדה שקוד המקור שלה (אותו היא יכולה לקרוא מהזכרון, למשל) הוא אכן קוד המקור שלה. | |
|
|
|
|
|
||
|
||||
|
קוד המקור לא נמצא בזכרון המחשב בזמן שהתוכנית רצה. במקרה של תוכנה בשפה גבוהה, התוכנה לא יכולה לקרוא אפילו את הגרסה המהודרת מהזיכרון. שלא לדבר על מורכבויות של תוכנה מבוזרת בהקשר זה. | |
|
|
|
|
|
||
|
||||
|
עזוב אותך מ"תוכנה מבוזרת" ושאר הפרטים הטכניים של היישום. כל מערכת חישובית (ללא מגבלות זכרון, אבל זה לא פרט מהותי) אקוויוולנטית למכונת טיורינג. למכונת טיורינג בוודאי יש נגישות לקוד. הכל רשום על הסרט. ולמעשה, גם לתוכנת מחשב תמיד אפשר להוסיף את הפונקציונליות המאפשרת לה לקרוא את עצמה מהזכרון, מהקובץ, מהארד דיסק או מכל מקום בו קודדת אותה. מה זה משנה בכלל? |
|
|
|
|
|
|
||
|
||||
|
ודאי שזה משנה: זהו עירוב רמות. סביר מאוד שתוכנה נבונה לא תהיה בעלת גישה לשכבות הנמוכות המרכיבות אותה. סביר שהיא תסבול מבעיות זכרון (כלומר, תשכח דברים מדי פעם, לא תוכל לאחזר פירטי מידע שונים באותה מהירות שהיא מצליחה להזכר בפרטי מידע אחרים, ואף תסבול משגיאות בזכרון – תזכור דברים לא נכונים; זאת משום שעיבוד המידע לצרכי שמירתו עשוי להיות lossy). ואם הקוד משנה את עצמו תוך-כדי ריצה (בהחלט אפשרות), קריאה מהדיסק תניב תוצאה לא רלוונטית, וקריאה מהזכרון תניב תוצאה לא עקבית (המידע השתנה בין תחילת הקריאה לסופה, וקבלנו תמונה מעורבלת). לטעון שהיא "יכולה לקרוא את עצמה מהדיסק" שקול לטענה שאתה יכול "לקרוא את עצמך מסריקת CT". כן, אתה יכול להתבונן בסריקת CT של המוח (או בפלט של מיפוי מתקדם יותר) ולדעת "זה אני", אבל זו ממש לא חישה ישירה, ואין כל סיבה שבעולם לחשוב שלתוכנה תבונית כן תהיה חישה ישירה; גם היא עשויה להרהר, "אבל האם זה *באמת* אני"? כמובן, אתה עשוי לטעון שאני מדבר שטויות משום שתוכנה, בהגדרה (לדעתך), לא יכולה "לחוש" כלום, אבל זוהי הנחת המבוקש. |
|
|
|
|
|
|
||
|
||||
|
אתה מתעקש להסיט את הדיון לפרטים טכניים שלא רלוונטים לסוגיה העקרונית. הנח שמדובר ב"בינה" מלאכותית שהישום שלה הוא במכונת טיורינג. במכונת טיורינג אוניברסלית אין הפרדה בין חלק הזכרון (כלומר, הסרט) שמקודד את הקלט והחלק שמקודד את התוכנית (טבלת הפעולה), ולכן יש לה גישה לשניהם. האם ישום כזה ייתכן לדעתך? לא שיש בעייה אמיתית עם הטיעון גם כשמדובר במחשב ממש. אם אין לתוכנה גישה לזכרון, פשוט תוסיף לה פונקציה שמקנה לה גישה כזו. מה הבעיה? וקוד שמשנה את עצמו לא ישנה כלום, משום שהתכנית מוגדרת על פי המצב בתחילת ההרצה. פשוט צריך לשמור עותק מהתכנית במצבה ההתחלתי לפני שמבצעים כל דבר אחר. כמובן, שאני מניח שהמחשב לא עושה עיבוד lossy, אבל זו הנחה סבירה בדיון עקרוני. ניסיון להצדיק קיום בינה חישובית על סמך בעיות חומרה נראה לי ממש האחזות בקש. אגב, אפשר להקנות לתוכנית "ידע" של הקוד של עצמה גם ללא שום גישה לזכרון המכיל את הקוד. יש תרגיל כזה: לכתוב תוכנית המדפיסה את עצמה (בלי לקרוא מקובץ). אתה מוזמן לנסות. |
|
|
|
|
|
|
||
|
||||
|
במכונת טיורינג יש גם ''טבלת פעולה'' שהיא לא חלק מהסרט. אתה יכול להתיחס לטבלת הפעולה בצירוף עם המצב הנוכחי כאל זיכרון. | |
|
|
|
|
|
||
|
||||
|
במכונת טיורינג *אוניברסלית* טבלת הפעולה היא חלק מהסרט. אבל למה להסתבך? אם יש תוכנית המדפיסה את עצמה (אפילו בלי לקרוא את עצמה מקובץ) אז לתוכנית יש גישה לקוד של עצמה. | |
|
|
|
|
|
||
|
||||
|
עיבוד lossy עשוי להיות *הכרחי* במערכת תבונית: הקלט הוא כמות אדירה של מידע, והמערכת שומרת רק חלקים ממנו, באופן סלקטיבי. אופן סלקטיבי-סטטיסטית יכול להוביל לשמירת מידע שגוי: לא בשל תקלות או בעיות חומרה, אלא מתוך בחירה תכנונית (ע"ע אלגוריתמים בלמידה חישובית, קידוד מידע אופטי וכיוצ"ב). כלומר, ההנחה שלך – שהעיבוד אינו lossy – אינה "הנחה סבירה בדיון עקרוני" כלל וכלל. הדוגמא היחידה שיש לנו למכונה חושבת – המוח האנושי – בפירוש שומרת מידע באופן lossy, מאוד אפילו. אתה מתעקש להתעלם מריבוי הרמות במערכת ממוחשבת. להקנות לתוכנה מודעת "פונקציה שמקנה לה גישה לזכרון" שקול להוספה, עבור אדם, של חוש המודיע לו מה קצב היריה של ניורון נתון. אדם בעם חוש כזה יוכל "לסרוק" את כל המוח שלו מתחילתו ועד סופו, ולקבל מידע על כל ניורון וניורון. *אבל הניורונים ממשיכים לפעול בזמן שהוא עושה זאת*, והתמונה משתנה תוך-כדי סריקתה, מה גם שבהגדרה, המידע שהוא מקבל מהניורונים צריך להשמר בזכרון... מבוסס ניורונים. כמובן שהוא לא יוכל לקלוט ולהבין תמונה שלמה (... אלא אם העיבוד יהיה lossy. "באונה השמאלית הכל נראה בסדר", אם להקצין). אם תמשיך לדבוק ברמה הנמוכה ביותר דווקא: הנ"ל נכון גם לגבי מכונת טיורינג. אם המכונה רוצה להגיע למסקנה לגבי תוכן הסרט, היא צריכה *לשנות* את הסרט. ולשנות, אגב, גם את מצבה הפנימי, שהוא *אינו* חלק מהסרט והיא אינה מודעת לו, בדיוק כפי שאתה אינך מודע למצב המוח שלך. (אנא, אל תשוב ותגיד "מכונת טיורינג אינה מודעת למצבה כי מחשב לא יכול להיות מודע"; אתה מניח את המבוקש). ואם תגיד, "למחשב אפשר לכתוב פונקציה שמקפיאה את פעילותו, יוצרת dump של הזכרון כולו (לקובץ למשל), ואז ממשיכה את הפעילות" – אז נכון, המחשב ידע שזה האלגוריתם שלו-עצמו, אבל רק בגלל שאמרו לו את זה. זה שקול לחיבור אדם למכשיר סופר-CT שיספק לו תדפיס רב-כרכים המתאר במדויק את מצב המוח ברגע נתון, על כל מאה מיליארד הניורונים שבו, פלוס הבטחה שזה באמת המוח שלו. |
|
|
|
|
|
|
||
|
||||
|
לא יכול להיות שהחישוב ה-lossy חיוני לתבונה חישובית, משום שמוכח שהיכולת החישובית של אלגוריתם סטטיסטי זהה לזו של אלגוריתם דטרמיניסטי. אם המוח פועל באופן חישובי והסתברותי אז אולי לא ניתן לבצע סימולציה של המוח שלך דווקא, אבל ניתן לסמלץ באופן דטרמיניסטי מוח טיפוסי. חוץ מזה, כאשר מדברים על בינה של מחשב, הרעש הסטטיסטי מיושם באמצעות פונקציות פסוודו-רנדומיות, כלומר עקרונית האלגוריתם הוא דטרמיניסטי לכל דבר. ה"תוכנית" של המוח היא מצבו ההתחלתי. אם "צילמת" אותו ברגע נתון ואכסנת את המצב בזכרון חיצוני כלשהו, אז אתה יכול לגשת לזיכרון ולבדוק אותו בכל רגע בלי בעיה. כמובן, ה"מערכת" במקרה זה היא המוח פלוס הזכרון החיצוני. אז מה? במקרה של מכונת טיורינג אפשר לתכנן אותה כך שהפעולה הראשונה שלה תהיה להדפיס על הסרט את טבלת הפעולה, וזו תהיה זמינה לכל אנליזה לאחר מכן. זה אקווילנטי לתוכנית שהזכרתי בתגובה קודמת, אשר מדפיסה את עצמה. אני מציע לך לנסות לכתוב תכנית כזו ולהווכח שמדובר בעניין טכני פתיר לחלוטין. זה תרגיל די מאלף. ולמעשה, כל מה שכתבת לא רלוונטי פרט לפיסקה האחרונה. נכון שהמחשב יכיר את האלגוריתם של עצמו "בגלל שאמרו לו את זה" אבל זה נכון לכל מה שהמחשב יודע. המחשב יודע ש1+1=2 בגלל ש"אמרו לו את זה". לפי הגישה הביהוויוריסטית (שלך, לא שלי!) לא משנה בכלל מה מקורות המידע ומה קורה "בפנים" אלא רק מה המחשב עושה בפועל - מבחן התוצאה. המחשב יכול לבחון את הקוד של עצמו, ומשתמש בעובדה (הנכונה!) שזה הקוד של עצמו. מה הבעייה עם זה? |
|
|
|
|
|
|
||
|
||||
|
<דמיין כאן אנחת כאב של מישהו שנמאס לו לחזור על עצמו> אף אחד לא מדבר על "רעש סטטיסטי" ועל איבוד מידע רנדומי. מדובר באיבוד מידע מכוון – בחירה אלגוריתמית של מה חשוב לזכור ומה לא, שמירה סלקטיבית של חלקים מהמידע. ביצירת תמונת JPEG אין שום גורם אקראי, אבל האלגוריתם הוא lossy. כן, הוא גם דטרמיניסטי, אבל זה לא קשור בכלל לנושא הדיון. גם אתה יודע כי 1+1=2 "כי אמרו לך את זה", אבל בהמשך הבנת את זה. אתה (כרגיל) מערבב בין רמת החומרה של המחשב (שלא "יודעת" כלום, אבל יכולה לחשב את 1+1 ממש כפי שהניורונים בראשך יכולים לבצע סכום של קצב היריה של ניורוני הקלט שלהם) לבין הרמה המודעת של מחשב תבוני, שיודעת כי 1+1=2 בהתחלה כי אמרו לה את זה, ואח"כ כי תבין את זה. (אל תגיד "היא לא תבין". אל תניח את המבוקש). |
|
|
|
|
|
|
||
|
||||
|
<דמיין כאן אנחת כאב של מישהו שנמאס לו לחזור על עצמו> אתה מזכיר לי מישהו שטוען שניתן לבנות פרפטום-מובילה. מסבירים לו שמכונה כזו סותרת את חוקי התרמודינמיקה, ובתגובה הוא אומר: לא, משתמשים בגלגליות המותקנות על שרשרת המחוברת לשסתום הידראולי המופעל באמצעות שדה מגנטי. זה פותר את העניין! כל התחום של חקר חישוביות מבוסס על תזת צ'רצ'-טיורינג לפיה כל מערכת חישובית חזקה דיה אקוויוולנטית למכונת טיורינג (ולכל מערכת חישובית חזקה דיה אחרת). זה בכלל לא משנה אם הישום הוא סטטיסטי, lossy, כתוב ב-שפת-על, בשפת מכונה, מבוזר, מקבילי, מבוסס על מערכת של גלגלי שיניים או על מליארד סינים המאותתים זה לזה בדגלים. כל אלו יתנו את אותה תוצאה *בדיוק*. אז שיהיה lossy. מה זה משנה? זה עדיין חישובי. עדיין ניתן לעשות אותו דבר במכונת טיורינג, או בבייסיק, או במאטלאב, או בעובדים זרים מסין. ההתעקשות על דיון בישום זה בסך הכל מיסוך עשן שאיננו רלוונטי וגורם לשנינו להאנח בתסכול. התוכנה מכירה את הקוד של עצמה כי כך היא בנויה (ואם היא לא בנויה כך מראש, ניתן להוסיף תכונה זו בקלות). כמו שתוכנה יכולה לשנות את הקוד של עצמה, היא יכולה לקרוא ולזהות אותו. לא צריך להסביר לתוכנה כלום, רק להוסיף עוד כמה שורות קוד. האם טענתך ששורות הקוד האלו יגרמו ל"בינה" המלכותית להתפוצץ ולעלות בלהבות? |
|
|
|
|
|
|
||
|
||||
|
הבעיה עם זה היא ש"הקוד של עצמו" משתנה ללא הרף, כך שהמחשב שבודק אם זה הקוד של עצמו משנה את הקוד של עצמו תוך כדי בדיקה בגלל עצם הבדיקה (אם תרצה, הוא "לומד" משהו חדש) ולכן אינו עוצר או שהוא נותן תשובה שגויה. גם המתמטיקאי א.ע. נתקל בבעיה דומה כשניסה לענות לך על השאלה, וזאת הסיבה שלא קיבלת תשובה ושהמניות של גוגל נפלו. תוכל, אולי, לטעון שאפשר להגיד למחשב לכבות את פונקציית הלמידה בזמן ביצוע הבדיקה, אבל זה יהיה יעיל כמו להגיד לך "שכח את מה שאמרתי". הקוד של המחשב לא מאפשר לכבות את הפונקציה הזאת אלא במצב תרדמת שבו כל הפונקציונליות שלו נעלמת. כל פעילות תבונית מקושרת מעצם טיבה עם שינוי התוכנה (איך אני יודע? מהתבוננות במכונות טיורינג תבוניות בסביבה הקרובה שלי). התנגדות אפשרית אחרת היא להגיד שניתן למחשב קוד שישתנה אף הוא תוך כדי בדיקה במקביל לשינוי במחשב הבודק, כלומר לא קוד "מת" אלא מחשב מראָה, ושני המשובטים יבדקו זה את זה הדדית ובו-זמנית. אני חושב שיש רכיבים (פסאודו) רנדומליים שמפילים את האפשרות הזאת. שטויות? בסדר, שכח את מה שאמרתי. |
|
|
|
|
|
|
||
|
||||
|
למכונת טיורינג אין גישה לעצמה - מערכת המצבים שלה וכו' הם מעבר להישג ידה. אתה יכול להעביר לה כקלט דבר שאתה, מבחוץ, יודע שהוא קידוד כלשהו שלה, אבל לה עצמה אין שום דרך לוודא את זה. | |
|
|
|
|
|
||
|
||||
|
או שהיא תתהה אם תיכנתו אותה לחשוב שזה קוד המקור שלה. | |
|
|
|
|
|
||
|
||||
|
או שהיא תתהה אם יש לה בכלל מקור. בסופו של דבר, רוב הציפורים אינן מבורכות בבינה רבה... | |
|
|
|
|
|
||
|
||||
|
או שהיא תתהה אם רובוטים חולמים על כבשים חשמליות. | |
|
|
|
|
|
||
|
||||
|
גרמת לי לתהות לרגע אם יש לי מקור (התשובה שלילית) | |
|
|
|
|
|
||
|
||||
|
"שום שפה פורמלית איננה שלמה, כלומר לכל שפה פורמלית תמיד יהיו הוכחות שלא יהיה ניתן לנסח בה" יותר במדויק, לכל שפה פורמלית יש *טענה* (נקרא לה "טענת-גדל") שהיא נכונה אך לא ניתן להוכיחה באותה שפה. אבל האם בני אדם יכולים לראות את נכונות טענות גדל? לא! לא רק שבני אדם לא יכולים לראות את נכונות טענות-גדל, הם לא יכולים לראות את הטענות בכלל. בפרט, גדל הראה איך בונים טענת-גדל עבור "פרינקיפה מתמטיקה", ושכנע אותנו שהטענה קיימת, אבל לא הראה את הטענה עצמה. הסיבה היא, כמובן, שהטענה ארוכה מכפי תפיסת אנוש. במונחי הורסיה שלך, טענת-גדל (ובוודאי הוכחה שלה) לא ניתנת להבעה בשפה טבעית, כי בשפה טבעית מבעים חייבים להיות מוגבלים באורכם (בהתחשב בדרישתך ששפה טבעית תהיה משהו שאנשים מבינים). אותה התנגדות תקפה, בשינויים הנדרשים, גם לורסיה המקורית של לוקאס, וגם לזו של פנרוז. |
|
|
|
|
|
|
||
|
||||
|
המשפט של גדל הוא קונסטרוקטיבי. יש הרבה משפטי קיום במתמטיקה שמוכיחים שקבוצה מסוימת קיימת מבלי להציג שום בנייה מפורשת, אבל המשפט של גדל איננו אחד מהם. יש בו תיאור מדוקדק, אלגוריתמי, של האופן בו נבנית הטענה שאיננה נתנת להוכחה בשפה הפורמלית הנתונה (אקסיומות וכללי הסק). כל פעולה חישובית סופית היא בתחום "תפיסת אנוש", ללא תלות באורכה (למעשה, ההגדרה של "תהליך חישובי" תלויה בכך, למשל בהקשר לתזת צ'רצ'-טיורינג). היא אולי לא בתחום "סבלנות אנוש", "אורך חיי אנוש" וכדומה, אבל כל אלו לא קשורים לתפיסה. אילו היית יכול לתרגם את התפיסה המתמטית האנושית לאלגוריתם, לאלגוריתם זה לא היו שום מגבלות טכניות מהסוג הנ"ל. הוא יכול היה לטפל גם בטענת-גדל עבור הפרינקיפיה מתמטיקה, והיית יכול להפעיל עליו את הטיעון של לוקאס. ואם אתה בכל זאת מתעקש שלמגבלות הסבלנות והערנות האנושית יש איזה קשר מהותי לתפיסתו המתמטית, הנה פתרון אלטרנטיבי שמנטרל את הבעייה לחלוטין. למחשב (או, ליתר דיוק, למכונת טיורינג) אין שום בעייה לטפל במבעים בכל אורך סופי שהוא. כעת, השווה את היכולת המתמטית של מחשב (A) ליכולת המתמטית של אדם+מחשב (B). מערכת B יכולה לטפל גם בטענת-גדל עבור הפרינקיפיה מתמטיקה, וגם בטענת-גדל עבור השפה הפורמלית שמתארת את היכולת המתמטית של מערכת B עצמה (אם, לכאורה, קיימת כזו). אז מה תאמר עכשיו? האם מערכת B יכולה להיות אלגוריתמית? |
|
|
|
|
|
|
||
|
||||
|
אין שום בעיה להביע את טענת גדל לתורה נתונה כמו ZFC או הפרינקיפה, והיא אינה ארוכה מתפיסת אנוש. הבעיה היא שגם התאור שלך "לכל שפה פורמלית יש *טענה* (נקרא לה "טענת-גדל") שהיא נכונה אך לא ניתן להוכיחה באותה שפה" אינו נכון. ראשית כל, הערה טכנית - מדובר על תורה ולא על שפה. שנית, משפט גדל מתאר איך בונים טענת-גדל עבור תורה נתונה (העומדת בתנאי המשפט). טענת גדל הנ"ל נכונה אך אינה ניתנת להוכחה *אם ורק אם התורה עקבית*. מכיון שאיננו יודעים אם התורה עקבית או לא, הרי שגם אנחנו לא יודעים אם טענת-גדל הנ"ל נכונה או לא. |
|
|
|
|
|
|
||
|
||||
|
שאלה שכל הזמן עונים לי עליה וכל הזמן אני שואל מחדש: "נכונה" - באיזה מודל? אם היא הייתה נכונה בכל המודלים, אז לא נובע ממשפט השלמות של גדל שהיא יכיחה? ואם קיים מודל שבה היא לא נכונה, מדוע ה"אם ורק אם" לא מראה שהתורה לא עקבית? | |
|
|
|
|
|
||
|
||||
|
שאלה טובה. התשובה הלא מספקת היא שהוא נכון ב''עולם האמיתי''. לפרטים, פנה לאורי של מחר. |
|
|
|
|
|
|
||
|
||||
|
(היום זה אורי של מחר?) | |
|
|
|
|
|
||
|
||||
|
(זה היה אורי של שלשום) לענינינו: הניסוח "לכל תורה עקבית ו.... יש פסוק נכון שאינו יכיח בה" מניח מראש שיש "עולם אמיתי", שהפסוק הנ"ל נכון בו. כתבתי קצת יותר, אבל במקום זה בוא נשאל שאלה: כשאנחנו אומרים שהתורה עקבית, איפה הפסוק הזה נכון? |
|
|
|
|
|
|
||
|
||||
|
המממ. תפסת אותי. לא חשבתי על תורות אף פעם בתור מודלים של איזו תורה אחרת. על תורות מסדר ראשון אפשר לחשוב בתור קבוצות, לא? כלומר, אפשר לדבר על ה-Von Neumann universe, למשל. |
|
|
|
|
|
|
||
|
||||
|
על כל דבר במתמטיקה אפשר לחשוב בתור קבוצה (פחות או יותר). בכל אופן, יש מין שאלת ביצה-תרנגולת כאן. אם יש לך לוגיקה, אתה יכול בעזרתה לדבר על קבוצות ועל כל היקום המתמטי, אם יש לך קבוצות, אתה יכול בעזרתן לתאר את הלוגיקה, אבל משהו צריך לבוא קודם, לא? חזרה לגדל: הניסוח המועדף עלי אומר: כל תורה, או שאין לה תאור סופי, או שהיא פשוטה (במובן שאי אפשר לנסח טענות מסוימות) או שאינה עקבית (אפשר להוכיח ולהפריך כל דבר) או שאינה שלמה (יש פסוקים אי אפשר להוכיח או להפריך). אם אתה מניח שיש מספרים טבעיים "אמיתיים" שם בחוץ, אז אין תאור סופי נכון ומלא שלהם. בפרט אם התאור שלי סופי ונכון, אז הוא אינו מלא, כלומר, יש טענות נכונות שהוא אינו מראה. |
|
|
|
|
|
|
||
|
||||
|
אולי זה זה אפשרי, אבל סביר להניח שנצטרך לסמלץ אורגניזם שלם (כלומר, גם את שאר אברי הגוף) כדי לייצר קלט מתאים. | |
|
|
|
|
|
||
|
||||
|
נו, יחסית לסימולציה של המוח נוירון-נוירון, סימולציה של שאר אברי הגוף (ברמת הרזולוציה שמשפיעה על הקלט הנוירוני) נראית לי משימה פעוטה... | |
|
|
|
|
|
||
|
||||
|
הלוואי שזה היה כך... שים לב כמה זמן לוקח לתינוק ללמוד את יכולות השימוש בגופו שלו. |
|
|
|
|
|
|
||
|
||||
|
זו נראית לי בעיה שונה מאוד מבעיית הסימולציה, אבל אם כבר - אז נו, תוך שלוש-ארבע שנים התינוק כבר די שולט בתורה הזו (ספורטאים, רקדנים ואשפי דוקים ממשיכים ללטש אותה במשך שנים, אבל רק בשוליים של הניואנסים). לעומת זאת, יכולות השימוש במוח הן ארץ לא-נודעת שכולנו, כל חיינו, רק ממפים בה שבילים צרים. | |
|
|
|
|
|
||
|
||||
|
אין לי ספק שאפשר לכתוב קוד ש''מתעצבן, מזמזם מנגינות, ואומר 'זה אדום' כשהוא רואה אבטיח''. זה אפילו לא נראה לי מסובך במיוחד (פרט אולי לזיהוי האבטיח). אבל אני מתקשה להאמין שניתן לפתח קוד שיכול לנהל שיחה באופן שלא יהיה ניתן להבחין אם מדובר בתוכנית או בנאדם אמיתי (ואינטיליגנטי. יש אנשים מסויימים שאפילו מענה קולי מסמלץ לא רע את כישורי השיחה שלהם). ייתכן שבהשקעה ניכרת ניתן ליצור תוכנה שתחקה באופן סביר תגובה אנושית במגוון רחב יחסית של תרחישים, אבל שום פרוצדורה חישובית לא יכולה לכסות את כל המגוון האינסופי של אופני ההתנהגות האנושית. בכל מקרה, אני גם לא מקבל את המבחן הביהוויוריסטי. התנהגות איננה מעידה על מודעות. בובה בוכה איננה עצובה, דמות במשחק מחשב איננה חושבת או מרגישה שום דבר, משיבון קולי לא באמת יודע מה מחיר הכרטיס, או בכלל מה זה כרטיס. וגם התוכנית שניצחה את קספרוב בשחמט לא מבינה שחמט, אפילו אם לקספרוב היה נדמה אחרת. |
|
|
|
|
|
|
||
|
||||
|
אבל אני לא דיברתי על כתיבת קוד שמתעצבן, מזמזם מנגינות וכו'. אני דיברתי על סימולציה של המוח נוירון-נוירון, שעושים אותה בלי להניח א-פריורי מה ייצא, ובסוף מתברר שיוצא משהו שמתנהג כמו אדם תבוני. גם לי יש ספקות באשר למבחן ההתנהגותי (כלומר, תלוי מה טוענים שהוא מוכיח). אבל אם אני זוכר נכון אז אתה, כמוני, מניח שאנשים אחרים הם תבוניים כמוך בגלל השילוב של ההתנהגות עם ההנחה שהם בנויים כמוך. בניסוי המחשבה שלי יש מכונה שמשלבת התנהגות תבונית עם מבנה שלפחות מאספקט אחד, שנראה חשוב, בנויה כמוך. |
|
|
|
|
|
|
||
|
||||
|
אז זהו, שאני לא מאמין שאם תסמלץ רק את ההתנהגות הקלאסית של הנוירונים במוח תקבל משהו שמתנהג כמו אדם. התרחשות כזו תותיר אותי פעור פה בתדהמה, כמו תגובתי למישהו המדגים מכונה המייצרת אנרגיה יש מאין. ואם כן? אז, ביקום ההיפותטי הזה, קיבלת סימולציה של התנהגות אנושית, לא התנהגות אנושית. אני לא חושב שמערכת המסוגלת לאופרציות לוגיות בלבד בנויה כמוני. אפילו אם די היה באספקט הקלאסי של הפעילות המוחית כדי לחקות את ההתנהגות שלי, אני לא מוצא סיבה להאמין שאספקט זה מסוגל לממש עולם פנימי כמו שלי. |
|
|
|
|
|
|
||
|
||||
|
מה ההבדל בין חיקוי ותחושה של ממש? על סמך מה אתה קובע שבנך מרגיש ממש, ולא סתם מחקה אותך ואת אמא שלך, יוצריו ומקור הקוד הגנטי שלו? מה הופך את התגובות של הבן שלך ליותר אותנטיות משל המחשב? שום דבר, מלבד הטעות שאליה אתה מגיע בגלל יכולת ההזדהות שלך עם הבן ולא עם תוכנת המחשב. "לא יודע. אבל עובדה שאני מבין." - עובדה? תוכיח! (לא עובדה ולא נעליים.) "משום שהיא כוללת בתוכה הבנת משמעות" - סלח לי, אבל אני לא מבין. על איזו משמעות אתה מדבר? על המשמעות "תנור - חם - כואב"? תוכנת מחשב יכולה בקלות להבין בדיוק באותה המידה מידע שכזה. על המשמעות "אדום"? זה לא מכיל שום הבנה, זה genetically hard coded לגמרי, זהה לחלוטין לפעולה של מכונה - תופעה פיזיקלית כלשהי מתרחשת בעין (עצבים מושפעים מקרני אור), וחלק מהעין מבצע פעולה פיזיקלית, מבלי להבין בכלל את משמעותה, תכליתה או כל דבר אחר, שגורמת לתופעה פיזיקלית נוספת, שאנחנו מתארים כשידור מידע, לחלק נפרד לגמרי של הגוף, שחי בנפרד ולא מתקשר בכלל עם החלק ששלח את ההודעה (הקולטנים עצמם, בניגוד לשרירים שמזיזים את העין ואת העפעפיים, למשל). "זו טעות איומה, לדעתי" - ולדעתי זו תובנה עמוקה על התודעה האנושית. ע"ע "אדום" ו"תנור - חם - כואב". |
|
|
|
|
|
|
||
|
||||
|
לבעית המשמעות: http://en.wikipedia.org/wiki/Chinese_room | |
|
|
|
|
|
||
|
||||
|
למה אתה חושב שהמוח האנושי עושה משהו שונה מהותית מהמחשב הזה? | |
|
|
|
|
|
||
|
||||
|
זה מבוסס על ההבחנה בין תחביר לסמנטיקה, האם אתה כופר גם בה? | |
|
|
|
|
|
||
|
||||
|
האם התשובה שמפיק המתרגם, שאיננו דובר סינית, איננה רק נכונה תחבירית, אלא גם הגיונית ולעניין? | |
|
|
|
|
|
||
|
||||
|
השאלה בדבר ערך האמת של התשובה המופקת אינה רלוונטית. המימד שמעניין פה הוא היחס של המתרגם עצמו לתשובה שהוא נתן, איזה מין קשר יש ביניהם, ועל איזה עקרונות הוא מושתת. |
|
|
|
|
|
|
||
|
||||
|
אם תפריד (בדמיונך בלבד - לא לנסות בבית) את המוח שלי לחתיכות קטנות, תווכח בקלות שאף אחת מהן לא מבינה את ההודעה שאני מקליד כרגע. עדיין, לא רק שההודעה נכונה סינטקטית, יש לה אפילו משמעות סמנטית, ועוד אחת כזאת שרלוונטית לדיון. אם הבחור בחדר יפיק את אותה ההודעה בתגובה לשלך, ועוד הודעות דומות בבהירותן בתגובה לשאר הודעותיך, לא הגיוני שלא להסיק שהוא חלק ממערכת 1 שהיא תבונית באותה המידה כמוני, על חלקי המוח הרבים והנפרדים שלי, ולא משנה מה התהליך שהוא עובר בכדי להפיק את ההודעות האלו, כל עוד הוא עושה זאת באופן אוטונומי (כוונתי - לא מקבל שדרים *נוספים* מן החוץ. שספר הכללים שמנחה אותו נכתב על ידי אחר לא משנה לדיוננו). 1 חלקה השני - ספר הכללים. השלישי - דפים שעליהם הוא כותב גזירות ביניים, בשל זכרונו המוגבל, והעט שבה הוא משתמש. |
|
|
|
|
|
|
||
|
||||
|
זה הגיוני כל זמן שלא יודעים שהוא כותב על בסיס מניפולציה תחבירית, ברגע שיודעים את זה הגיוני להסיק שהוא לא תבוני. | |
|
|
|
|
|
||
|
||||
|
קרא שוב - אמרתי שהוא חלק אחד ממערכת שהגיוני להסיק שהיא תבונית. אני אוסיף - אין שום הגיון להסיק שהאדם הממוצע הוא תבוני, ושהיא - המערכת שהוא חלק אחד בה - איננה, אם הוא מנפק את אותן התשובות. | |
|
|
|
|
|
||
|
||||
|
מהי המערכת הגדולה יותר שהאדם התבוני הוא חלק ממנה? (כלומר מי שנותן את הפלט בטיעון הסיני)? | |
|
|
|
|
|
||
|
||||
|
בהודעה שביקשתי ממך לקרוא שוב הסברתי שהחלק השני הוא ספר החוקים, והשלישי הוא ניירות (או מחשב) שבהם הוא משתמש כעזר לזכרונו בעת שהוא מבצע חישובים ארוכים. | |
|
|
|
|
|
||
|
||||
|
אנחנו מותנים אינטואיטיבית לפרש התנהגויות אנושיות כמעידות על עולם פנימי. כך אנחנו בנויים. כמובן שזו לא הוכחה לכך שיש לזולת עולם פנימי. אני לא יודע אם אתה מרגיש דברים. אני רק מאמין בזה. אבל אני יודע, בוודאות שאין למעלה ממנה, שאני מרגיש דברים. "עובדה? תוכיח!" - אני לא צריך להוכיח לעצמי שאני מבין, משום שאני מודע להבנה שלי. אני גם לא צריך להוכיח לך שאתה מבין משום שאתה מודע להבנה שלך. העין לא מבינה מהו "אדום". עצבי הראיה לא מבינים מהו "אדום". הנוירונים של עיבוד המידע הויזואלי לא מבינים מהו "אדום". רק התודעה שלך מבינה מהו אדום. לתוכנת מחשב אין תודעה ולפיכך כל מה שהיא יכולה לעשות זה לעבד מידע. היא יכולה להדפיס הודעה "הטמפרטורה היא שבעים וארבע מעלות" בתגובה לקלט מתרמומטר, אבל היא לא יכולה להרגיש את הכאב. מה כואב בביטים? יש בובות שבוכות כאשר משכיבים אותן. אבל הן לא באמת עצובות, אתה יודע. הבהיוויוריזם לא מוביל לשום מקום... המון תלמידים שונאים לימודי מתמטיקה משום שמה שמלמדים אותם בבית הספר זה אלגוריתמים. תכפיל בזה; תחסר מזה; תציב בנוסחה ותחשב. מי שמכיר את האלגוריתם, ואפילו יתרגל אליו, יוכל אולי לפתור את הבעיות אבל הוא לא מבין מתמטיקה. הבנה זה משהו אחר, סוג של "קליק" תודעתי שנמצא מעבר לשיטה לחשב דברים. זה לא הרגל, למרות שהרגל מסייע לזכור את הפרטים וזה בהחלט עוזר להגיע להבנה. |
|
|
|
|
|
|
||
|
||||
|
התמקד בבקשה בפסקה *. אתה אולי "יודע שאתה מרגיש דברים", אבל אתה לא יודע מה טבע ההרגשה הזאת (לא יותר מאדם שחוטף [בסרט הוליוודי] כדור בתחת וצועק "משהו נשך אותי!"), ואין לך שום בסיס להגיד לי שמחשב לא יכול להרגיש הרגשה מקבילה (אם לא יותר אפילו יותר "מודעת" ו"תבונית"). אתה צריך להוכיח לי שאתה מבין (את משמעות הפעולות שאתה מבצע). אני בכלל לא משוכנע בכך. וכשנחשוב על מבחנים שישכנעו אותי שאתה מבין, יהיה תורו של המחשב לעבור אותם, ואם הוא יעבור אותם באותה הצלחה כמוך, לא תהיה לי ברירה אלא להסיק שאו שגם הוא מבין, או שהמבחן פסול - ואז, גם למסקנה *שאתה* מבין קפצתי מהר מדי. פסקה * - הכיוון שאליו חתרתי הוא שגם חלקי המוח השונים לא "מבינים", בצורה שאתה מבין את מונח ה"הבנה", מהו אדום, אלא הם מכונות שפועלות בנפרד וביחד, ומפיקות תוצאות שרק נראות לך כ"הבנה" (שוב, כהבנתך את מושג ה"הבנה"). תודעה? המצאה לשונית שמקורה בטעות, ושתשאר גם אם הטעות תמוגר, בשל הקלות שהיא מכניסה לשיחה. "רק התודעה שלך מבינה מהו אדום. לתוכנת מחשב אין תודעה" - אני לא יכול להדגיש מספיק כמה המשפט הזה חסר בסיס. ראה פסקה קודמת. אני לא מעוניין לפתוח כרגע בדיון על הטעויות שעושים מורי המתמטיקה של ימינו בארץ. אני טוען שגם ברמות הגבוהות ביותר של המתמטיקה - ומצטט מתמטיקאי ידוע שם (שאת שמו אינני זוכר) שמסכים איתי - כל מה שאתה יכול לעשות זה להתרגל, לא להבין; להסיק כללים מהסוג "אם מחברים חמישה תפוזים לשני תפוחים, מקבלים קבוצת פירות שיש התאמה חד-חד-ערכית בינה לבין קבוצת הילדים במשפחה החרדית הממוצעת." מה שאתה מתאר כ"קליק" של ה"הבנה" שגם אם היינו מחברים ארבעה פילים לשלושה סוסים היינו מקבלים את אותה תוצאה מופלאה, זה גם כן התרגלות בלבד - זה מבוסס על הסקה מהפרט אל הכלל, לא "הבנה" קסומה. |
|
|
|
|
|
|
||
|
||||
|
אני יודע ב_ד_י_ו_ק מה טבע ההרגשות שלי, מעצם העובדה שאני חווה אותם. אני אולי לא יודע מה המנגנונים הפיזיולוגיים והפיסיקליים שיצרו אותן חוויות, אבל אני מכיר את החוויות מגוף ראשון, מבפנים, באופן בלתי אמצעי ומוחלט לחלוטין. האם מחשב (כלומר, מנגנון מכני המיישם אלגוריתמים קלאסיים, ללא שום פונקציונליות רלוונטית נוספת) יכול לחוות חוויות כאלו? לדעתי לא, ונתתי מספר הסברים מדוע. וזה לא בגלל שמחשב הוא יציר מלאכותי הבנוי מחומרים אנאורגניים. זה בגלל שמחשב בנוי לעיבוד מידע ותו לא, ואילו חוויה מודעת היא יותר מכך. אם אתה מבין את משמעות הפעולות שאתה מבצע, יש לך סיבה טובה להאמין לכך שאני, הבנוי באופן דומה מאוד לך, ומתנהג באופן דומה מאד, מבין גם כן. מצד שני איזו סיבה, תיאורטית או אמפירית, יש לך להאמין שמערכת אלגוריתמית יכולה להבין משהו? יש שורה שלמה של מושגים בסיסיים שמאבדים את משמעותם אם מניחים שתודעה היא "המצאה לשונית שמקורה בטעות". למשל "רצון", "הווה", "כוונה", וגם "הבנה" ו"משמעות". בעל כורחך אתה נגרר לפוזטיביזם לוגי, תפיסה פילוסופית שנחלה כשלון חרוץ בניסיון להציג מודל קוהרנטי של השפה האנושית. אבל הבעייה הכי גדולה פה היא שאפילו אתה לא ממש מאמין בזה. אתה עדיין מתייחס לעצמך כאל ישות אינטגרטיבית בעלת רצונות, חוויות ועולם פנימי, לא כאל "מכונות שפועלות בנפרד וביחד". ברמה האינטלקטואלית המופשטת אתה יכול להכחיש את עצמך, אבל זו תזה שנמצאת בדיסוננס מוחלט למה שאתה חש ומרגיש. |
|
|
|
|
|
|
||
|
||||
|
אני מניח שאחרים "מבינים" לא בגלל איך שהם בנויים, אלא בגלל איך שהם מתנהגים. אני מאמין שההתנהגות (כמו) שלהם ניתנת לחיקוי מושלם במכונת טיורינג. מכאן אפשר לנחש שגם בינה מלאכותית תזכה לאותה פריוולגיה שאני מעניק להם: אני אניח שהיא "מבינה". זה לא טיעון פילוסופי מוצק לכך שהיא *באמת* "מבינה". אבל אין לי טיעון פילוסופי מוצק גם לכך שהם "מבינים". |
|
|
|
|
|
|
||
|
||||
|
"אני יודע ב_ד_י_ו_ק מה טבע ההרגשות שלי, מעצם העובדה שאני חווה אותם" - אני חולק על כך. אני לא מסכים להנחתך הסמויה שאתה ישות יחידה ומונוליטית. "מצד שני איזו סיבה, תיאורטית או אמפירית, יש לך להאמין שמערכת אלגוריתמית יכולה להבין משהו?" דבר ראשון, כמו שהסברתי כבר, אני לא חושב שהתודעה שלנו היא כמו שנראה לי שאתה מדמיין אותה, מן דבר מונוליטי ועצמאי, ואני לא מסכים איתך לגבי טבעה של "הבנה". דבר שני, תשובה שתפורה יותר עבורך מאשר לשאלה - בגלל שאני לא רואה מניעה תיאורטית לבנות מערכת שתחקה את התהליכים הרלוונטיים במוח שלי, אם לא ביקום שלנו, אז באחד דמיוני, שנבדל רק בכך שהוא מכיל כמות גדולה הרבה יותר של חומר, ושעתיד להתקיים לזמן רב הרבה יותר, כך שמחשב עם מספיק זכרון יוכל להבנות בה, ואפשר יהיה לאפשר לו לרוץ לפרק הזמן האסטרונומי שידרש ממנו. גם טרם שוכנעתי שהיקום שלנו לא עומד בדרישות האלו. מערכת כזאת, או לפחות היציר שלה, יהיה תבוני בדיוק כמוני. אז מה אם הוא מנוהל על פי מערכת חוקים שנקבעה מבחוץ? אני יצרתי את עצמי ואת חוקי הפיסיקה המנהלים את מוחי, וכתוצאה מכך, את תודעתי? "אבל הבעייה הכי גדולה פה היא שאפילו אתה לא ממש מאמין בזה" - אם אדוני קורא מחשבות, אולי אדוני רוצה להיות ה-wingman שלי? וברצינות - אני כן מאמין בזה, ממש מאמין בזה. אני לא רואה מה אמרתי שסותר את זה. |
|
|
|
|
|
|
||
|
||||
|
אני יודע שאני "ישות יחידה ומונוליטית" משום שאני יודע שאני ישות יחידה ומונוליטית. זה לא מסקנה אמפירית. זו ידיעה בלתי אמצעית של עצמי את עצמי. אפשר להמציא עד קץ הדורות תיאוריות לגבי פירוק התודעה ומבנה המוח, אבל הם לעולם לא יוכלו לבטל את הוודאות שבעצמי. כשחם לי אני יודע שחם לי וכשקר לי אני יודע שקר לי. אני לא צריך תרמומטר לשם כך. "אני לא רואה מניעה תיאורטית לבנות מערכת שתחקה את התהליכים הרלוונטיים במוח שלי" - גם אני לא רואה מניעה כזו. אבל זה לא מה ששאלתי. שאלתי לגבי מערכת אלגוריתמית. מדוע אתה משוכנע שהמוח הוא מערכת כזו? על סמך מה? אם אדם עומד ברחוב וצועק "אני לא קיים" קשה להתייחס אליו ברצינות. אם אתה כותב שתודעה היא "המצאה לשונית שמקורה בטעות" האפקט דומה. לא צריך לקרוא מחשבות כדי להבחין בדיסוננס. אתה כותב "אני כן מאמין בזה, ממש מאמין בזה". מי זה ה"אני" הזה שמאמין, ומה משמעות העובדה שהוא "מאמין" במשהו? |
|
|
|
|
|
|
||
|
||||
|
אבל יש כמה תיאוריות רציניות מאוד לגבי "ריבוי חוטים" (multithreading) במוח1, כך שלא ברור כלל אם כל אחד מאיתנו הוא "ישות יחידה ומונוליטית". ישות יחידה, כן, אבל מונוליטית? לא ודאי. 1 לא מפליא, בהנתן שהמוח הוא dual-core, shared-bus architecture. |
|
|
|
|
|
|
||
|
||||
|
המוח פועל בוודאי באופן סופר מקבילי, אבל אני עוסק רק בתודעה. תחושת העצמי שלי היא מה שמגדיר מבחינתי את ה''מונוליטיות'' שלה. | |
|
|
|
|
|
||
|
||||
|
[צ] אני יודע שאני "ישות יחידה ומונוליטית" משום שאני יודע שאני ישות יחידה ומונוליטית[/צ] אני יודע את ההפך (משום שאני יודע את ההפך). [צ] זו ידיעה בלתי אמצעית של עצמי את עצמי [/צ] בדיוק כמו הידיעה הבלתי אמצעית של השכן חובש הכיפה שלי, שאנחנו אחים, והידיעה הבלתי אמצעית שלי, שאנחנו לא. סלח לי, אבל אין לי שום כוונה ליחס חשיבות לדיעותיך הבלתי מנומקות שלך על עצמך. [צ] מדוע אתה משוכנע שהמוח הוא מערכת כזו? על סמך מה? [/צ] לא חושב שאמרתי שהמוח הוא "מערכת אלגוריתמית". אמרתי שהמוח הוא מכונה, ושההתנהגויות המורכבות שהוא מפיק נראות לך בטעות כמו "הבנה", "מודעות עצמית" וכו', ושלמעשה הן אך ורק תופעות פיסיקליות, שאין שום מניעה תיאורטית שמכונה מסוג שונה - נגיד מחשב מהדגם המוכר לנו, אבל חזק יותר - יוכל להפיק התנהגות מקבילה להן; ושהיא תהיה "מודעת לעצמה" ו"מבינה" **ו"אמיתית"** בדיוק באותה המידה. [צ] אם אדם עומד ברחוב וצועק "אני לא קיים" קשה להתייחס אליו ברצינות. [/צ] אבל זה בכלל לא מה שטענתי. מה שטענתי הוא שטבע הקיום שלי שונה לגמרי מכמו שאתה מציג אותו. השתדל בבקשה לדייק. |
|
|
|
|
|
|
||
|
||||
|
אם השכן שלך *חושב* שאתם אחים, אז הוא יודע בוודאות שזה מה שהוא חושב. הידיעה של אדם את המחשבות שלו היא בלתי אמצעית. מצד שני הידיעה שהארץ היא כדור, או שהירח עשוי גבינה, בין אם זו ידיעה נכונה ובין אם היא שגויה, איננה ידיעה בלתי אמצעית. היא טענה לגבי המציאות האמפירית, לגבי עולם התופעות ולא לגבי עולם החוויות, והיא תלויה בפרשנות שאתה נותן לקלט החושים. אם אתה כותב "אני יודע את ההפך" אתה צריך לפרש מיהו ה"אני" שיודע זאת. אם יש "אני", מסויים, ספציפי, אינטגרטיבי שיודע משהו, כיצד הוא יכול להעיד על אי הקיום של עצמו? האם אינך שם לב לסתירה העצמית? "אמרתי שהמוח הוא מכונה" - כל דבר בעולם התופעות הוא מכונה, בכלל זה המוח. איפה טענתי אחרת? ניתן, עקרונית, ליצור מכונה חושבת. ניתן, עקרונית, גם ליצור אדם במבחנה. אולם זה לא יהיה מחשב, אלא משהו שעושה שימוש אחר בחוקי הטבע. "ההתנהגויות המורכבות שהוא [המוח] מפיק נראות לך בטעות כמו 'הבנה', 'מודעות עצמית' וכו', ושלמעשה הן אך ורק תופעות פיסיקליות" - יש לך בלבול מושגים. "הבנה" ו"מודעות עצמית" אינן התנהגויות ובטח לא תופעות. הם נואמנה, לא פנומנה. יכול להיות להם ביטוי התנהגותי, אולם אין הן שקולות לביטוי ההתנהגותי. ברור שהמוח הפיסיקלי יוצר את כל ההתנהגויות האנושיות, וקיומו חיוני גם לקיומה תודעה, אולם אינך יכול לספק איפיון מלא ושקול ערך למושג כמו "הבנה" על בסיס גדלים פיסיקליים מדידים יותר משאתה יכול לתאר סימפוניה לחרש מלידה. |
|
|
|
|
|
|
||
|
||||
|
אני מקבל שהתשובה שלי עם השכן לא הייתה טובה, אבל אני עדיין לא מסכים עם כל השאר. ''כיצד הוא יכול להעיד על אי הקיום של עצמו'' - שוב, לא אמרתי שאני לא קיים, אלא שאני לא ישות מונוליטית ושאני שונה בטבעי ממה שנראה לך. מצב אנלוגי הוא שאני כותב ''אנחנו לא אלעד, אנחנו חמישה אנשים שכותבים את ההודעה הזו ביחד,'' ואתה עונה לי שלא יכול להיות שאף אחד לא כתב את ההודעה הזאת. נמאס לי מהדיון. |
|
|
|
|
|
|
||
|
||||
|
אז מה אם אתה ישות לא מונוליטית? זה לא סותר את עיקרי הדברים של השייח בפתיל הזה. אני בהחלט מאמין שה"אני" וידיעותיו וחוויותיו הוא תוצאה של מערכת מורכבת, מבוזרת ומבולגנת - אבל שמועיל ותקף לראות את המערכת הזו ברמת ההפשטה שבה היא כן ישות אחת - אני. ואני מסכים בהחלט עם השייח (בעקבות דקארט וקאנט וכאלה) שהחוויות שלנו בגוף ראשון הן נתון ודאי, ששום ידיעה על התת-מערכות לא יכולה להפריך. למעשה, הודאות הזו היא תנאי בסיסי בכל הסקה תצפיתית ובכל הסקה לוגית (איך אתה יודע שהמחוג של האמפרמטר הראה 8? כי ראית זאת. איך אתה יודע שראית זאת? אתה פשוט יודע. מה שנחשב למדעי הוא רק מה שפומבי, אבל כל מי שרוצה לעשות שימוש כלשהו בידע הפומבי הזה (למשל, לדעת אותו) צריך להשתמש במנגנוני הגוף-ראשון הלא פומביים שלו. |
|
|
|
|
|
|
||
|
||||
|
"אז מה אם אתה ישות לא מונוליטית?" - אז מה? אז אני רומז למה שאני כן - אוסף של אטומים חסרי בינה, שמרכיבים רקמות בודדות במוח שלי, שגם הן חסרות בינה, וכל העסק הזה, למרות שהוא מכניסטי לגמרי, מרכיב משהו שחושב, מרגיש ומודע לעצמו - לפחות לדעתו של שייח ספיר. ואם החלבונים הבלתי-מודעים של המוח שלי מסוגלים להקים דבר שכזה, למה שדבר דומה לא יוכל לקרות גם עם רכיבים וירטואליים? ואני לא מתכוון רק לסימולציה של מוח אנושי על מחשב, אלא גם לתוכנות מקוריות וחדשות שיפיקו התנהגות שנראית לנו מודעת לעצמה. כשספיר מסתכל על מחשב, הוא מתעקש להשתמש רק בזום הגבוה ביותר שעומד לרשותו, ולהצהיר "לא יכול להיות שסט חוקים של העברת אפסים ואחדים מימין לשמאל ייצר 'מודעות'!" אבל כשהוא מסתכל עליי ועל עצמו, הוא פתאום מוכן להביט בתמונה הגדולה, לראות רק את התוצאה המורכבת שמופקת, את הרגשת העצמיות הסובייקטיבית שלו (שלא ברור לי עדיין למה מחשב לא מסוגל לה), והוא מסרב לבחון "את הברזלים", ולראות שאני והוא לא שונים מהותית ממחשב, מהבחינה שיש לנו מודעות שמורכבת מאוסף (מצטער על החזרה) של דברים לא-מודעים. "אבל שמועיל ותקף לראות את המערכת הזו ברמת ההפשטה שבה היא כן ישות אחת - אני" - גם אני חושב ככה, ולכן אני בכלל מדבר על "אני". |
|
|
|
|
|
|
||
|
||||
|
אבל השייח כתב "אני יודע ב_ד_י_ו_ק מה טבע ההרגשות שלי, מעצם העובדה שאני חווה אותם", ואתה כתבת שאתה חולק על כך. למה? לעיקר הדברים, השאלה שבמחלוקת היא "נניח שהתודעה האנושית היא תוצאה של תהליכים פיזיקליים פשוטים ברמה הנמוכה (נדמה לי שגם השייח מסכים להנחה הזו), האם ייתכן שניתן להפיק תודעה כתוצאה של תהליכים *חישוביים* פשוטים?" ונניח ששמים בצד את טיעון פנרוז ודומיו, ומבקשים להישאר בתחום הטיעונים המטאפיזיים. אז נראה לי שיש ביניכם מחלוקת סמויה, שכדאי להציף אותה, על מי נטל ההוכחה. מצד אחד, אנחנו יודעים איך אפשר להפיק כתוצאה מתהליכים חישוביים אפקטים של הנפש כמו זכרון, הסקת מסקנות וכו'. מצד שני, אין לנו עדיין מושג ירוק איך להפיק תודעה. מכיוון אחר, אין לנו עדיין מושג ירוק איך להסביר את התודעה על-סמך מה שאנחנו יודעים על פעילות הנוירונים ומרכיבי המוח - אילו היינו יודעים, היינו יכולים אולי להרכיב את הרכיבים החישוביים המתאימים בסדר הנכון, ולדעת שנקבל תודעה. אבל אנחנו לא. אתה ואחרים כאן שוב ושוב דורשים מבחנים התנהגותיים לתודעה. אבל זו נראית לי מלכתחילה דרישה לא הוגנת: אנחנו יודעים מה זה בכלל תודעה על סמך החוויות בגוף ראשון. לכן קשה מאוד לשכנע שמבחנים התנהגותיים כלשהם יעידו על תודעה - שוב, נשאלת השאלה על מי חובת ההוכחה. אני דווקא משתעשע במחשבה שאפשר לבחון האם למכונה מלאכותית תבונית-מבחינה-התנהגותית יש קוואליה1, כך: נשאל אותה "האם יש לך קוואליה?". אפשר, כמובן, לתכנת אותה כך שהיא בכל מקרה תענה "כן". אבל אני לא מעוניין כאן במכונה שתעבור את מבחן טיורינג. עם קצת מזל, אני מקווה שאם אפשר לתכנת מכונה תבונית-מבחינה-התנהגותית, אז אפשר לתכנת אותה שתהיה *כנה* - שמתוך הבנת הקוד שלה אנחנו יודעים שהיא לא משקרת2. אם אין לה קוואליה, בהכרח או שהיא תאמר "לא", או שהיא תאמר "אני לא מבינה מה זה קוואליה", ולא נצליח להסביר לה. במילים אחרות, הסיבה הכי משכנעת שגורמת לי להאמין שלרוב האנשים יש קוואליה היא שדי קל להסביר לרובם מה זה קוואליה. 1 בפתיל אחר התווכחתי עם השייח, וטענתי שלטעמי קוואליה היא לא תנאי קריטי לתבוניות, ושמה שתבוני מבחינה התנהגותית הוא מבחינתי תבוני-נקודה, גם אם אין לו חוויה של הבנה. הסיוג כאן "מבחינה התנהגותית" הוא כדי להישאר במונחים שיותר בקונצנזוס. 2 יכול להיות ששקר הוא תוצר לוואי הכרחי של תבונה, ויכול להיות שהוא תוצר-לוואי שאינו הכרחי אבל שברמת מורכבות התוכנה של תבונה-התנהגותית כבר לא נדע האם היא עשויה לשקר או לא. אבל שתי האפשרויות האלה נראות לי אינטואיטיבית קצת פחות סבירות מהאפשרות שאני מניח - כאמור, עם קצת מזל. |
|
|
|
|
|
|
||
|
||||
|
כתבתי שאני מסכים שהדוגמה עם השכן לא הייתה טובה. העניין שהשכן מדבר על משהו חיצוני לו, בזמן שהוא מדבר על משהו פנימי לו, היה חלק מהסיבה שהדוגמה עם השכן לא טובה. לדעתי חובת ההוכחה על מי שטוענים שיש בתודעה משהו שהוא מעבר למשהו מכניסטי, שההרגשת העצמי היא משהו מיוחד שיש טעם להתייחס אליו, ולא רק להתנהגויות שנובעות ממנו. זה שאנחנו לא מבינים *עד הסוף* איך הגוף האנושי מפיק את התודעה והתנהגויותיה, לא אומר שהפקת אותן ההתנהגויות בדרכים אחרת היא פחותה או שונה מהותית. למה? כי אין לנו שום ראיה שזה לא ככה. כי הראיות היחידות שיש לנו לשם השוואה הן ההתנהגויות המופקות, וטרם הוצגה סיבה להאמין שזה לא מספיק, שיש בכלל משהו מעבר לזה. |
|
|
|
|
|
|
||
|
||||
|
"חובת ההוכחה על מי שטוענים שיש בתודעה משהו שהוא מעבר למשהו מכניסטי" - אם "מכניסטי" = פיזיקלי, אני מסכים, ואני חושב שגם השייח. אם "מכניסטי" = חישובי, לא התשכנעתי על מי חובת ההוכחה. בעצם, אני צריך שתזכיר לי את עמדתך בנוגע לקוואליה. נניח שמחשב מתנהג כמו בעל-תודעה. האם, לשיטתך (א) יש לו תודעה, ויש לו קוואליה (ב) יש לו תודעה, אבל אתה לא יודע האם יש לו קוואליה או לא (ג) אין דבר כזה קוואליה (ד) אחר (פרט) |
|
|
|
|
|
|
||
|
||||
|
לשמחתי הרבה, יש בויקיפדיה ציטוט בנושא של מי שכתביו בנושאים הנ"ל תמיד גורמים לי להרגיש שהוא הוציא לי את המילים מהפה (ושיפץ אותן משמעותית) - מארווין מינסקי. שוב אני מצליף בעצמי על שלא מצאתי את הזמן להמשיך לקרוא את ספרו The Society of Mind. "Now, a philosophical dualist might then complain: "You've described how hurting affects your mind — but you still can't express how hurting feels." This, I maintain, is a huge mistake — that attempt to reify 'feeling' as an independent entity, with an essence that's indescribable. As I see it, feelings are not strange alien things. It is precisely those cognitive changes themselves that constitute what 'hurting' is — and this also includes all those clumsy attempts to represent and summarize those changes. The big mistake comes from looking for some single, simple, 'essence' of hurting, rather than recognizing that this is the word we use for complex rearrangement of our disposition of resources". דרך אגב, מה זה "*יש* לך קוואליה"? חשבתי שהמשמעות של "קוואליה" הוא "טבעה של התחושה", או "איך זה מרגיש לחוש [את איקס]". מבלי לקרוא את כל הערך, נראה שויקיפדיה מסכימה איתי.
|
|
|
|
|
|
|
||
|
||||
|
בדיון הזה עלתה האפשרות, שלרוב האנשים נראית אפשרית לוגית (ולחלקם נראית גם אקטואלית), שתחושת האדום שלך שונה מתחושת האדום שלי - לצורך העניין (בעקבות ניסוי המחשבה הפילוסופי הסטנדרטי לעניין הזה) נניח שאני חווה אדום כפי שאתה חווה ירוק, וההפך. קל לראות שלא ניתן יהיה להסיק הבדל כזה מהתנהגותנו. האם לך זה נראה אפשרי לוגית? (קוואליה היא "איך זה מרגיש לחוש", בדגש על החווייה. לרבים, וגם לי, נראה אפשרי לוגית שמשהו יתנהג, לפחות מרוב הבחינות, כמוני, אבל ללא חוויית תחושה. תחת הנחה זו יש משמעות לשאלה "האם יש לו קוואליה", ששאלתי דווקא בגוף שלישי ולא שני.) |
|
|
|
|
|
|
||
|
||||
|
אז אולי תוכל להבהיל לי מה קשורה קוואליה לעניין הבינה מלאכותית? קוואליה בצד ונוירולוגיה בצד, האפשרות שיש משהו *בהתנהגות* האנושית שאינו ניתן לתיאור אלגוריתמי נשמע לי מיסטי. זה אולי קצת מסובך, אבל בלתי אפשרי באופן עקרוני? אני לא מצליח להבין למה. הנה ניסוי מחשבתי: מצליחים לבנות מכונה שמתנהגת בדיוק כמו אדם, ומסוגלת לנהל שיחות ומערכות יחסים בסביבה אנושית כמוני וכמוך. אבל בזכות פריצת דרך מדעית-פילוסופית, אפשר להוכיח שהיא לא חווה דבר (על סמך האופן בו בנו אותה, לא על סמך באופן בו היא מתנהגת). זו הצלחה או כישלון, לתומכים בתזה החישובית? |
|
|
|
|
|
|
||
|
||||
|
לדעתי היא לא קשורה. לעניין הניסוי שלך - אני מנחש שמחנה התומכים בתזה החישובית יתחלק לכאלה שיראו בזה הצלחה, כאלו שיראו בזה כישלון, ורוב שיחשבו שזה לא משנה. אבל שאלה יפה בהחלט. | |
|
|
|
|
|
||
|
||||
|
אפשרי, אבל לא משנה דבר. מאותה הסיבה שזה לא מדיד - לא משנה דבר - זה גם לא מעניין (''לא מעניין'' מהבחינה של ''חשוב''. לשבת ולתת למחשבות להתרוצץ על זה דווקא שורף את הזמן יופי). | |
|
|
|
|
|
||
|
||||
|
אז בוא נתחיל מזה שאתה קצת חולק על מינסקי: כאב הוא לא זהה לסט מסוים של נטיות ההתנגותיות, לכל היותר ההבדל ביניהם לא מעניין. חוץ מזה, ההבדל הזה הוא עיקרו של מה שמתכוונים אליו לרוב כשמדברים על תודעה. יכול להיות שלרוב הצרכים תודעה היא באמת לא כל כך מעניינת כמו שעושים ממנה: כפי שאמרתי כבר בדיון, אני בהחלט אשמח לקרוא למחשב "נבון" גם אם אין לו שמץ של *חוויית* הבנה. |
|
|
|
|
|
|
||
|
||||
|
הסבר בבקשה שוב באיזו צורה אני חולק על מינסקי. | |
|
|
|
|
|
||
|
||||
|
מהציטוט שהבאת ממינסקי קשה לי לשים את האצבע בדיוק מה דעתו בסוגיה, אבל רוח הדברים שאני מבין היא שהכאב, וכמוהו תחושת הירוק, אינן אלא סך ההתנהגויות (יחסי הקלט-פלט), והקשרים למצבי נפש אחרים, שקשורים בראיית ירוק (בז'רגון, התזה הפונקציונליסטית, אחותה הצעירה והמוצלחת של התזה הביהייביוריסטית). בניסוי המחשבה שבו אנו הפוכים רק בתחושת הירוק הסובייקטיבית שלנו, אין בינינו הבדלים בהתנהגויות ובקשרים, ומכאן שאין הבדל בתחושת הירוק. | |
|
|
|
|
|
||
|
||||
|
ואני חולק עליו? | |
|
|
|
|
|
||
|
||||
|
אתה הסכמת שיש הבדל (אמנם לא מעניין) בתחושת הירוק. | |
|
|
|
|
|
||
|
||||
|
לא אמרתי שיש הבדל, אמרתי ש"אפשרי" שיש הבדל. אני לא חושב שמינסקי יתווכח עם זה. יש הבדל בין מערכת שזוכרת את מספר העיניים שלי כ-int או כ-uint? יש הבדל. משפיע על משהו? לא ממש. ואם אי-פעם יהיו לי מספיק עיניים בכדי ש-uint לא יספיק, אז יהיה לנו כבר הבדל מדיד בין שתי התפיסות של המספר - או, אם נחזור למקור, להבדל בין מי שתופס ירוק כאדום. | |
|
|
|
|
|
||
|
||||
|
והנה, תוך זמן קצר דורפל בא והזכיר לך שלפעמים קשה מאד להסביר לאנשים מה זה קוואליה. | |
|
|
|
|
|
||
|
||||
|
"זה בגלל שמחשב בנוי לעיבוד מידע ותו לא, ואילו חוויה מודעת היא יותר מכך" זה הנתון, או מה שאתה רוצה להוכיח? "ברמה האינטלקטואלית המופשטת אתה יכול להכחיש את עצמך" אם אני מאמין בכל לבי שלדולפינים, כלבים, נדנדות (ומחשבים) יש תודעה עצמית - מדוע אני מכחיש את עצמי? אני ישות אינטגרטיבית בעלת רצונות, חוויות ועולם פנימי, אבל כך גם אתה, וגם המחשב שייבנה בעוד 100 שנה (אולי). |
|
|
|
|
|
|
||
|
||||
|
אני רוצה להדגיש שיש הבדל (לפעמים גדול) בין ה*מודעות* להבנה לבין ההבנה עצמה. | |
|
|
|
|
|
||
|
||||
|
אני רוצה להדגיש שיש הבדל (לפעמים גדול) בין ההבנה עצמה לבין הבנה. | |
|
|
|
|
|
||
|
||||
|
ובאמת, אני לא הבנתי. | |
|
|
|
|
|
||
|
||||
|
במידה שהתכוונתי למשהו שדורש הבנה, הרי זה הדבר הבא - שכיוון שבמושג "הבנה" נכלל עניין של "אמת" (כלומר, קצת קשה לומר שמישהו הבין את X אם הוא לא הבין אותו "נכון"), וכיוון שחלק גדול מאוד מהדברים שאנחנו "מבינים" יכולים להתגלות כשגויים מאוחר יותר (כך שהדיעבד מתברר שבעצם לא הבנו אותם), אזי לא כל הבנה היא הבנה, בעצם... | |
|
|
|
|
|
||
|
||||
|
אני ניסיתי להגיד משהו קצת שונה. נתקלתי כבר באנשים שניכר בהם בעליל שהם אכן חוו את חווית ה*קליק* ששייח ספיר דיבר עליו ושהם אכן *חוו* הבנה, אבל רק אחרי שהם היו צריכים להתמודד עם הדבר (שאותו הם היו אמורים להבין) התברר לצופה מן הצד שהם אינם מבינים. מה שמעניין הוא שהם לפעמים המשיכו לטעון שהם מבינים. אני מניח שכל האנשים הללו הם אוטומטים חסרי תודעה על פי הגישה של שייח ספיר. זה גם מראה את החשיבות של צופה חיצוני כשבאים להבדיל בין החוויה של מודעות לבין המודעות עצמה1. 1 ואל תשאלו אותי כיצד מישהו שאין לו תודעה יכול לחוות חוויות. |
|
|
|
|
|
|
||
|
||||
|
זה לא כל כך ברור לי. אשמח לדוגמא. | |
|
|
|
|
|
||
|
||||
|
פעמים רבות קרה לי שחוויתי הבנה (נגיד בקשר לפתרון של בעיה) ורק מאוחר יותר התברר לי ששגיתי ושה''הבנה'' שלי הייתה שגויה (לפעמים מאד שגויה). | |
|
|
|
|
|
||
|
||||
|
תודה. (נדמה לי ש)הבנתי. | |
|
|
|
|
|
||
|
||||
|
נתת פעם שיעורים פרטיים בחשבון? אני כן (זה היה כישלון טוטלי מצידי, אבל הפקתי כמה תובנות) . נתקלתי במספר תלמידים ש"הבינו" את ההסבר שלי, הברק בעיניהם ניצת, ואז כשלו בתרגיל. כשלו פעם ופעמיים, אבל כל פעם, לאחר שהם עקבו שוב אחרי הפיתרון שלי, שוב הבריק הברק בעיניהם. פעם פגשתי חבר לכיתה שלי לפני הבחינה, ושוחחתי איתו על תרגיל מטיפוס מסויים. הוא "הרגיש" שהוא הבין אותו. כשהוא יצא מהמבחן הוא שמח לבשר לי שבבחינה היתה שאלה בדיוק כזאת ושהוא בטוח בציון טוב. הוא טעה. קראתי גם שסמי הזיה מסויימים מספקים *תחושה* של הבנה. אז אם מישהו מרגיש שהוא מבין, אני סומך עליו שזאת התחושה שלו, אבל אני לא סומך על ההבנה שלו בלי הוכחות נוספות. יש כמובן גם את הטיפוסים ההפוכים שבטוחים שהם לא מבינים כלום ובסוף מצליחים יפה, אבל במקרה כזה יותר קשה להבדיל בין דימוי עצמי נמוך לבין מפחד מעין הרע. |
|
|
|
|
|
|
||
|
||||
|
נתתי שיעורים פרטיים במתמטיקה ועניין כזה לא זכור לי, אבל זה היה מזמן. לא זכור לי מצב של בחינה במתמטיקה שבה הערכתי לא נכון את הבנתי (בדרך כלל בתחושה שאכן הבנתי...). לא זכור לי גם מצב של בחינה בפיזיקה (בתיכון, לא המשכתי בזה) שבה הערכתי לא נכון את הבנתי או את הציון הצפוי לי (בדרך כלל בתחושה שלא הבנתי, אבל שעברתי היטב את הבחינה)... |
|
|
|
|
|
|
||
|
||||
|
אז כנראה שאין לך קוואליה. | |
|
|
|
|
|
||
|
||||
|
וממה אתה מסיק את זה? | |
|
|
|
|
|
||
|
||||
|
סתם, תחושה. | |
|
|
|
|
|
||
|
||||
|
עכשיו הוכחת לי שלך יש... | |
|
|
|
|
|
||
|
||||
|
"הגישה של שייח ספיר" היא שהחוויה של הבנה היא תנאי הכרחי להבנה (ובפרט, להבנה נכונה), לא שהיא תנאי מספיק. אבל אם לא התקיימה חווית ההבנה, למשל אם תלמיד שינן אלגוריתם לפתרון בעייה מסויימת מבלי לעבור תהליך נפשי מסוים, אותו "קליק" תודעתי בו מתבהר לו מדוע זה פתרון *נכון*, מובטח לך שהוא לא מבין. | |
|
|
|
|
|
||
|
||||
|
לא. ביקשו ממך להוכיח שאתה מבין ואמרת שאין צורך בכך משום שאתה ''מודע'' להבנה שלך. זאת שטות. הרבה אנשים מודעים לכך שהם מבינים אבל למרות המודעות הם לא מבינים. קרא לזה תודעה כוזבת. חובת ההוכחה, גם כלפי עצמך, לא מסתיימת ב''מודעות'' להבנה שלך. | |
|
|
|
|
|
||
|
||||
|
פנרוז הוא פיזיקאי-מתמטיקאי חשוב ומוכשר, אבל הטיעונים שלו בדבר התודעה: 1. אינם קשורים למחקר המדעי שלו 2. אינם חזקים 3. אינם סותרים תודעה מלאכותית (אלא דורשים שתתבסס על מכניקת הקוונטים) |
|
|
|
|
|
|
||
|
||||
|
1. נראה לי שפנרוז עצמו בהחלט מתייחס גם לתיאורית התודעה שלו כחלק מהמחקר שלו. אבל מה זה משנה? הטיעון הוא מה שחשוב, לא ההוגה שלו. 2. טרם נתקלתי בביקורת תקפה המערערת את הטיעון של פנרוז, אבל אתה מוזמן להציג אחת כזו. 3. לא דיברתי על "תודעה מלאכותית" אלא על תודעה חישובית. אינני רואה גבול מהותי בין טבעי למלאכותי. עקרונית ניתן לייצר גם מוח ביולוגי במעבדה. |
|
|
|
|
|
|
||
|
||||
|
אם "תודעה איננה תופעה חישובית" אז מה היא כן? | |
|
|
|
|
|
||
|
||||
|
"חוויה מודעת זה דבר שלא ניתן לתאר או למדל" - זוהי טענה שדומה במקצת לויטאליזם: הטענה שביצורים חיים פועלים כוחות\אנרגיות מיוחדים\מיוחדות שאינן מוסברים ע"י כימיה או פיזיקה רגילה. הויטאליזם נעלם מהביולוגיה הרפואה המערביים, ביחד עם התפתחות המיקרוסקופ והצטברות הידע הביולוגי. אבל זה עדיין קיים ברפואה האלטרנטיבית והמזרחית. בכל מקרה, זוהי טענה שיש לה חלקים מטאפיזיים שקשה מאד להתווכח איתם. לך תדע, אולי באמת יש אנרגיות של יאן ויאנג שאי אפשר למדוד בתוך התודעה. לגבי החלקים שכן אפשר למדוד, אז אין לתיזה הזו שום ניסוי שתומך בה. כלומר, כל תופעה מחשבתית שנבדקה קשורה לאיזשהי פעילות ניורולוגית. ולא נמצאה שום פעילות ניורולוגית שלא ניתן להסביר בתור כימיה רגילה. |
|
|
|
|
|
|
||
|
||||
|
חושבני שאתה מכיר אותי מספיק כדי לדעת שאני לא חולק עליך בעניין זה (אגב, זה לא היית אתה שטען בשעתו שאין בכלל דבר כזה שנקרא תודעה?) | |
|
|
|
|
|
||
|
||||
|
טענתי שאין דבר כזה ''קוואליה''. | |
|
|
|
|
|
||
|
||||
|
אה, סליחה. אבל עכש"ז הטיעון שלך היה שמדובר במשהו סובייקטיבי שאינו ניתן למדידה ולכן אינו קיים. התודעה אינה נופלת באותו מבחן? | |
|
|
|
|
|
||
|
||||
|
לא, אני חושב שתודעה זה בהחלט משהו שכן ניתן למדידה. אני בטוח שגם אתה מכיר את מבחן הראי. ואני בטוח שיש מבחנים פסיכולוגיים הרבה יותר מתקדמים. אם אנחנו מתייחסים אל תודעה בתור תופעה ניורולוגית אנושית, אז בהחלט אנחנו קרובים ליום שבו נוכל להבחין לפי גלי מוח בלבד בין אדם שמודע למה שקורה איתו, אדם השרוי תחת היפנוזה (לא שאני באמת מבין מה זה היפנוזה), אדם שעושה את עצמו מבין מה זה קוואליה ואדם שבאמת מבין מה זה קוואליה. | |
|
|
|
|
|
||
|
||||
|
אני רוצה להפנות אלייך שתי שאלות: א. באילו הנחות מטאפיזיות אתה אוחז? ב. אתה פוזיטיביסט לוגי? |
|
|
|
|
|
|
||
|
||||
|
א. לא יודע. אולי תתן דוגמא ואני אגיד לך אם אני אוחז בזה. ב. לא יודע. |
|
|
|
|
|
|
||
|
||||
|
תופעה לא חישובית. | |
|
|
|
|
|
||
|
||||
|
אה. תודה. | |
|
|
|
|
|
||
|
||||
|
תוצר לואי של תופעה חישובית | |
|
|
|
|
|
||
|
||||
|
משום מה כל המגיבים הפיזיקילסטיים כאן מיהרו לויכוח המוכר, האם קיום קוואליה (חוויית הכאב, חוויית הצבע האדום) סותר את האפשרות לנפש חישובית, או לנפש פיזיקלית. אבל אתה טענת כאן טענה יותר חזקה ויותר נדירה, לפיה קיום קוואליה סותר את האפשרות ל*בינה* מלאכותית. וזה מוזר. מה לקוואליה (ולרגשות "בסיסיים" בכלל) ולתבונה? נניח שימציאו כדור נגד כאבים מוצלח במיוחד, שאתה לוקח אותו ומפסיק בכלל להרגיש כאב - האם זה יעשה אותך נבון פחות? אולי אתה מעדיף להגדיר בינה באופן שכולל את התחושות האלו כחלק מהותי - אבל אם כן, אתה פשוט מגדיר אותה בצורה חזקה יותר מחוקרי הבינה המלאכותית - "כל" מה שהם רוצים מהבינה המלאכותית הוא יכולת לתרגם טקסט במדויק, להוכיח משפטים במתמטיקה, ולהלחין מוזיקה יפה - אני לא רואה למה משהו מזה מצריך קוואליה של כאב או של אדום. תחושת ההבנה היא מקרה ביניים: יש יותר מקום לטעון שהיא נחוצה לבינה, גם במובן המצומצם-המקובל של בינה. מאידך, פחות ברור שהיא לא תופעה חישובית. האם הבנה היא באמת קוואליה? גם אם יש חוויה של הבנה, נראה לי די ברור שזה רק היבט אחד של הבנה, שאפשר להפריד אותו מושגית מההיבט החישובי של ההבנה, זה הכרוך בהסקת מסקנות. אני לא רואה שההיבט החווייתי נחוץ במיוחד להיבט החישובי - ומכאן, למה שמחפשים חוקרי הבינה המלאכותית. |
|
|
|
|
|
|
||
|
||||
|
רמת המודעות הדרושה לחשיבה תבונית היא גבוהה הרבה יותר מזו הדרושה לחוויה רגשית או תחושתית. לכן יש פה קל וחומר. אם אינך יכול לייצג "כאב" באופן חישובי, וזו אולי אחת החוויות הבסיסיות והאוניברסליות ביותר, איך תהיה מסוגל לייצג הבנה מורכבת ומופשטת? "נניח שימציאו כדור נגד כאבים מוצלח במיוחד, שאתה לוקח אותו ומפסיק בכלל להרגיש כאב - האם זה יעשה אותך נבון פחות?" - אני לא טוען שצריך לחוות כאב על מנת להיות נבון. אתה גם לא צריך בהכרח לדעת לנגן בפסנתר את "יונתן הקטן" על מנת לנגן פוגה בחמש קולות של באך. אבל סביר להניח שאם נכשלת במטלה הראשונה לא תצליח במטלה השניה. כתבתי במפורש ש"אינטיליגנציה מלאכותית זו מטאפורה לא מוצלחת לפיתוח אלגוריתמים היוריסטים לבעיות מורכבות". אם זה כל מה שחוקרי הבינה המלאכותית מבקשים לעשות, אז אין שום בעייה. אם אפשר להלחין מוזיקה יפה באופן אלגוריתמי, יופי. אבל "בינה" אין פה, אלא אם כן מדובר בבינה של מפתחי האלגוריתם. הנקודה שלי היא שבינה בהחלט מצריכה קווליה מפני שבינה דורשת הבנה והבנה דורשת מודעות. "האם הבנה היא באמת קוואליה?" - רוג'ר פנרוז הוכיח שהבנת המושג "אמת" איננה ניתנת לייצוג חישובי (ולדעתי זה נכון לגבי כל מושג בכלל). הסקת מסקנות תבונית מצריכה מודעות לכך שההסקה היא פעולה נכונה מבחינה לוגית. זה הרבה יותר מפעולה מכנית פורמלית. תוכנת מחשב יכולה לבצע שורת הסקות פורמליות, אבל לא תהיה לה שום תפיסה של נכונות ההסקות האלו. |
|
|
|
|
|
|
||
|
||||
|
הבנתי. נראה לי שעיקר חילוקי הדעות בינינו הם סמנטיים: לטעמך, עיקר העיקרים של תבונה הוא חוויית ההבנה; לטעמי, עיקר העיקרים של תבונה הוא הסקת מסקנות. אם משהו מסיק מסקנות באופן מוצלח (או לא-מוצלח) כמוני, אין לי בעיה לייחס לו תבונה כמו שלי גם אם אני מניח שאין לו חוויות. אבל כאמור, זה די עניין של טעם. | |
|
|
|
|
|
||
|
||||
|
אני חושב שהנקודה של מר ספיר היא שהסקת מסקנות (לפחות כפי שאני מבין את המושג) אינה יכולה להתקיים ללא "חוויית ההבנה". הסקת מסקנות תלויה בשיקולים של אסתטיקה והבנה שאינם ניתנים לייצוג אלגוריתמי. זו אולי שאלה טיפשית, אבל האם אתה באמת חושב שקיים אלגוריתם שיוכל לייצר הוכחה למשפט פרמה, למשל? |
|
|
|
|
|
|
||
|
||||
|
זו לא שאלה טפשית, ואני חושב שבוודאי. למעשה, ברור שקיים אלגוריתם טיפש שיוכל לייצר הוכחה כזו, וכל הוכחה תקפה סופית, רק שייקח לו הרבה זמן. למעשה, ברור שקיים אלגוריתם עוד יותר טיפש שכל מה שהוא עושה זה לייצר מיידית את ההוכחה של ויילס. אבל אתה שואל בוודאי על אלגוריתם שיכול להפיק הוכחות בסגנון של מתמטיקאים, למשפטים שלא ידועים עדיין, ותוך המצאת טכניקות חדשות. אז זה לא מובן מאליו, אבל אני בכל זאת חושב שבוודאי. זה נראה לי קרוב יותר לשחמט מאשר לניהול שיחה על ענייני שירה ורגש. והייתי שמח לראות נימוק למה שיקולי ה"אסתטיקה" אינם ניתנים לייצוג אלגוריתמי. גם נכונות מתמטית וגם פשטות של הוכחה נראים לי כמעט טריוויאליים לייצוג אלגוריתמי - מה יש כאן יותר מזה? אם כבר, האתגר הגדול יותר לאלגוריתם הוא לשפוט איזו הוכחה *יפה* יותר מרעותה. | |
|
|
|
|
|
||
|
||||
|
האין גא"ב מזכיר תוכנה להוכחת משפטים בגאומטריה, אשר הצליחה לגלות [*] הוכחה שלא הייתה ידועה למחבריה? [*] אך במחקר לאחר מעשה, הסתבר שההוכחה הנ"ל התגלתה כבר בסין או משהו כזה. |
|
|
|
|
|
|
||
|
||||
|
הכוונה כנראה להוכחה אלגנטית1 למשפט שזויות הבסיס במשולש שוה שוקיים שוות. אני לא יודע לגבי סין, אבל היא באמת היתה מוכרת למתמטיקאים אבל לא לכותבי התוכנה. ____________ 1- בלי בניית עזר. |
|
|
|
|
|
|
||
|
||||
|
העניין הוא שאי אפשר להגדיר בדיוק את השיקולים האסתטיים הללו. מה הופך את משפט פרמה למעניין, בניגוד לאינסוף משפטים (כביכול פשוטים) נכונים אחרים? מה הופך אותו לחשוב? כלומר, אולי השאלה שלי היתה צריכה להיות האם אלגוריתם כלשהו היה בכלל "מגלה" אותו כייחודי מלכתחילה? התשובות לשאלות אלו, לפחות כך נראה לי, יהיו חייבות להיות מנוסחות במושגים של הבנה ומשמעות. |
|
|
|
|
|
|
||
|
||||
|
אם נצליח להגדיר אלגוריתם שמזהה "הוכחה אסתטית" לעומת "הוכחה מכוערת שרק מחשב יכול היה לחשוב עליה" (כשאני אומר מזהה, אני מתכוון ל"מסכים עם מתמטיקאים אנושיים"), בעינך האלגוריתם "מבין" מתמטיקה? | |
|
|
|
|
|
||
|
||||
|
לי נראה שמה שהפך את משפט פרמה (וגם בעת היותו השערה) למעניין דווקא די ברור: 1. זו טענה שניתנת לניסוח קצר, 2. היא תקפה לכל המספרים עד הרבה, 3. לא ידועה הוכחה קצרה. אני חושב שכל מה שמקיים את שלושת התנאים האלה ייחשב למעניין כמו משפט פרמה (וכידוע, יש לפחות עוד אחד). ושלושתם כמעט טריוויאליים למחשב בעל יכולת טכנית לבניית הוכחות מתמטיות. |
|
|
|
|
|
|
||
|
||||
|
3. עד לפני שנים לא רבות לא הייתה ידועה *שום* הוכחה, קצרה או ארוכה. לעומת זאת, היה ידוע שפרמה, לפחות, חשב שהוא הוכיח את המשפט, כך שבאיזה אופן, הייתה הרגשה שיש כאן הוכחה במעמד של "סוד". ובאיזה אופן, לא אתפלא אם גם היום עוד יהיו פה ושם מתמטיקאים שינסו למצוא הוכחות אחרות, לגלות את אותו סוד - שהרי ברור שאם פרמה אכן הוכיח את משפטו, ההוכחה שלו הייתה אחרת לגמרי. | |
|
|
|
|
|
||
|
||||
|
האם את אותה אלמונית שניהלה איתי את הפתיל עד כה? חשבתי שהתכוונת שמשפט פרמה מעניין מבחינה מתמטית - עכשיו את אומרת שהוא מעניין בגלל האנקדוטה ההיסטורית. האמנם, או שאני מבין לא נכון? | |
|
|
|
|
|
||
|
||||
|
לא, פשוט אינני אותה אלמונית. :) | |
|
|
|
|
|
||
|
||||
|
הנקודה שלי היתה שיש אינסוף משוואות המקיימות את שלושת התנאים שלך. אז למה דווקא פרמה? או גולדבך? או כל משוואה מתמטית אחרת? מה מייחד אותן? אני טוען שהבסיס הוא המשמעות, הפירושים ה"לא מתמטיים", של משוואות אלו. הבעיה היא שאין לי (ברגע זה, ואולי לעולם לא) הגדרות טובות למושגים אלו. |
|
|
|
|
|
|
||
|
||||
|
אינסוף טענות1? מה פתאום. יש מספר סופי מאוד, ובכלל לא כל כך גדול, של טענות שאפשר לכתוב אותן בכל כך מעט סימנים בשפה טבעית טיפוסית לאריתמטיקה, ו(בהתאם לכך) בשפה פורמלית טיפוסית לאריתמטיקה - וזה התנאי הראשון. כמה מתוכן מקיימות את שני התנאים האחרים? אין לי אפילו אינטואיציה. המתמטיקאים כאן מוזמנים לשפר. למעשה, זה נראה לי נושא נחמד למחקר מתמטי - ואולי, יום אחד, למחקר ממוחשב! (כיום אני מנחש שהתוכנות להוכחות אריתמטיות עדיין חלשות מדי, וגם הוכחות קצרות למדי בשפה טיפוסית למתמטיקאי תידרושנה יותר מדי זמן לתוכנות למוצאן - אבל אני מקווה שנסכים שיכולת כזו היא בגדר יכולתם העקרונית של מחשבים כפי שאנו מכירים אותם כיום). אני עדיין חושב שאם יש עוד טענות כאלה, אז במבט מתמטיקאי טהור (אנושי, אבל מנוטרל משיקולי היסטוריה) הן תהיינה מעניינות לא פחות מפרמה וגולדבאך. אם מחקר שיטתי ימצא אלפי טענות כאלה, אז הן כנראה תפסקנה להיות מעניינות כשלעצמן - אבל אז גם פרמה וגולדבאך עלולות להפסיק להיחשב מעניינות. 1זה מה שהתכוונת, לא "משוואות". משפט פרמה הוא טיפה יותר מהמשוואה המפורסמת שבמרכזו - הוא כולל את העטיפה "לא קיימים מספרים A, B,C כך ש...", ואת השערת גולדבך לרוב מציגים בלי שום משוואה. |
|
|
|
|
|
|
||
|
||||
|
אתה באמת חושב שעניין הקיצור חשוב כל כך? נראה לי שזה דורש הסבר. | |
|
|
|
|
|
||
|
||||
|
זה אותו עיקרון מעין-אסתטי שעומד בבסיס התער של אוקהם. אני לא יכול להצדיק אותו על-סמך משהו בסיסי יותר (אני יכול לומר ''פשטות'', אבל זה לא מסביר יותר מ''קיצור'', רק יותר מעורפל). אני מאמין בכל ליבי שטענה בעלת אותו מבנה לוגי של השערת פרמה או גולדבאך, אבל שהמשוואה שבליבה כוללת עשרה סימנים שונים (למעשה, עשרה גדלים שונים) לא היתה מעוררת את אותו עניין. | |
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
השאלות המעניינות אותי אינן האם אלגוריתם יכול לייצר הוכחה למשפט מתמטי ספציפי. ברור שהוא יכול, באופן טריוויאלי, כפי שכתבת בעצמך. מה שפחות מובן הוא: 1) האם קיים אלגוריתם שיכול לייצר את כ_ל ההוכחות שמתמטיקאים מסוגלים להפיק אי פעם (בהנתן זמן בלתי מוגבל)? 2) האם אלגוריתם המפיק הוכחה מתמטית מבין שהוא הפיק הוכחה מתמטית? לדעתי התשובות לשתי השאלות האלו הן שליליות. אלגוריתם יכול אולי לשפוט נכונות של כל הוכחה מתמטית המיוצגת באמצעות שפה פורמלית מסויימת, אולם אין שום שפה פורמלית המייצגת את כל החשיבה המתמטית האפשרית. זה נובע, כך נדמה לי, ממשפט אי השלמות של גדל. בכלל, העובדה שלא ניתן לבצע פורמליזציה של השפה, אפילו לא של השפה המצומצמת המשמשת לחשיבה מתמטית, מוכיחה את הטיעון שלי. אלגוריתמים מוגבלים לשפות פורמליות בלבד. |
|
|
|
|
|
|
||
|
||||
|
לדעתי התשובה לשאלה הראשונה היא טריוואילת כן. שאלה מעט יותר מעניינת וקשה היא האם האלגוריתם ידע למיין את ההוכחות לנכונות ולא נכונות. התשובה לשאלה השנייה היא בעיתית כי לא נתת דרך עבור המתבונן לדעת מתי משהו אחר מבין. | |
|
|
|
|
|
||
|
||||
|
כמובן שהתכוונתי לאלגוריתם שיציג רק הוכחות נכונות. הוכחה שגויה כלל איננה הוכחה. האם קיים "מתמטיקאי אבסולוטי" אלגוריתמי, כזה שמסוגל לגלות את כל ההוכחות (התקפות!) שמתמטיקאים אנושיים עשויים לגלות, ולא להציג טיעונים שמכילים כשלים לוגיים או טעויות? קשה לתת הגדרה ביהוויוריסטית להבנה, משום שהבנה איננה התנהגות, אם כי היא עשויה להתבטא גם באופן התנהגותי. יש מורים, למשל, שמפתחים מיומנות בכתיבת שאלות למבחן הבוחנות עד כמה התלמידים הבינו את החומר ולא סתם שיננו אותו. לדעתי תמיד ניתן למצוא מבחן כזה, אבל אני לא בטוח עד כמה זה פשוט למצוא אותו. |
|
|
|
|
|
|
||
|
||||
|
האם לא נראה לך סביר שברגע שהוכחה קיימת, מכונה תוכל לבדוק את תקפותה? יש שיגידו שזאת *ההגדרה* של הוכחה. אם מכונה כזאת קיימת, כל מה שנותר לנו לעשות זה להזין אותה בגיבריש ולדלות מהגיבריש את ההוכחות התקפות. | |
|
|
|
|
|
||
|
||||
|
מכונה יכולה, תיאורטית, לבדוק תקפותן של הוכחות הכתובות בשפה פורמלית איתה היא יודעת לעבוד. אבל אין שום שפה פורמלית המאפשרת לקודד כל טיעון מתמטי אפשרי. הוכחות מתמטיות כתובות בעברית (או שפה טבעית אחרת), שהיא שפה יותר חזקה מכל שפה פורמלית אפשרית (למשל, היא מכילה את המטא-שפה של עצמה). | |
|
|
|
|
|
||
|
||||
|
אני חשבתי שעד שלא מעבירים הוכחה משפה טבעית לשפה פורמלית אי אפשר בעצם להוכיח כלום. | |
|
|
|
|
|
||
|
||||
|
למעשה יש מעט מאוד הוכחות מתמטיות שמנוסחות בשפה פורמלית. הסימנים המשונים של המתמטיקאים הם קצרנות, לא פורמליזציה. שפה פורמלית זה משהו מאוד ספציפי שמבוסס על הגדרת מחרוזות תווים מסויימות כאקסיומות ושורת פעולות מותרות עליהן ליצירת משפטים. הופשטטר תיאר את העניין מצויין בגא"ב. בכל אופן, גם אם צריך ואפשר להעביר כל הוכחה מתמטית תקפה לשפה פורמלית, מה שאי אפשר לעשות זה להעביר את כל ההוכחות האפשריות ל_א_ו_ת_ה שפה פורמלית. |
|
|
|
|
|
|
||
|
||||
|
אם אי אפשר, אז מחשב, שיכולת העיבוד המתמטית מוגדרת על ידי שפה פורמלית ספציפית (התלויה באלגוריתם שלו) לא יוכל להבין את ההוכחות המתמטיות שאינן ניתנות לקידוד באותה שפה. אבל לבני אדם אין מגבלה כזו. | |
|
|
|
|
|
||
|
||||
|
איך אנחנו יודעים אילו מגבלות יש לבני אדם? | |
|
|
|
|
|
||
|
||||
|
ניטפוקון היסטורי - נראה לי נכון יותר ליחס את הרעיון הזו לטארסקי. |
|
|
|
|
|
|
||
|
||||
|
סתם הימור- אנטיליגנציה מלאכותית אמיתית תצמח מאיזה רכיב שמשכפל את עצמו + מערכת בקרה מתוחכמת שנועדה למנוע בדיוק את זה. | |
|
|
|
|
|
||
|
||||
|
ציפור (דרור) קטנה לחשה לי לפני שנים, על יזמה לתרגם את גא"ב לעברית. זו נראתה לי משימה בלתי אפשרית. אני נתקעתי כבר בתרגום עמוד השער. איך לעזאזל אפשר לתרגם את Eternal Golden Braid? גדיל אופיר בלי-קץ, אולי? (הרעיון הזה פגום מ-4 בחינות לפחות) האם יש תקווה? |
|
|
|
|
|
|
||
|
||||
|
מדוע לא "צמת זהב נצחית"? | |
|
|
|
|
|
||
|
||||
|
גא"ב מלא במשחקים בין צורה לתוכן. וזה לא רק משחק צורני - הקשר בין צורה לתוכן הוא אחד הנושאים של הספר - זה עניין תוכני. אפשר לתרגם באופן מילולי כמו שהצעת. אבל צריך להתאמץ להעביר גם את המשחק הצורני של ראשי התבות GEB-EGB לעברית. אפשר אולי לחשוב על משחק צורני אחר שיקשר בין גדל-אשר-באך לבין השורה השנייה: חרוז? אות מסיימת? גימטריה? לא יודע. במקרה החמור ביותר נשארים עם התרגום המילולי, אבל "קופצים מחוץ למערכת" בעזרת הערת מתרגם. א-פרופו, יש לי הערת מתרגם לראיון: הופשטטר משווה פסטיבל מוזיקה קלאסית באספן לגלישת סקי. אמריקאי ממוצע יחייך - כי אספן היא בירת הסקי של ארה"ב, בנוסף להיותה מארחת של פסטיבל המוזיקה. לדעתי זו הסיבה שהופשטטר הזכיר היכן היה הפסטיבל. ההתחכמות הזאת לא עוברת טוב ב"תרגום" לקהל ישראלי. |
|
|
|
|
|
|
||
|
||||
|
במקרים כאלה - משחקי לשון שלא עוברים שפות - נהוג לנקוט ''תשלום משחק'' - ולשחק במקומות שאפשר, גם אם במקור אין שם משחק. ובמקרה של אספן, ודאי שאפשר להוסיף הערת שוליים. |
|
|
|
|
|
|
||
|
||||
|
תרגום של גא"ב!? מטורף מי שינסה לעשות את זה. | |
|
|
|
|
|
||
|
||||
|
אני נוטה להסכים, אבל בכל זאת תרגמו לעברית כבר את שייקספיר, תרגמו את נבוקוב... גא"ב לא *הרבה* יותר בעייתי מזה. | |
|
|
|
|
|
||
|
||||
|
שקספיר ונבובוקוב? מה עם יוליסס של ג'יימס ג'ויס? | |
|
|
|
|
|
||
|
||||
|
כן, טוב, אבל לא נראה לי שיתרגמו את Finnegans Wake -זה כבר מוגזם... | |
|
|
|
|
|
||
|
||||
|
בהחלט מטורף! | |
|
|
|
|
|
||
|
||||
|
נו, אז אחרי שלוש שנים, אתה עדיין עומד מאחורי האמירה הזו? ;-) | |
|
|
|
|
|
||
|
||||
|
כמובן. מלאכת התרגום החלה אי-שם באמצע שנות התשעים. | |
|
|
|
|
|
||
|
||||
|
נסיתי מבנה צורני, אבל זה לא מצלצל טוב (גדל אשר באך - קשר זהב לעד). נסיתי גם משחקי סדר. תצרף רקוע שלמות? הרי"ש לא מתגלגלת טוב, וחסר עניין הזהב. אולי הקשה המקשה ימצא לנו הקשרים טובים יותר? |
|
|
|
|
|
|
||
|
||||
|
וכעבור 4 שנים נחשף בדיון 3374 הפתרון: גביש בן־אלמוות. מעניין איך מתמודדים המתרגמים עם אובדן הזהב. | |
|
|
|
|
|
||
|
||||
|
אני משקיע בשורטים על תירס. סתם. לא זכור לי שהזהב מהכותרת היה קריטי למשהו (להבדיל מכמה זהבים אחרים בספר). אתה רוצה לספר לי עכשיו שפספסנו? |
|
|
|
|
|
|
||
|
||||
|
ניצלתם איכשהו את זה שבעברית (להבדיל מהמקור) ראשי התיבות הם גם שלוש האותיות הראשונות בא"ב? | |
|
|
|
|
|
||
|
||||
|
או... שאלה טובה. רוצה לשאול אותה בדיון הנכון? | |
|
|
|
|
|
||
|
||||
|
גם לי לא זכורה ''קריטיות'' של הזהב שבכותרת. אך זהב הוא מוטיב חוזר, ומופיע גם בכותרתו של הספר האיזומורפי שבתוך הספר (''זהב, כסף, נחושת''). | |
|
|
|
|
|
||
|
||||
|
המוטיב החוזר הוא לא זהב כשלעצמו, אלא אותו שילוש מתכות. הזהב שבכותרת לדעתי לא מהדהד את זה. | |
|
|
|
|
|
||
|
||||
|
לאחר כמה שניות של מחשבה על המשפט "הזיה המתקיימת משום שהיא הוזה את עצמה", הגעתי למסקנה שלמרות שכיף להשתעשע בו, הוא בלתי הגיוני בעליל - הזיה אינה הוזה שום דבר, כי היא אינה אמיתית. האם זהו הפרדוקס לכאורה שמוצג בספר? זה מזכיר מרצה שהיה לי בקורס על "המדע והפילוסופיה של דקארט", שניסה לשלול את הרעיון של false psychology (כלומר, שקיומו של האני הפנימי (cogito) - נשמה, מחשבה, רצון, וכו' - הוא אשלייה) על ידי כך שלכאורה מעצם ההנחה שזו אשלייה נובע שמישהו באמת משלה את עצמו (ובפרט חושב). כלומר קיומו של ה"אני" הזה, לטענתו, הכרחי בשביל שיהיה מי שישלה את עצמו שהוא קיים, ולכן אנו מגיעים למסקנה שהוא אכן קיים. לא ברור לי עדיין מה היא עמדתו של הופשטטר לגבי הטיעון הזה של המרצה שלי (האם הנשמה קיימת, במובן של ישות שאינה פיסית או שאינה מצייתת לחוקי הפיסיקה? או שהוא פשוט מגדיר נשמה במובן אבסטרקטי, שתרגומו לתהליכים פיסיים יכול להתבטא בכמה אופנים?) אבל בסופו של דבר אני חושב שאין לטיעון הזה שום בסיס אמיתי, אלא הוא נובע משימוש מניפולטיבי במילים - כאשר במקום לומר "זה לא נכון", אומרים "אתה טועה" או באופן מוקצן יותר "הנשמה שלך, שקיימת, משלה את עצמה", אז אכן נובע מזה שהנשמה קיימת. אבל אם פשוט נגיד "הנשמה לא קיימת", אז אין אשלייה ואין צורך לומר מי משלה את עצמו. אכן קיים דימוי של עצמנו ושל הנשמה שלנו במוחינו, אבל אין שום סיבה לחשוב שדימוי זה הוא כל דבר אחר מלבד תהליכים פיסיים. וכדי לחדד את הטעות הזאת - דמיינו תוכנה שכל מה שהיא עושה זה כותבת על המסך "יש לי נשמה!!!". תאמרו "טוב, ברור שזה לא נכון. היא אמנם כותבת את זה, אבל אנחנו יודעים שמחשב שמריץ תוכנה הוא מערכת פיסית בלבד, שאופן פעולתה מובן לנו לחלוטין." ואז יאמרו לכם שוללי ה-false psychology "אבל אם אתם טוענים שהתוכנה טועה, סימן שהיא באמת חושבת שיש לה נשמה, ובפרט, היא באמת חושבת. כלומר, ה"אני" שלה באמת קיים". המשפט "אני הוא הזיה המתקיימת משום שהיא הוזה את עצמה" עלול לשרש את אשליית הפרדוקס שבאי-קיום ה"אני". מוטב למטריאליסטים שבינינו לומר "המבנה הפיסי של המוח כולל ייצוגים פיסיים של היגדים לוגיים ונכונותם בעיני האדם, ובמוחותיהם של רוב האנשים הייצוג של 'אני קיים' מסווג כנכון". אכן, קשה שלא ליפול בפח ה-false psyhology, ולמעשה בדיבור היומיומי שלנו אני חושש שאין לנו ברירה אלא ליפול בו, אחרת יהיה לנו קשה מאד לענות על השאלה "אתה רוצה מלח?", ושאלות חשובות אחרות. |
|
|
|
|
|
|
||
|
||||
|
"אם פשוט נגיד "הנשמה לא קיימת", אז אין אשלייה ואין צורך לומר מי משלה את עצמו" - אבל האשליה *כן* קיימת, כך שהגעת לסתירה. איך אני יודע שהאשליה קיימת? זוהי בדיוק הידיעה הבסיסית ביותר שיש לי לגבי עצמי. אני מנחש שגם לך. |
|
|
|
|
|
|
||
|
||||
|
אתה יכול לקרוא לזה אשלייה אם אתה רוצה, אבל אם תתאר את זה כמו שתיארתי בפיסקה לפני האחרונה (כמו שזה באמת לדעתי), אז אין צורך להסיק שיש לך נשמה, ואין סתירה. | |
|
|
|
|
|
||
|
||||
|
(במילים אחרות אין סיבה לחשוב שזה שונה מאותה תוכנה שכותבת "יש לי נשמה!!!") | |
|
|
|
|
|
||
|
||||
|
לא הצלחתי לעקוב אחרי כל המהלך שלך, אבל אני חושד שאתה מייחס להוכחה של דקארט מסקנה חזקה מדי. דקארט לא מנסה להוכיח *לך* שהנשמה שלו קיימת, אלא רק להוכיח לעצמו. הוא מזמין אותך להשתכנע, באותו אופן, שהנשמה שלך קיימת. זו הוכחה שבין אדם לעצמו - מן המפורסמות היא שגם אם מקבלים את ההוכחה אז אין הרבה לאן להתקדם ממנה מעבר לעצמי - הסוליפסיזם (רק הנשמה שלי קיימת, וכל השאר הוא אשלייה שלי) הוא אפשרות לוגית תקפה. אם אתה מנסה להפריך אותה על-ידי כך שאתה מסתכל מבחוץ ואומר שהיא לא משכנעת, אז זו לא חוכמה - החלק המהותי בהוכחה הוא המבט מבפנים. | |
|
|
|
|
|
||
|
||||
|
או כמו שאמר שלמנעזר: Christ, what an imagination I've got. | |
|
|
|
|
|
||
|
||||
|
בִּשְׁנַת שְׁתֵּים עֶשְׂרֵה, לְאָחָז מֶלֶךְ יְהוּדָה: מָלַךְ הוֹשֵׁעַ בֶּן-אֵלָה בְשֹׁמְרוֹן, עַל-יִשְׂרָאֵל--תֵּשַׁע שָׁנִים. וַיַּעַשׂ הָרַע, בְּעֵינֵי יְהוָה: רַק, לֹא כְּמַלְכֵי יִשְׂרָאֵל, אֲשֶׁר הָיוּ, לְפָנָיו. עָלָיו עָלָה, שַׁלְמַנְאֶסֶר מֶלֶךְ אַשּׁוּר; וַיְהִי-לוֹ הוֹשֵׁעַ עֶבֶד, וַיָּשֶׁב לוֹ מִנְחָה. מלכים ב' פרק יז |
|
|
|
|
|
|
||
|
||||
|
גם מלך בשומרון וגם הכיר את ישו? אדם ניכר בכוסו, בכיסו ובכעסו |
|
|
|
|
|
|
||
|
||||
|
אבל אני דיברתי על שלמנאסר (טעות באיות, צודק) אחר. זה מזנזיבר. | |
|
|
|
|
|
||
|
||||
|
אני יודע. לא ראית את הכותרת? | |
|
|
|
|
|
||
|
||||
|
לא דיברתי על זה אלא על הטיעון של המרצה שלי לפיו האני הפנימי חייב להיות קיים (בהנחה שהיקום קיים), כי לכאורה אם נניח שהוא אשלייה שלי אז חייב להיות מי שמשלה את עצמו, ולכן "אני" חייב להיות קיים. וכמו שכתבתי, אני לא חושב שלטיעון הזה יש בסיס לוגי. לגבי דקארט, הדבר הראשון שהוא טוען שהוא הוכיח שקיים הוא הדבר היחיד שאני לא חושב שקיים - ה"אני" שאינו חומר ואינו תופש מקום במרחב. אשמח להרחיב על זה, אבל לא יהיה לי זמן בתקופה הקרובה (אני הולך לחצי שנה של שטיפת מוח פטריוטית, אוכל גרוע, והבאת היחס בין השרירים למוח למקסימום הקרויה גם קק"צ, בתקווה שכשאחזור עוד אזכור איך להרכיב משפטים שלמים). בגדול הטיעונים שלי הם הטיעונים המטריאליסטים הרגילים, אבל כשאני אומר אותם הם נשמעים כל כך טוב... :) *אנא, אל תיתנו לדואליסטים לתמרן אי הודאות הקוונטית לצורכיהם! |
|
|
|
|
|
|
||
|
||||
|
הטיעון של המרצה שלך, כפי שאתה מביא אותו, מנוסח לא טוב. הטיעון של דקארט (בניסוח שלי) מתחיל מהעובדה ''אני חושב שאני קיים'', עובדה שאני יודע בוודאות יותר מכל עובדה אחרת, ומכל מקום לפחות באותה רמת ודאות שאני חש באשר לכל חוק לוגיקה שהוא. נסה לסתור את זה - לשכנע אותי שזו אשליה - אבל בלי להתחיל מעובדה אחרת. אני לא בטוח אם דקארט באמת טען שהוא מוכיח מייד שהאני הזה אינו חומר ואינו תופס מקום במרחב, אבל אם כן - כמטיראליסט, אני מן הסתם לא קונה. |
|
|
|
|
|
|
||
|
||||
|
לא ראיתי בשום מקום שדקארט אמר שהאני איננו חומר. אבל גם לא ראיתי שהוא אמר "אני חושב שאני קיים", אלא "אני חושב - משמע שאני קיים". *יש* מישהו שחושב. | |
|
|
|
|
|
||
|
||||
|
כן כן, ברור, לא משנה מה אני חושב - ולמעשה, לא צריך להיות דווקא ''חושב'', אלא כל פעילות מנטלית בגוף ראשון (רוצה, תוהה, מטיל ספק, פוחד) - ואת כל זה כתב דקארט בהוכחה שלו, למיטב זכרוני. אבל הרשיתי לעצמי את הוריאציה הקטנה הזו לצרכים של הקשר הדיון עם גילי. | |
|
|
|
|
|
||
|
||||
|
נדמה לי שה"אני" שדקארט טען שהוא הוכיח את קיומו הוא האני הפנימי, שאינו תופש מקום במרחב. אגב, לא ממש הבנתי את ההתלהבות הגדולה מהטיעון שלו. ברור שאם אני חושב אני קיים, אבל ממילא לדעתי זה הרבה פחות טריוויאלי להניח שאני חושב מאשר שאני קיים (וממילא דורש את הנחת המבוקש). נראה לי שאין הרבה דרכים להשתכנע שאני קיים, מעבר לניסוחים אחרים של "הנה, אני קיים!". משפטים של "אני ____ משמע אני קיים" משכנעים אותנו רק בגלל שאנחנו כבר משוכנעים. |
|
|
|
|
|
|
||
|
||||
|
אני לא חושב שדקארט ניסה להוכיח שהאני הזה בהכרח לא תופס מקום במרחב, אלא שהוא לא בהכרח תופס מקום במרחב. (פשוט, הראיה המוצקה שלנו לקיומו אינה כרוכה במרחביות שלו, והיא גם מוצקה יותר מכל ראיה שיש לנו לכל דבר שקשור למרחב). ההנחה שאני חושב כן אמורה להיות טריוויאלית יותר: היא חוויה ראשונית. מדוע אתה חושב אחרת? |
|
|
|
|
|
|
||
|
||||
|
ברור שמבחינה לוגית היא טריוויאלית פחות - אני חושב משמע אני קיים, אך אני קיים לא אומר שאני חושב. גם מבחינת החוויה שלי, החוויה הראשונית שלי היא דווקא שאני קיים ולא שאני חושב. למעשה אני לא מבין איך יכול להיראות למישהו ש''אני חושב'' טריוויאלי יותר. |
|
|
|
|
|
|
||
|
||||
|
זה לא ש"אני חושב" *טריוויאלי* יותר. ממש לא. זה פשוט מאפשר לך לדעת ולהצהיר שאתה קיים. הרי בס"ה קיימים הרבה מאוד יצורים שלא סביר שהם "יודעים" שהם קיימים: הם לא חושבים על זה. | |
|
|
|
|
|
||
|
||||
|
"טריוואלית יותר" הוא ניסוח שאימצתי מהתגובה שלך, אבל הוא לא מוצלח לצרכי. "אני חושב" יותר מורכב מ"אני קיים", אבל האם "אני קיים" הוא עובדה "נגישה" יותר? אני נוטה לחשוב שלא; קל לי יותר לדבר על "חוויית חשיבה" מאשר על "חוויית קיום". ואולי הכי מיידי הוא "אני מודע" או "אני חווה". אבל אנחנו נכנסים לתחום של פלפולים על קוצו של יו"ד. | |
|
|
|
|
|
||
|
||||
|
האם לדעתך "אני" ללא שום תוספות הינו מודעות בעלת פן אישי בלבד? | |
|
|
|
|
|
||
|
||||
|
''אני'' ללא שום תוספות הוא מילה, ולא מודעות. או במילים אחרות, לא הבנתי את השאלה. |
|
|
|
|
|
|
||
|
||||
|
הכרח קיומו של "האני החושב" של דקארט הוא רק החלק הראשון של טיעונו (הגיונות פרק א'-ב'). זה איננו הדבר היחידי שהוא חושב שניתן לדעת בודאות אלא הדבר הראשון שהוא יכול להכיר בו כניתן לדעת בודאות (למשל: קיום האל איננו ודאי פחות לשיטתו). הכרח קיומו של "האני החושב" זה רק הבסיס ממנו הוא מוכיח (בין השאר ולדעתו) את קיום האל (פרק ג') ואת ההבדל בין גוף האדם לנפש האדם (פרק ו'). לדעתי, אפשר להגיד בביטחון די גבוה שדיקרט בהחלט הציג עמדה דואליסטית. הייתי אפילו אומר שהוא *ה*דואליסט. |
|
|
|
|
|
|
||
|
||||
|
נכון, אבל גילי התייחס רק לשלב הראשון בהוכחה. מה שאחר כך נדמה לי שממילא לא משכנע אף אחד - למצוא בו כשלים זה לחבוט בגווייה... | |
|
|
|
|
|
||
|
||||
|
לשם הוויכוח, ג'פרי פורד כתב סיפור מצויין בשם אימפריית הגלידה http://www.scifi.com/scifiction/originals/originals_... (הסיפור התפרסם גם בגליון 12 של חלומות באספמיה). | |
|
|
|
|
|
||
|
||||
|
הלולאה המוזרה היסודית ביותר היא הנקודה. נקודה היא מייצג גרפי ומיוצג מושגי נעדר כל תכונה נוספת. ככזאת נבחרה אולי באופן טבעי לייצג את עצם חווית הייצוג העצמי ״אני״ , ה״ניצוץ״ או - קוצו של יוד במסורת היהודית. זהו גם ה "i" באנגלית. וכחוויה היא משותפת לכל אדם. נשאלת השאלה היכן נמצא הייצוג ומיהו ״בעליו״. אם ליקום הייתה הכרה הרי שהיה צריך להיות בו אתר מאופיין, מעין מח שבוא נמצאים הייצוגים של היקום ובכלל זה יצוגו עצמי כמו הנקודה שלנו. ואכן יש אתר כזה, אני למשל, ולמה אתר אחד? יש הרבה, אנחנו, ויצורים אחרים בעלי הכרה. במובן זה ה״חיים״ הם נשאי ההכרה של היקום. כנראה שכל יצור בעל הכרה גבוהה, כזו המחייבת ייצוג עצמי, יכנה את עצמו ״אני״. האשליה שה״הכרה״ היא שלנו ולא של היקום דומה לאמירה שההכרה שלי היא של המוח שלי ולא של הגוף שלי כולו. זהו כשל לוגי בניסיון ליחס את מושג הבעלות ״של״ ללולאה העצמית המוזרה. כמעט מגוחך לחשוב שייצוג אחד בתוך סט של ייצוגים יהיה ה״בעלים״ של שאר הייצוגים ובתוכו של עצמו. הצורך לנכס את ההכרה לעצמה והחיפוש אחריה בדומה לגולה במגרה של הופשטדטר והעובדה שאיננו חשים פיסית את המוח שלנו גרמו לכך שהמיקום המדוייק של ה״אני״ נדד במרוצת ההיסטוריה בין איברי גוף שונים: לב, כליות, וכו. היותנו חלק בלתי נפרד מן היקום הופך את האמירה הנפוצה שאני הוא הבעלים של הכרתי זהה לאמירה שה״חויה העצמית״ היא של היקום החווה את עצמו. העניין הוא שמכלול הייצוגים ובתוכם גם ״אני״ קשורים במארג קשרים סמנטיים וסינטקטיים, או בפשטות באמצעות השפה. בהקשר זה העברית, מהיותה שפה עתירת שורשים המוטים האופנים שונים מאפשרת התבוננות יחודית בסוגיית הלולאה העצמית! הנה כך מתחיל המוח לייחס תכונות שונות לחוויה המופשטת העצמית (ה ״ י ״ המסורתי) השורש ״אן״ כמו במלה לאן או ב ״אנא אפנה״ מבטא בעברית כוון. הכוון אליו העצמי מכוון את עצמו הוא ה ״אן״ של ״ י ״ כלומר ״אני״ . לעומת זאת המושא אליו מכוון העצמי הוא ה ״אל״ של ״ י ״ או ״אלי״. כאשר אנחנו מצליחים להתרגל באופן יומיומי לומר אני ואלי במשמעויות הלשוניות האלו (מומלץ לנסות) מתחילה להפתר מאליה כל הדילמה הפסיכו-פיזית המתוארת כה יפה בספר של הופשטדטר :) במושגים מתמטיים ופיזיקליים אפשר להגיד שבין כל האינטראקציות הידועות המתרחשות ביקום מחרחשות גם אינטרקציות הכרתיות שאין להקל בהן ראש :) אפשר לנסות לתאר אותן איכותית על ידי ווקטור הכרתי שיש לו זוית ״אני״ וגודל ״אלי״ ,( דרך אגב המילה ״לאן״ כוללת ״אל״ ו ״אן״ במילה אחת.) האינטגרל של כל ה״אל-ים״ על ציר הזמן האינסופי ה״נצח״? הוא ״אלוהים״ ההפרדה של כל ווקטור לזווית וגודל אמנם אפשרית, אבל היא פירוק של חוויה אחת! זה נשמע הינדי וזני אבל זה נובע באופן ישיר מחקירה לשונית ללא שמץ נטיה למיסטיקה או דת. אחרי התובנה שאני ואלי הם הבטים של אחדות. הכרתית זה עדיין לא פותר את החוויה של גוף בעל הכרה הנפרד מ ״שאר היקום״ זו בעיה הנובעת כנראה מסדר הגודל של אברי החוש והרזולוציה של החושים. (עבור ניוטרינו למשל, העולם היה הרבה יותר אחיד) אפשר לומר שהחלק הנראה של הגוף הוא הממשק של ״המוח של היקום״ אם ״שאר היקום״, בעברית זהו החלק המבשר אותו כלפי חוץ- ה״בשר״ שלו מכאן ״בשרי״ והחלק הבלתי נראה ה״עצום״ שבתוכו ״עצמי״ משעשע, אבל לא בהכרח פרשנות לשונית מופרכת. הופשטדטר היה אוהב את זה? לסיכום האינטראקציות ההכרתיות ביקום מעניינות ביותר מכיון שבסופו של דבר ה״בשר״ פועל פיזית ביקום ולכן אלו אינטרקציות מטה-פיזיות פשוטו כמשמעו :) ואנחנו קוראים להן ״רצון״! לאתרי ה״אני״ השונים נטיה להתרשת באמצעות השפה והטוויטר :) וכשהם נרגעים מאשליית האינדיבידואליות הם הופכים, בלשונו הגאונית של דאג ל״דיבידואלים״ מין קשר רזונטיבי שאנחנו מכנים ״אהבה״ טוב נסחפתי, ובעיקר עם סימני הציטוט :) אז סיכום: ווקטור של אינטראקציה הכרתית המאופיין ב״אני ואלי״ יוצר שדה של ״רצון״ הפועל ביקום. אינטגרציה של אני לאנחנו קורמת בשדה הנקרא אהבה וסך כל מושאי הרצון - השאיפות ״אל״... הוא ״אלוהים״ ! נדמה לי שעל כגון זה נאמר באהבה וברצון הנחלתנו בקיצור לא רק שאלוהים לא קיים גם אני לא! אתיאיסט מושבע |
|
|
|
|
|
|
||
|
||||
|
שלום גיל, אתה כותב: "הלולאה המוזרה היסודית ביותר היא הנקודה. נקודה היא מייצג גרפי ומיוצג מושגי נעדר כל תכונה נוספת". לדעתי, כדי להגיע למסקנה הנ"ל, עליך להתבונן על הנקודה (אורך=0) ממימד גבוה יותר (אורך>0) ורק אז יש בידך לולאה (אורך>0 היוצא וחוזר לאורך=0). על-פי הבנתי, למושג האורך שני מאפיינים לא-מורכבים והם: אורך=0, אורך>0, כאשר הקשר ביניהם מאפשר קיומה של מורכבות (מושג האוסף הינו דוגמא למורכבות). אם בהתבוננות עסקינן, הבה ונשתמש בה כדי לייצג מילולית את הייצוג הגרפי הבא: ___._ (. מייצג אורך=0 לא-מורכב, _____ מייצג אורך>0 לא-מורכב) א) מהתבוננות . ביחס ל- _____ , . הינה בתחום _____ אך אינה מהווה מרכיב שלו. ב) מהתבוננות _____ ביחס ל- . , _____ הינו בתחום וגם לא בתחום . (בגלל היותו לא-מורכב). מסקנה 1: (ב) הינו סתירה לוגית מהתבוננות (א) ביחס ל-(ב). מסקנה 2: (ב) אינו סתירה לוגית מהתבוננות (ב) ביחס ל-(א). לעניות דעתי, הלוגיקה "הסטנדרטית" נוקטת בעיקר במסקנה 1, שעל-פיה אורך>0 מוגדר ע"י אוסף של אורכי 0, כאשר רק אורכי 0 נחשבים ללא-מורכבים. עפ"י הלוגיקה "הסטנדרטית" קיימת סיבתיות רק מאורכי 0 (רמת המיקרו) לאורך>0 (רמת המקרו) כאשר אורך>0 מוגדר כאוסף של ארכי 0 (לדוגמא: עפ"י האנליזה "הסטנדרטית" של הישר-הממשי). לדעתי, הסיבתיות היורדת הינה תוצר אי-היכולת של אוסף אורכי 0 להגדיר אורך>0 (עפ"י סיבתיות יורדת אורך>0 הינו לא-מורכב (אינו מוגדר כאוסף של אורכי 0)) , כך שניתן להבין סיבתיות יורדת ע"י התבוננות (ב) המאפשרת את מסקנה 2. "_____ הינו בתחום וגם לא בתחום ." שקול למסקנה כי "_____" הינו אמת ב-"." אך יכיחותו אינה כריעה ב-".", ושום אוסף של "." אינו משנה מסקנה זו. כפי שכבר כתבתי, חלק מהחוקרים טוענים כי המוטיבציה של גדל בשתי הוכחות אי-הכריעות (או אי-השלמות), היתה להראות כי הסיבתיות העולה (מ-"." ל-"____") החזקה דיה לעסוק האריתמטיקה (כאשר אריתמטיקה הינה פעולות על אוסף סופי או אינסופי), אינה חזקה דיה על מנת להגדיר במלואו את "_____" שהינו הגורם הנמצא בשורש הסיבתיות היורדת ("_____" הינו אמת אשר יכיחותה אינה כריעה ע"י אוסף של "."). בזהירות רבה אולי ניתן להסיק כי ה-"אני" הינו אמת ברמה "_____" אשר יכיחותו אינה כריעה ע"י אוסף של ".", ומתוך התבוננות זו ניתן, אולי, להסיק (לפחות) את הדברים הבאים: 1) מורכבות הינה תוצר של מושג אחד (נקרא לו, במקרה זה, "אורך") בעל שני מאפיינים לא-מורכבים והם אורך=0, אורך>0, הקשורים זה בזה מעצם היותם מושג אחד. 2) הבנת אורך>0 מאורך=0 מאפשרת להגיע למסקנה כי השלם הינו סכום חלקיו (ומקרה זה "האני" הינו לא יותר מאוסף של אבני-יסוד). 3) הבנת אורך=0 מאורך>0 מאפשרת להגיע למסקנה כי השלם הינו יותר מסכום חלקים (ומקרה זה "האני" אינו אוסף של אבני-יסוד). עפ"י (2) "האני" הינו אשליה. עפ"י (3) "האני" אינו אשליה. יותר מזה: עפ"י (2) אנו חיים במערכת סגורה היות ואורך>0 מוגדר במלואו ע"י אוסף של אורכי 0, משמע: המציאות תגיע לכדי אנטרופיה מכסימלית. עפ"י (3) אנו חיים במערכת פתוחה היות ואורך>0 אינו מוגדר במלואו ע"י אוסף של אורכי 0, משמע: המציאות לא תגיע לכדי אנטרופיה מכסימלית. אני מחזיק בדיעה כי "אני" איננו אשליה וכי תופעת החיים הינה תוצר של סיבתיות יורדת, הקיימת במקביל לסיבתיות העולה, כאשר השילוב בין הסיבתיות היורדת לסיבתיות העולה, יכול להוביל למציאות דינמית המאפשרת הרמוניה בין רכיביה (המציאות מתפתחת לכדי אורגניזם שכל איבריו מתואמים זה עם זה מעצם היותם נובעים ממקור אחד (בתגובתי כאן, משמש מושג האורך כמקור האחד). אשמח לתגובות בנושא. |
|
|
|
|
|
|
||
|
||||
|
פרופ' דאגלס הופשטטר משתמש בספרו "אני לולאה מוזרה" בדוגמא של מעגל אנשים היושבים איש על ברכי רעהו. למרות שאף רכיב (איש בודד) במעגל אינו יציב, מושגת יציבות מאופן הקשר בין הרכיבים. אם הבנתי נכון, יציבות זו הינה אשליה עפ"י הופשטטר, אם הוא מחזיק בהשקפות הבאות: 1) המציאות הינה רק רמת הרכיבים. 2) הרכיבים אינם יציבים. 3) עפ"' (1) ו-(2) נובע כי היציבות הינה אשליה. אשמך לתגובות. |
|
|
|
|
|
|
||
|
||||
|
אאל''ט הופשטטר יאמר שהרכיבים כן יציבים. כל איש במעגל, אילו הוא היה עומד בתנוחה הזו ללא המעגל, לא היה יציב, אבל סידור הפרטים במערכת מקנה להם (להם עצמם, ולא סתם ''למערכת'') יציבות. | |
|
|
|
|
|
||
|
||||
|
למיטב הבנתי טוען הופשטטר כי יציבות האני הינה אשליה והוא משתמש בדוגמת הלולאה המוזרה של רכיבים אשר *מציאותם* אינה יציבה, אך בגלל תכונת ההיזון החוזר אשר אינו גולש לנסיגה (רגרסיה) אינסופית (כדוגמת לולאת האנשים הרכובים זה על ברכי זה) נוצרת *אשלית* היציבות בקרב הרכיבים. למעשה מביע הופששטר את השגתו כי יציבות האני הינה אשליה גם בדוגמת הידים המציירות זו את זו, כאשר האשליה במקרה זה הינה הדמיית תלת-מימד על פני מציאות דו-מימדית (במקרה זה, שקולה המציאות הדו-מימדית למציאות הרכיבים הלא-יציבים, ואילו הדמית התלת-מימד שקולה ליציבות לכאורה במסגרת הקשר בין הרכיבים). אם אינך מסכים לנ"ל אנא הפנה אותי לקטע בספר בו טוען הופשטטר כי יציבות האני הינה מציאות ולא אשליה. |
|
|
|
|
|
|
||
|
||||
|
אני שאלה מוזרה: חשוב לך מה טוען הופשטטר או מהי יציבות האגו (מונח נוח יותר לשימוש בעברית, גם אם לא מוגדר היטב) בפועל? | |
|
|
|
|
|
||
|
||||
|
א) מהי, מבחינתך, משמעות המילה "מוזרה" במשפט "אני ___ מוזרה", כאשר "___" הינו שומר מקום לכל מילה היכולה להעניק משמעות למשפט הנ"ל? ב) מהי, מבחינתך, משמעות המשפט "יציבות האגו (או האני) בפועל"? |
|
|
|
|
|
|
||
|
||||
|
אציין כי הגדרתו של הופשטטר ללולאה מוזרה הינה (עמ' 120 בסוף הפסקה הראשונה, עפ"י התרגום לעברית של אודי תגרי): "לולאת פידבק של מעבר פרדוקסלי בין מישורים". אם הבנתי נכון את הנאמר בגרסה המתורגמת לעברית, פרופ' דאגלס הופשטטר מפרש "מעבר פרדוקסלי בין מישורים" מנביעתם של מישורים א' ו-ב' זה מזה. על-פי הבנתי פרדוקס זה מאפשר (לפחות) את הדברים הבאים: א) הוא מונע נסיגה (רגרסיה) אינסופית ברקורסיה המשמשת את גדל, ובכך נותנת לה אפשרות למסקנה (מתמטית, ויש שיאמרו מטא-מתמטית) קטגורית. ב) הוא מאפשר לגדל להסיק כי במערכת החזקה דיה לעסוק באריתמטיקה, יש משפטי אמת (מישור ב') אשר יכיחותם אינה כריעה ע"י האקסיומות העומדות בבסיס משפטי האמת (תוכן מישור א' (מישור האקסיומות) אינו יכול לשמש בדרך של דדוקציה ליכיחות תוכן מישור ב' (מישור המשפטים) של מערכת כנ"ל). ג) עפ"י (א) ו-(ב) קיימת מערכת מתמטית, שבה משפטי האמת אינם נגזרים בדדוקציה מהאקסיומות של המערכת (הופשטטר קורא לתכונה זו "סיבתיות יורדת" (עמ' 189 בספר)). ד) עפ"י (א), (ב) ו-(ג) הסיבתיות במתמטיקה הינה דו-כיוונית (מ-א' ל-ב' או מ-ב' ל-א') במערכות החזקות דיין לעסוק באריתמטיקה. עפ"י הנאמר לעיל אין סדר סיבתיות יחיד במערכות החזקות דיין לעסוק באריתמטיקה. חלק מהחוקרים את עבודתו של גדל בנושא, טוענים כי המוטיבציה לעבודתו בנושא הנ"ל נבעה מאמונתו כי תודעת המתמטיקאי אינה ניתנת להגדרה שלמה ע"י המתמטיקה. |
|
|
|
|
|
|
||
|
||||
|
כן, אם אני מבין נכון את הופשטטר, הוא טוען שה"אני" הוא אשליה1. חשבתי ששאלת על המשל (האנשים הנשענים במעגל), לא על הנמשל. 1 ואני, אגב, לא חושב שהוא הציג קייס משכנע. אז אם אתה מצפה שאמשיך לייצג אותו בהצלחה עוד כמה תגובות, ייתכן שאאכזב אותך. אבל אתה מוזמן לנסות. |
|
|
|
|
|
|
||
|
||||
|
חג שמח ירדן, בעניין טענתו של הופשטטר כי ה"אני" הוא אשליה, דעתי כדעתך. להבנתי, הופשטטר אינו עיקבי ביחס לטענת אשליית ה"אני" אם הוא מתאר אותו במסגרת שהינה תוצר דו-כיווני של סיבתיות, כפי שתיארתי ב-תגובה 663485 על פי האמור בקישור הנ"ל, רמת המקרו משפיעה על רמת המיקרו לא פחות ממה שמשפיעה רמת המיקרו על רמת המקרו, כך שאשליה או מציאות אינה מוגבלת לרמה מסוימת. יותר מכך, עפ"י דו-כיווניות הסיבתיות ניתן לטעון כי הן המציאות והן האשליה הינן תכונות של "מעבר פרדוקסלי בין מישורים" כתוצאה מנביעתם מזה מזה (המקרו הינו סיבת המיקרו והמיקרו הינו סיבת המקרו בלולאה מוזרה). אשמח לדעתך. |
|
|
|
|
|
|
||
|
||||
|
אני מסכים איתך שהופשטטר לא עקבי. אני הייתי פותר זאת אחרת ממה שאתה מציע: פשוט הייתי מוותר על טענת האשליה. לא הבנתי למה הופשטטר טוען שיש שם אשליה (או אתה, אם אתה טוען כך.) | |
|
|
|
|
|
||
|
||||
|
אנא ראה פירוט של דעתי בנושא ב-תגובה 663528 אודה לתגובתך. |
|
|
|
|
|
|
||
|
||||
|
מצטער, אני לא מצליח להבין מימיני ומשמאלי בתגובה 663528 (ואת התגובה של גיל שאליה הגבת, אני מבין עוד פחות). | |
|
|
|
|
|
||
|
||||
|
ב-תגובה 462269 אתה מצהיר כי אתה מטריאליסט. אנא הסבר מהי משמעות המשפט "אני מטריאליסט"? |
|
|
|
|
|
|
||
|
||||
|
אני מטריאליסט של הנפש (לא מטריאליסט של כל דבר) - חושב שהנפש היא לא יותר מסך הפעולות הפיזיקליות שקורות במוח. | |
|
|
|
|
|
||
|
||||
|
נדמה לי כי אפשר להכליל את "...הנפש היא לא יותר מסך הפעולות הפיזיקליות..." ל-"X הינו לא יותר מאשר סכום של מרכיבי Y". זוהי בדיוק הגישה של סיבתיות עולה בלבד, התופסת את השלם כאוסף סופי או אינסופי של אבני-יסוד, ובדוגמא שנתתי, אורך>0 מוגדר במלואו ע"י אוסף של אורכי 0, עפ"י גישה זו. פרופ' הופשטטר האיר את עיני לגישה של סיבתיות יורדת, אשר על-פיה השלם הינו יותר מסכום של איברים הנמצאים בתחומו, ועל-פי תפיסה זו אורך>0 אינו ניתן להגדרה מלאה ע"י אוסף אורכי 0. הסיבתיות היורדת ניתנת להדגמה ע"י שימוש בתובנה הנגזרת ממשפטי אי-השלמות של גדל, אשר על-פיהם רמת המשפט (הרמה הגבוהה) הינה אמת שיכיחותה אינה כריעה על ידי איזה שהוא אוסף של אקסיומות (הרמה הנמוכה), יהא הקרדינל של האוסף אשר יהא (אורך>0 הינו בתחום וגם לא בתחום כל אוסף של אורכי 0 הנמצא התחומו, מפני שאורך>0 הינו אובייקט לא-מורכב, בדיוק כמו שכל אורך 0 (שבתחומו הוא נמצא) אינו אבייקט מורכב). תגובה 663528 הינה פירוט של מציאות אשר יכולה לנבוע משילוב של סיבתיות עולה וסיבתיות יורדת, כאשר שילוב זה מאפשר את הדברים הבאים, הנוגעים לנושאים הנדונים בפורום זה: א) "האני" אינו סכום של אוסף מרכיבי מיקרו (ובאנלוגיה המשמשת אותי כאן: אורך>0 הינו אלמנט לא-מורכב, ולכן אינו ניתן להגדרה מלאה ע"י אוסף של אורכי 0) אלא הוא *אובייקט* מקרו לא-מורכב (הוא אינו אשליה בדיוק כמו שכל *אובייקט* ברמת המיקרו אינו אשליה). ב) המציאות הינה *לא פחות* משילוב של סיבתיות עולה וסיבתיות יורדת. ג) תופעת החיים הינה תוצר של סיבתיות יורדת אשר אינה מתפתחת לכדי רגרסיה (ירידה) אינסופית, כתוצאה מריסונה ע"י סיבתיות עולה. ד) עפ"י (א),(ב)ו-(ג) המציאות הינה לולאה מוזרה מכיוון שסיבתיות עולה וסיבתיות יורדת מגדירות זו את זו (מלשון גדר, הגבלה או ריסון) אך שורשיהן אינם מרכיבים זה את זה (ובאנלוגיה המשמשת אותי כאן: אורך>0 אינו מורכב מאורכי 0 הנמצאים בתחומו, בדיוק כמו שכל אורך=0 אינו מורכב מאורך>0 בנמצא בתחומו). -------------- ניתן לטעון כי תחום אורך>0 מוגדר במלואו ע"י שני אורכי 0 הנמצאים בקצותיו, אך אם אורך>0 אינו מורכב הרי שהוא מגדיר את תחום עצמו (בדיוק כמו שאורך 0 מגדיר את תחום עצמו) ולכן אינו תלוי להגדרת תחומו באורכי 0 הנמצאים בקצותיו. השילוב של אורך>0 לא-מורכב עם אורכי 0 (שאף אחד מהם אינו מורכב) למעשה יוצר מציאות מורכבת, ובמציאות זו ניתן לשייך ערכים שונים לאורך>0 ולאורכי 0 עפ"י השילוב ביניהם, לדוגמא: ב- __._______.____. ניתן לשייך ערכים מספריים לכל אורך>0 או אורך=0 בשילוב הנ"ל. ------------- אבקש להוסיף הערה לגבי מכניקת הקוואנטים. לעניות דעתי, יסודה של מכניקת הקוואנטים נעוץ באי-הרציפות של המעבר בין אורך>0 לאורך 0, ולא מאורך>0 בעל ערך נתון (לדוגמא: ערכו של אורך פלאנק). יותר מכך, הטענה כי אורך=0 אינו מעורב במכמיקת הקוואנטים, אינה נכונה, מן הטעם הפשוט שייחוס ערך נתון לאורך>0 (____) אינו אפשרי ללא שילובו עם אורכי 0 (.), לדוגמא: ערך אורך פלאנק=.______.=ערך 0 |
|
|
|
|
|
|
||
|
||||
|
בלי להבין דבר וחצי דבר, משהו כאן מתחיל להזכיר לי את תורת הרצף המודרנית של המתמטיקה ה(???1) מבית היוצר של דורון שדמי. ____________ 1- שכחתי איך היא נקראת והרופא אסר עלי להציץ בתגובות לדיון המפורסם ההוא. אולי מונאדית? מר קשר: חפש דיון שמתחיל במילה "טרחנים" וייתכן שבין אלפי התגובות תמצא משהו שידבר אל ליבך. |
|
|
|
|
|
|
||
|
||||
|
אינו מוצא יתרון כלשהו בזכרון שאינו כרוך בהבנה כלשהי. | |
|
|
|
|
|
||
|
||||
|
גם הזכרון לא משהו, כך שזה בסדר. | |
|
|
|
|
|
||
|
||||
|
גם הזכרון שלי לא משהו, אבל אני מנסה להבין את מה שאני זוכר. | |
|
|
|
|
|
||
|
||||
|
בהצלחה. | |
|
|
|
|
|
||
|
||||
|
תודה, גם לך. | |
|
|
|
|
|
||
|
||||
|
אבל אף אחד לא מבין. אתה גאון יותר גדול מאיינשטיין, שאותו עוד הבינו איזה שישה-שישה וחצי אנשים. | |
|
|
|
|
|
||
|
||||
|
למה אתה תוקף את "קשר" ? לפי מה שהבנתי "קשר" ניסה להסביר כמיטב יכולתו טענות של הופשטטר שלא הובנו היטב. במסגרת הפורום - ההסבר של "קשר" לא יכול להיות שלם (כי יש גבול ליכולת לתת הסבר אינטואיטיבי לטענות מסובכות). כנראה יש יותר מ- 6 וחצי אנשים שמסוגלים להבין היטב את "קשר", אלא שתנאי מוקדם להבנה כזו הוא שהם יקראו קודם בעיון את הספר "לולאה מוזרה ..". טענות מורכבות במתמטיקה או מטא מטמטיקה אינן יכולות להיות מוסברות באופן אינטואיטיבי ללא הבנת הפרטים. (גם אני לא קראתי את הספר מחוסר עניין כך שאין לי טענות למי שלא קרא). "קשר" אמר שאין טעם לדון בנושא לפי דמיון שטחי וחיצוני ל"דברים ישנים אחרים" שנידונו בפתיל אחר בעבר, בלי שיש הבנה לתכנים העמוקים יותר של ה"דברים הישנים האחרים" (כי דמיון שטחי וחיצוני אינו מועיל), במיוחד כאשר הדבר החדש ("לולאה מוזרה ...") גם הוא לא מובן לעושי ההשוואות. ההרגשה שלי שהעלאת הנושא במאמר של ירדן נועדה לכשלון אם הכוונה לייצור דיון ענייני בתוכן של "... לולאה מוזרה ..." , כי רוב מכריע של הקוראים לא יטרחו לקרוא ולהבין את הספר "... לולאה מוזרה ...". המקסימום שאפשר לצפות לו הוא שאחד או שניים מהקוראים יסתקרן ויקרא את הספר על סמך המאמר ועל סמך הערותיו "קשר". לכן דווקא צריך להודות ל"קשר" |
|
|
|
|
|
|
||
|
||||
|
הרגע נא. ליצור בפעם המליון גרסה אישית קלילה של בדיחה בת מאה, זה לא ממש ראוי להגדרה "תקיפה". אולי יש יותר משישה וחצי שמבינים את "קשר", אבל אם שכ"ג אמר שהוא לא מבין, יהיה די קשה לאתר את חבר המבינים. |
|
|
|
|
|
|
||
|
||||
|
שלום אמ לעניות דעתי ההסבר שאני מספק הינו פשוט בתכלית, הוא משתמש במושג האורך כגורם מגשר בין שני מצבים לא-מורכבים שלו (____ ו-.) אשר שילובם זה בזה (מפאת היותם ביטויים של גורם אחד) מאפשר קיומה של מציאות מורכבת כגון __.___._.______ וכו'. האם הטענה כי אין מצב ביניים בין אורך>0 (= ____) לאורך=0 (= .), כאשר ___ ו-. מגדירים זה את זה אך אינם מורכבים זה מזה, אינה מתקבלת על דעתך? ואם היא אינה מתקבלת על דעתך, מדוע, בדיוק, היא אינה מתקבלת על דעתך? כדי לחדד את העניין, אציין כי רובה של החשיבה אשר הולידה את המתמטיקה והמדע המודרני, נוטה במובהק להשתמש בסיבתיות עולה כדי להבין את המציאות. אני הולך בעקבותיו של הופשטטר ומוסיף למשחק את הסיבתיות היורדת, על מנת להבין את המציאות. הדבר המעניין, לדעתי, הוא שהופשטטר משתמש בסיבתיות יורדת, אך אין היא משמשת אצלו להבנת מציאות האני, ולכן האני, לדעתו, הינו אשליה, בדיוק מפני שהוא מבין אותו רק עפ"י סיבתיות עולה (שזוהי, כאמור, ההשקפה הרווחבת בין רוב קהילת המתמטיקאים ומדענים מזה כ-2500 שנים). |
|
|
|
|
|
|
||
|
||||
|
תיקון קטן לתגובתי הקודמת. בסוף צריך להיות: "(שזוהי, כאמור, ההשקפה הרווחת בין רוב המתמטיקאים ומדענים מזה כ-2500 שנים)." |
|
|
|
|
|
|
||
|
||||
|
אכן, מזכיר את הנ''ל. | |
|
|
|
|
|
||
|
||||
|
נאמר שאגוז-מלך מקולף מזכיר בצורתו את המוח האנושי. אילו תובנות עולות בך בשל כך? |
|
|
|
|
|
|
||
|
||||
|
תגובה 327043, תגובה 327080 | |
|
|
|
|
|
||
|
||||
|
תודה אייל אלמוני. אבקש להתמקד ב-תגובה 327107 בה כותב האייל הצעיר: "דווקא הגישה המתמטית המקובלת, אותה אלון הדגיש כל כך במאמר, שרואה באקסיומות סתם "חוקי משחק" מוסכמים, מאפשרת הסתכלויות נוספות על הנחות היסוד. אילו המתמטיקה הייתה עוסקת ב"אמת" המוחלטת, לא היה מקום "להחליף" את הנחות היסוד ככה פתאום." להבנתי, הראה גדל כי כאשר "משחקים" עם אקסיומות (רמת .) אשר יש בכוחן להתמודד עם אריתמטיקה, ניתן להסיק משפט אמת (רמת ___) אשר יכיחותו אינה כריעה ע"י אוסף אקסיומות, ובכך ניתן (לדעתי) להוסיף ל"משחק" המתמטי גם סיבתיות יורדת, אשר על-פיה משפט (____) הינו אמת שאינה יכיחה ע"י אוסף אקסיומות . (____ הינו הסיבה של אוסף .) המשותף ל-___ ו-. הינו מושג האורך, כאשר ___ הינו אורך>0 ו-. הינו אורך=0. לדעתי, הוא מאפשר לנו להבין את יחסי . ו-___ הן ע"י סיבתיות יורדת (____ הינו בתחום וגם לא בתחום . הנמצאת בתחומו (לדוגמא: __._)) והן ע"י סיבתיות עולה (אוסף . מגדיר את תחום ___ (לדוגמא: .___.), ובמקרה זה מקובל להבין את ___ כאוסף לא בר-מנייה של .). דעתי המפורטת בנידון, המשתמשת במושג "לולאה מוזרה", כתובה ב-תגובה 663630 אודה לך על תגובתך לנ"ל (כולל לתוכן הקישור). |
|
|
|
|
|
|
||
|
||||
|
אם מותר לי התערב ולהעיר, הבנתי את הכל עד המשפט: "להבנתי, הראה גדל כי כאשר "משחקים" עם אקסיומות (רמת .) אשר יש בכוחן להתמודד עם אריתמטיקה, ניתן להסיק משפט אמת (רמת ___) אשר יכיחותו אינה כריעה ע"י אוסף אקסיומות, ובכך ניתן (לדעתי) להוסיף ל"משחק" המתמטי גם סיבתיות יורדת, אשר על-פיה משפט (____) הינו אמת שאינה יכיחה ע"י אוסף אקסיומות . (____ הינו הסיבה של אוסף .)" ומאז לא הבנתי כלום. אני מכיר את המילים בעברית, אני חושב שאני מבין את משמעותן, אבל לא ברור לי איך הן מתחברות למשפט קוהרנטי, ופחות מזה, לא ברור לי: * כשאתה כותב סוגריים למה אתה מתכוון? * כשאתה משתמש במילה "רמת" למה אתה מתכוון? * כשאתה משתמש בנקודה, למה אתה מתכוון? * כשאתה משתמש בקו תחתי למה אתה מתכוון? אני חושב שתקל על כולם אם תשתמש בעברית. |
|
|
|
|
|
|
||
|
||||
|
שלום אלמוני אחר, אני משתמש הן בייצוג וורבלי (שפה המבוטאת ע"י סימבולים) והן בייצוג וויזואלי (שפה המבוטאת על ידי דיאגרמות), כדי להציג את אותן תובנות, מבחינת "אותה גברת בשינוי אדרת". אם אעז לנחש, ותקן אותי אם אני טועה, יכול להיות שאתה מגדיר "משפט קוהרנטי" רק עפ"י ייצוגו הוורבלי (שפה המבוטאת ע"י סימבולים). מתוך עירות לנ"ל, להלן תשובתי: * הסוגריים הינם השימוש הסימבולי למאמר מוסגר אשר תוכנו יכול להיות אוסף סיבולים או דיאגרמה כגון ___ או . (כאשר התרגום לעברית של ___ הינו "קו", והתרגום לעברית של . הינו "נקודה"). * אני משתמש במושג "רמה" כאמצעי להבחנה בין אורך>0 (רמה גבוהה) לאורך=0 (רמה נמוכה). * לשיטתי (המשלבת בין ייצוג וורבלי לייצוג ויזואלי של אותה תובנה) משמשת הנקודה כיסוד לסיבתיות עולה. * לשיטתי (המשלבת בין ייצוג וורבלי לייצוג ויזואלי של אותה תובנה) משמש הקו כיסוד לסיבתיות יורדת. ככלל, משולבות הסיבתיות העולה והסיבתיות היורדת לכדי "לולאה מוזרה", שהינה ביטוי לקשר ביניהן, המבוסס, במקרה זה, על מושג האורך. לעניות דעתי, ההשקפה הרווחת בין רוב המתמטיקאים והמדענים מזה כ-2500 שנים, נוקטת בגישת הסיבתיות העולה. בהסתמך על ממצאיו של גדל ותובנותיו של הופשטטר, אני מוסיף ל"משחק" גם את הסיבתיות היורדת, מה שמאפשר, לדעתי, להבין את המציאות במונחים של לולאה-מוזרה, המבוססת על מקור אחד (במקרה זה, משמש מושג האורך כמקור האחד, אשר היבטיו ברמות שונות (אורך>0, אורך=0) מגדירים זה את זה, אך אינם מרכיבים זה את זה, לדוגמא: . ו- ___ מגדירים זה לזה ערכים בהרכב כגון __.___._.______ , אך . (אורך=0) ו-___ (אורך>0 הינם אובייקטים לא-מורכבים, עפ"י הבנתי). |
|
|
|
|
|
|
||
|
||||
|
תיקון קטן לסוף תגובה קודמת: במקום: "בהסתמך על ממצאיו של גדל ותובנותיו של הופשטטר, אני מוסיף ל"משחק" גם את הסיבתיות היורדת, מה שמאפשר, לדעתי, להבין את המציאות במונחים של לולאה-מוזרה, המבוססת על מקור אחד (במקרה זה, משמש מושג האורך כמקור האחד, אשר היבטיו ברמות שונות (אורך>0, אורך=0) מגדירים זה את זה, אך אינם מרכיבים זה את זה, לדוגמא: . ו- ___ מגדירים זה לזה ערכים בהרכב כגון __.___._.______ , אך . (אורך=0) ו-___ (אורך>0 הינם אובייקטים לא-מורכבים, עפ"י הבנתי)." צריך להיות: בהסתמך על ממצאיו של גדל ותובנותיו של הופשטטר, אני מוסיף ל"משחק" גם את הסיבתיות היורדת, מה שמאפשר, לדעתי, להבין את המציאות במונחים של לולאה-מוזרה, המבוססת על מקור אחד (במקרה זה, משמש מושג האורך כמקור האחד, אשר היבטיו ברמות שונות (אורך>0, אורך=0) מגדירים זה את זה, אך אינם מרכיבים זה את זה, לדוגמא: . ו- ___ מגדירים זה לזה ערכים בהרכב כגון __.___._.______ , אך . (אורך=0) ו-___ (אורך>0) הינם אובייקטים לא-מורכבים, עפ"י הבנתי." |
|
|
|
|
|
|
||
|
||||
|
הבעיה היא שאתה משתמש ביצוג ויזואלי שלא מקובל ולא מובן (לי, ולא נראה לי שאני היחיד). * "אני משתמש במושג "רמה" כאמצעי להבחנה בין אורך>0 (רמה גבוהה) לאורך=0 (רמה נמוכה)." אוקי, למה אתה קורה "אורך"? * "לשיטתי משמשת הנקודה כיסוד לסיבתיות עולה." או. קיי. - הייתי מציע לך למצוע סימון אחר, לנקודה יש כבר מספיק שימושים בעברית (סיום משפט, נקודה עשרונית...) היא קטנה, לא בולטת מספיק, מבלבלת, ולא עוזרת לך לקדם את הנקודה שלך. הקו, לעומתה, בולט יותר מידי _מה גם שאתה לא כותב קו אחד) ומפריע בקריאה רציפה של הטקסט. למה לא ⍾ במקום הנקודה ו-⍢ במקום הקו (למשל)? למה אתה מתכוון כשאתה אומר: "יסוד לסיבתיות עולה" (בפרט: עולה - מאיפה לאן? סיבתיות - של מה? יסוד - למה?). לא הצלחתי להבין את כל הטקסט מהמשפט: "....משולבות הסיבתיות העולה והסיבתיות היורדת...". לפני שאתה מגיע למסקנות, תנסה להסביר את השפה שלך. |
|
|
|
|
|
|
||
|
||||
|
אלמוני אחר, להבנתי, אתה למעשה מציע להמיר שילוב של ייצוג וויזואלי ווורבלי בייצוג וורבלי-סימבולי בלבד (לדוגמא: ⍾ במקום .(אורך=0) ו-⍢ במקום __(אורך>0)). בכך אתה מגביל את תובנותיך בנושא לייצוג וורבלי-סימבולי בלבד, ולעניות דעתי, הגבלה זו הינה הגורם לשאלותיך הבאות: "למה אתה מתכוון כשאתה אומר: "יסוד לסיבתיות עולה" (בפרט: עולה - מאיפה לאן? סיבתיות - של מה? יסוד - למה?)." נסה נא לבחון את שאלותיך תוך שילוב של הייצוגים הוויזואליים והוורבליים .(אורך=0) ו- __(אורך>0). לדעתי, ניתן בקלות להבין את .(אורך=0) כיסוד לסיבתיות עולה מ-.(אורך=0) ל-__(אורך>0), כאשר .(אורך=0) מייצג את רמת האקסיומות ו-__(אורך>0) מייצג את רמת המשפטים במערכת מתמטית נתונה. עבודתו של גדל על אי-יכיחות משפטי אמת במערכת מתמטית החזקה דיה להתמודד עם אריתמטיקה, מדגימה כי קיימים משפטי אמת (מיוצגים על-ידי וויזואלית ווורבלית כ- __(אורך>0)) אשר יכיחותם אינה כריעה ע"י אקסיומות המערכת (מיוצגות על-ידי וויזואלית וורבלית ע"י אוסף של .(אורך=0)). במקרה זה משפט אמת נתון (מיוצג וויזואלית ווורבלית כ-__(אורך>0)) הינו הסיבה של האקסיומות (מיוצגות וויזואלית ווורבלית כאוסף של .(אורך=0)), היות והוא אינו כריע במסגרתן (אי-כריעותו שרירה וקיימת לא משנה כמה אקסיומות נוסיף למערכת), ומצב זה מכונה בפי הופשטטר "סיבתיות יורדת". האם קראת את ספרו של דאגלס הופשטטר "אני לולאה מוזרה"? |
|
|
|
|
|
|
||
|
||||
|
באשר לאורך, אני מגדיר אותו כ: "גורם משותף לביטויים שונים", ובמקרה הנדון, אורך הינו הגורם המשותף לביטויים הוויזואליים-וורבליים .(אורך=0) ו-__(אורך>0). | |
|
|
|
|
|
||
|
||||
|
(תגובה גם לתגובה 663877) הבעיה היא שמה שאתה קורה לו "ייצוג וויזואלי" הוא לא ברור לי לחלוטין. אני לא כל כך מבין את הטעם בלהוסיף ייצוג ויזואלי אם השפה הויזואלית היא שפה פרטית. ייצוג ויזואלי אמור לעזור לי להבין את הנקודה ולך להסביר אותה. תמונה אחת (או דיאגרמה אחת, או גרף אחד, או מפה אחת) יכולה לחסוך אלף מילים. הבעיה היא שכאן לא רק שלא חסכת מילים, אתה צריך להסביר את עצמך שוב ושוב ושוב, בגלל שאתה פשוט לא מובן (לי, אני מדבר בשמי בלבד. אני בטוח שיש כאן כמה נמרים שמבינים כל מילה שלך). "לדעתי, ניתן בקלות להבין את .(אורך=0) כיסוד לסיבתיות עולה מ-.(אורך=0) ל-__(אורך>0), כאשר .(אורך=0) מייצג את רמת האקסיומות ו-__(אורך>0) מייצג את רמת המשפטים במערכת מתמטית נתונה." קראתי את המשפט הזה שלוש פעמים, אני לא יודע, הוא פשוט לא בעברית. לא רק שלא בקלות, גם בקושי רב, הוא פשוט לא מובן. אני פשוט לא מבין את . (אורך=0) כיסוד לשום דבר. אני לא רואה כאן סיבתיות. והשימוש שלך במושג אורך הוא חידה בשבילי.אני לא הולך לשאול מה זה: "רמת המשפטים במערכת מתמטית נתונה" בגלל שאני עדיין מנסה להבין את שאר השאלות ששאלתי. לא קראתי את ספרו של הופשטטר. למה אתה קורא ל"גורם משותף לביטויים שונים" אורך? מה זה בכלל "גורם משותף לביטויים שונים"? ובפרט, מה זה: "גורם משותף", ומה זה "ביטוי" ומה הם "ביטויים שונים"? אתה יכול לתת דוגמאטת קונקרטיות, לאיזה ביטויים יש גורם משותף אפס? לאיזה ביטויים יש גורם משותף 0.14? לאיזה ביטויים יש גורם משותף 32? |
|
|
|
|
|
|
||
|
||||
|
לדעתי, הייצוגים הוויזואליים . ו-__ אינם שפה פרטית אלא משותפים לכל השפות הוורבליות (ובעברית הם מכונים "נקודה" ו-"קו" בהתאמה). הגדרתי את "נקודה" ו-"קו" כביטויים שונים של אורך, באופן הבא: .(אורך=0), __(אורך>0), ובזה משמש האורך כגורם (או מושג) משותף בין הביטויים השונים, שהם "נקודה" ו-"קו". אתה כותב: "אתה יכול לתת דוגמאטת קונקרטיות, לאיזה ביטויים יש גורם משותף אפס? לאיזה ביטויים יש גורם משותף 0.14? לאיזה ביטויים יש גורם משותף 32?" הדוגמא הקונקרטית הינה לא ערך מספרי מסויים המשוייך לנקודה או קו בהרכב כגון __.___._.______ , אלא שימושו של אורך כמושג משותף לנקודה(אורך=0) ו-קו(אורך>0). אתה כותב: "אני לא הולך לשאול מה זה: "רמת המשפטים במערכת מתמטית נתונה" בגלל שאני עדיין מנסה להבין את שאר השאלות ששאלתי." אקסיומות הינן "אמיתות" במערכת מתמטית עיקבית נתונה אשר אינן זקוקות להוכחה, כאשר משפט נתון במערכת זקוק להוכחה ל-"אמיתותו". במובן זה "אמיתות" האקסיומות הינה הסיבה ל-"אמיתות" המשפט, ומצב זה מכונה סיבתיות-עולה. בא גדל והראה כי קיימת מערכת אקסיומות (החזקה דייה לעסוק באריתמטיקה) שבה יש משפטי "אמת" אשר הוכחת "אמיתותם" אינה ניתנת להכרעה ע"י מערכת האקסיומות. הניסיון להוסיף אקסיומות נוספות למערכת כנ"ל אינו משנה את המצב, קרי, תמיד יהיו במערכת אקסיומות (החזקה דייה לעסוק באריתמטיקה) משפטי "אמת" אשר הוכחת "אמיתותם" אינה ניתנת להכרעה ע"י מערכת האקסיומות. מצב זה מכונה בפי הופשטטר ובפי "סיבתיות יורדת", שעל-פיה, כאמור לעיל, יש משפטי "אמת" אשר הוכחת "אמיתותם" אינה ניתנת להכרעה ע"י מערכת האקסיומות, או במילים אחרות, ה"אמת" ברמת המשפט הינה הסיבה ל"אמיתות" האקסיומות. גזרתי שקילות בין המתואר לעיל, לבין היחסים בין נקודה (מייצגת את רמת האקסיומות) לקו (מייצג את רמת המשפט). |
|
|
|
|
|
|
||
|
||||
|
אתה מתכוון למושגים הגיאומטריים: "נקודה", "קו" ו"אורך"?! אם כן, מאד (מאד) יקל עלי אם פשוט תכתוב את המילים: נקודה, קו ואורך(בלי מרכאות, בלי סימונים, בלי דיאגרמות... זה בסדר, אני יודע לקרוא). בו נראה אם אני אצליח לנסח בעברית את מה שכתבת ושאני חושב שהבנתי: אורך הוא מאפיין מספרי חיובי של קו ונקודה, כשהקו מתאפיין באורך גדול מאפס ואילו לנקודה יש אורך אפס. משפטי אמת שנכונותם נובעת מהאקסיומות של המערכת נקראים משפטים בעלי "סיבתיות-עולה", משפטי אמת שנכונותם לא נובעת מהאקסיומות של המערכת נקראים בעלי "סיבתיות יורדת". הרבה פחות מילים, יותר נכון, בעברית, ולדעתי הרבה הרבה יותר מובן. האם פספסתי משהו? הדברים שעדיין לא הבנתי בתגובה הזאת (לפני שנתחיל ללכת אחורה): * מה זה אומר "רמת המשפטים במערכת מתמטית נתונה" * איפה אתה רואה גזירה בין היחסיסים בין נקודה לקו ליחסים בין אקסיומות למשפט? |
|
|
|
|
|
|
||
|
||||
|
איני מתכוון רק למושגים קו ונקודה בגיאומטריה אלא משתמש במושג האורך ובביטויו כקו ונקודה, כהכללה למושג של גורם משותף המקשר בין ביטויו השונים, אשר אף אחד מהם לבדו אינו מגדיר במלואו את הגורם המשותף. מתוך תובנה זו, אוסף של אורכי 0 אינו מהווה אורך>0, ואורך>0 אינו ניתן לרדוקציה לאורך=0 (ועדיין להחשב כאורך>0). תובנה זו תקיפה, לדעתי, הן בגיאומטריה, הן באנליזת הישר הממשי, והן ביחס הסיבתיות שבין אקסיומות למשפטים, ואם אינך מסכים איתה, אנא פרט את תובנתך בנושא. אתה כותב: "משפטי אמת שנכונותם נובעת מהאקסיומות של המערכת נקראים משפטים בעלי "סיבתיות-עולה", משפטי אמת שנכונותם לא נובעת מהאקסיומות של המערכת נקראים בעלי "סיבתיות יורדת"." בשתי ההגדרות השתמשת בהנחה סמויה והיא שרמת האקסיומות נמוכה מרמת המשפטים ורמת המשפטים גבוהה מרמת האקסיומות, אחרת לא יכול היית להשתמש בביטויים "סיבתיות-עולה" או "סיבתיות-יורדת" מלכתחילה. מכיוון שהשתמשת במושגים "עולה" ו-"יורדת" כהנחה סמויה, אין זה מפתיע שאתה שואל את השאלות הבאות: "* מה זה אומר "רמת המשפטים במערכת מתמטית נתונה" * איפה אתה רואה גזירה בין היחסיסים בין נקודה לקו ליחסים בין אקסיומות למשפט?" נסה נא לנסח מחדש את הגדרתך ללא הנחות סמויות, ולדעתי, יוביל הדבר למענה לשתי השאלות הנ"ל. |
|
|
|
|
|
|
||
|
||||
|
כמו-כן, הרשה לי תיקון להגדרה שלך: משפטים שאמיתותם מוכחת מהאקסיומות של מערכת נתונה נקראים משפטים בעלי "סיבתיות-עולה", משפטים שאמיתותם אינה מוכחת מהאקסיומות של מערכת נתונה, נקראים בעלי "סיבתיות יורדת". גם בהגדרה מתוקנת זו קיימת ההנחה הסמויה, שהוזכרה לעיל. |
|
|
|
|
|
|
||
|
||||
|
ולתיקון הקודם אוסיף תיקון נוסף: מערכת שבה אמיתותם של כל המשפטים מוכחת ע"י אקסיומות המערכת, נקראת מערכת בעלת סיבתיות-עולה. מתוך ההגדרה הנ"ל ניתן להבין כי סיבתיות-יורדת קיימת במערכת, שבה לא מוכחת אמיתותם של כל משפטי המערכת (על אף היותם משפטי-אמת, כפי שהראה גדל). גם כאן לא נפתרה בעיית ההנחה הסמוייה. |
|
|
|
|
|
|
||
|
||||
|
"איני מתכוון רק למושגים קו ונקודה בגיאומטריה אלא משתמש במושג האורך ובביטויו כקו ונקודה, כהכללה למושג של גורם משותף המקשר בין ביטויו השונים, אשר אף אחד מהם לבדו אינו מגדיר במלואו את הגורם המשותף." לא הבנתי. זאת סתם הגדרה של "מאפיין". יש עשרות כאלה לכל קבוצה של מושגים. נגיד, את החפצים הממשיים מאפיין משקל, נפח, מקום, תנע, צורה, צבע... לכל חפץ ממשי יש משקל, אבל המשקל לא מגדיר אף חפץ ממשי. לכל המספרים יש חצי, אבל חצי לא מגדיר אף מספר. מה מיוחד בנקודה, קו ואורך שהדליק אותך כל כך? למה הם מעניינים במובן הזה? "מתוך תובנה זו, אוסף של אורכי 0 אינו מהווה אורך>0, ואורך>0 אינו ניתן לרדוקציה לאורך=0 (ועדיין להחשב כאורך>0)." לא. סליחה, זה פשוט לא נובע מה"תובנה" הזאת. "תובנה זו תקיפה, לדעתי, הן בגיאומטריה, הן באנליזת הישר הממשי, והן ביחס הסיבתיות שבין אקסיומות למשפטים, ואם אינך מסכים איתה, אנא פרט את תובנתך בנושא." אני לא מסכים. אין לי שום "תובנה" בנושא, אני לא מבין איך אפשר למצוא "תובנה" מדבר כל כך טריויאלי, וגם אם אפשר היה, לא ברור לי איך הוצאת דווקא את ה"תובנה" שהוצאת. "בשתי ההגדרות השתמשת בהנחה סמויה והיא שרמת האקסיומות נמוכה מרמת המשפטים ורמת המשפטים גבוהה מרמת האקסיומות, אחרת לא יכול היית להשתמש בביטויים "סיבתיות-עולה" או "סיבתיות-יורדת" מלכתחילה." ממש לא, אני אפילו לא יודע מה זה "רמת האקסיומות" ומה זה "רמת המשפטים" ובטח שלא איך להשוות "גובה" של שני דברים שאני לא יודע מה הם טאיך להגדיר את הגובה שלהם. בסך הכל ניסיתי לתרגם את הטקסט שלך, ואת השימוש שלך במושגים שלך "סיבתיות-עולה" ו"סיבתיות-יורדת" לעברית פשוטה. אם נכשלתי, נכשלתי, אבל בטח שלא השתמשתי בהנחות סמויות. נראה לי שבכל זאת לא הבנתי אותך. ניסיתי ונכשלתי. אולי זה בגלל קשיי ההבנה שלי, מצד שני, אולי יש לך כאן בעיה קלה בניסוח (או במה שאתה מנסה לנסח). אולי תנסה בכל זאת ללכת בעקבות העצה שלי ולנסח את מה שאתה רוצה לנסח בעברית פשוטה ומובנת גם לאנשים בעלי מגבלות הבנה (כמוני). |
|
|
|
|
|
|
||
|
||||
|
"לא. סליחה, זה פשוט לא נובע מה"תובנה" הזאת." מה, לדעתך, "פשוט לא נובע מה"תובנה" הזאת"? כי הרי בפירוש אתה מצהיר לפני כן "לא הבנתי." ולהלן דבריך: "לא הבנתי. זאת סתם הגדרה של "מאפיין". יש עשרות כאלה לכל קבוצה של מושגים. נגיד, את החפצים הממשיים מאפיין משקל, נפח, מקום, תנע, צורה, צבע... לכל חפץ ממשי יש משקל, אבל המשקל לא מגדיר אף חפץ ממשי. לכל המספרים יש חצי, אבל חצי לא מגדיר אף מספר. מה מיוחד בנקודה, קו ואורך שהדליק אותך כל כך? למה הם מעניינים במובן הזה?" שום דבר לא מיוחד באורך וקו ונקודה, למעט היותם דרך פשוטה להבין סיבתיות-עולה וסיבתיות-יורדת. חוששני שכאשר אתה כותב "אני לא מסכים. אין לי שום "תובנה" בנושא, אני לא מבין איך אפשר למצוא "תובנה" מדבר כל כך טריויאלי", אינך מבחין בין כוחה של פשטות לחולשתה של פשטנות, בנושא הנדון. כמ-כן אם אין לך שום "תובנה" בנושא, אם מה בדיוק אתה לא מסכים? "ממש לא, אני אפילו לא יודע מה זה "רמת האקסיומות" ומה זה "רמת המשפטים" ובטח שלא איך להשוות "גובה" של שני דברים שאני לא יודע מה הם טאיך להגדיר את הגובה שלהם. בסך הכל ניסיתי לתרגם את הטקסט שלך, ואת השימוש שלך במושגים שלך "סיבתיות-עולה" ו"סיבתיות-יורדת" לעברית פשוטה. אם נכשלתי, נכשלתי, אבל בטח שלא השתמשתי בהנחות סמויות." התרגום שלך הינו התרגום של הבנתך שלך, ולכן אינך ער להנחה-הסמוייה שבהגדרתך (ראה נא את השיפורים שביצעתי בה, אשר גם הם אינם פותרים את בעיית ההנחה הסמויה). באופן כללי, לא אתה ולא אני יכולים לתרגם משהו מבלי להבינו תחילה, והיות וטענת קטגורית בתחילת תגובתך כי אינך מבין את דברי, אין אי-הבנה זו יכולה לשמש, לדעתי, כבסיס מהימן לתירגומם. |
|
|
|
|
|
|
||
|
||||
|
"שום דבר לא מיוחד באורך וקו ונקודה, למעט היותם דרך פשוטה להבין סיבתיות-עולה וסיבתיות-יורדת." הם לא. אם הם היו דרך פשוטה להבין מהם סיבתיות-עולה וסיבתיות-יורדת היית יכול להסביר את זה ב.. ובכן.. בפשטות. "אין לך שום "תובנה" בנושא, אם מה בדיוק אתה לא מסכים?" אני לא מסכים אם זה שמהעובדה שאורך הוא מאפיין של נקודה ושל קו אפשר להסיק שאוסף של נקודות אינו מהווה קו, וקו אינו ניתן לרדוקציה לנקודה (ועדיין להחשב כקו). נכון או לא נכון, ואם אני זוכר נכון זה לא נכון, זה בטח לא נובע מהעובדה שאורך הוא מאפין של שניהם (משקל הוא מאפיין של גרגר אורז ושל ערימת אורז ובכל זאת נראה לי שאוסף של גרגרי אורז מהווה ערימת אורז). יש לך כאן איזשהי הנחה נסתרת, אני לא יודע מהיא, ולא ברור לי איזה הנחה נסתרת אפשר להניח על מנת להגיע מההנחה לתוצאה, אבל בהנתן העובדה שהצלחתי לחלץ ממך אחרי מאמצים רבים את התוצאה וההנחה בעברית ברור לי שהיחס ביניהן הוא לא יחס של נביעה לוגית. "הרי בפירוש אתה מצהיר לפני כן "לא הבנתי."" נכון, לא הבנתי מה מיוחד בנקודה, קו ואורך שהדליק אותך כל כך. "לא אתה ולא אני יכולים לתרגם משהו מבלי להבינו תחילה, והיות וטענת קטגורית בתחילת תגובתך כי אינך מבין את דברי, אין אי-הבנה זו יכולה לשמש, לדעתי, כבסיס מהימן לתירגומם." אני מסכים בהחלט. בגלל זה ביקשתי ממך כמה פעמים לתרגם את דבריך לבד. אם אתה רוצה שיבינו אותך אתה צריך לכתוב בשפה שבני אדם אחרים מבינים. כשלא נענתי לבקשותי ניסיתי לתת לך דוגמא לאיך אני מבין את מה שאתה כותב בתקווה שתנצל את ההזדמנות ותתקן אותי במקומות בהם טעיתי כך שבסופו של דבר יהיה לנו טקסט שאותו שנינו מבינים. הדרך שלך להתקדם הלאה היא או לקחת את העצות שנתתי לך ולנסח את ה"תובנה" שלך בעברית, או להמשיך לדבר בנמרית ולהניח שכל מי שחשוב מבין אותך. |
|
|
|
|
|
|
||
|
||||
|
אתה כותב: "אני לא מסכים אם זה שמהעובדה שאורך הוא מאפיין של נקודה ושל קו אפשר להסיק שאוסף של נקודות אינו מהווה קו, וקו אינו ניתן לרדוקציה לנקודה (ועדיין להחשב כקו). נכון או לא נכון, ואם אני זוכר נכון זה לא נכון, זה בטח לא נובע מהעובדה שאורך הוא מאפין של שניהם". בדבריך אלה הבהרת לי כי מושג האורך מובן על ידך עפ"י סיבתיות-עולה בלבד, שעל פיה קו הינו אוסף של נקודות, שטח הינו אוסף של קווים, נפח הינו אוסף של שטחים וכו', או בקיצור, מושג האורך ניתן לרדוקציה לאורך=0 וכל השאר מורכב מאוספים של אורכי 0. לדעתי, סיבתיות-עולה הינה ההשקפה הרווחת בין רוב המתמטיקאים והמדענים מזה כ-2500 שנים, ולעניות דעתי כדאי להוסיף ל"משחק" גם את הסיבתיות-היורדת, שעל-פיה מימדים "גבוהים" יותר אינם בהכרח אוסף של מימדים "נמוכים" יותר, והדוגמא הלוגית הידועה ביותר לכך הינה משפטי אי-השלמות של גדל, אשר על פיהם, קיים משפט מתמטי אמיתי (שקול למימד ה"גבוה" יותר במערכת מתמטית החזקה דיה להתמודד עם אריתמטיקה) אשר יכיחות אמיתותו אינה כריעה ע"י אקסיומות המערכת (שקולים למימד ה"נמוך" יותר במערכת מתמטית החזקה דיה להתמודד עם אריתמטיקה). אם אינך מסכים למושג הסיבתיות-היורדת ולהכללתה למושג המימד (כפי שתיארתי לעיל) אנא, הדגם באופן מתמטי כי, לדוגמא, אורך>0 ניתן לרדוקציה לאורך=0 וגם להחשב לאורך>0. לפני שתתחיל, אנא כך בחשבון כי כדי שאי-הסכמתך תהיה בעלת תוקף מתמטי, עליך להוכיח, לדוגמא, כי 1=0. בהצלחה. |
|
|
|
|
|
|
||
|
||||
|
יש שתי בעיות שמקשות עלי לנהל איתך דיון. אתה משתמש במושגים פרטיים שלא הגדרת, ואתה קופץ הרבה יותר מידי שלבים קדימה בלי להסביר. מושג האורך לא מוגדר על ידי בשום צורה שהיא, לקחתי את ההגדרה שלך, והכלתי אותה על ה"תובנה" שלך, וזה מה שיצא. אני לגמרי לא בטוח שהבנתי למה אתה מתכוון בסיבתיות עולה ויורדת, ונראה לי שכדאי שתקרא את זה. "לעניות דעתי כדאי להוסיף ל"משחק" גם את הסיבתיות-היורדת, שעל-פיה מימדים "גבוהים" יותר אינם בהכרח אוסף של מימדים "נמוכים" יותר" אז עכשיו הכנסת מושג חדש, "ממד", שברור שהוא מוגדר אצלך אחרת לגמרי מאשר אצל שער העולם, ובכל זאת לא ברור לך שאני משום מה מבין למה אתה מתכוון בו. לא, זה לא עובד ככה, אני לא קורא מחשבות. "אם אינך מסכים למושג הסיבתיות-היורדת ולהכללתה למושג המימד (כפי שתיארתי לעיל) אנא, הדגם באופן מתמטי כי, לדוגמא, אורך>0 ניתן לרדוקציה לאורך=0 וגם להחשב לאורך>0." לגמרי לא תיארת את מושג הממד, סתם הפלת אותו עלי. בכל מקרה, זה די פשוט, בו נגדיר מערכת אקסיומתית פסאודו-גיאומטרית עם שתי "נקודות" בלבד (נקרא להם דוד ושלמה), לכל אחד אורך אפס, וקו אחד (נקרא לו קו דוד-שלמה) שמכיל את שתי הנקודות ביקום שלנו, ובעל אורך 2.8. הנה, יש לנו אורך>0 שניתן לרדוקציה לאורך=0 וגם להחשב אורך>0. למה אני צריך להוכיח ש:0=1 (לא שיש לי בעיה מיוחדת להוכיח את זה1, רק שאני לא רואה מה הטעם). 1 אלא אם כן אני חייב להשתמש ב-0 ו-1 המוכרים, ואז יש לי בעיה קטנה. |
|
|
|
|
|
|
||
|
||||
|
ועוד כתבת: "יש לך כאן איזשהי הנחה נסתרת, אני לא יודע מהיא, ולא ברור לי איזה הנחה נסתרת אפשר להניח על מנת להגיע מההנחה לתוצאה, אבל בהנתן העובדה שהצלחתי לחלץ ממך אחרי מאמצים רבים את התוצאה וההנחה בעברית ברור לי שהיחס ביניהן הוא לא יחס של נביעה לוגית." סליחה ידידי, איזה "הנחה נסתרת" שאתה "לא יודע מהיא, ולא ברור" לך "איזה הנחה נסתרת אפשר להניח על מנת להגיע מההנחה לתוצאה" תומכת ב-"עובדה" שהצלחת "לחלץ" ממני "אחרי מאמצים רבים את התוצאה וההנחה בעברית" (בסתירה לטענתך כי אתה "לא יודע מהיא" ההנחה), כך ש-"ברור" לך "שהיחס ביניהן הוא לא יחס של נביעה לוגית."? ואחרי הניסוח הנ"ל, האם אתה עדיין מחזיק בדיעה כי יש בידך לעזור לי לנסח את רעיונותי ביתר בהירות? |
|
|
|
|
|
|
||
|
||||
|
בסיום דבריך כתבת: "נראה לי שבכל זאת לא הבנתי אותך. ניסיתי ונכשלתי. אולי זה בגלל קשיי ההבנה שלי, מצד שני, אולי יש לך כאן בעיה קלה בניסוח (או במה שאתה מנסה לנסח). אולי תנסה בכל זאת ללכת בעקבות העצה שלי ולנסח את מה שאתה רוצה לנסח בעברית פשוטה ומובנת גם לאנשים בעלי מגבלות הבנה (כמוני)." ראה ידידי, לפחות נסה להבין את המושג "סיבתיות-יורדת" כפי שהציג אותה הופשטטר בספרו "אני לולאה מוזרה" (שזהו, דרך אגב, הנושא של דיון זה). באשר לי, איני מוצא כל בעיה להכליל "סיבתיות-יורדת" ע"י שימוש בקו לא-מורכב ביחס לנקודה (שמיותר לציין את אי-מורכבותה), או להכליל "סיבתיות-עולה" ע"י שימוש בנקודה (שמיותר לציין את אי-מורכבותה) ביחס לקו לא-מורכב. כמו-כן הבה נתבונן שוב במשפט הבא שכתבת: "לא הבנתי. זאת סתם הגדרה של "מאפיין"." אולי כאן טמון ההבדל בין הבנתך להבנתי בנושא הנדון, כי איפה שאתה רואה "סתם הגדרה של "מאפיין"", אני מוצא "מאפיין" זה כגורם משותף המאפשר לקשר בין ביטויו השונים, ובכך להבינם גם מעבר לכל ביטוי לחוד. |
|
|
|
|
|
|
||
|
||||
|
המטרה של הדיון מבחינתי היא לא להבין מה הופשטטר אמר, אילו הייתי רוצה לדעת את זה הייתי קורא את הספר שלו. המטרה היא לנסות ולהסביר לך למה קשה לאנשים להבין את מה שאתה כותב ולתת לך עצה איך להתנסח בצורה שתהיה יותר מובן לשאר בני האנוש. מבחינתי עצם העובדה שהצלחת לכתוב שלוש תגובות בלי להשתמש בסימנים מוזרים היא השג. "איפה שאתה רואה "סתם הגדרה של "מאפיין"", אני מוצא "מאפיין" זה כגורם משותף המאפשר לקשר בין ביטויו השונים, ובכך להבינם גם מעבר לכל ביטוי לחוד." ועל מנת לא להשאיר אותנו במתח אתה גם צריך להסביר למה. במילים אחרות, האם זה נכון לכל מאפיין וקבוצת מאופיינים או שזה נכון רק לצירוף מאפיין-קבוצת מאפיינים "אורך", "נקודה" ו"קו". במידה וזה נכון לכל מאפיין, אז עדיין לא ברור לי מה כל כך מעניין בזה ולא בחרת דווקא בדוגמא הלא כל כך מוצלחת הזאת, במידה וזה נכון רק לשילוש הזה, אז איזה תכונה בדיוק כאן מיוחדת ומעניינת? |
|
|
|
|
|
|
||
|
||||
|
ראה נא את תגובה 663906 נדמה שכבר הבהרתי לך כי אין שום דבר מיוחד באורך וביטויו כקו ונקודה, אך משום מה אתה מתעקש למצוא בהם משהו מיוחד במקום להשתמש בהם בהכללה (מה שנקרא במתמטיקה, שימוש במקרה פרטי "ללא איבוד הכלליות" Without_loss_of_generality [Wikipedia]). |
|
|
|
|
|
|
||
|
||||
|
אתה כותב: "המטרה של הדיון מבחינתי היא לא להבין מה הופשטטר אמר, אילו הייתי רוצה לדעת את זה הייתי קורא את הספר שלו. המטרה היא לנסות ולהסביר לך למה קשה לאנשים להבין את מה שאתה כותב ולתת לך עצה איך להתנסח בצורה שתהיה יותר מובן לשאר בני האנוש. מבחינתי עצם העובדה שהצלחת לכתוב שלוש תגובות בלי להשתמש בסימנים מוזרים היא השג." ידידי, כיצד בדיוק אדם שלא משתדל לעשות כמיטב יכולתו להבין נושא נתון (ובמקרה זה "סבתיות-יורדת", תוך המנעות מקריאת ספר העוסק בנושא) יכול לשים לו למטרה להסביר לי למה קשה לאנשים להבין את מה שאני כותב, ואף לתת לי עצה איך להתנסח באופן שאהיה מובן? "מבחינתי עצם העובדה שהצלחת לכתוב שלוש תגובות בלי להשתמש בסימנים מוזרים היא השג." ואחרי כל הדו-שיח ביננו אתה עדיין מפרש את . ו-__ כאילו היו ביטויים וורבליים-סימבוליים ולא ביטויים וויזואליים, בקיצור, לאיזה הישג אתה טוען? |
|
|
|
|
|
|
||
|
||||
|
אני מרים ידיים. בהצלחה. | |
|
|
|
|
|
||
|
||||
|
לפני שאתה מרים ידיים, כדי שתציץ ב-תגובה 663917 | |
|
|
|
|
|
||
|
||||
|
ועוד כתבת: "זה די פשוט, בו נגדיר מערכת אקסיומתית פסאודו-גיאומטרית עם שתי "נקודות" בלבד (נקרא להם דוד ושלמה), לכל אחד אורך אפס, וקו אחד (נקרא לו קו דוד-שלמה) שמכיל את שתי הנקודות ביקום שלנו, ובעל אורך 2.8. הנה, יש לנו אורך>0 שניתן לרדוקציה לאורך=0 וגם להחשב אורך>0." בוא ונבחן את ה-"די פשוט" שלך: אם המערכת שלך הינה בעלת שתי נקודות וקו, אין זה אומר כלל כי הקו ניתן לרדוקציה לאחת מהנקודות, או במילים אחרות, לא הראית כי הקו (אורך>0) ניתן לרדוקציה לנקודה (אורך=0) ועדיין נחשב לקו (אורך>0) במערכת שלך. אם זוהי דוגמא לתובנותיך בנושא, אין פלא שאינך מבין את תובנותי בנושא. |
|
|
|
|
|
|
||
|
||||
|
כדאי שגם אתה תקרה את דיון 2396 ואשמח אם תראה לי במאמר זה איזו שהיא התיחסות לסיבתיות-יורדת. | |
|
|
|
|
|
||
|
||||
|
הינה הקטע הרלוונטי מהמאמר של אלון עמית על משפטי אי-השלמות של גדל: "נדגיש שוב את הנקודה העיקרית: את מה שאנחנו, בני־האדם, יכולים לראות, יכולה גם התורה הפורמלית (למשל, שאם T עקבית אז G אינה ניתנת להוכחה); את מה שהתורה הפורמלית לא יכולה להוכיח (את G עצמה), גם אנחנו לא יכולים. ככל הידוע למשפט גדל, בני־אדם אינם יודעים יותר מתורות פורמליות." אלון שכח לציין כי T אינה יכולה להיות גם שלמה וגם עקבית, כדי להוכיח את אמיתות G במסגרתה. במילים אחרות, G הינה אמת בלתי יכיחה ב-T בתנאי ש-T הינה עיקבית אך לא שלמה (אי-יכיחות אמיתות G ב-T נותרת בעינה גם אם נוסיף לה אינסוף אקסיומות, ומצב זה מכונה סיבתיות-יורדת). כמו-כן ההפרדה בין בני-אדם לתורות פורמליות הינה סוגייה פילוסופית ולא מתמטית. |
|
|
|
|
|
|
||
|
||||
|
הבה ונבחן את משפטי גדל, עפ"י הנאמר במאמרו של אלון עמית, ולשם כך אשתמש בקטעים שהם, לדעתי, ליבת המאמר: "השיטה האקסיומטית איך אפשר להוכיח דבר־מה, לדעת בוודאות גמורה שמשהו נכון? ילדים מומחים בלנהל עם מבוגרים דיאלוגים מייאשים מהסוג הבא: "אם תעזוב את הבובה, היא תיפול למים." – "למה?" – "זה נקרא כוח המשיכה. דברים נופלים." – "למה?" – "המממ... כי לכדור הארץ יש מסה...?" – "למה?" – "כי ככה אמא אומרת! די!" לוגיקה היא דרך מסודרת להוכיח דבר מתוך דבר. כיוון שכך, צריך להתחיל ממשהו, ואותו משהו נקרא הנחות־יסוד, או אקסיומות. את אלה אין אנו מוכיחים; אנו מקבלים אותן כי הן נראות סבירות, או שימושיות למטרה מסויימת. אחרי שהחלטנו על האקסיומות עלינו להסכים גם על כללי־היסק לוגיים, ואז אפשר לגזור מסקנות בצורה פשוטה: כל מסקנה היא או בעצמה אקסיומה, או שהיא נובעת ישירות ממסקנות קודמות על־ידי אחד מכללי־ההיסק. שיטת־החקירה הזו, "השיטה האקסיומטית", היא עתיקת־יומין. למרות שהיא לא מאפשרת לדעת דברים "בוודאות גמורה", היא לפחות מקלה עלינו לברר בדיוק על מה אנו מסתמכים כשאנו טוענים משהו – מהן האקסיומות העומדות בבסיס הטענה, ומהם כללי־ההיסק הלוגיים בהם השתמשנו כדי לעבור מטענה לטענה. השיחה בין הילד לאמו מדגימה שליותר מזה לא ניתן לצפות: תמיד אפשר לשאול עוד "למה?", וכך להטיל ספק במה שקיווינו שהוא מובן־מאליו. דיאלוג ידוע של לואיס קרול מדגים שגם המרכיב השני בשיטה, כללי־ההיסק, אינו חסין בפני הטלת ספק אין־סופית שכזו. במתמטיקה, במיוחד, זכתה השיטה האקסיומטית להצלחה רבה, החל מפיתוח הגיאומטריה על־ידי אוקלידס לפני למעלה מאלפיים שנה. לשיטה האקסיומטית במתמטיקה יש כמה מאפיינים ייחודיים, וכדאי להזכיר שלושה מהם. ראשית, האקסיומות בתורות מתמטיות אינן אמפיריות; לעיתים הן הגדרות שרירותיות לגמרי ("חבורה היא קבוצה עם פעולה המקיימת..."), ולעיתים הן מבטאות אמיתות בסיסיות של ההכרה שלנו ("שני גדלים השווים לגודל שלישי, שווים ביניהם"). שנית, כללי הגזירה במתמטיקה מתבססים על לוגיקה בוליאנית פשוטה של "אמת" ו"שקר"; אין באמצע, בערך, אולי או לפעמים. שלישית, התחום המתמטי העוסק בנושאים הללו משתמש במונחים המוכרים לנו משפת היום־יום – "שפה", "תורה", "הוכחה", "אמת" ו"עקביות". אבל, כדרכה של מתמטיקה, המשמעות של המונחים הללו היא כאן מדוייקת, פורמלית, וכתוצאה מכך שונה למדי ממשמעותם הרגילה. "תורה", למשל (המכונה לעתים גם "מערכת"), היא אוסף של אקסיומות וכללי־היסק; "הוכחה" בתורה היא סדרה של "נוסחאות", שכל אחת מהן היא שרשרת של סימנים ב"שפה", והנוסחה האחרונה בסדרה היא הטענה אותה רצינו להוכיח (והיא, אם כך, "יכיחה"). הכללים הקובעים האם הוכחה כזו היא תקפה הם לגמרי מכניים, או "תחביריים": הם מתייחסים אך ורק לשרשראות הסימנים, ולא למשמעויות השונות שאנחנו יכולים לייחס לסימנים הללו. מושג ה"אמת", לעומת זאת, הוא מושג סמנטי, וגם לו יש הגדרה פורמלית התלויה ב"מודל" של השפה. בשל מחלוקות מתמטיות שונות (וכמה שגיאות) שהתגלעו בסוף המאה ה-19, התחזק הרצון להבהיר בדיוק אילו אקסיומות דרושות במתמטיקה, ובפרט, לברר האם אפשר להיפטר מכמה הנחות שנויות במחלוקת. נסיון מסוג זה הופיע בספרם המונומנטלי של ראסל ו־ווייטהד "פרינקיפיה מתמטיקה" (PM), ונמשך כתכנית מעט מעורפלת המכונה היום "תכנית הילברט". על רקע זה נולד משפט גדל." --------------------------------- אחלץ מקטע זה את התכנים העיקריים (לדעתי): 1. הנחות-יסוד הינן מסקנות שאינן מוכחות ואנו מקבלים אותן (מבלי להוכיחן) מפני שהן נראות סבירות, או שימושיות למטרה מסויימת. 2. אקסימיות הינן הנחות-יסוד לא-אמפיריות, כאשר הנחת-יסוד יכולה להיות הנחה שרירותית לגמרי או מבטאת אמת בסיסית של הכרתנו (ואם היא מוסכמת ע"י מספר גדול של הכרות, יקל הדבר לקבלה כאמת בסיסית של הכרה). 3. מסקנה היא או בעצמה אקסיומה (אמת בלתי מוכחת), או שהיא נובעת ישירות ממסקנות קודמות על־ידי כללי־ההיסק לוגיים, כאשר כללים אלה מתבססים על לוגיקה בוליאנית של "אמת" ו"שקר" (כללי ההיסק מכריעים באופן מכני (באופן שאינו מעניק כל משמעות לסימנים, מעבר לשימושם עפ"י כללי ההיסק) אם מסקנה הנובעת ממסקנות קודמות, הינה "אמת" או "שקר"). 4. תורה מתמטית (נסמנה כ-T) היא אוסף של אקסיומות וכללי־היסק. 5. מושג ה"אמת" במתמטיקה הינו הגדרה פורמלית התלויה ב"מודל" (פירוש אפשרי להגדרה הפורמלית) המשמש במסגרת תורה מתמטית נתונה. --------------------------------- ... "מה גדל כן כולנו מכירים מילדותנו את המספרים הטבעיים: אחת, שתיים, שלוש והבאים אחריהם. בבואנו לחקור את תכונותיהם המתמטיות, אנו מעוניינים – בהתאם לשיטה שהוצגה לעיל – לבחור מספר קטן של אקסיומות מהן נוכל לגזור משפטים וטענות על המספרים האלה, תוך שימוש בכללי־היסק פורמליים. כיצד נבחר את האקסיומות? מצד אחד, השאיפה היא לבחור מעט כאלה, כדי שיקל עלינו להבטיח שהן באמת טבעיות ונכונות, ואינן מובילות לסתירה. מצד שני, אם נבחר מעט מדי, ייתכן שהן לא תספקנה כדי להוכיח כל מה שנכון. התכונה הרצויה הראשונה של התורה נקראת "עקביות", והשניה "שלמות". שני אלה הם מושגים פורמליים, בעלי הגדרה חד־משמעית: עקביות פירושה שאין הוכחה של דבר וגם של היפוכו; שלמות פירושה שיש הוכחה של כל דבר או היפוכו. אוסף האקסיומות של תורה לא חייב להיות סופי. מסיבות טכניות, אפילו תורות פשוטות יחסית עבור המספרים הטבעיים מחייבות מספר אקסיומות אין־סופי. לאור זאת, עלינו לדרוש שיהיה תהליך חד־משמעי המאפשר לקבוע האם נוסחה מסויימת היא אקסיומה; אחרת, כשנתבונן בהוכחה מוצעת, לא נוכל אפילו לברר האם השורה הראשונה שלה היא לגיטימית. במקביל, יש לדרוש משהו דומה מכללי־ההיסק: אם מראים לנו צעד בודד בהוכחה, צריכה להיות לנו דרך לקבוע האם הוא אכן יישום של אחד מכללי־ההיסק או לא. תורה העומדת בשתי דרישות אלה נקראת "אפקטיבית". משפטי גדל אינם חלים רק על תורות אקסיומטיות של המספרים הטבעיים. אבל – וזו נקודה חשובה – כדי שמשפט גדל יחול על תורה, היא חייבת לכלול כמות מסויימת של אריתמטיקה – כלומר, דרוש שאפשר יהיה לנסח ולהוכיח בה מספר משפטים בסיסיים בתורת המספרים. אנו נכנה תורות כאלה "אריתמטיות", למרות שזהו אינו מונח מקובל במיוחד. כעת נוכל לנסח במידה סבירה של דיוק את המשפטים של גדל. המשפט הראשון: אם T תורה אריתמטית, אפקטיבית ועקבית, אז יש נוסחה G כך ש-T אינה מוכיחה את G וגם אינה מוכיחה את שלילתה של G. מכאן ש-T איננה שלמה. המשפט השני: אם T תורה אריתמטית ואפקטיבית, אז יש נוסחה C האומרת "T היא עקבית". אם, בנוסף, T עקבית, הנוסחה C אינה ניתנת להוכחה ב-T." --------------------------------- אחלץ מקטע זה את התכנים העיקריים (לדעתי): 1. עקביות פירושה שאין הוכחה של דבר וגם של היפוכו (בתורה מתמטית עיקבית לא קיימת מסקנה שהיא "אמת" וגם "שקר"). 2. שלמות פירושה שיש הוכחה של כל דבר או היפוכו (בתורה מתמטית שלמה כל מסקנה במסגרתה, ניתנת להכרעה אם היא "אמת" או "שקר"). "במתמטיקה ובלוגיקה הוכחה היא סדרה סופית של טענות הנובעות זו מזו בעזרת כללי היסק, תוך שימוש בהגדרות, באקסיומות, ובידע קודם שהוכח קודם לכן, המראה שטענה מסוימת היא נכונה. הפרכה של טענה מהווה גם היא הוכחה - הוכחה שטענה זו אינה נכונה (כלומר ששלילתה של הטענה היא נכונה)." (ציטוט מ-הוכחה [ויקיפדיה]) 3. תורה "אפקטיבית" מחייבת את האפשרות לקבוע מהי אקסיומה ומה איננה אקסיומה במסגרתה, וכן את האפשרות לקבוע אם צעד בודד בהוכחה הוא אכן יישום של אחד מכללי־ההיסק, או לא. 4. תורה "אריתמטית" הינה אוסף של אקסיומות וכללי היסק המאפשרים לנסח ולהוכיח בה מספר משפטים בסיסיים הקשורים במספרים. "המשפט הראשון: אם T תורה אריתמטית, אפקטיבית ועקבית, אז יש נוסחה G כך ש-T אינה מוכיחה את G וגם אינה מוכיחה את שלילתה של G. מכאן ש-T איננה שלמה." (בקיצור T אינה (אריתמטית, אפקטיבית ועקבית) וגם (שלמה)). "המשפט השני: אם T תורה אריתמטית ואפקטיבית, אז יש נוסחה C האומרת "T היא עקבית". אם, בנוסף, T עקבית, הנוסחה C אינה ניתנת להוכחה ב-T." (בקיצור: אם T אריתמטית ואפקטיבית, ניתן לנסח במסגרתה את הנוסחה "T היא עקבית", אך עם T היא גם עיקבית, אין הנוסחה "T היא עקבית" יכיחה במסגרת-T, וגם עפ"י המשפט השני T אינה (אריתמטית, אפקטיבית ועקבית) וגם (שלמה)). עפ"י שני המשפטים אין מערכת האקסיומות וכללי ההיסק של T (כאשר T אריתמטית, אפקטיבית ועקבית) מאפשרים להכריע אם הנוסחה "T היא עקבית" היא "אמת" במסגרת T) T אינה יכולה להוכיח את עקביות עצמה). --------------------------------- ... קטע מתוך "מה גדל לא "שתי שגיאות נפוצות נוספות הן הטענות "יש משפטים שבני־אדם רואים שהם אמיתיים, אבל תורות פורמליות לא יכולות להוכיח" ו"יש משפטים שבני־אדם רואים שהם אמיתיים, ומחשבים לא יוכלו לראות זאת לעולם". הצהרות מסוג זה נאמרו על־ידי הפילוסוף ג'ון סרל (Searle), הפיזיקאי רוג'ר פנרוז (Penrose) ואחרים. האם יש באמת משפטים שאנחנו רואים שהם אמיתיים, אבל אי־אפשר להוכיח אותם פורמלית? כותב שורות אלה, אישית, משוכנע שאין; בכל אופן, משפט גדל בהחלט לא מספק לנו כאלה, וכמוהו גם לא משפטים קרובים לו (כגון משפט טיורינג על בעיית העצירה). אחד המועמדים הפופולריים למשפט כזה הוא נוסחת־גדל G הנזכרת במשפט הראשון. בהוכחתו המקורית בנה גדל את הנוסחה G כך שתהווה ניסוח פורמלי לטענה "G אינה יכיחה בתורה T". כיוון ש-G אכן מתגלה כלא־יכיחה, מסתבר שהיא נכונה, וש-T אינה יכולה להראות זאת – והרי לנו טענה שאנחנו, יצורים נבונים הקוראים את ההוכחה של גדל, רואים שהיא נכונה, ו-T אינה רואה זאת. האמנם מש"ל? לא. הטעות היא שההוכחה לא מראה ש-G נכונה; היא רק מראה שאם T עקבית, אז G נכונה, ובדיוק את הרישא של המשפט הזה אנחנו לא יודעים (ו-T לא יכולה להוכיח). גדל היה מודע היטב לדקות הזו, והקדיש את סעיף 4 במאמרו המקורי לניתוח ההשלכות שלה. תוצאות הניתוח הן בדיוק המשפט השני שלו: את הטענה "אם T עקבית, אז G נכונה" בהחלט אפשר להוכיח ב-T, וקל להראות ש-G שקולה ב-T לנוסחת העקביות, אותה כינינו C. אכן מבלבל, אבל זו עדיין לא סיבה לומר שגדל הוכיח שבני־אדם אינם מחשבים. נדגיש שוב את הנקודה העיקרית: את מה שאנחנו, בני־האדם, יכולים לראות, יכולה גם התורה הפורמלית (למשל, שאם T עקבית אז G אינה ניתנת להוכחה); את מה שהתורה הפורמלית לא יכולה להוכיח (את G עצמה), גם אנחנו לא יכולים. ככל הידוע למשפט גדל, בני־אדם אינם יודעים יותר מתורות פורמליות." --------------------------------- אחלץ מקטע זה את התכנים העיקריים (לדעתי): "אחד המועמדים הפופולריים למשפט כזה הוא נוסחת־גדל G הנזכרת במשפט הראשון. בהוכחתו המקורית בנה גדל את הנוסחה G כך שתהווה ניסוח פורמלי לטענה "G אינה יכיחה בתורה T". כיוון ש-G אכן מתגלה כלא־יכיחה, מסתבר שהיא נכונה, וש-T אינה יכולה להראות זאת – והרי לנו טענה שאנחנו, יצורים נבונים הקוראים את ההוכחה של גדל, רואים שהיא נכונה, ו-T אינה רואה זאת. האמנם מש"ל? לא. הטעות היא שההוכחה לא מראה ש-G נכונה; היא רק מראה שאם T עקבית, אז G נכונה, ובדיוק את הרישא של המשפט הזה אנחנו לא יודעים (ו-T לא יכולה להוכיח). גדל היה מודע היטב לדקות הזו, והקדיש את סעיף 4 במאמרו המקורי לניתוח ההשלכות שלה. תוצאות הניתוח הן בדיוק המשפט השני שלו: את הטענה "אם T עקבית, אז G נכונה" בהחלט אפשר להוכיח ב-T, וקל להראות ש-G שקולה ב-T לנוסחת העקביות, אותה כינינו C." ------- אם קל להראות שהנוסחה "G אינה יכיחה בתורה T" שקולה לנוסחה "T היא עקבית" במסגרת תורה T, הרי (עפ"י דברי אלון עמית) שתי הטענות הבאות הינן שקולות במסגרת תורה T: טענה 1: אם T עקבית, אז "G אינה יכיחה בתורה T" הינה טענת "אמת" במסגרת תורה T. טענה 2: אם T עקבית, אז "T היא עקבית" הינה טענת "אמת" במסגרת תורה T. איני חושב שטענות 1 ו-2 שקולות זו לזו במסגרת תורה T, היות וטענה 2 הינה טענה טריוואלית מעגלית שאינה קשורה כלל למסקנות משפטי אי-השלמות של גדל, בעוד שטענה 1 קשורה אף קשורה למשפטים אלה, שעל פיהם T אינה "אריתמטית, אפקטיבית ועקבית" וגם "שלמה". |
|
|
|
|
|
|
||
|
||||
|
כפי שכותב אלון עמית: "את הטענה "אם T עקבית, אז G נכונה" בהחלט אפשר להוכיח ב-T" אך אם T עיקבית, אז הנוסחה "G אינה יכיחה בתורה T" הינה "אמת" ב-T שאינה יכיחה ב-T, ולכן T אינה תורה שלמה גם אם נוסיף לה אינסוף אקסיומות וכללי היסק. השתמשתי במושג האורך ובביטויו אורך=0 ו-אורך>0, כך שאוסף אורכי 0 אינו מהווה אורך>0, ואורך>0 אינו ניתן לרדוקציה לאורך=0 וגם מהווה אורך>0. הגדרתי שקילות בין אוסף אורכי 0 לאקסיומות של תורה T, ושקילות בין אורך>0 לנוסחה G בתורה T, שהינה "אמת" ב-T אך אינה יכיחה ב-T. יש לשים לב כי G הינה נוסחת "אמת" בתורה T בתנאי ש-T עיקבית, אך לא-שלמה. השקילות לעיקביות T עפ"י מושג האורך היא שכל אורכי 0 ממוקמים בתחום אורך>0. השקילות לאי-שלמות T עפ"י מושג האורך היא ששום כמות (סופית או אינסופית) של אורכי 0 הממוקמים בתחום אורך>0, אינו מהווה את אורך>0. ובהכללה למושג המימד, אוסף כל המימדים הקטנים ממימד נתון והממוקמים בתחומו, אינו מהווים את המימד הנדון. עפ"י הנ"ל מתקבלת סיבתיות-יורדת, שבה המימד הגבוה הינו "אמת" המשמשת כסיבה לאוסף "אמיתות" (מימדים הקטנים ממנו והממוקמים בתחומו), אשר אין בכוחן להוות את "אמיתותו". |
|
|
|
|
|
|
||
|
||||
|
כמו-כן אודה על תגובה ל-תגובה 663818 | |
|
|
|
|
|
||
|
||||
|
(זאת אולי הזדמנות לשוב ולהביע את הערכתי העצומה לזוג מתרגמי GEB לעברית) | |
|
|
|
|
|
||
|
||||
|
וא-פרופו הזדמנות: מאד מעניין לקרוא היום את הדיון הזה (וכמובן לבכות על גורלו האכזר של האייל מאז. עכש"ז כבר כתבתי לא מזמן שלדעתי האייל מקדים את המדינה בכמה שנים). | |
|
|
|
|
|
||
|
||||
|
בפראפראזה על מאיר שלו שצוטט זמן מה לפני פטירתו - אני לא בטוח גורלו של מי התדרדר יותר מאז, של האייל או של המדינה. | |
|
|
|
|
|
||
|
||||
|
מבחינה אחת חשובה, כמות וצפיפות האוכלוסיה, האייל והמדינה נתונים לאיומים הפוכים לחלוטין. | |
|
|
|
|
|
||
|
||||
|
אני מכוון, כמובן, רק לאוכלוסיה של אלה שלמדו לימודי ליבה ;-) | |
|
|
| חזרה לעמוד הראשי | |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |