בתשובה להפונז, 17/01/16 10:30
סבינה הוסנפלדר על רצון חופשי 672039
זה פשוט מאד, אתה מגדיר "תחושה סובייקטיבית פנימית" או "צופה פנימי" בצורה אחרת לחלוטין ממני. ושום מכונית לא תעזור ובגלל זה אני מתעלם. בוא ננסה להתקדם מכיוון ש(אולי) אנחנו מסכימים עליו.

המאמר המקורי עוסק ברצון חופשי.
1. האם "רצון חופשי" הוא חלק מחווית הצופה הפנימי?
2. האם אתה מסכים עם מסקנת המאמר שרצון חופשי הוא אשליה?

אני אגיד מה דעתי בעניין.
רצון חופשי הוא בהחלט חלק מחווית הצופה הפנימי ולכן המסקנה של שכ"ג במאמר יוצרת הרבה התנגדות "אינטואטיבית". אבל אני מסכים עם המסקנה שלו. מבחינה חיצונית, ה"חופשיות" של הרצון החופשי היא אשליה. אם אתה בגדול מסכים איתי, אז הנה נקודה שאנחנו יכולים להסכים עליה:

למרות שרצון חופשי הוא חלק מהחוויה הסובייקטיבית של הצופה הפנימי, בהחלט אפשר לבדוק אותה מבחוץ (למשל הניסוי ש"חוזה" את ההחלטות של האדם) ולהגיע למסקנה שה"חופשיות" היא אשליה.
סבינה הוסנפלדר על רצון חופשי 672040
לדעתי המכונית כן תעזור, אולי למשל לחדד את ההבדלים בהגדרות ביננו, ולכן חבל שאתה מתעלם. דווקא בגלל שאולי לא נסכים על המסקנות.
לדעתך למכונית או אייפון שנותנים חיווי על כאב יש חוויה סובייקטיבית פנימית? זאת שאלה פשוטה עם תשובה פשוטה.

בקשר לשאר אני מסכים. רק שזה לא נראה לי מאד מעניין (בהקשר הזה. זה נראה לי מעניין בפני עצמו). הרי המשפט האחרון שלך יכול להיות:
"למרות שראיית הנקודות השחורות כאן היא חלק מהחוויה הסובייקטיבית של הצופה הפנימי, בהחלט אפשר לבדוק אותה מבחוץ ולהגיע למסקנה שהיא אשליה."
או "למרות שתנועת הכוכבים סביב כדור הארץ היא חלק מהחויה הפנימית של הצופה, בהחלט אפשר לבדוק אותה מבחוץ ולהגיע למסקנה שהתנועה הזאת היא אשליה, שנוצרת על ידי סיבוב כדור הארץ".
כל זה נכון וקל להסכמה, אבל כל זה לא מתקרב כלל לבדוק האם יש למישהו‏1 אחר (שהוא הנבדק) חוויה סובייקטיבית פנימית.

1 או משהו.
סבינה הוסנפלדר על רצון חופשי 672063
התשובה שלי היא שלאייפון אין חוויה פנימית. אבל יבוא יום (וכנראה הוא יבוא) שאייפונים יכתבו באייל הקורא, ויכתבו שהם סובלים מדכאון או שעמום או שנאה לטוקבקים, ויספרו על החלומות ויטענו שיש להם קוואליה שאנחנו האנשים בכלל לא מבינים אותה ורק הם יכולים לגשת אליה ועוד ועוד, אז כן אפשר יהיה להגיד שיש להם חוויה פנימית.

אני רואה גרעין קטנטן של הסכמה ובעיני הוא דווקא מעניין מאד. אני אקשה עליך:

מצד אחד אתה אומר ש"רצון חופשי" או "ראיית הנקודות השחורות" היא חלק מהחוויה הסובייקטיבית הפנימית של האדם.
ומצד שני אתה אומר שאי אפשר בכלל לבדוק האם יש למישהו אחר חוויה סובייקטיבית פנימית.
איך זה מתיישב?

לדעתי מה שאתה אומר זה בעצם:
- יש לי תאוריה, שלאדם יש חוויה סובייקטיבית פנימית. **בהנתן** התאוריה הזו, "רצון חופשי" או "ראיית נקודות שחורות" היא חלק מהחוויה הסובייקטיבית הפנימית.
- אבל! התאוריה הזאת בלתי נתנת להוכחה.

האם אני צודק?
סבינה הוסנפלדר על רצון חופשי 672067
זה מתיישב, מאחר שלדיווח של יישות כלשהיא "אני רואה נקודות שחורות" *יכולים* להיות שני מקורות (בטח אפשר לנסח יותר מקורות, אבל נישאר בבסיס):
א. יש לו צופה פנימי שאכן חווה סובייקטיבית את הנקודות השחורות.
ב. אלגוריתם עיבוד התמונה שרץ על החומרה שלו (ראה דוגמת האייפון שעליה אני שמח שהסכמנו) יוצר ארטיפקטים של נקודות שחורות, ומדווח עליהן - ללא חווית צופה פנימי‏1.

ומאחר שכבודק מבחוץ אני לא יודע להבחין בין שתי האפשרויות האלה, אני לא יכול להכריז על תוצאה מובחנת של הניסוי שלי שמפריכה או מוכיחה קיום צופה פנימי.

אגב, דיוק קטן: אני לא טענתי ש"אי אפשר בכלל לבדוק וגו' ", אלא טענתי שהניסויים הספציפיים שאני מכיר ושאתה ציינת לא מסוגלים לבדוק וגו'. מאד ייתכן שמתישהו מישהו ימציא ניסוי שאולי כן מסוגל להבחנה הזאת. אני אפילו טענתי משהו יותר חזק - שהניסויים שאתה תיארת אפילו לא מנסים לבדוק את ההבחנה לעיל, ולכן הם לא מתייחסים בכלל ל"תיאוריה" שלך לגבי קיום החוויה הפנימית כתיאוריה מדעית.

לגבי הסיכום שלך, זה קרוב, אבל לא מדויק, ולכן כמעט הפוך:
יש תיאוריות למכביר על פסיכולוגיה, פסיכופיזיקה ונוירולוגיה, שמתקרבות יותר ויותר לתיאור המדעי של האדם והתנהגותו כתוצאה ישירה, פיזיקלית ופיזיולוגית של של קלטים מוגדרים, מעגלי חומרה מוגדרים שמגיבים להם, ופלטים מוגדרים כתוצאה מהקלטים האלה. ואני, ביושבי על כסאי כמטריאליסט מדעי לעילא, דוקא מקבל את כל התיאור הזה על כל פרטיו, (באופן עקרוני, לצורך הדיון כאן. מאחר וגם התיאור הזה לא שלם כיום, ברור שאין פה קבלה או הבנה מוחלטת ושלמה של העניין, אבל אני מקווה שהכיוון ברור), בדיוק כמוך כפי שזה נראה.
אבל לעומת התיאוריה, יש לי ניסוי. התוצאה של הניסוי שלי היא שיש חווית צופה פנימי. הבעייה היא, שאת הניסוי הזה עשיתי, ואני עדיין עושה מזה כמה עשורים, על מערכת אחת ויחידה. ומנקודת מבט ייחודית שאין לי כמוה על המערכות האחרות. גם לא על האייפון המוזכר.
הסתירה בין השניים מפריעה לי, ולצערי אני לא מצליח להשתכנע שמי מהתאורטיקנים והניסיונאים שאתה מזכיר בכלל מצליח לבדוק את הסתירה הזאת.

ודוקא מה שיכול אולי לקרב אותנו, זה העניין שאתה מזכיר בתשובתך לאייפון - מה הוא הדבר שיתרחש בין האייפון של היום לאייפון העתידי, שפתאום ייצור (יש מאין, צחוק בצד) את החוויה המאד משמעותית הזאת. זה ממש לא ברור לי. כמו שאולי הזכרתי לאורך הפתיל, הרבה יותר קוהנרטי היה לומר שלאייפון של היום יש "קצת" קוואליה, ולאייפון של מחר "הרבה" קוואליה, מאשר לומר שאי שם בדרך לפתע פתאום נוצר מאחורי סבך הטרנזיסטורים המורכב משהו חדש להפליא שחווה קוואליה. אבל אולי למרות שזה נשמע היום לא קוהרנטי, אפשר יהיה בעתיד כן לשים את האצבע על איזה מעבר פאזה שכזה.

1 הקורא חד האבחנה, עם וללא צופה פנימי, יכול היה לציין ששתי האפשרויות הנ"ל לא לגמרי מדירות זו את זו. קיום הצופה הפנימי לא מוריד מהשולחן את אלגוריתמי החומרה והתוכנה שלעיל - נהפוך הוא, התוצאות שלהם זה בדיוק הסרט שבו הוא צופה.
סבינה הוסנפלדר על רצון חופשי 672072
יפה.
אז אנחנו מסכימים בגדול. אי אפשר להבחין ע"י ניסוי פשוט בין:

1. יש לאדם צופה פנימי שאכן חווה סובייקטיבית את הנקודות השחורות.
2. יש לאדם אלגוריתם שיוצר ארטיפיטק של נקודות שחורות ומדווח עליהן ללא חווית צופה פנימי.

אז קיימות 2 תאוריות שמתאימות למציאות, וזה בסדר. זה לא הפעם הראשונה שדבר כזה קורה במדע... עד כאן נראה לי שאנחנו מסכימים לחלוטין.

מה שאני לא מבין זה איפה הסתירה שאתה מדבר עליה. הבה אתקן את תאוריה מספר 1 ומספר 2 במקצת, כדי שיהיו קצת יותר כלליות.

1. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר מייצרים חוויה סובייקטיבית פנימית (לדוגמא: כאב)
2. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר א-י-נ-ם מייצרים חוויה סובייקטיבית פנימית, אלא רק מראית עין (לדוגמא: תלונות על כאב, בלי כאב סובייקטיבי).

האם אתה מסכים ש 2 התאוריות מתאימות למציאות (למרות שהן כמובן לא תואמות זו לזו)? אם כן, אז איפה בדיוק יש פה סתירה עם הניסוי הפרטי שלך? לא רק שתאוריה 1 אינה סותרת אותו, אלא היא מתאימה לו. האם אתה מתכוון לכך שה"סתירה" היא שהניסוי היחידי שמבדיל בין 2 ל 1 הוא סובייקטיבי ולא אובייקטיבי? או אולי הסתירה היא שאתה חושב שתאוריה 1 היא בכלל שגויה? לא מספיק מפורטת? אנא שתף.
סבינה הוסנפלדר על רצון חופשי 672076
(אני שוב נדחף, ובטח עוד רגע שוב אעלם. אתכם הסליחה)

ניסוי מחשבה א': חבר אותי לכל המכשירים שעומדים לרשותך, וצבוט אותי. נגיד שהמכשירים שלך יזהו את כל הסימנים הפיזיולוגים שלדעתך קשורים לכאב, אבל אני אגיד שהבחנתי בצביטה, אבל לא חשתי בכאב (או שבכלל חשתי בדגדוג, או שהרחתי דג מלוח - או כל דבר אחר שהוא לא חווית כאב). האם אני משקר? האם הבדיקה שלך לא טובה מספיק? האם יש באופן עקרוני דרך להבחין בין שני המיקרים?

אולי מתישהו תחליט שהפרצוף שלי לא מוצא חן בעיניך, וכל שאר האנשים בעולם דיווחו על קורלציה בין תחושת כאב לבין המדידות שלך - ותקבע שלדעתך אני משקר. טוב ויפה. הנקודה החשובה נותרת בעינה, והיא כל כך פשוטה, שאני לא מבין איך עדיין מתנהל עליה דיון: את החוויה לכשעצמה אין לך שום יכולת למדוד. אולי כל האנשים משקרים. אולי כולם בכלל חשבו גל-של-אהבה שוטף אותם בזמן הצביטה, ולא בכאב. זה משנה משהו? יש לך דרך לעלות על קונספירציה כזו?

אני יכול לנטפק בעצמי את הפסקה הקודמת, אבל אלא נטפוקים שטחיים, ואני מעלה אותם רק כדי לחסוך ממך את המאמץ. למשל, אולי יש לך דרך טובה להבחין פיזיולוגית בין אמירת אמת לבין שקר. זה כמובן לא משנה דבר - גם טכנית (יש ספק ביכולת העקרונית שלך להעריך את האמינות של מבחני אמת\שקר), אבל בעיקר: כי שאלת השאלות בנושא הקוואליה היא: אם אני משקר, מהו הדבר לגביו אני משקר? שים לב: לא מדובר בידיעה שאני חש כאב. אלא בתחושה.

למעשה, זה ממש הזוי שאתה עורך את הניסוי הזה מלכתחילה: אתה מנסה למצוא קורלציה בין תופעה פיזיקלית מדידה, לבין... מה? לבין דיווחים של אנשים? אז ברור שאי אפשר לומר ששיקרתי: דיווחתי את מה שדיווחתי, וזהו. לבין פעילות נוירולוגית כלשהי? אז שוב ברור שאי אפשר לומר ששיקרתי: לא אמרתי עליה שום דבר. לבין איזשהו פעילות קוגנטיבית גבוהה? ושוב לא שיקרתי: המוח שלי על כל פעולות העיבוד שלו מונח לפניך, ואם הטכנולוגיה שלך מתקדמת מספיק - אתה יכול לדעת בדיוק מתי הייתה המשמעות הקוגנטיבית של הצביטה עבורי. אתה לא זקוק לדיווח שלי, וממילא לא אמרתי דבר שקשור בהן.

רק אמרתי שלא חשתי בכאב (או שהרחתי דג מלוח וכו'). זה הכל. אם שיקרתי, מהו הדבר לגביו שיקרתי?
סבינה הוסנפלדר על רצון חופשי 672077
ניסוי מחשבה ב': נגיד שאתה ישות אינטרגלקטית בין-מימדית שמסוגלת לדלג בין יקומים. לכל יקום יש כמובן חוקי טבע משלו. שני יקומים מושכים את תשומת לבך: אחד מהם הוא היקום שלנו, ושניהם זהים לחלוטין בכל דרך שאתה מסוגל למדוד (וזכור שאתה ישות אינטרגלקטית בין-מימדית, אז יכולת המדידה שלך טובה עד כמה שאפשר לדמיין).

בניסוי הזה אני ישות אולטרארגלקטית סופר-מימדית, ותיקה וחכמה ממך. אתה מספר לי על שני היקומים שמצאת. אני מחייך - אני כמובן מכיר אותם - ומספר לך שהעניין פשוט מאד: בשני היקומים בני-האדם הם מכונות ביולוגיות מאד משוכללות. רובוטים. ובשני היקומים כל אספקט חישובי שקשור בהתנהגות שלהם נקבע לחלוטין על ידי המערכות הנוירולוגית וההורמונליות שלהם. אתה כמובן יודע את זה, כי אתה ישות אינטרגלקטית בין-מימדית. אתה יכול בפיקו-שניה לסרוק את הגוף של כל בן אדם, ולעשות סימולציה מושלמת של ההתנהגות שלו במהירות כפולה. אין שום דבר בהתנהגות שלהם שאתה לא מבין.

אבל - אני מוסיף - ביקום א' לכל בני האדם יש חוויה סובייקטיבית, ואילו ביקום ב' אין להם (אותם בני אדם לפי המדידות, עם אותם מוחות ואותה היסטוריה, ואותן תגובות, ואותן יכולות קוגנטיביות). הם מדברים על כאב, ועל צבע, ועל אהבה, ועל שנאה - בדיוק כמו התאומים שלהם ביקום א' - אבל אין שום חוויה סובייקטיבית מאחורי הפעילות הקוגנטיבית הרלוונטית. ככה פשוט הדברים פועלים ביקום ב'.

מצד אחד, אני - עם כל האולטרארגלקטיות הסופר-מימדית - חכם לאין שיעור, ומספרים עלי שיש לי קשר בלתי אמצעי עם בוראי העולם. מצד שני, רק בשבוע שעבר אמרתי לך שהרוכסן שלך פתוח כשבעצם לבשת טרנינג, וגרמתי לך להסתכל. יכול להיות שאני גם עכשיו מותח אותך?

איך אתה יכול לבדוק את העניין?

(הניסוי המחשבתי עצמו לא מאד מעניין. אבל אם אתה מסוגל להבין אותו, אתה מסוגל להבין מה זה "קוואליה").
סבינה הוסנפלדר על רצון חופשי 672087
אני חושב שאישיות אינטרגלגטית עם היכולות האלה תוכל לקבוע בוודאות שלא תיתכן רשת נוירונים ברמת סיבוך כזאת בלי שיצוץ שם תוצא ''מתבטא'' כלשהו, כך שהיא תדע שהחנות שלה רכוסה.
סבינה הוסנפלדר על רצון חופשי 672089
אני לא חושב שקוואליה היא "תוצא מתבטא", ולא ברור לי למה אתה מציע זאת כאפשרות. בהקשר של רשתות-נוירונים אפשר לדבר על "התבטאות" של אינטליגנציה, קוגניציה, פרצפציה וכו'. המשותף להם הוא שכולן תופעות מדידות ומובחנות שדורשות הסבר, ולהסברים הרלוונטיים עבורן יש מבנה של רדוקציה במונחים של emergence. אבל קוואליה? היא מלכתחילה לא "תופעה מדידה ומובחנת" כמותן, וממילא היא אפילו לא מועמדת להיות לקבל איזשהו הסבר לפיו היא emergent phenomena.

מה שניסיתי לומר קודם הוא שבכל בקשור ליקום הנצפה, לקוואליה יש מעמד דומה למעמדו של אלוהים בעיני לפלאס: We have no need of that hypothesis. יקום זהה לחלוטין לשלנו, פרט לכך שאין בו קוואליה... ישאר יקום זהה לחלוטין לשלנו. לכופרי קוואליה כמו אח של אייל וצפריר (שאולי, כפי שהצעתי - אין להם בכלל קוואליה) אין שום סיבה להאמין לי או לך בדבר קיומה. איך בדיוק אתה הולך לשכנע אותם עם הסבר רדוקציוניסטי למשהו שבכלל לא קיים (מבחינתם)? להצביע על אוסף של משוואות וכמה ניתוחים של סימולציות, ולומר להם "רואים - כאן הדבר הזה, שאני לא יודע למדוד, אין לו שום אפקט על כלום, ואתם לא מאמינים לי שהוא קיים - כאן הוא נוצר"?
סבינה הוסנפלדר על רצון חופשי 672365
''אני לא חושב שקוואליה היא ''תוצא מתבטא'', ולא ברור לי למה אתה מציע זאת כאפשרות.'' - כי זה נראה לי ה''הסבר'' (כן, אני יודע) היחיד שאינו כורך שדים, רוחות או ניצוץ אלוהי. אני מסכים לכל השאר, אבל מה לעשות, הקוואליה שלי חיה ובועטת, וכך גם הקוואליה שלך, של צפריר ושל האח אם כי את זה אינני יכול להוכיח. אבל הרי אני לא יכול בכלל להוכיח את קיומכם, עם או בלי קוואליה, וזה לא מפריע לי להרדם בלילה.
סבינה הוסנפלדר על רצון חופשי 672098
יכול להיות שפספסתי משהו, אבל אי אפשר להכיל את אותם הסברים לגבי המושג "אלוהים"?
סבינה הוסנפלדר על רצון חופשי 672104
אפשר.

בהתאם, אם יש לך עדות בלתי-אמצעית שאתה לא מפקפק בה לקיומו של אלוהים, אני מתאר לעצמי שאתה... תאמין באלוהים. ובמקביל, למרות שתתרשם מאד מהישגהן של הפיזיקה והמתמטיקה - תחשוב שמשהו מאד עקרוני ובסיסי חסר באופן בו המדע מתאר את העולם (כי אלוהים - שהוא חתיכת סיפור גדול - לא נמצא בכלל בתמונה שהוא מצייר).

אני לא מאמין באלוהים. אבל יש לי עדות בלתי-אמצעית שאני לא מפקפק בה בדבר קיומה של קוואליה.

למען האמת, קשה לי להעלות בדעתי עדות כזו בדבר קיומו של "אלוהים". אם הייתי מרגיש "ממש-ממש עמוק בפנים" שהוא קיים, היה לי קל יותר להאמין שמדובר בהתנהגות מטופשת של האונה הקדמית שלי. אם הוא היה מתחיל לדבר אלי, הייתי הולך לחפש טיפול רפואי. אם אלוהים מופיע בפומבי ומתחיל לעשות ניסים לעיני כולם, הייתי חושד בקונספירציה של תרבות טכנולוגית זרה ומתקדמת או שאולי מישהו חיבר אותי למתקן מציאות-מדומה מוצלח במיוחד (חיבר איתי למטריקס, בקיצור), או שפשוט איבדתי את שפיותי לחלוטין - והסברים מהסוג הזה היו אמינים בעיני הרבה יותר מכל מיני הסברים מטאפיזיים. אפילו אם הייתי משתכנע שבאמת יש לי עסק אם איזושהי ישות אולטרא-עוצמתית שנראית בעיני כל-יכולה ויודעת כל, לא נראה לי שהייתי מאמין לה שהיא בראה את העולם, ובידה הקריטריון האולטימטיבי להבדיל בין טוב ורע.

אבל העדויות שלי בנוגע לקוואליה חסינות בפני ספקנות מהסוג הזה (ניסיתי להסביר זאת קצת בהודעה קודמת). זה כמו "טיעון הקוגיטו" של דקארט על סטרואידים. מדובר בידיעה ראשונית לגמרי. במידה שאני יכול בכלל לדעת משהו, אני קודם כל יודע שהיא קיימת - ורק אז אני יודע את כל השאר. תוכיח לי שהקוואליה לא קומפטבילית עם הפיזיקה? ובכן - אלה יהיו חדשות רעות לפיזיקה, לא לקוואליה. תראה לי שהיא לא קומפטבילית עם המתמטיקה? עם הלוגיקה? אני כנראה אהיה מאד מבולבל, אבל אאלץ להתחיל לפקפק במתמטיקה ובלוגיקה. יכול להיות שאני "מוח בצנצנת", שכל העולם שאני מכיר הוא אשליה אחת גדולה, ואולי הקוגניציה שלי כל כך דפוקה, שכל מה שנראה לי כמו "היגיון" הוא בעצם קשקוש מוחלט. אפילו אז - החוויות קיימות (אני פוחד לכתוב "החוויות שלי", כי אולי אין שום מושג קוהרנטי של "אני" או "עצמי" - אבל חוויות בוודאות יש).
סבינה הוסנפלדר על רצון חופשי 672107
זאת פחות או יותר ה"הוכחה" של מנחם בן, הבעיה היא שאי אפשר באמת להתווכח עם ידיעה ראשונית כזאת, ואם אני מקבל את "הידיעה הראשונית" שלך (או שלי) אין לי שום נימוק לא לקבל את זאת של בן או של כל פסיכי אחר...
סבינה הוסנפלדר על רצון חופשי 672109
ברשותך, אוותר על קריאה של מנחם בן - יש לי דברים טובים יותר לעשות, כמו למשל לבעוט בקיר עד שתשבר לי הרגל. לגבי השאר - ברור. אם לך עצמך אין חוויה סובייקטיבית, אין סיבה שתבין על מה אני מדבר ותחשוב שאני לא מקשקש. מן הסתם לא אוכל להוכיח לך דבר. אם יש לך גישה לחוויות סובייקטיבית - אז אתה כנראה עומד בפני תעלומה דומה לזו שלי, ואפשר לנסות לדבר עליה ביחד.
סבינה הוסנפלדר על רצון חופשי 672124
זאת לא ההוכחה של מנחם בן - מעבר לכל הקשקושים שהוא פורס החל מהפסקה השנייה, שנעים בין שקרים לטיעונים שכבר הופרכו עד דק לעייפה - בן מדבר על ידיעה שכלית. עומר מדבר על חוויה. בשביל ניסוח ידיעה שכלית צריך מערך קוגניטיבי מסודר, הוא מול העולם, והידיעה היא ענין של הרציונל. החוויה היא מיידית.
כמו שעומר אמר, החוויה הזאת אפילו קודמת למושג ה''אני'' - היא לא צריכה 'אני' כדי להתקיים. היא יכולה להחוות על ידי תינוק חסר שפה, תפיסה או המשגה, וודאי שחסר 'ידיעה שכלית' או כל דבר כזה. ובגלל השיכליות של הידיעה הזאת בן ממשיך וטורח לפרט את כל הטיעונים העבשים בהמשך, כדי 'לשכנע' מישהו. אולי את עצמו.
סבינה הוסנפלדר על רצון חופשי 672133
המהות שלה זהה, עומר מתנסח טוב יותר מבן משום ש - איך להגיד את זה בעדינות - בן אף פעם לא היה הסכין הכי חדה במגירה‏1 - אבל זאת אותה "הוכחה".

1 וזאת הרי היתה הנקודה בלהביא את בן ולא את דקארט, למרות שגם זאת אותה "הוכחה". אני לא חושב שאפשר למצוא אנשים אינטליגנטים שמוכיחים את קיומו של האל בצורה כזאת היום.
סבינה הוסנפלדר על רצון חופשי 672142
יש הבדל משמעותי מאד בין "קוואליה" ל-"אלוהים": אנשים מגייסים את המושג "אלוהים" כדי להסביר כל מיני דברים (רעמים וברקים, בעלי חיים מורכבים, התנהגות מוסרית, חוויות מיסטיות, עצם קיום העולם, וכדומה - בהתאם לצו האופנה). האם ההסבר הזה הוא טוב, או רע? אפשר להתווכח עד שלמלאכים ימאס לרקוד על ראש-הסיכה.

לעומת זאת, אני מגייס את המושג "קוואליה" כדי להצביע על תופעה ולדרוש לה הסבר. אבל אז כל מיני אנשים פתאום מגיעים, ובמקום להציע הסבר (או לפחות להשתאות מול התעלומה) - מספרים לי שבעצם אין תופעה כזו. התצפית אינוולידית. זו טעות מדידה. there is no spoon. אבל מה לעשות שכרגע בעטתי בקיר כדי להמנע ממנחם בן, ועכשיו כואבת לי הרגל?
סבינה הוסנפלדר על רצון חופשי 672144
זה נכון. רק רציתי להעיר על הדמיון בין הטיעונים.
סבינה הוסנפלדר על רצון חופשי 672141
מבחינתי המצב בדיוק הפוך. אני למדתי שהמידע החושי אינו אמין, וכהמשך לכך חוויית האני היא אשליה רצינית.

אבל יש גבול לדיונים שאפשר לנהל עם מאמינים.
סבינה הוסנפלדר על רצון חופשי 672146
כולנו נסכים שהמידע החושי אינו אמין. אבל את מי מוליכה האשליה הזאת שולל?
סבינה הוסנפלדר על רצון חופשי 672136
מה שלא ברור לי במודל שלך הוא למה כוונתך במושג "אין להם חוויה סובייקטיבית"? הרי לפי הטענה שלי, אם יש להם את אותם המוחות, יש להם גם את אותם התחושות, באופן כללי.

כלומר: אתה מניח שיש קוואליה לא חומרית ומגיע למסקנה שאין יכולת למצוא אותה בדרך חומרית. יופי של טיעון מעגלי.
סבינה הוסנפלדר על רצון חופשי 672150
לי לא ברור למה אתה מתכוון כשאתה מדבר על "תחושות".

כן, אני אומר שאבוקדו טעים לי. אתה יכול למדוד בקלות (תאורטית) את האפקט של אבוקדו על הגוף שלי באופן כללי ועל המוח שלי באופן פרטי - ולהבין פחות או יותר שברמה הקוגנטיבית אני מתכוון לכך שיש לי נטיה לרצות לאכול אבוקדו (אתה מוזמן לעדן את הניסוח הזה כרצונך). אבל אלמלא אתה בעצמך היית יודע באופן בלתי אמצעי מה זה אומר "לחוש טעם", איזו סיבה בעולם הייתה לך בכלל לשקול את האפשרות שמשהו דומה ל-"חווית טעם" מתלווה אצלי לאכילת האבוקדו?

אם אסרוק אותך בסורק הקוואנטי שלי ואריץ סימולציה שלך במחשב הקוונטי שלי, אז הסימולציה בוודאי תטען שהיא חשה בטעם וכאב - כי מדובר בסימולציה שלך. אבל האם באמת תהיה לה חוויה סובייקטיבית? אולי הסימולציה שלך משחזרת את ההתנהגות שלך במדוייק, אבל בלי החומרה הספציפית של המוח (נגיד), אין לה באמת שום תחושה של חוויה סובייקטיבית? הנקודה היא לא שאין לי מושג מה התשובה לשאלה הזו. הנקודה היא שלא יכול להיות לי מושג.
סבינה הוסנפלדר על רצון חופשי 672154
החלף "תחושות" ב"חוויה סובייקטיבית".

התשובה שלי היא ש:

א. אולי יכול להיות מושג. לא ברור לי מראש שזה בלתי אפשרי. להפך, לדעתי חלקים מאוד מוגבלים של זה יהיו אפשריים.

ב. אם יש סימולציה מלאה של המוח, אין לה צורך בחומרה. החומרה כבר כלולה שם.

ג. אם אתה נזקק לסורק קוואנטי: מה תהיה, לדעתך, היכולת להשרות קישורים בין נוירונים במוח בצורה מפוקחת לחלוטין (להוסיף בדיוק את אותה התבנית, לדוגמה)?
סבינה הוסנפלדר על רצון חופשי 672156
א. פרט?

ב+ג. מה זה משנה? אולי אתה רוצה שאוסיף גם פרטים בנוגע לצבע החולצה שלי בזמן הסריקה שלך? אז נגיד שאין "סימולציה מלאה של המוח" אלא שמנגנון הסימולציה לא דומה בכלל למוח, ושהסריקה שלי מתעלמת מאינפורמציה קוונטית. השורה התחתונה: למרות זאת יש לי סימולציה שלך, מושלמת מבחינת ההתנהגות, אוכל אבוקדו במחשב. אתה בחדר הסמוך אוכל את אותו אבוקדו. שניכם אומרים שזה טעים כמובן (כי הסימולציה מצויינת). אני מתערב עם עוזר המחקר שלי שאתה חווה את הטעם, אבל הסימולציה לא - אפשר להכריע בהתערבות?
סבינה הוסנפלדר על רצון חופשי 672158
א. מצטער, אין לי כרגע דוגמה.

ב+ג. לדעתי אם הסימולציה מצוינת, היא גם חווה את הטעם. זהו בדיוק סלע המחלוקת בינינו.
סבינה הוסנפלדר על רצון חופשי 672159
זה לא לב המחלוקת ביננו, כי אין לי שום דעה בנוגע לשאלה אם היא חווה את הטעם או לא.

אבל יש לי עמדה חזקה לגבי היכולת שלך לבסס איכשהו את הדעה הזו שלך.
סבינה הוסנפלדר על רצון חופשי 672163
ליתר דיוק: הטענה שלי היא שהסימולציה חווה את הטעם אמ"ם אני חווה את הטעם - כלומר, שסימולציה מלאה של המוח תדמה גם את תחושת הטעם.

הטענה שלי היא שעצם זה שהסימולציה "יודעת" שהיא טעמה טעם, משמע שיש לה את תחושת הטעם. זוהי מהות החוויה הסובייקטיבית. אין בה שום דבר אקסו־אנצפלורי.
סבינה הוסנפלדר על רצון חופשי 672108
אני אתחיל מסדרת ניסויים שבה אני גורם לרוב הנסיינים לא לשקר (איך? לדוגמה: מטעה אותם לגבי מה שנמדד בניסוי) ומקבל תוצאות. יכול להיות שאני אקבל מדד לתחושת הכאב הסובייקטיבי (אני לא מסוגל לחשוב איך מבדילים בניסוי בין השתיים, אבל נראה לי שזה לא צריך להיות מסובך מדי. הנסיינים בפסיכולוגיה מצליחים לחשוב על טריקים לא רעים).

השאלה הגדולה היא האם אני אצליח לקבל תוצאות מועילות. יכול להיות שתחושת הכאב היא משהו יותר מדי אינדיבידואלי ולא פשוט למצוא לה מאפיין. לפחות לא בכלים שעומדים לרשותנו כיום. אבל נניח שנמצא. הדבר האידאלי יהיה למצוא גם איזשהו מתאם לרמת הכאב (או אולי יתברר שיש כמה תחושות כאב שונות, ותחושת כאב חריפה היא תחושה שונה מתחושת כאב קלה, אם מדובר על תחושות בינריות. מדובר, כמובן, על ספקולציות). סביר להניח שנמצא מתאם שעובד לרוב האנשים.

לכן נוכל לקבוע ברמה (גבוהה או נמוכה של ודאות) שאתה לא דובר אמת.

או בקיצור: אם אתה מניח שאין אפשרות למדוד את החוויה, אתה מסיק שאין אפשרות למדוד את החוויה. אם אתה מניח שיש אפשרות למדוד את החוויה, אתה יכול להגיע למסקנות אחרות. לא ברור לי על מה מסתמכת ההנחה שלך.

תחושת הכאב הסובייקטיבית היא משהו שאנחנו יודעים לשלוט עליו בצורה חלקית באמצעים שונים (משככי כאבים). לכן נראה לי לא מופרך במיוחד שמדובר על מושג אוניברסלי. מצד שני, לא נראה לי מובן מאליו מראש שהמושגים במוח אחד מספיק דומים לאלו שבמוח אחר.
סבינה הוסנפלדר על רצון חופשי 672110
מה זה בכלל "תחושת כאב סובייקטיבי"?

אנשים מתנהגים בכל מיני צורות עבורן אפשר לבנות מודלים, ואפשר לקשר בין המודלים ההתנהגותיים האלה לבין מדדים פיזיולוגים ותהליכים ביולוגיים, ואפשר לחקור את הסמנטיקה של "דיבור על כאב", ולהבין מתי ובאיזה הקשר אנשים מתבטאים בצורה הזו - ובסוף אפשר לחבר את כל הקצוות האלה ל-"תאוריה של כאב". בשום שלב לא תזדקק להנחה "קיימת תחושת כאב סובייקטיבית". אז הנה היפותזה מעולה: אין דבר כזה "תחושת כאב סובייקטיבית".

סבבה?
סבינה הוסנפלדר על רצון חופשי 672118
הנחתי למעלה שיש תחושת כאב סובייקטיבית. לא הנחתי הרבה על מהותה.

מכיוון שקודם העליתי ספקולציות פרועות, זה נראה די לגיטימי להעלות ספקולציות פרועות בתגובה. אבל תחושת הכאב הסובייקטיבי היא כבר מושג שמבוסס על קרקע מוצקה של תוצאות ניסויים רבים‏1 (לדוגמה: תרופות רבות, שבטיחותן ויעילותן הוכחה בניסויים מתבססות על כך) אז אין מקום להיפותזה שלך.

ואני חוזר ומדגיש שהטיעון הספקולטיבי שלי יעבוד רק רק אם יהיה לו בסיס עובדתי.

1 אתה מקבל את טענתי שזו עובדה מבוססת או שאני צריך לפרט?
סבינה הוסנפלדר על רצון חופשי 672125
סליחה?

אין אפילו שמץ של בדל של ניסוי שמצביע על קיומה של "תחושת כאב סובייקטיבית". יש רק דיווחים על תחושה כזו.

אף ניסוי באף תרופה מעולם לא הוכיח השפעה על חווית כאב. רק השפעות על דיווחים של חווית כאב (או על פעילות פיזיולוגית שקשורה לדיווחים של כאב).

אין שום זכר למחקר שמצביע על איזשהו קשר בין "דיווחים על כאב" לבין "תחושה של כאב".

נראה שההיפתוזה שלי עומדת על קרקע בטוחה.
סבינה הוסנפלדר על רצון חופשי 672132
אז בשבילך אני לא אקרא לזה "תחושת כאב סובייקטיבי" אלא "דיווח על תחושת כאב". לאור זאת קרא מחדש את תגובה 672108. מה דעתך על המחקר שמוצע שם?

וכהערת אגב, אני לא ממהר לוותר כל כך מהר על טענת קיום תחושת הכאב הסובייקטיבית. יש ניסויים רבים שעוסקים בכאב (מזוויות שונות). ההסבר שלך מניח יותר מדי שקרנות יצירתית. זה אולי אפשרי, אך מאוד לא סביר. ההיפותזה שלך מהלכת על חבל דק מעל תהום.
סבינה הוסנפלדר על רצון חופשי 672135
לדעתי המונח 'שקרנות' כאן לא מתאים. האם האייפון שלך‏1 משקר כשהוא מדווח על תחושת כאב שגוברת ככל שהפטיש המכה גדול יותר? אני לא רואה שום סיבה להגדיר זאת כשקר.

1 או המכונית האוטונומית שלך
סבינה הוסנפלדר על רצון חופשי 672137
אבל כאן מדובר על דיווחים של אנשים, שמתאימים בצורה טובה מאוד לתיאור תחושת הכאב, ולא על דיווח של מכשירים על כאב היפותטי שנגרם להם.
סבינה הוסנפלדר על רצון חופשי 672138
אבל אתה מפספס את הנקודה. האנשים לא משקרים - הנוירונים שלהם מעבירים איתותי כאב , בעצבים וגם במח, כמו אלה של בעלי הקוואליה. ולכן הפלט של המערכת יכלול את החיווי החיובי שיש כאב. זה לא שקר. רק שאין צופה פנימי שעד לכאב הזה.
סבינה הוסנפלדר על רצון חופשי 672148
ראשית כל לא תמיד יש קשר ישיר בין:
1. הלחץ על העצבים
2. מה שהעצבים מעבירים למוח
3. תחושת הכאב המדווחת

אבל אתה לא חושב שזה מוזר שאותו צופה פנימי יודע להתעלם מדיווחי עצבים על כאבים דווקא כשהגוף קיבל מנת מורפיום (או בגלל מאמץ ספורטיבי) או שהוא החליט פתאום להעצים מאוד את דיווחי הכאבים דווקא בזמן שיש גמילה מהתמכרות למורפיום? יש לו אולי רצון חופשי, אבל בפועל הוא משועבד לגירויים חיצוניים. לכן התאוריה הזו לא מצליחה, לדעתי, להסביר תוצאות בצורה טובה.
סבינה הוסנפלדר על רצון חופשי 672152
ברור שהוא משועבד לגירויים חיצוניים. ואין לו רצון חופשי. אל תהיה מיסטיקן, צפריר.
סבינה הוסנפלדר על רצון חופשי 672339
אני חייב לומר, כחבר במחנה הקוואליאיסטים, וכמסכים עם רוב מה שאתה כותב בפתיל חוץ מהשגיאה הקולוסאלית שלך ושל כל השאר כאן בקשר לרצון החופשי, אבל זה לפתיל אחר, שאני לא מבין כל כך את עניין ה"צופה הפנימי" שאתה כורך בקוואליה. מה זה הצופה הפנימי הזה? עוד סובייקט, אחר ממני? אפשר לשאול אם גם לו עצמו יש קוואליה?
סבינה הוסנפלדר על רצון חופשי 672343
ההוא שמתבונן בתיאטרון של דקארט.
סבינה הוסנפלדר על רצון חופשי 672359
הצופה הפנימי - ברור שזה אתה, או מה שאתה מגדיר כסובייקט "אני". אבל אני הקפדתי להתרחק מההגדרה הנפיצה הזאת, כי היא מובילה להמון סיבוכים והתפלפלויות שנראות לי פחות רלבנטיות לדיון.
בין השאר כי הגדרת ה"אני" נוטה להיות מאד גמישה ולהתרחב לכל מיני כיוונים‏1 - למשל, "אני" נוטה לכלול גם את היד שלי, הרגל שלי, המח שלי, הזכרונות שלי וכן הלאה, וזה מרחיק אותך ממה שאנחנו מדברים עליו כאן - ה"אני" התודעתי הפנימי, שאין לו בעצם מיקום או גודל פיזי במרחב. וגם על זה בטח אפשר להתווכח.
לכן העלתי את הצופה הפנימי, מינוח הרבה יותר נייטרלי ופחות טעון שקיויתי שיגרום לפחות הסחות דעת. עד עכשיו זה הצליח.

באשר לרצון החופשי, אין לי כרגע עמדה חד-משמעית בענין, השתמשתי באפשרות של עמדה כזאת בעיקר כדי להבהיר או להדגים טיעונים שונים.
אבל למרות שעמדתי לא חד משמעית, אני מזמין אותך לבצע את הניסוי הבא: שאל את עצמך "מה תהיה המחשבה הבאה שלי?" ותראה איזה תשובה אתה מקבל. ו'מי' עונה אותה, אם בכלל‏2.

1 פילוסופים בודהיסטיים פירקו להגדרה הזאת את הצורה כבר לפני אלפיים שנה. אז למה שאני אעלה פה משהו שכבר רבים וטובים טענו שהוא ריק מקיום ממשי ומתמשך?
2 ואז כמובן אל תחשוב על פיל סגול. אבל זה בצחוק.
סבינה הוסנפלדר על רצון חופשי 672371
הבנתי אותך בנוגע לצופה הפנימי.

לא הבנתי לאן אתה חותר בניסוי "מה תהיה המחשבה הבאה שלי". ניסיתי לזרום איתך ולבצע אותו בתמימות בלי לדעת לאן, ולא קיבלתי תשובה ברורה. (הבאה אחרי מה? "מחשבה" באיזו רמת רזולוציה?)
סבינה הוסנפלדר על רצון חופשי 672373
זאת היתה הערה ממש צדדית ולגמרי מסתעפת מהדיון כאן, אז לא חייבים להיכנס לזה.
לצורך העניין, הבאה מעכ--שיו!. אם יותר נוח לך לשים שעון שיעשה פינג, סבבה. באיזה רזולוציה? תבחר, אבל - אתה טוען שהמחשבות שלך רציפות? אם לא, זה מוגדר היטב.
סבינה הוסנפלדר על רצון חופשי 672377
אני יכול להחליט שאחשוב על אריק איינשטיין, ובדרך כלל אצליח בכך, לפעמים אולי לא, ואני יכול להחליט לא להחליט ולתת למחשבות לרוץ לכל הכיוונים, ואז איני יודע מראש על מה אחשוב. עכשיו מה?
סבינה הוסנפלדר על רצון חופשי 672380
ממי שיש לו רצון חופשי הייתי מצפה לשליטה קצת יותר משכנעת על המחשבות שלו ממה שאתה מתאר. אם הידיים או הרגליים שלך היו מתנהגות כמו שתיארת את המחשבות בתגובה שלך, האם היית טוען שאתה השולט בהן או שהיית מצלצל לאמבולנס שייקח אותך במהירות לבית חולים‏1?

לדעתי אגב אתה אופטימי מדי עם ה"בדרך כלל" שלך.

1 אם הרגליים שלך שרצות לכל הכיוונים לא הביאו אותך כבר לשם.
סבינה הוסנפלדר על רצון חופשי 672414
אוקיי, עשיתי עכשיו משחק כזה עם אשתי: היא הכינה רשימה של עשרה דברים שאפשר לחשוב עליהם, ואמרה לי אותם בזה אחר זה, במרווחים של עשר שניות. המשימה שלי היתה לחשוב על כל אחד מהם במשך עשר השניות עד שבא הבא. זה די דומה לאתגר שלך, עד כמה שאני מבין, אולי חוסר היכולת להתכונן עושה את זה קשה יותר (ואולי קל יותר, אבל זו אפשרות מפתיעה). הצלחתי ללא קושי מיוחד.

אולי אני פנומן של רצון חופשי... אבל אני לא מבין למה זה בכלל מעניין. הרצון החופשי רחוק מלהיות כל יכול. ברור שאם אני מאוד רעב, לא אוכל להימנע מלחשוב על אוכל במשך הרבה זמן. אני רוצה לחשוב על X ולא מצליח, במה זה שונה משאני רוצה להרים את הפסנתר ולא יכול? יש אפילו דברים שנבצר ממני לרצות ברגע נתון (ואני מדבר על דברים שמטיבם ניתנים לרצייה) - אני יכול להכניס אצבע לאש, אבל לא יכול באמת לרצות לעשות את זה. אז הרצון מוגבל בחופשיותו, זה טריוויאלי. חשבתי שאתה טוען (או שוקל את האפשרות) שאין לו שום חופש, זו הטענה הרדיקלית הנפוצה, למשל במאמר שלמעלה.
סבינה הוסנפלדר על רצון חופשי 672418
שאלה של סקרנות: במשך עשר שניות חשבת רק על מה שהתבקשת? לא חלף אצלך צל צילה של מחשבה כמו "כמה זמן עוד נשאר לי" או משהו דומה? אגב, לדעתי זה קשור ליכולת הריכוז שלך - אני אאמין לך אם תיתן תשובה חיובית בעוד אצלי התשובה בטוח תהיה לאאאא בלמד רבתי) - והרבה פחות מזה לשאלת הרצון החופשי.

יש סיטואציה מסוימת שכשאני נמצא בה אני נזכר בארוע שעברתי כשהייתי ילד קטן (כלומר לפני משהו כמו 60 שנה), ואני בשום אופן לא מצליח להפטר מהזכרון הזה כל פעם שאני באתה סיטואציה (פעם בשבוע) למגינת ליבי, לא כל כך בגלל שהזכרון לא נעים (והוא לא) כמו בגלל עצם העובדה שמאז שהוא נדבק אלי אני לא מצליח לנער אותו מעלי וזה פוגע בתחושה השליטה שהייתי רוצה שתהיה לי. אותו טריגר הוא משהו קצר כמו 10-15 שניות אבל זה לא עוזר. אם אני מנסה מראש לחשוב על משהו אחר לפני הרגע הקובע יוצא שאני נזכר באותו ארוע מהילדות פעמיים: פעם אחת כשאני מחליט לחשוב על משהו אחר, ופעם שניה כשאני נכשל בזה.
סבינה הוסנפלדר על רצון חופשי 672424
"שאלה של סקרנות: במשך עשר שניות חשבת רק על מה שהתבקשת? לא חלף אצלך צל צילה של מחשבה כמו "כמה זמן עוד נשאר לי" או משהו דומה?"
כן. הרשיתי לעצמי קצת אסוציאציות בסביבה, אבל זרם התודעה היה די מבוקר.
סבינה הוסנפלדר על רצון חופשי 672435
כמעט בטוח שלא אצליח, אבל אנסה את זה על עצמי. אתה יכול לתת דומגא לנושאים כאלה שהתבקשת לחשוב עליהם?
סבינה הוסנפלדר על רצון חופשי 672458
פסנתר; כדורגל; אפרוח; הצבע הלבן; בובה גדולה שנמצאת אצלנו בבית ולא עונה לשם "פודולסקי"; בננו מעיין; רמקול; סקוטלנד; אמא. לא זוכר את העשירי.
[אתה מבין לבד לאיזה שניים האסוציאציות די חפפו.]
סבינה הוסנפלדר על רצון חופשי 672438
ארכיבאי!
Use the force, Luke 672511
תשובת הניו-אייג' בגרוש‏1 הידועה היא שכדי שהזכרון יפסיק להטריד אותך אתה צריך דוקא להפסיק להילחם בו ולהתנגד לו, ולהשלים עם קיומו. מה שמחזק אותו זאת המלחמה התמידית והמאמצים שאתה משקיע בה.

1 לפעמים גם דברים שלא עולים ביוקר יכולים לעזור, לפעמים לא.
סבינה הוסנפלדר על רצון חופשי 672509
זה לא חדל לשעשע אותי‏1 שבתור הוכחה לרצון ה*חופשי* שלך אתה מביא עשר דוגמאות שאשתך בחרה שתחשוב עליהן.

1 טוב, רק מאתמול בערב שאז קלטתי בכלל שזה המצב, זה לא חדל לשעשע אותי.
סבינה הוסנפלדר על רצון חופשי 672510
מה שאומרים This is as good as it gets
סבינה הוסנפלדר על רצון חופשי 672565
אם רצון חופשי דורש חופש מהרצון של האישה, אז הדיון הוא נון-סטארטר.
סבינה הוסנפלדר על רצון חופשי 672140
וכמו כן - במה שונים אנשים ממכשירים‏1 ומדוע הכאב של אלה היפוטתי ושל אלה ממשי? מה, כי לאלה יש טרנזיסטורים ולאלה נוירונים?

1 שוני עקרוני כמובן. לא מדובר על להכניס טוסטר מחשמל למאסר על רצח. אבל ממטריאליסט כמוך לא הייתי מצפה להנחת הבסיס שהאדם הוא יותר ממכשיר משוכלל.
סבינה הוסנפלדר על רצון חופשי 672149
אנשים שונים ממכשירים בכך שיש לנו דיווחים מפורטים בהרבה עליהם. שיקול מעשי פשוט.
סבינה הוסנפלדר על רצון חופשי 672185
בשיטוטי ברשת בעקבות החדר הסיני, מצאתי את "האומה הסינית" - ניסוי מחשבתי שנוגע בענייני כאב וקוואליה, למשל:
"In “Troubles with Functionalism”, also published in 1978, Ned Block envisions the entire population of China implementing the functions of neurons in the brain. This scenario has subsequently been called “The Chinese Nation” or “The Chinese Gym”. We can suppose that every Chinese citizen would be given a call-list of phone numbers, and at a preset time on implementation day, designated “input” citizens would initiate the process by calling those on their call-list. When any citizen's phone rang, he or she would then phone those on his or her list, who would in turn contact yet others. No phone message need be exchanged; all that is required is the pattern of calling. The call-lists would be constructed in such a way that the patterns of calls implemented the same patterns of activation that occur between neurons in someone's brain when that person is in a mental state—pain, for example. The phone calls play the same functional role as neurons causing one another to fire. Block was primarily interested in qualia, and in particular, whether it is plausible to hold that the population of China might collectively be in pain, while no individual member of the population experienced any pain, but the thought experiment applies to any mental states and operations, including understanding language."

מכאן.
סבינה הוסנפלדר על רצון חופשי 672230
כתבתי בקצרה במקום במקום אחר בדיון על המוסר. אני מקווה שיצא לי לענות לך תשובה מסודרת לעניין הענישה החוקית.
סבינה הוסנפלדר על רצון חופשי 672232
לא ברור לי הקשר או הקישור. איך התגנבה לפתיל הזה הענישה החוקית?
סבינה הוסנפלדר על רצון חופשי 672235
"לא מדובר על להכניס טוסטר מחשמל למאסר על רצח." זה גם קשור לכותרת התגובה (הרצון החופשי) - אם הגוף הוא כולו מנגנון מכניסטי ("טוסטר משוכלל" לפי הניסוח שלך), האם זה נכון/מועיל/לגיטימי להעניש אותו על עברה זו או אחרת?
סבינה הוסנפלדר על רצון חופשי 672237
לדעתי זה מועיל בעולם המושגים שבו דנים בחברה פסיכולוגיה וסוציולוגיה, מבלי לצלול לעומקי הפילוסופיה הבעייתית הזאת. אבל זה מסיט את הדיון ובטח אפשר להגיד הרבה על זה, ואולי כבר נאמר אי שם במעלה העמוד, אחרי הכל זה נושא מתבקש בבואנו לדון ב(חוסר) רצון חופשי.
סבינה הוסנפלדר על רצון חופשי 672145
אבל אין שום תעלומה גדולה ב-''דיווחים על תחושת כאב''. אני מציג בפניך ספקטרום מוזר של קרינת גוף שחור, ואתה מציע לי לעזוב את זה ולנתח מטוטלת בואקום במקום.

אני לא מציע שקרנות יצירתית. אני מציע (היפותטית) מכניזם קוגנטיבי-פיזיולוגי-לינגוויסטי שמתאר את התנהגותם של בני-האדם כאשר הם מדברים על ''תחושת כאב''. לפי ההסבר הזה, המסומן עליו המסמן ''תחושת כאב'' מצביע אינו קשור ל-''תחושה סובייקטיבית'' של הדובר (שבקיומה אני כופר לצורך העניין), אלא רק לסוג מסויים של מצב-קוגנטיבי בו הוא נמצא. אף אחד לא משקר כאן.
סבינה הוסנפלדר על רצון חופשי 672151
ראשית כל, אתה מגיב להודעה שבה דיברתי על שני דברים שונים:

1. הצעה לניסוי ספקולטיבי שנועד להתמודד ישירות עם ההנחה שלך שאי אפשר למדוד תחושת כאב.

2. הערה לגבי המתאם בין דיווחים על תחושת כאב למה שאנחנו כבר יודעים על מה שקורה במוח.

אני מתמקד בתחושת כאש בדיוק בגלל שמדובר על נושא שנחקר היטב ולכן יש עליו מידע רב, כמו על ספקטרום של קרינת גוף שחור (ואולי יותר). מה שמצחיק הוא ש"תחושה סובייקטיבית" הוא סתם מונח שהעליתי כדי להגיד שמדובר על תחושה ששונה מאדם לאדם. אני מניח שאתה לא כופר בכך. לא ברור לי למה אתה טוען שזה לא נכון.

האם לדעתך הקלט של אותו מכניזם הוא מה שמושפע מהמנגנונים המוכרים לנו במחקר כמשפיעים על הכאב המדווח (משככי כאבים וכדומה) או שהוא חלק מאותן דרכי השפעה?
סבינה הוסנפלדר על רצון חופשי 672153
אבל הנושא "קשר בין דיווח על תחושת כאב לבין מה שקורה בגוף" הוא לא מעניין (כלומר - ברור שכן באופן כללי, אבל לא בהקשר הנוכחי).

אני רוצה להתמקד בתחושת הכאב עצמה. זה מאד נוח לדבר על "דיווח על כאב" במקום על "תחושת כאב" ולטאטא את כל הבעיה מתחת לשטיח, אבל לב-העניין הוא תחושת-הכאב עצמה - וכל הפואנטה היא שאני לא זקוק לה כדי להסביר את התפיסה שלה, את ההשפעות שלה או את הדיווחים עליה. אני יכול להתכחש לקיומה, והתיאור המכניסטי של היקום לא ישתנה כהוא-זה. זו אולי הנקודה הכי מעניינת בקשר אליה, אז אני מתכחש לקיומה ככלי רטורי - כדי להמחיש את הנקודה הזו. מנקודת מבט מדעית, מכניסטית, קוואליה לא אמורה להיות קיימת. ובכל זאת, הנה היא. כאן.
סבינה הוסנפלדר על רצון חופשי 672155
נאמת לי מאוד ולא שמת לב לשאלה שהתחבאה בסוף התגובה הקודמת:

האם לדעתך הקלט של אותו מכניזם הוא מה שמושפע מהמנגנונים המוכרים לנו במחקר כמשפיעים על הכאב המדווח (משככי כאבים וכדומה) או שהוא חלק מאותן דרכי השפעה?

קודם דיברת על מנגנון מכניסטי. עכשיו פתאום אני נוטה להבין מתשובתך שלא מדובר על מנגנון מכניסטי. למה בדיוק התכוונת קודם? האם יש לך הסבר חלופי?
סבינה הוסנפלדר על רצון חופשי 672157
חשבתי שתשובתי איינה את השאלה שלך, ועכשיו אני לא מבין איזו תשובה אתה בעצם מחפש.

פרטיו של המנגנון המכניסטי לא מעניינים ולא רלוונטים. העיקר הוא שאפשר (אפשר? מתבקש!) לנסח מנגנון מכניסיטי להתנהגות שלך (שמסביר בהצלחה את "דיווחי הכאב" וכו') שאינו מערב שום תחושה סובייקטיבית של כאב.
סבינה הוסנפלדר על רצון חופשי 672160
תחושת הכאב היא חלק בלתי נפרד מהמנגנון "המכניסטי".

הכאב הוא מנגנון לדיווח על תקלות (יש אנשים מסכנים שלא מרגישים בכאבים). מצד שני, כמו כפתור ההשתקה של האל־פסק, לא תמיד צריכים לשמוע את האזעקה. לכן התפתחו בגוף מנגנונים להתעלמות מכאבים. סמים שונים מנצלים, בין השאר, את המנגנונים הללו. כל מה שכתבתי כאן הוא, כמובן, פשטני.

אתה מוזמן לנסח מנגנון חלופי שלא מערב תחושה סובייקטיבית או בכלל להסביר איך התאוריה שלך מסבירה התייחסות לכאבים. כמובן שכל טענה על משהו לא מכניסטי שמווסת כאבים מעוררת את הקושי של החזרת המשוב הזה חזרה לגוף המכניסטי.
סבינה הוסנפלדר על רצון חופשי 672161
כל מה שכתבת עובד מצויין גם בלי תחושת כאב. המנגנון שלי: בדיוק אותו הדבר, רק בלי הרגש.
סבינה הוסנפלדר על רצון חופשי 672164
אבל יש כאן תחושה. או איזושהי מילה אחרת לתאר מידע שמגיע לכאורה מהחושים, ושאנחנו מודעים אליו. לצורך הדיון נקרא לו ''חושחש''.

ועדיין לא ברור לי למה אתה חושב שיש כאן תפקיד לקוואליה אם יש מנגנון מכניסטי כל כך מוצלח.
סבינה הוסנפלדר על רצון חופשי 672165
אתה שוב מתמודד עם קיומה של תופעה מוזרה, על ידי העמדת פנים שהיא לא קיימת. לא צריך להמציא מילים: המילה שמתארת את האינטגרציה של מידע חושי בתוך המודל-המנטלי שמתאר את הסביבה היא "תפיסה". ואכן, המנגנון עליו דיברתי קודם כולל תפיסה. הוא לא כולל "תחושת כאב" (כלומר, קוואליה).

אני לא חושב שיש תפקיד לקוואליה. זה מה שאני מנסה לומר במי-יודע-כמה הודעות אחרונות. אלמלא, לגמרי במקרה, הייתי בטוח לגמרי בקיומה - לא הייתה מאמין בשום אופן שהיא קיימת. אין שום תופעה אחרת בעולם שבכדי להסבירה אני נזקק לקוואליה. ככה אפשר לזהות קוואליה: זה בדיוק הדבר הזה, שלא צריך בשביל להסביר שום דבר, אבל הוא בכל זאת קיים.

אם היה לך כזה, היית יודע על מה אני מדבר.
סבינה הוסנפלדר על רצון חופשי 672168
אבל החושחש הוא משהו שמתבצע כחלק מהתפקוד הפיזי של המוח. הוא בברור לא חלק מהקוואליה. לכן אם הוא חלק מהאינטגרציה של המידע החושי בתוך המודל המנטלי, הרי שזו (לפחות החלק שלה שקשור לחושחש) מתבצעת בתוך המוח, ללא צורך בקוואליה.

אז האם לדעתך האינטגרציה של המידע החושי בתוך המודל המנטלי זה משהו מכניסטי לחלוטין?
סבינה הוסנפלדר על רצון חופשי 672221
למה "אבל"? אתה סותר משהו שכתבתי? אני מסכים עם המשפט הזה לחלוטין. וכן: אני משוכנע למדי שהאינטגרציה של המידע החושי בתוך המודל המנטלי זה משהו מכניסטי לחלוטין.
סבינה הוסנפלדר על רצון חופשי 672233
יפה, אז יש לנו בסיס קצת יותר רחב.
סבינה הוסנפלדר על רצון חופשי 672112
מצטער, אני לא מבין איך כל הסיפור שלך מחדש משהו.
א. קוואליה זה מושג פילוסופי מתחכם שבכלל לא נמצא בלקסיקון שלי, לפרטים עיין ב 971 ההודעות האחרונות שלי ושל הפונז.
ב. התשובה שלי לכל השאלות שלך נמצאת בהודעה האחרונה שלי. אז אני אחזור על העיקר.

קיימות 2 תאוריות:

1. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר מייצרים חוויה סובייקטיבית פנימית (לדוגמא: כאב)
2. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר א-י-נ-ם מייצרים חוויה סובייקטיבית פנימית, אלא רק מראית עין (לדוגמא: תלונות על כאב, בלי כאב סובייקטיבי).

בעיני, שתיהן מתאימות למציאות וזאת התשובה שלי. האם בעיניך, שתיהן מתאימות למציאות?
אם אתה מסכים והפונז מסכים, אז אני מוכן להתקדם ולדבר על ההבדלים שבינהן (זה ששתיהן מתאימות למציאות זה כלל לא אומר ששתיהן שקולות לחלוטין).
אם אתה רוצה לתקן, לחדד אחת מהתאוריות או להוסיף חדשה, תפדל.
סבינה הוסנפלדר על רצון חופשי 672117
אני לא מוכן להתחייב על כך ש-"תהליכים ניורולוגיים ופיזיקליים מייצרים חוויה סובייקטיבית פנימית". אני לא מבין באף אחד משני הדברים מספיק.

אבל באופן עקרוני, אני כנראה לא מסכים. אם ב-"מראית מעין של חוויה סובייקטיבית" אתה מתכוון למשהו ברוח הדברים של תגובה 672110, אז התאוריה היחידה שמתאימה למציאות המדעית היא השנייה. כמדען, אני לא יכול למדוד שום תופעה שקשורה ל-"חוויה סובייקטיבית", לא ישירות ולא בעקיפין - ואני לא זקוק לזה כהסבר עבור שום תופעה אחרת. למיטב ידעתי, אני יכול לבנות מודל שלם של העולם בלי להזדקק למושג "חוויה סובייקטיבית", ושום דבר לא יחסר ממנו.

(פרט לעובדת קיומן של חוויות סובייקטיביות)
סבינה הוסנפלדר על רצון חופשי 672264
אני מתנצל אם אני חוזר על מה שצפריר כתב. לא קראתי הכל.

כתבת שאתה יכול לבנות מודל שלם של העולם מבלי להזדקק ל״חוויה סובייקטיבית״. זה נכון אבל לא רלוונטי. אפשר ליצור גם מודל שלם של העולם מבלי להזדקק למונח אדם, כל מה שצריך זה חלקיקים ומשוואות. הנה עובדה לגבי תאוריות מדעיות שכבר הזכרתי בפתיל הנוכחי. יכולות להיות תאוריות מדעיות שהן לכאורה מיותרות כי הן מתארות תופעות emergent. למעשה כמעט כל תאוריה מדעית היא כזו, למעט אולי תאוריית הקוואנטים (שאולי גם היא emergent מתורת המיתרים). אבל הן מיותרות רק לכאורה, זה שהן מתארות תופעה emergent לא הופך אותן לשגויות או בלתי מדעיות או בלתי שימושיות. למעשה הרבה פעמים התאוריה הבסיסית יותר היא זו שאיננה שימושית. אף אחד לא יציע שוועדה של פיזיקאי חלקיקים יתכננו תוכנית להורדת מחירי הדיור או שיבנו תוכנית דיאטה לאדם שרוצה לרזות.

עכשיו, אני קצת משתעשע מכך שהמונח ״חוויה סובייקטיבית פנימית״ לא מובן לך מספיק, אבל מצד שני אתה כבר קופץ ואומר שהמדען לא יכול למדוד אותו בשום דרך. אז בוא נתחיל ממש מהבסיס: למה אני מתכוון שהמדען בודק אם משהו תואם למציאות? אתן דוגמא. יש מונח בפסיכולוגיה שנקרא אגו. הוא נועד להסביר פן מסויים בהתנהגות של האדם. ייתכן שיש כמה אסכולות פסיכולוגיות, כאלו שכוללות אגו בהסבר שלהן, וכאלו שלא. אבל בתאוריה שכוללת את האגו אפשר לבצע ניסויים שבודקים האם האגו מתאים למציאות. לדוגמא, אם יש לאגו עוצמה אז אפשר לצפות שאנשים עם אגו חזק יגיבו בצורה אחת ואילו אנשים עם אגו חלש יגיבו באופן אחר. אבל לא יהיה מישהו שיגיב אקראית, פעם כאילו יש לו אגו חזק ופעם אחרת כאילו יש לו אגו חלש. כשמדען חוקר את האגו אז הוא מניח שהתאוריה הזו נכונה, ומבצע ניסויים מהסוג שאמרתי. זה כלל לא משנה שיש תאוריות אחרות שמסבירות את ההתנהגות האנושית בלי אגו, ושהן בכלל מפרשות את תוצאות הניסוי בדרך אחרת לגמרי.

עכשיו אני אחזור לנמשל. הפסיכולוגיים המציאו תאוריה, ובתאוריה הזו יש לאנשים חוויה סובייקטיבית פנימית ולכן הם יתנהגו בדרך א אבל לא בדרך ב׳. כל ניסוי שבודק איך אנשים מתנהגים ומשווה לתחזיות של התאוריה הזו, הוא ***בהגדרה*** חקירה של ה״חוויה סובייקטיבית פנימית״. לצורך הבהרה, כאב הוא סוג של חוויה סובייקטיבית פנימית, ההתנהגות של אנשים בעת כאב (ולפניו ואחריו) מאפשרת לחקור את החוויה הזו. חוויה סובייקטיבית פנימית היא תת קבוצה (קטנה) של תהליכים מנטליים שהפסיכולוגיה מתעסקת בהם - יש גם זכרון, למידה, רגשות, דמיון וכו וכו׳. הסיבה שאני מזכיר את זה היא שבמחקרים ניורולוגים גילו התאמה גבוהה בין התהליכים הנוירולוגיים במח לתהליכים מנטליים באופן כללי ובפרט לחוויה הסובייקטיבית הפנימית. לכן זה טבעי מאד שתיווצר תאוריה שאומרת שהמנוע של החוויה הסובייקטיבית הפנימית הוא תופעות נוירולוגיות של המוח. אם תרצה, משלבים בין 2 תחומים מדעיים.

לסיכום, אני אציג בפניך מחדש את השאלה שלי. יש 2 תאוריות על התנהגות האדם:
1. תהליכים נירולוגיים מייצרים חוויה סובייקטיבית פנימית אשר גורמת להתנהגות מסויימת של האדם (למשל דקירה => תחושת כאב סובייקטיבי => תלונה על כאב)
2. תהליכים ניורולוגים גורמים למראית עין של חוויה סובייקטיבית פנימית (למשל דקירה=> תלונה על כאב ללא כאב סובייקטיבי)
התרשמתי מאחת התגובות שלך שאתה דוגל בגרסא שלישית (תקן אותי אם אני טועה):
3. יש שני סוגים של אנשים, רגילים ו״אורקים״. רגילים מתנהגים לפי 1 ואילו אורקים לפי 2

בעיני 3 התיאוריות מתאימות יפה למציאות. וזה בסדר, מותר שתהיינה כמה תאוריות שמתאימות למציאות.
כדי להתקדם בדיון אנא שתף: האם אתה מסכים ששלושתן מתאימות למציאות?
סבינה הוסנפלדר על רצון חופשי 672103
אם אתה משתמש פשוט ותמים של אייפון (או מישהו שנוחת מהמאדים) אתה עשוי לחשוב שיש לו חוויות סובייקטיביות פנימיות (ובפרט רצון עצמי). רמת המורכבות כבר מספיק גדולה. האייפון אמנם עדיין לא מסוגל לעבור את מבחן טיורינג, אבל הוא מתחיל להתקרב לשם. אם זה מה שמפריע לך, נדבר על דגם עתידי שיש בו תוכנה שעוברת את המבחן (או משהו דומה).

אבל מכיוון שיש לך הבנה טובה יותר של דרך פעולתו, אתה יכול לדעת שמדובר על מכונה ושאפשר בעיקרון להסביר את כל התנהגויותיה. אבל גם זה לא נכון: כתוכניתן די ברור לי שאין מי שמכיר מספיק טוב את דרך העבודה של המערכת המורכבת הזו (למות רמות ההפשטה הרבות שיצרנו כדי לסייע לנו). כדי לנסות לפתור בעיות תוכנה אנחנו לא מנסים לנתח אותן אלא מריצים את התוכנה. מה שכן, האייפון לא מתוכנת ליצור תחושת "אני" יחידה כמו המוח האנושי. אבל זה לא אומר שרכיבים שונים בו לא יכולים לספק את המקבילה לתחושות.

המוח האנושי די דומה, אבל ללא הבנה מספיק טובה של המבנה המדויק‏1, ללא הבנה טובה של שכבות הפשטה (סביר להניח שיש איזשהו קיום לכל מיני מושגים כגון "אדום", אבל לא ברור מהו) ועוד.

אם אתה לא מסוגל להגדיר את החוויה הפנימית ולא מסוגל להגיד עליה כלום, לא ברור לי מאיפה ההנחה שהיא מיוחדת לבני אדם.

1 יש כל מיני תוכניתנים שעסוקים ב־reverse engeneering של כל מיני תוכנות ורכיבי חומרה שונים. מצבם עדיין טוב לעין ערוך מזה של חוקרי מוח.
סבינה הוסנפלדר על רצון חופשי 672044
המלה "אשליה" אולי לא מתאימה כל כך לכוון שאתה חותר אליו, משום שמובלע בה קיומו של מושא- זה שמשלים אותו.
אשליה אינה מתקיימת ללא ההכרה של המושלה בקיומה- למעשה פרשנות שגויה של המציאות אצל המושלה.
בהנתן שקיים מושלה- תודעת הצופה - שמפרש באופן שגוי את המציאות כאילו יש לו רצון, נשארנו עם בעית גוף ונפש החד סטרית.
ותודעת הצופה אינה יכולה להיות אשליה- כי אז מי הוא המושלה?

ואז ודאי שלא ניתן להבחין בניסוי חיצוני בין מערכת בעלת תודעה ואשליה של רצון חפשי לבין מערכת חסרת תודעה שמנפקת בעצם את אותו פלט.
סבינה הוסנפלדר על רצון חופשי 672064
המילה אשליה באמת לא מתאימה כאן.
אבל יש לי שאלה מטרידה אליך. האם החדר הסיני [ויקיפדיה] יודע סינית?
סבינה הוסנפלדר על רצון חופשי 672065
אם הוא יודע סינית, אז כן.
אבל הוא כנראה לא ידע סינית עד שהוא באמת ידע סינית.
סבינה הוסנפלדר על רצון חופשי 672066
אבל יש כאן השלכה מצויינת לעניינו-
נניח שיש חדר סיני שיודע סינית.
כעת נקח שני חדרים :
באחד יש באמת דובר סינית ובשני יש רק את סדרת ההוראות, ונניח פלט זהה.

החדר עם דובר הסינית חושב שהוא יודע סינית.
מה חושב החדר השני?
סבינה הוסנפלדר על רצון חופשי 672073
אני חושב שהשאלה המעניינת יותר היא אם הוא מבין סינית. אפשר להסכים, אולי, שאם הוא עונה על כל שאלה בסינית הוא יודע את השפה עפ"י הגדרה.
סבינה הוסנפלדר על רצון חופשי 672086
צודק.
בעיני החדר הסיני חושף עד כמה עולם המושגים שלנו בענייני תודעה, הבנה, צופה פנימי וכו הוא מוגבל. הוא פשוט מתאים לתאר בני אדם, אבל קשה מאד להכיל את המושגים האלו על משהו זר (אפילו להגיד שהחדר לא מבין סינית זה קצת בעייתי). אולי זה לא מפתיע. אילו היינו חיים במשך כמה אלפי שנים בחברת חדרים סיניים היה לנו כבר נוח לאמר: חדר טוב. חדר טוב! מי חדר חכם? חדר, לך תביא!
סבינה הוסנפלדר על רצון חופשי 672093
לטעמי "פרדוקס" החדר הסיני הוא שריד לתקופה בה תופעות כמו קוגנציה ואינטליגנציה היו חידה, והסבר שלהן במונחים של חישוביות נחשב לפרובוקטיבי. אני חושב שהיום הן מובנות היטב, ובמצב העניינים הזה - בו כבר עכשיו באפשרותי ללמד את המחשב שלי שפה זרה מהר יותר משאני יכול ללמוד אותה בעצמי - וברור למדי שהמרחק בין הטכנולוגיה שלנו לבין AI מלא ואמיתי הוא לא איזה פריצת דרך מטורפת, אלא עוד קצת כוח מחשוב בצירוף כמה טריקים אלגוריתמים - הניסוי המחשבתי הזה נשמע באוזניי obsolete ואני מרגיש לגמרי בנוח לומר: "החדר הסיני מבין סינית".
סבינה הוסנפלדר על רצון חופשי 672114
לא, אי אפשר להסכים, והחדר לא יודע סינית ולא נעליים. והנה אני אראה לך את זה בכמה דוגמאות (הנחת הבסיס - החדר עונה על כל שאלה בסינית. ותו לא) :

א. החדר לא מקבל שאלה, אלא מטלה - תאר לי את מה שקרה בחדר בעשרים וארבע השעות האחרונות, בסינית. כל מי שיודע סינית אמור לענות על השאלה הזאת. החדר, על פי תאור הבעייה - לא.
ב. החדר, הפעם מצויד גם במצלמה ובתוכנה מתאימה, מקבל תמונה של תפוח. ואז הוא מקבל גם שאלה (בסינית אם אתה רוצה): מה רואים בתמונה? מאחר והחדר אף פעם לא למד שהמילה הסינית לתפוח מתארת משהו שנראה כמו תפוח, הוא לא יוכל לענות על השאלה הזאת.
ג. החדר מקבל שאלה בסינית שיש בה שגיאת כתיב קלה. נניח, אחת מתוך מאה האותיות (טוב, סימנים) שגויה, אבל משהו שקל מאד להבחין בו ולעסות תיקון (הה). על פי תנאי הבסיס, החדר לא יצליח לענות על השאלה הזו. מישהו שיודע סינית יוכל לענות עליה בקלי קלות.
ד. החדר מקבל שאלה שכוללת מילים קצת משונותנה, מצחיקותנה, לא רגיליות אבל עוקבות אחרי כללי הדקדוק וההיטוי של השפה הסינית. מאחר והחדר לא נתקל אף פעם במילים האלה, והמושג "כללי לשון" הוא לא חלק מהתכנות שלו - שוב על פי הגדרת הניסוי - החדר לא יצליח לענות על השאלה. מי שיודע סינית כן יצליח‏1.
ה. נניח והחדר יודע סינית. לידו יש חדר שיודע אנגלית. באותה צורה כמובן. עכשיו, הבה נגדיר את המערכת של שני החדרים כחדר חדש. למעשה יכולנו להגדיר מראש חדר אחד שיודע לענות באנגלית על כל שאלה באנגלית, ויודע לענות בסינית על כל שאלה בסינית. על פי טענתך, החדר מבין אנגלית וגם מבין סינית. הוא יודע שתי שפות. יופי - עכשיו אני מבקש ממנו באנגלית לתרגם את המשפט הבא ("I am a stupid room that knows no English an no Chinese") לסינית. מי שיודע שתי שפות, יודע לתרגם ביניהן - כי הוא *מבין* מה כל משפט אומר, ולכן יכול לומר אותו גם בשפה אחרת המוכרת לו. על פי הגדרת הניסוי, החדר שלך לא יצליח לתרגם מאנגלית לסינית. ולכן הוא לא מבין לא אנגלית ולא סינית‏3.

בקיצור, הוא לא מבין סינית יותר משהמחשב הזה מבין פסקל. בעצם, הרבה פחות.

1 בניסוח קצת פחות פואטי ויותר פורמלי - מדובר כאן על אקסטרפולציה של השפה שיוצרת מילים חדשות, על פי כללי השורש והדקדוק של השפה על בוריים. כאלה שהאקדמיה ללשון הסינית תשמח לאמץ בעוד עשר שנים (מילים, לא כללים). רק מה לעשות ואוצר המילים של החדר לא כולל אותם כרגע. הרי החדר עונה לטבלה סופית של שאלות, לא‏2?
2 בניסוח פורמלי אחר, החדר הסיני מזכיר לי את ההבדל בין lookup table לבין פונקציה. הראשון נותן מספר אפשרויות סופי. השנייה יכולה לתת מספר תשובות אינסופי, כי תחום ההגדרה שלה הרבה פחות מצומצם (פי אינסוף!) מזה של הטבלה.
3 אני במיוחד גאה בטיעון הזה - לא ראיתי אותו בשום מקום (טוב, גם לא חיפשתי. בויקיפדיה הוא לא מופיע), והוא נראה לי טוויסט ממש טוב על הבעייה, כי בניגוד קצת לדוגמאות הנגדיות האחרות, הוא לחלוטין משתמש רק בתחומי ההגדרה של הניסוי הבסיסי, בלי להוסיף הנחות צד מובלעות נוספות כמו המצלמה למשל, או ההבדל בין שאלה למטלה. בקיצור - מי שמשתמש, נא להפנות למקור :)
סבינה הוסנפלדר על רצון חופשי 672123
הרבה עצים, קצת יער. עזוב את "החדר הסיני" משנות השמונים של המאה העשרים, וקח במקומו RNN עמוקה וקונבולוציונאלית משנות העשרים של המאה העשרים-ואחת. יהיו בה כמה מיליוני פונקציות סיגמואידיות, מקסימום ואולי יחידות LSTM וכו' - הרבה מאד יחידות פונקציונאליות טיפשות שאף אחד מהן לא יודעת כלום על נאדה. ועדיין - היא תוכל לבצע בקלות את כל המשימות שהצעת. יודעת סינית ואנגלית? לדעתי, בוודאי שכן.

הנה המחשה (ועוד בסינית!).
סבינה הוסנפלדר על רצון חופשי 672128
אבל זה לא הטיעון. לא טענתי שאי אפשר ליצור אינטליגנציה מלאכותית. טענתי שניסוי (המחשבה של) החדר הסיני ניתן לסתירה (עבור מי שטוען שהחדר מבין סינית).

ובלי קשר - אל תיעלם, אנחנו הקוואליטטיביים זקוקים לעזרתך.
סבינה הוסנפלדר על רצון חופשי 672139
:)

עושה רושם שהקרב אבוד. האייל מלא בזומבים-פילוסופיים (אני מקווה שאף אחד לא נעלב).
הם גם לא מתים... 672143
הם מתחלפים? 672147
סבינה הוסנפלדר על רצון חופשי 672187
אתה ממעיט בכמות המידע שניתן להעמיד לרשות החדר הסיני בניסוי המחשבתי הזה. כל שגיאות הכתיב, כל תמונות המצלמה, כל מידע שאתה מסוגל להעלות במוחך נגיש לחדר שלנו (כן, הוא יצטרך בסיס נתונים די גדול, אבל אלה פרטים טכניים :-)). גם התרגום למשפט שביקשת כמו לכל שאר המשפטים באנגלית מופיע פשוט באחת מזיליוני הכניסות באחת מגוגלפקסי הטבלאות שלו. אם בשביל לענות על שאלה מספיק לחפש את רצף התוים בטבלה, ולשלוף ממנה את מה שמופיע בשדה התשובה, התרגום לשפה אחרת אינו מוסיף קושי מהותי.

אני מסכים, ובשעתו חשבתי שזה מוציא את העוקץ מטענתו של סירל‏1, שהחדר לא יכול להיות פרימיטיבי כפי שתואר במקור, כלומר הוא צריך מנגנון יותר מסובך מחיפוש פשוט בטבלה, וזאת בגלל שאלות שהתשובה עליהן לא ידועה מראש. לדוגמא, אם הוא יישאל 今天天气如何? (מה מזג האויר?) הוא יצטרך להפעיל פונקציה מתאימה, שתציץ לשמים או תשאל את גוגל או מה-שלא-יהיה, והפונקציה הזאת תצטרך אולי להפעיל פונקציות אחרות, ורב הפיתוי להגיד שאם כך בעצם יצרנו משהו אינטליגנטי וזהו. מכל מקום, על השאלה אם אחרי כל אלה הוא באמת "מבין" משהו עדיין פתוחה, אולי, אם יש לה בכלל משמעות.
___________
1- והייתי גאה... וגו'
סבינה הוסנפלדר על רצון חופשי 672192
בוא נעזוב את המצלמה ושאר האלמנטים האלה - שאכן יותר חלשים - ונתמקד רק בדוגמת התרגום. התרגום למשפט שביקשתי בבירור לא מוכל בתנאי הבעייה, כי על פי הגדרת הבעייה כל מה שהחדר (או "המערכת" - מעלעול ברשת הבנתי שהדוגמה הזאת סותרת את תשובת "המערכת" לחדר הסיני) מקבל כקלט הוא סימנים בסינית. זאת אמנם גרסה יותר רזה מהטיעון שאפשר להכליל - ולכן אני כבר הצהרתי שזה לא נוגד עקרונית *כל* יכולת לאינטליגנציה מלאכותית.
אבל בניסוח המילולי של החדר הסיני - כמו שמקובל למשל לנסח את מבחן טיורינג, על ידי קלטים ופלטים של אותיות ומילים בשפה מסוימת - לדעתי הדוגמא הנגדית הזאת עומדת.

לכן, משפטים באנגלית (או סימנים באנגלית, לבחירתך) אינם חלק מהקלט המוגדר של החדר - והרי אף אחד לא טען שהחדר הסיני מבין רוסית, פורטוגזית או סווהילית, דברים שאתה קצת טוען בתסריט שלך. הוא לא.
ולכן המערכת של שני חדרים - חדר סיני וחדר סווהילי, או חדר משותף עם סט הוראות *נפרד* לסינית ולסווהילית, לא יכול לתרגם מזה לזה, ולכן למרות שהוא יכול לנהל איתך שיחה שוטפת (ולעבור את מבחן טיורינג!) בסינית, וכנ"ל גם בסווהילית, אי אפשר לטעון שהוא מבין אף אחת מהשפות האלו, כי הוא לא מסוגל על פי ההגדרה הזאת לתרגם בין שתיהן.

לדעתי הדוגמא הזאת יותר חזקה מטיעוני האקסטרפולציה למיניהם, כי אלה מחייבים איזה יכולת תיקון שגיאות או הרחבה של הכללים שהחדר מכיר, וזה נראה פתיר.
הדוגמא הזאת מחייבת משהו מהותי שונה - "אובייקטים", מסומנים חיצוניים שנקלטים על ידי "חושים" שאינם מילוליים כמו ראייה, שמיעה, או כל דבר אחר, שמקשרים את האותיות והסימנים הכתובים לאובייקטים חיצוניים שהסימנים האלה מסמנים. והקישור הזה לא קיים כל עוד אנחנו עם חדר סיני או מכונת טיורינג שאמצעי התקשורת היחיד שלהם עם העולם הוא השפה הכתובה.
סבינה הוסנפלדר על רצון חופשי 672196
החדר המקורי היה אמור לדעת רק סינית. אם החדר אמור לדעת סינית וגם אנגלית, הוא יכיל גם טבלאות תרגום. למעשה זאת הרחבה מאד טריויאלית של החדר הראשון (לכל כניסה בטבלה צריך להוסיף את הפלט הרצוי בכל שפה שהחדר אמור ''לדעת'').
סבינה הוסנפלדר על רצון חופשי 672200
בוא נבין מה אני מנסה להראות, ומה אני לא מנסה להראות.
אני מנסה להראות דוגמה - אחת אולי - למצב שבו דיבור שוטף בשפה ‏1 איננו מראה על הבנה (פנימית אם תרצה) של השפה‏2. ככה שאתה תקבל מערכת שתשב מולך במבחן דמוי-טיורינג, ותתנהל בצורה שוטפת בשתי שפות, ותעבור את המבחן בשתי השפות, ועדיין - לא תוכל לתרגם ביניהן.
בגלל זה התחלתי בדוגמה של שני חדרים, ואולי הייתי צריך להישאר בה. שני החדרים הם נפרדים. ואין להם חדר-תרגום מקשר. אבל הם סגורים בחדר גדול יותר, שאליו אתה מכניס רצף סימנים באנגלית או בסינית, ויש איזה פונקציה פשוטה ששולחת כל פלט לחדר המתאים, מקבלת ממנו תשובה ומוסרת אותה החוצה.

לכן מה שאני מראה זה לא ש*אי אפשר* לתכנת סימולציה של שפה. אני מראה שעל ידי מדידה חיצונית א-לה מבחן טיורינג /חדר סיני ודומיו, דיבור שוטף בשפה מסוימת לא מראה הבנה שלה, כי ייתכן ומאחורי המסך מסתתר הדופלקס הסיני-אנגלי שלי, שלא יודע לתרגם בין שתיהן, ולכן הוא לא "מבין" לא אנגלית ולא סינית. שפה ללא קישור לאובייקטים היא ריקה מתוכן, אין מאחוריה הבנה (כמו שאנחנו מבינים את המושג, הה).

טבלאות התרגום שלך הן הפתרון לנחיצות אובייקטים חיצוניים על ידי החלפתם באובייקטים מדומים, אבל שניהם הוכנסו באופן מלאכותי שאיננו חלק ממה שאנחנו קוראם "ידיעת שפה". באותה מידה יכולת להכניס תמונה של תפוח ששתי המילים בסינית ובאנגלית יצביעו עליו, וכך לאפשר תרגום.

1 או אם תרצה דוגמא של סימולציה להבנת שפה.
2 והרי השאלה לגבי החדר הסיני המקורי היא האם הוא "מבין" סינית, כפי שניסחת זאת בעצמך.
סבינה הוסנפלדר על רצון חופשי 672202
בוא נראה איפה אני טועה, או לפחות מפסיק להבין אותך:

יש לנו שני חדרים, אחד "יודע" סינית (במובן ה"סירלי") והשני "יודע" אנגלית. יש גם פקיד קבלה (החדר הגדול) שיודע להפנות את האתגר לחדבר המתאים. אתה נותן לפקיד משפט באחת משתי השפות ומצפה (ממי?) לקבל תרגום שלו כהוכחה להבנה. אבל אף אחד מהחדרים לא מתיימר לדעת את שתי השפות, ופקיד הקבלה ודאי וודאי אינו מתיימר לכלום (הוא פקיד, למען השם, ואם לגבי חדרים יש לנו ספקות, פקידי קבלה לא מבינים כלום עפ"י דרישות התפקיד), כך שאני לא רואה איפה יש בעיה. בקיצור, תסביר לי את ההבדל בין שני החדרים האלה לבין שני אנשים, אחד דובר סינית והשני אנגלית.

אגב, הקושי הוא לא עם מה שאתה מנסה לטעון אלא בשאלה אם הצלחת, כי זאת בדיוק הטענה שסירל התכוון להפריך, כלומר הוא טוען ש"אפשר לרמות" במבחן טיורינג, כלומר לחקות אינטליגנציה בלי להבין כלום. ברור שלא מדובר כאן בידיעת השפה במובן שבו אנחנו יודעים שפות, שהרי זה לוז העניין.
סבינה הוסנפלדר על רצון חופשי 672203
אני מתנצל על הסגנון הקלוקל (התירוץ הקודם שלי עוד בתוקף, לצערי).
סבינה הוסנפלדר על רצון חופשי 672204
חצץ, כבוד השופט, חצץ!
את הבלוקים גמרנו בשבוע שעבר נגד פתח תקווה.
סבינה הוסנפלדר על רצון חופשי 672222
סירל אמר את מה שאמר לפני 30-40 שנה. היום, ב-‏2016 - אתה חושב שזה נקרא לרמות במבחן טיורינג? זו נראית לי כמו הצלחה מסחררת במבחן טיורינג. ראית למשל את הדוגמאות מתוך המאמר אליו קישרתי בתגובה 672123? אתה חושב שהמוח שלך עושה משהו שונה קוואלטיבית (ולא רק קוואנטטיבית) מהתוכנה שלהם?

בכלל, מה הקשר בין מבחן טיורינג לקוואליה? זה לא מה שהוא בודק. הוא בודק סוג מסויים של אינטליגנציה. זה הכל.
סבינה הוסנפלדר על רצון חופשי 672227
אני חושב שבכל תאריך שהוא, מה שמצליח לחפש בטבלאות ענק ולהפיק מהחיפוש הזה תשובות שלא מאפשרות להבדיל בינו לבין אדם אכן מרמה במבחן, במובן שהוא מתחזה למישהו בעל הבנה - לא שונה בהרבה מתלמיד שמעתיק תשובות מאיזה שליף. אם לדייק, זה מה שאני מבין שסירל חשב (או חושב, לא ידוע לי שהוא שינה את דעתו), בלי קשר לשאלה מה אני חושב על זה. בקישור שנתת ללא ספק משתמשים בטכניקה אחרת, הרי כולנו מבינים שחיפוש לעולם לא יעשה את העבודה בעולם ממשי שמוגבל ל 80^10 חלקיקים עלובים, וכאן מתעוררות בעיות מסוג קצת שונה, כלומר באיזה שלב נהיה מוכנים להגיד שתוכנת מחשב "מבינה" את מה שהיא קוראת, או רואה. האם ווטסון כבר זוכה לכבוד הזה? אם לא, מה נדרש עוד כדי שהתשובה תהיה חיובית. למותר לציין שקטונתי מלענות על כל אלה.

אני משער שהעמדה שלך היא שאם זה נראה כמו ברווז ומגעגע כמו ברווז הרי שיש לנו מה לאכול בצהריים, אבל לדעתי סירל חושב אחרת.

לגבי הקשר של כל זה לקוואליה ברור שהוא אינו קשר ישיר, הרי בכל הפתיל הזה אנחנו דנים באפשרות הקיום של יצורים תבוניים חסרי קוואליה, אבל מאחר והיצורים התבוניים היחידים שאני מכיר הם אנשים (ויסלחו לי השימפנזים, הדולפינים וחברי הכנסת של הליכוד; מי שלא יודע מהו משפט פיתגורס לא עונה להגדרה הזאת אצלי) כלומר בעלי קוואליה, אני נוטה להאמין שיש קשר בין אלה. הקשר הזה נעוץ כנראה אי שם במה שאנחנו מכנים "תודעה", אבל חוץ מאשר לזרוק עוד מילה לקלחת לא אמרתי בזה הרבה. מה עוד חדש?
סבינה הוסנפלדר על רצון חופשי 672229
''משפט פיתגורס''הוא מחזה של נ.אלתרמן בו הגיבור הוא מחשב תבוני בשם פיתגורס.
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • יוסי
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • יוסי
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • kozmo
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אח של אייל
  סבינה הוסנפלדר על רצון חופשי • האלמון האיילי
  סבינה הוסנפלדר על רצון חופשי • יובל נוב
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • easy
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • האייל האלמוני
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • האייל האלמוני
  סבינה הוסנפלדר על רצון חופשי • יובל נוב
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אל. לריק
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אריק
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אל. לריק
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אריק
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • צפריר כהן
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • צפריר כהן
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • צפריר כהן
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • הפונז
  ודייק • ירדן ניר-בוכבינדר
  ודייק • עומר
  ודייק • יובל נוב
  ודייק • עומר
  ודייק • יובל נוב
  ודייק • הפונז
  ודייק • אריק
  ודייק • הפונז
  ודייק • אריק
  ודייק • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • אריק
  שלאגר • אפופידס
  שלאגר • שוטה הכפר הגלובלי
  שלאגר • ירדן ניר-בוכבינדר
  שלאגר • הפונז
  שלאגר • אריק
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • אריק
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • יוסי
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • אריק
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • אורי גוראל גורביץ'
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • יובל נוב
  מי צריך לימודי ליב"ה‏1? • אורי גוראל גורביץ'
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • kozmo
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • ירדן ניר-בוכבינדר
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • Kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • אל. לריק
  תובנות מעמיקות - אל תהיו שניצלים • האייל האלמוני
  תובנות מעמיקות - אל תהיו שניצלים • אריק
  תובנות מעמיקות - אל תהיו שניצלים • האייל האלמוני
  תובנות מעמיקות - אל תהיו שניצלים • אריק
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • יוסי
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • אריק
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • הפונז

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים