בתשובה להפונז, 13/01/16 15:25
סבינה הוסנפלדר על רצון חופשי 671808
בסדר.

כמו שאמרתי, אני לא יכול לשכנע שהדרך או השפה שבחרת (פילוסופיה), היא שגויה. מדובר בטיעון פילוסופי לגיטימי. אני רק יכול להצביע על החולשות שלו והמגבלות שלו - בהשוואה לשפה שאני בוחר (פסיכולוגיה).
אז החולשות הן שאי אפשר להגיד כמעט כלום על שום דבר, אפילו לא על אנשים אחרים ממך (אלא אם כן אתה מוכן לחפף ולהיות בלתי עקבי).

בעיני לא מפסידים כלום מלאמץ את השפה שלי. בתאוריה (תאוריות?) של הפסיכולוגיה יש לאנשים נפש, יש להם גוף, כואב להם שהם נצבטים ואדום להם כשהם רואים כלנית. ואת התאוריות האלו אפשר לבדוק בדרך אמפירית. אפשר לבדוק מה המכנה המשותף בין אנשים שונים וכאבים שונים, ומה שונה. אפשר לנסות כל מיני פעולות שונות ומשונות ואפילו מטורפות ולראות האם הן מעוררות תחושה ובאיזה מידה. אפשר להעלות תאוריות על תופעות emergent ברשת ניורונים, ולהעמיד אותן למבחן אמפירי.

אז נכון, אי אפשר לגעת בנפש ביד או לראות אותה בעין, יש רק כלים עקיפים. אבל זו בעיה שקיימת גם בתחומים מדעיים אחרים. אפשר להתמודד איתה.

ע"ע הדרך לירושלים.
סבינה הוסנפלדר על רצון חופשי 671811
אגב, לשיטתי אולי חלק מהשפה שאני בוחר בה לקוח מפילוסופיה, אבל הבעייה שאני מציג דוקא נובעת מהגישה המאד מדעית ומטריאליסטית שאני מניח לגבי המציאות.

אני בעד לדבר בשפה שלך בתחומים שונים ומועילים כמו פסיכולוגיה ונוירולוגיה (אם כי עוד לא ראיתי שום סימוכין לטענה שלך שבתאוריה של הפסיכולוגיה יש לאנשים נפש/צופה פנימי. לדעתי הפסיכולוגיה כלל לא דנה בענין, כמו שהיא לא דנה בהשפעות קוונטיות על הולכת חשמל בנוירונים). לגבי הבדיקות האמפיריות בנושאים שהעלית, נראה לי שאין לנו ויכוח לגביהן.

הבעייה בקשר לכלים העקיפים שעוד לא שכנעת אותי שאפילו אחד מהם אפילו מתקרב למדוד את מה שאני מדבר עליו.

בענין הדרך לירושלים השוטה ענה לך היטב, ודעתי דומה לדעתו.
אבל, מהתגובה שלך אליו, הגעתי להבנה נוספת: ניתן להסיק ממנה שאתה מניח כאכסיומה שהמתרחש בנוירונים והצופה הפנימי הם אותה תופעה בדיוק. ושקיומו של הראשון (רשת נוירונים/חוטים חשמליים/סיבים אופטיים/משדרי שטרומפלשטרוק להעברת סיגנלים‏1) גורר *בהכרח* קיומו של אחר.
ההנחה האקסיומטית הזאת היא לא פחות מטאפיזית או פילוסופית מכל דבר אחר שעלה כאן, ואין לה שום סימוכין אמפיריים שאתה יכול לשטוח בפנינו - עד כמה שאני יודע או מבין את הסוגיה. אם יש לך כאלה, אתה מוזמן לפרט.
בהיותה כזאת, האכסיומה שלך נמצאת בדיוק בתחום השפה שאני בחרתי לדבר בו - השפה הפילוסופית. באין נתונים אמפיריים תומכים היא לא שייכת לשפה הנוירולוגית, הפסיכולוגית או הפיזיולוגית.

1 אין שום סיבה להניח שדוקא המבנה הביולוגי של נוירונים מאפשר תודעה, אלא אם יש לך טיעון חזק בענין.
סבינה הוסנפלדר על רצון חופשי 671828
"הבעייה בקשר לכלים העקיפים שעוד לא שכנעת אותי שאפילו אחד מהם אפילו מתקרב למדוד את מה שאני מדבר עליו." - ברור! הכלים שלי הם משפה אחרת, עולם אחר. אני מנסה לשכנע לנטוש את השפה שבה יש מטעמים פילוסופיים(!) איזשהו צופה פנימי שהוא נפרד מהגוף והגוף יכול להתקיים בלעדיו. הרשה לי לצטט את מורפאוס: the body cannot live without the mind . אם מורפאוס אמר את זה, זה בטוח נכון!

בעניין סימוכין ציטטתי כבר את ויקיפדיה בעברית: "פסיכולוגיה רפואית - עוסקת ברמה התאורטית, הקלינית והמחקרית בסוגיית יחסי הגומלין בין גוף לנפש". והנה עוד אחד, שממש צריך להפיל אותך: "פסיכופיזיקה - עוסק ביחס ובקשר שבין הגירויים הפיזיים האובייקטיביים להם נחשף האדם, ובין התחושות הפסיכולוגיות הסובייקטיביות המתעוררות אצלו כתוצאה מהחשיפה לגירויים אלו."

"אתה מניח כאכסיומה שהמתרחש בנוירונים והצופה הפנימי הם אותה תופעה בדיוק." "ההנחה האקסיומטית שלך היא לא פחות מטאפיזית..."
ממש ממש לא. זה איש קש ותאור מעוות של התהליך המדעי. בתהליך המדעי אין אקסיומות, אלא יש תאוריות ואת התאוריות מעלים כדי לבדוק אותן מול המציאות. אין כאן שום דבר "מטאפיזי" או "פילוסופי". זה פשוט שיטת עבודה. אם הן מתאימות סבבה, אם לא אז מתקנים אותן או מחליפים אותן. יכול להיות שמחזיקים בתאוריה כי נראה שיש לה "פוטנציאל" למרות שעדיין אין לה מספיק עדויות נסיוניות (ע"ע שדה היגס בפיזיקה). ייתכנו אפילו כל מיני דברים מוזרים כמו:
כמה תאוריות שונות וסותרות שאי אפשר להבדיל בינהן, לפחות לא כרגע.
תאוריות שמחזיקים בהן אפילו שיודעים שיש ניסויים ספציפיים שסותרים אותן - כי פשוט הן מאד מוצלחות ואין כרגע משהו יותר טוב‏1

רציתי לתאר בנפנופי ידיים איך תהליך כזה עובד בפסיכולוגיה, אבל זמני קצר וזה יהיה בפעם אחרת.

-----
1 לאחרונה גיליתי שזה המצב ב"מודל הסטנדרטי" בפיזיקה
סבינה הוסנפלדר על רצון חופשי 671836
אני תיארתי את הטיעונים שלך בנושא הספציפי וההנחות שמשתמע שעולות מהן, לא את התהליך המדעי, ולענות מול זה בתיאור של התהליך המדעי זה איש קש ברור הרבה יותר.

-----
המודל הסטנדרטי מושמץ הרבה יותר מכפי שמגיע לו, גם אם הוא לא מושלם (שזה לבטח המצב). אני לא מכיר כרגע הרבה ניסויים *בתחום הניבוי הרלבנטי של המודל הסטנדרטי* שסותרים אותו על פניו‏1, ואשמח לשמוע על כאלה כשזמנך יתארך.

1 חוץ ממסת הנייטרינו שכבר עלתה כאן איפשהוא.
סבינה הוסנפלדר על רצון חופשי 671898
אוקי, אז תשכח מהקטע של התהליך המדעי.
שאלת אם אני מניח משהו כאקסיומה. עניתי - לא. אני לא מניח אותו כאקסיומה, אני חושב שהוא נכון כי הוא מתאים לתצפיות. אם אני אגלה שהוא סותר את התצפיות, אשנה את דעתי.
סבינה הוסנפלדר על רצון חופשי 671881
תהייה מזווית אחרת בקשר לתיאור(יה) שלך:
אם אכן קיומה של חווית צופה פנימי היא תיאוריה במובן המדעי של המילה, הייתי מצפה מתחומי המדע שעוסקים בה - פסיכו-פיזיקה, פסיכולוגיה, מה שתגיד - לתכנן ולבצע ניסויים שיכולים להפריך אותה‏1, כמו שלימד אותנו פופר. או לפחות להציע ניסויים שיכולים להפריך אותה באופן עקרוני.
והרי לתיאוריה שמוגדרת "מדעית" כמקובל - ניקח למשל את המודל הסטנדרטי אם כבר העלית אותו על השולחן - קיימים גם בתיאוריה וגם נעשו במקרה הזה עשרות ומאות ניסויים שתוצאות מסוימות שלהן היו סותרות את התיאוריה.
אילו לא היו מתגלים בוזוני Z ו-W למשל בשנות השמונים, או אם היו מתגלים ארבעה או חמישה במקום שלושה, או אם היו מתגלים חלקיקים שלא נכללים במודל, או אם החלקיקים במודל לא היו עומדים בתחזיות שהמודל מציע, ולאחרונה - אילו לא היה מתגלה חלקיק ההיגס שהוא החלקיק האחרון שניבאה התיאוריה - כל הניסויים האלה היו מסוגלים להפריך את התיאוריה הנקראת "המודל הסטנדרטי"‏1.

אם, כפי שאתה טוען, תחומי המדע שציינת אכן מתייחסים לקיומו של צופה פנימי (בעצם לזהות/גרירה הכרחית בין תופעות נוירולוגיות מדידות לקיומו של צופה פנימי) כתיאוריה מדעית ולא כהנחת בסיס אכסיומטית, הייתי שמח אם היית מביא לפחות דוגמא או שתיים לניסויים שמסוגלים להפריך את התיאוריה הזאת - שזה אומר, ניסויים (תיאורטיים או כאלה שהתבצעו כבר) שתוצאתם תהיה "ולכן הוכחנו ש*אין* דבר כזה חווית צופה פנימי" או "ולכן הוכחנו שיכולות להתקיים אותן תופעות נוירולוגיות מדידות ללא נוכחות צופה פנימי".
אני, אולי בגלל בורות בתחום, לא מכיר ניסויים שכאלה, לא מעשיים ולא תיאורטיים, שהוצעו על ידי הפרדיגמות שציינת.

1 אני לרגע שם בצד את העובדה שבניגוד לתיאוריה "יש צופה"/"אין צופה", המודל הסטנדרטי הוא מורכב ומסובך, ולכן ניתן לבדוק חלקים שלו, ויש חלקים שניתן לשנות קצת וגו'. לצורך הטיעון זה מיותר לדעתי‏2.
2 אם בכל זאת רוצים דוגמה לנושא קרוב יותר - הבה ניקח את הרצון החופשי ידידינו. כולנו מכירים ניסויים שנעשו כדי להפריך את התיאוריה הזאת, כמו הניסוי שמדד שהחלטה מסוימת נלקחת במוח מתקבלת כמה עשיריות שנייה *לפני* שהאדם דיווח שהוא לקח את ההחלטה. וברור שאפשר לחשוב על ניסויים תיאורטיים מרחיקי לכת יותר שיראו, שחור על גבי מסך מחשב, שכל החלטה נלקחת לפני שהאדם חווה/מדווח עליה.
דוגמה שעולה בדעתי: חוזה העתיד המושלם - מכשיר שמתבונן בזרמים שבמוח (לא משנה הטכנולוגיה כרגע), ומוציא לקובץ מחשב חיזוי של כל ההחלטות שייקח אותו אדם בעוד 0.85 שנייה מרגע הרישום בקובץ. וכמובן שהאדם מדווח עלך כל החלטה מיד כשהיא נלקחה "על ידו". מכשיר שכזה - שכמובן אינו משתמש בשום מסע בזמן כדי לחזות את העתיד - מראה חד וחלק כי כל ההחלטות שנלקחו על אותו אדם נלקחו למעשה קודם להיותן מודעות, ויכולת לתת למחשב שקורא את המוח לקחת את אותן החלטות (בדיוק!) מבלי לערב את החלק המודע וה"רצון החופשי" של אותו אדם, ולפטור אותו מעונשו של אותו טפיל דמיוני.
סבינה הוסנפלדר על רצון חופשי 671899
בהערת אגב לעניין הרצון החופשי: נראה שההחלטה הלא-מודעת שקודמת לרגע בו ההחלטה המודעת מתקבלת ניתנת לשינוי בטרם היא יוצאת לפועל, כך שאולי נכון יותר להסתכל עליה כעל ברירת המחדל לפעולה ותו לא. לפחות זה מה שנאמר בפרק מסויים בסדרה breakthrough של NG.
סבינה הוסנפלדר על רצון חופשי 671904
כן כן, אני יודע, לא אמרתי שהנושא הזה סגור וחתום, אבל שלפחות הניסויים האלו בודקים תוצאות שמאפשרות להפריך אותו, ולו עקרונית.
סבינה הוסנפלדר על רצון חופשי 671901
ובמחילה (שונא להיות בנעליים האלה, אבל אני יודע שאתה אוהב עברית) - בעברית מחליטים או מקבלים החלטה ולא לוקחים אותה. האדם דיווח שהחליט, הוא מדווח על כל החלטה מייד כשהיא התקבלה.
סבינה הוסנפלדר על רצון חופשי 671903
אכן כך, הערה טובה.
סבינה הוסנפלדר על רצון חופשי 671902
ביקשת משהו שהוא הרבה יותר קל ממה שהתכוונת לבקש - אולי לא תאהב את התשובות.

הנה תאוריה: "הניורולוגיה היא זו שמייצרת את החוויה הסובייקטיבית הפנימית".
אם ניסויים יראו שאין התאמה טובה בין ניורלוגיה לחוויה סובייקטיבית פנימית, אז התאוריה הזאת הזו מופרכת, נכון? כלומר, מדובר בסה"כ להשוות בין מדידה עקיפה מסוג אחת, למדידה עקיפה מסוג אחרת (למשל, ניורלוגיה להתנהגות, נירולוגיה לתשובות על שאלון, ניורולוגיה למד לחץ דם, אין גבול לאופציות). למעשה זה מה שעושים בהרבה תחומים מדעיים. יש תאוריה ש"אלקטרון" מייצר "שדה חשמלי" ורוצים לבדוק אותה. אבל לא את זה ולא את זה מודדים ישירות, נכון? צריך להשוות מדידה עקיפה א' למדידה עקיפה ב'.

יש פה בעיה של ניסוח. אולי מה שהיית צריך זה לבדוק את התאוריה הבאה:
"יש שני סוגי אנשים: רגילים ואורקים. לרגילים יש חוויה סובייקטיבית פנימית. האורקים מקיימים את כל הסממנים החיצוניים אבל אין להם שום חוויה סובייקטיבית פנימית". התאוריה הזו, אכן מתאימה לתצפיות - צריך להשתמש בנימוקים יותר פילוסופיים כדי לפסול אותה. אבל זה לא נורא בעיני. למשל, התער של אוקאם פוסל אותה. למשל, צריך לתקן אותה כל פעם כאשר מוצאים סממן חיצוני חדש. זה לא פסילה "חזקה". אל תתיחס לתאוריה הזו כאל איש קש, כי לדעתי היא וריאציה אחת על סט שלם של תאוריות שאנשים שמשוכנעים ב"קוואליה" מחזיקים. למשל לכל אחד יש חוויה סובייקטיבית פנימית אחרת ושונה, אבל איכשהו הסמננים החיצוניים דומים.

ואולי אתה רוצה בעצם לשאול "למה" ולא "האם אפשר להפריך". לדוגמא, למה לאנשים יש חוויה סובייקטבית פנימית? ובכן אני מרגיש שזה שאלה שאפשר להעלות תאוריות אבולוציוניות לגביה, ולבחון אותן.

במחשבה שניה, עדיף לתת לך לשאול.
סבינה הוסנפלדר על רצון חופשי 672030
כמו איזה שנינה שהכרנו בתואר הראשון - "כל הוכחה למשפט במתמטיקה ניתן להסביר בצורה פשוטה, בהירה, קלה להבנה ולא נכונה".

במקרה שלנו, אתה עונה על שאלה אחרת, הרבה יותר קלה, ש - הפלא ופלא - אני אפילו נוטה להסכים איתה ולא אמרתי דבר אחד לאורך הדרך שמתנגד לה.
והרי הניסוי "הראה התאמה בין גודל הפטיש בו אני מכה לך ברגל לעצמת הכאב שאתה חש ומדווח שאתה חש" הוא כל כך טריויאלי, שכנראה יש לו יותר סיכוי לזכות באיג-נובל מאשר בפתרון של בעייה שמטרידה את האנושות כבר אלפי שנים.

בשביל להראות אפילו את הניסוי הטריוויאלי הזה, אתה צריך להראות שאתה מודד, ולו בצורה עקיפה, חוויה סובייקטיבית פנימית (צופה פנימי או קוואליה בטרמינולוגיה שלי, לפני אנחנו גולשים למושגים מרוככים ופחות מעניינים).
כדי למדוד שדה חשמלי "בצורה עקיפה", אנחנו מודדים את הכוח שהשדה הזה מפעיל - בשביל זה אפשר להסתפק באמצעים של המאה ה-‏19, תשים מטען או "אלקטרון" לצורך הענין‏1 על השולחן שלך, תפזר סביבו רסיסי ברזל (כנראה רצוי עם קיטוב מגנטי, זה לא הענין), ותראה שהם נמשכים ומסתדרים על פי קווי השדה החשמלי.
עכשיו, שים לב ללוגיקה כאן - שדה חשמלי גורר כח על מטענים גורר מדידת הכח הזה על ידי רסיסים שמגיבים לו.
אם אין שדה חשמלי --> אין כח על מטענים --> אין תזוזה של רסיסים.

האנלוגיה לצופה פנימי היתה אמורה להיות:
צופה פנימי גורר השפעה על התנהגות גורר קורלציה לפטיש. ואז נגזר מזה:
אם אין צופה פנימי --> אין השפעה על התנהגות --> אין קורלציה לפטיש(!).

אבל זאת בכלל לא הטענה כאן! לא טענתי לרגע, וחמור מזה - גם כל הנסיינים שלך לא טוענים‏2 שאי קיום צופה פנימי יחסל את הקורלציה המדידה.

מה זה אומר: שאם בניסוי השדה החשמלי, אי תזוזת החלקיקים היתה מפריכה את התיאוריה, ותזוזתם היתה מאשרת אותה, כאן המצב לגמרי שונה, אפילו ברמת ההיפותיזה - אי קיום צופה פנימי עדיין משאיר את הקורלציה, מאחר והקורלציה לא מחייבת צופה שכזה. ראה דוגמת המכונית‏4 עם ה-fpga או אפליקציית אייפון שאפשר לכתוב ביומיים שתצעק כואב לי חזק יותר ככל שתכה אותה חזק יותר‏3.

לכן, מאחר וכל הניסויים שאתה מתאר, תוצאותיהם לא תלויות בהכרח בקיום צופה פנימי או חווית קוואליה, אז בהכרח, הם *לא מודדים אותה* ולכן לא מסוגלים להפריך אותה. נסיין רציני שמנסה להפריך תיאוריה היה אמור לתכנן ניסוי שתוצאותיו ישתנו אם המשתנה שהוא מודד קיים או לא קיים.

התאוריה שלך עם האורקים היא כמובן איש קש, והתער של אוקהאם‏5, אם כבר, יטען מראש שאין שום צורך בצופה פנימי כדי לייצר התנהגות רציונלית וקורלטיבית לקלטים כאלה ואחרים, סבוכים עד כמה שיהיו. אם כבר אתה רוצה תיאוריה, אז הנה היא: "לי יש חווית צופה פנימי. למחשב ה-FX-82 שלי אין. גם לא לאייפון עם חיווי הכאב המדויק-בקורלציה-הרבה-יותר-טובה-משל-כל-בן-אנוש יחסית לגודל הפטיש המכה".
למה? זאת שאלה מצוינת. אבל עד כמה שאני מבין מהמעט שהתייחסת עד כה לתיאוריה הזאת, לשיטתך לאייפון דווקא יש חוויה כזו.

1 כמובן שלשים אלקטרון אחד קצת קשה, אבל אפשר לשים המון כאלה, בטח כשהם זורמים, ולמדוד את השדה הנוצר בשיטה לעיל, זה לא עקרוני לטיעון.
2 אפשר לשים לב שבעצם אני זה שמייצג כאן את הצד המטריאליסטי, למרות שזה נשמע הפוך לעיתים.
4 אתה חוזר ומתעלם ממנה בצורה עקבית, ולא לחינם נראה לי.
3 עד שיישבר רכיב ה-MEMS שמודד תאוצות במכשיר. זה נכון גם לבני אדם, קוראים לזה "הנחקר איבד הכרה".
5 שהוא, אגב, לא ממש מתודה מדעית - שדות קוונטיים הרבה יותר מסובכים ממכניקת קוונטים לבדה. ולעומת זאת מודל האטום הרבה יותר פשוט ממודלים קודמים של הטבלה המחזורית. הסיבה שהמדע קיבל מי מהם זה שהן עבדו, לא זה שהן מילאו אחר התער של אוקהאם.
סבינה הוסנפלדר על רצון חופשי 672039
זה פשוט מאד, אתה מגדיר "תחושה סובייקטיבית פנימית" או "צופה פנימי" בצורה אחרת לחלוטין ממני. ושום מכונית לא תעזור ובגלל זה אני מתעלם. בוא ננסה להתקדם מכיוון ש(אולי) אנחנו מסכימים עליו.

המאמר המקורי עוסק ברצון חופשי.
1. האם "רצון חופשי" הוא חלק מחווית הצופה הפנימי?
2. האם אתה מסכים עם מסקנת המאמר שרצון חופשי הוא אשליה?

אני אגיד מה דעתי בעניין.
רצון חופשי הוא בהחלט חלק מחווית הצופה הפנימי ולכן המסקנה של שכ"ג במאמר יוצרת הרבה התנגדות "אינטואטיבית". אבל אני מסכים עם המסקנה שלו. מבחינה חיצונית, ה"חופשיות" של הרצון החופשי היא אשליה. אם אתה בגדול מסכים איתי, אז הנה נקודה שאנחנו יכולים להסכים עליה:

למרות שרצון חופשי הוא חלק מהחוויה הסובייקטיבית של הצופה הפנימי, בהחלט אפשר לבדוק אותה מבחוץ (למשל הניסוי ש"חוזה" את ההחלטות של האדם) ולהגיע למסקנה שה"חופשיות" היא אשליה.
סבינה הוסנפלדר על רצון חופשי 672040
לדעתי המכונית כן תעזור, אולי למשל לחדד את ההבדלים בהגדרות ביננו, ולכן חבל שאתה מתעלם. דווקא בגלל שאולי לא נסכים על המסקנות.
לדעתך למכונית או אייפון שנותנים חיווי על כאב יש חוויה סובייקטיבית פנימית? זאת שאלה פשוטה עם תשובה פשוטה.

בקשר לשאר אני מסכים. רק שזה לא נראה לי מאד מעניין (בהקשר הזה. זה נראה לי מעניין בפני עצמו). הרי המשפט האחרון שלך יכול להיות:
"למרות שראיית הנקודות השחורות כאן היא חלק מהחוויה הסובייקטיבית של הצופה הפנימי, בהחלט אפשר לבדוק אותה מבחוץ ולהגיע למסקנה שהיא אשליה."
או "למרות שתנועת הכוכבים סביב כדור הארץ היא חלק מהחויה הפנימית של הצופה, בהחלט אפשר לבדוק אותה מבחוץ ולהגיע למסקנה שהתנועה הזאת היא אשליה, שנוצרת על ידי סיבוב כדור הארץ".
כל זה נכון וקל להסכמה, אבל כל זה לא מתקרב כלל לבדוק האם יש למישהו‏1 אחר (שהוא הנבדק) חוויה סובייקטיבית פנימית.

1 או משהו.
סבינה הוסנפלדר על רצון חופשי 672063
התשובה שלי היא שלאייפון אין חוויה פנימית. אבל יבוא יום (וכנראה הוא יבוא) שאייפונים יכתבו באייל הקורא, ויכתבו שהם סובלים מדכאון או שעמום או שנאה לטוקבקים, ויספרו על החלומות ויטענו שיש להם קוואליה שאנחנו האנשים בכלל לא מבינים אותה ורק הם יכולים לגשת אליה ועוד ועוד, אז כן אפשר יהיה להגיד שיש להם חוויה פנימית.

אני רואה גרעין קטנטן של הסכמה ובעיני הוא דווקא מעניין מאד. אני אקשה עליך:

מצד אחד אתה אומר ש"רצון חופשי" או "ראיית הנקודות השחורות" היא חלק מהחוויה הסובייקטיבית הפנימית של האדם.
ומצד שני אתה אומר שאי אפשר בכלל לבדוק האם יש למישהו אחר חוויה סובייקטיבית פנימית.
איך זה מתיישב?

לדעתי מה שאתה אומר זה בעצם:
- יש לי תאוריה, שלאדם יש חוויה סובייקטיבית פנימית. **בהנתן** התאוריה הזו, "רצון חופשי" או "ראיית נקודות שחורות" היא חלק מהחוויה הסובייקטיבית הפנימית.
- אבל! התאוריה הזאת בלתי נתנת להוכחה.

האם אני צודק?
סבינה הוסנפלדר על רצון חופשי 672067
זה מתיישב, מאחר שלדיווח של יישות כלשהיא "אני רואה נקודות שחורות" *יכולים* להיות שני מקורות (בטח אפשר לנסח יותר מקורות, אבל נישאר בבסיס):
א. יש לו צופה פנימי שאכן חווה סובייקטיבית את הנקודות השחורות.
ב. אלגוריתם עיבוד התמונה שרץ על החומרה שלו (ראה דוגמת האייפון שעליה אני שמח שהסכמנו) יוצר ארטיפקטים של נקודות שחורות, ומדווח עליהן - ללא חווית צופה פנימי‏1.

ומאחר שכבודק מבחוץ אני לא יודע להבחין בין שתי האפשרויות האלה, אני לא יכול להכריז על תוצאה מובחנת של הניסוי שלי שמפריכה או מוכיחה קיום צופה פנימי.

אגב, דיוק קטן: אני לא טענתי ש"אי אפשר בכלל לבדוק וגו' ", אלא טענתי שהניסויים הספציפיים שאני מכיר ושאתה ציינת לא מסוגלים לבדוק וגו'. מאד ייתכן שמתישהו מישהו ימציא ניסוי שאולי כן מסוגל להבחנה הזאת. אני אפילו טענתי משהו יותר חזק - שהניסויים שאתה תיארת אפילו לא מנסים לבדוק את ההבחנה לעיל, ולכן הם לא מתייחסים בכלל ל"תיאוריה" שלך לגבי קיום החוויה הפנימית כתיאוריה מדעית.

לגבי הסיכום שלך, זה קרוב, אבל לא מדויק, ולכן כמעט הפוך:
יש תיאוריות למכביר על פסיכולוגיה, פסיכופיזיקה ונוירולוגיה, שמתקרבות יותר ויותר לתיאור המדעי של האדם והתנהגותו כתוצאה ישירה, פיזיקלית ופיזיולוגית של של קלטים מוגדרים, מעגלי חומרה מוגדרים שמגיבים להם, ופלטים מוגדרים כתוצאה מהקלטים האלה. ואני, ביושבי על כסאי כמטריאליסט מדעי לעילא, דוקא מקבל את כל התיאור הזה על כל פרטיו, (באופן עקרוני, לצורך הדיון כאן. מאחר וגם התיאור הזה לא שלם כיום, ברור שאין פה קבלה או הבנה מוחלטת ושלמה של העניין, אבל אני מקווה שהכיוון ברור), בדיוק כמוך כפי שזה נראה.
אבל לעומת התיאוריה, יש לי ניסוי. התוצאה של הניסוי שלי היא שיש חווית צופה פנימי. הבעייה היא, שאת הניסוי הזה עשיתי, ואני עדיין עושה מזה כמה עשורים, על מערכת אחת ויחידה. ומנקודת מבט ייחודית שאין לי כמוה על המערכות האחרות. גם לא על האייפון המוזכר.
הסתירה בין השניים מפריעה לי, ולצערי אני לא מצליח להשתכנע שמי מהתאורטיקנים והניסיונאים שאתה מזכיר בכלל מצליח לבדוק את הסתירה הזאת.

ודוקא מה שיכול אולי לקרב אותנו, זה העניין שאתה מזכיר בתשובתך לאייפון - מה הוא הדבר שיתרחש בין האייפון של היום לאייפון העתידי, שפתאום ייצור (יש מאין, צחוק בצד) את החוויה המאד משמעותית הזאת. זה ממש לא ברור לי. כמו שאולי הזכרתי לאורך הפתיל, הרבה יותר קוהנרטי היה לומר שלאייפון של היום יש "קצת" קוואליה, ולאייפון של מחר "הרבה" קוואליה, מאשר לומר שאי שם בדרך לפתע פתאום נוצר מאחורי סבך הטרנזיסטורים המורכב משהו חדש להפליא שחווה קוואליה. אבל אולי למרות שזה נשמע היום לא קוהרנטי, אפשר יהיה בעתיד כן לשים את האצבע על איזה מעבר פאזה שכזה.

1 הקורא חד האבחנה, עם וללא צופה פנימי, יכול היה לציין ששתי האפשרויות הנ"ל לא לגמרי מדירות זו את זו. קיום הצופה הפנימי לא מוריד מהשולחן את אלגוריתמי החומרה והתוכנה שלעיל - נהפוך הוא, התוצאות שלהם זה בדיוק הסרט שבו הוא צופה.
סבינה הוסנפלדר על רצון חופשי 672072
יפה.
אז אנחנו מסכימים בגדול. אי אפשר להבחין ע"י ניסוי פשוט בין:

1. יש לאדם צופה פנימי שאכן חווה סובייקטיבית את הנקודות השחורות.
2. יש לאדם אלגוריתם שיוצר ארטיפיטק של נקודות שחורות ומדווח עליהן ללא חווית צופה פנימי.

אז קיימות 2 תאוריות שמתאימות למציאות, וזה בסדר. זה לא הפעם הראשונה שדבר כזה קורה במדע... עד כאן נראה לי שאנחנו מסכימים לחלוטין.

מה שאני לא מבין זה איפה הסתירה שאתה מדבר עליה. הבה אתקן את תאוריה מספר 1 ומספר 2 במקצת, כדי שיהיו קצת יותר כלליות.

1. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר מייצרים חוויה סובייקטיבית פנימית (לדוגמא: כאב)
2. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר א-י-נ-ם מייצרים חוויה סובייקטיבית פנימית, אלא רק מראית עין (לדוגמא: תלונות על כאב, בלי כאב סובייקטיבי).

האם אתה מסכים ש 2 התאוריות מתאימות למציאות (למרות שהן כמובן לא תואמות זו לזו)? אם כן, אז איפה בדיוק יש פה סתירה עם הניסוי הפרטי שלך? לא רק שתאוריה 1 אינה סותרת אותו, אלא היא מתאימה לו. האם אתה מתכוון לכך שה"סתירה" היא שהניסוי היחידי שמבדיל בין 2 ל 1 הוא סובייקטיבי ולא אובייקטיבי? או אולי הסתירה היא שאתה חושב שתאוריה 1 היא בכלל שגויה? לא מספיק מפורטת? אנא שתף.
סבינה הוסנפלדר על רצון חופשי 672076
(אני שוב נדחף, ובטח עוד רגע שוב אעלם. אתכם הסליחה)

ניסוי מחשבה א': חבר אותי לכל המכשירים שעומדים לרשותך, וצבוט אותי. נגיד שהמכשירים שלך יזהו את כל הסימנים הפיזיולוגים שלדעתך קשורים לכאב, אבל אני אגיד שהבחנתי בצביטה, אבל לא חשתי בכאב (או שבכלל חשתי בדגדוג, או שהרחתי דג מלוח - או כל דבר אחר שהוא לא חווית כאב). האם אני משקר? האם הבדיקה שלך לא טובה מספיק? האם יש באופן עקרוני דרך להבחין בין שני המיקרים?

אולי מתישהו תחליט שהפרצוף שלי לא מוצא חן בעיניך, וכל שאר האנשים בעולם דיווחו על קורלציה בין תחושת כאב לבין המדידות שלך - ותקבע שלדעתך אני משקר. טוב ויפה. הנקודה החשובה נותרת בעינה, והיא כל כך פשוטה, שאני לא מבין איך עדיין מתנהל עליה דיון: את החוויה לכשעצמה אין לך שום יכולת למדוד. אולי כל האנשים משקרים. אולי כולם בכלל חשבו גל-של-אהבה שוטף אותם בזמן הצביטה, ולא בכאב. זה משנה משהו? יש לך דרך לעלות על קונספירציה כזו?

אני יכול לנטפק בעצמי את הפסקה הקודמת, אבל אלא נטפוקים שטחיים, ואני מעלה אותם רק כדי לחסוך ממך את המאמץ. למשל, אולי יש לך דרך טובה להבחין פיזיולוגית בין אמירת אמת לבין שקר. זה כמובן לא משנה דבר - גם טכנית (יש ספק ביכולת העקרונית שלך להעריך את האמינות של מבחני אמת\שקר), אבל בעיקר: כי שאלת השאלות בנושא הקוואליה היא: אם אני משקר, מהו הדבר לגביו אני משקר? שים לב: לא מדובר בידיעה שאני חש כאב. אלא בתחושה.

למעשה, זה ממש הזוי שאתה עורך את הניסוי הזה מלכתחילה: אתה מנסה למצוא קורלציה בין תופעה פיזיקלית מדידה, לבין... מה? לבין דיווחים של אנשים? אז ברור שאי אפשר לומר ששיקרתי: דיווחתי את מה שדיווחתי, וזהו. לבין פעילות נוירולוגית כלשהי? אז שוב ברור שאי אפשר לומר ששיקרתי: לא אמרתי עליה שום דבר. לבין איזשהו פעילות קוגנטיבית גבוהה? ושוב לא שיקרתי: המוח שלי על כל פעולות העיבוד שלו מונח לפניך, ואם הטכנולוגיה שלך מתקדמת מספיק - אתה יכול לדעת בדיוק מתי הייתה המשמעות הקוגנטיבית של הצביטה עבורי. אתה לא זקוק לדיווח שלי, וממילא לא אמרתי דבר שקשור בהן.

רק אמרתי שלא חשתי בכאב (או שהרחתי דג מלוח וכו'). זה הכל. אם שיקרתי, מהו הדבר לגביו שיקרתי?
סבינה הוסנפלדר על רצון חופשי 672077
ניסוי מחשבה ב': נגיד שאתה ישות אינטרגלקטית בין-מימדית שמסוגלת לדלג בין יקומים. לכל יקום יש כמובן חוקי טבע משלו. שני יקומים מושכים את תשומת לבך: אחד מהם הוא היקום שלנו, ושניהם זהים לחלוטין בכל דרך שאתה מסוגל למדוד (וזכור שאתה ישות אינטרגלקטית בין-מימדית, אז יכולת המדידה שלך טובה עד כמה שאפשר לדמיין).

בניסוי הזה אני ישות אולטרארגלקטית סופר-מימדית, ותיקה וחכמה ממך. אתה מספר לי על שני היקומים שמצאת. אני מחייך - אני כמובן מכיר אותם - ומספר לך שהעניין פשוט מאד: בשני היקומים בני-האדם הם מכונות ביולוגיות מאד משוכללות. רובוטים. ובשני היקומים כל אספקט חישובי שקשור בהתנהגות שלהם נקבע לחלוטין על ידי המערכות הנוירולוגית וההורמונליות שלהם. אתה כמובן יודע את זה, כי אתה ישות אינטרגלקטית בין-מימדית. אתה יכול בפיקו-שניה לסרוק את הגוף של כל בן אדם, ולעשות סימולציה מושלמת של ההתנהגות שלו במהירות כפולה. אין שום דבר בהתנהגות שלהם שאתה לא מבין.

אבל - אני מוסיף - ביקום א' לכל בני האדם יש חוויה סובייקטיבית, ואילו ביקום ב' אין להם (אותם בני אדם לפי המדידות, עם אותם מוחות ואותה היסטוריה, ואותן תגובות, ואותן יכולות קוגנטיביות). הם מדברים על כאב, ועל צבע, ועל אהבה, ועל שנאה - בדיוק כמו התאומים שלהם ביקום א' - אבל אין שום חוויה סובייקטיבית מאחורי הפעילות הקוגנטיבית הרלוונטית. ככה פשוט הדברים פועלים ביקום ב'.

מצד אחד, אני - עם כל האולטרארגלקטיות הסופר-מימדית - חכם לאין שיעור, ומספרים עלי שיש לי קשר בלתי אמצעי עם בוראי העולם. מצד שני, רק בשבוע שעבר אמרתי לך שהרוכסן שלך פתוח כשבעצם לבשת טרנינג, וגרמתי לך להסתכל. יכול להיות שאני גם עכשיו מותח אותך?

איך אתה יכול לבדוק את העניין?

(הניסוי המחשבתי עצמו לא מאד מעניין. אבל אם אתה מסוגל להבין אותו, אתה מסוגל להבין מה זה "קוואליה").
סבינה הוסנפלדר על רצון חופשי 672087
אני חושב שאישיות אינטרגלגטית עם היכולות האלה תוכל לקבוע בוודאות שלא תיתכן רשת נוירונים ברמת סיבוך כזאת בלי שיצוץ שם תוצא ''מתבטא'' כלשהו, כך שהיא תדע שהחנות שלה רכוסה.
סבינה הוסנפלדר על רצון חופשי 672089
אני לא חושב שקוואליה היא "תוצא מתבטא", ולא ברור לי למה אתה מציע זאת כאפשרות. בהקשר של רשתות-נוירונים אפשר לדבר על "התבטאות" של אינטליגנציה, קוגניציה, פרצפציה וכו'. המשותף להם הוא שכולן תופעות מדידות ומובחנות שדורשות הסבר, ולהסברים הרלוונטיים עבורן יש מבנה של רדוקציה במונחים של emergence. אבל קוואליה? היא מלכתחילה לא "תופעה מדידה ומובחנת" כמותן, וממילא היא אפילו לא מועמדת להיות לקבל איזשהו הסבר לפיו היא emergent phenomena.

מה שניסיתי לומר קודם הוא שבכל בקשור ליקום הנצפה, לקוואליה יש מעמד דומה למעמדו של אלוהים בעיני לפלאס: We have no need of that hypothesis. יקום זהה לחלוטין לשלנו, פרט לכך שאין בו קוואליה... ישאר יקום זהה לחלוטין לשלנו. לכופרי קוואליה כמו אח של אייל וצפריר (שאולי, כפי שהצעתי - אין להם בכלל קוואליה) אין שום סיבה להאמין לי או לך בדבר קיומה. איך בדיוק אתה הולך לשכנע אותם עם הסבר רדוקציוניסטי למשהו שבכלל לא קיים (מבחינתם)? להצביע על אוסף של משוואות וכמה ניתוחים של סימולציות, ולומר להם "רואים - כאן הדבר הזה, שאני לא יודע למדוד, אין לו שום אפקט על כלום, ואתם לא מאמינים לי שהוא קיים - כאן הוא נוצר"?
סבינה הוסנפלדר על רצון חופשי 672365
''אני לא חושב שקוואליה היא ''תוצא מתבטא'', ולא ברור לי למה אתה מציע זאת כאפשרות.'' - כי זה נראה לי ה''הסבר'' (כן, אני יודע) היחיד שאינו כורך שדים, רוחות או ניצוץ אלוהי. אני מסכים לכל השאר, אבל מה לעשות, הקוואליה שלי חיה ובועטת, וכך גם הקוואליה שלך, של צפריר ושל האח אם כי את זה אינני יכול להוכיח. אבל הרי אני לא יכול בכלל להוכיח את קיומכם, עם או בלי קוואליה, וזה לא מפריע לי להרדם בלילה.
סבינה הוסנפלדר על רצון חופשי 672098
יכול להיות שפספסתי משהו, אבל אי אפשר להכיל את אותם הסברים לגבי המושג "אלוהים"?
סבינה הוסנפלדר על רצון חופשי 672104
אפשר.

בהתאם, אם יש לך עדות בלתי-אמצעית שאתה לא מפקפק בה לקיומו של אלוהים, אני מתאר לעצמי שאתה... תאמין באלוהים. ובמקביל, למרות שתתרשם מאד מהישגהן של הפיזיקה והמתמטיקה - תחשוב שמשהו מאד עקרוני ובסיסי חסר באופן בו המדע מתאר את העולם (כי אלוהים - שהוא חתיכת סיפור גדול - לא נמצא בכלל בתמונה שהוא מצייר).

אני לא מאמין באלוהים. אבל יש לי עדות בלתי-אמצעית שאני לא מפקפק בה בדבר קיומה של קוואליה.

למען האמת, קשה לי להעלות בדעתי עדות כזו בדבר קיומו של "אלוהים". אם הייתי מרגיש "ממש-ממש עמוק בפנים" שהוא קיים, היה לי קל יותר להאמין שמדובר בהתנהגות מטופשת של האונה הקדמית שלי. אם הוא היה מתחיל לדבר אלי, הייתי הולך לחפש טיפול רפואי. אם אלוהים מופיע בפומבי ומתחיל לעשות ניסים לעיני כולם, הייתי חושד בקונספירציה של תרבות טכנולוגית זרה ומתקדמת או שאולי מישהו חיבר אותי למתקן מציאות-מדומה מוצלח במיוחד (חיבר איתי למטריקס, בקיצור), או שפשוט איבדתי את שפיותי לחלוטין - והסברים מהסוג הזה היו אמינים בעיני הרבה יותר מכל מיני הסברים מטאפיזיים. אפילו אם הייתי משתכנע שבאמת יש לי עסק אם איזושהי ישות אולטרא-עוצמתית שנראית בעיני כל-יכולה ויודעת כל, לא נראה לי שהייתי מאמין לה שהיא בראה את העולם, ובידה הקריטריון האולטימטיבי להבדיל בין טוב ורע.

אבל העדויות שלי בנוגע לקוואליה חסינות בפני ספקנות מהסוג הזה (ניסיתי להסביר זאת קצת בהודעה קודמת). זה כמו "טיעון הקוגיטו" של דקארט על סטרואידים. מדובר בידיעה ראשונית לגמרי. במידה שאני יכול בכלל לדעת משהו, אני קודם כל יודע שהיא קיימת - ורק אז אני יודע את כל השאר. תוכיח לי שהקוואליה לא קומפטבילית עם הפיזיקה? ובכן - אלה יהיו חדשות רעות לפיזיקה, לא לקוואליה. תראה לי שהיא לא קומפטבילית עם המתמטיקה? עם הלוגיקה? אני כנראה אהיה מאד מבולבל, אבל אאלץ להתחיל לפקפק במתמטיקה ובלוגיקה. יכול להיות שאני "מוח בצנצנת", שכל העולם שאני מכיר הוא אשליה אחת גדולה, ואולי הקוגניציה שלי כל כך דפוקה, שכל מה שנראה לי כמו "היגיון" הוא בעצם קשקוש מוחלט. אפילו אז - החוויות קיימות (אני פוחד לכתוב "החוויות שלי", כי אולי אין שום מושג קוהרנטי של "אני" או "עצמי" - אבל חוויות בוודאות יש).
סבינה הוסנפלדר על רצון חופשי 672107
זאת פחות או יותר ה"הוכחה" של מנחם בן, הבעיה היא שאי אפשר באמת להתווכח עם ידיעה ראשונית כזאת, ואם אני מקבל את "הידיעה הראשונית" שלך (או שלי) אין לי שום נימוק לא לקבל את זאת של בן או של כל פסיכי אחר...
סבינה הוסנפלדר על רצון חופשי 672109
ברשותך, אוותר על קריאה של מנחם בן - יש לי דברים טובים יותר לעשות, כמו למשל לבעוט בקיר עד שתשבר לי הרגל. לגבי השאר - ברור. אם לך עצמך אין חוויה סובייקטיבית, אין סיבה שתבין על מה אני מדבר ותחשוב שאני לא מקשקש. מן הסתם לא אוכל להוכיח לך דבר. אם יש לך גישה לחוויות סובייקטיבית - אז אתה כנראה עומד בפני תעלומה דומה לזו שלי, ואפשר לנסות לדבר עליה ביחד.
סבינה הוסנפלדר על רצון חופשי 672124
זאת לא ההוכחה של מנחם בן - מעבר לכל הקשקושים שהוא פורס החל מהפסקה השנייה, שנעים בין שקרים לטיעונים שכבר הופרכו עד דק לעייפה - בן מדבר על ידיעה שכלית. עומר מדבר על חוויה. בשביל ניסוח ידיעה שכלית צריך מערך קוגניטיבי מסודר, הוא מול העולם, והידיעה היא ענין של הרציונל. החוויה היא מיידית.
כמו שעומר אמר, החוויה הזאת אפילו קודמת למושג ה''אני'' - היא לא צריכה 'אני' כדי להתקיים. היא יכולה להחוות על ידי תינוק חסר שפה, תפיסה או המשגה, וודאי שחסר 'ידיעה שכלית' או כל דבר כזה. ובגלל השיכליות של הידיעה הזאת בן ממשיך וטורח לפרט את כל הטיעונים העבשים בהמשך, כדי 'לשכנע' מישהו. אולי את עצמו.
סבינה הוסנפלדר על רצון חופשי 672133
המהות שלה זהה, עומר מתנסח טוב יותר מבן משום ש - איך להגיד את זה בעדינות - בן אף פעם לא היה הסכין הכי חדה במגירה‏1 - אבל זאת אותה "הוכחה".

1 וזאת הרי היתה הנקודה בלהביא את בן ולא את דקארט, למרות שגם זאת אותה "הוכחה". אני לא חושב שאפשר למצוא אנשים אינטליגנטים שמוכיחים את קיומו של האל בצורה כזאת היום.
סבינה הוסנפלדר על רצון חופשי 672142
יש הבדל משמעותי מאד בין "קוואליה" ל-"אלוהים": אנשים מגייסים את המושג "אלוהים" כדי להסביר כל מיני דברים (רעמים וברקים, בעלי חיים מורכבים, התנהגות מוסרית, חוויות מיסטיות, עצם קיום העולם, וכדומה - בהתאם לצו האופנה). האם ההסבר הזה הוא טוב, או רע? אפשר להתווכח עד שלמלאכים ימאס לרקוד על ראש-הסיכה.

לעומת זאת, אני מגייס את המושג "קוואליה" כדי להצביע על תופעה ולדרוש לה הסבר. אבל אז כל מיני אנשים פתאום מגיעים, ובמקום להציע הסבר (או לפחות להשתאות מול התעלומה) - מספרים לי שבעצם אין תופעה כזו. התצפית אינוולידית. זו טעות מדידה. there is no spoon. אבל מה לעשות שכרגע בעטתי בקיר כדי להמנע ממנחם בן, ועכשיו כואבת לי הרגל?
סבינה הוסנפלדר על רצון חופשי 672144
זה נכון. רק רציתי להעיר על הדמיון בין הטיעונים.
סבינה הוסנפלדר על רצון חופשי 672141
מבחינתי המצב בדיוק הפוך. אני למדתי שהמידע החושי אינו אמין, וכהמשך לכך חוויית האני היא אשליה רצינית.

אבל יש גבול לדיונים שאפשר לנהל עם מאמינים.
סבינה הוסנפלדר על רצון חופשי 672146
כולנו נסכים שהמידע החושי אינו אמין. אבל את מי מוליכה האשליה הזאת שולל?
סבינה הוסנפלדר על רצון חופשי 672136
מה שלא ברור לי במודל שלך הוא למה כוונתך במושג "אין להם חוויה סובייקטיבית"? הרי לפי הטענה שלי, אם יש להם את אותם המוחות, יש להם גם את אותם התחושות, באופן כללי.

כלומר: אתה מניח שיש קוואליה לא חומרית ומגיע למסקנה שאין יכולת למצוא אותה בדרך חומרית. יופי של טיעון מעגלי.
סבינה הוסנפלדר על רצון חופשי 672150
לי לא ברור למה אתה מתכוון כשאתה מדבר על "תחושות".

כן, אני אומר שאבוקדו טעים לי. אתה יכול למדוד בקלות (תאורטית) את האפקט של אבוקדו על הגוף שלי באופן כללי ועל המוח שלי באופן פרטי - ולהבין פחות או יותר שברמה הקוגנטיבית אני מתכוון לכך שיש לי נטיה לרצות לאכול אבוקדו (אתה מוזמן לעדן את הניסוח הזה כרצונך). אבל אלמלא אתה בעצמך היית יודע באופן בלתי אמצעי מה זה אומר "לחוש טעם", איזו סיבה בעולם הייתה לך בכלל לשקול את האפשרות שמשהו דומה ל-"חווית טעם" מתלווה אצלי לאכילת האבוקדו?

אם אסרוק אותך בסורק הקוואנטי שלי ואריץ סימולציה שלך במחשב הקוונטי שלי, אז הסימולציה בוודאי תטען שהיא חשה בטעם וכאב - כי מדובר בסימולציה שלך. אבל האם באמת תהיה לה חוויה סובייקטיבית? אולי הסימולציה שלך משחזרת את ההתנהגות שלך במדוייק, אבל בלי החומרה הספציפית של המוח (נגיד), אין לה באמת שום תחושה של חוויה סובייקטיבית? הנקודה היא לא שאין לי מושג מה התשובה לשאלה הזו. הנקודה היא שלא יכול להיות לי מושג.
סבינה הוסנפלדר על רצון חופשי 672154
החלף "תחושות" ב"חוויה סובייקטיבית".

התשובה שלי היא ש:

א. אולי יכול להיות מושג. לא ברור לי מראש שזה בלתי אפשרי. להפך, לדעתי חלקים מאוד מוגבלים של זה יהיו אפשריים.

ב. אם יש סימולציה מלאה של המוח, אין לה צורך בחומרה. החומרה כבר כלולה שם.

ג. אם אתה נזקק לסורק קוואנטי: מה תהיה, לדעתך, היכולת להשרות קישורים בין נוירונים במוח בצורה מפוקחת לחלוטין (להוסיף בדיוק את אותה התבנית, לדוגמה)?
סבינה הוסנפלדר על רצון חופשי 672156
א. פרט?

ב+ג. מה זה משנה? אולי אתה רוצה שאוסיף גם פרטים בנוגע לצבע החולצה שלי בזמן הסריקה שלך? אז נגיד שאין "סימולציה מלאה של המוח" אלא שמנגנון הסימולציה לא דומה בכלל למוח, ושהסריקה שלי מתעלמת מאינפורמציה קוונטית. השורה התחתונה: למרות זאת יש לי סימולציה שלך, מושלמת מבחינת ההתנהגות, אוכל אבוקדו במחשב. אתה בחדר הסמוך אוכל את אותו אבוקדו. שניכם אומרים שזה טעים כמובן (כי הסימולציה מצויינת). אני מתערב עם עוזר המחקר שלי שאתה חווה את הטעם, אבל הסימולציה לא - אפשר להכריע בהתערבות?
סבינה הוסנפלדר על רצון חופשי 672158
א. מצטער, אין לי כרגע דוגמה.

ב+ג. לדעתי אם הסימולציה מצוינת, היא גם חווה את הטעם. זהו בדיוק סלע המחלוקת בינינו.
סבינה הוסנפלדר על רצון חופשי 672159
זה לא לב המחלוקת ביננו, כי אין לי שום דעה בנוגע לשאלה אם היא חווה את הטעם או לא.

אבל יש לי עמדה חזקה לגבי היכולת שלך לבסס איכשהו את הדעה הזו שלך.
סבינה הוסנפלדר על רצון חופשי 672163
ליתר דיוק: הטענה שלי היא שהסימולציה חווה את הטעם אמ"ם אני חווה את הטעם - כלומר, שסימולציה מלאה של המוח תדמה גם את תחושת הטעם.

הטענה שלי היא שעצם זה שהסימולציה "יודעת" שהיא טעמה טעם, משמע שיש לה את תחושת הטעם. זוהי מהות החוויה הסובייקטיבית. אין בה שום דבר אקסו־אנצפלורי.
סבינה הוסנפלדר על רצון חופשי 672108
אני אתחיל מסדרת ניסויים שבה אני גורם לרוב הנסיינים לא לשקר (איך? לדוגמה: מטעה אותם לגבי מה שנמדד בניסוי) ומקבל תוצאות. יכול להיות שאני אקבל מדד לתחושת הכאב הסובייקטיבי (אני לא מסוגל לחשוב איך מבדילים בניסוי בין השתיים, אבל נראה לי שזה לא צריך להיות מסובך מדי. הנסיינים בפסיכולוגיה מצליחים לחשוב על טריקים לא רעים).

השאלה הגדולה היא האם אני אצליח לקבל תוצאות מועילות. יכול להיות שתחושת הכאב היא משהו יותר מדי אינדיבידואלי ולא פשוט למצוא לה מאפיין. לפחות לא בכלים שעומדים לרשותנו כיום. אבל נניח שנמצא. הדבר האידאלי יהיה למצוא גם איזשהו מתאם לרמת הכאב (או אולי יתברר שיש כמה תחושות כאב שונות, ותחושת כאב חריפה היא תחושה שונה מתחושת כאב קלה, אם מדובר על תחושות בינריות. מדובר, כמובן, על ספקולציות). סביר להניח שנמצא מתאם שעובד לרוב האנשים.

לכן נוכל לקבוע ברמה (גבוהה או נמוכה של ודאות) שאתה לא דובר אמת.

או בקיצור: אם אתה מניח שאין אפשרות למדוד את החוויה, אתה מסיק שאין אפשרות למדוד את החוויה. אם אתה מניח שיש אפשרות למדוד את החוויה, אתה יכול להגיע למסקנות אחרות. לא ברור לי על מה מסתמכת ההנחה שלך.

תחושת הכאב הסובייקטיבית היא משהו שאנחנו יודעים לשלוט עליו בצורה חלקית באמצעים שונים (משככי כאבים). לכן נראה לי לא מופרך במיוחד שמדובר על מושג אוניברסלי. מצד שני, לא נראה לי מובן מאליו מראש שהמושגים במוח אחד מספיק דומים לאלו שבמוח אחר.
סבינה הוסנפלדר על רצון חופשי 672110
מה זה בכלל "תחושת כאב סובייקטיבי"?

אנשים מתנהגים בכל מיני צורות עבורן אפשר לבנות מודלים, ואפשר לקשר בין המודלים ההתנהגותיים האלה לבין מדדים פיזיולוגים ותהליכים ביולוגיים, ואפשר לחקור את הסמנטיקה של "דיבור על כאב", ולהבין מתי ובאיזה הקשר אנשים מתבטאים בצורה הזו - ובסוף אפשר לחבר את כל הקצוות האלה ל-"תאוריה של כאב". בשום שלב לא תזדקק להנחה "קיימת תחושת כאב סובייקטיבית". אז הנה היפותזה מעולה: אין דבר כזה "תחושת כאב סובייקטיבית".

סבבה?
סבינה הוסנפלדר על רצון חופשי 672118
הנחתי למעלה שיש תחושת כאב סובייקטיבית. לא הנחתי הרבה על מהותה.

מכיוון שקודם העליתי ספקולציות פרועות, זה נראה די לגיטימי להעלות ספקולציות פרועות בתגובה. אבל תחושת הכאב הסובייקטיבי היא כבר מושג שמבוסס על קרקע מוצקה של תוצאות ניסויים רבים‏1 (לדוגמה: תרופות רבות, שבטיחותן ויעילותן הוכחה בניסויים מתבססות על כך) אז אין מקום להיפותזה שלך.

ואני חוזר ומדגיש שהטיעון הספקולטיבי שלי יעבוד רק רק אם יהיה לו בסיס עובדתי.

1 אתה מקבל את טענתי שזו עובדה מבוססת או שאני צריך לפרט?
סבינה הוסנפלדר על רצון חופשי 672125
סליחה?

אין אפילו שמץ של בדל של ניסוי שמצביע על קיומה של "תחושת כאב סובייקטיבית". יש רק דיווחים על תחושה כזו.

אף ניסוי באף תרופה מעולם לא הוכיח השפעה על חווית כאב. רק השפעות על דיווחים של חווית כאב (או על פעילות פיזיולוגית שקשורה לדיווחים של כאב).

אין שום זכר למחקר שמצביע על איזשהו קשר בין "דיווחים על כאב" לבין "תחושה של כאב".

נראה שההיפתוזה שלי עומדת על קרקע בטוחה.
סבינה הוסנפלדר על רצון חופשי 672132
אז בשבילך אני לא אקרא לזה "תחושת כאב סובייקטיבי" אלא "דיווח על תחושת כאב". לאור זאת קרא מחדש את תגובה 672108. מה דעתך על המחקר שמוצע שם?

וכהערת אגב, אני לא ממהר לוותר כל כך מהר על טענת קיום תחושת הכאב הסובייקטיבית. יש ניסויים רבים שעוסקים בכאב (מזוויות שונות). ההסבר שלך מניח יותר מדי שקרנות יצירתית. זה אולי אפשרי, אך מאוד לא סביר. ההיפותזה שלך מהלכת על חבל דק מעל תהום.
סבינה הוסנפלדר על רצון חופשי 672135
לדעתי המונח 'שקרנות' כאן לא מתאים. האם האייפון שלך‏1 משקר כשהוא מדווח על תחושת כאב שגוברת ככל שהפטיש המכה גדול יותר? אני לא רואה שום סיבה להגדיר זאת כשקר.

1 או המכונית האוטונומית שלך
סבינה הוסנפלדר על רצון חופשי 672137
אבל כאן מדובר על דיווחים של אנשים, שמתאימים בצורה טובה מאוד לתיאור תחושת הכאב, ולא על דיווח של מכשירים על כאב היפותטי שנגרם להם.
סבינה הוסנפלדר על רצון חופשי 672138
אבל אתה מפספס את הנקודה. האנשים לא משקרים - הנוירונים שלהם מעבירים איתותי כאב , בעצבים וגם במח, כמו אלה של בעלי הקוואליה. ולכן הפלט של המערכת יכלול את החיווי החיובי שיש כאב. זה לא שקר. רק שאין צופה פנימי שעד לכאב הזה.
סבינה הוסנפלדר על רצון חופשי 672148
ראשית כל לא תמיד יש קשר ישיר בין:
1. הלחץ על העצבים
2. מה שהעצבים מעבירים למוח
3. תחושת הכאב המדווחת

אבל אתה לא חושב שזה מוזר שאותו צופה פנימי יודע להתעלם מדיווחי עצבים על כאבים דווקא כשהגוף קיבל מנת מורפיום (או בגלל מאמץ ספורטיבי) או שהוא החליט פתאום להעצים מאוד את דיווחי הכאבים דווקא בזמן שיש גמילה מהתמכרות למורפיום? יש לו אולי רצון חופשי, אבל בפועל הוא משועבד לגירויים חיצוניים. לכן התאוריה הזו לא מצליחה, לדעתי, להסביר תוצאות בצורה טובה.
סבינה הוסנפלדר על רצון חופשי 672152
ברור שהוא משועבד לגירויים חיצוניים. ואין לו רצון חופשי. אל תהיה מיסטיקן, צפריר.
סבינה הוסנפלדר על רצון חופשי 672339
אני חייב לומר, כחבר במחנה הקוואליאיסטים, וכמסכים עם רוב מה שאתה כותב בפתיל חוץ מהשגיאה הקולוסאלית שלך ושל כל השאר כאן בקשר לרצון החופשי, אבל זה לפתיל אחר, שאני לא מבין כל כך את עניין ה"צופה הפנימי" שאתה כורך בקוואליה. מה זה הצופה הפנימי הזה? עוד סובייקט, אחר ממני? אפשר לשאול אם גם לו עצמו יש קוואליה?
סבינה הוסנפלדר על רצון חופשי 672343
ההוא שמתבונן בתיאטרון של דקארט.
סבינה הוסנפלדר על רצון חופשי 672359
הצופה הפנימי - ברור שזה אתה, או מה שאתה מגדיר כסובייקט "אני". אבל אני הקפדתי להתרחק מההגדרה הנפיצה הזאת, כי היא מובילה להמון סיבוכים והתפלפלויות שנראות לי פחות רלבנטיות לדיון.
בין השאר כי הגדרת ה"אני" נוטה להיות מאד גמישה ולהתרחב לכל מיני כיוונים‏1 - למשל, "אני" נוטה לכלול גם את היד שלי, הרגל שלי, המח שלי, הזכרונות שלי וכן הלאה, וזה מרחיק אותך ממה שאנחנו מדברים עליו כאן - ה"אני" התודעתי הפנימי, שאין לו בעצם מיקום או גודל פיזי במרחב. וגם על זה בטח אפשר להתווכח.
לכן העלתי את הצופה הפנימי, מינוח הרבה יותר נייטרלי ופחות טעון שקיויתי שיגרום לפחות הסחות דעת. עד עכשיו זה הצליח.

באשר לרצון החופשי, אין לי כרגע עמדה חד-משמעית בענין, השתמשתי באפשרות של עמדה כזאת בעיקר כדי להבהיר או להדגים טיעונים שונים.
אבל למרות שעמדתי לא חד משמעית, אני מזמין אותך לבצע את הניסוי הבא: שאל את עצמך "מה תהיה המחשבה הבאה שלי?" ותראה איזה תשובה אתה מקבל. ו'מי' עונה אותה, אם בכלל‏2.

1 פילוסופים בודהיסטיים פירקו להגדרה הזאת את הצורה כבר לפני אלפיים שנה. אז למה שאני אעלה פה משהו שכבר רבים וטובים טענו שהוא ריק מקיום ממשי ומתמשך?
2 ואז כמובן אל תחשוב על פיל סגול. אבל זה בצחוק.
סבינה הוסנפלדר על רצון חופשי 672371
הבנתי אותך בנוגע לצופה הפנימי.

לא הבנתי לאן אתה חותר בניסוי "מה תהיה המחשבה הבאה שלי". ניסיתי לזרום איתך ולבצע אותו בתמימות בלי לדעת לאן, ולא קיבלתי תשובה ברורה. (הבאה אחרי מה? "מחשבה" באיזו רמת רזולוציה?)
סבינה הוסנפלדר על רצון חופשי 672373
זאת היתה הערה ממש צדדית ולגמרי מסתעפת מהדיון כאן, אז לא חייבים להיכנס לזה.
לצורך העניין, הבאה מעכ--שיו!. אם יותר נוח לך לשים שעון שיעשה פינג, סבבה. באיזה רזולוציה? תבחר, אבל - אתה טוען שהמחשבות שלך רציפות? אם לא, זה מוגדר היטב.
סבינה הוסנפלדר על רצון חופשי 672377
אני יכול להחליט שאחשוב על אריק איינשטיין, ובדרך כלל אצליח בכך, לפעמים אולי לא, ואני יכול להחליט לא להחליט ולתת למחשבות לרוץ לכל הכיוונים, ואז איני יודע מראש על מה אחשוב. עכשיו מה?
סבינה הוסנפלדר על רצון חופשי 672380
ממי שיש לו רצון חופשי הייתי מצפה לשליטה קצת יותר משכנעת על המחשבות שלו ממה שאתה מתאר. אם הידיים או הרגליים שלך היו מתנהגות כמו שתיארת את המחשבות בתגובה שלך, האם היית טוען שאתה השולט בהן או שהיית מצלצל לאמבולנס שייקח אותך במהירות לבית חולים‏1?

לדעתי אגב אתה אופטימי מדי עם ה"בדרך כלל" שלך.

1 אם הרגליים שלך שרצות לכל הכיוונים לא הביאו אותך כבר לשם.
סבינה הוסנפלדר על רצון חופשי 672414
אוקיי, עשיתי עכשיו משחק כזה עם אשתי: היא הכינה רשימה של עשרה דברים שאפשר לחשוב עליהם, ואמרה לי אותם בזה אחר זה, במרווחים של עשר שניות. המשימה שלי היתה לחשוב על כל אחד מהם במשך עשר השניות עד שבא הבא. זה די דומה לאתגר שלך, עד כמה שאני מבין, אולי חוסר היכולת להתכונן עושה את זה קשה יותר (ואולי קל יותר, אבל זו אפשרות מפתיעה). הצלחתי ללא קושי מיוחד.

אולי אני פנומן של רצון חופשי... אבל אני לא מבין למה זה בכלל מעניין. הרצון החופשי רחוק מלהיות כל יכול. ברור שאם אני מאוד רעב, לא אוכל להימנע מלחשוב על אוכל במשך הרבה זמן. אני רוצה לחשוב על X ולא מצליח, במה זה שונה משאני רוצה להרים את הפסנתר ולא יכול? יש אפילו דברים שנבצר ממני לרצות ברגע נתון (ואני מדבר על דברים שמטיבם ניתנים לרצייה) - אני יכול להכניס אצבע לאש, אבל לא יכול באמת לרצות לעשות את זה. אז הרצון מוגבל בחופשיותו, זה טריוויאלי. חשבתי שאתה טוען (או שוקל את האפשרות) שאין לו שום חופש, זו הטענה הרדיקלית הנפוצה, למשל במאמר שלמעלה.
סבינה הוסנפלדר על רצון חופשי 672418
שאלה של סקרנות: במשך עשר שניות חשבת רק על מה שהתבקשת? לא חלף אצלך צל צילה של מחשבה כמו "כמה זמן עוד נשאר לי" או משהו דומה? אגב, לדעתי זה קשור ליכולת הריכוז שלך - אני אאמין לך אם תיתן תשובה חיובית בעוד אצלי התשובה בטוח תהיה לאאאא בלמד רבתי) - והרבה פחות מזה לשאלת הרצון החופשי.

יש סיטואציה מסוימת שכשאני נמצא בה אני נזכר בארוע שעברתי כשהייתי ילד קטן (כלומר לפני משהו כמו 60 שנה), ואני בשום אופן לא מצליח להפטר מהזכרון הזה כל פעם שאני באתה סיטואציה (פעם בשבוע) למגינת ליבי, לא כל כך בגלל שהזכרון לא נעים (והוא לא) כמו בגלל עצם העובדה שמאז שהוא נדבק אלי אני לא מצליח לנער אותו מעלי וזה פוגע בתחושה השליטה שהייתי רוצה שתהיה לי. אותו טריגר הוא משהו קצר כמו 10-15 שניות אבל זה לא עוזר. אם אני מנסה מראש לחשוב על משהו אחר לפני הרגע הקובע יוצא שאני נזכר באותו ארוע מהילדות פעמיים: פעם אחת כשאני מחליט לחשוב על משהו אחר, ופעם שניה כשאני נכשל בזה.
סבינה הוסנפלדר על רצון חופשי 672424
"שאלה של סקרנות: במשך עשר שניות חשבת רק על מה שהתבקשת? לא חלף אצלך צל צילה של מחשבה כמו "כמה זמן עוד נשאר לי" או משהו דומה?"
כן. הרשיתי לעצמי קצת אסוציאציות בסביבה, אבל זרם התודעה היה די מבוקר.
סבינה הוסנפלדר על רצון חופשי 672435
כמעט בטוח שלא אצליח, אבל אנסה את זה על עצמי. אתה יכול לתת דומגא לנושאים כאלה שהתבקשת לחשוב עליהם?
סבינה הוסנפלדר על רצון חופשי 672458
פסנתר; כדורגל; אפרוח; הצבע הלבן; בובה גדולה שנמצאת אצלנו בבית ולא עונה לשם "פודולסקי"; בננו מעיין; רמקול; סקוטלנד; אמא. לא זוכר את העשירי.
[אתה מבין לבד לאיזה שניים האסוציאציות די חפפו.]
סבינה הוסנפלדר על רצון חופשי 672438
ארכיבאי!
Use the force, Luke 672511
תשובת הניו-אייג' בגרוש‏1 הידועה היא שכדי שהזכרון יפסיק להטריד אותך אתה צריך דוקא להפסיק להילחם בו ולהתנגד לו, ולהשלים עם קיומו. מה שמחזק אותו זאת המלחמה התמידית והמאמצים שאתה משקיע בה.

1 לפעמים גם דברים שלא עולים ביוקר יכולים לעזור, לפעמים לא.
סבינה הוסנפלדר על רצון חופשי 672509
זה לא חדל לשעשע אותי‏1 שבתור הוכחה לרצון ה*חופשי* שלך אתה מביא עשר דוגמאות שאשתך בחרה שתחשוב עליהן.

1 טוב, רק מאתמול בערב שאז קלטתי בכלל שזה המצב, זה לא חדל לשעשע אותי.
סבינה הוסנפלדר על רצון חופשי 672510
מה שאומרים This is as good as it gets
סבינה הוסנפלדר על רצון חופשי 672565
אם רצון חופשי דורש חופש מהרצון של האישה, אז הדיון הוא נון-סטארטר.
סבינה הוסנפלדר על רצון חופשי 672140
וכמו כן - במה שונים אנשים ממכשירים‏1 ומדוע הכאב של אלה היפוטתי ושל אלה ממשי? מה, כי לאלה יש טרנזיסטורים ולאלה נוירונים?

1 שוני עקרוני כמובן. לא מדובר על להכניס טוסטר מחשמל למאסר על רצח. אבל ממטריאליסט כמוך לא הייתי מצפה להנחת הבסיס שהאדם הוא יותר ממכשיר משוכלל.
סבינה הוסנפלדר על רצון חופשי 672149
אנשים שונים ממכשירים בכך שיש לנו דיווחים מפורטים בהרבה עליהם. שיקול מעשי פשוט.
סבינה הוסנפלדר על רצון חופשי 672185
בשיטוטי ברשת בעקבות החדר הסיני, מצאתי את "האומה הסינית" - ניסוי מחשבתי שנוגע בענייני כאב וקוואליה, למשל:
"In “Troubles with Functionalism”, also published in 1978, Ned Block envisions the entire population of China implementing the functions of neurons in the brain. This scenario has subsequently been called “The Chinese Nation” or “The Chinese Gym”. We can suppose that every Chinese citizen would be given a call-list of phone numbers, and at a preset time on implementation day, designated “input” citizens would initiate the process by calling those on their call-list. When any citizen's phone rang, he or she would then phone those on his or her list, who would in turn contact yet others. No phone message need be exchanged; all that is required is the pattern of calling. The call-lists would be constructed in such a way that the patterns of calls implemented the same patterns of activation that occur between neurons in someone's brain when that person is in a mental state—pain, for example. The phone calls play the same functional role as neurons causing one another to fire. Block was primarily interested in qualia, and in particular, whether it is plausible to hold that the population of China might collectively be in pain, while no individual member of the population experienced any pain, but the thought experiment applies to any mental states and operations, including understanding language."

מכאן.
סבינה הוסנפלדר על רצון חופשי 672230
כתבתי בקצרה במקום במקום אחר בדיון על המוסר. אני מקווה שיצא לי לענות לך תשובה מסודרת לעניין הענישה החוקית.
סבינה הוסנפלדר על רצון חופשי 672232
לא ברור לי הקשר או הקישור. איך התגנבה לפתיל הזה הענישה החוקית?
סבינה הוסנפלדר על רצון חופשי 672235
"לא מדובר על להכניס טוסטר מחשמל למאסר על רצח." זה גם קשור לכותרת התגובה (הרצון החופשי) - אם הגוף הוא כולו מנגנון מכניסטי ("טוסטר משוכלל" לפי הניסוח שלך), האם זה נכון/מועיל/לגיטימי להעניש אותו על עברה זו או אחרת?
סבינה הוסנפלדר על רצון חופשי 672237
לדעתי זה מועיל בעולם המושגים שבו דנים בחברה פסיכולוגיה וסוציולוגיה, מבלי לצלול לעומקי הפילוסופיה הבעייתית הזאת. אבל זה מסיט את הדיון ובטח אפשר להגיד הרבה על זה, ואולי כבר נאמר אי שם במעלה העמוד, אחרי הכל זה נושא מתבקש בבואנו לדון ב(חוסר) רצון חופשי.
סבינה הוסנפלדר על רצון חופשי 672145
אבל אין שום תעלומה גדולה ב-''דיווחים על תחושת כאב''. אני מציג בפניך ספקטרום מוזר של קרינת גוף שחור, ואתה מציע לי לעזוב את זה ולנתח מטוטלת בואקום במקום.

אני לא מציע שקרנות יצירתית. אני מציע (היפותטית) מכניזם קוגנטיבי-פיזיולוגי-לינגוויסטי שמתאר את התנהגותם של בני-האדם כאשר הם מדברים על ''תחושת כאב''. לפי ההסבר הזה, המסומן עליו המסמן ''תחושת כאב'' מצביע אינו קשור ל-''תחושה סובייקטיבית'' של הדובר (שבקיומה אני כופר לצורך העניין), אלא רק לסוג מסויים של מצב-קוגנטיבי בו הוא נמצא. אף אחד לא משקר כאן.
סבינה הוסנפלדר על רצון חופשי 672151
ראשית כל, אתה מגיב להודעה שבה דיברתי על שני דברים שונים:

1. הצעה לניסוי ספקולטיבי שנועד להתמודד ישירות עם ההנחה שלך שאי אפשר למדוד תחושת כאב.

2. הערה לגבי המתאם בין דיווחים על תחושת כאב למה שאנחנו כבר יודעים על מה שקורה במוח.

אני מתמקד בתחושת כאש בדיוק בגלל שמדובר על נושא שנחקר היטב ולכן יש עליו מידע רב, כמו על ספקטרום של קרינת גוף שחור (ואולי יותר). מה שמצחיק הוא ש"תחושה סובייקטיבית" הוא סתם מונח שהעליתי כדי להגיד שמדובר על תחושה ששונה מאדם לאדם. אני מניח שאתה לא כופר בכך. לא ברור לי למה אתה טוען שזה לא נכון.

האם לדעתך הקלט של אותו מכניזם הוא מה שמושפע מהמנגנונים המוכרים לנו במחקר כמשפיעים על הכאב המדווח (משככי כאבים וכדומה) או שהוא חלק מאותן דרכי השפעה?
סבינה הוסנפלדר על רצון חופשי 672153
אבל הנושא "קשר בין דיווח על תחושת כאב לבין מה שקורה בגוף" הוא לא מעניין (כלומר - ברור שכן באופן כללי, אבל לא בהקשר הנוכחי).

אני רוצה להתמקד בתחושת הכאב עצמה. זה מאד נוח לדבר על "דיווח על כאב" במקום על "תחושת כאב" ולטאטא את כל הבעיה מתחת לשטיח, אבל לב-העניין הוא תחושת-הכאב עצמה - וכל הפואנטה היא שאני לא זקוק לה כדי להסביר את התפיסה שלה, את ההשפעות שלה או את הדיווחים עליה. אני יכול להתכחש לקיומה, והתיאור המכניסטי של היקום לא ישתנה כהוא-זה. זו אולי הנקודה הכי מעניינת בקשר אליה, אז אני מתכחש לקיומה ככלי רטורי - כדי להמחיש את הנקודה הזו. מנקודת מבט מדעית, מכניסטית, קוואליה לא אמורה להיות קיימת. ובכל זאת, הנה היא. כאן.
סבינה הוסנפלדר על רצון חופשי 672155
נאמת לי מאוד ולא שמת לב לשאלה שהתחבאה בסוף התגובה הקודמת:

האם לדעתך הקלט של אותו מכניזם הוא מה שמושפע מהמנגנונים המוכרים לנו במחקר כמשפיעים על הכאב המדווח (משככי כאבים וכדומה) או שהוא חלק מאותן דרכי השפעה?

קודם דיברת על מנגנון מכניסטי. עכשיו פתאום אני נוטה להבין מתשובתך שלא מדובר על מנגנון מכניסטי. למה בדיוק התכוונת קודם? האם יש לך הסבר חלופי?
סבינה הוסנפלדר על רצון חופשי 672157
חשבתי שתשובתי איינה את השאלה שלך, ועכשיו אני לא מבין איזו תשובה אתה בעצם מחפש.

פרטיו של המנגנון המכניסטי לא מעניינים ולא רלוונטים. העיקר הוא שאפשר (אפשר? מתבקש!) לנסח מנגנון מכניסיטי להתנהגות שלך (שמסביר בהצלחה את "דיווחי הכאב" וכו') שאינו מערב שום תחושה סובייקטיבית של כאב.
סבינה הוסנפלדר על רצון חופשי 672160
תחושת הכאב היא חלק בלתי נפרד מהמנגנון "המכניסטי".

הכאב הוא מנגנון לדיווח על תקלות (יש אנשים מסכנים שלא מרגישים בכאבים). מצד שני, כמו כפתור ההשתקה של האל־פסק, לא תמיד צריכים לשמוע את האזעקה. לכן התפתחו בגוף מנגנונים להתעלמות מכאבים. סמים שונים מנצלים, בין השאר, את המנגנונים הללו. כל מה שכתבתי כאן הוא, כמובן, פשטני.

אתה מוזמן לנסח מנגנון חלופי שלא מערב תחושה סובייקטיבית או בכלל להסביר איך התאוריה שלך מסבירה התייחסות לכאבים. כמובן שכל טענה על משהו לא מכניסטי שמווסת כאבים מעוררת את הקושי של החזרת המשוב הזה חזרה לגוף המכניסטי.
סבינה הוסנפלדר על רצון חופשי 672161
כל מה שכתבת עובד מצויין גם בלי תחושת כאב. המנגנון שלי: בדיוק אותו הדבר, רק בלי הרגש.
סבינה הוסנפלדר על רצון חופשי 672164
אבל יש כאן תחושה. או איזושהי מילה אחרת לתאר מידע שמגיע לכאורה מהחושים, ושאנחנו מודעים אליו. לצורך הדיון נקרא לו ''חושחש''.

ועדיין לא ברור לי למה אתה חושב שיש כאן תפקיד לקוואליה אם יש מנגנון מכניסטי כל כך מוצלח.
סבינה הוסנפלדר על רצון חופשי 672165
אתה שוב מתמודד עם קיומה של תופעה מוזרה, על ידי העמדת פנים שהיא לא קיימת. לא צריך להמציא מילים: המילה שמתארת את האינטגרציה של מידע חושי בתוך המודל-המנטלי שמתאר את הסביבה היא "תפיסה". ואכן, המנגנון עליו דיברתי קודם כולל תפיסה. הוא לא כולל "תחושת כאב" (כלומר, קוואליה).

אני לא חושב שיש תפקיד לקוואליה. זה מה שאני מנסה לומר במי-יודע-כמה הודעות אחרונות. אלמלא, לגמרי במקרה, הייתי בטוח לגמרי בקיומה - לא הייתה מאמין בשום אופן שהיא קיימת. אין שום תופעה אחרת בעולם שבכדי להסבירה אני נזקק לקוואליה. ככה אפשר לזהות קוואליה: זה בדיוק הדבר הזה, שלא צריך בשביל להסביר שום דבר, אבל הוא בכל זאת קיים.

אם היה לך כזה, היית יודע על מה אני מדבר.
סבינה הוסנפלדר על רצון חופשי 672168
אבל החושחש הוא משהו שמתבצע כחלק מהתפקוד הפיזי של המוח. הוא בברור לא חלק מהקוואליה. לכן אם הוא חלק מהאינטגרציה של המידע החושי בתוך המודל המנטלי, הרי שזו (לפחות החלק שלה שקשור לחושחש) מתבצעת בתוך המוח, ללא צורך בקוואליה.

אז האם לדעתך האינטגרציה של המידע החושי בתוך המודל המנטלי זה משהו מכניסטי לחלוטין?
סבינה הוסנפלדר על רצון חופשי 672221
למה "אבל"? אתה סותר משהו שכתבתי? אני מסכים עם המשפט הזה לחלוטין. וכן: אני משוכנע למדי שהאינטגרציה של המידע החושי בתוך המודל המנטלי זה משהו מכניסטי לחלוטין.
סבינה הוסנפלדר על רצון חופשי 672233
יפה, אז יש לנו בסיס קצת יותר רחב.
סבינה הוסנפלדר על רצון חופשי 672112
מצטער, אני לא מבין איך כל הסיפור שלך מחדש משהו.
א. קוואליה זה מושג פילוסופי מתחכם שבכלל לא נמצא בלקסיקון שלי, לפרטים עיין ב 971 ההודעות האחרונות שלי ושל הפונז.
ב. התשובה שלי לכל השאלות שלך נמצאת בהודעה האחרונה שלי. אז אני אחזור על העיקר.

קיימות 2 תאוריות:

1. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר מייצרים חוויה סובייקטיבית פנימית (לדוגמא: כאב)
2. האדם מונע ע"י תהליכים ניורולוגיים ופיזיקליים אשר א-י-נ-ם מייצרים חוויה סובייקטיבית פנימית, אלא רק מראית עין (לדוגמא: תלונות על כאב, בלי כאב סובייקטיבי).

בעיני, שתיהן מתאימות למציאות וזאת התשובה שלי. האם בעיניך, שתיהן מתאימות למציאות?
אם אתה מסכים והפונז מסכים, אז אני מוכן להתקדם ולדבר על ההבדלים שבינהן (זה ששתיהן מתאימות למציאות זה כלל לא אומר ששתיהן שקולות לחלוטין).
אם אתה רוצה לתקן, לחדד אחת מהתאוריות או להוסיף חדשה, תפדל.
סבינה הוסנפלדר על רצון חופשי 672117
אני לא מוכן להתחייב על כך ש-"תהליכים ניורולוגיים ופיזיקליים מייצרים חוויה סובייקטיבית פנימית". אני לא מבין באף אחד משני הדברים מספיק.

אבל באופן עקרוני, אני כנראה לא מסכים. אם ב-"מראית מעין של חוויה סובייקטיבית" אתה מתכוון למשהו ברוח הדברים של תגובה 672110, אז התאוריה היחידה שמתאימה למציאות המדעית היא השנייה. כמדען, אני לא יכול למדוד שום תופעה שקשורה ל-"חוויה סובייקטיבית", לא ישירות ולא בעקיפין - ואני לא זקוק לזה כהסבר עבור שום תופעה אחרת. למיטב ידעתי, אני יכול לבנות מודל שלם של העולם בלי להזדקק למושג "חוויה סובייקטיבית", ושום דבר לא יחסר ממנו.

(פרט לעובדת קיומן של חוויות סובייקטיביות)
סבינה הוסנפלדר על רצון חופשי 672264
אני מתנצל אם אני חוזר על מה שצפריר כתב. לא קראתי הכל.

כתבת שאתה יכול לבנות מודל שלם של העולם מבלי להזדקק ל״חוויה סובייקטיבית״. זה נכון אבל לא רלוונטי. אפשר ליצור גם מודל שלם של העולם מבלי להזדקק למונח אדם, כל מה שצריך זה חלקיקים ומשוואות. הנה עובדה לגבי תאוריות מדעיות שכבר הזכרתי בפתיל הנוכחי. יכולות להיות תאוריות מדעיות שהן לכאורה מיותרות כי הן מתארות תופעות emergent. למעשה כמעט כל תאוריה מדעית היא כזו, למעט אולי תאוריית הקוואנטים (שאולי גם היא emergent מתורת המיתרים). אבל הן מיותרות רק לכאורה, זה שהן מתארות תופעה emergent לא הופך אותן לשגויות או בלתי מדעיות או בלתי שימושיות. למעשה הרבה פעמים התאוריה הבסיסית יותר היא זו שאיננה שימושית. אף אחד לא יציע שוועדה של פיזיקאי חלקיקים יתכננו תוכנית להורדת מחירי הדיור או שיבנו תוכנית דיאטה לאדם שרוצה לרזות.

עכשיו, אני קצת משתעשע מכך שהמונח ״חוויה סובייקטיבית פנימית״ לא מובן לך מספיק, אבל מצד שני אתה כבר קופץ ואומר שהמדען לא יכול למדוד אותו בשום דרך. אז בוא נתחיל ממש מהבסיס: למה אני מתכוון שהמדען בודק אם משהו תואם למציאות? אתן דוגמא. יש מונח בפסיכולוגיה שנקרא אגו. הוא נועד להסביר פן מסויים בהתנהגות של האדם. ייתכן שיש כמה אסכולות פסיכולוגיות, כאלו שכוללות אגו בהסבר שלהן, וכאלו שלא. אבל בתאוריה שכוללת את האגו אפשר לבצע ניסויים שבודקים האם האגו מתאים למציאות. לדוגמא, אם יש לאגו עוצמה אז אפשר לצפות שאנשים עם אגו חזק יגיבו בצורה אחת ואילו אנשים עם אגו חלש יגיבו באופן אחר. אבל לא יהיה מישהו שיגיב אקראית, פעם כאילו יש לו אגו חזק ופעם אחרת כאילו יש לו אגו חלש. כשמדען חוקר את האגו אז הוא מניח שהתאוריה הזו נכונה, ומבצע ניסויים מהסוג שאמרתי. זה כלל לא משנה שיש תאוריות אחרות שמסבירות את ההתנהגות האנושית בלי אגו, ושהן בכלל מפרשות את תוצאות הניסוי בדרך אחרת לגמרי.

עכשיו אני אחזור לנמשל. הפסיכולוגיים המציאו תאוריה, ובתאוריה הזו יש לאנשים חוויה סובייקטיבית פנימית ולכן הם יתנהגו בדרך א אבל לא בדרך ב׳. כל ניסוי שבודק איך אנשים מתנהגים ומשווה לתחזיות של התאוריה הזו, הוא ***בהגדרה*** חקירה של ה״חוויה סובייקטיבית פנימית״. לצורך הבהרה, כאב הוא סוג של חוויה סובייקטיבית פנימית, ההתנהגות של אנשים בעת כאב (ולפניו ואחריו) מאפשרת לחקור את החוויה הזו. חוויה סובייקטיבית פנימית היא תת קבוצה (קטנה) של תהליכים מנטליים שהפסיכולוגיה מתעסקת בהם - יש גם זכרון, למידה, רגשות, דמיון וכו וכו׳. הסיבה שאני מזכיר את זה היא שבמחקרים ניורולוגים גילו התאמה גבוהה בין התהליכים הנוירולוגיים במח לתהליכים מנטליים באופן כללי ובפרט לחוויה הסובייקטיבית הפנימית. לכן זה טבעי מאד שתיווצר תאוריה שאומרת שהמנוע של החוויה הסובייקטיבית הפנימית הוא תופעות נוירולוגיות של המוח. אם תרצה, משלבים בין 2 תחומים מדעיים.

לסיכום, אני אציג בפניך מחדש את השאלה שלי. יש 2 תאוריות על התנהגות האדם:
1. תהליכים נירולוגיים מייצרים חוויה סובייקטיבית פנימית אשר גורמת להתנהגות מסויימת של האדם (למשל דקירה => תחושת כאב סובייקטיבי => תלונה על כאב)
2. תהליכים ניורולוגים גורמים למראית עין של חוויה סובייקטיבית פנימית (למשל דקירה=> תלונה על כאב ללא כאב סובייקטיבי)
התרשמתי מאחת התגובות שלך שאתה דוגל בגרסא שלישית (תקן אותי אם אני טועה):
3. יש שני סוגים של אנשים, רגילים ו״אורקים״. רגילים מתנהגים לפי 1 ואילו אורקים לפי 2

בעיני 3 התיאוריות מתאימות יפה למציאות. וזה בסדר, מותר שתהיינה כמה תאוריות שמתאימות למציאות.
כדי להתקדם בדיון אנא שתף: האם אתה מסכים ששלושתן מתאימות למציאות?
סבינה הוסנפלדר על רצון חופשי 672103
אם אתה משתמש פשוט ותמים של אייפון (או מישהו שנוחת מהמאדים) אתה עשוי לחשוב שיש לו חוויות סובייקטיביות פנימיות (ובפרט רצון עצמי). רמת המורכבות כבר מספיק גדולה. האייפון אמנם עדיין לא מסוגל לעבור את מבחן טיורינג, אבל הוא מתחיל להתקרב לשם. אם זה מה שמפריע לך, נדבר על דגם עתידי שיש בו תוכנה שעוברת את המבחן (או משהו דומה).

אבל מכיוון שיש לך הבנה טובה יותר של דרך פעולתו, אתה יכול לדעת שמדובר על מכונה ושאפשר בעיקרון להסביר את כל התנהגויותיה. אבל גם זה לא נכון: כתוכניתן די ברור לי שאין מי שמכיר מספיק טוב את דרך העבודה של המערכת המורכבת הזו (למות רמות ההפשטה הרבות שיצרנו כדי לסייע לנו). כדי לנסות לפתור בעיות תוכנה אנחנו לא מנסים לנתח אותן אלא מריצים את התוכנה. מה שכן, האייפון לא מתוכנת ליצור תחושת "אני" יחידה כמו המוח האנושי. אבל זה לא אומר שרכיבים שונים בו לא יכולים לספק את המקבילה לתחושות.

המוח האנושי די דומה, אבל ללא הבנה מספיק טובה של המבנה המדויק‏1, ללא הבנה טובה של שכבות הפשטה (סביר להניח שיש איזשהו קיום לכל מיני מושגים כגון "אדום", אבל לא ברור מהו) ועוד.

אם אתה לא מסוגל להגדיר את החוויה הפנימית ולא מסוגל להגיד עליה כלום, לא ברור לי מאיפה ההנחה שהיא מיוחדת לבני אדם.

1 יש כל מיני תוכניתנים שעסוקים ב־reverse engeneering של כל מיני תוכנות ורכיבי חומרה שונים. מצבם עדיין טוב לעין ערוך מזה של חוקרי מוח.
סבינה הוסנפלדר על רצון חופשי 672044
המלה "אשליה" אולי לא מתאימה כל כך לכוון שאתה חותר אליו, משום שמובלע בה קיומו של מושא- זה שמשלים אותו.
אשליה אינה מתקיימת ללא ההכרה של המושלה בקיומה- למעשה פרשנות שגויה של המציאות אצל המושלה.
בהנתן שקיים מושלה- תודעת הצופה - שמפרש באופן שגוי את המציאות כאילו יש לו רצון, נשארנו עם בעית גוף ונפש החד סטרית.
ותודעת הצופה אינה יכולה להיות אשליה- כי אז מי הוא המושלה?

ואז ודאי שלא ניתן להבחין בניסוי חיצוני בין מערכת בעלת תודעה ואשליה של רצון חפשי לבין מערכת חסרת תודעה שמנפקת בעצם את אותו פלט.
סבינה הוסנפלדר על רצון חופשי 672064
המילה אשליה באמת לא מתאימה כאן.
אבל יש לי שאלה מטרידה אליך. האם החדר הסיני [ויקיפדיה] יודע סינית?
סבינה הוסנפלדר על רצון חופשי 672065
אם הוא יודע סינית, אז כן.
אבל הוא כנראה לא ידע סינית עד שהוא באמת ידע סינית.
סבינה הוסנפלדר על רצון חופשי 672066
אבל יש כאן השלכה מצויינת לעניינו-
נניח שיש חדר סיני שיודע סינית.
כעת נקח שני חדרים :
באחד יש באמת דובר סינית ובשני יש רק את סדרת ההוראות, ונניח פלט זהה.

החדר עם דובר הסינית חושב שהוא יודע סינית.
מה חושב החדר השני?
סבינה הוסנפלדר על רצון חופשי 672073
אני חושב שהשאלה המעניינת יותר היא אם הוא מבין סינית. אפשר להסכים, אולי, שאם הוא עונה על כל שאלה בסינית הוא יודע את השפה עפ"י הגדרה.
סבינה הוסנפלדר על רצון חופשי 672086
צודק.
בעיני החדר הסיני חושף עד כמה עולם המושגים שלנו בענייני תודעה, הבנה, צופה פנימי וכו הוא מוגבל. הוא פשוט מתאים לתאר בני אדם, אבל קשה מאד להכיל את המושגים האלו על משהו זר (אפילו להגיד שהחדר לא מבין סינית זה קצת בעייתי). אולי זה לא מפתיע. אילו היינו חיים במשך כמה אלפי שנים בחברת חדרים סיניים היה לנו כבר נוח לאמר: חדר טוב. חדר טוב! מי חדר חכם? חדר, לך תביא!
סבינה הוסנפלדר על רצון חופשי 672093
לטעמי "פרדוקס" החדר הסיני הוא שריד לתקופה בה תופעות כמו קוגנציה ואינטליגנציה היו חידה, והסבר שלהן במונחים של חישוביות נחשב לפרובוקטיבי. אני חושב שהיום הן מובנות היטב, ובמצב העניינים הזה - בו כבר עכשיו באפשרותי ללמד את המחשב שלי שפה זרה מהר יותר משאני יכול ללמוד אותה בעצמי - וברור למדי שהמרחק בין הטכנולוגיה שלנו לבין AI מלא ואמיתי הוא לא איזה פריצת דרך מטורפת, אלא עוד קצת כוח מחשוב בצירוף כמה טריקים אלגוריתמים - הניסוי המחשבתי הזה נשמע באוזניי obsolete ואני מרגיש לגמרי בנוח לומר: "החדר הסיני מבין סינית".
סבינה הוסנפלדר על רצון חופשי 672114
לא, אי אפשר להסכים, והחדר לא יודע סינית ולא נעליים. והנה אני אראה לך את זה בכמה דוגמאות (הנחת הבסיס - החדר עונה על כל שאלה בסינית. ותו לא) :

א. החדר לא מקבל שאלה, אלא מטלה - תאר לי את מה שקרה בחדר בעשרים וארבע השעות האחרונות, בסינית. כל מי שיודע סינית אמור לענות על השאלה הזאת. החדר, על פי תאור הבעייה - לא.
ב. החדר, הפעם מצויד גם במצלמה ובתוכנה מתאימה, מקבל תמונה של תפוח. ואז הוא מקבל גם שאלה (בסינית אם אתה רוצה): מה רואים בתמונה? מאחר והחדר אף פעם לא למד שהמילה הסינית לתפוח מתארת משהו שנראה כמו תפוח, הוא לא יוכל לענות על השאלה הזאת.
ג. החדר מקבל שאלה בסינית שיש בה שגיאת כתיב קלה. נניח, אחת מתוך מאה האותיות (טוב, סימנים) שגויה, אבל משהו שקל מאד להבחין בו ולעסות תיקון (הה). על פי תנאי הבסיס, החדר לא יצליח לענות על השאלה הזו. מישהו שיודע סינית יוכל לענות עליה בקלי קלות.
ד. החדר מקבל שאלה שכוללת מילים קצת משונותנה, מצחיקותנה, לא רגיליות אבל עוקבות אחרי כללי הדקדוק וההיטוי של השפה הסינית. מאחר והחדר לא נתקל אף פעם במילים האלה, והמושג "כללי לשון" הוא לא חלק מהתכנות שלו - שוב על פי הגדרת הניסוי - החדר לא יצליח לענות על השאלה. מי שיודע סינית כן יצליח‏1.
ה. נניח והחדר יודע סינית. לידו יש חדר שיודע אנגלית. באותה צורה כמובן. עכשיו, הבה נגדיר את המערכת של שני החדרים כחדר חדש. למעשה יכולנו להגדיר מראש חדר אחד שיודע לענות באנגלית על כל שאלה באנגלית, ויודע לענות בסינית על כל שאלה בסינית. על פי טענתך, החדר מבין אנגלית וגם מבין סינית. הוא יודע שתי שפות. יופי - עכשיו אני מבקש ממנו באנגלית לתרגם את המשפט הבא ("I am a stupid room that knows no English an no Chinese") לסינית. מי שיודע שתי שפות, יודע לתרגם ביניהן - כי הוא *מבין* מה כל משפט אומר, ולכן יכול לומר אותו גם בשפה אחרת המוכרת לו. על פי הגדרת הניסוי, החדר שלך לא יצליח לתרגם מאנגלית לסינית. ולכן הוא לא מבין לא אנגלית ולא סינית‏3.

בקיצור, הוא לא מבין סינית יותר משהמחשב הזה מבין פסקל. בעצם, הרבה פחות.

1 בניסוח קצת פחות פואטי ויותר פורמלי - מדובר כאן על אקסטרפולציה של השפה שיוצרת מילים חדשות, על פי כללי השורש והדקדוק של השפה על בוריים. כאלה שהאקדמיה ללשון הסינית תשמח לאמץ בעוד עשר שנים (מילים, לא כללים). רק מה לעשות ואוצר המילים של החדר לא כולל אותם כרגע. הרי החדר עונה לטבלה סופית של שאלות, לא‏2?
2 בניסוח פורמלי אחר, החדר הסיני מזכיר לי את ההבדל בין lookup table לבין פונקציה. הראשון נותן מספר אפשרויות סופי. השנייה יכולה לתת מספר תשובות אינסופי, כי תחום ההגדרה שלה הרבה פחות מצומצם (פי אינסוף!) מזה של הטבלה.
3 אני במיוחד גאה בטיעון הזה - לא ראיתי אותו בשום מקום (טוב, גם לא חיפשתי. בויקיפדיה הוא לא מופיע), והוא נראה לי טוויסט ממש טוב על הבעייה, כי בניגוד קצת לדוגמאות הנגדיות האחרות, הוא לחלוטין משתמש רק בתחומי ההגדרה של הניסוי הבסיסי, בלי להוסיף הנחות צד מובלעות נוספות כמו המצלמה למשל, או ההבדל בין שאלה למטלה. בקיצור - מי שמשתמש, נא להפנות למקור :)
סבינה הוסנפלדר על רצון חופשי 672123
הרבה עצים, קצת יער. עזוב את "החדר הסיני" משנות השמונים של המאה העשרים, וקח במקומו RNN עמוקה וקונבולוציונאלית משנות העשרים של המאה העשרים-ואחת. יהיו בה כמה מיליוני פונקציות סיגמואידיות, מקסימום ואולי יחידות LSTM וכו' - הרבה מאד יחידות פונקציונאליות טיפשות שאף אחד מהן לא יודעת כלום על נאדה. ועדיין - היא תוכל לבצע בקלות את כל המשימות שהצעת. יודעת סינית ואנגלית? לדעתי, בוודאי שכן.

הנה המחשה (ועוד בסינית!).
סבינה הוסנפלדר על רצון חופשי 672128
אבל זה לא הטיעון. לא טענתי שאי אפשר ליצור אינטליגנציה מלאכותית. טענתי שניסוי (המחשבה של) החדר הסיני ניתן לסתירה (עבור מי שטוען שהחדר מבין סינית).

ובלי קשר - אל תיעלם, אנחנו הקוואליטטיביים זקוקים לעזרתך.
סבינה הוסנפלדר על רצון חופשי 672139
:)

עושה רושם שהקרב אבוד. האייל מלא בזומבים-פילוסופיים (אני מקווה שאף אחד לא נעלב).
  הם גם לא מתים... • האייל האלמוני
  הם מתחלפים? • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • אריק
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • אנטילופה
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • יוסי
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • יוסי
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • kozmo
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אח של אייל
  סבינה הוסנפלדר על רצון חופשי • האלמון האיילי
  סבינה הוסנפלדר על רצון חופשי • יובל נוב
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • easy
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • האייל האלמוני
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • האייל האלמוני
  סבינה הוסנפלדר על רצון חופשי • יובל נוב
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אל. לריק
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אריק
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אל. לריק
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • אריק
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • alucard
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • צפריר כהן
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • צפריר כהן
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • צפריר כהן
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • הפונז
  ודייק • ירדן ניר-בוכבינדר
  ודייק • עומר
  ודייק • יובל נוב
  ודייק • עומר
  ודייק • יובל נוב
  ודייק • הפונז
  ודייק • אריק
  ודייק • הפונז
  ודייק • אריק
  ודייק • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • אריק
  שלאגר • אפופידס
  שלאגר • שוטה הכפר הגלובלי
  שלאגר • ירדן ניר-בוכבינדר
  שלאגר • הפונז
  שלאגר • אריק
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • אריק
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • יוסי
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • אריק
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • אורי גוראל גורביץ'
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • alucard
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • עומר
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  מי צריך לימודי ליב"ה‏1? • הפונז
  מי צריך לימודי ליב"ה‏1? • יובל נוב
  מי צריך לימודי ליב"ה‏1? • אורי גוראל גורביץ'
  מי צריך לימודי ליב"ה‏1? • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • kozmo
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • ירדן ניר-בוכבינדר
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • Kozmo
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • אל. לריק
  תובנות מעמיקות - אל תהיו שניצלים • האייל האלמוני
  תובנות מעמיקות - אל תהיו שניצלים • אריק
  תובנות מעמיקות - אל תהיו שניצלים • האייל האלמוני
  תובנות מעמיקות - אל תהיו שניצלים • אריק
  תובנות מעמיקות - אל תהיו שניצלים • הפונז
  תובנות מעמיקות - אל תהיו שניצלים • יוסי
  תובנות מעמיקות - אל תהיו שניצלים • kozmo
  סבינה הוסנפלדר על רצון חופשי • alucard
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • אריק
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • עומר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • ירדן ניר-בוכבינדר
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  מבחן טיורינג לאלוהים • שוטה הכפר הגלובלי
  מבחן טיורינג לאלוהים • הפונז
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • צפריר כהן
  סבינה הוסנפלדר על רצון חופשי • הפונז
  סבינה הוסנפלדר על רצון חופשי • אביר הקרנפים

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים