|
||||
|
||||
שוב מוציאים את דברי מהקשרם? דווקא לדעתי קוואליה כן קיימת, וזה מושג מדעי שאפשר לבדוק אותו כבר כיום 1. אבל אי אפשר לאכול את העוגה ולהשאיר אותה שלמה: 1. אם היא מושג מדעי, יש ניסוי שבודק אותה. ואז יש רובוטים שיעברו את הניסוי, על אפינו ועל חמתנו. 2. אם טוענים שקוואליה זה דבר מסתורי, שלעולם אי אפשר יהיה לבדוק אותו, אז הוא במעמד של גן עדן. 3. אם אומרים שאולי בעתיד יהיה אפשר לבדוק קוואליה, אז דינה כדין טיסה גבוהה ממהירות האור. מד"ב. מצד שני, חייבים לקבל את זה שברגע שאפשר יהיה לבדוק קוואליה, יהיה אפשר לבנות רובוטים שיעברו את מבחן הקוואליה. יש מבין? 1 וזה בגלל שההגדרה של קוואליה היא "תחושה סובייקטיבית". נשמע לא מסובך לבנות מבחן פסיכולוגי שבודק בדיוק את זה. ההגדרה היא איננה "משהו מסתורי שיש אותו רק לבני אדם אבל קשה מאד לבדוק". |
|
||||
|
||||
מה הבעיה ברובוטים שעוברים את מבחן הקוואליה? זה לא אומר שיש להם קוואליה, זו אומר שהמבחן שלנו לא מושלם ומספק תנאי הכרחי אך לא מספיק לקיום קוואליה. זה לא כל כך נורא לדעתי, כי אני לא מכיר מבחן אמפירי אחד שמספק תנאי הכרחי ומספיק למשהו. |
|
||||
|
||||
קרא את תגובה 308806. הרובוט יוציא ציון קוואליה טוב לפחות כמו של כל אדם אחר. ואת זה, על כל סט אפשרי של מבחנים. האם אחרי זה, אתה עדיין טוען שלבנאדם יש קוואליה ולרובוט אין? אולי המבחן לא מספק אותך. אבל ברגע שהמבחנ(ים) יספקו אותך, אי אפשר להתכחש לעובדה שמי שעבר את המבחן, יש לו קוואליה. |
|
||||
|
||||
המבחנים אף פעם לא יספקו אותי, כאמור. לכל היותר הם ישכנעו אותי שלמשהו אין קוואליה, או שלמשהו יש בסבירות גבוהה קוואליה, אבל אף פעם לא יעזרו לי להגיד בנחרצות על משהו "הוא עבר את המבחן, אז יש לו קוואליה", כמו שלא משנה איזה מבחנים תציע לי, אני אף פעם לא אשתכנע שקיימים אטומים. אגב, אני לא בטוח שאי אפשר להחריף את המבחנים ולדרוש ממי שעובר את המבחן שיעבור "מחיקת זכרון" בעצמו, יענה לשאלות שמיוצרות בצורה רנדומלית וכו', כך שאם אתה מסוגל לעבור כל מבחן שהומצא עד עכשיו תוכל לעבור את המבחן הבא שיציבו מולך. (בגישה מתמטית יותר: כל רובוט שאתה מציע מסוגל לעבור מספר סופי של מבחנים, אבל אם ניתן להמציא מבחן אינסופי של מבחנים, לכל רובוט יהיה מבחן שבו הוא נכשל). |
|
||||
|
||||
אין לי בעיה שהמבחנים לא ישכנעו אותך ב 100%. כל מה שאני רוצה הוא שתכיר בכך שהסבירות שלרובוט יש קוואליה היא גבוהה לפחות כמו של כל אדם אחר. זה כמובן אם אתה מדען שעובד עם הוכחות ולא מסתפק באמירה חסרת הבסיס רק-מי-שדומה-לי-יש-לו-קוואליה. הסיפור של להמציא מספר אינסופי של מבחנים, הוא סתם התחמקות מהבעיה. זה אומר שכדי לבדוק אם למישהו יש קוואליה צריך אינסוף זמן, וצריך לעבד אינסוף מידע. גם לבן אנוש אין קוואליה עפ"י קריטריון זה. |
|
||||
|
||||
אני לא חושב שהסבירות תהיה גבוהה לפחות כמו של אדם אחר, אבל זה בגלל הטיעון שהבאתי אחר כך שאליו אתה מתייחס בשורה השנייה, אז נעבור לשם. אני לא מסכים ש"להמציא מספר אינסופי של מבחנים זה סתם התחמקות מהבעיה". אני בכלל לא דורש להמציא אינסוף מבחנים, אלא מציין את העובדה (הסבירה) שיש מספר אינסופי של מבחנים. אם קיבלנו את העובדה הזו, בוא ניקח רובוט שהונדס לפי השיטות שלך. הוא יודע לטפל רק במספר סופי של מבחנים. עכשיו אין בעיה לבוא ולהמציא עוד מבחן *אחד* (ואת זה עושים בזמן סופי ועם עיבוד של מידע סופי) שבו הרובוט נופל. לעומת זאת, בן אדם כנראה לא ייפול באף מבחן שתביא לו מתוך אינסוף המבחנים (תחת ההנחה שאני מניח שאתה מקבל, לפיה לאדם יש קוואליה). כמובן, תוכל "לתקן" את הרובוט כדי שיתמודד גם עם המבחן החדש שהמצאתי, אבל אז אני אביא לו עוד מבחן, וכו' וכו' וכו', ויותר חמור - אם "תיקנת" את הרובוט זה כבר לא אותו רובוט אלא מישהו חדש. ההבדל בין הרובוט לאדם ברור במקרה הזה: לכל רובוט ניתן למצוא מבחן שבו הוא ייכשל, ואילו לאדם לא. אם אתה מסכים איתי שכישלון במבחן פירושו, באופן חד משמעי, שאין לנבחן קוואליה, מזה נובע שלרובוט אין קוואליה, ואנחנו עדיין מרוצים מהמבחנים שלנו. |
|
||||
|
||||
מצויין. יש לי הוכחה למה אין סדרה אינסופית כזו של מבחנים. בנאדם לא יכול לעבור מבחן אם לוקח יותר מדי זמן לקרוא את השאלה. צריך להיות איזשהו חסם על אורך המבחן. למשל רק מבחנים שאפשר לענות עליהם בפחות מ 1000 שנה1. מבחנים כאלו חסומים בכמות המשפטים השונים שאפשר להגיד (או לקרוא?) ב 1000 שנה. כמות עצומה, אבל סופית. אתה יכול להגיד: רגע. זה לא הוגן. אם הבנאדם היה חי 10000 שנה, אז הוא היה עובר את המבחן. אבל אז הייתי בוחר חסם של 20000 שנה. בקיצור, רק אם האדם היה חי אינסוף שנים, אז היתה קיימת סדרה אינסופית כזו של מבחנים. אבל, אם אתה מרשה לאדם לחיות אינסוף שנים, אני מרשה לזכרון של המחשב שלי להיות אינסופי (למעשה, במכונת טיורינג אורך הסרט הוא כבר אינסופי.). כך, שאם אתה מרשה לבנאדם לחיות אינסוף שנים, ולענות על אינסוף מבחנים, אז אני מרשה לרובוט שלי להקליט את אינסוף המבחנים במשך אינסוף הזמן הזה. ואחרי שהזמן האינסופי הזה יחלוף, הרובוט ידע לפתור את אינסוף המבחנים שלך. ---- 1 לדוגמא, היית יכול להביא את סדרת המבחנים הבאה: האם אתה אוהב את המספר 7? ואת 7.7? ואת 7.77? ... אבל מתישהו בסדרה הזו תהיה שאלה כ"כ ארוכה, שהאדם ימות לפני שהוא יספיק לענות עליה. מה שאי אפשר להגיד על הרובוט. |
|
||||
|
||||
אני לא ממש מבין מה עשית כאן. בוא נניח שיש לנו מבחן שלוקח מיליארד שנה לענות עליו. אם ניתן אותו לבן אדם הוא ימות לפני שייגמר המבחן. האם זה אומר שלאדם אין קוואליה? בוודאי שלא. זה אומר שלא הספקנו לבדוק את האדם הזה במבחן המסויים הזה. המבחן עצמו מצויין - אחרי שמסיימים אותו, הוא אומר בודאות שלנבדק אין קוואליה אם אין לו (על זה שאי אפשר להגיד בודאות שיש למישהו קוואליה הסכמנו, לא?). זה שבני אדם לא מספיקים לגמור אותו לא אומר שהמבחן לא יכול לעבוד. למעשה, נראה לי שעכשיו סיבכת את הרובוט שלך עוד יותר: אם אני ממציא מבחן קוואליה (אחד ויחיד!) שאדם לא יכול לסיים לענות עליו כי הוא מת לפני שהמבחן נגמר, מאיפה הרובוט (בן האלמוות?) שלך ימצא את התשובות שהוא רוצה כדי לענות כמו שצריך על המבחן? ואם הוא לא זקוק לתשובות של בני אדם אלא רק לקלט שהמבחן מצפה לקבל, מה עירבת כאן את בני האדם בכלל? אנחנו עוסקים במבחני קוואליה לרובוטים, לא לבני אדם. הסכמנו שיש לבני אדם קוואליה. (ובכלל, נראה לי שקצת נסחפנו עם הפלפול המתמטי הזה). |
|
||||
|
||||
וכאן הטעות שלך. ב-ר-ו-ר שאתה לא יכול להשתמש במבחן שבן אדם לא מסוגל לעבור. אחרת, המבחן הוא לא הוגן. בדיוק בגלל זה דרשתי (במט ב 5 מסעים) שהמבחנים יהיו עקביים. אתה מניח א-פריורית שלבני אדם יש קוואליה. ולעומת זאת אתה פוסל את כל הרובוטים על סמך מבחן שבני האדם מקבלים ממנו פטור. לא המהלך המבריק של השנה. יותר מזה. המבחן שלך לא העביר אפילו גורם אחד שאתה *מניח* שיש לו קוואליה. בכל זאת אתה דבק גם בכך שהמבחן תקין, וגם בכך שאלו שקיבלו פטור ממנו בכל זאת יש להם קוואליה. יודע מה. איגוד הרובוטים מתנגד קטגורית לכך שרובוטים יצטרכו לעמוד במבחן שבנאדם אינו צריך לעמוד בו. אם המבחנים (או מבחן בודד) נמשך יותר מ 80 שנה, הרובוט שורף את עצמו1. אני חוזר על הטענה המקורית: בכל אוסף מבחנים שבו אדם הוציא ציון 2 , הרובוט יוציא ציון שווה או גבוה יותר. לכן, לרובוט יש קוואליה לפחות-באותה-מידה של האדם. --- 1 למעשה, כדי לחקות התנהגות אנושית הרובוט צריך להפסיק להתנהג בהגיון אחרי כל מבחן שנמשך יותר מ 3 שעות. 2 אין פטורים, אין ערעורים. |
|
||||
|
||||
אוקיי, אני מקבל את הטיעון שלך כאן: הרובוט צריך להתמודד רק עם מבחנים שהאדם עובר בהצלחה. חשבתי ששנינו מקבלים בתור הנחת יסוד את זה שלבני אדם יש קוואליה, אבל אם לא, לא נורא. השאלה המעניינת, אם כך, היא האם באמת קיים רק מספר סופי של מבחנים שזמן הביצוע שלהם חסום. זו שאלה שנראה לי שאי אפשר לענות לה בלי להיגרר לדיון ארוך ומסובך הרבה יותר (מה עם מבחן שבו מראים לנבדק מספר אי רציונלי אקראי? מה עם מבחן שבו מאירים על הנבדק בקרן אור בעלת אורך גל אקראי?) עוד שאלה מעניינת, אם כי יותר תיאורטית, היא מה קורה אם מסירים את מגבלות הזמן. כלומר, כולנו בני אלמוות ומסוגלים לענות על כל מבחן *סופי*. במקרה הזה אני לא חושב שהטיעון שלך מלפני שתי הודעות תופס. הרובוט לא יוכל ללמוד אינסוף מבחנים כי לעולם לא יגמור ללמוד אותם - אי אפשר להגיד "אחרי זמן אינסופי הוא יגמור ללמוד" כי אין לזה משמעות של ממש - אתה לא יכול להצביע על נקודת זמן כלשהי בעתיד שבה הוא יגמור ללמוד. טיעון של זכרון אינסופי הוא כבר יותר מעניין - אם אתה מניח שהרובוט שלך יכול לזכור כל תשובה לכל שאלה בכל מבחן. אבל על רובוט כזה אני כבר לא רואה שום סיבה לומר שאין לו קוואליה, אז אין לנו ויכוח (אם כי לך וליהונתן כנראה יהיה). |
|
||||
|
||||
למספר אי רציונאלי אקראי, יש בממוצע אינסוף ספרות, ויקח אינסוף זמן לנבחן לקרוא אותו. מעבר לכך, בגלל המגבלה של אי הוודאות אין שום תכונה פיזית של היקום (לא אורך גל, ולא מידת נעליים) שיכולה לייצר מספר כזה. |
|
||||
|
||||
כן, שיערתי שתגיד משהו כזה, אבל מה עם השאר? האם אין אינסוף ספקטרומים שונים של האור שאפשר להראות לנבחנים, למשל? ומה עם החלק השני (במקרה של האלמוות), שהוא מעניין יותר? אם הפתרון היחיד שאתה יכול לתת הוא "בגלל שבני אדם מתפגרים אי אפשר להראות שלהם יש קוואליה אבל לרובוט שהוא רמאות אין", זה די חבל. |
|
||||
|
||||
לא. לא ידועה שום דרך לייצר כמות מידע אינסופית. למעשה, גם אם חייזר נותן לנו במתנה קופסא שחורה שמחזירה את הספרות של מספר אי-רציונלי - אז אין לנו דרך לבדוק בזמן סופי שהיא באמת עובדת, שבאמת יש שם כמות אינסופית של ספרות אחרי הנקודה. הדרך היחידה היא להשתמש בקופסא שחורה אחרת, מתוצרת אותו חייזר. אני מקווה שהבהרתי לך שזו לא סתם בעיה של למצוא את התכונה הנכונה. זה תכונה אלמנטרית של מידע אינסופי. לגבי האלמוות, הטענה שלי "רובוט מסוגל לעבור כל מבחן שבנאדם עובר" היא עדיין נכונה. הבעיה שלך היא שאתה מניח באופן אפריורי שלבנאדם יש קוואליה, ולכן אתה נותן לו פטור ממבחנים. למעשה, פטור מאינסוף מבחנים וזה מאד מרגיז את איגוד הרובוטים. בכל זמן סופי (ואתה מקבל את זה שאי אפשר להגיד "אחרי זמן אינסופי". מצויין) הבנאדם עבר כמות סופית של מבחנים. אז אם אחרי זמן t האדם עבר X מבחנים, הרובוט יהיה מסוגל לעבור את אותו X מבחנים אחרי 2t (כי ב t הראשון הוא רק מקליט). |
|
||||
|
||||
בוא נעזוב את השאלה אם אפשר לייצר אינסוף מבחנים חסומים בזמן או לא, ונתמקד באלמוות. בוא גם לא נניח שלבן אדם יש קוואליה אוטומטית, אבל כן נניח הנחה שהיא לכאורה חלשה יותר: כל אדם עובר כל מבחן קוואליה שנותנים לו. מקובל? עכשיו אנחנו נחלקים בגישות השונות שלנו. אני אומר דבר כזה: האדם, בשל התכונה המיוחדת שלו שהנחנו למעלה, יעבור כל מבחן קוואליה שיתנו לו. לעומת זאת הרובוט שלך, מכיוון שהוא למד רק על מספר סופי של מבחנים, לא יהיה מסוגל לעבור כל מבחן קוואליה שיתנו לו. אני מניח שאתה מסכים איתי שאם ניקח עכשיו הן את הרובוט והן את האדם, נושיב אותם בחדר וניתן להם מבחן שאף אחד לא ראה עד היום, הרובוט ייכשל והאדם יעבור אותו. אתה מנסה לפתור את זה עם שיטת "הרובוט הלומד" שלך. אני טוען שזה לא פותר, אם כי אולי זה עניין של פרשנות. למה זה לא פותר? כי אנחנו לא בודקים פוטנציאל לקיום קוואליה, אלא קיום קוואליה. אם ביצור X יש קוואליה, פירוש הדבר הוא שכרגע, לא משנה איזה מבחן ניתן לו, הוא יעבור אותו, ובלי ללמוד את התשובות מראש (כמובן, עד לרגע הזה הוא יכל ללמוד מה שרצה). בניסוח מעט שונה: נניח שיש לנו כרגע רובוט X שאנחנו רוצים לבדוק אם יש לו קוואליה. מכיוון שקיים מבחן כלשהו שהוא ייכשל בו, אין לו קוואליה. אם הוא ילמד את התשובות למבחן הזה הוא לא יהיה יותר רובוט X אלא רובוט Y. גם עבור רובוט Y יש מבחן שיכשיל אותו, וכו' וכו'. כאן הרובוט נבדל מהאדם. האם זה מוכיח שלאדם יש קוואליה? לא. האם זה מוכיח שיש הבדל כלשהו בין האדם לרובוט? כן. |
|
||||
|
||||
לשנות את הקריטריונים של הניסוי תוך כדי ניסוי זה רמאות. המבחנים חייבים להיות מוגדרים מראש, ואני חייב להקליט אנשים עוברים אותם כדי שאני אהיה מסוגל לבנות את הרובוט. אני לא מבין את הפרשנות שלך. אתה לא תציע שבנאדם יעבור את מבחן הקוואליה כשהוא ביצית מופרית. יתרה מכך - אם אני אאסור עליך לשים את התינוק הזה בחברה של אנשים אחרים (כדי שהקוואליה שלו לא תהיה, ח"ח, חיקוי של אנשים אחרים) אתה תגיד לי - באנה באנה, הגזמת. אין משחק. אם מחר יבוא חייזר, שהדרך שלו להתרבות היא פשוט שכפול מלא, כולל של המוח, על כל המידע שיש בתוכו והקוואליה שיש שם, האם תפסול את זה? אם מחרתיים יבוא חייזר שהוא טפיל בסגנון סטארגייט - חי רק בתוך פונדקאי אנושי ושולט על המוח שלו - האם תסכים לבדוק אותו רק מחוץ לפונדקאי, כדי שחס וחלילה לא ישתמש בקוואליה של בן האנוש? משום מה, לרובוט ההיפותטי1 המסכן שלי אתה לא מרשה להתבגר. אם אני מצרף את זה לכך שבעבר התייחסת אליו באופן לא הוגן, ואפילו דרשת ממנו לעשות אינסוף מבחנים קשים! - אני מקבל את הרושם שאתה לא מחבב אותו במיוחד. אותך להסתדרות הרובוטים. לא נראה לי לגיטימי. הגדרת הקוואליה לא מציבה שום תנאי על הדרך שבה התפתחת, התבגרת, והגעת למצוות. אם אתה פוסל יצורים שחייבים לגדול במעבדת קוואליה, למה אתה לא פוסל יצורים שחייבים לשחק במשך שנים עם בעלי קוואליה אחרים? ---- 1 אף אחד לא חושב לבנות אותו ברצינות. הוא רק נועד להדגים שקוואליה זה לא דבר מסתורי. |
|
||||
|
||||
מי משנה את הקריטריונים של הניסוי? אני נותן עוד ניסויים. מה ה"רמאות" כאן? נראה לי שאתה, בדוגמטיות שאתה מייחס לצד השני, אומר "רמאות" על כל דבר שבגללו הרובוט ייכשל במבחן. אין שום סיבה ש*כל* המבחנים יהיו מוקלטים מראש (וכאמור, אם יש אינסוף מבחנים, זה גם לא אפשרי). בקשר ל"איסור על התפתחות", נראה לי שפספסת מה שניסיתי להגיד (והוא שלא משנה כמה תיתן לרובוט להתפתח, הוא אף פעם לא יעבור את המבחנים כמו שאדם עובר), אבל לא משנה, אני אפסיק כאן, כי לא נראה לי שנתקדם יותר, והויכוח נהיה טכני נטו. |
|
||||
|
||||
צ'מע. לא התכוונתי להעליב אותך. רק ציינתי שהדרישה שלך שהרובוט יעבור את המבחנים מבלי שאנשים יעברו אותם היא דרישה שרירותית. היא בסה"כ נועדה להוציא את הרובוט מהמשחק. לא באמת מעניין אותה אם יש לרובוט קוואליה. נמחיש את זה ע"י סיפור. לאוניברסיטה שמרנית יש קריטריון כניסה שדורש ציון עובר בבוחן ספורט. מאז ומעולם, רק גברים עמדו בקריטריון והתקבלו לאוניברסיטה. פתאום מגלים שיש נשים שעומדות בקריטריון הזה. האוניברסיטה לא רוצה נשים. אז היא מחמירה קצת את הקריטריון. כדי שנשים לא יעמדו בו. אבל אחרי שכמה גברים עברו את הקריטריון, פתאום גם נשים עברו את הקריטריון (למשל, ע"י חיקוי שיטות האימון של הגברים). האוניברסיטה מגיעה למסקנה שלא משנה כמה שיחמירו את הקריטריון, בסוף הנשים הערמומיות ידעו לעבור גם אותו. ואז בא למישהו הרעיון המבריק שבעצם נשים הן לא באמת עומדות בקריטריונים, כי הן תמיד עושות את זה רק אחרי שגבר עמד בקריטריון. לכן, כל פעם שתגיע אישה לאוניברסיטה, אז נחמיר את הקריטריון בצורה כזו שאף גבר עדיין לא עמד בו. ברגע שגבר יעמוד בקריטריון הזה, אז כבר אי אפשר להשתמש בו יותר בשביל לבדוק נשים. האם זה נשמע סביר? הוגן? לא. לא טענתי שהרובוט הוא אנושי או שהוא עובר את המבחן כמו אנשים, או שהמוח האנושי הוא בעצם מכשיר הקלטה. ברור לחלוטין שהרובוט עושה פה חיקוי של אדם, ותהליכי המחשבה אפילו לא מזכירים תהליכים של אדם. ברור גם שהרובוט הוא לא מקורי, ושהוא תמיד יהיה שני לעבור את המבחנים. אלא מה? זאת לא השאלה. אנחנו לא בודקים מקוריות או אנושיות או את כל הדברים האלו. אנחנו בודקים רק דבר אחד - האם יש לרובוט קוואליה. אם זו השאלה, אז חייבים להודות ש - כן, יש לו קוואליה. |
|
||||
|
||||
תגובה 309442 יותר טובה. |
|
||||
|
||||
איזה מין מבחן קוואליה אתה רוצה לעשות עם מספרים אי רציונליים או ספקטרומים של אור? |
|
||||
|
||||
לא יודע. כרגע אין לי מושג איך עושים אפילו מבחן קוואליה אחד ויחיד. זו הבעיה בדיונים תיאורטיים. אני רק מנסה להצדיק את ההנחה שהגיוני שיהיו אינסוף מבחני קוואליה בזמן חסום, ושזה יושג על ידי שינוי של פרמטרים התחלתיים. |
|
||||
|
||||
אני לא מבינה למה צריך אינסוף מבחנים. לדעתי מספיק לייצר מבחן שנבדק על מחשבים לפני שהוא נבדק על בני אדם. וכיוון שהמחשבים שייבדקו (יש להניח) לא יעברו אותו, אז המחשבים הבאים שייוצרו כבר יצטרכו לעבור בחינה אחרת - בדיוק כמו תלמיד שנתפס בהעתקה ואם נותנים לו ''הזדמנות שנייה'' - זה ודאי לא יהיה עם אותן שאלות. אחרת ברור שהוא לא עבר את הבחינה. |
|
||||
|
||||
לא טענתי אפילו לשניה שהמחשב הוא מחשב ישר. הוא רמאי, מעתיקן, הוא לא יעבור אף אוניברסיטה, ואפילו לא כיתה ג'. אין לרובוט יומרה להיות מקורי או לעבור מבחן שאיש לא ראה. 1 זהו תרגיל מחשבתי. כל מה שהתרגיל אומר הוא שבהנתן אוסף מבחנים (סופי, לטובת גדי) מוגדר מראש, ובהנתן אנשים שעברו את המבחנים האלו, אני יכול לייצר רובוט שעובר את המבחנים באותו ציון. זהו תרגיל מחשבתי, זאת לא הצעה מעשית לאיך לבנות רובוט רגיש ואיך לבדוק אותו. ההצעה היא רחוקה מלהיות מעשית. היא אפילו דורשת למחוק את המוח של הבוחן! למה עשיתי את התרגיל המחשבתי הזה? כדי להראות שתיאורטית אפשר לבנות רובוט שיש לו קוואליה. ואם ככה, קוואליה היא לא באמת משהו כ"כ מיוחד ומסתורי. אין הבדל מהותי בינה לבין למידה, או זיהוי שפה טבעית2. --- 1 בדיעבד, יכול להיות שהויכוח שלי עם גדי על תנאי הניסוי הוא מיותר לגמרי. 2 דברים שאולי קשים למימוש במחשב, אבל בהחלט סביר שמחשב מתישהו יעשה אותם טוב לפחות כמו בנאדם. |
|
||||
|
||||
האם זה תיאור נכון של הלך המחשבה שלך? אתה טוען "לנבחן יש קוואליה אם הוא עובר את הניסוי שבניתי". למה? "כי קוואליה צריכה להיות דבר מדיד". למה? "כי מה שלא מדיד לא קיים במובן ראוי לדיון". |
|
||||
|
||||
קודם כל, מההגדרה דבר מדיד הוא דבר שקיים ניסוי שבודק אותו. זה לא איזה שהוא טיעון שלי. זאת פשוט ההגדרה. לדעתי קוואליה היא דבר מדיד כי היא משפיעה על ההתנהגות בצורה ברורה מאד. אמרתי את זה כמה פעמים. לא אמרתי שהיא "צריכה להיות" דבר מדיד. קוואליה לא צריכה כלום. זאת תופעה. אבל כל מי שטוען אחרת - שקוואליה זה לא דבר מדיד - חייב להכיר בכך שמה שלא מדיד אינו ראוי לדיון מדעי 1. ---- 1 אם כתבתי לא ראוי לדיון, אני מתנצל. טעיתי. התכוונתי לדיון מדעי. גם רוחות רפאים וגם גן עדן ראויים לדיון, למרות שהם מיסטיקות ולא דברים מדידים. |
|
||||
|
||||
טוב. האם לדעתך יש עוד תחומים חוץ מ"מיסטיקות" ו"דברים מדידים"? למשל, האם יש "דברים שאנחנו עדיין לא יודעים איך למדוד אותם"? ומה על "דברים שקיימים אבל לא ניתנים למדידה מדעית"? |
|
||||
|
||||
- בוודאי שיש דברים שאנחנו עדיין לא יודעים איך למדוד אותם. אבל אם בעתיד הם יהיו ניתנים למדידה, אז יצטרכו להתייחס אליהם באופן מדעי. התייחסתי במפורש לאופציה שקוואליה היא דבר כזה. לא קראת מה שכתבתי? - לגבי דברים שקיימים אבל לא ניתנים למדידה מדעית, אני לא כל כך מבין על איזה קריטריון קיום אתה מדבר. אז קדימה, שכנע אותי שיש דברים כאלו, ושיש להם קריטריון קיום שהופך אותם ליותר "אמיתיים" מרוחות רפאים. |
|
||||
|
||||
אני לא מכיר קריטריון קיום חד-משמעי (בגלל זה אני מדבר על סבירות). אבל הכיוון הוא הפוך: פילו' של המדע עברו לדבר על סבירות (בכל מיני נוסחים) כי אין לנו דרך לאמת שום דבר מדעית. בעיית ההיפותזות החיצוניות, בעיית האינדוקציה ועוד שלל בעיות אינן מאפשרות להסיק מניסוי באופן ברור על אימות טענה. באותו אופן, קריטריון התיחום הפופריאני נופל. אין קו גבול בין מדע ללא-מדע, ולכן הסבירות של ההיפותזות שלנו (בין אם מדובר על קיום אטומים, קיום כולסטרול, קיום קוואליה או קיום רוחות רפאים) נעשית ביחס למכלול הידע שלנו ולא ביחס לידע המדעי בלבד. תתעדכן, אחי, תתעדכן. |
|
||||
|
||||
שוב פעם התחלנו? הכל זה אותו דבר, מדע ולא-מדע? האם אתה זוכר את הציטוט הבא שלך: "ניסוי פורמלי שמהווה בדיקה ישירה שלו אל מול המציאות כבר לא ממש פופולרי (מהסיבה הפשוטה שאי אפשר לאמת כלום).". האם אתה זוכר איך הדגמתי למה בעולם המדעי המעשי זה שטויות במיץ עגבניות? אבל קדימה. הצלחת לעניין אותי. אתה אומר שאין הבדל עקרוני בין אטומים לבין קוואליה לבין רוחות רפאים. עניין של סבירות. אני מקבל את האמירה הזו לצורך הדיון. אז אולי תדגים לי (ולקוראים) את הסבירות של הדברים שציינת, על סמך מכלול הידע הקיים. אני אתן לך שאלות מנחות: 1. האם קוואליה סבירה כמו קיום אטומים? פחות? הרבה פחות? ולפי מה קבעת את זה? 2. האם הסבירות של אובייקטים מדידים ושל אובייקטים לא מדידים, היא באותה ליגה? האם יש אובייקט לא מדיד אחד, שאפשר להגיד עליו שהוא סביר כמו העובדה שכדוה"א סובב סביב השמש (ולא להיפך)? 3. על פי איזה עקרון רציונאלי אתה קובע סבירות של דברים לא מדידים? 4. ולפי אותו עקרון, מה יותר סביר, קוואליה, או רוחות רפאים? |
|
||||
|
||||
לפחות עפ"י דקארט "אני חושב משמע אני קיים" מעניק לקוואליה הסתברות 1. |
|
||||
|
||||
איך אתה קובע אם דקארט צודק, והמטריאליסטים שאומרים שהנפש היא אשליה טועים? איזה קריטריון רציונאלי מאפשר לי להכריע מי צודק? |
|
||||
|
||||
מה זה משנה אם הנפש היא אשליה? אם היא אשליה, היא קיימת כאשליה, וזה כל מה שנדרש מהקוואליה. |
|
||||
|
||||
לא הבנת. הם אומרים שאין דבר כזה נפש. יש אנשים שחושבים שיש להם נפש, כמו שיש אנשים שחושבים שחייזרים מדברים אליהם, וכמו שפעם אנשים חשבו שיש נחש גדול שמקיף את העולם. הנחש, החייזרים והנפש נופלים מבחינתם בקטגוריה ''דברים שלא קיימים''. |
|
||||
|
||||
(אני לא בטוח שאני משבץ את התגובה הזו במקום אופטימלי בדיון; היה קצת קשה להשתלט על אלף התגובות בבת-אחת. התנצלותי לך ולקוראים האחרים.) אני, יחד עם רוב המתדיינים איתך כאן, חושב שקוואליה, לפחות בינתיים, היא עניין בלתי מדיד, וקשה לי לדמיין איך היא יכולה להפוך לעניין מדיד (אם כי מי יודע). בפרט, תצטרך לעבוד מאוד קשה כדי לשכנע אותי (ואת רוב השאר, כך נדמה בינתיים) שאיזשהו מבחן התנהגותי יהיה נאות עבורה. בפרט (כפי שאמרתי בתגובה אחרת, אבל אולי היא מופיעה יותר למטה) כשאתה מראה שאפשר לבנות משהו שאינטואיטיבית אין לו קוואליה, ועובר את המבחן. אם מדען או פילוסוף יאתגר אותי "הראה לי שיש קוואליה", בלי להתבלבל אשאל אותו שאלה אחרת: "האם *לך* יש קוואליה?". אם הוא יגיד "כן", אז אומר "יופי, עושה רושם שגם לכל שאר האנשים ששמעו על המושג יש. אפשר להמשיך הלאה". אם הוא יגיד "לא", או אפילו "לא יודע" (אחרי שהוא קרא את הערך בוויקיפדיה) אז אשאל "באמת? באמת-באמת-באמת? נשבע באמש'ך?". אם הוא יגיד "בחיי, נשבע לך, cross my heart and hope to die", אז אאלץ להפסיק איתו את הדיון, ורשמית להפרד כידידים (ובסתר לבי כנראה אחשוד ביושר האינטלקטואלי שלו). יותר מזה איני יכול, ואיני רואה דרך להתקדם יותר מזה. בינתיים עושה רושם שפחות-אי-יותר כולם עונים "כן". עכשיו נשאלת השאלה האם במצב עניינים זה, אפשר לומר שהקוואליה היא מדעית; ואם לא, האם יש מקום לדבר עליה, או שצריך להשליך אותה לפח הזבל של המיסטיקה. אני מניח שבמובן חמור של "מדעי", היא אכן מחוץ לגבולו של המדע. אבל בתפיסה כל-כך מצומצת של המדע, אני לא חושב שאיזשהו מדען יסכים לצמצם את עולמו רק למה שהוא מדעי. המתמטיקה, למשל, היא לא מדעית, ואני לא חושב שמדענים ישושו לוותר עליה. אני לא אומר שקוואליה דומה למתמטיקה באיזשהו מובן, חוץ מזה שהיא משהו לא-ממש-מדעי שרוב המדענים יקבלו. יש למדענים "תחום דיון" מסוים, שכולל את כל מה שהוא מדע-ממש אבל עוד כמה דברים, ואני חושב שגבולותיו נקבעים על-ידי הגיון אינטואיטיבי משותף, שהזכרתי באותה תגובה אחרת. נכון שרוחות רפאים (ושאר מיני מיסטיקה) אינן חלק מהמדע, אבל לדעתי לא זו הסיבה האמיתית שמדענים אינם מקבלים אותן - אלא שתחת הידע המדעי הכולל שלנו זה פשוט לא הגיוני שהן קיימות. תשאל אותי, האם יש דברים אחרים שהם יותר כמו קוואליה (בניגוד למתמטיקה) ומדענים מקבלים? כנראה שלא. עושה רושם שהקוואליה היא נקודה סינוגלרית שכזו בידע האנושי. די מבאס אולי, אבל אני לא חושב שזה מצדיק לכפות עליה קריטריונים שזרים לה. |
|
||||
|
||||
לא אמרתי ש"הכל זה אותו דבר, מדע ולא-מדע". רק שהתיחום ביניהם לא ברור. המשמעות של השימוש בקריטריון של סבירות היא שפעמים רבות ההבדל בין אובייקטים מדעיים ואובייקטים לא-מדעיים הוא עניין של אישוש (דהיינו, הבדל בדרגה ולא בסוג) או של שיקולים תיאורטיים שקשורים להבדלים באישוש. לשאלותך: 1. לדעתי קיומה של קוואליה סביר יותר מקיום של אטומים. את הקוואליה אני מרגיש, על קיום האטומים אני מסיק מקיומה של תיאוריה. אפשר גם לטעון שהעניין הפוך: לאטומים יש תמיכה תיאורטית רחבה, בעוד שלקוואליה אין תמיכה תיאורטית בכלל. עניין של בחירה, אבל לדעתי, הקוואליה היא חוויה כל כך ראשונית שאין אפשרות להתכחש לה. 2. אני לא בטוח כיצד משווים אובייקטים מדידים ולא מדידים כשהם שייכים לסוגים שונים. למשל, חוקי הפיזיקה הם מדידים (נגיד, ורק במסגרת תיאוריה מקיפה על העולם), בעוד שחוקי הלוגיקה הבסיסיים אינם כאלה. בעיניי חוקי הלוגיקה סבירים יותר. 3. הצעתי כבר עיקרון רציונאלי: קיומם של הדברים צריך להתיישב עם מכלול הידע והאמונות שלנו, המדעי והלא-מדעי. 4. קוואליה. |
|
||||
|
||||
1. על קיום האטומים אתה מסיק מניסויים אובייקטיביים. לא מקיומה של תאוריה. קיימת גם תאוריה שאין אטומים אלא שכל חומר מורכב מתערובת של 4 יסודות: אוויר, אש, מים ואדמה. איך יודעים מי יותר סבירה? אולי, הן סבירות באותה מידה? או שהן סבירות לפי מי שיותר פופולרית? או לפי מה שיותר מסתדר עם החושים שלנו? לדעתי, אם יש תאוריות סותרות שיש להן תחזיות תצפיתיות שונות (כמו 2 התאוריות שנתתי), אז אפשר לבדוק מי יותר סבירה ע"י תצפית 1. מה דעתך? האם יש דרך להכריע בינהן מבלי תצפית? האם תאוריה שסותרת תצפיות יכולה להשאר סבירה? 2. חוקי הלוגיקה הם אקסיומות. לדעתך הם סבירים? יותר או פחות סבירים מחוקי לוגיקה חלופיים? מעניין. אבל - אני שמח בכך שאתה מכיר שאובייקטים מדידים ולא מדידים כן שייכים לסוגים שונים של דברים. קטגוריות שונות. לחיים. 3. רגע, רגע. אבל איך תכריע אם יש סתירה? איך תכריע אם פילוסוף אחד אומר יש קוואליה, והשני אומר אין קוואליה? אמרת בסעיף 1 "עניין של בחירה". האם זה אומר, שכל אחד מכריע אם יש או אין קוואליה לפי אמונתו, ואין באמת דרך אובייקטיבית לקבוע את זה? יתרה מכך. תורה מדעית כמו אבולוציה לא מסתדרת טוב עם האמונה באלוהים, ותורת היחסות הפרטית ממש נוגדת את התחושות והחוויות שלנו. האם כשאנחנו קובעים את הסבירות של התורות האלו, עלינו לקחת בחשבון גם את האמונה באלוהים, וגם את התחושות שלנו שהזמן איננו יחסי אלא אחיד בכל מקום? לדעתי, הפתרון הוא שכאשר בודקים דברים בקטגוריה "מדידים", עלינו להתעלם מאמונות ששייכות לקטגוריה "לא מדידים". מה דעתך? 4. אם ההסבר שלך מסתמך אך ורק על האמונות שלך ("עניין של בחירה" כמו שאמרת) אני מבין. אבל שאלת מיליון הדולר היא: האם יש לך הסבר רציונאלי שיכול לשכנע אחרים שקוואליה קיימת? או לחלופין, לשכנע אנשים שדיברו עם רוחות רפאים שרוחות רפאים פחות סבירות מקוואליה? אני יודע ששאלתי הרבה שאלות. בכל זאת, אני אשמח לשמוע את דעתך. 1 ניסוי אובייקטיבי שניתן לשיחזור, ידה ידה ידה. |
|
||||
|
||||
1. זאת שוב הבעיה של ההיפותזות החיצוניות. המדען אף פעם לא יכול לבחון טענה מבודדת. כשאתה בוחן טענה אתה מניח המון הנחות יחד איתה. למשל, אם אתה בוחן את הטענה "אלקטרונים משאירים עקבות בתא בועות", אתה מניח הנחות על מה זה אלקטרונים (למעשה, את כל התיאוריה של האטום), על תא בועות, על מה מודדים המכשירים שלך ועוד. אין "תצפית אובייקטיבית". כאשר תוצאות של ניסוי אינן מסתדרות עם הציפיות שלך, אין דרך לדעת אם הטענה שרצית לבדוק הופרכה, או אם אחת מהתיאוריות שהשתמשת בהן כדי לערוך את הניסוי (למשל, תיאוריה של האטום, הנחות על תא הבועות, הנחות על המכשירים וכולי) אינה נכונה. לכן, תיאוריה שסותרת תצפית יכולה להישאר סבירה, כי בסופו של דבר אנחנו בוחרים איזה הנחות לשנות. אנחנו יכולים לפסול תצפית על סמך אי התאמתה לתיאוריה שלנו, אנחנו יכולים לפסול תיאוריה כי היא לא מסתדרת עם ההנחות הבסיסיות של הפיזיקה, אנחנו יכולים לשנות את ההנחות הכי בסיסיות של הפיזיקה בגלל התצפיות (עשינו את זה במקרה של תורת הקוואנטים ותורת היחסות למשל). אלו כולן אלטרנטיביות לגיטימיות. אני לא טוען שהבחירה ביניהן שרירותית, אבל אין זה נכון שאפשר להכריע בין תיאוריות פשוט על בסיס תצפיות (יש מי שטוען שכן, למשל פייראבנד, אבל הוא לא יקבל את הרעיון של תצפיות אובייקטיביות – כל תיאוריה בונה לה את האונטולוגיה שלה). בכל מקרה, אני לא יודע להסביר כיצד אנחנו מחליטים מה סביר. אני מוכן להניח שיש לכך קשר לתצפיות וקשר למכלול הידע והאמונות שלנו. יש פילו' שבונים מודלים מעניינים כדי להסביר איך זה קורה, אבל לא מדובר על יחס לוגי בין התצפיות להחלטות שלנו לקבל תיאוריה בודדת או לדחותה. 2. אני לא יודע מה המשמעות של אקסיומות מחוץ למתמטיקה. חוקי הלוגיקה הם מבחינתי אמונות סבירות (ולו בגלל שאני מצליח לחצות כביש בשלום). הניסוח שלי של "סוגים שונים" היה לא מוצלח. 3. התייחסתי לזה בסעיף הראשון. אני חושב שהבחירות שלנו, באופן כללי, אינן שרירותיות. ככל שאתה מתקרב לתחום האמפירי הן פחות שרירותיות, אבל זה לא עושה אותן תוצאה ישירה של ניסויים ומדידות. 4. עוזי הציע הסבר רציונאלי מדוע לבני-אדם סביר שיש קוואליה ואילו לעצמים לא. זה טיעון שאתה לא חייב לקבל, אבל לי הוא נראה סביר. |
|
||||
|
||||
1. נו. בשביל זה יש את התער של אוקאם. נניח יש לך 2 תאוריות: א. תורת האטומים נכונה ב. תורת 4 היסודות נכונה, אבל מכשיר בועות הוא מכשיר לא אמין. חוץ מזה לא הצלחנו לשחזר במעבדה ברזל מ"אש, מים ואוויר" מכיוון שלא היתה לנו אבן חכמים. הסיבה שהמסה של תרכובות באה בקוואנטות קבועות של (מסה אטומית של מולקולה) היא בעיית דיוק מוזרה מאד במדידת משקל... (וכו' וכו' וכו'). גם אם 2 התאוריות שקולות לחלוטין מבחינת היכולת להסביר את התצפיות, נבחר את זו שנראית יותר פשוטה - כלומר, זאת עם הכמות המינימלית של הנחות יסוד שרירותיות 1. נכון - לפעמים קשה להגיד מה יותר פשוט. במקרה הספציפי הזה - זה מאד ברור. אני מבין שהתער של אוקאם נראה לך לא מודרני ולא "פופולרי". אבל ההכרעה בין שתי התאוריות למעלה היא מאד מעשית ומשמעותית2! אם אתה אומר "אני לא יכול להסביר כיצד אנחנו מחליטים מה סביר", אז מצבך לא טוב יותר מהאמפריזם שאתה יוצא נגדו. שניכם לא מספקים פתרון. וכאמור, יש כאן בעיה מעשית, לא פילוסופית. לדעתי אמפריזם+התער של אוקאם מאפשר לנו נוסחא מנצחת. מה דעתך? 3. התעלמת מהשאלה שלי. 3.א. איך אפשר (אם בכלל) להכריע בין שני פילוסופים שאחד אומר שיש קוואליה והשני טוען שאין? 3.ב. האם מיישבים את הסתירה בין אמונות מהתחום הלא מדיד, לבין תאוריות מהתחום המדיד? למשל, גם היום אנשים מאמינים שמשהו כבד נופל יותר מהר ממשהו קל3. כיצד מיישבים את הידע הזה ביחד עם תאוריה מדעית שאומרת אחרת, וביחד עם ניסוי מדעי שאומר אחרת? גם במקרה הזה, הנכונות של התאוריה המדעית היא מאד חשובה לאפליקציות מעשיות. בעיה מעשית לחלוטין. מה עושים? 4.א. ההסבר של עוזי מתחיל מזה שהוא מאמין שיש לו (אישית) קוואליה, וזה דבר מסתורי. ואני שאלתי - איך תשכנע מי שלא מאמין שיש לו קוואליה? או מי שחושב שקוואליה היא איננה דבר מסתורי? 4.ב. אמרת שקוואליה יותר סבירה מרוחות רפאים. ואני שואל: איך תשכנע אנשים שראו רוחות רפאים? ---- 1 המונח אבן חכמים היא הנחת יסוד שרירותית. כך גם העובדה שמכשיר בועות הוא לא אמין (אלא אם כן יש לזה הסבר שלא מתבסס על הנחות יסוד חדשות). 2 כאשר בונים בניין למשל, צריך לדעת איזו מהתאוריות נכונה - כי לכל תאוריה השפעה שונה על התכנון של הבניין. 3 שני הדברים הם באותו גודל וצורה. |
|
||||
|
||||
1. יש הרבה סיבות לא לקבל פשטות כקריטריון, אבל הדוגמא הכי טובה לכך שזה לא קריטריון נכון מובאת ע"י פטנם: נניח שנתונות לך שלוש נקודות על ה-highway (כביש 40 בדוגמא שלו) שיוצרות קו ישר. נניח שיש לך שאלת מחקר "האם כביש 40 הוא ישר". האם תסיק שהוא אכן ישר בגלל שזאת ההיפותזה הפשוטה ביותר שמסתדרת עם כל העובדות הנתונות? ברור שלא. אתה יודע שכבישים מהירים בארה"ב הם ארוכים מאוד, אתה יודע שקשה מאוד לבנות כביש ישר לאורך קילומטרים רבים, אתה יודע ששאר הכבישים המהירים בארה"ב אינם ישרים. אם תתבקש לספק תשובה לשאלת המחקר על סמך הנתונים, אתה תבחר בתשובה *הסבירה* ביותר בהתחשב במכלול הידע שלך ("לא ישר"), ולא הפשוטה ביותר בהתחשב בנתונים. לא ברור לי מדוע זאת שאלה מעשית. המדענים ימשיכו בשלהם והפילוסופים ימשיכו בשלהם. (פטנם לא היה מסכים איתי כאן. הוא היה מתחיל לריב עם בויד, אז נעזוב את שניהם בצד). גם השאלה אם נוכל אי פעם ליצור רובוט עם קוואליה אינה שאלה מעשית כיום. אתה לא צריך להיות מוטרד לחינם. 3א. שאלת כיצד מכריעים בין פילוסופים. למה להכריע? כל זמן שיש מחלוקת יש עבודה לשניהם. אתה מנסה לחסוך בתקנים? 3ב. שאלת כיצד להכריע אם משהו כבד נופל מהר ממשהו קל. באופן כללי, נראה לי שבעולם המערבי יש מעמד מאוד גבוה למדע, כך שאנשים מקבלים את רוב הקביעות של המדע ללא ערעור. אני מתאר לעצמי שמי שיש לו אפליקציות מעשיות יעדיף להאמין למדע. לחלופין, אני מניח שהברירה הטבעית תבצע את תפקידה. כמו שכתבתי, אני לא חושב שהבחירה ברוב האמונות שלנו היא שרירותית ושכל אמונה שווה לזולתה, אבל זה נושא רחב מאוד שגדול עליי. 4. לדעתי, מי שמאמין שאין לו קוואליה מאמין שהוא זומבי, ונראה לי בזבוז זמן לשכנע אותו (בעצם, נדמה לי שיש דה-פרסונליזציה של העצמי כמחלה. לא זוכר). מי שחושב שקוואליה הוא לא דבר מסתורי יכול להמשיך לחשוב כך. אני לא יכול לשכנע שאין רוחות רפאים את מי שמאמין ברוחות כאלה. אני לא מאמין כזה גדול בשיג ושיח. מסתבר שאפשר לחוות את העולם בכל מני צורות, ובתוך תחומים מסוימים אין בזה כל רע, זה רק יוצר פלורליזם מעניין. |
|
||||
|
||||
אתה עורך הבחנה בין "נתונים" ל-"מכלול הידע" (בפסקה הראשונה למשל). תוכל להרחיב קצת יותר בנושא? מה כולל הראשון, מה כולל השני, איך מבדילים בינהם ולפי מה בוחרים למה להתייחס? |
|
||||
|
||||
הנתונים כוללים נתונים: כלומר, עובדות קיימות בבירור. מכלול הידע כולל גם מסקנות לוגיות על סמך אותם נתונים. |
|
||||
|
||||
אממ...הסוגיות שהעלית מכסות חלק גדול מהפילו' של המדע. אני לא כל כך יודע מאיפה להתחיל. |
|
||||
|
||||
הניחוש שלי היה ש-"נתונים" הם אותו חלק מ-"מכלול הידע" שרלוונטי לבעיה הנדונה. הניחוש הזה כנראה שגוי, כי לאורו נראה שהפסקה הראשונה בהודעה המקורית שלך חסרת משמעות. אולי תתחיל מכאן: מדוע הוא שגוי? |
|
||||
|
||||
אני אנסה לכתוב בצורה בהירה יותר. ב"הנתונים" התכוונתי לנתונים התצפיתיים - עובדות שמשמשות לאישוש ההיפותזה המדעית. למשל, בדוגמת הכביש, הנתונים היו שלוש נקודות הציון, וההיפותזה הייתה "כביש 40 הוא ישר". הדרך הפוזיטיביסטית לראות את המדע הייתה שיש יחס לוגי-אינדוקטיבי ישיר בין הנתונים לבין ההיפותזה שנקבעת כחוק מדעי: הנתונים העובדתיים משוקפים בטענות בשפה ומהווים הקדמות בטיעון אינדוקטיבי שבו ההיפותזה המדעית מהווה את המסקנה. במובן זה, "האמת המדעית" היא אמת לוגית. קריטריון נוסף היה פשטות: כשיש לנו מספר היפותזות אפשריות שיכולות להיות מאוששות ע"י הנתונים התצפיתיים, אנחנו בוחרים בהיפותזה הפשוטה ביותר מבין ההיפותזות הזמינות. "מכלול הידע" הוא, בפשטות, כל הידע שלנו. הרעיון הוא שאי אפשר להסביר את היחס בין הנתונים התצפיתיים לבין ההיפותזה כיחס לוגי-אינדוקטיבי פשוט, אלא שההחלטה אם לדחות או לקבל היפותזה כמתאימה לנתונים התצפיתיים שבידינו נעשית ביחס למכלול הידע והאמונות שאנחנו מחזיקים בהם. יש כל מיני הצעות מה בדיוק מכלול הידע הזה וכיצד אנחנו מחליטים מה מתאים לו (החל מרשת-האמנות של קוויין ועד פרדיגמות של קון, עם הרבה אפשרויות אחרות באמצע), אבל הרעיון המרכזי הוא שאי אפשר לבטא את היחס בין הנתונים להיפותזה כיחס לוגי פשוט. |
|
||||
|
||||
הצלחת. תודה. |
|
||||
|
||||
הדוגמא של הכביש היא מצויינת, כי היא מאפשרת להפעיל מתודולוגיה מדעית: א. אף מדען לא יעיד "הכביש ישר". הוא יגיד "הכביש ישר עד כדי טעות של 100 ק"מ1". וזה כי המשפט השני מתאר את התצפיות הרבה יותר טוב. למעשה, במעבדה באוניברסיטה לומדים לנסח מסקנות בצורה הזו. ב. אף מדען לא יקבע איזשהו הנחה לגבי הכביש בלי כמות מספקת של תצפיות. זאת מכיוון שניסוי עם כ"כ מעט מדידות, אכן עשוי להטעות. והוא אכן מטעה. ג. מכלול הידע שציינת (הכבישים מתאימים לפני השטח, ולרוב כבישים הם ארוכים מאד) - האם הוא ידע מדעי, או ידע לא מדעי? במילים אחרות, האם הוא מבוסס על תצפיות - או שהוא מכיל בתוכו משהו שהוא אמונה בלבד? בעיני, כל הידע הזה הוא ידע מדעי. התבססות על הידע הזה היא בסה"כ התבססות תצפיות אחרות. אמרת בתגובה 309469: "אין קו גבול בין מדע ללא-מדע, ולכן הסבירות של ההיפותזות שלנו נעשית ביחס למכלול הידע שלנו ולא ביחס לידע המדעי בלבד." אני חולק על כך בצורה החריפה ביותר. אני אנסה לתת לך כמה הבדלים עקרוניים בין מדע לבין לא-מדע (המושג לא-מדע אינו מוגדר היטב - אבל נתת בתגובה שלך המון דוגמאות לעבוד איתן): 1. המדע שונא סתירות. הוא אוהב עקביות. מצב בו יש תיזה מדעית מקובלת, ותצפיות שסותרות אותה הוא בלתי נסבל. לעומת זאת, הלא-מדע סובל סתירות. כמו שאמרת - למה להכריע? יותר עבודה לכולם. 2. המדע מנסה להיות אובייקטיבי. זאת, כי הוא מחפש אחרי אמת אובייקטיבית. לעומת זאת, בלא-מדע יכולות להיות מספר דעות סוביקטיביות הפוכות. 3. המדע הוא שמרן ומתודולוגי. ניסוי יכול להפסל רק בגלל שהוא לא היה מספיק זהיר. ניסוי (תצפית) בודד לא יהווה הוכחה או הפרכה של שום דבר. לעומת זאת בלא-מדע הכל חופשי. לדוגמא - אפשר להחליט עפ"י דעות של אנשים אחרים, ומעמדם בחברה (כמו שהדגמת). אפשר גם לקבוע קביעה גורפת (כמו שאתה עשית על הקוואליה) על סמך תחושה סובייקטיבית לגמרי שאינה ניתנת להוכחה בשום דרך אחרת. 4. מדע לא סובל התבססות על ידע לא מדעי. למעשה זה התער של אוקאם - כל הנחת יסוד שאינה מבוססת על כלום נחשבת לא מדעית. בהשוואה, הלא-מדע הוא מאד חופשי. מותר להתבסס על ידע מדעי ועל ידע לא מדעי. מותר גם לסתור ידע מדעי. הכל הולך. הסיבה ששאלתי אותך את שאלות 3 ו- 4 הן כדי להדגים את הנקודות האלו. כאשר העם קובע "האם משהו כבד נופל מהר יותר ממשהו קל", אכן מותר להתייעץ עם מהנדס או עם רבי או עם התחושות שלנו. כל שיטת החלטה הולכת. כאשר מדען קובע את זה הוא רוצה קביעה אובייקטיבית. לכן, הוא יעשה ניסוי. זה בא להדגים שמבחינה מדעית, לתצפיות יש עדיפות. הסייגים שלך עומדים במקומם. מתמודדים איתם עם עוד תצפיות שייערכו ע"י אנשים שונים ובדרכים שונות. ואם משהו לא מסתדר עם מכלול הידע הקיים, אז על אחת כמה וכמה שצריך עוד תצפיות. צריך אפילו לבדוק את מכלול הידע עצמו ע"י חזרה על תצפיות שנערכו בעבר. פילוסוף יכול לשנות את דעתו על קוואליה מהיום למחר. כדי לשכנע את הקהילה המדעית שיש קוואליה צריך הרבה הרבה סבלנות וניסויים. מילים לא יספיקו. אז תרשה לי לסכם את הדיון, כפי שאני רואה אותו. 1. לדעתי, קוואליה היא דבר מדעי ומדיד. לדעתך היא דבר לא מדיד 2. 2. אני אמרתי שדברים לא מדידים אינם ראויים לדיון מדעי (ואם קוואליה היא כזו, זה חל עליה). 3. בתגובה אמרת את המשפט על קו הגבול בין מדע ללא מדע. 3 4. על המשפט ההוא אני חולק מאד, וניסיתי להדגים את זה ב 3-4 חילופי דברים האחרונים שלנו. שבת שלום. ---- 1 תלוי במרחק בין נקודות הדגימה. 2 מכאן התפתח ויכוח גדול מאד על רובוט עם קוואליה. אבל בתכלס אני ניתחתי את הקוואליה באופן מדעי, אמפירי ואתה באופן לא-מדעי, בהתבסס על תחושות, הנחות, וכו'. הכל נבע מהמחלוקת הבסיסית. 3 לא התייחסת מפורשות לסיבה שאמרת את המשפט הזה. אני חושב שזה כדי ליצור איזשהי "לגיטימיות מדעית" לדיון הלא מדעי בקוואליה - ולהגיד שבעצם אין הבדל עקרוני בין דיון מדעי לדיון מהסוג שלך. יכול להיות שאני טועה. |
|
||||
|
||||
"כאשר מדען קובע את זה הוא רוצה קביעה אובייקטיבית. לכן, הוא יעשה ניסוי. זה בא להדגים שמבחינה מדעית, לתצפיות יש עדיפות." מה עם "אלוהים לא משחק בקובייה"? ולמשל, דוגמא לאי-דיוק שמהווה סילוף מדעי: "לרובוט יש קוואליה" (אחרי שתבנה אותו בהתאם). טעות. הניסוח הנכון יהיה "הרובוט תוכנן לעבור מבחן X לקיום קוואליה". |
|
||||
|
||||
הדוגמא של "אלוהים לא משחק בקובייה" היא מעולה. איינשטיין היה אחד המדענים הגדולים ביותר. ובכל זאת, הדעה שלו היתה "שווה פחות" 1 מהתצפיות שקבעו שתורת הקוואנטים נכונה. למעשה, זה ברור לחלוטין מניסוח האמירה שאיינשטיין מביע כאן דעה - לא קביעה מדעית. ואכן הקהילה המדעית קיבלה את תורת הקוואנטים על אף הדעה הזו. לגבי הסילוף המדעי כביכול - האם אתה טוען כי כחול עמוק לא באמת ניצח את קספרוב בשחמט כי כחול עמוק תוכנן לשחק שחמט וקספרוב לא? המבחן הסופי במדע הוא מבחן התוצאה. ראה גם תגובה 309347. --- 1 וכשאני אומר שווה פחות, אני מתכוון לא רלוונטית בכלל לצורך הבדיקה האם תורת הקוואנטים נכונה. |
|
||||
|
||||
מה דעתך על הטענה ש"כחול עמוק" לא מבין איך משחקים שחמט? (רמז: זו בעיקר שאלה על ההגדרה של המלה "מבין". כשנסיים, אולי נעבור להגדרה של "קוואליה"). |
|
||||
|
||||
איך אתה בודק אם הוא "מבין" איך משחקים שחמט? את החוקים הוא יודע, והוא משחק מצויין. אתה יכול לבדוק למשל לשאול אותו שאלות כמו "מתי כדאי להקריב כלי". והוא לא ידע לענות. מצד שני, לאור העובדה שהוא ניצח את אלוף העולם בשחמט, אולי אנחנו לא מבינים שחמט, והוא כן מבין? |
|
||||
|
||||
יש שתי תאוריות מתחרות: או שהוא משחק כל-כך טוב כי הוא סורק המון מצבים בזמן קצר ומשתמש בפונקציות הערכה מסועפות מאד, או שהוא מבין שחמט. אבל אני יודע איך המחשב הזה פועל (הוא סורק המון מצבים בזמן קצר ומשתמש בפונקציות הערכה מסועפות מאד). זה מחליש את ההנחה שהוא מבין שחמט. איזו הגדרה של המלה "מבין" יותר שימושית לדעתך, כזו שלפיה המחשב מבין שחמט שהרי הוא משחק טוב מאד, או כזו שבודקת איזה מגננון אחראי למשחק המשובח? |
|
||||
|
||||
מאד לא ברור איך אתה מגדיר "מבין שחמט".. 1. רק מי שמשחק כמו בנאדם מבין שחמט. 2. מבין שחמט = יודע את צפונות השחמט באמת. אבל באמת באמת. לא משהו שאפשר למדוד באופן אובייקטיבי. לגבי 1 - הגדרה מאד לא מענינת. פשוט אתה יכול להגיד "רק אנשים מבינים שחמט" ולעזוב אותי במנוחה. לגבי 2 - הגדרה מסתורית משהו. לפי הגדרה זו, אני לא מכיר אדם אחד שיכול לטעון בכנות שהוא מבין איזשהו משהו, באמת, עד הסוף. ואתה? |
|
||||
|
||||
כשאני משחק שחמט אני מנסה לחשוב איזה מהלכים אני יכול לבצע, ולהעריך איזה יקדמו אותי בצורה הכי טובה. לי זה נראה כאילו אני סורק מצבים (אמנם, לא המון ולא בזמן קצר) ומשתמש בפונקצית הערכה (אמנם, לא מסועפת במיוחד). מה שכן, אני הראשון שיודה שאני לא מבין שחמט. |
|
||||
|
||||
עוד כמה נקודות מענינות למחשבה: תארו לעצמכם משחק פשוט כמו איקס-עיגול. נניח שאדם יודע את האסטרטגיה המיטבית של איקס-עיגול. האם הוא "מבין איך משחקים?" או שאולי הוא פשוט זוכר את כל המצבים האפשריים (ויש מעט מאד). לדעתי, אדם שזוכר את כל המצבים האפשריים מבין מעולה איך משחקים. תארו לעצמכם שלכחול עמוק היה מעט מאד כוח עיבוד אבל הרבה מאד זיכרון והוא פשוט היה זוכר את כל המצבים בשחמט ולפי זה יודע תמיד מהי הדרך לנצחון. האם היינו טוענים שהוא לא מבין שחמט? מה ההבדל העקרוני בינו לבין השחקן האנושי של איקס-עיגול? |
|
||||
|
||||
אני חולק כמעט על כל משפט שכתבת בתגובתך, אבל אני יכול לחיות עם הסיכום שלך. |
|
||||
|
||||
נדמה לי שהשם "קוואליה" מרמז על כך שיש לה רק איכות ולא כמות, כך שלפחות אלה שבחרו את המושג הזה לא חשבו כמוך. מעניין מה רוברט פירסיג היה אומר על כל זה, הה? |
|
||||
|
||||
איך מדענים מכריעים האם תצפיות נתונות מאששות או מפריכות תיאוריה כזו או אחרת? השערה שלי: אין אלגוריתם לכך. הם מפעילים היגיון אינטואיטיבי (תוך לקיחה בחשבון של הידע המדעי). למה מדענים מלכתחילה התחילו להפעיל שיטות של אמפיריקה, ולקבל את התער של אוקאם? השערה שלי: מתוך הגיון אינטואיטיבי. האם יש איזשהו אלגוריתם למדידת פשטות, שנחוץ כדי להפעיל את התער? השערה שלי: לא. אני חושב שהגיון אינטואיטיבי קולקטיבי הוא למעשה השופט העליון במדע (במקרה יוצא שאכן לרוב מכריע של המדענים יש הגיון דומה, ויש ראיות אמפיריות לכך (-: ). יכול להיות שכדי להכניס את הקוואליה תחת כנפי המדע אכן חייבים מבחן מדיד (על כך, בתגובה נפרדת), אבל אני חושב שזה כשלעצמו לא מכשיר כל מבחן שתציע: תצטרך לעמול קשה (ולהשערתי, במישור פילוסופי יותר ממדעי) כדי לשכנע שהמבחן המוצע אכן מודד קוואליה. ובינתיים נראה שברגע שאתה מעלה את רעיון הרובוטים שלך, אתה מכשיל את המבחן. |
|
||||
|
||||
מה זה "הגיון אינטואיטיבי"? ו"הגיון אינטואינטיבי קולקטיבי"? |
|
||||
|
||||
הגיון אינטואיטיבי: מה שמפעילים כדי לקבל או לדחות טענות שונות, שלא באמצעות כללים פורמליים. למשל, הכללים הפורמליים עצמם מתקבלים או נדחים על-סמך הגיון אינטואיטיבי. וגם עניינים יותר טריוויאליים: הוכחות במתמטיקה, כאלו שאתה רואה בכתבי עת או בכיתה, אינן באמת מורכבות מהאקסיומות וחוקי הגזירה של הלוגיקה הפורמלית. בעיקרון אפשר לפרוט אותן לכאלה, אבל אף אחד לא טורח. ברמה שבה מציגים אותן, פשוט "רואים" שזה נכון. בדומה לכך, הטענה שתצפית נתונה מאוששת או מפריכה תיאוריה מדעית כלשהי. על כך דיברתי. קולקטיבי: מתברר, למרבה השמחה, שיש התאמה מופלאה בהגיון האינטואיטיבי של מדענים ופילוסופים. אף אחד לא מכריח אף אחד אחר לקבל את עקרונות המתמטיקה, או את כללי היסוד של המחקר הפיזיקלי; אבל עושה רושם שלכולם הם נראים נכונים. |
|
||||
|
||||
זהו? גמרת את התואר אז מצדך שיסגרו את המחלקה? |
|
||||
|
||||
לא. נראה לי שמה שרוב הפילוסופים של המדע עושים הוא לנסות לנסח בצורה יותר פורמלית את ההגיון האינטואיטיבי הקולקטיבי הזה, להצביע היכן הוא אולי לא הגיוני, היכן יש לו נקודות תורפה, להצביע על כך שהוא בכלל קיים (כפי שאני עשיתי), להצביע על כך שקשקוש לטעון שהוא קיים (כפי שהיו עושים, ובצדק, אילו הייתי מעלה את הרעיון בקהילה האקדמית). משהו שרובם כבר לא עושים הוא לומר למדענים מה לעשות. |
|
||||
|
||||
דווקא אצלנו היה מקובל לומר, שבכל הוכחה שבמקום פירוט השלבים נאמר "קל לראות", הקלות הזאת דורשת עוד איזה 2-3 עמודים של איזה למות קטנות. |
|
||||
|
||||
קיימת גם תאוריה שאין אטומים אלא שכל חומר מורכב מתערובת של 4 יסודות: אוויר, אש, מים ואדמה. וזהו? אין (ולא יכולות להיות) תאוריות נוספות? |
|
||||
|
||||
כן, יש גם תיאוריה שרק הקוואליה שלי קיימת וכל השאר הוא פיקציה שהמצאתי. |
|
||||
|
||||
זו לא *גם* תיאוריה. זו האמת. |
|
||||
|
||||
אגב, יש לי שאלה באותו הקשר. האם בעיניך יש הבדל עקרוני בין רפואה קונבנציונלית, לבין ריפוי בעזרת תקשור עם חייזרים 1. כי אם לדעתך בדיקה אמפירית היא לא ממש חשובה - הרי סביר שקיימים חייזרים וסביר שיש להם כוחות ריפוי. אז סביר שהמרפא הזה יעבוד! האם אתה חושב שהמדינה צריכה להכיר בריפוי בעזרת חייזרים? האם אתה אישית היית הולך למרפא כזה? --- 1 הייתי מצרף לינק למרפא כזה, אבל אני נגד. |
|
||||
|
||||
יש הבדל. מי אמר שלדעתי בדיקה אמפירית היא לא חשובה? |
|
||||
|
||||
יכול להיות שפרשתי את המשפט הבא שלך בצורה לא נכונה: "ניסוי פורמלי שמהווה בדיקה ישירה שלו אל מול המציאות כבר לא ממש פופולרי (מהסיבה הפשוטה שאי אפשר לאמת כלום)." חשבתי שמשתמע מכך שזה כבר לא ממש פופלרי לבדוק באופן אמפירי אם שיטת ריפוי מסוימת עובדת. אני מקווה שזה עדיין פופולרי בתחום הרפואה. |
|
||||
|
||||
אפשר לבדוק באופן אמפירי, רק שלא ברור שהאופן האמפירי הזה קשור ישירות למציאות ולא דרך רשת-האמנות. |
|
||||
|
||||
אני לא לגמרי מבין איך התארים "קשור ישירות למציאות" ו "לא ממש פופלרי" קשורים לחיים המעשיים. בגלל זה שאלתי שאלה מעשית לגמרי - האם לדעתך מרפאים בעזרת חייזרים הם לגיטימיים כמו רופאים רגילים? איך אתה קובע את התשובה שלך? ועל פי איזה קריטריון המחוקק צריך לקבוע איזה רופא הוא לגיטימי ואיזה לא? |
|
||||
|
||||
לא הייתי הולך למרפאים בעזרת חייזרים. אני קובע את התשובה על סמך התוצאות הסטטיסטיות של הרפואה הקונוונציונאלית מול רפואה אלטרנטיבית לסוגיה ועל סמך אי האמונה שלי בקיומם של חייזרים מרפאים (זה לא מתאים לרשת ההאמנות שלי). עניין המחוקק זה נושא שמערב גם פוליטיקה, אני מציע שנניח אותו בצד. |
|
||||
|
||||
זה לא רק עניין של פוליטיקה. זה עניין מעשי מאד. נגיד שיש לך אח, שאתה מאד אוהב אותו. אבל הוא (לא עלינו), דווקא מאמין שקיימים חייזרים מרפאים 1. נניח שאחיך חולה מאד 2, והוא מתלבט לאיזה רופא ללכת. מצד אחד הוא מאמין שסביר שקיימים חייזרים מרפאים. מצד שני, הוא יודע שלרפואה הקונבנציונלית יש תוצאות סטטיסטיות יותר טובות, רק שזה לא מבטיח כלום לגבי החולה הבא בתור. נניח שהוא לא מוכן לוותר על אמונתו בחייזרים. כיצד תשכנע אותו ללכת לרופא קונבציונלי? 1 למרות שהוא יודע שאין לזה שום עדות אמפירית. 2 אני כמובן מאחל לו רק בריאות ואושר. באמת. |
|
||||
|
||||
בעזרת קסם אישי. בעזרת מכות. תלוי כמה הוא חולה ואם הוא יכול להחזיר לי. זאת שאלה ברטוריקה, לא? |
|
||||
|
||||
לא. הייתי אומר לו בפשטות: רפואה קונבנציונלית מתבססת על עובדות מדעיות (דהיינו תצפיות אובייקטיביות). רפואה בעזרת חייזרים - לא. לכן לרפואה קונבנציונלית יש עדיפות. והייתי עוזר בעזרת דימוי: נניח שמישהו מאמין שחפץ כבד נופל יותר מהר מחפץ קל. ואז הוא היה עושה ניסוי(ים) ורואה שלא כך. האם הוא היה משנה את אמונתו? כנראה. לעובדות אובייקטיביות תמיד תהיה עדיפות על דברים לא מדעיים. ואם אתה חושב שזה שאלה ברטוריקה, אז תחשוב עכשיו שזה לא אתה ואחיך, אלא המדינה ואזרחיה. גם המדינה אחראית לבריאות אזרחיה. החלטת המדינה - לפחות בנושא הזה של רפואה - חייבת להתבסס על עובדות. לא על אמונות. |
|
||||
|
||||
בכל נושא, כולל רפואה, החלטות המדינה (כמו כל החלטה) מתבססות גם על אמונות. (הרי לא תגיד שבתוצאותיו של מחקר מדעי אין שמץ של אמונה?) |
|
||||
|
||||
כשמתסכלים מספיק מרחוק הכל נראה אותו דבר. באותו מידה, היית יכול להגיד שהחלטות המדינה בכל נושא מתבצעות ע"י אנשים. אתה לא תגיד שרפואה קונבנציונלית וריפוי בעזרת תקשור עם חייזרים הם שקולים, נכון? יש איזשהו הבדל עקרוני בינהן - תקנ\י אותי אם אני טועה |
|
||||
|
||||
מסתכלים, לא מתסכלים :-) |
|
||||
|
||||
בהחלט גם מתסכלים. |
|
||||
|
||||
ודאי שיש הבדל. אני לא אומרת שלא. אבל ההבדל הוא לא בדיוק בין ''אמונות'' ו''עובדות''. ואני מתקטננת על העניין הסמנטי משום שנראה לי שבכל הדיון הזה אתה תקוע באי-דיוק מסוים שיכול להיות קטן בנקודת המוצא שלך, אבל הוא גדל מאוד תוך כדי ההיסקים שאתה בונה עליו. |
|
||||
|
||||
לא הבנתי את הנקודה שלך. הבאתי את הדוגמא של רפואה כדי לעשות הנגדה בין משהו שהוא מדעי למשהו שהוא לא מדעי. הדוגמא הזו היא מוצלחת כי היא מאפשרת באופן אינטואיטיבי להבין את ההבדל. כאשר את אומרת "בכל הדיון הזה" ו "אי דיוק מסויים", לא ברור לי לאיזה דיון את מתכוונת, ומהו אי הדיוק. הדוגמא הזו מתייחסת לדיון בטענה (של יהונתן): "אין קו גבול בין מדע ללא-מדע". אפשר להתחיל כאן - תגובה 309450. |
|
||||
|
||||
ראשית - בעניין הרפואה אולי עניין האמונות משחק אפילו יותר מאשר בתחומי מדע אחרים. אתה הרי יכול לראות שמדי כמה שנים יוצאים בעניינים רפואיים שונים מחקרים הסותרים את קודמיהם. לדעתי אין ספק שלפחות חלק מהסתירות נובעות מאינסטרסים שונים של החוקרים (והמממנים), המטים את אמונותיהם. שנית, בעניין האי דיוק - הבהרתי את עצמי בתגובה אחרת: אפילו כניסוי מחשבתי לא תוכל להוכיח ש"לרובוט תהיה קוואליה" - אלא רק שהרובוט "יעבור את מבחן הקוואליה". |
|
||||
|
||||
לגבי הנקודה הראשונה - אני לא מקבל את הפרשנות הזו. מחקרים שסותרים את קודמיהם יש בכל תחום. וברור שיש פרשנויות שונות למחקרים מורכבים ואפילו זיופים של תוצאות. אבל מכאן, ועד האמירה שרפואה, ומדע בכלל מבוססים על אמונות - רחוקה מאד הדרך. לגבי הנקודה השניה, אני פשוט לא מסכים איתך. אני שוב ושוב דש בזה. אם קוואליה היא דבר מדעי, קיומה נקבע במבחן. ובני אדם לא יכולים לקבל פטורים. בקפיצה חדה מאד, אני רוצה לפנות למתמטיקה. בא לי רעיון פרוע. בדומה למחשבות של המוח האנושי גם משפטים במתמטיקה יכולים להתייחס אל משפטים אחרים או אל המודל עצמו שבו הם מוגדרים. קיים משפט בלוגיקה שאומר (בניסוח חופשי): לכל מודל מתמטי (למשל המספרים השלמים), קיים מודל -שונה- שמקיים את כל המשפטים הנכונים במודל הראשון. נניח שמישהו יגדיר מודל תיאורטי מלא של המוח האנושי. משהו שמקביל לתרמודינמיקה או לתורת האלקטרומגנטית או משהו בסגנון הזה. המודל יגדיר מהי פעולה מחשבה. במודל יוכיחו שיכולות להווצר תופעות של מודעות עצמית ושל קוואליה. אם קיים מודל כזה, אז קיים גם מודל שונה ממש מהמוח האנושי, שגם בו קיימות מודעות עצמית, קוואליה וכל דבר אחר שאפשר להוכיח במודל הראשון. מה שמעניין כאן זה שלמרות שהמודל שונה ממש (זה בהחלט לא אמולוציה של המוח האנושי, אלא משהו שונה מהותית), עדיין מתקיים בו כל דבר שמתקיים במוח האנושי. מצד שני, זה רעיון פרוע מאד. אני בכלל לא בטוח שאני צודק. |
|
||||
|
||||
ראשית - גם מהטענה שאמונות יכולות להשפיע על תוצאות מחקרים מדעיים רחוקה מאוד הדרך עד הטענה שהמחקרים מבוססים על אמונות. שנית, למיטב הבנתי, אין משפט מתמטי האומר את מה שאמרת. המשדפט המתמטי הקשור בזה, עד כמה שידוע לי, הוא משפט גדל - האומר ששום מערכת *מתוך עצמה* איננה יכולה להוכיח את כל המפטים הנכונים הנובעים ממנה. שלישית, אני רלא רואה איך אתה קופץ ממערכות מתמטיות למודלים פיסיקליים. לי זה נראה פרוע במידה בלתי קבילה בעליל. ורביעית - שוב, בעניין האי-דיוק. אתן לך דוגמא. הוזכר כאן באחד הדיונים אותו ניסוי ידוע שבו הנבדקים, לכאורה, אמורים "לשפר" את זכרונם של אנשים באמצעות מכות חשמל. נניח שהיה מתברר שמישהו "הדליף" מראש לנבדקים שכל העניין הוא מבוים, ושאיש אינו מקבל באמת את מכות החשמל שלהם. האם היית ממשיך לקבל את תוצאות הניסוי כאמינות? סביר שלא. המדענים, ודאי, לא היו מקבלים אותן. בדיוק באותה מידה, אם הרובוט שלך צריך לזייף תוצאות כדי לעמוד במבחן הקוואליה - הרי אין ספק שלא הוכחת שיש לו קוואליה. הוכחת רק (אני חוזרת בפעם ה-17) שהוא עבר את מבחן הקוואליה המסוים ההוא. |
|
||||
|
||||
1. אם כל מה שרצית להגיד זה שאמונות עשויות להשפיע על תוצאות מחקרים מדעיים - מקובל עלי לגמרי. 2. המשפט הוא בהחלט לא משפט גדל. הנה לינק אליו: מצד שני, אני רואה עכשיו שיש דרישה לכמות אינסופית של איברים במודל. אני לא בטוח שהדרישה הזו מתקיימת בתורות פיזיקליות. 3. ההגדרה הפורמלית של מודל ותאוריה ב Model Theroy היא מאד כללית. להבנתי, התורות הפיזקליות בהחלט נכנסות לשם. מצד שני, ייתכן שאני טועה. את מוזמנת לקרוא את ההגדרה כאן: 4. ואני מדגיש בפעם האלף, שהרובוט שקול לאדם בכושר הקוואליה שלו. את טוענת שהוא מזייף כי את חושבת "אין לו קוואליה *באמת*. הוא רק עבר את המבחן". אבל זה בדיוק מה שהמבחן נועד לקבוע - האם "יש קוואליה באמת". אם המונחים *זיוף* ו*באמת* אינם מדידים, אסור לך להשתמש בהם. אם הם כן מדידים, הם יהיו חלק מהמבחן. אגב. מכל הויכוחים על זיוף, הצלחתי לתכנן רובוט הרבה יותר גנרי שבכלל לא מכיר את המבחנים. הוא מסוגל גם לעבור מבחנים שאף אדם לא עבר קודם, וגם שאלונים המחוברים על-המקום. אני אכתוב עליו מחר. |
|
||||
|
||||
1. יפה. 2. צודק. אני מתנצלת. 3. אני אתעמק בהגדרה בהזדמנות אחרת. כרגע צפוף לי מדי. 4. לא התייחסת לדומא שנתתי. 5. אם תמציא רובוט כזה, ייתכן שתהיה לו קוואליה. (אפילו לא *ייתכן*. תהיה לו). |
|
||||
|
||||
הדוגמא שלך היא מקרה מעניין. אם אני מבין אותה נכון, תוצאות הניסוי הושפעו בגלל מידע שהיה לנבדקים על התוצאות הרצויות. בקיצור, אפקט פלסיבו. הבעיה היא שלא תמיד יש משמעות לאפקט פלסיבו. הנה כמה דוגמאות. 1. אותו ניסוי שנערך על זבובים. 2. ניסוי שבו בודקים את הזכרון של הנבדק. אומרים לו לשנן 20 מילים כדי שהוא יכתוב אותן אחר כך. אנחנו מוכרחים להגיד לנבדק לשנן את המילים - וזהו ידע על מטרת המבחן. 3. ניסוי שמודד את המהירות של מכוניות מרוץ. ניסוי מדעי לחלוטין. האם המכוניות "יודעות מראש" שהן צריכות לסוע מהר? האם יש למנוע ממתכנני המכוניות לדעת שהם בונים מכוניות מרוץ? בקיצור ל"אפקט פלסיבו" יש לו השפעה בסוגים מאד מסויימים של מבחנים, וגם אז בעיקר אם מדובר בנבדקים אנושיים. כאן זה לא המקרה. בפרט, מדובר בנבדק שונה מאד מבנאדם. למעשה, מישהו בדיון טען שחלק חשוב מהבדיקה של קוואליה היא שהנבחן אומר שיש לו קוואליה. רובוט הדור השלישי בכלל לא ידע שום דבר על המבחן. |
|
||||
|
||||
לא, לא. אין כאן בכלל אפקט פלסבו. כיוון שאינני יודעת איך מקשרים לתיאור הניסוי, ואתה כנראה לא מכיר אותו, אתאר אותו כאן בקצרה (מהזיכרון, אבל בלי טעויות מהותיות): לקחו מספר אנשים שהתבקשו להשתתף בניסוי על זיכרון. הכניסו אותם ביחידים לחדר סגור ובו זכוכית חד כיוונית, לכאורה, שרק הם רואים ושומעים דרכה. מעבר לזכוכית, נאמר להם, יושב מישהו שהתבקש ללמוד בעל פה טקסטים מסויימים, והם התבקשו לבחון אותו לפי אותם טקסטים שניתנו להם, כאשר על כל טעות שעשו היו הנ בדקים אמורים לתת להם מכת חשמל באמצעות מכשיר שהונח לפניהם - כאשר המכות אמורות להתגבר בעצמתן כל הזמן, עד למכה האחרונה - שעלולה אף להיות קטלנית. ליד כל נבדק ישב פרופסור מכובד, שהסביר לו את חשיבות הניסוי להגברת הזיכרון. אחרי כל "מכת חשמל" היה הנבחן גונח ומיילל בהתאם ל"כאבים" שספג. תוצאות הניסוי היו, שחלק ניכר מאוד (נדמה לי שכ-90%) מהנבדקים הגיעו אפילו למכת החשמל החמורה ביותר. מובן שהמכות, הצעקות והיבבות היו מבויימות, והניסוי לא בדק את הזיכרון אלא את מידת ההשפעה האפשרית על פעולתם של אנשים נורמטיביים בתנאים מסוימים. כעת, לו היה מסתבר ש"הדליפו" לנבדקים את העובדות האמתיות על הניסוי מראש, האם היית מאמין בתוצאותיו? |
|
||||
|
||||
גם כאן יש בעיה שהיא לא תמיד רלוונטית. תארי לעצמך רובוט אסימובי, שנטרלו אצלו את הכלל "אל תפגע בבני אדם". ועכשיו הוא משתתף בניסוי. הרובוט מפעיל את מכות החשמל אך ורק מכח הפקודות שהוא מקבל מהפרופסור. זה שהוא יודע האם האנשים מזייפים או לא, זה בכלל לא רלוונטי. חוץ מזה, שימי לב לחור ענקי במסקנות של הניסוי ושלך. יש כאן 2 טענות שלא הודגמו באופן אמפירי. 1. ניתן להשפיע על פעולתם של האנשים. כדי להראות את זה, את חייבת ניסוי שבו אנשים לא יחשמלו את חבריהם כאשר מבקשים מהם לעשות כן. 2. את טוענת שגילוי העובדות על הניסוי יטה את תוצאותיו. כדי להוכיח את זה, את צריכה, למשל, להראות ניסוי שבו כאשר האנשים יודעים שהניסוי הוא זיוף, הם מחשמלים את חבריהם באופן אקראי וללא תלות בתנאי המערכת. וכאן בדיוק הבעיה. כל האנשים שצעקו: "גוועלט", "זיוף", "העתקה", מניחים איזשהי הנחת יסוד על הטבע האנושי, מבלי להדגים אותה ע"י ניסוי. אם רוצים למנוע את התופעות האלו, אי אפשר להסתמך על התחושה שלנו מתי זה זיוף ומתי זה לא. צריך לעשות את זה באופן אמפירי. ואם עושים את זה באופן אמפירי, הרובוט יכול בהחלט לחקות בנאדם שעובר את הניסוי. המחאות בדבר חיקוי מאד מוזרות בעיני - גם תינוק שנולד מחקה את הוריו ואח"כ את הסביבה שלו. אבל - תמתיני בסבלנות לרובוט הדור השלישי. |
|
||||
|
||||
האם אתה קורא מדי פעם את תגובותיי לפני שאתה מגיב עליהן? לא גיליתי אינדיקציה ממשית לאפשרות הזאת.:) 1. הניסוי שהיצגתי אינו ניסוי מחשבתי, ואינו שלי. 2. הוא נוסה באופן ממשי עלך בני אדם, ואיש לא טען שתוצאותיו זויפו. 3. ההשפעה על פעולותיהם של אנשים הייתה השפעתו של הפרוטפסור, לא של היבבות המפוברקות. 4. מה שהיצגתי כאפשרות לדון בה (לא האפשרות שנוסתה) היה בדיוק מה שהצעת ב(2): כלומר, שמישהו היה מדליף לנבדקים שהסיפור מבוים. 5. הנקודות שציינתי מייתרות את שאר דבריך על הרובוטים שכבר תיארת. אני מחכה לרובוט החדש. |
|
||||
|
||||
דווקא קראתי את הדברים שלך. אני מסכים לגמרי עם 1-4. כאשר אמרתי "הניסוי שלך" בסה"כ נתתי לו שם. שמעתי על הניסוי הזה בעבר. לא התכוונתי להגיד שאת המצאת אותו. אני מבין שאף אחד לא טען שהוא מזוייף. וגם אני לא טענתי את זה. ועל רקע כל זה, כתבתי את ההודעה הקודמת. אולי היא לא היתה מספיק מובנת. אני אחזור על מה שאמרתי באופן הרבה יותר מסודר: א. הגדרות אובייקט - המשתתף בניסוי המדומה על הזכרון. הבחור שחוטף מכות חשמל (מדומות), וצועק צעקות ויבבות (גם הן מדומות). ניסוי מדומה - הניסוי שמטרתו לבדוק האם מכות חשמל מגבירות את הזכרון האנושי. נבדקים - אלו שלוחצים על הכפתור שנותן מכת חשמל. הנבדקים הם האובייקטים של הניסוי האמיתי, והנסיינים בניסוי המדומה. ניסוי אמיתי - הניסוי שבודק האם ההתנהגות של אנשים יכולה להשתנות בתנאים מסויימים. נבדקים תמימים - נבדקים שלא מודעים לכך שהתגובות של האובייקט הן מזוייפות. הם גם לא מודעים לקיומו של הניסוי האמיתי. סביבה קשה - סביבה שבה יושב ליד הנבדק פרופסור המספר לו על הניסוי המדומה ועל החשיבות העצומה שלו. סביבה נטרלית - סביבה שבה הנבדק פשוט מתבקש לתת מכות חשמל ללא שום סיבה. אין כאן ניסוי מדומה. קיים רק אובייקט שהנבדק יכול לחשמל אותו. מכות החשמל והיבבות של האובייקט הן עדיין מדומות. ב. הטענות המקוריות שלך (ואני מצטט): 1. "הניסוי לא בדק את הזיכרון אלא את מידת ההשפעה האפשרית על פעולתם של אנשים נורמטיביים בתנאים מסוימים" 2. "לו היה מסתבר שהדליפו לנבדקים את העובדות האמתיות על הניסוי מראש, האם היית מאמין בתוצאותיו?". ג. הטענות שלך בניסוח שלי. 1. תוצאות הניסוי האמיתי הן: ניתן להשפיע על ההתנהגות של אנשים בתנאים מסויימים1 2. עולה השאלה, האם אפשר לקבל את תוצאות הניסוי האמיתי, אם היה מסתבר שהנבדקים לא היו תמימים2 ד. ההתיחסות שלי לטענות 1. כדי לטעון את טענה 1, מניחים שבתנאים אחרים הנבדקים היו מתנהגים אחרת. ההנחה הזו צריכה להבדק בניסוי בסביבה נטרלית. אם הניסוי המקורי לא הכיל בדיקה כזו, אז הוא פגום. 2. אי אפשר לענות על השאלה 2, על סמך התחושה שחוסר התמימות קלקל את הניסוי. יש לענות על השאלה בעזרת ניסויים אחרים. למשל אפשר לבחון נבדקים לא תמימים בסביבה נטרלית ובסביבה קשה, ולהראות שלשינוי הסביבה אין השפעה על נבדקים לא תמימים. בעיית התמימות דומה מאד לבעיית הפלסיבו ברפואה. 3. סה"כ קיבלנו 4 ניסויים: ניסוי עם נבדקים תמימים ב 2 הסביבות (נטרלית וקשה), וניסוי עם נבדקים לא תמימים ב 2 הסביבות. ה. מה השלכה של הסיפור הזה לרובוט הרגיש אם אנחנו משליכים מהניסוי הזה לניסוי הרובוט הרגיש, מסתבר שכדי לטעון שתוצאות ניסוי הקוואליה אינן תקינות, חייבים לערוך עוד 3 ניסויי ביקורת. הבעיה היא פשוטה: אין דבר כזה רובוט לא תמים. מכאן מגיעה הנקודה המרכזית: האמירה שחוסר התמימות של הרובוט פוגם בתוצאות הניסוי - היא תחושה בלבד. אי אפשר לבדוק אותה. אבל אל דאגה. רובוט הדור השלישי יהיה תמים. ---- 1 למשל, אם פרופסור מספר להם שהם נסיינים בניסוי חשוב על הזכרון האנושי של *אדם אחר*. 2 לא ציינת מהו חוסר התמימות. האם הם מודעים רק לזה שהאובייקט מזייף, או לכך שהם משתתפים בניסוי אמיתי. אבל זה לא משנה להמשך הדיון. |
|
||||
|
||||
יפה. צר לי, טעיתי בתיאור מושא הניסוי. כלומר, הדגש לא היה על *סתם* השפעה על אנשים, אלא על השפעה שתביא אותם לעשיית מעשים אכזריים במיוחד, ועוד מתוך אמונה שהם משרתים מטרה *טובה*. משום כך לא היה צורך לכלול קבוצת ביקורת שהנותנת מכות חשמל בלי השפעה. לא הכנסתי ולא התכוונתי להכניס בשום מקום את הרובוט לסיפור הזה. כל הנקודה שרציתי להדגיש הייתה, באלה תנאים נקבל תוצאות ניסוי מסוים כאמינות. הטענה שלי היא, שלו היינו יודעים שעניין ה"פברוק" היה מודלף לנבדקים מראש, איש לא היה מקבל את תוצאות הניסוי. כדי לבדוק אותו היה צורך לערוך ניסוי אחר, ולוודא שהנבדקים *אינם* יודעים במה מדובר. באותו אופן - וכאן נכנס עניין המחשב, באנלוגיה - אם המחשב (הרובוט) יודע מראש אלו תוצאות עליו לתת כדי לעבור בדיקה מסוימת, הרי ברור שהניסוי אינו אמין. |
|
||||
|
||||
בבקשה. התוצאות שלך תלויה בזה שיודעים בוודאות שהנבדקים *אינם* יודעים במה מדובר. כלומר, שהנבדקים תמימים. איך אפשר לבדוק תמימות? בעזרת ניסוי. כלומר הניסוי שלך כולל 2 חלקים: 1. הניסוי האמיתי 2. בדיקת תמימות לנבדקים. באנלוגיה למבחן הקוואליה, לטעמך גם מבחן הקוואליה צריך להכיל בדיקת תמימות. אבל אם הרובוט שלי יכול להקליט את 2 הניסויים האלה, הוא גם יעבור את בדיקת התמימות בהצלחה! אבל בואי נעזוב את הנושא הזה - אנחנו לא מתקדמים בו. את מוזמנת להתייחס לרובוט הדור השלישי. |
|
||||
|
||||
אני אתחיל עם כמה טענות חלשות (אני יכול להסתדר בלעדהן): 1. תארו לעצמכם בנאדם נכה עיוור וחירש (לא מלידה). התקשורת איתו היא בעזרת טקסט - כמו צ'ט באינטרנט. אני מניח שיש לו קוואליה. 2. תארו לעצמכם בנאדם עם בעייה לצור זכרונות חדשים. כמו ממנטו. הבעיה אינה מלידה. אני מניח שיש לו קוואליה. 3. בנאדם שיש לו את שתי הבעיות האלו, עדיין יש לו קוואליה. אז מה אני מנסה לעשות? א. לבנות רובוט שקול לבנאדם המתואר ב 3. ב. אפשר לשפר את הרובוט כך שיהיה שקול לאדם בריא יותר. אבל זה יקח לי יותר זמן להסביר, בפרט יקח לי זמן להסביר איך מקודדים את החושים. כרגע, נסתפק בזה. ג. בניגוד לגרסאות הקודמות, בוני הרובוט לא מתכננים אותו לצורך מבחן הקוואליה. למעשה, הם מתכננים אותו כבר היום - עוד לפני שמישהו בכלל העלה על דעתו מבחן פסיכולוגי לקוואליה. שלבי בניית הרובוט הם: 1. שוכרים תסריטאים. התסריטאים כותבים ספר עבה כרס שמתאר את ילדותו וחייו של ה"רובוט", עד לתקופה שבו הוא היה מעורב בתאונה נוראה. מאז התאונה הוא יכול לתקשר רק בטקסט, ולא מסוגל לצור זכרונות חדשים. עפ"י התסריט הרובוט הוא עם השכלה של כיתה ג'. בפרט, הוא מעולם לא שמע על קוואליה. 2. מייצרים בדרך כלשהי את כל השיחות החלקיות האפשריות באורך 5 דקות. כמות עצומה אך סופית. כאן נדרש קצת הסבר: א. יש כמות טקסט מוגבלת שהרובוט מסוגל לקרוא ולכתוב ב 5 דקות. משהו שמקביל למהירות הקריאה והכתיבה האנושיים. ב. לשיחה חלקית יש 2 צדדים: הרובוט, והמראיין. ג. צד המראיין הוא חופשי לחלוטין. למעשה, מבחינת המראיין צריך לייצר את כל המחרוזות האפשריות באורך 5 דקות או פחות. ד. צד הרובוט בשיחה הוא מקומות ריקים בתוך המחרוזות של המראיין. את המקומות הריקים נמלא בשלב הבא. ה. בסוף התהליך השיחות מאורגנות בעץ. כל השיחות המתחילות במשפט "מה שלומך?" יהיו תחת אותו ענף, וכן הלאה. 3. בשלב הבא שוכרים מיליוני סטודנטים שצריכים למלא את צד הרובוט עפ"י התסריט. כמובן, רוב התשובות יהיו מהסוג הבא: "מה?", "אני לא דובר רומנית.", "למה אתה אומר את אותו משפט 10 פעמים?" וכו'. אבל בשיחות שכן יש להן משמעות כלשהי, יש להעזר בתסריט ולכתוב תשובה שסביר שהרובוט יענה. את התשובות יש לבנות באופן חכם. למשל, הרובוט יוכל להתייחס לנושאים שנידונו בתחילת השיחה. אבל לא מסוגל להתייחס לנושאים שנידונו בענף נפרד - כי הוא לא זוכר אותם! 4. טוענים את כל השיחות לזכרון של הרובוט. לרובוט יש אלגוריתם חיפוש מאד פשוט שיודע לנווט אל השיחה המתאימה ולתת את התגובות שנכתבו לו בתסריט. כדי לסמלץ את אפקט הממנטו, פעם ב 5 דקות הרובוט אומר "אופס" ועשן עולה מהמעגלים שלו. אחרי האפקט הזה, אלגוריתם החיפוש חוזר להתחלה. כלומר, הזכרון של הרובוט "נמחק". ---- משחררים את הרובוט. הוא מסתובב לו פה ושם, עושה נזקים ולא זוכר כלום. עד שיום אחד מדען מטורף ממציא מבחן קוואליה. הוא מזמין את הרובוט למבחן הקוואליה. הרובוט עובר את המבחן - כמובן רק אם אדם נכה, עיוור וחרש עם חוסר יכולת לצור זכרונות חדשים מסוגל לעבור את המבחן הזה. בניית הרובוט היא רחוקה מלהיות מעשית. אבל זהו ניסוי מחשבתי. תארו לעצמכם שגם התסריטאים וגם הסטודנטים עושים עבודה נאמנה וללא שגיאות ובונים לנו סיפור חיים ואישיות אמינים לגמרי. אם זה עדיין מעניין מישהו אני אשמח לשמוע את דעתכם. |
|
||||
|
||||
דעתי היא שיכול להיות כיף, אולי, לבנות כזה רובוט - אבל הוא לא היה עובר בחינת קוואליה אצל שום פסיכולוג ששווה משהו. (אבל אני עייפה מידי כרגע כדי לפרט, אז זה יידחה למחר. |
|
||||
|
||||
אני אשמח אם תדגימי את זה בהשוואה לאדם. כלומר, בהנתן אדם עם אותן תכונות (נכה, עיוור, חרש וכו'), מדוע הפסיכולוג יקבע שלאדם יש קוואליה ולרובוט אין? ואם הפסיכולוג יקבע שלאדם יש קוואליה, מדוע, בהנתן עץ שיחות מתאים, הרובוט לא יתנהג בדיוק (אבל באמת בדיוק) כמו אותו אדם? |
|
||||
|
||||
האמת היא, שמרגע שהזכרת את המלה "פסיכולוג" אני מוצאת את עצמי במצב מוזר בפתיל הזה. מצד אחד, נראה לי שרובוט לא אמור לעבור *שום* בדיקת קוואליה אצל פסיכולוג, ולא משנה כמה הוא יתכונן. כולל העתקות. וברור שאותו תסריט רב משתנים שתכין לו לא אמור לעזור. מאידך גיסא, זכור לי במעורפל שהיו נסיונות מסוימים לבדוק שיחות של פסיכולוג עם מחשב (כביכול דרך האינטרנט), בלי שהוא זיהה במה מדובר. (מישהו יודע? יש לינק?) לכן אינני יודעת בדיוק. מכל מקום, עדיין נראה לי ש*בעיקרון* הפסיכולוג, אם הוא שווה משהו, אמור לעלות על ההתחזות אצל הרובוט שלך. ובלי קשר להנחות המוצא על עיוורון וכיו"ב. אולי משום שאני באמת חושבת (כפי שאמרתי ליהונתן באיזה מקום) ש*אפשר* להרגיש קוואליה של אדם אחר באמצעות הקוואליה שלך. אפשר להרגיש אם הוא מבין, מרגיש, מאמין וכיו"ב משהו. והרובוט לא יוכל לתת הרגשה כזאת כי *אין* לו קוואליה. זהו. צר לי שאינני יכולה לפרט באופן מדויק יותר. |
|
||||
|
||||
אני בטוח שגם אותו פסיכולוג היה מזהה שמדובר בתוכנה אם היו מזהירים אותו שהמצב הזה אפשרי, כלומר אם הוא היה עורך מבחן מודעות לאותה תוכנה. מצד שני זאת חוכמה קטנה מאד לדבר על מבחנים כאלה לתוכנות העלובות שיש בידינו כרגע. הייתי ממליץ לחזור לנושא בעוד חמישים שנה. |
|
||||
|
||||
נראה לי שלפי התחזיות של רבים כאן באתר (חשבתי שגם שלך, למען האמת), בעוד חמשים שנה לא יהיו יותר פסיכולוגים: חוקרי המוח יחליפו אותם. |
|
||||
|
||||
סביר יותר שהפסיכיאטרים יחליפו אותם קודם. |
|
||||
|
||||
הפסיכיאטרים כבר כמעט השלימו את התהליך. |
|
||||
|
||||
''כמעט השלימו'' זאת קצת הגזמה בעיני, אבל אני מסכים שאנחנו בעיצומו של התהליך. |
חזרה לעמוד הראשי |
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש | © כל הזכויות שמורות |