בתשובה לשוטה הכפר הגלובלי, 19/01/16 11:32
סבינה הוסנפלדר על רצון חופשי 672301
הפונז • בתשובה לשוטה הכפר הגלובלי יום ג', 19/1/2016, 11:59
אולי החמצנו משהו: אני *בעד* הטיעון של סירל, לא נגדו. גם אני טוען שצריך סמנטיקה כדי להבין.
אבל לאור כל מיני טענות נגד שקראתי לחדר הסיני, שטענו שהחדר (/או החדר+האדם או ה"מערכת") אכן מבין סינית עד כמה שאנחנו יכולים להבחין ב"הבנה"‏01, העליתי את טענת הדופלקס הסיני שמחזקת את סירל ומוכיחה (בתוך תנאי הבעייה ועל ידי מבחן מבדיל בין הבנה להתחזות להבנה - מבחן שכולל תרגום) שהחדר הסיני הוא אכן מתחזה.
ודא עקא - החדר הסיני המקורי, לא 'חדר סיני+מצלמה', לא 'חדר סיני+רובוט' ולא 'חדר סיני+טבלאות תרגום‏3'.
אתה מוסיף את טבלאות התרגום כדי "לפתור את הקושיה", אבל הקושיה היא להראות ש*ניתן*, ולו על ידי דוגמא נגדית אחת, ליצור מערכת שתדבר סינית שוטפת *בלי להבין סינית*. זה לא אומר ש*כל* המערכות שמדברות סינית לא מבינות אותה - הי, יש איזה מיליארד שכנראה שכן.
אבל ברגע שהבאתי לך דוגמא של מערכת מתחזה, שאתה מסכים שהיא מתחזה אבל לא יכול להבדיל בינה לבין מערכת אמיתית (כל עוד אתה מדבר איתה רק סינית, לצורך הענין), אז הראיתי לך שעצם זה שאתה מדבר סינית שוטפת וקופסה שחורה עונה לך בסינית שוטפת - לא אומר כלום על האם הקופסה מבינה סינית או לא.

אולי יש קופסה אחרת שאכן מבינה סינית - יושב בתוכה סיני קטן, מנדרין מלידה. אז מה.
ולצורך הענין - אנשים דו-לשוניים לא צריכים מילון. המציאות היא המילון שלהם. אתה עם הטבלאות שלך עקפת את המציאות‏3, אבל זאת נראית לי בנייה עקיפה שלא מפריכה כלום.

‏0 אפילו היה איזה שוטה גלובלי שרמז לזה אישם במעלה וגו'.
‏1 ואולי אפילו עובר מבחן טיורינג‏2 - הוא ממש יישות תבונית, הה!
‏2 הגיע הזמן שהמבחן הזה ירד מגדולתו וינוח בשלום לצד הפרדוקסים של זנון, לא? לפחות בניסוח המקורי.
‏3 והרי במקום טבלת תרגום יכולת לשים שם תמונה של תפוח. והנה מבנה נתונים הרבה יותר יעיל במקרה שתרצה להוסיף עוד ועוד שפות לבנין הסיני שלנו - כל המילים בכל (N) השפות שמציינות תפוח יצביעו לאותו תא בטבלה היחידה הזאת, במקום 2/(N*(N-1 מצביעים מכל מילה שכזאת לכל חברותיה.
סבינה הוסנפלדר על רצון חופשי 672318
שוטה הכפר הגלובלי • בתשובה להפונז יום ג', 19/1/2016, 15:17
תודה על ההבהרה, ואכן לא הבנתי נכון את העמדה שלך. חשבתי שאתה מנסה להפריך את אפשרות הקיום של חדר כזה (כי זה הכיוון שאני ניסיתי ללכת בו, עם שאלות שאי אפשר לענות עליהן מראש). אישית מעולם לא חשבתי שיש הגיון בטענות שהחדר (עם או בלי כל התוספות) באמת מבין משהו, אבל אני צריך לחשוב קצת אם מה שהצעת באמת מאשש את זה (קוד שמשמעותו היא שכנראה לא אשוב הנה אלא אם תהיינה לי תובנות נוספות לחלוק בעניין).

‏3 - אם תתחיל להסב את טבלאות התרגום לתמונות, ולמחלקות היררכיות וקשרים וכד' אתה בונה משהו שהוא לא החדר הסיני אלא, אולי, חיקוי טוב של אופן הפעולה של המוח, וזה משמיט את השטיח מתחת לכל הרעיון.
סבינה הוסנפלדר על רצון חופשי 672319
הפונז • בתשובה לשוטה הכפר הגלובלי יום ג', 19/1/2016, 15:30
‏3 מסכים - ומוסיף שכל זה נכון גם לטבלאות עצמן.
סבינה הוסנפלדר על רצון חופשי 672336
ירדן ניר-בוכבינדר • בתשובה להפונז יום ג', 19/1/2016, 19:36
אז אם אתה תומך בסירל, אני רוצה להבין (מזמן לא קראתי אותו ולא עליו. סלח לי שאני מתחמק מהקריאה עכשיו, תוכל לכוון אותי בדיוק לנקודה). על סמך מה אתה וסירל מניחים ש"החדר" יכול לענות על שלל שאלות בלי שיהיה לו משהו ששקול לייצוג סמנטי של המושגים?

אם אני זוכר נכון את הטעיון של סירל, הוא אמר כך: מה שיש בחדר הסיני הוא מערכת שרק מעבירה אותות ממקום למקום, שזה שקול לנוירונים, ולכן החדר יכול להיות שקול למוח אנושי. אבל אם אתה בונה את החדר לפי המוח האנושי, אז אתה בונה אותו גם עם מערך ששקול למערך הנוירונים שמהווים‏1 את המושגים הסמנטיים במוח האנושי.

‏1 גורמים שיתהוו
סבינה הוסנפלדר על רצון חופשי 672342
שוטה הכפר הגלובלי • בתשובה לירדן ניר-בוכבינדר יום ג', 19/1/2016, 20:18
אני לא הפונז וגם הבטחתי לשתוק, וגם אני קראתי על סירל די מזמן (ואני מתנצל בפני הפונז שלא קראתי את הקישור שהוא נתן מלבד כמה שורות ראשונות) כך שבעצם אין שום מניעה שהיא להשיב לך:

סירל מדבר על טבלה גדולה (או אוסף של פתקים, לקפדנים) שמכילה את כל רצפי השאלות התקינות בסינית (מספר גדול אבל סופי) כשלכל רצף כזה יש גם רצף מתאים שייפלט כתשובה. הדבר היחיד שהחדר יודע לעשות בפועל הוא לחפש בטבלה ולשלוף ממנה משהו. לא מסובך, לא מורכב ובטח לא מחייב שום אינטליגנציה או "הבנה" או "ידיעה" של סינית במובן היומיומי שלנו. כל הרעיון הוא להפריך את הטענה עליה מבוסס מבחן טיורינג לפיה אם משהו מצליח להיראות כאילו הוא אינטליגנטי הוא באמת אינטליגנטי, כלומר שהאינטליגנציה אינה אורגזמה (דהיינו אינה ניתנת לזיוף). יש גם מי שלא יסכימו עם הניסוח הזה, ואכן חלק מהביקורת על הרעיון הוא שאין משמעות ל"חיקוי" של אינטליגנציה מאחר וכל המונח הזה מדבר רק על תוצאות ולא על המנגנון הפנימי, כך שלפי ההשקפה הזאת (אני משער שהאח של אייל מחזיק בה או במשהו קרוב אליה) החדר הסיני אכן אינטליגנטי או לפחות "מבין" סינית. הפונז מנסה לקעקע את הביקורת הזאת.
סבינה הוסנפלדר על רצון חופשי 672351
הפונז • בתשובה לשוטה הכפר הגלובלי יום ג', 19/1/2016, 22:53
Well said.
סבינה הוסנפלדר על רצון חופשי 672356
ירדן ניר-בוכבינדר • בתשובה לשוטה הכפר הגלובלי יום ד', 20/1/2016, 5:39
אשתדל בערב לקרוא שוב את המאמר של סירל (אני די בטוח שלפחות המאמר המקורי שלו על החדר הסיני טוען משהו אחר באמצעים אחרים). לעניין מה שאתה מדבר עליו כאן - לא, אי אפשר לנהל שיחה דמוי-אינטליגנטית, ואפילו לא שו"ת דמוי-אינטליגנטי, באמצעות טבלת חיפוש. קל לבנות שאלות שנצפה מאדם נבון לענות עליהן תשובות שונות בהקשרים שונים של השיחה. "למה?" "אתה יכול להרחיב?" "למה אתה מתכוון כשאתה אומר 'אינה ניתנת לזיוף'?"
סבינה הוסנפלדר על רצון חופשי 672358
הפונז • בתשובה לירדן ניר-בוכבינדר יום ד', 20/1/2016, 9:51
הכניסה לטבלת החיפוש יכולה כמובן לקבל כקלט לא רק את השאלה, אלא גם (או לשלוף מהזכרון המקומי) את השאלה הקודמת, התשובה הקודמת, זאת שקדמה להן וכו'.
זה אמנם מגדיל מאד את הטבלה, ואפשר לממש את זה בצורה הרבה יותר יעילה על ידי שינוי של מבנה הנתונים מטבלה חד מימדית פשוטה לטבלה יותר מסובכת עם יותר אופציות, אבל זה לא משנה את העקרון.
אפשר כמובן גם להגביל את כמות ההיסטוריה שרלבנטית לכל שאלה‏1. שים לב שמתוך שלוש השאלות שהצעת, שתי הראשונות דורשות רק לזכור תשובה אחת אחורה, כנראה גם השלישית.

‏1 זה דומה קצת לשיטות של פילטרים כמו ממוצע נע או משהו מסובך יותר‏2 שעבור סיגנל חד-ממדי מנסות לחזות את הקלט הבא, או להפיק פלט שמתחשב ב-N המדידות האחרונות ולא רק במדידה האחרונה. אפילו בניתוח טכני של מניות, מנגנונים כאלה מקובלים ודי פשוטים למימוש. אבל הרעיון המרכזי הוא שככל שסיגנל מתרחק בהיסטוריה, ההשפעה הסבירה שלו על המצב עכשיו קטנה והולכת. ולכן מספיק להביט כמה דגימות אחורה (במקרה שלנו כמה שאלות/תשובות ששמורות בזכרון) כדי לקבל את המידע הרלבנטי.
כל מי שנכנס בארוע חברתי לשיחה של קבוצה אנשים חצי דקה אחרי שהצטרף אליה, מבצע את זה ובהצלחה לא רעה.
‏2 קלמן פילטר.
סבינה הוסנפלדר על רצון חופשי 672363
שוטה הכפר הגלובלי • בתשובה להפונז יום ד', 20/1/2016, 11:46
לדעתי הניתוח שלך הוא קצת מעבר למה שצריך כאן. ירדן שואל לגבי שאלות עם הקשר, והתשובה הפשוטה (אותה נתת מיד בתחילה) היא שמה שמחפשים בטבלה הוא לא את השאלה האחרונה אלא את הרצף שמורכב מכל השאלות הקודמות והתשובות עליהן + השאלה האחרונה מתחילת השיחה‏1, וכך יש לך כיסוי מושלם של כל מרחב השיחות האינטליגנטיות או אינטליגנטיות למחצה (כמו התרומות שלי לדיון הזה). כן, זה יקשה עוד קצת על המכונה הפלאית של סירל, אבל בוא נודה שיחסית לשד של לאפלאס היא עדיין במצב טוב. החלק הנחמד בניסוי מחשבתי כזה הוא שאין צורך להטריד את עצמנו בפרטים שוליים של סיבוכיות וזמני עיבוד, כל עוד אנחנו לא מכניסים אינסוף לתמונה.

אבל, מאחר ואתה תומך בגישה של סירל, מה התשובה שלך להתנגדות שלי, דהיינו לטענה שיש שאלות שאי אפשר לענות עליהן מראש בזמן הכנת הטבלה? נתתי דוגמא אחת פשוטה "מה מזג האויר היום" שמחיבת שימוש במשהו לא טבלאי; אמנם גוגל יידע לענות על זה אבל אפשר להתווכח אם חיפוש בגוגל יכול להיחשב כהרחבה של הטבלה שכן גוגל משתמש באלגוריתמים הרבה יותר מתוחכמים מחיפוש פשוט כך שזה מוציא את העוקץ מהרעיון של החדר הטיפש מאד, ויורת חשוב: החדר שלנו יצטרך להחליט מתי הוא הולך לגוגל ואיזה פרמטרים להעביר לו (במקרה שלנו מיקום), ושוב הוא קצת יותר חכם מדרישות הניסוי המקורי. אם זה לא משכנע, אני בטוח‏2 שניתן למצוא דוגמאות לשאלות שגם גוגל לא יוכל לענות עליהן בצורה סבירה - למשל כאלה שמתייחסות לשואל עצמו.

אם כך נראה לי שכדי שהחדר יוכל ל"דעת" סינית הוא צריך להכיל משהו יותר מסובך ממנגנון פשוט של חיפוש, וברגע שהכנסת למשחק קבלת החלטות או קריאה לפונקציות לא טריויאליות (כלומר עושת משהו אחר מחיפוש בטבלה), אפשר יהיה להרחיב את הצורך לקריאה חוזרת לפונקציות נוספות, מן הסתם גם קריאה רקורסיבית, והופ'לה: זה כבר לא חדר סיני אלא מכונה אינטליגנטית שאולי באמת מבינה סינית, מי יודע. נצטרך לשאול אותה.
___________
‏1- והמדקדקים יגידו: מתחילת השיחה הראשונה שהתנהלה אי פעם עם אותו אדם, אם אנחנו רוצים חדר סיני ולא חדר סנילי.
‏2- לא לגמרי, אבל כמעט
מבחן טיורינג לאלוהים 672366
הפונז • בתשובה לשוטה הכפר הגלובלי יום ד', 20/1/2016, 13:12
לדעתי אתה הולך ומטשטש את הגבולות בין חדר סיני למבחן טיורינג‏1. המטרה של החדר הסיני היא לבחון האם החדר יודע סינית, לא האם החדר הוא יודע כל. לצורך הענין, תשובה מאד סבירה לשאלה שלך היא "לא יודע" או "לא יודע, אני בתוך חדר ולא יכול להסתכל החוצה". שום דבר בתשובה הזאת לא פוגע ולו במיליונית בבטחון שלך שהחדר מבין סינית. הוא הבין את השאלה, וענה בסינית תשובה מדויקת.
והרי אם היה יושב שם סיני אמיתי, שאלה לגיטימית באותה מידה היא "מה מזג האוויר בזימבבואה עילית כעת?"
האם כשלון בתשובה, חוץ מהתגובה 'לא יודע', היה גורם לך לחשוב שהסיני הזה לא מבין סינית, או קשה וחומר, לא יישות תבונית?

מה מזג האוויר בזימבבואה עילית, שוטה הכפר הגלובלי‏3?

‏1 ואולי אפילו בין מבחן טיורינג המקורי, שלדעתי גם לא היה עונה על השאלה "מה מזג האוויר היום" בלי שום ממשק חיצוני, למבחן טיורינג מורחב עם ממשקים חזותיים וויזואליים וכן הלאה, כשבמקורי יש רק מסך מחשב מולך‏2.
‏2 האמת, אחרי שכתבתי את התשובה שלי הבנתי שאתה *מאד* מרחיב את מבחן טיורינג שאמור להבדיל בין מחשב לאדם, למבחן טיורינג שאמור להבדיל בין מחשב לאלוהים - כל עוד המחשב לא יודע לענות על כל שאלה שלך, הוא כנראה פחות אינטליגנטי ויודע-כל מאלוהים.
‏3 לא להציץ בגוגל!
מבחן טיורינג לאלוהים 672420
שוטה הכפר הגלובלי • בתשובה להפונז יום ה', 21/1/2016, 21:56
יש בזה משהו. מצד אחד, ברור שחדר סיני שמשיב '''צטער, לא יודע'' בסינית על כל שאלה הוא לא משהו שאנחנו מחפשים (בימי הטובים אפילו אני הייתי מסוגל לכתוב את התוכנית הזאת), ומצד שני אתה צודק בכך שלא נדרש מהחדר לעבור את מבחן טיורינג אלא משהו קצת שונה מזה. אבל אם אני שואל אותו שאלות פשוטות כמו ''מה התאריך היום'' והוא ממשיך להגיד שהוא לא יודע, הוא קרוב יותר לאידיוט הראשון שתיארתי מאשר לדובר סינית ממוצע.

וברגע שעל שאלות כאלה הוא לא מוצא את התשובה בטבלה אלא צריך לעשות משהו אחר כמו להציץ בלוח השנה כבר שברנו את הפתרון של סירל. אני מאתגר את חכמי האייל למצוא שאלות שמחייבות משהו יותר מסובך מהצצה בשעון או בלוח השנה ואשר אי אפשר לתת להן תשובה מראש אבל מצופה ממי שיודע סינית לענות עליהן באופן לא טריויאלי. יש לי הרגשה שבאמצעות שאלה עם התייחסות עצמית אפשר יהיה לעלות על משהו כזה אבל, כמו שיצא לי להגיד היום בענין אחר, אני פשוט מטומטם מדי.
מבחן טיורינג לאלוהים 672422
שוטה הכפר הגלובלי • בתשובה לשוטה הכפר הגלובלי יום ה', 21/1/2016, 22:36
"כמה שאלות שאלתי אותך עד עכשיו?" אם זאת אחת השאלות הראשונות שנשאלת והחדר מתעקש לענות "לא יודע" הוא מדבר סינית לטעמך? ואם נקל עליו ונשאל רק "כמה שאלות בערך שאלתי עד עכשיו"? אני מניח שיש מי שיאמרו כן, הוא לא חייב להיות בעל זכרון, אפילו לא של דג (אם כי יש לו זכרון מופלא באמת לטווח ארוך, אבל אין כאן סתירה). המשמעות היא שעל כל שאלה שקשורה בזכרון לטווח קצר עליו לענות באותו אופן, אבל אני מניח שזה עדיין לא פוסל אותו.

האתגר עוד בתוקף.
מבחן טיורינג לאלוהים 672425
שוטה הכפר הגלובלי • בתשובה לשוטה הכפר הגלובלי יום ה', 21/1/2016, 23:29
שכח מזה. לכל רצף של תוים שקדם לשאלה הזאת (שהוא , כזכור, מה שמחפשים בטבלה) יש תשובה טובה לשאלה הזאת.

אני צריך להפסיק לדבר אל עצמי כשאחרים שומעים!
מבחן טיורינג לאלוהים 672431
הפונז • בתשובה לשוטה הכפר הגלובלי יום ו', 22/1/2016, 7:52
מאחר וכבר אמרנו שהוא משקלל גם שאלות ותשובות קודמות בשביל ללנהל שיחה סבירה, לספור אותן זאת בערך המשימה הקלה ביותר שאפשר להגדיר עליהן.
מבחן טיורינג לאלוהים 672437
שוטה הכפר הגלובלי • בתשובה להפונז יום ו', 22/1/2016, 9:23
כאמור ''לספור'' הוא לא חלק מכישוריו של החדר הסירלי. אבל כבר הורדתי את העניין מסדר היום בשיחה הקצרה שערכתי עם עצמי אתמול.
מבחן טיורינג לאלוהים 672423
הפונז • בתשובה לשוטה הכפר הגלובלי יום ה', 21/1/2016, 22:49
בכל מחשב בנוי שעון שהיה פותר את הבעייה הזאת בקלות. שעון גם יכול לתת תגית זמן לכל שאלה, כדי ששאלות מסוג ''כמה זמן עבר מאז השאלה הלפני אחרונה'' ייענו. נראה לי שצריך משהו הרבה יותר משכנע מזה בשביל לשבור את סירל.
ובכל מקרה, אתה עדיין מכוון לגירסא החזקה. אדם שהיה יושב בחדר כזה יותר מיומיים בלי שעון היה גם הוא מאבד את היכולת לענות על השאלה הזאת. ושוב, זה לא קשור לידיעת הסינית שלו. יש לי הרגשה שכשאתה אומר ''מצופה ממי שיודע סינית לענות עליהן'' אתה אומר ''מצופה ממי שגדל כאדם ויש לו ניסיון של אדם והוא יודע סינית לענות עליהן''.

לו היית מביא במכונת זמן דובר מנדרינית שוטפת מהמאה השמונה עשרה להיום ומושיב אותו בחדר סגור, יש המון שאלות שנראות לך טריויאליות שלא היה לו מושג קלוש איך לענות עליהן. אולי אפילו השאלה ''כמה שניות יש בדקה'' היתה נותרת ללא מענה.
מבחן טיורינג לאלוהים 672434
שוטה הכפר הגלובלי • בתשובה להפונז יום ו', 22/1/2016, 9:19
אבל אם החדר שלנו צריך להבדיל בין שאלות מסוגים שונים ולהפעל פונקציות (זמן או ספירה) הוא כבר חורג ממה שהוגדר בניסוי. אני מניח כרגע שאם מצאנו פירצה כזאת, שהיא אמנם די טריויאלית בינתיים, נוכל להעמיס עליה סיבוכים שיהפכו אותה לפחות טריויאלית. תגית זמן לכל שאלה פותרת בעיה מסוימת, אבל "כמה זמן עבר בין השאלה הקודמת לזו שלפניה" כבר מחייב שתי פעולות. מכל מקום, אני עצמי מפקפק ברעיון שלי בעקבות ההערה הקודמת שלך: אף אחד לא טען שהחדר הסיני צריך לעבור את מבחן טיורינג, כך שתשובות ברמה שילד בן שלוש או ארבע נותן עשויות להספיק לסירל, וילד כזה יכול לענות "לא יודע" על השאלות שלא ניתן לענות עליהן מראש, לפחות על אלה שעולות בדעתי. הוא לא קורא שעון, הוא לא יודע מה זה לוח שנה וכד'.
מבחן טיורינג לאלוהים 672445
הפונז • בתשובה לשוטה הכפר הגלובלי יום ו', 22/1/2016, 14:21
מסכים מאד עם הפקפוק.
אגב, גם אדם ללא שעון, יכולת מדידת הזמן האינטואיטיבית שלו מאד נמוכה. אני לא אתפלא אם התשובה על ''כמה זמן כבר מתחילת השיעור'' תתפלג בין הסטודנטים בטווח של בין חמש לחמש עשרה דקות, תלוי ברמת השעמום שלהם ושאר פרמטרים אישיים.
חזרה לעמוד הראשי
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים
האייל הקורא RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש © כל הזכויות שמורות