 |
אלא אם כן המציאות היא זיוף (חלק א') | 1962 |  |
||||||||
 |
|
 |
|||||||||
 |
 |
פרסומים אחרונים במדור "ספרים"
|
| הצג את כל התגובות | הסתר את כל התגובות |
|
|
 |
||
|
||||
|
ראשית, ברכות על המאמר. ולענין, מופלא בעיניי איך בחלק גדול מתרבות הפופ של המד"ב, זה כמעט מובן מאליו שניתן ליצור מכונות אינטליגנטיות אבל מצד שני הן בהכרח יהיו לא אמפטיות. לי אישית נראה שההבנה שלנו לגבי מה זה לעזאזל אינטלגנציה היא (אם לשאול מאפופידס), לא יסודית דיה. ודווקא אמפטיה נראית לי נטיה די פשוטה להבנה - ובהחלט לא יכולת מיסטית בלתי ניתנת לחיקוי. כמו כן אני רוצה להוסיף שלעניות דעתי, המסקנה "הם [הממשלה] יעשו זאת גם לכולנו בקרוב" היא נמהרת מדי. |
|
|
 |
|
|
|
||
|
||||
|
תודה על הברכות. ראשית, אינני סבור, שבתרבות המד"ב זה מובן מאליו שניתן ליצור מכונות אינטלגינטיות אך בהכרח לא אמפטיות. נהפוך הוא: יצירות העוסקות בתבונה מלאכותית, מעמידות לא אחת במרכז הדיון את היחס בין רגשות (ובכללן אמפטיה) לבין תבונה. למשל, השאלה, האם רובוט יכול לאהוב, היא אחת המרכזיות בסרט AI. דוגמאות מוקדמות יותר תמצא גם בסיפורי אסימוב (איש יובל המאתיים, סיפורי סוזן קלווין ועוד). פעמים רבות הסברה היא, שככל שהמכונה תבונית יותר, כך חייבות להתעורר סוגיות רגשיות (דוגמא אופיינית: דאטה מ"מסע בין כוכבים"), ואז השאלה הקרדינלית היא: היכן עובר הקו המבדיל בין אדם למכונה, או בלשון אחר: מתי מכונה מפסיקה להיות "מכונה" והופכת להיות "אדם"? אלא שבמקרה של פיליפ ק. דיק, אני סבור שמה שבאמת הטריד אותו היא דווקא השאלה: מתי אדם מפסיק להיות "אדם" והופך להיות "מכונה"? השאלה התעוררה במלוא חריפותה בעת שערך תחקירים מעמיקים על הנאציזם (כהכנה לספרו "האיש במצודה הרמה"). במהלכם הוא קרא יומנים של אנשי אס.אס. והזדעזע. מיצירותיו של דיק עולה, שגם אם אמפטיה היא נטיה פשוטה להבנה, ובהחלט אינה יכולת מיסטית, הרי שהיא בדיוק הדבר שאינו ניתן לחיקוי. חשוב לציין, שאת דיק לא ממש מעסיקה השאלה, האם ניתן ליצור מכונה בעלת יכולת אמפטית. אצלו האנדרואיד אינו מטרה, אלא אמצעי: כשהוא שואל "מהו האדם", ורוצה למתוח את הקו המבחין בין אדם לבין "לא אדם", אז הוא משתמש באנדרואיד כמייצג של אותו "לא אדם". אחרון חביב: האמירה ש"הם [הממשלה]יעשו זאת גם לכולנו בקרוב" איננה מסקנה אלא מייצגת חשש אמיתי של דיק ומבטאת את יחסו לממסד, במיוחד בתקופה בה נאמרה. |
|
|
|
|
|
|
||
|
||||
|
נראה לי שיש פה בעית מינוח מסויימת לגבי המילים "מכונה" ו"תכנות". אדם הוא יצור מכני לא פחות מאשר שעון כיס. הוא פועל עפ"י סט כללים מוגדר היטב שאנחנו מבינים לא רע (כימיה, פיסיקה קוואנטית במקרה הגרוע). מה שאנחנו לא מבינים זה איך הכללים הללו מתורגמים להתנהגות האנושית המופלאה לה אנחנו עדים, אבל זה לא רלבנטי. המונח "תכנות" במשמעותה המקובלת (לפחות זו שמשמשת מתכנתים) פירושו קביעת הכללים המכניים לפיהם פועלת מכונה כלשהיא. לפיכך אין שום מניעה תאורטית לתכנת מכונה שמחקה בן-אדם ב-100%, כולל אמפטיה (שלגביה הקשיים הפרקטיים הם אפילו פחותים). המשמעות האחרת שבה השתמשת במילים "לתכנת" ו"מכונה" לא ברורה לי לגמרי. מההקשר, אני יכול להבין שאתה מתייחס ל"תכנות" כהתנייה שמבוצעת על בני אדם, לפעול עפ"י סט כללים חיצוניים תוך הדחקת שיקול דעת ורגש עצמאיים (שכזכור גם הם מכניים לגמרי). זהו תהליך ברמת ארגון אחרת לגמרי ויש לו מינוחים הולמים יותר (נניח, "קונפורמיות", אפשר למצוא עוד). בקיצור, כשאתה כותב "אמפטיה לא ניתנת לחיקוי", למה בדיוק אתה מתכוון? |
|
|
|
|
|
|
||
|
||||
|
אישית, אינני סבור שהאדם הוא *רק* יצור מכני, לא פחות מאשר שעון כיס. אולי במובן הפיסיולוגי ניתן להתייחס אל הגוף כאל מכונה, אבל כפי שכבר ציינתי בגוף המאמר, השאלה שמעניינת את דיק היא, האם לאנדרואידים יש נשמות? אדם הוא לא רק גוף - הוא גם נשמה, או נפש. בהערת הסוגריים שלך אתה מציין שרגש ושיקול דעת גם הם מכנים לגמרי. אני חושב אחרת. גם אינני חושב שנפש האדם פועלת ע"פ אוסף כללים מוגדר היטב, ובטח שעדיין איננו מבינים אותה היטב. אתה אומר שתכנות "פירושו קביעת הכללים המכניים לפיהם פועלת מכונה כלשהיא. לפיכך אין שום מניעה תאורטית לתכנת מכונה שמחקה בן-אדם ב-100%, כולל אמפטיה". כיוון שמעבר לצרכים הפיסיולוגיים המיידיים, נפש האדם, רצונותיו, רגשותיו ונשמתו הם אלו שמדריכים את פעולותיו, וכיוון שהללו אינם מבנים מכאניים, הרי שיש מניעה לתכנת מכונה שמחקה התנהגות אנושית, ולא רק מניעה תיאורטית. במשמעות האחרת שציינת השתמשתי כדי לציין את ביקורתו של דיק כלפי הממסד, השלטונות ובעלי השררה למיניהם. אני נוטה להסכים דווקא איתו. קח לדוגמא את המדינה הנאצית של פעם או הקומוניסטית של היום: האם באמת אתה חושב ש"חינוך לקונפורמיות" הוא המונח שמתאר היטב את מה שקורה שם? אני חושב, למשל, שבצפון קוריאה, או בסין של מאו, או במקרים נוספים אחרים, הממסד בהחלט מנסה לתכנת את האזרחים ולא לעודדם לקונפורמיות. (בהקשר הזה אני ממליץ לקרוא את סיפורו הקצר של דיק, "אמונת אבותינו", שמופיע באנתולוגיה "חזיונות מסוכנים" בעריכת הארלאן אליסון). בקיצור, כשאני כותב "אמפטיה לא ניתנת לחיקוי", אני בסה"כ מגיב על דבריך ש"אמפטיה נראית לי נטיה די פשוטה להבנה - ובהחלט לא יכולת מיסטית בלתי ניתנת לחיקוי". אני מתכוון, שדיק רואה באמפטיה כקו המבחין בין אדם למכונה. אם ניתן היה ליצור מכונה שתדע לחקות התנהגות אמפטית, הרי שע"פ דיק לא ניתן היה יותר להבחין בין אדם לבין מכונה. הדרך היחידה לעשות זאת בספר (ובסרט) היא דרך אותו מבחן, וויגט-קמפף. |
|
|
|
|
|
|
||
|
||||
|
במאה ה-20 ותחילת ה-21, לטעון שנשמה זה משהוא שלא פועל עפ"י אוסף כללים מוגדר היטב זה פשוט אמונה תפלה. עובדה אמפירית בדוקה, היא שכל התנהגות מנטלית שהיא נובעת מתהליך פיסי במוח. חוקי הפיסיקה (שמפעילים את החלקיקים במוח) הם בהחלט אוסף כללים מוגדר היטב. השאלה אם אנחנו מבינים היטב איך תהליך פיסי X מתרגם לפעילות מנטלית Y (או אפילו אם אנחנו נוכל אי פעם לדעת זאת) היא מחוץ לענין. יתר על כן, הערתי המקורית היא אורתוגונלית לשאלה האם ליצור "ישות מנטלית" מלאכותית זה מסובך עקרונית (כמו שאתה חושב) או רק מסובך פרקטית. ברור שהאמפטיה היא מבין התופעות המנטליות הפשוטות, ואילו התבונה היא התופעה המנטלית המופלאה והמורכבת ביותר (וכנראה התופעה המורכבת ביותר הידועה לאנושות). ניתן אם כן לחשוד שמי שמספיק מתוחכם ליצור מכונה נבונה באמת, יוכל בקלות לעשות אותה אמפטית. למה דיק סבור שלא יהיה כך? -------- נדמה לי שהתשובה קשורה איכשהוא לבילבול המושגים לגבי "תכנות", ששוב חזרת עליו1. הרי "תכנות" במובן השני של שליטה על הניסיון החושי, מכתיב את רוב ההתנהגויות שלנו, אבל לא את הנטיות מולדות כגון רגשות ובפרט אמפטיה. וכך יוצא שהאחרונים הם משהוא מיסטי שלא ניתן להכתבה, בפרט למכונות. אלא שלכך אין שום קשר לתכנות מכונות. אני אנסח את ההבדל בין 2 המשמעויות בצורה יותר חריפה: המשמעות הנכונה של "תכנות" היא בניית מכונה. כאשר אתה בונה מכונה, אתה מגדיר את כל רכיביה היסודיים ואת הקשרים בינהם, וכך אתה קובע חד-ערכית את התנהגותה כפונקציה של הקלט. ולהבדיל, המובן השני (והשגוי) הוא למעשה מניפולציה של נתוני חושים כדי להכתיב את התנהגות המוח. יש דימיון מסויים לתכנות - כמובן שרוב ההתנהגויות והדעות שלנו תלויות באופן קריטי בניסיון החושים. אלא שזה בהחלט לא התלות הישירה והבלתי אמצעית של מכונה במבנה שלה (קרי בתכנות שלה). לכן חשוב להבין שהשימוש במונח "תכנות" הוא בסה"כ אנלוגיה, ותאורים נכונים יותר הם "שטיפת מוח", "התניה", "אילוף". כדי להשלים את התמונה, כל הרגשות והכשרונות המולדים שלנו נובעים באופן חד-ערכי מהמטען הגנטי (ומהתנאים ברחם, בקטנה). בקיצור, הרבה יותר נכון להגיד שדוקא הם מתוכנתים מראש. 1 משום מה התמקדת בשם הסתמי והלא מוצלח "קונפורמיות" ולא בהסבר עצמו. |
|
|
|
|
|
|
||
|
||||
|
שוב ושוב אתה חוזר לשאלה "שמי שמספיק מתוחכם ליצור מכונה נבונה באמת, יוכל בקלות לעשות אותה אמפטית. למה דיק סבור שלא יהיה כך?", בעוד שהדגשתי כמה פעמים שזו *לא* הנקודה אצל דיק. הוא לא מתעניין בגבולות הטכנולוגיה (האם ניתן ליצור מכונה תבונית ואמפטית1) אלא בגבולות האדם (מותר האדם מן המכונה - מהו?). לכן אני מציע שוב: האנדרואיד של דיק הוא אמצעי ולא מטרה, דווקא בכך שדיק מקנה לו התנהגות דמוית-אנוש בכל דבר, מלבד היכולת האמפטית. זו דרכו לומר, שמותר האדם מן המכונה הוא ביכולת האמפטית שלו. אפשר להתווכח על כך, אבל זו דעתו של דיק. ב"האם אנדרואידים" הוא כותב (עמ' 30): "מסתבר שאמפטיה יכולה להתקיים רק בקהילה אנושית, בעוד שבינה כזו או אחרת יכולה להימצא בכל מערכה ומחלקה של עולם החי, אפילו בין העכבישאים. סגולת האמפטיה מחייבת מן הסתם אינסטינקט קבוצתי מושלם; אורגניזם בדיד, כגון העכביש, אינו זקוק לה; למעשה, הסגולה הזאת אפילו עלולה לחבל ביכולת השרידה של העכביש... כי ביסודו של דבר, סגולת האמפטיה מטשטשת את התחומים בין הצייד לבין הקורבן, בין המצליח לבין המובס. כמו במיזוג עם מרסר, כולם מטפסים ביחד - או נופלים ביחד, כשהמחזור מגיע לסיומו, אל מכתש עולם הקבר... מסתבר שהרובוט דמוי-האדם הוא טורף בודד." כאמור, השאלה התעוררה אצלו, בין היתר, כשהוא ניסה להבין את תופעה הנאציזם ומחנות ההשמדה. בהמשך לאותו קטע, הוא כותב: "בעיני ריק דקארד, רובוט דמוי אדם נמלט, שהרג את אדוניו, שצויד בבינה עדיפה על בינתם של בני אדם רבים, שאין לו יחס לבעלי חיים, שאין לו שום יכולת לחוש שמחה אמפטית על הצלחתה של צורת חיים אחרת, ושום יגון על מפלתה - בעיניו, זו היתה התגלמות ה*רוצחים*". *זו*, בעיני, הנקודה של דיק, ולא האם ניתן או לא ניתן ליצור מכונות כאלו. גם אם לדבריך, "ברור שהאמפטיה היא מבין התופעות המנטליות הפשוטות, ואילו התבונה היא התופעה המנטלית המופלאה והמורכבת ביותר", עדיין האמפטיה היא הקו המגדיר, לדעתו, את מותר האדם. 1 וכדי להדגיש שזו לא הנקודה שלו, שואלת רייצ'ל את דקארד, מדוע לדעתו נדרשה להצטרף אליו, ודקארד עונה לה (עמ' 161): "לצפות, לקלוט בפרטי פרטים את מה שעושה נקסוס-6, החושף אותו במבדק וויגט-קמפף." ורייצ'ל מאשרת: "במבדק, ובכל דרך אחרת. כל מה שמעניק לו צביון שונה. ואז אני אדווח והתאגיד יכניס שינויים בדנ"א שבאמבט הזיגוטות שלו. ואז נבנה את נקסוס-7, וכשיעלו עליו נשנה גם אותו, ובסופו של דבר יהיה לתאגיד טיפוס שאי-אפשר לזהותו". |
|
|
|
|
|
|
||
|
||||
|
נראה לי שהבנתי: הטענה היא שאמפטיה היא תמצית ויחוד האנושיות. קרי מה שמאפשר לנו להצמיד לאדם או להתנהגות את התואר "אנושי". אם זה כך, ואכן לא מתעניינים בגבולות הטכנולוגיה, הרי שלכאורה הניסוחים שלך מבלבלים מאוד: מותר האדם מן ה"מכונה", לא ניתן "לתכנת" אמפטיה, וכו'. |
|
|
|
|
|
|
||
|
||||
|
אם כך, ואכן הניסוחים בלבלו - אני מתנצל. אכן, הטענה שאמפטיה היא תמצית האנושיות ויחודה, היא אחת הטענות שדיק טוען ביצירותיו. בניסוח "לתכנת" אמפטיה לא השתמשתי במקור, והוא השתרבב לדיון לראשונה בתגובה 223495. עם זאת, דיק כן מתייחס לעניין הזה באותו דיאלוג של דקארד ורייצ'ל שהזכרתי קודם. מדוע הניסוח "מותר האדם מן המכונה" מבלבל? זוהי שאלה לגיטימית שעלתה, בין היתר, עם התפתחות הקיברנטיקה. (למשל: ב"2001", האם כאשר דייב באומן מנתק את האל 9000 הוא בעצם מבצע רצח? האם כאשר האל רוצח את האסטרונאוטים האחרים הוא בעצם פועל מתוך הגנה עצמית?) |
|
|
|
|
|
|
||
|
||||
|
נראה לי שהדוגמא שלך הבהירה לי לגמרי את כוונתך. הניסוח "מותר האדם מן המכונה" בעצם שואל מהי רמת המורכבות של עצם מלאכותי שבה הוא חדל להחשב *מבחינה אתית* לסתם גולם דומם והופך להיות יצור שניתן לייחס לו אנושיות, זכויות, אחריות, וכו'. וכך גם לגבי בן-אדם - מתי מבחינה *אתית* הוא נחשב למכונה (למשל, כאשר הוא פועל אך ורק עפ"י הוראות מבחוץ וללא כל שיקול דעת עצמאי). הסיבה שהתבלבלתי היא שהתייחסתי למובן היותר פורמלי וצר של מכונה, ולא למובן האתי של המילה - ואז ברור שגם אדם הוא מכונה. ולעניין עצמו (אחרי שסוף כל סוף הבנתי אותו). לדעתי תבוניות היא תנאי הכרחי לייחס "אנושיות", "אחריות מוסרית" וכיוב' לכל ישות שהיא. וודאי שזהו תנאי קודם לכל סיפור האמפטיה (לא ניתן ליחס אנושיות ליצור חסר בינה, אמפטי ככל שיהיה). כמו כן, אישית יהיה לי קשה מאוד להתייחס לאנדרואידים מספרו של דיק כאל גלמים לא אנושיים. |
|
|
|
|
|
|
||
|
||||
|
אז בוא נתווכח, בשביל זה משלמים לנו. "מותר האדם מן המכונה הוא ביכולת האמפטית שלו"? | |
|
|
|
|
|
||
|
||||
|
לדעתו של דיק - כן. ניסיתי להסביר כיצד זה משתקף בספרו. כדי שנוכל להתווכח כהלכה, אשמח אם תסביר לי מדוע אתה חושב ש*דיק* סבור אחרת. |
|
|
|
|
|
|
||
|
||||
|
אה, סליחה. חשבתי שכשכתבת ''אפשר להתווכח על זה'', התכוונת ''אפשר להתווכח אם דיק צודק''. אין לי יכולת לדון בשאלה אם זו דעתו של פק''ד, והאמת זו גם נראית לי מטא-שאלה פחות מעניינת מהשאלה עצמה. | |
|
|
|
|
|
||
|
||||
|
בתחום חקר האינטיליגנציה בבעלי החיים (לא כולל אדם) מקובל שהאמפתיה היא תכונה ייחודית לאדם, המחייבת מוח מפותח, בדומה לעוד מספר תכונות כמו יכולת לפתור בעיה חדשה (בניגוד לשינון פיתרון מוכר). בשנים האחרונות מחקרים הראו שהאמפתיה כנראה קיימת גם אצל עורבים ,תוכים ודולפינים(למרות שהמבחן למדידת אמפתיה נתון לויכוח). כל בעלי החיים הנ''ל נחשבים תבוניים (פחות או יותר - התוכי והצלופח לא משהו..) |
|
|
|
|
|
|
||
|
||||
|
טוב שכתבו מאמר על פ.ק.ד., מחכה בכיליון עניים לחלק ב. הבעיה עם "אנדרואידים" כמו על כל הספרים שלו שקראתי, זה שבאיזשהו שלב, לקראת השליש האחרון של הספר, הוא מאבד מיקוד ומתחיל להכניס כל מיני אירועים הזויים. יש כאלה שיגידו שזה חלק מהיופי, לי זה סתם מציק. בכל אופן, אם כבר AI הועלה כאן, עם כל הקיטשיות של הסרט, היתה לו נקודה מעניינת אחת - תמיד חושבים שמכונות יעלו עלינו ביכולות טכניות, אבל בAI , עיקר הסרט מדגיש איך מכונות יוכלו להיות "טובות" מאיתנו במישור ה*ריגשי* - לאהוב יותר חזק ויותר בנאמנות מהאנשים. כמה סרטים ראינו על האדם הנקשר נפשית למכונה שלו ( מכונית, רובוט או אקדח). הנה דוגמא של מכונה שעושה הכל כדי לזכות באהבת אם, למרות שליבה נשבר שוב ושוב, בעוד האם אדישה יחסית, ומחליטה בגחמה של רגע <ספויילר> להצית אצל דיוויד "אהבת אמת", ובכך להרוס את "חייו". |
|
|
|
|
|
|
||
|
||||
|
נהניתי מהמאמר, ומייד רשמתי לעצמי לקרוא את ''האם אנדרואידים חולמים על כבשים חשמליות'', מכיוון שהמאמר העיר את תשומת לבי לכך שאין בין הספר לבין הסרט המבוסס-עליו-כביכול (''בלייד ראנר'') כמעט ולא כלום. עם זאת, לא לגמרי ברור לי ההקשר בין התחומים המדעיים-קיברנטיים לאלו המד''ביים, ויש לי תחושה שכותב המאמר אינו מעמיק מספיק בהסבריו. אני מקווה שזה ישתפר בחלק השני. |
|
|
|
|
|
|
||
|
||||
|
לא הייתי אומר שבין הספר לבין הסרט אין כמעט ולא כלום. יש ביניהם הרבה מן המשותף, אך גם שוני גדול. באופן גס למדי דעתי היא, שאת רידלי סקוט עניין הרבה יותר לשרטט חזון ויזואלי של העתיד, בעוד שאת דיק עניין יותר לחדד בעיות מוסריות של ההווה. ברור, כמובן, שזה אינו שחור ולבן ובשתי היצירות יש גם מזה וגם מזה. אבל נראה לי שסקוט שאף בעיקר להראות כיצד העתיד יראה (וזה כוחו של המדיום בו הוא פועל), ודיק שאף לעסוק בבעיות על-זמניות (חלקו השני של המאמר יראה בעיקר, שספרו של דיק הוא בעצם רומן אקזיסטנציאליסטי פר-אקסלנס). אני לא משוכנע שהבנתי את שאלתך לגבי ההקשר בין התחומים המדעיים-קיברנטיים לאלו המד"בים. האם תוכל לחדד? בכל אופן, כוונתי היתה להראות שספרו של דיק פועל במספר מימדים, ומשקף, בין היתר, בעיות מוסריות הנובעות ממחקרים שהתפתחו באותה תקופה (מחקרי המוח של פנפילד, הקיברנטיקה של ווינר). כמו כן, מושג האנטרופיה - שקיבל משמעות מחודשת עם התפתחות הקיברנטיקה - יקושר בהמשך לתיאוריה פסיכותראפית שיונקת מהאקזיסטנציאליזם. במובן הזה אני לא יכול להבטיח שיפור בהמשך :-). כי דיק, וחשוב לומר זאת דווקא עקב תיוגו כסופר מד"ב, כמעט ולא התעניין במדע ובטכנולוגיה, אלא יותר בפילוסופיה. יצירותיו, לכן, אינן מרחיבות כלל ברקע המדעי-טכנולוגי לתמונת העתיד שהוא מצייר, אלא מתמקדות בשאלות הפילוסופיות, החברתיות והמוסריות. |
|
|
|
|
|
|
||
|
||||
|
אף אני נהניתי מהמאמר, ונזכרתי שכאשר ראיתי את הסרט בלייד ראנר רשמתי לעצמי לקרוא את "האם אנדרואידים חולמים על כבשים חשמליות", אך בינתיים לא הצלחתי להשיגו. היתה לי הרגשה שרידלי-סקוט במאי הסרט עשה שימוש די חופשי בעלילת הספר. סברתי אז שהספר כדרכם של ספרי מד"ב די חלש ברמה הספרותית (דמויות אמינות ומעוררות הזדהות) ולפ.ק.דיק היה מזל שבמאי כל כך גדול לקח לידיו את הספר. לאחר קריאת המאמר, שוב איני משוכנע בכך. לפי דבריך הספר מציג בצורה לא שטחית בעיות פילוסופיות ואידיאולוגיות. אלו התפוררו ורוסקו לשרידים בלתי מזוהים כמיטב המסורת של הבמאים ההוליוודיים אשר גם אם יש בסרטיהם התיחסויות אידיאולוגיות, הן כל כך ספורדיות ומוצנעות שאי אפשר כלל לחוש אותן. למשל, רק אחרי קריאת המאמר, שמתי לב לכך שהאנדרואיד שנכשל בבדיקת טורינג (בסרט היא נקראת אחרת הונטרוואסר-משהו) נכשל בגילוי אמפטיה. כשצפיתי בסרט זה היה סתם פרט בעלילה נטול הקשר . בשאלת הקשר לסרט רציתי לשאול אותך: לדעתי הסצינה החזקה ביותר בסרט היא שקיעת הדמדומים של האנדרואיד רוי באטי אל מותו. האנדרואיד מציין שקיומו לא היה חסר משמעות. הוא ראה דברים שאף בן אדם לא ראה: "מרכבות חלל עולות באש במסלול מחוץ למערכת השמש, זריחה של קרניים UV מעבר לשער טאנהויזר" (הציטוט מהזכרון). לפני מותו האנדרואיד מציל את דקארד ממוות ומסיים בהצהרה התנ"כית "עת למות!". דקארד מסכם, כי לפני מותו אהב האנדרואיד יותר מכל את החיים עצמם ולכן הציל אותו. אני סקרן אם קטע דרמטי ומרשים זה מופיע בספר או שהוא תוספת מקורית של התסריטאים? הניחוש שלי הוא שהסצינה אינה בספר. בניגוד לגישת פ. ק. דיק כלפי האנדרואידים כפי שתארת, רידלי-סקוט אינו מציג את האנדרואידים ככמעט-אדם, אלא יותר מכל הם מזכירים (בפרט מנהיגם רוי באטי) את העל-אדם הניצ'יאני (ובחירת השחקן רוטגר האואר תעיד). נקודה שראויה לדיון נפרד היא: עד כמה הדרמה (האמנות) וקרובתה התקשורת אוהבות את דמות העל-אדם (או כפי שהוא נקרא לפעמים האדם האותנטי, הפרא האציל וכו'). כמה חבל שכאשר הוא מופיע במציאות במקום בדרמה הוא לובש את הדמות של אדם פרימיטיבי נטול אמפטיה, טרוריסט חסר מעצורים או רוצח המונים בירוקראטי. |
|
|
|
|
|
|
||
|
||||
|
"I've seen things you people wouldn't believe: attack ships on fire off the shoulder of Orion. I watched C-beams glitter in the dark near the Tannhauser gate. All those moments will be lost in time, like tears in the rain... Time to die."
|
|
|
|
|
|
|
||
|
||||
|
נפלא. לא כן? אפילו בלי התפאורה של נוף לילה מגג גורד שחקים וגשם שוטף. הבלחה ניצ'אנית בסרט הוליבודי. שכחתי גם לציין כי כל האנדרואידים בסרט (למעט אולי אחד) הם דמויות חיוביות לא פחות ולמעשה יותר מבני האדם (אם כי יש לזה הצדקה בעלילה). | |
|
|
|
|
|
||
|
||||
|
המשפט האחרון ("All those moments" וגו') הוא למעשה אלתור של השחקן, רוטגר האוור. | |
|
|
|
|
|
||
|
||||
|
אאז"ן אין אפילו משהו שמזכיר את הסצינה הזאת בספר. הקטע הטוב ביותר בספר (גם מבחינה פילוסופית), לדעתי, זה כאשר דקר פוגש <ספויילר> "עמית" או שמא "מתחרה", ולא אוסיף יותר כדי לא לקלקל את ההנאה (וגם כי אני לא ממש זוכר). | |
|
|
|
|
|
||
|
||||
|
לצידו של רידלי סקוט יש לציין את חשיבותם הרבה של התסריטאים, המפטון פנצ'ר ודיוויד פיפלס לסרט. פנצ'ר היה האחראי להניע את הפרויקט שהוביל בסופו של דבר ל"בלייד ראנר" (היו עוד רעיונות להפיקו קודם לכן). למיטב זכרוני הוא רכש את הזכויות עוד ב-1975, והוא זה שכתב את התסריט הראשוני. בהמשך עבר התסריט אינסוף שכתובים (11 אם איני טועה), שבמהלכם פנצ'ר נבעט החוצה (נשאר כמפיק שותף) ופיפלס בא במקומו. עיקר האשראי על התסריט של הסרט המוגמר שייך לפיפלס, הגם שהוא עצמו סבור שפנצ'ר עשה עבודה נהדרת. כך או כך, התסריט הסופי שונה למדי מהספר. הסצנה הנפלאה שאתה מציין היא תוספת מקורית של התסריטאים. סקוט, שהתעניין מאד בצד הויזואלי, איפשר לשחקניו להציע את הצעותיהם, והאחראי לדברים שבאטי אומר הוא השחקן, רוטגר האוור. מיותר לציין, שאני מאד ממליץ על קריאת הספר. לא רק שהוא אינו שטחי, אלא שלטעמי הוא מורכב מאד. אם סיפור הפיכתו של הספר "האם אנדרואידים חולמים על כבשים חשמליות" לסרט "בלייד ראנר" מעניין אותך כשלעצמו, אני גם ממליץ מאד על הספר: "Future Noir: The making of Blade Runner" מאת פול סאמון. (http://www.amazon.com/exec/obidos/tg/detail/-/006105...) (והערה קטנה: "הונטרוואסר" הוא שמו של המלון בו השתכן ליאון קובאלסקי בסרט. שמו של מבחן האמפטיה נשמר גם בסרט: "וויגט קמפף"). |
|
|
|
|
|
|
||
|
||||
|
למעשה התעניינתי לא כל כך בתהליך עשיית הסרט, אלא בצורה שבה הרעיונות והעמדות הנמצאים בספר לפי תאורך, התמסמסו לגמרי ונעלמו בסרט. ולעתים אפילו נהפכו על פניהם. האנדרואידים הרצחניים וחסרי היכולת לאמפטיה הפכו לדמויות על-אדם הממשות במלואו את הפוטנציאל של חייהן (בניגוד לבני האדם המתנוונים). דוקא ההעובדה שהסצינה המרשימה של רוי באטי, היא אלתור של השחקן רוטגר האואר, מלמדת כיצד רידלי-סקוט עובד. הוא לא בא עם פילוסופיה, אידיאולוגיה או תפיסת עולם מגובשת ומנסה להעביר אותה באמצעות הסרט. הוא נותן לשחקנים לאלתר. מה שנראה נפלא או נשמע טוב נכנס לסרט. כך נוצר סרט שנראה נהדר אבל תשתית אידיאולוגית אין בו. מה שיש זה שרידים ושברים של רעיונות היוצרים רושם של עומק פילוסופי נסתר הקיים כביכול בסרט. בקשר למבחן ויגט-קמפף, האם זה מבחן אמיתי או שגם כאן יש נסיון (של הסופר במקרה זה) לייצר הילה של מסתורין ועומק למבחן שהוא בעצם וריאציה של מבחן טורינג? דרך אגב, לסרט יש אתר מדהים (כולל תסריטים וסיפור הסרט): http://www.brmovie.com/ |
|
|
|
|
|
|
||
|
||||
|
פה אני נאלץ שלא להסכים. נכון, חלק משמעותי מהרעיונות בספר לא באים לידי ביטוי בסרט, אבל צריך לזכור שאלו שני מדיומים שונים. סקוט, פנצ'ר ופיפלס השכילו לקחת מהספר את מה שיכול לעבור מעולה בקולנוע, השמיטו רעיונות וקוי עלילה אחרים מתוך הכרח, ו*הוסיפו* רעיונות ורבדים, שכוחם במדיום בו הם פועלים. אני סבור שיש לסרט עומק פילוסופי. מבחן האמפטיה וויגט-קמפף אינו מבחן אמיתי, אבל דיק אינו מנסה ליצור שום הילה של מסתורין סביבו: זהו מבחן אמפתיה, שפותח כביכול במכון פבלוב ברוסיה ושבעצם מכיל יחידה "המודדת התרחבות נימי דם באיזור הפנים. ידוע לנו שזו תגובה אוטונומית ראשונית, מה שקרוי 'בושה' או 'הסמקה', בתגובה לגירוי מזעזע מבחינה מוסרית. אי-אפשר לשלוט בה רצונית, כמו במוליכות העור, בקצב הנשימה או בדופק הלב" ויחידה נוספת ש"קולטת תנודות במתיחות שרירי העיניים" (עמ' 44). מכאן ברור שבשום פנים ואופן זו אינה גירסה של מבחן טיורינג, אלא בדיוק להיפך. |
|
|
|
|
|
|
||
|
||||
|
בלייד ראנר - מהם הרעיונות שניסו רידלי-סקוט או תסריטאיו להעביר בסרט? התרשמותי היתה שהסרט הוא ציור עתידני מרהיב ומפחיד ותו לא. מבחן וויגט-קמפף הוא מקרה פרטי של מבחן טורינג - למרות שאיני מבין גדול באף אחד ממבחנים אלו, למיטב הבנתי, במקרה זה אחד מעקרונות העשייה ההוליבודיים (אל תכניס לסרט רעיון שנער בן 12 לא יכול להבין) חושף שמבחן ו"ק אינו אלא פן מסויים של מבחן טורינג. הטכנולוגיה המשמשת לבדיקת הנבחן אינה חשובה מהותית. אם זו, הטכנולוגיה שרידלי-סקוט קיצץ (תגובה אוטונומית, נימי דם וכו') או פשוט ההתרשמות של מוח אנושי כמו אצל טורינג ורידלי-סקוט, לא עקרוני מבחינת המבחן. פק"ד מאבחן אצל האנדרואידים להבדיל מבני אדם, חוסר אמפטיה. טורינג (לפחות בפרשנות שלי) בנקודה זו פחות ספציפי ויותר צנוע (ולדעתי גם חכם). טורינג אינו יודע מהם בדיוק קוי ההבדל בין מכונות לאינטלגנציה אנושית (אמפטיה יכולה להיות אחת מהן), אבל הוא טוען שבני אנוש יודעים באופן אינטואיטיבי להבחין בהם. כלומר האמפטיה של פק"ד היא רק הבדל אפשרי אחד מתוך כמה/רבים משוערים. בהערת אגב, תוכנות המפעילות קבוצות של רובוטים, שהן פופולריות במחקר היום, מייצרות לפעמים תכונות, שלו זוהו אצל בע"ח היו נקראות כאמפטיה. |
|
|
|
|
|
|
||
|
||||
|
מהם הרעיונות שניסו רידלי-סקוט או תסריטאיו להעביר בסרט? אוה, זה פתח לדיון ארוך *מאד* לכשעצמו, מה עוד שמכל אחד תשמע דברים אחרים. מה שבטוח: בשום פנים ואופן הסרט אינו רק ציור עתידני מרהיב (ומפחיד?). כמו שאני מבין את זה, מבחן וויגט-קמפף הוא ממש ממש לא מקרה פרטי של מבחן טיורינג, אלא ממש להיפך. בגרסה שאני מכיר, מבחן טיורינג הוא מבוסס אינטליגנציה: אם אדם המתקשר דרך שני מסופים באורח *אמצעי* אינו מסוגל לומר מאחורי מי יושב אדם והיכן היא תוכנת המחשב, אז ניתן לומר שהתוכנה תבונית. ו"ק הוא מבוסס רגש: אם יש השהית מה בתגובה פיסיולוגית לשאלות מזעזעות מבחינה רגשית-מוסרית, אז מדובר באנדרואיד. הנקודה של דיק היא, שתבונה אינה מדד לאנושיות. לדעתי אין כאן עניין של מבחן צנוע יותר או חכם פחות, אלא רצון להדגיש נקודה עקרונית. |
|
|
|
|
|
|
||
|
||||
|
אתה מפספס את לב העניין במבחן טורינג. טורינג לא יודע אנליטית להבדיל בין מכונה לבין בני אדם (כלומר בודאי לא מדובר כאן בשימוש באינטלגנציה אנליטית). הוא טוען שבני אדם יודעים אינטואיטיבית להבדיל ביניהם ומשתמש בכך ליצירת הקריטריון שתארת (כלומר מדובר פה לכל היותר באינטלגנציה אינטואיטבית). האבחנה האינטואיטיבית יכולה להסתמך על כל מיני הבדלים בין מכונות ובני אנוש ובפרט אמפטיה. רידלי-סקוט ע''י שהוריד את מרכיב הבדיקה הטכנולוגי והחזיר את הבודק האנושי, חשף למעשה את המהות הטורינגית של מבחן ו''ק. בתגובות שבסוף הדיון נתנו המגיבים הפנייה למאמר של טורינג. אתה יכול לדפדף ולראות שמבחן טורינג מסתמך על האינטואיציה האנושית כחיישן וכלל אינו מתבסס על הבדלים ספציפיים (לא אמפטיה ולא דברים אחרים). |
|
|
|
|
|
|
||
|
||||
|
גאוני- מבחן שוקי שמאל: יצור שמסוגל להבחין בין אדם לבין מכונה במבחו טיורינג הוא בעל אינטואיציה. |
|
|
|
|
|
|
||
|
||||
|
אם קראת את המאמר המקורי, טיורינג עצמו האמין שמה שיבדיל תמיד בין אדם למכונה הוא הטלפתיה. משום מה הוא לא האמין שאפשר יהיה לבנות מכונות בעלות יכולת טלפתית. | |
|
|
|
|
|
||
|
||||
|
או קיי, אני מבין שיש פה "צבת בצבת עשוייה". אני מסכים שזו פרשנות שלי של דברי טורינג. אבל עיון במאמרhttp://www.abelard.org/turpap/turpap.htm אינו סותר אותה. ישנו צורך מעשי בקריטריון, מתי מכונה מגיעה לבשלות של בינה מלאכותית. אין מערכת אלגוריתמים אנליטיים העושה זאת בצורה טובה. לכן טורינג משתמש ביכולת המשוערת שלנו להבחין בין מוח אנושי למוח מכונה פשוט (שאני אישית לא משוכנע שהיא אכן כל כך מלאה) כדי להגדיר קריטריון בר ביצוע. הניחוש שלי, מה מקור ה"אינטואיציה" ההיא, הוא שאנו מטיבים לזהות פעולה של מוחות הדומים לשלנו. |
|
|
|
|
|
|
||
|
||||
|
אם כך, לא מעט מהנהגים שאני פוגש על הכביש ''נכשלים'' במבחן טורינג. | |
|
|
|
|
|
||
|
||||
|
אמרתי לזהות. לא אמרתי להבין. | |
|
|
|
|
|
||
|
||||
|
אבל גם אמרת ''מוחות הדומים לשלנו''. | |
|
|
|
|
|
||
|
||||
|
דווקא לא אמרתי את זה בציניות, באמת חשבתי שזה יפה- להפוך רעיון על הראש ולהוציא ממנו משהו. כמו המדחום- משתמשים באפקט (התפשטות בחום) כדי למדוד את הגורם לאפקט ( טמפרטורה). | |
|
|
|
|
|
||
|
||||
|
כן זו בדיוק כוונתי. ראה תגובה 224010 | |
|
|
|
|
|
||
|
||||
|
כמעט כל מכשירי המדידה משתמשים באפקט כדי למדוד את הגורם, לא? (היוצא מהכלל היחיד שעולה לי בראש במחשבה מהירה הוא הסרגל (מטר רץ, וכו')). | |
|
|
|
|
|
||
|
||||
|
וריאנט על שאלת הפרדיקטים הסטנדרטית שלי: למה "ישנו צורך מעשי בקריטריון, מתי מכונה מגיעה לבשלות של בינה מלאכותית?" | |
|
|
|
|
|
||
|
||||
|
מדי פעם מופיע מתכנת או קבוצת מתכנתים הטוענת שפתחו תכנה אשר יכולה לקיים שיחה תבונית (intelligible) מול פרטנר אנושי, או לכתוב שיר או פרוזה גבוהה. הטענה היא כי התונה הנ"ל מייצגת בינה מלאכותית (אינטליגנציה, אסוציאטיביות, אינטואיציה) שמעבר ליכולות המתמטיות המוכרות של המחשבים. קריטריון דמוי מבחן טורינג, נדרש כדי לבדוק אם לטענותיהם יש על מה להסתמך. | |
|
|
|
|
|
||
|
||||
|
בהינתן תוכנה לשיחה או כתיבת שיר או פרוזה, אפשר לדון אם יש בה התקדמות לעומת מה שהיה עד כה, ועד כמה ההתקדמות הזו דרמטית, גם בלי מבחן טיורינג או כל הגדרה אחרת לבינה מלאכותית. יתרה מכך: נניח שמופיעה פתאום תוכנה שאכן מצליחה לנהל שיחה כמו-אנושית חלקה, ואתה רוצה לקבוע אם יש כאן בינה מלאכותית; מבחן טיורינג אומר שכן, אבל הוא קובע זאת פחות או יותר כאקסיומה, כך שלא באמת התקדמת. דבר שלישי, אם מישהו טוען שתוכנה X מהווה בינה מלאכותית, אני עדיין לא רואה מה הצוךר המעשי לדעת אם הוא צודק. | |
|
|
|
|
|
||
|
||||
|
גם להבנתי מבחן טורינג הוא אקסיומטי משהו, אבל שימושיותו מוכחת ע''י העובדה שרק מעטים טוענים שעמדו בו (כלומר מסנן לא רע). אנו יודעים שלמחשבים יש יכולות בתחומים מסויימים (בד''כ עולות על התכונות המקבילות במוח האנושי), וזו שאלה מסקרנת מה יכולותיו בתחומים האחרים ועד כמה הוא יכול לחקות את המוח האנושי. בכל אופן החיפוש אחר בינה מלאכותית הוא תחום מחקר מרכזי הדורש קריטריונים דומת זה. |
|
|
|
|
|
|
||
|
||||
|
ואם לא היה לנו קריטריון קאנוני כזה, האם היו היום הרבה טוענים לכתר "בינה מלאכותית"? אולי; זה ניסוי מחשבה שקצת קשה לי להיות בטוח בו. אם כן, אז אתה צודק, והרווחנו משהו מהמבחן. זאת, בהנחה (שנראית לי נכונה) ש*לא רק בגלל המבחן* ברור לנו שאין היום בינה מלאכותית של ממש. אם לא, אז השימושיות עדיין לא הוכחה... | |
|
|
|
|
|
||
|
||||
|
אני לא יכול להביא דוגמאות, אבל נדמה לי שהיו לא מעט טוענים לכתר ונדמה לי שלפני כשנתיים דובר אפילו על תוכנה שנטען שעמדה במבחן. | |
|
|
|
|
|
||
|
||||
|
|
|
|
|
|
|
||
|
||||
|
בעצם, אני חושב שגם אינטואיטיבית אני מסכים עם טיורינג רק על תנאי. יכולת שיחה אנושית היא בלי ספק אבן-דרך (milestone) מעניינת. אבל רק כנגיע אליה נדע באמת: אני רואה אפשרות שנגיע ליום שמחשב יצליח במבחן טיורינג, ומתוך ידיעה איך הוא עושה זאת, כולנו נסכים שזו לא בינה מלאכותית. האפשרות ההפוכה נראית לי פחות סבירה, אבל גם לא בלתי-אפשרית: שלפני שמחשב יצליח במבחן טיורינג, תהיה תוכנה שנשתכנע שהיא כן בינה מלאכותית. | |
|
|
|
|
|
||
|
||||
|
"סברתי אז שהספר כדרכם של ספרי מד"ב די חלש ברמה הספרותית (דמויות אמינות ומעוררות הזדהות) ולפ.ק.דיק היה מזל שבמאי כל כך גדול לקח לידיו את הספר" . האם להמתין שמישהו מחובבי המד"ב יזדעק? האם להזדעק בעצמי, כחובבת מד"ב? נדמה לי שאת ההכללה הגורפת לגבי "חולשה ספרותית" במד"ב אפשר להפריך בקלות. אבל הקביעה בחלק השני של המשפט, ממנה אפשר להסיק חו"ח שדיק אינו סופר גדול - אין לה על מה להישען, אלא על חוסר היכרות עם כתביו. |
|
|
|
|
|
|
||
|
||||
|
פעם נהגתי להזדעק. היום אני משתדל לכתוב ולהסביר, מדוע אני כ''כ אוהב לקרוא את פק''ד ולמה אני מחשיב אותו כ''כ. הרושם שאני קיבלתי, ואשמח מאד אם אני טועה, הוא שהמד''ב נמצא בגטו מבחינת הקהל הרחב, ובתוכו פק''ד נמצא בגטו משלו. |
|
|
|
|
|
|
||
|
||||
|
הזדרזת להגיב. היית צריכה לקרוא את המשך התגובה (למעשה שערתי שם שהבמאי מסמס את כל הרעיונות המעמיקים של הסופר). אכן לא קראתי את הספר וזה כנראה חור לא קטן. אאל"ט קראתי איזה ספר שכתב דיק יחד עם סופר אחר (היינלין?) וכ"כ לא התרשמתי שאיני זוכר ממנו כלום. בעקבות המאמר, נראה לי שקריאת ספריו של פ.ק. דיק בהחלט נדרשת אצלי. לידיעתך, גם אני חובב מד"ב וקביעתי היא אכן הכללה גורפת (תגובה טובה תכלול רשימה של יצירות מד"ב בעלות ערך ספרותי). לרוע המזל יש בה יותר משמץ של מציאות. יש כאן 2 עניינים נפרדים: 1) רעיונות מעמיקים בספרי מד"ב? כן. יש לא מעט ספרי וסיפורי מד"ב המכילים רעיונות מבריקים ועמוקים. 2) איכות ספרותית בספרי מד"ב? הרבה פחות. יש בודאי מקרים סותרים (כרגע לא עולה אף אחד בדעתי), אבל בד"כ הדמויות שטוחות מדי והעלילה לא מצליחה ליצר שיאים דרמטיים (איזה דמויות זוכרים מספרי אסימוב? המחשב האל). הדמויות והעלילה הם פלטפורמה להצגת חזונות עתידיים ולא בעלי משקל משל עצמם. לא פלא שהרבה מד"ב משובח נכתב בסיפורים קצרים שם פיתוח העלילה והדמויות מוגבל מטבעו. בקצרה, לגבי פיליפ ק דיק - לא אשם, גברתי. לגבי המד"ב בכלל- מודה באשמה בהסתייגות. |
|
|
|
|
|
|
||
|
||||
|
לעניות דעתי רוברט סילברברג כותב (כתב?) מצויין בלי קשר לז'אנר. | |
|
|
|
|
|
||
|
||||
|
אני חושב שחובבי "המשחק של אנדר" לא יסכימו איתך, ואני זוכר לטובה כמה דמויות של היינלין (לזארוס לונג, כמובן, ואת רוב הקאסט של "גר בארץ נוכרייה") ואפשר גם להביא את "סולאריס", למרות שסטניסלב לם בטח יזעק שזה לא מד"ב. את אסימוב לא קראתי, אבל האל הוא לא היצירה של קלארק? אגב, דעתי היא מאוד לא מחייבת, כי ההיכרות שלי עם מד"ב היא שטחית למדי. עכשיו, יהיה נחמד לשמוע איזה דמויות ספרותיות לא שטוחות/עלילות בעלות שיאים דרמטיים אתה יכול להביא מהספרות הכללית, שאפשר יהיה להבין פחות או יותר מה קנה המידה שלך. יחד עם כל זה, כמו הפנטזיה הנוסחתית והרומן הרומנטי, גם המד"ב הזבלי הוא קטגוריה מכובדת של ספרות גרועה בזכות עצמה, אבל במקום שיסווגו אותו כ"ספרות גרועה" או "ספרי טיסה", מסווגים אותו כ"מד"ב", ולא בהכרח צריך לעשות את זה. |
|
|
|
|
|
|
||
|
||||
|
המחשב האל אינו ''מספרי אסימוב'', הוא מספרי ארתור סי. קלארק... | |
|
|
|
|
|
||
|
||||
|
אולי הכוונה למחשב האֵל, מולטיוואק? | |
|
|
|
|
|
||
|
||||
|
אכן א"ס קלארק. התבלבלתי. אולי זה לא ממש משכנע להקיש מהרושם והזכרון האישי שלי אל האיכות הספרותית/דרמטית של גיבוריהם של שניים ממובילי ספרות המד"ב, אבל בכל זאת אטען שהדבר מעיד עד כמה הדמויות בספריהם לא מרשימות. את אסימוב קראתי הרבה ואני זוכר שישנם 3 חוקי רובוטיקה, אבל אני לא מצליח להזכר באפילו דמות אחת מספריו. את א"ס קלארק קראתי הרבה פחות, אבל גם ממנו לא זכורים לי דמויות ועלילות. ומכאן, אולי הבלבול. אני זוכר שקראתי ספר יפה מאוד של א"ס קלארק על גילוי חללית נטושה הנעה במסלול כלשהו במערכת השמש (עד כמה שזכרוני מגיע, הספר והחללית נקראים ע"ש אל הודי כלשהו). תאור החללית והרעיונות מבריקים, אבל שוב איני זוכר אף דמות או עלילה מן הספר. דוגמה נוספת היא סופר מד"ב ("עולם טבעת") שהיה די מצליח בזמנו, לארי ניבן(?). הוא היה בעל השכלה מדעית. החזונות העתידיים והמדעיים שלו היו מרתקים, אבל היכולת הספרותית שלו היתה ברמה של תלמיד תיכון. |
|
|
|
|
|
|
||
|
||||
|
"מפגש עם ראמה"? | |
|
|
|
|
|
||
|
||||
|
ספר עם רעיון יפה, אבל גיבורים או התפתחות עלילה איני זוכר. | |
|
|
|
|
|
||
|
||||
|
כמו רוב הספרים שקראתי. | |
|
|
|
|
|
||
|
||||
|
דווקא בספר הטלפונים יש הרבה גיבורים- מומלץ! | |
|
|
|
|
|
||
|
||||
|
הספר: "חלליה" של פרנק הרברט (וביל רנסום?) | |
|
|
|
|
|
||
|
||||
|
זלזני? בכל אופן, למרות שקראתי מבקרים שטוענים ההפך, אני מעדיף את הסיפורים הקצרים של דיק, ולא את הספרים. |
|
|
|
|
|
|
||
|
||||
|
יישר כח על הכתבה. סביר להניח שהיכולת להתנהגות אמפטית אצל בני אדם היא תכונה מולדת שמן הסתם נושאת יתרון הישרדותי לחיות חברתיות, ובמיוחד להומנואידים שצאצאיהם חסרי ישע ותלויים תקופה ארוכה. נראה לי גם כי קל יחסית לתכנת מכונה להתנהגות שתתפרש כאמפטית ("בראותך עכביש גידם - המת אותו"). אלא מאי? מר דיק היה בוודאי משיב שההבדל הוא בחוויה הסובייקטיבית, הפנימית, שחש האמפט - כלומר שוב עסקינן באותה תחושת "אני" מסתורית, חידת התודעה. לי אישית אין ספק שהתודעה איננה ענין של יש או אין, אלא רצף אנלוגי הנמתח מן הג'וק ועד קוראי האייל, ועומד ביחס ישר למורכבות הפלונטר של הנוירונים (או פוזיטרונים) במוחם. |
|
|
|
|
|
|
||
|
||||
|
אם להשתמש במינוח שלך, אני חושב שהנקודה העיקרית של דיק היא שאמפטיה לא ניתנת לתיכנות. וברגע שאדם מתחיל לפעול באופן ''מתוכנת'', אז הוא מפסיק להיות אדם ''אותנטי'' והופך להיות מה שדיק מכנה מכונת רפלקסים, אנדרואיד, צלם וכו'. הביקורת של דיק כלפי הממסד היא, שהוא מנסה ל''תכנת'' את האזרחים בצורות שונות, כגון שטיפת מוח להמונים באמצעות כלי התקשורת, פירסומות ומערכת החינוך. הממסד, בשם טובת הכלל כביכול, מתייג כ''פסיכוטיים'' את אותם פרטים שמסרבים להתנהג ע''פ האלגוריתם המקובל. הללו מטופלים בכל האמצעים במטרה להרגיעם ולייצבם על מנת שניתן יהיה לשוב ולתכנת אותם לפעול בהתאם לאינטרסים של השלטונות. |
|
|
|
|
|
|
||
|
||||
|
מלבד זאת האמפטיה היא רגש מאוד פשוט ואף פרימיטיבי שדי קל לתאר אותו באלגוריתם (למרות שכזה יתבסס על אלגוריתם מסובך יותר). אדם סמית' כותב היטב על אמפתיה בספרו "the theory of moral sentiments". | |
|
|
|
|
|
||
|
||||
|
אהבה היא רגש "פשוט" ואף פרימיטיבי. אין פירוש הדבר שרגשות אלו ניתנים לתיאור אלגוריתמי. יש להבחין בין ההגדרה, שהיא בסה"כ מילים, לבין חווית הרגש עצמו. גם אם ההגדרה של "אמפטיה" פשוטה, המציאות מוכיחה שפעמים רבות בני-אדם מתקשים לחוותה ביום-יום. השאלה שדיק מתמקד בה איננה האם ניתן לתאר אמפטיה באלגוריתם. לדעתי (תגובה 223693) היא אחרת. יעניין אותי לשמוע ממך, האם אתה מגדיר את התנהגות הנאצים כ"אנושית"? אם לא, מה לדעתך הדבר שהיה להם, או לא היה להם, כאשר הם פיתחו ויישמו את מנגנון ההשמדה? |
|
|
|
|
|
|
||
|
||||
|
עשר האגורות שלי: כן, התנהגות הנאצים היתה אנושית. מה שהיה להם הוא התלכדות שבטית סביב מנהיג כריזמטי (עד כמה שזה משונה מהזוית שלנו) והקצנה של סנטימנטים אנושיים ידועים כמו שנאת הזר והפחתתו לדרגת תת-אדם. | |
|
|
|
|
|
||
|
||||
|
הטיעון שלו הוא מעגלי: מה שהנאצים עשו היה "לא אנושי". מה איפיין אותם? חוסר אמפתיה. מכאן שאמפתיה היא מה שמייחד התנהגות "אנושית". אין ספק שהתנהגות הנאצים היתה אנושית, נראה לי שפ.ק.ד ואתה בעקבותיו מבלבלים בין התנהגות "אנושית" והתנהגות "מוסרית". |
|
|
|
|
|
|
||
|
||||
|
ברמת שחור ולבן - כן, אתה צודק. אבל בוא נדייק יותר, כי לדעתי יש חשיבות לניואנסים: ציינתי במאמר שדיק שואל "מה הוא הדבר בהתנהגותנו, שאנו יכולים לכנות *במיוחד* אנושי? מה *מייחד* אותנו כמין חי? ומהו הדבר, לפחות עד עתה, שאנו יכולים לפטור כהתנהגות של מכונה גרידא, או בהרחבה, התנהגות אנושית בזויה, או התנהגות רפלקסיבית?" אני חושב שהתשובה שלו היא שהאמפטיה היא אותו דבר שניתן לכנות "במיוחד אנושי", ושהתנהגות כגון זו של הנאצים נופלת אצלו לקטגוריה של התנהגות רפלקסיבית ובזויה, מה שהוא מכנה "אדם לא אותנטי". |
|
|
|
|
|
|
||
|
||||
|
האמפתיה האנושית תמיד חיה בד בבד עם קטגוריזציה של אלה ש''ראויים'' לה (''אנחנו'') לאחרים. חוששני שהנאצים לא היו פחות אותנטיים מיהושע בן-נון, החמר רוז' ושבטי הטוטסי וההוטו. | |
|
|
|
|
|
||
|
||||
|
האמפתיה (כמו הרבה רגשות ''יפים'' אחרים) היא אינה יותר מפיתרון אלגנטי של האבולוציה לנושא דילמת האסיר. (ראה תורת המשחקים) התנהגות זאת בהחלט מייחדת בני אנוש - בדיוק כמו מניפולציה. כי הרי רובוטים לא מבצעים מניפולציות. |
|
|
|
|
|
|
||
|
||||
|
הערה קטנה: טורינג לא נתן את המבחן שלו כקריטריון לאינטיליגנציה (ובוודאי שלא אנושיות) הוא רק הציע כתחליף לשאלה "האם מכונה יכולה לחשוב?" את השאלה "האם מכונה יכולה לחקות אדם (כלומר מישהו חושב) באופן מהותי?". (גם זה לא בדיוק מדויק. המאמר המלא נמצא כאן: |
|
|
|
|
|
|
||
|
||||
|
מה זאת אומרת "הציע [אותה] כתחליף"? האם אני יכול להציע כתחליף לשאלה זו את השאלה "האם הירח עשוי מגבינה"? הוא הרי התכוון שזה תחליף משמעותי, או מעניין; פרשנות סבירה, בעיני, היא שהוא רומז שכן אפשר לחשוב עליה כקריטריון לאינטליגנציה. זו רק פרשנות; אבל טיורינג מחייב פרשנות. צריך לומר זאת: למרות שהמאמר שלו נחשב מאמר חשוב בפילוסופיה, ניכר שהוא לא פילוסוף מיומן. יש לו שם איזה רעיון, אבל הוא לא מבהיר במפורש מאיפה הוא בא ולאן הוא הולך. |
|
|
|
|
|
|
||
|
||||
|
לדעתי דוקא יש במבחן טורינג, תפיסה מבריקה של הנושא. הוא מכניס חשיבה של מדעי הטבע לתחום הנחשב כעיסוק לפילוסופים. מאחר ואיננו יודעים איך להגדיר בדיוק התנהגות אנושית (קריא לקבוע קריטריונים מובהקים שיפרידו בין חשיבה אנושית לחשיבת מכונה), לא נותר לו אלא לנצל את העובדה הבלתי מוסברת שבאופן מעשי אנו די מהר מבחינים ביניהן. כלומר הוא השתמש בעובדה היחידה שברשותו כדי לייצר כלי המגדיר באופן חד משמעי איך מבחינים בין חשיבת מכונה לאינטליגנציה אנושית ואינו משאיר מקום לערפול ובלבול רב משמעי. |
|
|
|
|
|
|
||
|
||||
|
קודם כל, יופי: גם אתה עושה פרשנות (סבירה) שלו. הוא לא כתב במפורש את מה שאתה כותב. הרעיון שלו באמת יפה, התלונה הקטנה שלי היא רק נגד בהירות המהלך הטיעוני שלו. יותר לעניין, צריך להגיד *משהו* על הקפיצה משאלת המחשבה לשאלת ההתנהגות הנצפית. גם אתה לא ממש מצדיק את המעבר הזה (כלומר, אתה מצדיק אותו מבחינה זו שהוא נחוץ, אבל לא מבחינה זו שהוא נכון). יכול להיות שאי-אפשר באמת להצדיק אותו, אלא רק להשתכנע אינטואיטיבית שיש בו משהו; אם כך, צריך לומר לפחות את זה. אני חושב שפילוסוף "מקצועי" לא היה משאיר את זה בערפל כמו טיורינג. |
|
|
|
|
|
|
||
|
||||
|
אני לא מכיר את עבודתו של טורינג מכלי ראשון ולכן איני יכול להתיימר להסביר אותו או ל"דבר בשמו". אבל למרות זאת יש לי תשובה ושאלה בתגובה. לגבי ה"משהו" החסר, אני מנחש, שהעובדה שאנו מזהים כי הדובר אלינו דרך המסוף הוא מכונה ולא אדם (או בינה מלאכותית ברמה גבוהה) נובעת מכך שאנו כנראה יודעים לזהות פעולת מוחות הדומים למוח שלנו. יש לי הרגשה שגם אם תמצא דרך לתקשר דרך מסוף עם קופים, נצליח לזהות שהם אינם בני אדם. לגבי "פילוסוף מקצועי": כמה שאני מבין טורינג היה מתמטיקאי ו/או איש מחשבים ולא פילוסוף. מעניין יהיה לדעת היכן הציע את מבחן טורינג. האם הוא ממש כתב מאמר העוסק בפילוסופיה של בינה מלאכותית? האם זה היה מאמר לעיתון? איזה עיתון? קשה לי להאמין שהוא כתב מאמר פילוסופי. למבחן טורינג, יש צורך מעשי ללא קשר לפילוסופיה. יש כל מיני נסיונות לבנות מכונות המחקות פעולות אנושיות ודרוש קריטריון כדי להבחין בין מוח מכני סתם לבין בינה מלאכותית של ממש. על שאלה זו מבחן טורינג להבנתי עונה בצורה ברורה, מבריקה ומלאה. דרך אגב, אני לא בטוח שמבחן טורינג הוא נכון. נניח שאפשר לפתח תוכנה המצליחה להשתתף בדיאלוג אנושי ממושך ככל הנדרש בלי תגובה בלתי אנושית בעליל. האם זו באמת בינה מלאכותית או עדיין רק מכונת חיקוי מושלמת? די לחשוב על לא מעט פוליטיקאים שהם כסילים גמורים וכסילותם אינה נחשפת למרות שהם מרבים להופיע בתקשורת (אני מקווה שהאנלוגיה מובנת או לפחות תקפה). אני חושב על מישהו מסויים, שדבריו לעיתים היו נטולי מהות לגמרי אך בגלל שהשתמש במינוח המקובל הם התקבלו כמעין אמירה פוליטית. |
|
|
|
|
|
|
||
|
||||
|
המאמר "Computing Machinery and Intelligence" פורסם במגזין (Mind Vol. LIX, no. 236 (1950 ומצוטט בין השאר בספר The Mind's I של הופשטטר. | |
|
|
|
|
|
||
|
||||
|
הופשטטר ודנט. | |
|
|
|
|
|
||
|
||||
|
גרסה מקוונת: http://www.abelard.org/turpap/turpap.htm | |
|
|
|
|
|
||
|
||||
|
אני חושש שדוגמת הפוליטיקאי אינה מתאימה כשאתה משוחח עם בלבניסט. | |
|
|
|
|
|
||
|
||||
|
האמת היא שמבחן טורינג דורש מהמכונה לשקר, שזו דרישה בעייתית: כדי שנכיר במכונה כבעלת תבונה, היא תהיה חייבת לפעול בניגוד למוסר המקובל בקרבנו (ואז תהיה לנו עילה לכבות אותה, כמובן, כי לך תסמוך על מכונה שקרנית). תמיד הפריע לי במבחן הזה... | |
|
|
|
|
|
||
|
||||
|
זה לא שקר אם המכונה מאמינה בזה באמת. | |
|
|
|
|
|
||
|
||||
|
בעיניי, מבחן טורינג הוא סוג של רמאות. הוא לא מלמד אותנו שום דבר על איך מזהים תבונה אלא הוא רק מניח שלבני-אדם יש כזו, ושניתן לזהות אותה באמצעות תקשורת מילולית. לא ממש פרודוקטיבי. באותה שיטה ניתן לבדוק אם מישהוא שמח: קח את עירית ענבי, שים אותה בחדר אחד... | |
|
|
|
|
|
||
|
||||
|
אח שלי, לאחר כמעט שעה (נו טוב.. זה לוקח לי זמן) חד משמעית, ללא שום ספק, עוררת את הרצון לקרוא כל אחד ואחד מהספרים המוזכרים במאמר. התחלת בכתיבת המאמר (כפי שאמרת ''כתבתי,סתם,בשבילי''), ואולי פירסומו באתר הוא דבר של מה בכך עבורך, אבל כמישהי שלעולם לא טעמה מספרי המד''ב, בהחלט הצלחת לגרות אותי להיכנס ולהכיר ולהיסחף בקריאת הספרים. מאחלת לך בהצלחה רבה ואשאיל ממך בהזדמנות... אוהבת.. |
|
|
|
|
|
|
||
|
||||
|
התברר שעכברים חשים אמפטיה לסבל. הצלחתי להשיג את שכ"ג? |
|
|
|
|
|
|
||
|
||||
|
תגובה 395258 | |
|
|
|
|
|
||
|
||||
|
תגובה 395482 | |
|
|
|
|
|
||
|
||||
|
למה לא תנסה לפתור את החידה שלי? יש לי הרגשה שאתה יכול. | |
|
|
|
|
|
||
|
||||
|
יש לי ניחוש, אבל אני לא מצליח לסדר את המתאבד בסכימה. | |
|
|
|
|
|
||
|
||||
|
אלמלא מוראו של ירדן, הייתי מגיב. | |
|
|
|
|
|
||
|
||||
|
רובוט שנראה כמו אישה (בעברית אפשר פשוט לומר "רובוטית"?), מה שמזכיר את האנדרואיד פיליפ דיק (שראשו נשכח בטיסה ללאס וגאס). | |
|
|
| חזרה לעמוד הראשי | |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |