בתשובה למאיר יגר, 04/06/04 15:08
 |
|
 |
||
|
||||
 |
נראה לי שיש פה בעית מינוח מסויימת לגבי המילים "מכונה" ו"תכנות". אדם הוא יצור מכני לא פחות מאשר שעון כיס. הוא פועל עפ"י סט כללים מוגדר היטב שאנחנו מבינים לא רע (כימיה, פיסיקה קוואנטית במקרה הגרוע). מה שאנחנו לא מבינים זה איך הכללים הללו מתורגמים להתנהגות האנושית המופלאה לה אנחנו עדים, אבל זה לא רלבנטי. המונח "תכנות" במשמעותה המקובלת (לפחות זו שמשמשת מתכנתים) פירושו קביעת הכללים המכניים לפיהם פועלת מכונה כלשהיא. לפיכך אין שום מניעה תאורטית לתכנת מכונה שמחקה בן-אדם ב-100%, כולל אמפטיה (שלגביה הקשיים הפרקטיים הם אפילו פחותים). המשמעות האחרת שבה השתמשת במילים "לתכנת" ו"מכונה" לא ברורה לי לגמרי. מההקשר, אני יכול להבין שאתה מתייחס ל"תכנות" כהתנייה שמבוצעת על בני אדם, לפעול עפ"י סט כללים חיצוניים תוך הדחקת שיקול דעת ורגש עצמאיים (שכזכור גם הם מכניים לגמרי). זהו תהליך ברמת ארגון אחרת לגמרי ויש לו מינוחים הולמים יותר (נניח, "קונפורמיות", אפשר למצוא עוד). בקיצור, כשאתה כותב "אמפטיה לא ניתנת לחיקוי", למה בדיוק אתה מתכוון? |
 |
 |
 |
|
|
|
||
|
||||
|
אישית, אינני סבור שהאדם הוא *רק* יצור מכני, לא פחות מאשר שעון כיס. אולי במובן הפיסיולוגי ניתן להתייחס אל הגוף כאל מכונה, אבל כפי שכבר ציינתי בגוף המאמר, השאלה שמעניינת את דיק היא, האם לאנדרואידים יש נשמות? אדם הוא לא רק גוף - הוא גם נשמה, או נפש. בהערת הסוגריים שלך אתה מציין שרגש ושיקול דעת גם הם מכנים לגמרי. אני חושב אחרת. גם אינני חושב שנפש האדם פועלת ע"פ אוסף כללים מוגדר היטב, ובטח שעדיין איננו מבינים אותה היטב. אתה אומר שתכנות "פירושו קביעת הכללים המכניים לפיהם פועלת מכונה כלשהיא. לפיכך אין שום מניעה תאורטית לתכנת מכונה שמחקה בן-אדם ב-100%, כולל אמפטיה". כיוון שמעבר לצרכים הפיסיולוגיים המיידיים, נפש האדם, רצונותיו, רגשותיו ונשמתו הם אלו שמדריכים את פעולותיו, וכיוון שהללו אינם מבנים מכאניים, הרי שיש מניעה לתכנת מכונה שמחקה התנהגות אנושית, ולא רק מניעה תיאורטית. במשמעות האחרת שציינת השתמשתי כדי לציין את ביקורתו של דיק כלפי הממסד, השלטונות ובעלי השררה למיניהם. אני נוטה להסכים דווקא איתו. קח לדוגמא את המדינה הנאצית של פעם או הקומוניסטית של היום: האם באמת אתה חושב ש"חינוך לקונפורמיות" הוא המונח שמתאר היטב את מה שקורה שם? אני חושב, למשל, שבצפון קוריאה, או בסין של מאו, או במקרים נוספים אחרים, הממסד בהחלט מנסה לתכנת את האזרחים ולא לעודדם לקונפורמיות. (בהקשר הזה אני ממליץ לקרוא את סיפורו הקצר של דיק, "אמונת אבותינו", שמופיע באנתולוגיה "חזיונות מסוכנים" בעריכת הארלאן אליסון). בקיצור, כשאני כותב "אמפטיה לא ניתנת לחיקוי", אני בסה"כ מגיב על דבריך ש"אמפטיה נראית לי נטיה די פשוטה להבנה - ובהחלט לא יכולת מיסטית בלתי ניתנת לחיקוי". אני מתכוון, שדיק רואה באמפטיה כקו המבחין בין אדם למכונה. אם ניתן היה ליצור מכונה שתדע לחקות התנהגות אמפטית, הרי שע"פ דיק לא ניתן היה יותר להבחין בין אדם לבין מכונה. הדרך היחידה לעשות זאת בספר (ובסרט) היא דרך אותו מבחן, וויגט-קמפף. |
|
|
|
|
|
|
||
|
||||
|
במאה ה-20 ותחילת ה-21, לטעון שנשמה זה משהוא שלא פועל עפ"י אוסף כללים מוגדר היטב זה פשוט אמונה תפלה. עובדה אמפירית בדוקה, היא שכל התנהגות מנטלית שהיא נובעת מתהליך פיסי במוח. חוקי הפיסיקה (שמפעילים את החלקיקים במוח) הם בהחלט אוסף כללים מוגדר היטב. השאלה אם אנחנו מבינים היטב איך תהליך פיסי X מתרגם לפעילות מנטלית Y (או אפילו אם אנחנו נוכל אי פעם לדעת זאת) היא מחוץ לענין. יתר על כן, הערתי המקורית היא אורתוגונלית לשאלה האם ליצור "ישות מנטלית" מלאכותית זה מסובך עקרונית (כמו שאתה חושב) או רק מסובך פרקטית. ברור שהאמפטיה היא מבין התופעות המנטליות הפשוטות, ואילו התבונה היא התופעה המנטלית המופלאה והמורכבת ביותר (וכנראה התופעה המורכבת ביותר הידועה לאנושות). ניתן אם כן לחשוד שמי שמספיק מתוחכם ליצור מכונה נבונה באמת, יוכל בקלות לעשות אותה אמפטית. למה דיק סבור שלא יהיה כך? -------- נדמה לי שהתשובה קשורה איכשהוא לבילבול המושגים לגבי "תכנות", ששוב חזרת עליו1. הרי "תכנות" במובן השני של שליטה על הניסיון החושי, מכתיב את רוב ההתנהגויות שלנו, אבל לא את הנטיות מולדות כגון רגשות ובפרט אמפטיה. וכך יוצא שהאחרונים הם משהוא מיסטי שלא ניתן להכתבה, בפרט למכונות. אלא שלכך אין שום קשר לתכנות מכונות. אני אנסח את ההבדל בין 2 המשמעויות בצורה יותר חריפה: המשמעות הנכונה של "תכנות" היא בניית מכונה. כאשר אתה בונה מכונה, אתה מגדיר את כל רכיביה היסודיים ואת הקשרים בינהם, וכך אתה קובע חד-ערכית את התנהגותה כפונקציה של הקלט. ולהבדיל, המובן השני (והשגוי) הוא למעשה מניפולציה של נתוני חושים כדי להכתיב את התנהגות המוח. יש דימיון מסויים לתכנות - כמובן שרוב ההתנהגויות והדעות שלנו תלויות באופן קריטי בניסיון החושים. אלא שזה בהחלט לא התלות הישירה והבלתי אמצעית של מכונה במבנה שלה (קרי בתכנות שלה). לכן חשוב להבין שהשימוש במונח "תכנות" הוא בסה"כ אנלוגיה, ותאורים נכונים יותר הם "שטיפת מוח", "התניה", "אילוף". כדי להשלים את התמונה, כל הרגשות והכשרונות המולדים שלנו נובעים באופן חד-ערכי מהמטען הגנטי (ומהתנאים ברחם, בקטנה). בקיצור, הרבה יותר נכון להגיד שדוקא הם מתוכנתים מראש. 1 משום מה התמקדת בשם הסתמי והלא מוצלח "קונפורמיות" ולא בהסבר עצמו. |
|
|
|
|
|
|
||
|
||||
|
שוב ושוב אתה חוזר לשאלה "שמי שמספיק מתוחכם ליצור מכונה נבונה באמת, יוכל בקלות לעשות אותה אמפטית. למה דיק סבור שלא יהיה כך?", בעוד שהדגשתי כמה פעמים שזו *לא* הנקודה אצל דיק. הוא לא מתעניין בגבולות הטכנולוגיה (האם ניתן ליצור מכונה תבונית ואמפטית1) אלא בגבולות האדם (מותר האדם מן המכונה - מהו?). לכן אני מציע שוב: האנדרואיד של דיק הוא אמצעי ולא מטרה, דווקא בכך שדיק מקנה לו התנהגות דמוית-אנוש בכל דבר, מלבד היכולת האמפטית. זו דרכו לומר, שמותר האדם מן המכונה הוא ביכולת האמפטית שלו. אפשר להתווכח על כך, אבל זו דעתו של דיק. ב"האם אנדרואידים" הוא כותב (עמ' 30): "מסתבר שאמפטיה יכולה להתקיים רק בקהילה אנושית, בעוד שבינה כזו או אחרת יכולה להימצא בכל מערכה ומחלקה של עולם החי, אפילו בין העכבישאים. סגולת האמפטיה מחייבת מן הסתם אינסטינקט קבוצתי מושלם; אורגניזם בדיד, כגון העכביש, אינו זקוק לה; למעשה, הסגולה הזאת אפילו עלולה לחבל ביכולת השרידה של העכביש... כי ביסודו של דבר, סגולת האמפטיה מטשטשת את התחומים בין הצייד לבין הקורבן, בין המצליח לבין המובס. כמו במיזוג עם מרסר, כולם מטפסים ביחד - או נופלים ביחד, כשהמחזור מגיע לסיומו, אל מכתש עולם הקבר... מסתבר שהרובוט דמוי-האדם הוא טורף בודד." כאמור, השאלה התעוררה אצלו, בין היתר, כשהוא ניסה להבין את תופעה הנאציזם ומחנות ההשמדה. בהמשך לאותו קטע, הוא כותב: "בעיני ריק דקארד, רובוט דמוי אדם נמלט, שהרג את אדוניו, שצויד בבינה עדיפה על בינתם של בני אדם רבים, שאין לו יחס לבעלי חיים, שאין לו שום יכולת לחוש שמחה אמפטית על הצלחתה של צורת חיים אחרת, ושום יגון על מפלתה - בעיניו, זו היתה התגלמות ה*רוצחים*". *זו*, בעיני, הנקודה של דיק, ולא האם ניתן או לא ניתן ליצור מכונות כאלו. גם אם לדבריך, "ברור שהאמפטיה היא מבין התופעות המנטליות הפשוטות, ואילו התבונה היא התופעה המנטלית המופלאה והמורכבת ביותר", עדיין האמפטיה היא הקו המגדיר, לדעתו, את מותר האדם. 1 וכדי להדגיש שזו לא הנקודה שלו, שואלת רייצ'ל את דקארד, מדוע לדעתו נדרשה להצטרף אליו, ודקארד עונה לה (עמ' 161): "לצפות, לקלוט בפרטי פרטים את מה שעושה נקסוס-6, החושף אותו במבדק וויגט-קמפף." ורייצ'ל מאשרת: "במבדק, ובכל דרך אחרת. כל מה שמעניק לו צביון שונה. ואז אני אדווח והתאגיד יכניס שינויים בדנ"א שבאמבט הזיגוטות שלו. ואז נבנה את נקסוס-7, וכשיעלו עליו נשנה גם אותו, ובסופו של דבר יהיה לתאגיד טיפוס שאי-אפשר לזהותו". |
|
|
|
|
|
|
||
|
||||
|
נראה לי שהבנתי: הטענה היא שאמפטיה היא תמצית ויחוד האנושיות. קרי מה שמאפשר לנו להצמיד לאדם או להתנהגות את התואר "אנושי". אם זה כך, ואכן לא מתעניינים בגבולות הטכנולוגיה, הרי שלכאורה הניסוחים שלך מבלבלים מאוד: מותר האדם מן ה"מכונה", לא ניתן "לתכנת" אמפטיה, וכו'. |
|
|
|
|
|
|
||
|
||||
|
אם כך, ואכן הניסוחים בלבלו - אני מתנצל. אכן, הטענה שאמפטיה היא תמצית האנושיות ויחודה, היא אחת הטענות שדיק טוען ביצירותיו. בניסוח "לתכנת" אמפטיה לא השתמשתי במקור, והוא השתרבב לדיון לראשונה בתגובה 223495. עם זאת, דיק כן מתייחס לעניין הזה באותו דיאלוג של דקארד ורייצ'ל שהזכרתי קודם. מדוע הניסוח "מותר האדם מן המכונה" מבלבל? זוהי שאלה לגיטימית שעלתה, בין היתר, עם התפתחות הקיברנטיקה. (למשל: ב"2001", האם כאשר דייב באומן מנתק את האל 9000 הוא בעצם מבצע רצח? האם כאשר האל רוצח את האסטרונאוטים האחרים הוא בעצם פועל מתוך הגנה עצמית?) |
|
|
|
|
|
|
||
|
||||
|
נראה לי שהדוגמא שלך הבהירה לי לגמרי את כוונתך. הניסוח "מותר האדם מן המכונה" בעצם שואל מהי רמת המורכבות של עצם מלאכותי שבה הוא חדל להחשב *מבחינה אתית* לסתם גולם דומם והופך להיות יצור שניתן לייחס לו אנושיות, זכויות, אחריות, וכו'. וכך גם לגבי בן-אדם - מתי מבחינה *אתית* הוא נחשב למכונה (למשל, כאשר הוא פועל אך ורק עפ"י הוראות מבחוץ וללא כל שיקול דעת עצמאי). הסיבה שהתבלבלתי היא שהתייחסתי למובן היותר פורמלי וצר של מכונה, ולא למובן האתי של המילה - ואז ברור שגם אדם הוא מכונה. ולעניין עצמו (אחרי שסוף כל סוף הבנתי אותו). לדעתי תבוניות היא תנאי הכרחי לייחס "אנושיות", "אחריות מוסרית" וכיוב' לכל ישות שהיא. וודאי שזהו תנאי קודם לכל סיפור האמפטיה (לא ניתן ליחס אנושיות ליצור חסר בינה, אמפטי ככל שיהיה). כמו כן, אישית יהיה לי קשה מאוד להתייחס לאנדרואידים מספרו של דיק כאל גלמים לא אנושיים. |
|
|
|
|
|
|
||
|
||||
|
אז בוא נתווכח, בשביל זה משלמים לנו. "מותר האדם מן המכונה הוא ביכולת האמפטית שלו"? | |
|
|
|
|
|
||
|
||||
|
לדעתו של דיק - כן. ניסיתי להסביר כיצד זה משתקף בספרו. כדי שנוכל להתווכח כהלכה, אשמח אם תסביר לי מדוע אתה חושב ש*דיק* סבור אחרת. |
|
|
|
|
|
|
||
|
||||
|
אה, סליחה. חשבתי שכשכתבת ''אפשר להתווכח על זה'', התכוונת ''אפשר להתווכח אם דיק צודק''. אין לי יכולת לדון בשאלה אם זו דעתו של פק''ד, והאמת זו גם נראית לי מטא-שאלה פחות מעניינת מהשאלה עצמה. | |
|
|
|
|
|
||
|
||||
|
בתחום חקר האינטיליגנציה בבעלי החיים (לא כולל אדם) מקובל שהאמפתיה היא תכונה ייחודית לאדם, המחייבת מוח מפותח, בדומה לעוד מספר תכונות כמו יכולת לפתור בעיה חדשה (בניגוד לשינון פיתרון מוכר). בשנים האחרונות מחקרים הראו שהאמפתיה כנראה קיימת גם אצל עורבים ,תוכים ודולפינים(למרות שהמבחן למדידת אמפתיה נתון לויכוח). כל בעלי החיים הנ''ל נחשבים תבוניים (פחות או יותר - התוכי והצלופח לא משהו..) |
|
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |