בתשובה לאלון עמית, 24/10/15 0:11
 |
|
 |
||
|
||||
 |
כן, כשמדברים על מכוניות אוטונומיות אוהבים לשאול על דילמות כאלה, ולחשוב שאיפשהו באלגוריתם מישהו צריך לתכנת תשובות להן (ויש שחושבים משום מה שזה טיעון נגד מכוניות אוטונומיות, כאילו שלנהג אנושי יש יכולת גבוהה במיוחד לעשות שיקול מוסרי מושכל בנסיבות כאלו). אני לא בטוח שזה נכון. אני מניח שהאלגוריתמים של המכונית מכוונים כל הזמן למניעת מצבים לא צפויים, ולהאטה כשמסתמנת אפשרות למצב לא צפוי. ברור שלמרות זה יקרו דברים לא צפויים, אבל זה לא אומר שיש טעם לתכנת משהו למצבים כאלה שהוא יותר מתוחכם מ"בלום בכל הכוח". אם טורחים גם לזהות מצב של כשל בבלמים, וגם לתכנת משהו עבורו, אני מנחש שהדבר הסביר הוא primum non nocere: אם רואים שטח פנוי שאפשר לכוון אליו את ההגה ולקוות להאטה נוחה, אז יופי (גם זה בעיה, אם זה אומר לרדת מהכביש; עד כמה האלגוריתמים אמורים לנחש אם מחוץ לכביש הקרקע מוצקה?). אם לא, אז לא לעשות כלום (כלומר, להשאיר את ההגה כך שישמור על כיוון הנסיעה), ולהקריב כבשה חשמלית לאלוהים. אולי כדאי לצפור, למרות תגובתו המזלזלת של שייקה לוי (תרגיל טריוויה לקורא, יש כאן כמה שזה יהיה להם קל). |  |
 |
 |
|
|
|
||
|
||||
|
תצפור עד מאה, מה יעזור לך? | |
|
|
|
|
|
||
|
||||
|
אז להפעיל ווישרים? | |
|
|
|
|
|
||
|
||||
|
האם אנשים יחושו בנוח עם אבדן תחושת השליטה, אמיתית או מדומה? ההימור שלי הוא שתהיה נהיגה משולבת של אנושי ואוטומטי אבל לא ישתו קפה או יקראו עיתון או ישחקו עם הילדים במושב האחורי. מנגד, "הגורם האנושי" נחשב לסיבה העיקרית לתאונות ויש סיכוי טוב שמכונית כזו תהיה מעורבת ב(הרבה?)פחות תאונות דרכים. |
|
|
|
|
|
|
||
|
||||
|
את יודעת, כבר היום עשרות אלפי אנשים נוסעים מדי יום באוטובוסים, רכבות ומוניות1 למיניהן. אז כנראה שהם חשים די בנוח עם אבדן תחושת השליטה. 1 ומניסיוני חלק מנהגי אותן מוניות נוסעים כמו שיכורים2 מטורפים. 2 בתקווה ש'כמו' אכן מתאר את המציאות ואיננו מיותר במשפט ההוא. |
|
|
|
|
|
|
||
|
||||
|
לאבד שליטה לשיכור או מטורף כמוך (לא אתה חלילה, האדם על חולשותיו) שונה מהותית מלאבד שליטה לרובוט דור 2.0. איך נצליח להזדהות איתו? 1 1 אתגר לליאור שליין. |
|
|
|
|
|
|
||
|
||||
|
אני לא חושב שזה שונה משמעותית. רוב מטוסי הנוסעים היום טסים על טייס אוטומטי, והטייסים נמצאים שם בעיקר לצרכי חירום. אפילו הנחיתה יכולה להתבצע אוטומטית. זה גורם לך לישון פחות טוב בטיסה? ומה עניין ההזדהות - אין לי שום צורך בהזדהות, וודאי לא עם נהגים שיכורים. יש לי צורך בנסיעה בטוחה ובהגעה ליעד בחתיכה אחת. |
|
|
|
|
|
|
||
|
||||
|
השינה הטובה במטוסים מבוססת על הידיעה שבמצבים חריגים הטייס האנושי יכול לקחת פיקוד על המטוס. גם הפקקים לא משהו. (בעצם, גם הם מפוקחים ע''י בני אדם). ברור שרציונלית אתה צודק, דברתי על תחושה וזו נוטה להיות גחמנית. בפרט כשילדיך מעורבים בעניין. |
|
|
|
|
|
|
||
|
||||
|
קשה להתווכח על עניינים סובייקטיביים. אני הראיתי שבהסתכלות סטטיסטית, אחוז ניכר מהאנשים כבר היום מוכנים (ולעיתים ברצון רב) לאבד שליטה בכלי הרכב שמסיע אותם ולהעניק את האחריות למישהו או משהו אחר. ההשערה לפיה אנשים סומכים על יכולת הנהיגה של אנשים אחרים יותר מאשר על מערכות ממוחשבות לא קיבלה שום תימוכין מהצד שלך, מלבד הרגשתך האישית. לדעתי אפילו היום כבר חלק מהמערכות שמסיעות אותך הן אוטומטיות, כמו רכבות למשל או מטוסים שהזכרתי, אבל את לא מודעת לחלקן. אני לא רואה שום יתרון בנהג רכבת על פסים, כאשר ממילא מסלול הרכבת קבוע מראש, מלבד היכול האנושית לבלום כשיש מכשול על המסילה (וגם אז לא ברור שבזמן, ושמערכת התרעה לא היתה עושה זאת טוב יותר). קשה לי להאמין שיש לך בעייה לעלות עם ילדייך על רכבת. |
|
|
|
|
|
|
||
|
||||
|
אני מסכימה שהראית את הנכונות להעביר שליטה למישהו אחר. התימוכין בנוגע למערכות אוטומטיות הוא בתכנית נשיונל ג'יאוגרפיק שבה אמרו בדיוק את זה. שהמערכות האוטומטיות כיום כה בטוחות שניתן היה להסתמך רק עליהן אבל מתוך ידיעה (מה מקור הידיעה הם לא פרטו) שאנשים לא יקנו כרטיסים לטיסות שאינן מאוישות בטייסים אנושיים, הם לא מציעים זאת. היו דוגמאות לכאן ולכאן. מקרים בהם מכשירים התקלקלו ותושיית הטיס מנעה התרסקות ומקרים בהם נתוני המכשירים דייקו אבל נראו כה מופרכים שהטייסים לא האמינו להם, ניסו לתקן והתרסקו. לגבי הרכבת, אני מסכימה. יתכן ומדובר בהסתגלות לשינויים כאשר אנחנו מודעים לקיומם. |
|
|
|
|
|
|
||
|
||||
|
רק לגבי מכוניות, לדעתי השלב הבאמת בטוח יותר הוא השלב שבו השליטה האוטומטי היא ברמת התנועה הקבוצתית - אוטוסטראדה שבה כל המכוניות מתואמות ונוסעות בדיוק באותה מהירות הרבה יותר בטוחה מאוטוסטראדה שבה כל מכונית עושה מה שבא לה, ומתחמקת לוקאלית מבעיות ומכוניות אחרות. ומצד שני, תכף יגיב השוטה, חגבי הארבה בנחילים מסתדרים יפה מאד בעזרת כמה כללים לוקליים פשוטים... |
|
|
|
|
|
|
||
|
||||
|
אני לא חושב שהדרישה שכל המכוניות יסעו באותה מהירות הכרחית. | |
|
|
|
|
|
||
|
||||
|
ודאי שלא הכרחית. רק נראה לי שכשהמהירויות היחסיות ביניהן הן מינימליות, הסיכוי לתאונות חמורות יורד. | |
|
|
|
|
|
||
|
||||
|
ומה יקרה אם פתאום מכונית סוטה מהכללים הללו? בין אם בשל תקלה ובין אם במזיד? | |
|
|
|
|
|
||
|
||||
|
אז כמובן המכוניות הקרובות אליה מגיבות לוקאלית לשינוי בתנאים, כאן זה מכוניות אוטומטיות חכמות, לא בקרת שיוט מהאייטיז. | |
|
|
|
|
|
||
|
||||
|
לא סתם "מגיבות לוקאלית" אלא נוגחות בה בעדינות מאחור כדי להפעיל את המנגנון האוטומטי שגורם לה לרדת בעדינות אל השוליים ולעצור. אם גם הוא מקולקל (מי האידיוט שקנה מכונית צרפתית?) מכונית אחת נצמדת אליה מלפנים ומאיטה, בזמן שאחרות סוגרות את נתיבי המילוט האפשריים של המכונית הסוררת. התהלוכה כולה נוסעת למוסך הקרוב, וכמה נהגים מעוצבנים יאחרו לעבודה ויתבעו נזיקין מבעל המכונית המקולקלת. אבל הם ישארו בחיים וגם זה משהו. עם כמה מערכות מקבילות שממונות על הביטחון אני חושב שאפשר להקטין כמעט לאפס מקרים של runaway car, כשהעקרון המנחה הוא שבמקרה של ספק המכונית עוצרת בשוליים (לא צריך להדליק את מהבהבי החירום, כי שאר המכוניות לא זקוקות לאמצעי הפרימיטיבי הזה כדי להבחין בה). |
|
|
|
|
|
|
||
|
||||
|
אתה יוצא לעקיפה וסומך על זה שיפנו לך את הדרך. פתאום מישהו שם לך רגל. או שכולם נוסעים בצורה מסודרת ולפי התור, ואתה עוקף דרך הפרצות (עוקף את התור). |
|
|
|
|
|
|
||
|
||||
|
והכי חשוב: כשהיא כבר בשוליים, שאר המכוניות לא מתעניינות בה ולא מאיטות כדי לראות מה קורה ויוצרות פקק סקרנים של שני קילומטר וחצי שעה. רק זה יחסוך למדינה איזה מיליארד שעות עבודה בשנה. | |
|
|
|
|
|
||
|
||||
|
ומה אם יש נפגעים בתאונה? מפקירים אותם? | |
|
|
|
|
|
||
|
||||
|
מה פתאום, המכונית אוטומטית מתקשרת למגן דוד אדום ולמשטרה. | |
|
|
|
|
|
||
|
||||
|
וכמובן גם שמכוניות שהיו לידה עושות זאת (במקרה שהמשדר שלה נפגע בתאונה). לא כל כך שונה מזה שמכוניות (או הסלולארים שבתוכן) היום מדווחות לWaze על עומסים מקומיים. | |
|
|
|
|
|
||
|
||||
|
לדעתי זו עדיין הפקרת פצוע. | |
|
|
|
|
|
||
|
||||
|
אפשר כמובן לאפשר ל 5-10 מכוניות קרובות לעצור בצד לסיוע. לדעתי ההתנהגות של פקק סקרנים גורמת לסיכון הרבה יותר גבוה לשאר הנוסעים מאשר העזרה שיכול להגיש נוסע ארביטררי. | |
|
|
|
|
|
||
|
||||
|
מרגישים הבדל בין נחיתה של טייס אל-על שמנחית מטוס ענק של יותר מ-600 נוסעים, לבין נחיתה של טייס של רויאל-אייר-מרוקו למשל, אפילו שזה מטוס קטן של כ-200 נוסעים. כנראה שבפועל עדיין סומכים על הטייסים האנושיים, למרות שיש כאלה שסומכים עליהם פחות... |
|
|
|
|
|
|
||
|
||||
|
הנסיון הפחות פטריוטצנטרי שלי דוקא מראה שהנחיתות1 של חברת אל על לא מובילות בעדינותן. ההסבר השוביניסטי הוא כמובן שטייס ציוני גאה, ודאי כזה שהגיע מחיל האויר הטוב בעולם, לא ייתן לאלגוריתם אוטומטי לנחות במקומו, והתוצאות מדברות בעד עצמן. 1 ומי שקרא את זה בשורוק - על אחריותו האישית בלבד. |
|
|
|
|
|
|
||
|
||||
|
עד כמה שאני יודע כל הנחיתות מבוצעות ידנית. | |
|
|
|
|
|
||
|
||||
|
הנסיון המאד מוגבל שלי מלמד שגודל המטוס הוא פקטור מאד חשוב בנוחות הנחיתה - ככל שהמטוס קטן יותר הנחיתה נעימה פחות (מה שתואם את הנסיון של האביר ומנוגד להנחת היסוד שלו). | |
|
|
|
|
|
||
|
||||
|
יש לך הסבר לתופעה? | |
|
|
|
|
|
||
|
||||
|
זה ההסבר שלי. | |
|
|
|
|
|
||
|
||||
|
ההשערה שלי היא שזה קצת כמו בספינות - המסה הגדולה יותר מקטינה את הרגישות לכל גל או משב רוח קטן, ולכן מאפשרת נחיתה פחות תנודתית ויותר רכה. | |
|
|
|
|
|
||
|
||||
|
גלים אין על מסלול הנחיתה1 וצריך משב רוח חזק מאוד על מנת להסיט כלי גדול וכבד כמו מטוס. בדרך כלל אין רוחות כאלה בצמוד לקרקע, ומשום מה המטוס לא זז לפני שהוא נוגע בקרקע, רק עם הנחיתה. בנוסף, זה קורה גם במטוסים גדולים. למעשה, המקרה היחיד שבו חוויתי נחיתה כזו באל-על, היה במטוס ג'מבו. ___________ 1 אלא אם כן מדובר באיזה שדה תעופה באפריקה, שם צריך מטוס 4X4. |
|
|
|
|
|
|
||
|
||||
|
הדבר העיקרי שמקשה על מטוסים לנחות, ומזיז גם מזיז אותם, הן רוחות, בפרט רוחות צד. ככה שהחלק שנכון בפסקה הראשונה שלך מסתיים בסימן 1. | |
|
|
|
|
|
||
|
||||
|
אולי בגלל הניסיון שלך1, אנשים התרגלו למחוא כפיים בסיום הנחיתה. המטוס נוחת, מזגזג, דופק גלבה מפה, גלבה משם, כמעט עושה צלחת... זהו... נשארנו בחיים. הבאנו ש...לום עליכם, הבאנו ש....לום עליכם... _______________ 1 שהפוך לגמרי משלי. |
|
|
|
|
|
|
||
|
||||
|
הרבה נהגים מאבדים שליטה למעשה כבר היום (לא שמים לב למתרחש בכביש). מה שיכול לקרות הוא שנהגים יתחילו להתרגל בהדרגה לזה שהם לא חייבים להסתכל על מה שקורה בכביש. יש דברים חשובים או מעניינים יותר לעשות באותו זמן (לדוגמה: לשחק בסימולטור נהיגה). | |
|
|
|
|
|
||
|
||||
|
יתכן. השלב הבא הוא רחפות אישיות בשכונה. (אם נשיא שחור בסרטים הוביל לכזה במציאות, מדוע לא להתפרע? אבל האב הקדמון הוא ז'ול ורן). | |
|
|
|
|
|
||
|
||||
|
אוי, זה נחמד. כמו שיש היום תיקי השקעה וירטואליים, אפשר במכונית אוטומטית לתת הגה ודוושות לאדם, שינווט בכאילו. בסוף הנסיעה המכונית תודיע לו: אילו היית שולט באמת היית טועה בדרך שלוש פעמים ונהרג פעמיים. השתפרת, ברכותי! | |
|
|
|
|
|
||
|
||||
|
"זה לא אומר שיש טעם לתכנת משהו למצבים כאלה שהוא יותר מתוחכם מ"בלום בכל הכוח"" איזו גישה תבוסתנית! בגלל שהאלגוריתם האנושי הוא מבוסס אינסטינקט ולא משאיר מקום לשיקולים הגיוניים אנחנו רוצים להשתמש באותו אלגוריתם גם במקום בו אנחנו יכולים, לפחות תיאורטית, לנסות לשפר אותו? וזה רק בגלל שלא מצאנו פתרון טוב לשאלה מה נכון לעשות במצבי חירום מסויימים? בשביל מה אנחנו משלמים לכל הפילוסופים והמומחים לאתיקה ומוסר? בוא נתחיל משאלה פשוטה: כשאנחנו לא מדברים על ישראל אלא על איזו ארץ רחוקה שאין לנו שום קשר רגשי לתושביה, האם נראה לך הגיוני שהגישה התועלתנית תהיה מקודדת במכוניות באותה ארץ, כך שהמכונית תפעל להקטנת כמות הנפגעים בכל מקרה חירום (אני מציע להתעלם לרגע משיקולים מורכבים יותר, למשל כמה שוים חיי ילד לעומת חיי מבוגר, וכד')? אם התשובה חיובית, נשאר לנו לטפל רק באלמנט הנפשי שכרוך ביישום. אני, כנהג, הייתי מעדיף אלגוריתם שיפעל תמיד להגדלת הבטחון האישי שלי ושל נוסעי המכונית שלי, ואם צריך להרוג כמה עשרות ילדי גן בשביל זה, שיהיה. אבל מאד לא הייתי רוצה שאצל השכן שלי יפעל אלגוריתם כזה, ובעצם המצב לא שונה מהרבה קונפליקטים דומים בחיינו, שאותם אנחנו פותרים ע"י קבלת עקרון ההכללה (שאומר, למי שאינו יודע, "מה ששנוא עליך אל תעשה לחברך". בערך.). אם רוצים להמנע מחקיקה, חברות הביטוח הן אלה שאמורות לפתור את הבעיה עבור אותו חלק מהציבור שעבורו עקרון ההכללה מופשט מדי. מאחר והמבטחות הן תועלתניות פאר אקסלנס, הן יתנו הנחות בביטוח החובה למי שיתקין את האלגוריתם שלהן, ההוא שממזער את הנזק הכולל בכל תאונה, ויטילו פרמיה גבוהה על מי שיתעקש להתקין אלגוריתם אגואיסטי. חוץ מכמה מליונרים הציבור יעדיף את התוכניות הזולות, כי ממילא התאונות אף פעם לא קורות לו אלא לאנשים זרים (אותה הצעה שהצעתי בקשר לחובת חגירת חגורת הבטחון או קסדה לרכיבה על אופנוע), ובלצ"ג. |
|
|
|
|
|
|
||
|
||||
|
נתחיל מזה שאנחנו לא יודעים בוודאות שהצעד הזה יהרוג X אנשים. הניחוש הבסיסי שלי שצריך להימנע מ"גרימת נזק" ודי מסובך לנסות לכמת את הנזק שיכול לנסות להגרם במקומות שונים. | |
|
|
|
|
|
||
|
||||
|
ברור שזה מסובך, אבל לא נראה לי שזה מסובך במידה שפוסלת את האפשרות למצוא משהו טוב יותר מעצימת עיניים ולחיצה על הבלם. | |
|
|
|
|
|
||
|
||||
|
לי דוקא נשמע מפחיד שהמכונית שלי לא תעניק עדיפות, ולו כלשהיא, לחיי הנוסע. בעיקר מאחר וזה מגדיל את סיכויי הפגיעה שלו (או של כל אחד אחר כיום, כנהג) יחסית למצב שהיה נהוג עד לבוא המכונית החשמלית. זה נראה לי מסוג הדברים שיכול מבחינה ציבורית למנוע משמעותית את המעבר לטכנולוגיה הזאת - הרעת הבטיחות האישית יחסית למצב הנוכחי. ההשוואה לכמה עשרות ילדי גן היא מוגזמת כמובן, ואפשר לשים ספים מתאימים (או להיזכר שהמילה 'עדיפות' משמעה איננה אני ואפסי עוד, אלא נתינת שקלול יתר מידתי אבל לא גורף לבטיחות הנוסע). ובקשר לסוגריים - הסריטו את קודם, לפניך, זה לא משנה. |
|
|
|
|
|
|
||
|
||||
|
עשרות ילדי הגן הם רק כדי להציל את חיי שלי. חיי האחרים יוקרבו, כמובן, בתנאים דומים. אני מסכים איתך בכך שהמחסום העיקרי הוא הרעת התנאים כביכול של הנוהג ברכב, אבל אם אפשר יהיה להוכיח שלמרות העדיפות לילדי הגן במקרים יוצאי דופן, החישוב כולל עדיין בטוח יותר עבורך להפעיל את האלגוריתם כי ברוב הגדול של המקרים הוא ימנע את התאונה מלכתחילה, יש לי הרגשה שלא מעט אנשים רציונליים יעשו את הבחירה הנכונה. בוחרי הליכוד, לעומת זאת, ימשיכו למות בהמוניהם על הכביש, וכך אתה יוצא מורווח פעמיים. בקצת יותר רצינות - אכן יש סף כניסה לא פשוט למכוניות האוטומטיות כל עוד יש גם נהגים אנושיים על הכביש - יהיו ללא ספק הרבה מאניאקים שינצלו את מקדמי הבטיחות של האוטומט כדי לזכות ביתרונות המוכרים, אבל כשהאנכרוניזם הזה ייאסף את אבותיו (או אל מגרש הגרוטאות הסמוך) הבטיחות הכללית תגדל למרות שפה ושם יהיו מקרים בהם היית יכול, אולי, לצאת טוב יותר מתאונה אחת מסוימת על חשבונם של אחרים. |
|
|
|
|
|
|
||
|
||||
|
אגב, להמחשת הגישה התועלתנית של חברות הביטוח אני יכול להביא אנקדוטה אישית: כשרכשתי רכב בעת שהותי בארה"ב, בשיחה עם סוכן הביטוח הוא העלה את התסריט של מפגש בצבאים שחוצים את הכביש במפתיע1, והאם על הנהג להסיט את הרכב במהירות הצידה, גם במחיר פגיעה בעץ בצידי הכביש. העצה הידידותית והברורה שלו היתה: Go for the deer! כשהרציונל הוא שבמקרה הצבי אתה יכול לטעון אחר כך שאינך אחראי לנזק הביטוחי כי הצבי קפץ מול הפגוש שלך, אבל במקרה העץ תתקשה לטעון שהעץ קפץ והפתיע אותך, ומי באמת יכול להוכיח שראית צבי ולכן נכנסת בעץ, נהג מרושל שכמוך? 1 מה שאגב קרה לי לאחר מכן מספר פעמים, חלקן קרובות (מאד!) אבל לשמחתי ללא פגיעות כלשהן. |
|
|
|
|
|
|
||
|
||||
|
לא הבנתי - במצב שבו שוק הביטוח מחולק בין מספיק חברות, והן לא מתאגדות לאיזה תקן, לחברת ביטוח כדאי למזער את הנזק ללקוח שלה, גם על חשבון נזק גדול יותר לאחרים, לא? ואם בשתי הפסקאות הראשונות היית רציני - לא, גם כשאנחנו מדברים על ארץ אחרת ואנשים שאני לא מכיר, לא נראה לי הגיוני לקודד גישה תועלתנית לחיי אדם. אבל אנחנו גולשים לכיוון מה ראוי, ובתגובתי הקודמת דיברתי על מה אני מעריך שיקרה בפועל: (א) אני לא חושב שהרבה מהנדסי תוכנה ומנהלים שלהם יסכימו להיכנס לפינות האלו. אני מכיר היטב מהנדס תוכנה אחד שלא יסכים. (ב) אנחנו משלמים לפילוסופים ומומחי אתיקה, אבל לא מקבלים מהם תפוקה שיש לה נפקות מעשית יציבה, (ג) אני בספק רב אם הטכנולוגיה באמת צריכה להוביל לשם. בשביל לממש במכונית החלטות כאלו אתה צריך יכולות מחשוביות ומכניות גבוהות מאוד. אתה יכול כבר להשקיע אותן בלהוריד עוד יותר את הסיכון להגיע למצב תאונה שבו יש דילמה. אם אתה שואל אותי מה ראוי - בהינתן (ב) ו-(ג), אני חושב שלא ראוי שמהנדסי תוכנה ומנהליהם ייכנסו לפינות האלה. |
|
|
|
|
|
|
||
|
||||
|
לא, חברת הביטוח צריכה לשלם לצד ג'. המטרה של כל חברות הביטוח שהנזק שנגרם באחריות הלקוח שלהם יקטן ככל האפשר. בין אם נזק לעצמו או לאחרים. |
|
|
|
|
|
|
||
|
||||
|
אה, ביטוח צד ג', נכון. | |
|
|
|
|
|
||
|
||||
|
מבחינת הקושי המוסרי של המתכנת - מה ההבדל בין זה לבין האחריות המוסרית של מהנדס הרכב שעיצב את הפגוש וקובע מה יקרה להולך רגל בתאונה? ומה אם המשתמש האנושי בנהג האוטומטי בוחר את רמת האלטרואיזם שהוא מעדיף בין 1 ל 10? האם מבחינתך הקושי המוסרי נובע מהבחירה שמתבצעת ע"י המתכנת או עצם העיסוק בנושא? אם מתכנתים יותר רגישים להחלטות מוסריות ממהנדסי מכונות זה מעלה כמה שאלות מעניינות. אולי זה בגלל התחושה שהמתכנת מייצר משהו דמוי סוכן שעושה בדיוק מה שהמתכנת הגדיר לו לעשות, ואילו המהנדס מייצר אובייקט שכל אחד יכול לעשות בו מה שהוא רוצה. |
|
|
|
|
|
|
||
|
||||
|
לומר שמעצב הפגוש "קובע מה יקרה להולך רגל בתאונה" זה דמגוגי (אני יודע שלא בכוונה). אין מחירון חיי אדם מוחלט שמוצמד להחלטות עיצוביות של הפגוש. יש בכלל בעיצוב פגושים טרייד-אוף של בטיחות מול משהו? לא מנסים פשוט לעשות אותם הכי בטוחים שאפשר, במסגרת גבולות גזרה [הא!] כלליים של עיצוב ומחיר? אולי לגבולות הגזרה האלה משמעות בטיחותית כלשהי, אבל גם אם כן זה לא משהו שמעצב הפגוש מתמודד איתו חזיתית [הא!] בזמן שהוא עובד. מה אם המשתמש בוחר בין 1 ל-10? אני כופר בדיוק בזה שאנחנו קרובים בכלל ליכולת טכנולוגית, שלא לדבר על צורך טכנולוגי, לתכנת שליטה כזו. אולי נגיע לשם יום אחד רחוק, אולי לא. אני חושב שהעניין הקריטי כאן הוא שאנחנו - ואני מניח שגם מהנדסי המכוניות האוטומטיות היום - לא יכולים באמת לשלוט באיזושהי רמה של סבירות בתוצאות של אלגוריתמי היגוי שונים במצב של תאונה מתקרבת תוך שלוש שניות ואובדן בלמים. עכשיו אתם אומרים לי "כן, אבל בוא רגע בשביל הצחוקים וההחכמה האינטלקטואלית נניח שכן יש שליטה ודאית." אז לא: חוסר הידיעה הזה הוא קריטי לכל המחשבה המוסרית שלנו. אני לא יודע אם שמים על זה מספיק דגש בפילוסופיה של המוסר. אולי צריך לתת לזה שם: "עיקרון אי הודאות". זאת אולי הבעיה בדילמות קרונית: אומרים לאנשים לקבל החלטה מוסרית בסיטואציה שזרה למחשבה המוסרית שלהם. היא זרה להם, ואולי הם לא מודעים לזה, לא בזה שפתאום יש להם שליטה על מה יקרה לאחרים, אלא בזה שאנחנו זורקים עליהם ודאות (או אי-ודאות שמנוסחת בהסתברויות מספריות מדויקות) שבתוצאות ההחלטות שלהם. אני לא אומר שאי ודאות זה טוב. יותר ידע זה יותר טוב. אולי יום אחד נגיע ליכולת ואפילו לצורך לתכנת מכונות להתנהגות בדילמות קרונית. אם וכאשר ילדינו יהיו שם, "החוש המוסרי" שלהם יהיה שונה משלנו עכשיו. אני חושב שהדבר הנכון הוא... לחכות ולראות מה יראה להם נכון באותו מצב. אנחנו יכולים לנחש, אבל אני בספק אם אנחנו יכולים לשפוט אותם. ההיסטוריה הטכנולוגית כבר חידדה את חושינו המוסריים כשהמצאנו את הרובה, את פצצת המצרר, את פצצת האטום, וגומר. |
|
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |