 |
אני מסכים בהחלט עם הבעיה הפסיכולוגית והבעיה האתית. הרתיעה הפסיכולוגית לדעתי נובעת מהלא ידוע. מערכת שתקבל החלטות בחיי אדם לפי שיקולים לא ידועים זה באמת משהו שקל לפחד ממנו. פוטנציאל הנזק במקרה של תקלה לא ידוע, ומהלא ידוע מפחדים.
אני אחליף את הבעיה ההיסטורית-מדינית בבעיית הכסת"ח- לבעיה זו שתי רמות: ברמה התפעולית וברמה המנהלית.
ברמה התפעולית אם המפעיל האנושי שגה "הוא רק בנאדם", ואם AI שגתה אז האשמה עולה בסולם הדרגות. אבל זו הבעיה הקטנה יותר.
הבעיה הגדולה ברמת האחריות היא שמישהו צריך לאשר את הפרוייקט, ואף אחד לא יהיה מוכן שחתימתו תתנוסס על משהו שלא נוסה מעולם ושיש לו פוטנציאל לנזק לא ידוע.
אני חושב שהפתרון יכול להיות מערכת AI שעושה את כל העבודה, אבל המערכת האנושית נמצאת שם במקביל כל הזמן עם האצבע על הכפתור ומוכנים לקחת ממנה את השליטה בכל רגע. אחרי שכולם יתרגלו שה AI עושה את העבודה, בסוף יוותרו על המפעילים האנושיים.
בהתחלה ה AI יכולה רק להמליץ, והנוהל שציטטת ממשיך לעבוד כרגיל.
אחרי שמתרגלים שה AI מקבל את ההחלטות מהר יותר ונכון יותר משלבים אותו בתוך המערכת, והמפעיל האנושי הוא עדיין חוליה בתהליך, אבל רק מאשר את ההחלטות של AI, ובעצם לוחץ על ההדק.
אחרי שמתרגלים לזה, אולי אפשר לעשות את הקפיצה למערכת אוטומטית במלואה, ואולי לא. אני חושב שמכל הבחינות שציינו- פסיכולוגית, אתית וכסת"חית- זה השלב הבעייתי ביותר.
|
 |
RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש