|
||||
|
||||
צריך לשמר מוטיבציה למי שתפקידו לשחק סוליטר? מזכרוני הרעוע מימי המילואים שלי זאת היתה הפעילות היחידה שלא סבלה משום בעיית מוטיבציה. |
|
||||
|
||||
ההנחה שלי היא פחות צינית. לפיה, תפקיד האנשים ביחידה הוא כמו תפקידם של טייסים במטוסי נוסעים היום - ב-99% מהזמן, הטייס האוטומטי יכול לבצע הכל בעצמו. עדיין נשאר אותו אחוז אחד (חמישה? עשרה?) שבו קורה משהו חריג - מנוע מתחיל לבעור, ברקים, ציפורים, תקלה אחרת - שאז נוכחות הטייס/מפעיל אנושי היא קריטית. המוכנות, הכשירות והנכונות של הצוות עבור אותם תסריטים הם בהחלט בעלי חשיבות. ועבורם, מה שאמרתי לעיל בהחלט תקף, שלא כמו עבור סוליטר. |
|
||||
|
||||
האמת היא שגם לגבי מטוס נוסעים אני לא לגמרי מבין את ההיגיון1, אבל מה יכול לקרות במערכת כיפת ברזל שמצריך נוכחות קבועה של חיילים שיושבים בחדר קפוא ונועצים עיניים במסך? לא מספיק טכנאי או שניים לכל הסוללה? אבל אם באמת תיתכן מורכבות בלתי צפויה במקרי תקלה אנחנו חוזרים למה שפתח את הפתיל הנוכחי: AI. ______________ 1- הטייס יכול לשבת בסימולטור שמחובר בקשר (משולש!) עם המטוס, ולקבל את כל ההחלטות בראש שקט כשהוא שותה קפה ומזעיק עם הטייס הראשי במקרה הצורך. אם אובד הקשר (המשולש!) למטוס או שהמערכות שצריכות לספק את הנתונים לא מתפקדות המטוס מתוכנת לנחות עצמאית בשדה התעופה הקרוב ביותר, ואם גם המערכת שאמורה לטפל בזה נכשלת יש להניח שנוכחות הטייס במטוס ממילא לא היתה מועילה המיוחד. במקרה זה במקום מסכות החמצן משתלשלים מהתקרה ספרי תהילים קטנים, ואם גם זה לא עוזר אין הרבה מה לעשות. |
|
||||
|
||||
1 נראה לי שכאן היתרון האמיתי של השיטה הנוכחית הוא בדיוק ענין המוטיבציה האישית. |
|
||||
|
||||
אהמממ. כן, שמעתי שיש אנשים שמצב חירום גורם לשיפור התפקוד שלהם. אצלי זה בדיוק להיפך: אני קופא לחלוטין או חוזר שוב ושוב על אותה פעולה בלתי מועילה בעליל. |
|
||||
|
||||
ולכן לא עברת קורס טיס, כנראה :) |
|
||||
|
||||
לגבי מטוס נוסעים, אני ממליץ על הסרט "סאלי- נס על ההדסון" בכיכובו של ה"כלאדם" טום הנקס. סאלי לא היה יכול לעשות את מה שעשה מתוך סימולטור. ומתבקש להזכיר כאן את תאונות ה 737 מקס, שם התוכנה גם ריסקה את המטוסים וגם מנעה מהטייסים את האפשרות להציל את המצב. |
|
||||
|
||||
מספר מקרים קיצוניים אינם נימוק משכנע. השאלה צריכה להיות: מה אנחנו מרוויחים, ובאיזה מחיר. מה המחיר, מבחינת תכנון המטוס, של קיום תא הטייס? * משקל של שני נוסעים לא מועילים נוספים * מקום * אילוצי תכנון של יחידות הבקרה(?) כיום הטייס מתפקד גם כמנהל המטוס. טייס הוא בדרך כלל דמות סמכותית, ובמטוס אנשים נמצאים בסביבה מבודדת עם ריבונות לא בהכרח ברורה. כמה מסובך להעביר את התפקיד הזה למישהו אחר? טייס המשנה נותן לתפקיד יתירות. ולגמי מה שמרוויחים: האם יש נתונים טובים לגבי המקרים שבהם טייסים היו צריכים להתערב ולגבי המקרים שבהם ההתערבות הייתה מועילה? |
|
||||
|
||||
אני לא זוכר מה בדיוק טום הנקס עשה שחייב נוכחות פיזית במטוס, אבל בסדר, נניח שזה אחד מאותם מקרים בהם יש יתרון לטייס במטוס. לגבי ה-737, עכש"י מה שריסק את שני המטוסים היתה האינטרקציה אדם-מכונה, אבל לא נתקטנן, נוסיף עוד שניים לצד הזה של המשוואה. נדמה לי שהיו עוד כמה מקרים בהם האוטומציה הביאה נזק ולא תועלת אבל אני לא זוכר בדיוק איפה ומתי, ודומני שגם שם היתה בעיה עם אינטרקציה אנושית. מהצד השני היו כמה וכמה מקרים של התרסקות מכוונת ע"י הטייס או הקצין הראשון (האחרונה שעולה בזכרוני היא טיסה 370 ממלזיה - המטוס הנעלם), וגם לא מעט התרסקויות בגלל שהטייס היה עייף או לא כשיר (למשל הטייס הרוסי שנתן לילד שלו לשחק עם ההגאים כי שכח שהטייס האוטומטי מתנתק אם מישהו נוגע בהם), בשעה שטייס מבולבל, שיכור או סתם אהבל שנמצא על האדמה קל יותר להחלפה מיידית ובכלל, ברגע שיש מצב חירום הטייס הטוב ביותר באזור מגיע לטפל בו ממש כמו בחדר מיון במדינות מתוקנות (על פי השמועה). אם תוסיף לזה את ארועי החטיפה, ובמיוחד את ה 11/9, נראה לי שהתוצאה ברורה גם בלי לכלול את כל ההרוגים ממלחמת אפגניסטן שהיתה תוצאה ישירה שלה. |
|
||||
|
||||
כן, אבל: אם יש אפשרות לשלוט על המטוס מרחוק, יש דרכים להשתלט על המטוס. |
|
||||
|
||||
אתה רוצה להגיד שהפרוטוקול RSA עם מפתח ארוך מספיק ניתן לפריצה? חשבתי שאם זה כך כך הרי שמלחמה גרעינית היא רק שאלה של מתי ההאקר ההוא מאוקראינה יתעורר עם מצב רוח רע. |
|
||||
|
||||
הרבה פעמים פריצות למערכות מחשב עוקפות את הקידוד ולא מפצחות אותו ישירות ברמת האלגוריתם. אז כמו שקל יותר לפרוץ למיליון חשבונות גוגל/אנדרואיד (ולהדליף משם סרטים ומידע אישי) מאשר לגשת אישית לבית של כל סלב ולגנוב לו את אלבום התמונות, אפשר לתהות אם הקושי בפריצה ממוחשבת עולה על זה של לצייד 12 אנשים בסכינים יפניים ולגרום להם להגיע לתא הטייס דרך כל מערכות הבטחון האחרות. בייחוד אחרי שהשיטה הנ"ל כבר לא תעבוד יותר. וזה לפני ש(לא) פתרנו את הקושי המהותי של מערכות לומדות להתמודד עם תרחישים חריגים שהן לא אומנו לגביהן. |
|
||||
|
||||
אני חושב שאפילו סאלי עצמו לא היה מצליח לקבל את אותה החלטה מתוככי סימולטור שממנו הוא מטיס את המטוס. אבל באופן ישיר מה שחייב נוכחות פיזית במטוס הוא הפיקוד על חילוץ הנוסעים אחרי הנחיתה. |
|
||||
|
||||
אחרי הנחיתה? בשביל זה אולי מוטב שבמטוס יהיה מציל, לא טייס :-) ובאותה רוח אולי גם מומחה להישרדות, למקרה שתהיה נחיתת חירום על האנדים או משהו. |
|
||||
|
||||
לפי הסרט סימולציית מחשב הראתה שהמטוס היה יכול להגיע לאחד משני שדות התעופה טטרבורו ולגרדיה. המסקנה היא שלו היה במחשב הזה טייס אוטומטי שהיה מפוקח על ידי מחשב דומה, כולם היו יוצאים יבשים. למרות זאת החלטת הטייס הייתה נכונה בכל מקרה, וקצת הרגיז אותי הקטע בסרט (קשה לי להאמין שכך היה במציאות) שהובע פקפוק בהחלטת הטייס עקב הסימולציה הזאת, והסימולציות שכללו טייסים אנושיים. כשבפני הטייס ישנו מקרה גבולי כגון זה, ואין לו מחשב לבדיקה, ברור לגמרי מה הבחירה הנכונה. |
|
||||
|
||||
תיקון: צ"ל "לו היה במטוס" |
|
||||
|
||||
הסרט עושה קצת דרמטיזציה של הסיפור, אך מעבר לכך הוא די מדוייק. סאלנברגר אכן נחקר ע"י ועדת בדיקה, אבל זה נוהל שגרתי לאחר תאונה. אכן נבדקו סימולציות של נחיתה בלה גרדיה או בטטרבורו. אני חושב שבניגוד למה שהראו בסרט, אף אחד לא הסתיר שרק חלק מן הסימולציות הצליחו לנחות בשלום, כך שהדיון לא היה ממש דרמטי. בדיוק כפי שהראו בסרט, טייסי הסימולטור "רימו" קצת. הם פנו לכיוון השדות מייד לאחר ההתנגשות. כאשר הוסיפו לסימולטור השהייה של 35 שנ' להיסוס לפני פנייה כפי שדרש סאלי, אף סימולציה לא הצליחה. |
|
||||
|
||||
אנחנו אומרים כמעט אותו הדבר. וועדת בדיקה בוודאי הייתה ולא טענתי אחרת. אחרי כל תאונה עושים בדיקה. אבל הקטע שהרגיז אותי הוא שהסימולציות האלה יצרו תוך כדי הדיון רגעים שבהם היה ברור לכל חברי הוועדה שההחלטה לנחות על ההדסון הייתה שגוייה, ורק הטייס היה שם הכי חכם ובחכמתו הצליח לשכנע את כולם לשנות את דעתם. אם זכור לך, בסרט, אחרי שהוסכם שצריך להוסיף עוד זמן עד לפנייה, הסימולציה הראתה שהמטוס התרסק על מבנה גשר כזה שבנוי שם על הים בהמשך ציר המסלול בלה גרדיה, כלומר קרוב מאד למסלול, וכמעט הגיע. כלומר לו היו מאפשרים לו איזה 5 שניות פחות או שהרוח הייתה משנה עצמה וכיוון לטובתו הוא היה מצליח. זה מאד גבולי . אז מה זה אומר? כפי שאמרתי לטייס לא היו אמצעים מחשביים לבדוק את הסיכוי להגעה למסלול, והוא העריך על סמך ניסיונו ותחושתו שלא יצליח להגיע למסלול, ובחר בחירה נכונה בנחיתה על המים. |
|
||||
|
||||
אני רואה את החלק החשוב ביותר, ומה שעשה את סאלי גיבור בעיני, בדגש מסוים שהשמטת. הוא העריך על סמך ניסיונו שלא יצליח להגיע למסלול, ובחר בניגוד לנהלים בחירה נכונה בדיעבד בנחיתה על המים. סאלנברג לקח על עצמו אחריות אדירה על שלומם של הנוסעים והצוות בכך שבחר לפעול בניגוד לנהלים. זה החומר שגיבורים עשויים ממנו. הדרמטיזציה שעושה הסרט כאילו הועדה השתכנעה בהתחלה שההחלטה לנחות על המים היתה מיותרת, אם לא שגויה, משרתת את הסרט, גם אם היא חוטאת לאמת, ואני לא מוצא סיבה להתרגז עליה. זה לא העיקר לדעתי. הסרט אינו דוקומנטרי אלא דרמה קולנועית, ואני מקבל סטיות מסוימות מהאמת העובדתית שמשרתות את העלילה. אני מתאר לעצמי שגם באפולו 13 העניינים התנהלו באופן קצת פחות דרמטי ממה שהסרט מתאר, וזה לא מפחית מזה שהוא סרט טוב1. ________________ 1 אני חוזר על ההמלצה שלי על הסרט מעבר לכוכבים (סרט, 2017) [ויקיפדיה] שמציג דרמה דומה מהצד הרוסי של המרוץ לחלל |
|
||||
|
||||
מה "הנהלים" אם המטוס מאבד מנועים מיד לאחר ההמראה בגובה 100 מטר? לפתוח מיד את ספר תהלים וחוץ מזה לא לעשות שום דבר? אני זוכר היטב את תרגולי הנ"א (נחיתת אונס) בשנים שבהם היה לי רישיון טיס. ה"נהלים" אומרים בפרוש שצריך להוריד אף ולחפש מקום שבו אפשר לנחות. ואם אין שדה תעופה שניתן להגיע אליו לחפש מקום אחר כמה שיותר נוח כמו שדה חקלאי ולתכננן את ההנמכה והנחיתה אליו. הניסיון לחזור ולנחות על מסלול שממנו יצאת אם עדיין לא צברת מספיק גובה יביא בהכרח לאסון כי בסיבוב 360 מעלות המטוס מאבד המון גובה, וכבר היו הרבה אסונות בגלל הנטייה לחזור. זה נכון שאם מדובר במטוס נוסעים גדול, הסיכוי שלא יארע אסון אם ינחת על שדה חקלאי הוא די נמוך, אבל בנסיבות מסוימות זה הדבר הטוב ביותר שאפשר לעשות, ואני מניח שכך זה גם ב"נהלים" של מטוסים גדולים. אגב מצאתי תגובה ישנה שלי בנושא, תגובה 536816 . שם כתבתי שלא מדובר בגיבור אלא במקצוען. |
|
||||
|
||||
זהו, שהוא לא איבד מנועים בגובה 100 מטר. לפי החבר שלי, שהוא טייס מסחרי בארה"ב, סאלי לא פעל לפי הנוהל. סאלי היה ללא ספק מקצוען מהמעלה הראשונה, לנוסעים היה הרבה מזל שסאלי היה הקפטן. לפי החבר שלי הרמה של טייסים מסחריים בארה"ב היא הרבה הרבה מתחת לזה. גם להצליח בנחיתה כזאת בלי אבידות בנפש זו מקצוענות ברמה גבוהה מאוד. בעיני חוץ ממקצוען ברמה גבוהה הוא גם היה גיבור, ואני מדבר על שלב ההחלטה. מבחינתי לקחת אחריות על חיי עשרות רבות של אנשים ולעשות את הדבר הנכון גם אם הוא בניגוד לנהלים זו עוד רמה מעבר למקצוענות גרידא. |
|
||||
|
||||
אז מה לפי החבר שלך "הנוהל"? להתרסק על בתים? |
|
||||
|
||||
אני לא יודע אם טוויטר מאזין לאייל אבל באחד הפידים עלתה הפנייה לארוע בו הקברניטה ברנדה רייפסאמה וואסינק הנחיתה בבריסטול בואינג 757 בטיסה על הצד נגד רוחות עזות. |
|
||||
|
||||
זה לא קשור במה שאמרתי כי מדובר בנחיתה בשדה תעופה, בוודאי לא על בתים, אבל אין ספק שזה סרט מאד מעניין, ואיני יודע מדוע לא בחרה הטייסת לחפש שדה תעופה אחר, במסלול מקביל לכיוון הרוח. אולי הייתה קצרה בדלק. מכל מקום מדובר כאן בוודאי בנחיתה מאד מיוחדת. כאשר יש רוח צד צריך גם אז להישאר מקבילים לציר המסלול ולהוריד את הכנף שבכוון שממנו מגיעה הרוח. עושים זאת על ידי הטית ה"סטיק" לכוון הרוח והגה הכיוון לכיוון הנגדי. כך נשאר המטוס מקביל לציר המסלול כשהוא "מחליק" לכיוון הרוח, והרעיון הוא שההחלקה הצידה תהיה בדיוק במהירות הרוח, כך שהוא יישאר כל הזמן על ציר המסלול1. שמעתי פעם שבמטוס מסוג B52 בגלל מוטת הכנפיים הגדולה שלו, יש סכנה שהטיית הכנף תגרום לכנף לנגוע במסלול ולכן הגלגלים שלו מחוברים כמו בעגלת סופרמרקט באופן שהוא יכול לנוע הצידה, והנחיתה נעשית כמו שהטייסת הזאת עשתה כלומר, עם כיוון נחיתה אל הרוח. אבל בנחיתה הזאת המטוס לא היה B52, והחבר של אריק היה בטח אומר שהיא פעלה נגד הנהלים. אבל לפי מה שרואים בסרט הרוח הייתה כל כך חזקה שהמטוס נחת כמעט בניצב למסלול, ולו הייתה מנסה לנחות לפי "הנוהל", הכנף הייתה "חורשת" את המסלול וקרוב לוודאי שלא היה נשארת נפש אחת חיה מתוך אלה שהיו במטוס. לכן, במקרה הזה, אם באמת אין ברירה וחייבים לנחות דווקא במסלול הזה, ה"לא נוהל" הופך בדיוק לנוהל , בדיוק כפי שהיה על ההדסון. 1 יצא לי פעם לנחות כשהייתה רוח צד די חזקה וגם אשתי הייתה אז לצדי במטוס. כנראה היה אז שינוי חריף במזג האוויר כי לא הייתי מעז לצאת כשיש רוח כזאת. ודווקא במקרה הזה זה יצא לי לא רע, אבל לקח הרבה זמן עד שהלב שלי חזר לקצב רגיל. |
|
||||
|
||||
חיפשתי קצת באייל וגיליתי שאת הוויכוח הזה כבר התווכחנו, כולל ''הטייס המסחרי'' מארצות הברית. זה היה אצלי היכן שהוא בקצה הזיכרון אבל באופן די קלוש. |
|
||||
|
||||
ראשית צריך לנטרל את מבחן התוצאה שהוא כמובן חד משמעי במידה שמקשה מאד לעשות זאת. שנית צריך להבין שהנוהל מבוסס על נסיון של הרבה מקרים דומים (רובם, אני מקווה, בסימולטורים, שכן משרד התחבורה הישראלי לא השתתף בקביעתם). מהמעט שידוע לי על תאונות אוויריות שהתרחשו בפועל הסיכוי לנחיתה מוצלחת על מים הוא קטן מאד. מתעניינים חרוצים ממני מוזמנים לעבור על הרשימה למשל אצל הדודה: Water_landing . [Wikipedia] שלישית צריך לברר אם ההחלטה לא לפעול לפי הנוהל היתה מבוססת על שיקולים נכונים, למשל על ידיעה שהכישורים הספציפיים של הקברניט והצוות מאפשרים פעולה טובה יותר מהמומלצת בנוהל, שמטבע הדברים מתייחס לטייס ממוצע, או שהתנאים הסביבתיים היו כאלה שהיה נכון לחשוב שהנוהל אינו מתאים להם. האם הנוהל מתחשב בכלל בנזק הסביבתי האפשרי שכרוך בנסיון לא מוצלח להגיע לשדה התעופה? האם היו סיבות אחרות לחשוב שהנוהל לא מתאים? והצד השני של המטבע: האם ההחלטה לא נבעה ממצ'ואיזם והערכת יתר של כישורי הטיסה שרק במקרה הצליחה? האם טייס שנמצא בעיצומו של מקרה חירום יכול בכלל לסמוך על שיקול דעתו ולפעול לא בהתאם לנוהל? מ"תעופה בחקירה" אני זוכר רק מקרים בהם חריגה מהנהלים הובילה לאסונות, ומלבד הנס על ההדסון לא זכורים לי מקרים בהם היא התבררה כצעד הנכון (לבורים שלא מכירים את הסידרה: הם מראים שם גם מקרים שמסתיימים בשלום). כצופה של הסרט אני כמובן בעד טום הנקס ולכן אני שמח שהוחלט ששיקוליו היו נכונים. מעניין אם הוועדה היתה מגיעה לאותה מסקנה אם הנחיתה היתה מסתיימת אחרת. ניחוש: לא ולא. |
|
||||
|
||||
אתה "זורם" עם אריק במלים: "ההחלטה לא לפעול לפי הנוהל". מה, לפי המידע שבידיך, ה"נוהל" במקרה הזה? אגב, אם תבדוק ב google earth את סביבת האירוע תגלה שמדובר בשטחים צפופי בנייה, ואין שם בכלל שדות חקלאיים. גם מה שנראה ירוק, את תתקרב תראה שמדובר ברבעי מגורים עם בתים קטנים. |
|
||||
|
||||
המממ. נראה ששזרתי בהודעה צרור של זיכרונות שגויים מכל המקרה. עכשיו קראתי בויקי את הפרטים, בין השאר שסאלי היה בעל נסיון רב כולל בדאיה, כך שללא ספק היה נכון מצידו לפעול בהתאם לשיקול דעתו ולא בהתאם לעצה של פקח הטיסה (ולא "נוהל" כפי שזכרתי בטעות). |
|
||||
|
||||
וכן. אני מאשים את אריק! |
|
||||
|
||||
פקח הטיסה אין תפקידו לתת עצות1. במקרה כזה עליו לדאוג לפינוי מסלולים ולאישור לנחות בהם בהתאם לבקשת הטייס. הטייס הוא זה שמחליט בלעדית את כל ההחלטות, וגם אחראי לתוצאות החלטותיו. אשר לניסיון בדאייה, בעצם כל טייס בזמן הקורס מתרגל אפשרות שהמנוע מפסיק לפעול. זה נעשה על יד כך שמעבירים את המנוע להילוך סרק, ומכוונים את המטוס לשדה הכי בטוח האפשרי, בדאייה. איני בטוח שניסיון בדאייה בדאון קל יכולה להוסיף הרבה במקרה הזה. כל כלי טייס מתנהג אחרת, ומטוס נוסעים גדול מתנהג שונה מדאון. 1 ואם בכל זאת הוא נותן עצות, הרי לא מדובר בשר משפטים ויועץ משפטי במדינת ישראל, שבה הראשון חייב לקבל את עצות האחרון, שאם לא כך ייעשה, בג"ץ יחליט שהחלטה בניגוד לעצה הזאת אינה "סבירה", ולכן הוא לא היה רשאי להחליט אותה. |
|
||||
|
||||
דיברתי עם החבר שלי פעם נוספת כדי לברר את עניין הנוהל. הוא אומר שיש נוהל מה לעשות כשמאבדים מנוע. הנוהל מתאים לאיבוד מנוע בגובה גבוה, וכולל הנמכה בנסיון להניע אותו מחדש. אין נוהל לאיבוד מנוע בגובה נמוך1. ובעקרון הנוהל כשיש מקרה חירום מיד אחרי ההמראה הוא לחזור לשדה שהמראת ממנו. לעניין פרטי המקרה הספציפיים הוא אומר- למזלו של סאלי הראות היתה טובה. אילו היו עננים בגובה נמוך הוא לא היה רואה בכלל את ההדסון כדי לכוון אליו. אכן האזור כולו בנוי, וגם להגיע לים הוא לא היה מספיק. סאלי היה בעברו טייס קרב (אאז"נ גם עשה נחיתת אונס עם מטוס קרב), ודואה בתחביבו. הנסיון בדאיה עזר לו מאוד להעריך נכון את טווח הדאיה ולהבין מיד שלא יוכל לחזור לשדה ממנו המריא (שים לב באיזו מהירות הוא עונה Unable כשמגדל הפיקוח מציע לו לחזור), וגם עזר לו לבצע את נחיתת האונס כמו שצריך. החבר שלי אומר שבסימולטורים הבקר מחזיר לך את המנוע בגובה נמוך מאוד (100 רגל אאז"נ) ולכן כאשר טייסים היו צריכים לבצע נחיתות אונס בפועל הם בדרך כלל פספסו את היעד (overshoot) כי הם רגילים שהתרגיל נגמר שם, לפני הנגיעה בקרקע. _____________ 1 ואחת המסקנות מהמקרה של סאלי היתה לעשות נוהל כזה, כי הנוהל לאיבוד מנוע ארוך מדי, ואם סאלי היה ממשיך אותו הוא סתם היה מתרסק. |
|
||||
|
||||
בתרגילי נ"א שאני עשיתי ההנמכה הייתה מתבצעת עד גובה 500 רגל, וכשמגיעים לגובה זה "הולכים סביב", כלומר פותחים מנוע ואוספים גובה. מתחת לגובה 500 רגל יכולים להיות כל מיני כלי טיס כמו מטוסים זעירים שאין להם בכלל קשר עם הבקרה. אחד המדריכים, דווקא בחור מבוגר ממני, הראה לי פעם "דוגמא אישית" והמשיך בהנמכה עם שגלגלי המטוס כמעט נגעו בצומח מתחת. איני יודע איך זה במטוסי נוסעים, אבל במטוסים הקלים שאני הטסתי יש נוהל עבור כל מקרה. אם מאבדים מנוע מיד לאחר ההמראה הנוהל אומר שאסור תחליט האיסור לנסות להסתובב חזרה אלא לחפש מקום מלפנים, ואני זוכר שני מקרים כאן בארץ, אחד בחיפה (שבו נספה גם גמלאי טרי של רפאל), ואחד בהרצליה, של ניסיונות לחזור שהסתיימו במות כל הנוסעים. חזרה למסלול במצב כזה הוא אסון בטוח. אבל כאשר המטוס בגובה רב יותר, למשל בגובה 800 רגל באמצע "עם הרוח" כלומר במקביל למסלול בכוון הפוך לכיוון הנחיתה, יש נוהל כיצד להגיע למסלול, ומתרגילים אותו (עד כמה שזכור לי רק עם מדריך). כפי שכתבתי בתגובה אחרת איני חושב שניסיון בדאייה יכול לעזור במקרה הזה, משום שאיבוד הגובה בדאון שונה לגמרי ממטוס גדול. רפול הצליח פעם להגיע משדה מגידו לאילת בדאון תוך ניצול כל מיני רוחות עולות. אני מניח שלא היה עולה על דעתו לעשות זאת במטוס איירבוס גם לו הייתה לו דרגת מרשל. |
|
||||
|
||||
אגב, כשאני קורא שוב את דבריך, אני רואה שהם קצת סותרים את מה שכתבת קודם. כי קודם כתבת בפרוש, וזה קצת הרגיז אותי, שהטיס פעל בניגוד לנוהל. עכשיו אתה אומר שאחת המסקנות מהמקרה היא לעשות נוהל לגובה נמוך, כלומר מן הסתם המקרה הזה היה בקטגוריה של "גובה נמוך"1, כך שממילא הטיס לא פעל בניגוד לנוהל אלא פעל במציאות שלכאורה אין נוהל לגביה. 1 כפי שאמרתי, בקורס הטיסה למטוסי נוסעים שאני עברתי יש נוהל לגבי כל מקרה. חלוקת המקרים לפי "גובה גבוה" ו"גובה נמוך" היא חלוקה לא נכונה. כתבתי קודם שאפשר להגיע למסלול אם אתה בגובה 800 רגל באמצע "עם הרוח", אבל אם אתה בגובה אפילו 40000 רגל באמצע האוקיינוס האטלנטי אל תנסה להגיע לשדה התעופה הסמוך אלא נסה לנחות באופן ה"חלק" ביותר שאתה יכול על הים. לשם כך יש במטוס ציוד של חגורות הצלה ודוברות מתנפחות, כפי שרואים בסרט. אלה שהחליטו שציוד כזה צריך להיות במטוס לקחו בחשבון שהוא עלול להגיע למים, וברור שאם יגיע לשם כדאי שיגיע באמצעות נחיתה ולא באמצעות נפילה. |
|
||||
|
||||
אוי וי. ''בקורס הטיסה למטוסים קלים'' כמובן, ולא למטוסי נוסעים, כפי שכתבתי. |
|
||||
|
||||
אם כבר אוי וי, ''תחליט האיסור'' אסור בתכלית. |
|
||||
|
||||
? |
|
||||
|
||||
ר’ תגובה 712366. |
|
||||
|
||||
ואו. גם על כך באמת צריך להגיד אוי ויי. מזל שיש שוטה. |
|
||||
|
||||
היה נוהל לאובדן מנוע. הנוהל הזה לא התאים לסיטואציה. סאלי התחיל אותו, ונטש אותו ברגע שהבין שאין טעם להמשיך אותו. בוא נגיד שמטוס אוטונומי היה ממשיך עם הנוהל שלא התאים לסיטואציה ומתרסק, וזה, אגב, כנראה מה שקרה בתאונות ה 737 מקס. >> עכשיו אתה אומר שאחת המסקנות מהמקרה היא לעשות נוהל לגובה נמוך זה שהנוהל הקודם לא היה טוב ומשפרים אותו לא אומר שלא היה נוהל. |
|
||||
|
||||
אני חושב שאם הסימולציות שראינו בסרט אכן היו במציאות, מטוס אוטונומי היה נוחת בשלום או בלה גרדיה או בטטרבורו. לו היה מעל אמצע האוקיאנוס האטלנטי (או השקט. לא משנה.) הוא היה נוחת על המים. ולו היה במצב שבמקרה שלנו אבל במהירות יותר נמוכה או בגובה יותר נמוך כך שהמחשב היה מגלה שאי אפשר להגיע לשדה תעופה קרוב הוא היה נוחת על ההדסון. מה שהיה ב 737 מקס הוא איבוד שליטה על המטוס, בגלל תכנון לקוי של המטוס, מקרה שונה לחלוטין. |
|
||||
|
||||
>> מטוס אוטונומי היה נוחת בשלום או בלה גרדיה או בטטרבורו. אני לא מסכים. הוא היה מצליח לעשות את זה רק אם היה כתוב לו הנוהל הנכון, ולא היה. >> מה שהיה ב 737 מקס הוא איבוד שליטה על המטוס, בגלל תכנון לקוי של המטוס כנראה בעיקר בגלל תכנון לקוי של התוכנה של המטוס, שהמשיכה להוריד את האף ולא אפשרה לטייס לקחת שליטה ידנית ולמשוך למעלה. הכנה לפשלות שנראה מכלי רכב אוטונומיים בעתיד? |
|
||||
|
||||
אתה יכול לשגע פילים עם הנוהל שלך. מה צריך לעשות כשהשעון ברכב מראה שיש מעט דלק? לנסוע לתחנת הדלק נכון? אבל נניח שיש לך שעון מדויק ואתה מגלה לפתע פתאום שבעוד 200 מטר ייגמר לך הדלק לחלוטין? תעצור באמצע הכביש בגלל שאין נוהל? ומה היה עושה רכב אוטונומי, אם שעון הדלק שלו היה מושבת זמנית, ולפתע היה מסתדר ומורה שעוד 200 מטר ייגמר הדלק לחלוטין? לא ממש אותו דבר? איפה כתוב שמתכנני כלי רכב אוטונומיים חייבים להיות מטומטמים? |
|
||||
|
||||
אם זה מה שיצא לגאונים שתכננו את ה 737 מקס, קשה לי להיות אופטימי. מעניין כמה שורות קוד צריך לכתוב כדי שמכונית אוטונומית תצליח להתמודד כהלכה עם פנצ'ר על הכביש המהיר 405 בלוס אנג'לס בשעות העומס. |
|
||||
|
||||
אני הבנתי שהתוכנה נועדה לפצות על בעיה הנדסית של מיקום חדש של המנועים שנועד לספק צורך שיווקי של מטוס עם צריכת הדלק טובה משל האיירבס המתחרה וקיצור זמן הספקה. |
|
||||
|
||||
בכל מקרה, היא לא כל כך הצליחה. |
|
||||
|
||||
לדעתי מכונית אוטונומית לחלוטין תפעל תמיד עם תקשורת מול מוקד כלשהו שבמקרה הצורך יוכל לקחת את הפיקוד. אם מתעורר מצב שדורש פתרון ברמה של שניות היא תעשה מה שנהג יעשה: תנסה כמיטב יכולתה לבלום ולהגיע לעצירה בשטח שאינו נתיב נסיעה, ומשם תקרא לחילוץ. אני מניח גם שתהיה לה אפשרות לתקשר ישירות גם מול שרותי החירום. |
|
||||
|
||||
גם אני חושב שזה מה שהיא תעשה. אני רק לא יודע אם הקוד שיגיד לה לעשות את זה יהיה מספיק טוב. לא חשבתי שיכול להיות מצב שבו התוכנה של מטוס נוסעים יכולה למנוע מהטייס לשלוט בסטיק, גם כשהמטוס עומד להתרסק כתוצאה מכך. עובדה, קרה פעמיים. |
|
||||
|
||||
לא נראה לי שבמקרי התאונה המדוברים לא היה ניתן לנתק את הטייס האוטומטי. יש לך מקור שמאשש את הטענה הזאת? |
|
||||
|
||||
מערכת MCAS1 שגרמה לתאונות לוקחת מהטיס את השליטה במייצב הגובה. ניתוק המערכת מתבצע רק על ידי שני kill switch שמכבים את החשמל לכל מערכת מייצב הגובה וכך מבטלים גם את השליטה בלשונית הקיזוז (trim tab) שנמצאת על הסטיק. עדיין אפשר לשלוט ידנית במייצב הגובה דרך גלגל הקיזוז (trim wheel) שנמצא ליד ברכו של הטייס. בהתרסקות של אתיופיאן איירליינס (ההתרסקות השניה של 737 מקס) החיישן של זווית ההתקפה (AOA) בחרטום התקלקל, כנראה נפגע מציפור מיד בהמראה. MCAS לא נכנסה מיד לפעולה, כי היא מתוכננת לא לפעול בזמן המראה, אבל ברגע שהטייסים הרימו מדפים MCAS נכנסה לפעולה, קיבלה נתונים שגויים מהחיישן והורידה את החרטום. הטייסים משכו בכח בסטיק, אבל לא הצליחו להרים את האף בעזרת הגה הגובה בלבד. הם ניתקו את ה kill switch, אבל ככל שהתאמצו לא הצליחו פיזית לסובב את גלגל הקיזוז בגלל הכוחות האווירודינמיים החזקים על מייצב הגובה. אחרי מספר דקות הם התעייפו מאוד מלמשוך את הסטיק וניסו להחזיר לרגע את החשמל כדי לאפס את מייצב הגובה, MCAS שוב השתלטה על המערכת והורידה את החרטום לאדמה. המטוס צלל ופגע באדמה במהירות של יותר מאלף קמ"ש. ________ |
|
||||
|
||||
זה נשמע תכנון ממש לקוי. למה שאי אפשר יהיה לחזור למצב שבו אותו MCAS לא שולט כפי שזה בהמראה? מן הסתם המתכנן לא חשב שיש צורך בכך, ואולי חשש משטויות שייעשו הטייסים בהטסת המטוס בעל המבנה המיוחד. |
|
||||
|
||||
נכון, תכנון לקוי מאוד. MCAS גם אמורה לפעול רק במהירויות נמוכות, כשיש סכנת הזדקרות. המטוס של אתיופיאן היה במהירות המקסימלית שלו ומהנדסי התוכנה לא חשבו שזה משנה. |
|
||||
|
||||
אני לא חושב שמדובר כאן בתוכנה ובמהנדסי תוכנה. יש כנראה צוות שמחליט איך המטוס צריך להתנהג, והוא זה שפישל. המתכנתים בסך הכל בצעו את הדרישה של הצוות הזה. ''באג'' לא היה כאן. |
|
||||
|
||||
מסכים עם דב, התנהגות אלגוריתם כזה מוכתבת על ידי הדרישות ממהנדסי המערכת ומהנדסי המוצר, המתכנתים עוקבים אחרי הדרישות ולא מחליטים בעצמם, או לפחות כך זה אמור להיות בנוהל פיתוח תקין, וודאי כזה שמערב מכונות מסובכות שמסכנות חיי אדם. חוליה נוספת בשרשרת הפיתוח שסביר שכשלה כאן היא בקרת האיכות ומהנדסי ניסויי הטיסה - זו שתפקידה להריץ תרחישים אפשריים ולבדוק שהמערכת לא כושלת בהם. |
|
||||
|
||||
ואם בחברה כל כך מכובדת כמו בואינג זה לא הצליח, עם כל הבקרות של רשויות הטיסה, למה שזה יצליח עם מכונית אוטונומית מתוצרת סין? |
|
||||
|
||||
האמת, זו דוגמה נהדרת ל-ai המהוללת ומגבלותיה. |
|
||||
|
||||
האם השתמשו בכלל בלמידה עמוקה? לפי הניתוחים שאני קורא נראה לי שמדובר בתכנות פונקציונלי סטנדרטי ("אם זוית ההתקפה ואם הגובה... אז..."). |
|
||||
|
||||
די ברור שלא היתה כאן למידה עמוקה (כנראה שום שמוש בלמידת מכונה בכלל). אני לא בטוח שלמידה עמוקה זה מה שנדרש במערכת כזו, אבל בכל מקרה לא זו היתה הבעיה. עד כמה שאני מבין, הלוגיקה הפנימית של המערכת היתה בסדר, אבל הטעות החמורה היתה בקריאת הנתונים ממד זווית התקפה אחד (במקום שניים או שלושה), שגם מועד להתקרחות או היסתמות וגם עלול סתם להיות תקול. במצב שבו הזווית המועברת לא נכונה, לוגיקה תיתן תשובה לא נכונה - אלא אם כן יש ללוגיקה דרך לנתח את הנתונים שהיא מקבלת ולקבוע שאין לסמוך עליהם. Garbage in, garbage out. היו עוד הרבה כשלים בתהליך; למשל, בשלב של בקורת הבטיחות על תכנון המטוס המערכת נועדה להוריד את אף המטוס בחצי מעלה בלבד. בשלב מאוחר יותר החליט מי שהחליט להגדיל את תחום הפעילות שלה ולאפשר לה להוריד את האף בעד שתי מעלות. בשלב הזה אף אחד לא חשב שזה שינוי שמחייב בקורת בטיחות חדשה. אפשר לכתוב על הדברים שקרו שם ספר שלם - ואין לי ספק שספר כזה אכן ייכתב (ואולי כמה, סביר להניח שכבר היום הם בשלבי כתיבה מתקדמים). |
|
||||
|
||||
למרות כל הלחצים לזרז ולהוזיל את הפיתוח, ממש מדהים שאפשרו single point of failure כזה. ולנו יש את החוצפה להתלונן על גשר המכביה או תקרת פלקל. |
|
||||
|
||||
אכן. מה גם שאפשר לבדוק גם נתונים שמגיעים מחיישן אחד. אפשר קודם-כל לראות האם הם עקיבים ללא קפיצות והתנהגויות מוזרות. סביר להניח שהפלט של חיישן כזה הוא בכל מקרה רועש למדי (אם יצא לך פעם לראות את הפלט הלא מפולטר של החיישנים בטלפון שלך אז אתה יודע על מה מדובר) ותמיד צריך לנקות אותו, אבל אחרי הניקוי אתה מצפה להתנהגות סבירה. זה יכול לכסות שגיאות אקראיות, אבל לא שיטתיות. גם את השגיאות השיטתיות אפשר היה, לדעתי, לזהות. זווית ההתקפה חייבת להיות בקורלציה הדוקה עם הזווית הכללית של גוף המטוס (pitch, עִלְרוּד בעברית תקנית). הזווית הזו ידועה - אני מניח שהיא נמדדת גם על ידי חיישנים שמבצעים דגימה רגעית וגם בעזרת מערכת אינרציאלית (ג'ירוסקופים). אז אפשר בעזרתה לבדוק האם הנתונים של זווית ההתקפה מהחיישן סבירים. אם ממש רוצים אז סביר להניח שאפשר להסיק את זווית ההתקפה מהמידע על תנועת המטוס - אם יש לך מודל של התנהגות המטוס ואתה פותר את המשוואות כך שבמקום שזווית ההתקפה תהיה חלק מהקלט היא הופכת להיות הפלט. אני משער שחלק מתיקון התוכנה המדובר כולל אלמנטים הדברים האלה. ולגבי החוצפה - בכל זאת, כמי שהמציאו את החוצפה יש לנו זכות להשתמש בה כרצוננו. |
|
||||
|
||||
מה לא הצליח? המקרה המצער הזה הוא הדבר היחיד שקרה בבואינג? אתה זוכר את הגג באולמות ורסאי? אז בגלל זה אסור לנו לסמוך על שום גג? האם בגלל אסון אולמות ורסאי אתה נמצא כל הזמן בחרדה שהתקרה בביתך תקרוס עליך או שתעוף יחד עם הרצפה בביתך אל השכנים שמתחתך? ואת הגשר להולכי רגל על הירקון שקרס יחד עם ספורטאי המכבייה אתה זוכר? אז זה אומר שיש בעיה בגשרים בארץ? היו אסונות בגלל תכנונים לקויים. אבל צריך לראות את התמונה הרחבה. |
|
||||
|
||||
לפי מה שאני זוכר שקראתי, הבעיות בבואינג יותר עמוקות ורחבות, ולא רק ב-737. היה גם מהנדס בטיחות שהתריע וגם חשף התנהלות רשלנית בחברה, וגם העיד בקונגרס. אאז"נ, וצריך לחפש לינקים מתאימים. בנוסף לבעיות התכנוניות והבטחת האיכות של ה-737, היה גם לחץ לזרז את הייצור שגרם לכל מיני קיצורי דרך ורשלנות בייצור. גם במטוס ה-787 שי בעיות שקשורות לזה שבואינג הקימה מהר מפעל חדש בדרום קרולינה ששם אין עובדים מיומנים בתעשייה וכוח האדם שגויס לא היה מיומן ובעל נסיון בעבודה בסביבה של ייצור מטוסים. על זה התווסף לחץ הנהלה לזרז את הייצור שגם פה הביא למקרים של רשלנות מדעת או מחוסר דעת, קיצורי דרך ועיגול פינות גם בסרטיפיקציה של המטוסים שיוצרו בדרום קרולינה. עד כמה שאני זוכר, המהנדס סיפר על כלים שהושארו בתוך חללי המטוס, כולל סולם שהושאר בתוך הגה הזנב, חתימה על טפסי בקרת איכות בלי ביצוע בקרה, השארת פסולת מהעבודה במטוס ועוד. אני זוכר שבסוף הוא אמר שהוא לעולם לא יעלה על 787 שיוצר בדרום קרולינה. |
|
||||
|
||||
אני לא אפסיק לטוס בגלל התרסקויות ה 737 מקס, אבל כנראה אעדיף איירבס בשביל השקט הנפשי שלי. היום צנח עוד 737, לא מקס כמובן, אבל יש הרגשה שהם נופלים כמו זבובים. הבעיה עם בואינג היא שאחרי ההתרסקות הראשונה היה ברור שה MCAS בעייתי. בואינג העבירה אותו את הרגולציה עם מניפולציה כלשהי שגרמה לו להיחשב לשינוי פחות קריטי ממה שהוא, וגם לא הכניסה אותו ל Manual של המטוס כמו שצריך, אבל אחרי ההתרסקות הראשונה דגל האזהרה כנראה לא התנופף מספיק חזק אצלם, והם העדיפו לא לשנות את ה MCAS, אלא רק לחדד נהלים (וכך הצוות של אתיופיאן כבר ידע לסגור מהר את ה Kill switches, והצליחו לשמור שליטה כלשהי במטוס לזמן מה) |
|
||||
|
||||
אני נוטה לנחש בזהירות שה 737 800 לא התרסק בגלל בעיה טכנית. אולי בגלל טעות אנוש ואולי אפילו בגלל איזה טיל טועה שפגע בו. יצא לי לטוס בדגם הזה באל על הרבה פעמים, ועובדה היא שעד כה אני לגמרי שלם. |
|
||||
|
||||
מעיון חולף בידיעות על המטוס האוקראיני גיליתי שהאיראנים מסרבים למסור את הקופסאות השחורות שלו, וכן שהאוקראינים לא גורסים עוד שמדובר בתקלת מנוע. יש כאן רמזים בכיוון שניחשתי. |
|
||||
|
||||
נראה שצדקתי. 'כשאתה אומר "הם נופלים כמו זבובים" האם יש איזה טיעון הגיוני מאחורי זה שאתה לא משתף אותו, או שזו אינטואיציה, תחושת בטן?' ה 737 800 ו 900 הם מטוסים מרבי התפוצה בתעופה האזרחית והם מאד אמינים. אני מניח שעוד יצא לי לטוס בהם, ואיני חושש. |
|
||||
|
||||
אני לא כתבתי: "הם נופלים כמו זבובים". אני כתבתי: "יש הרגשה שהם נופלים כמו זבובים." עכשיו כשאנחנו יודעים מה כתבתי אני חושב שיהיה לך קל לנחש לבד- יש איזה טיעון הגיוני מאחורי זה שאני לא משתף אותו, או שזו אינטואיציה, תחושת בטן, הרגשה? |
|
||||
|
||||
לגבי המטוס האוקראיני שהתרסק באירן. יש כמה עיתונאים שמתחילים לבדוק למה האצבע האירנית על הדק סוללת הטילים היתה עצבנית. הם מתבססים על התוכנית של שון האניטי בפוקס ניוז ששודרה בסביבות הזמן שהמטוס נפל. שון האניטי הוא יועץ של טראמפ והם מדברים כמעט כל יום, וטראמפ ידוע כמי שמגלה סודות לכל מיני אנשים (למשל, האורחים באתר הגולף שלו ידעו על ההתנקשות) ומשתמש ברטוריקה של הפחדה והתרברבות. האניטי כבר קרא בתוכנית שלו לטראמפ להשתמש בכל הכוח. בתוכנית ששודרה בזמן ההתרסקות הוא אמר בשפה של דיווח עיתונאי על 3 מתקני זיקוק שעומדים לעלות באש, שמתקנים גרעיניים עומדים להיות מושמדים, שמטוסים אמריקאים יתקפו הלילה, F35 הוזנקו לתקיפה, B52 בדרך, ושכדאי למנהיגים האירנים להתחבא בבונקר. הם שואלים את עצמם אם זה לא סביר שהאירנים, שגם מכירים את מערכת היחסים ההדוקה בין טראמפ להאניטי, מקשיבים לתוכנית שלו ושדבריו העלו אצלם את רמת העצבנות? מעניין יהיה לראות מה יעלה התחקיר הזה, ואיך הארועים ימופו על ציר הזמן. |
|
||||
|
||||
דיווחים דומים מהתוכנית שלו התממשו בסבירות מספיק גבוהה? כלומר: האם למודיעין האיראני היה טעם להקשיב לאיומים שנאמרו בתוכנית שלו? |
|
||||
|
||||
כלומר אתה נותן הנחות לא רק לארז אלא גם לעצמך. אני חש מקופח ומוותר על המחמאה. |
|
||||
|
||||
ואם מישהו פקפק גם האיראנים מודים עכשיו בטעותם. |
|
||||
|
||||
יהיו כשלים וגם תאונות גם במכוניות אוטונומיות, בוודאי בשנים הראשונות. אבל אגלה לך מה שרבים בתעשיה יודעים: גם במכוניות לא אוטונומיות יש כשלים ותאונות, ותוכנת הנהיגה שלהן גם היא לא מושלמת. יש יסוד להניח שכאשר האוטונומיות תשוחררנה לשימוש כללי הן כבר תהיינה בטוחות יותר מהרגילות בצורה מובהקת. אגב, נקודה שפחות מזכירים אותה היא שהפיתוח של האוטונומיות גורר אתו מערכות בטיחות שרבות מהן מוצאות ותמצאנה את דרכן למכוניות הרגילות (ע"ע מובילאיי). באופן הזה כבר היום המכוניות האלה משפרות את הבטיחות של כולנו. סביר להניח שבשנים שתחלופנה עד שנראה אוטונומיות על הכביש נושא הבטיחות כבר יהפוך לקצת פחות מדאיג. |
|
||||
|
||||
מסכים בעקרון. אני רק מצביע על מה שנראה לי כמו בעיה, שתקלות תוכנה הן הרבה יותר קשות לתיקון מתקלות חומרה. כשלטויוטה התגלתה בעיית דוושת התאוצה היא פתרה את הבעיה תוך שבועות, עשתה ריקול למיליוני מכוניות ותוך מספר שבועות המשיכה למכור את דגמיה כרגיל. |
|
||||
|
||||
כשאתה כותב שלדעתך תקלות תוכנה הן הרבה יותר קשות לתיקון מתקלות חומרה, "האם יש איזה טיעון הגיוני מאחורי זה שאתה לא משתף אותו, או שזו אינטואיציה, תחושת בטן?" אני, למשל, בטוח בדיוק בהפך, שהרבה יותר קל פשוט ומהיר לפתור בעיות תכנה מאשר בעיות חומרה, וזה כל כך מובן מאליו שכל "טיעון הגיוני" במקרה זה ממש מיותר. ואני גם חוזר על מה שכתבתי קודם, שאותה תקלה ב737 מקס אינה תקלת תכנה. |
|
||||
|
||||
אני משווה בין המקרים. טויוטה "קרקעה" את המכוניות שלה לשבועיים. ה 737 מקס מקורקע כבר 10 חודשים. אם זו תקלה בתכנון התוכנה מבחינתי ודאי שזו תקלת תוכנה. לדוגמה- ה MCAS לא אמור לפעול בכלל במהירויות גבוהות ושתי ההתרסקויות קרו במהירות גבוהה. בואינג הודיעה אחרי חודשיים מהקרקוע שהיא השלימה את עדכון התוכנה. מסתבר שהיו בעיות נוספות, כמו זה שהאימון של טייסי המקס להבדלים בינו לבין הדור הקודם היה בדיחה, אבל התקלה עצמה היתה בזה שהתוכנה לא היתה טובה. |
|
||||
|
||||
ההשוואה שאתה עושה עם מקרה טויוטה היא השוואה מופרכת מכמה סיבות. אתה רואה את התקלה ב 737 מקס כמייצג של תקלת תכנה. אני לא מסכים אתך בעניין זה כפי שאמרתי מספר פעמים אבל ניחא. נניח שבנקודה זו אתה צודק, ובאמת מדובר בתקלת תכנה (קשה לי לומר זאת אפילו כהנחה, אבל מילא). אבל כשאתה משווה שני סוגי תקלות לא רק סיווג התקלה כתכנה או חומרה משחק תפקיד אלא גם גודלה. יכולה להיות תקלת חומרה ענקית ותקלת חומרה קטנה ופשוטה. ויכולה להיות תקלת תכנה ענקית (נניח מה שחשבו על באג 2000 מי שחשבו), ותקלת תכנה פשוטה. אין שום מקום להשוואה. אבל המופרכות עוד יותר בולטת בכך שאתה לוקח שני מקרים מכל סוג ומהם מסיק מסקנות. זה כמו לעשות מדגם על תוצאות בחירות לפי אדם אחד, ולקחת את המפלגה שלה אמר שיצביע ולהגיד שמפלגה זו תקבל את כל המנדטים. טעות היא להסיק מסקנות בצורה כזאת. |
|
||||
|
||||
אני מסכים עם דב, וחוץ מזה יש עוד דבר - ההבדל בין תעשיית התעופה לתעשיית הרכב מבחינת רגולציה ומהרבה בחינות אחרות לא מאפשר להשוות ביניהן. אם בכל זאת אתה מתעקש להשוות אז אתה יכול להשוות את תקלת המקס לתקלה בכריות האוויר של חברת טקאטה Takata Corporation [Wikipedia]. תחילת הקריאה לריקול של מכוניות שצוידו בכריות החברה היתה עוד ב-2013 ועד היום הזה היא לא הסתיימה - אפילו רשימת המכוניות שנזקקות לריקול עדיין לא סופית ורק בחודש הקודם הוספו לה עוד כמיליון וחצי מכוניות. תוך כדי התהליך החברה גם פשטה את הרגל. זה מצב מאד נדיר שבו אחד מהספקים הישירים של מודולים ליצרני הרכב (ספק Tier 1 בעגה המקצועית) מפשל כך שיש צורך לבצע ריקול למכוניותיהם של עשרות יצרנים, אבל בכל מקרה הוא מראה לך כמה קשה לטפל בתקלת חומרה רצינית. |
|
||||
|
||||
מסתבר שבינתיים מתגלים עוד ליקויים ב7371, חוץ מנושא התוכנה. בואינג בודקת קובץ כבלים שעלולים לקצר ולגרום לקטטסטרופה. הכבלים מעבירים פקודה ממחשב המטוס למנוע ששולט במייצב האחורי כדי להרים או להוריד את האף. הם גם בודקים אם בעיה דומה קיימת בדגם הקודם 737NG עם 6800 מטוסים בשרות (למקס יש הזמנות ל-5000 מטוסים). 1 בכתבה במובייל יש יותר פרטים |
|
||||
|
||||
אני מנחש שבכמעט כל מטוס שהיה נבדק ברמת הדקדקנות שבה המקס נבדק עכשיו היו מתגלים ליקויים. מערכות מודרניות - מטוסים, מכוניות, ספינות, כמעט כל דבר שאפשר לדמיין - הן כל-כך מורכבות שאין למעשה יכולת לעלות על כל הבעיות שעלולות להיות קריטיות, או לפחות אין יכולת לעשות זאת בזמן ותקציב סבירים. כאן למשל אפשר לקרוא על מערכת שהצי האמריקאי התקין בספינותיו והיתה אמורה להביא למודרניזציה של השליטה בספינות. המורכבות של המערכת, הלוגיקה הלא ברורה ולא שקופה שלה וההכשרה והנסיון הלקויים של רבים מאלה שהפעילו אותה הביאו להתנגשותה של ספינת הצי ג'ון מקיין בספינת סוחר ולמותם של עשרה מלחים. אגב, זה התחקיר המפורט השני של אתר פרופובליקה על תאונות בצי; התחקיר הקודם שלהם היה על התנגשותה של הספינה פיצג'רלד בספינת סוחר, שגם היא נבעה בחלקה ממערכות מורכבות שלא תפקדו נכון ברגע האמת. שני התחקירים מפורטים ומרתקים (וגם ארוכים, מה לעשות). |
|
||||
|
||||
בקשר ליכולת לערוך בדיקות בתקציב סביר, אני אומר בזהירות (כי אני לא מומחה מיסים) שנראה שאולי לבואינג יש כסף לשכור עוד כמה מומחים לנושא. לדוגמא, בניתוח הזה החברה שילמה 8.4% מס פדרלי על כמעט $55 מליארד רווח 2008-2017 (להזכיר שאחרי זה היתה הפחתה משמעותית במס חברות). |
|
||||
|
||||
האמירה לגבי הזמן והתקציב היא אמירה כללית לגבי כל מערכת מודרנית, לא רק המקס. בדיון אחר עסקנו בחריגות הזמן והתקציב האדירות בכורים גרעיניים: זה מה שקורה כשמתעקשים על הליכי בקרת בטיחות סופר-מפורטים וסופר-דקדקניים. דוגמה אחרת לכך היא תהליכי פיתוח תרופות. בכורים גרעיניים ותרופות מובן למה זה חיוני (אם כי גם בהם יתכן שהגענו להגזמה). בתחומים אחרים נראה שהאנושות מוכנה לקבל מעט תאונות בתמורה להתקדמות טכנולוגית ומחירים כספיים נסבלים. לגבי המקס - ברור שיש להם כסף, כפי שגם ברור שהקרקוע של המטוסים עולה להם הרבה יותר מאשר היה עולה לשכור עוד אלף מומחים (לו היו אלף מומחים לבטיחות מטוסים שניתן לשכור אותם). אם צריך הם גם היו מוצאים כסף למרכיבים אחרים של בדיקות - סימולציות מחשב, בדיקות מעבדה בתנאים שונים וכן הלאה, כל מה שנעשה מן הסתם אבל אפשר היה לעשות יותר. אבל זמן הוא הפקטור השני, ובמקרה של המקס הוא היה פקטור קריטי. המטוס הזה יועד להקדים את איירבוס עם פתרון לשוק מסוים, ותהליך בדיקות ממושך היה מונע את זה. והאמת היא שהם כנראה כלל לא הבינו שעלולה להיות בעיה: נוציא עוד גרסה קצת יותר גדולה ל-737 כפי שאנחנו עושים כבר חמישים שנה, יהיו שינויים קלים אבל שום דבר דרמטי, לא צריך הסמכה חדשה לטייסים, נסמן וי ונתחיל לעשות קופה. יתכן מאד שאילו היו מקדישים טיפה יותר מחשבה למערכת הספציפית הזו זה גם היה מצליח, ובעוד עשר שנים היית רואה אלפי מקסים טסים עם רקורד בטיחות מצוין. ללמדך שרקורד בטיחות מצוין לא מהווה הוכחה לתכנון ובקרה מדוקדקים. |
|
||||
|
||||
אכן, אלא שהגבתי ספציפית לעניין המגבלות התקציביות על בקרת האיכות והאמינות. בתגובה אחרת התייחסתי גם לפקטור הזמן ותרומתו השלילית. אלא שעד כמה שאני יודע בתעשיית התעופה מדברים (ועושים) בשנים האחרונות על מושג ''אפס פגמים''. |
|
||||
|
||||
אבל אין דבר כזה אפס פגמים. לפני שנים רבות למדתי איזשהו קורס של שנה א' במדעי המחשב. המרצה הביא סטטיסטיקות לגבי באגים בתוכנה. לפי הטענה אז, בתוכנה מסחרית ממוצעת אתה יכול למצוא באג בסדר גודל של אחד למאה שורות קוד, ובתוכנה איכותית אחד לאלף; בתוכנה שנבנתה ונבדקה עבור מערכות קריטיות יש בממוצע באג אחד לעשרת אלפים שורות. בתוכנה של מעבורת החלל, כך הוערך שם, יש באג אחד למיליון שורות קוד; בהתאם לכך, התוכנה הזו גם עלתה למשלם המסים האמריקאי אלף דולר לשורה. הבעיה היא שבתוכנה של המעבורת היו עשרה מיליון שורות קוד (אגב, בסטנדרטים של היום זה מעט מאד לפרויקט גדול; אין לי ספק שעל המקס רצות הרבה יותר שורות קוד). אתה לא יכול לאפס פגמים, רק להקטין הסתברויות - ואני מנחש שעל כל אפס שתוסיף אחרי הנקודה בהסתברות אתה תוסיף אפס לפני הנקודה במחיר. |
|
||||
|
||||
תוכנה זה רק חלק קטן יותר בתשומות שכרוכות בתהליכי הפיתוח ובעיקר, תהליכי הייצור וההרכבה של מטוס. וגם, ופה כהדיוט בנושא אני מסכים עם דב שנראה שהבעיה הספציפית הייתה נעוצה בתכן ובבדיקות. זאת אומרת כנראה בממשק בין הנדסה, ידע מקצועי של טייסים, ומפתחי תוכנה. ובכל מקרה, אם התעשייה הזו מדברת על מטרה של אפס פגמים, אפשר לצפות שהתודעה הזו תחלחל ותנחה את כל התהליכים, כולל למשל שיווק וכספים, שלא לדבר על פיתוח תוכנה, במטרה להשיג אותה או להתקרב אליה כמה שיותר. |
|
||||
|
||||
אפס פגמים בתוכנה הוא כמו אפס פגמים בחלקים אחרים של השרשרת: אותו כלל בסיסי פועל בכל מקום. כלל פארטו: אתה יכול להשיג 80% מהתוצאה ב-20% של המאמץ (זמן, אנשים, כסף). גם על ה-20% האלה חל אותו כלל וכן הלאה. לכן בסופו של דבר היחס בין המאמץ השולי שאתה משקיע למספר הפגמים שאתה עדיין יכול להצליח למצוא הופך גבוה מדי. אפס פגמים זה בדיוק סוג המטרות שמנהלים אוהבים לדבר עליהן אבל ברגע האמת הן מתקשות לעמוד מול הלחצים העסקיים. אני בטוח שפולקסווגן כוללת בערכים שלה אמירת אמת והוגנות וגם שמירה על איכות הסביבה, אבל כשהם לא הצליחו לעמוד במבחני הפליטה הם רימו. אם בואינג יודעת שהשתהות של עוד שנה בפיתוח תעלה ב-300 מטוסים שאיירבוס תמכור במקומה, ובהתחשב בזה שהם לא באמת מאמינים שיש פגם מהותי בסחורה שלהם, אז הם ינסו לקצר תהליכים. כתבתי קודם שלדעתי זה לב הענין: כמו שחיל הים לא האמין ב-2006 שלחיזבאללה יש באמת יכולת לסכן את הספינות שלו, כך בואינג לא באמת האמינה שתהיה בעיה אמיתית עם המטוס החדש. היה לה אפילו אינטרס ישיר לא להאמין בכך: היא שאפה שכל טייס שהוסמך על גרסאות 737 קודמות יוכל לקבל הסמכה למקס ללא סימולטור. גם זה גורם משיכה משמעותי מבחינה עסקית. ברגע שאתה מאמין שאין הרבה בעיות אתה לא משקיע הרבה מאמץ בחיפוש אחרי מה שלא קיים. |
|
||||
|
||||
בתעשייה המודרנית בכלל ובתעשיית תעופה (וחלל) בפרט מדברים על אפס פגמים. למשל, במקרים מסוימים הגיעו לפגם אחד למליון חלקים (אני זוכר דוגמה מייצור מנועי סילון). ברור שהאתגרים שונים בתחומים שונים של השרשרת אבל זהו כיוון אליו שואפים, כמו שאומר למשל המנשר הזה של תוכנית הוריזון 2020 של האיחוד האירופאי. |
|
||||
|
||||
אתה יכול להסתכל למשל על רשימת הבאגים האינסופית בפרויקט כמו ה-F-35 כדי לראות שבמערכת כל-כך מורכבת אין אפשרות מעשית להגיע לאפס פגמים. אתה יכול לעשות את זה בתתי-מודולים, אבל ככל שהמערכת גדלה ונעשית מורכבת מספר האפשרויות לפגמים באינטראקציה בין הרכיבים שלה ומספר התרחישים האפשריים לפגמים מבחינת תנאי סביבה ותפעול גדל אקספוננציאלית. אפשר להוריד את ההסתברות להופעת פגמים לרמה נסבלת (ויכול להיות שמה שנגדיר "נסבל" היום הוא נמוך בסדר גודל מאשר מה שהיינו מגדירים לפני עשר או חמש-עשרה שנה), אבל אי אפשר להעלים אותם. |
|
||||
|
||||
אתה שב וחוזר לתוכנה וכבר הערתי שהתוכנה היא רק מרכיב אחד מהמערכת הכללית - מטוס במקרה הזה - ולמעשה זאת מערכת של מערכות. כפי שכתבתי מקודם, ברור שלמערכות שונות יש אתגרים וקשיים שונים כשמדובר באמינות, יציבות, ביצועים וכו'. |
|
||||
|
||||
הבעיות ב-F-35 הן לא רק בתוכנה ואני לא הזכרתי כלל את המלה תוכנה. בכל מקרה, אם המטוס הוא מערכת של מערכות אז הדבק שמחבר את כל המערכות האלה הוא התוכנה, והמקום שבו בעיות באינטראקציה בין המערכות אמורות להפתר הוא התוכנה. אבל קח לדוגמה את הסיפור של המקס: אם המערכת מקבלת מהחיישן נתונים נכונים אז היא פועלת כשורה. אם החיישן מעביר נתונים שגויים היא עלולה להפיל את המטוס. זו בעיה בחומרה שעשויה להפתר בעזרת חיישן אמין יותר, או בעיית תוכנה שעשויה להפתר בעזרת תוכנה חכמה יותר שמנתחת את תפקוד החיישן ומזהה חריגות, אבל מבחינה הנדסית טהורה היא לא זה ולא זה - היא בעיה יסודית בתכנון מערכת שיש בה נקודת כשל קריטית ללא יתירות. ככל שיש יותר מערכות תהיינה יותר נקודות כשל כאלה; לחלקן ישימו לב, אבל לא לכולן. ככל שיש יותר מערכות המספר האפשרי של אינטראקציות ביניהן גדל אקספוננציאלית והופך בדיקה יסודית של כל אינטראקציה לבלתי אפשרית. אתן לך דוגמה מתחום אחר לגמרי: יש לנו ידע אמיתי על האינטראקציה בין מספר קטן מאד של תרופות - הנפוצות ביותר, באופן טבעי - וגם שם, הידע הוא בעיקר על אינטראקציות בין זוגות של תרופות כאילו בחלל ריק. אם אתה אדם מבוגר שבולע מדי יום כדורים מחמישה סוגים שונים אז קודם כל, יש סכוי לא זניח שאתה האדם היחיד בעולם עם הקומבינציה הספציפית הזו, אבל גם אם לא - לא הרופא או הרוקח שלך ולא אף אחד אחר יודע להגיד לך איך התרופות האלה מגיבות לקומבינציה הזו. הם יוצאים מהנחה שאין ביניהן אינטראקציה וזהו. ברור שקיימות אינטראקציות שאיש אינו מודע להן, וחלקן מסוכנות - ובכל זאת לא מעשי לבדוק הכל. |
|
||||
|
||||
שזה לא ישמע חלילה מעליב, אבל הפירוט שהבאת לא באמת מחדש. מה שאני ניסיתי לספר זה על המאמצים שמושקעים בקידום תפיסה ומתודולוגיות של אפס-פגמים. זה לא אותו דבר כמו אפס תקלות. בהקשר של המקס קראנו שזה נגע לתהליכי התכנון, פיתוח, טסטים, ובקרת איכות שבלשון המעטה נפלו בהם פגמים. כפי שכתבת, אלו לא פגמים מסוג הלא-ידוע-שלא-ידוע בתחם המקצועי (כל התחומים שמעורבים בפרוייקט), אלא פגמים שמקורם כנראה בהחלטות ניהוליות-עסקיות. אם יש קידום של תודעת אפס-פגמים לא היית מצפה שתהליכ הניהול גם יהיו מוכוונים לזה? |
|
||||
|
||||
בדיוק. בואינג האיצה את הפיתוח והייצור תוך שהיא מתעלמת מאזהרות עובדים מסיבות עסקיות. יש למטוס שני חיישנים מהסוג שכשל, אבל המערכת השתמשה רק באחד בכל טיסה, וזה למרות שיש לחיישנים האלה היסטוריה בעייתית. תיקון התוכנה שבואינג עשתה אחרי התאונה השניה מפעיל את ה MCAS רק אם הקלט משני החיישנים מתאים, אבל המנכ"ל (שכבר פוטר) אמר שזו לא הודאה באיזה כשל או פגם תכנוני. פחחח. |
|
||||
|
||||
בנסיון שלי עם חברות מסחריות לא ראיתי שתהליכי ניהול מכפיפים את עצמם למתודולוגיות שמעמידות מטרה כמו אפס פגמים מעל כל שיקול עסקי. במקרה של המקס, סביר להניח שאם היה רצון אמיתי להגיע לאפס פגמים לא היו מתכננים את המטוס הזה מלכתחילה. הרי יש לנו בסיס שתוכנן בשנות הששים (כשמטוסים התבססו על הידראוליקה ושליטה ידנית בכל פרט ולא על חשמל ושליטה ממוחשבת) כמטוס הרבה יותר קטן, שהוגדל כמה וכמה פעמים. ההגדלה הנוכחית חייבה מנועים גדולים יותר, הם מצדם שינו את מרכז הכובד והביאו לפגיעה באיזון האירודינמי, וכדי לפצות על כך נוצרה מערכת ה-MCAS. אז יש לנו טלאי על גבי טלאי על גבי טלאי על גבי טלאי - ברור מאליו שצורת עבודה כזו לא יכולה להסתדר עם חשיבה של אפס פגמים. אם אתה רוצה לתכנן משהו עם אפס פגמים אתה יכול לעשות את זה על פלטפורמה חדשה, אבל לא על פלטפורמה עתיקה. גישת אפס פגמים אמיתית מחייבת תכנון מלכתחילה למטרה הזו. |
|
||||
|
||||
אני לא ממוחה לתעופה אבל אני יכול לחשוב על מטוסים אחרים שיש להם דגמים משודרגים שתוכננו מחדש. לאחרונה חיה"א קיבל את הדגם החדש J של ההרקולס, גם ה-F15 עבר שדרוג, אאז"נ B52, וישנן התאמות של מטוסים למשימות ספציפיות כמו הסבה למטוסי תדלוק או רדאר, SUPER GUPPY של נאס"א, ובטח יש עוד. אולי דב יודע יותר. |
|
||||
|
||||
ודאי, מטוסים כל הזמן מקבלים שדרוגים. בחלק מהמקרים זה אפילו מוגדר מראש - ב-F-35 למשל מוגדר אילו מטוסים יהיו Block 3 ואילו יהיו Block 4 שיבואו עם יותר יכולות (כאשר בהמשך לפי התכנון ישודרגו המטוסים מהבלוק הקודם). במקרה הזה מדובר בעיקר על עדכוני תוכנה אבל בהחלט לא רק. אחרי הכל מטוס לא מתכננים כמו מכונית, עבור אורך חיי דגם של שמונה שנים עם "מתיחת פנים" באמצע, אלא לעשרות שנים, והשדרוג זה חלק מהענין. אבל זה לא אומר שההרקולס J או המטוסים המוסבים נבנים במתודולוגיה של אפס פגמים. כפי שהערת בצדק בתגובה 712910 כדי לעבוד בגישה של אפס פגמים צריך לתכנן לכך מהבסיס, לא בהטלאה (אגב, זה נכון גם בתוכנה). לכן כתבתי שאילו המטרה היתה אפס פגמים לא היו בונים מטוס על בסיס פלטפורמה שהיא מראש מלאה בפגמים ובאילוצים. |
|
||||
|
||||
אני חושב שאתה מקצין את זה. לא חייבים גישה של אפס פגמים כדי להקשיב למנהל קו ייצור שאומר שיש לו חששות כבדים לגבי הבטיחות של המטוסים שהוא מוציא תחת ידו. אני מניח שיתירות במערכות קריטיות היא אלף בית של תעופה אזרחית. לכן השימוש של ה MCAS בחיישן אחד בכל פעם נראה לי או כתוצאה עקיפה של הנסיון להשחיל את המקס כשינוי פעוט מדגמים קודמים כדי לזכות בהקלות רגולטוריות, או תוצאה ישירה של רשלנות פושעת, וכנראה שילוב של שניהם. |
|
||||
|
||||
אחת הרעות החולות של תעשיית ההיטק שאני חווה בשנים האחרונות - ואולי היא גם חלקן של תעשיות אחרות - היא התייחסות ל-QA כאל סרח עודף וחצי מיותר, שמביא לקיצוץ אכזרי בכמותו, איכותו ומשאביו בכל מצב שצריך לחסוך תקציבים. המגמה הזו כל כך מובהקת, שאני נתקל אפילו במתודולוגיות שחורטות אותה על דגלן, בטענה ש'כל מפתח צריך להיות אחראי לעצמו ולתקינות המוצר שלו ולא לסמוך על רשת הבטיחות של בדיקות האיכות'. הבאגים של ה-737 היו יכולים להתגלות בכמה שלבים, מבדיקות תוכנה קפדניות ועד ניסויי טיסה קפדניים, כמו גם באגים אחרים. |
|
||||
|
||||
המוטו של פיתוח התוכנה בחברה שאני עובד בה: תניח שמי שבודק את הקוד שלך אחריך, זה הלקוח. זה לא שאין סוג של QA, זה שאין להם מספיק כוח אדם, משאבים פיזיים וזמן לבדוק את מה שאנחנו מפתחים לפני שזה מגיע ללקוח. יש גם אידאולוגיה מאחורי זה: Agile, כלומר לתת ללקוח גרסה חדשה כל שבועיים או כל חודש, ברגע שיש משהו להראות, ולא משנה אם זה באמת מוכן או לא. |
|
||||
|
||||
אז המוטו מטומטם, וגם האידיאולוגיה שמאחוריו. אם אין לך כח אדם ותקציב להוציא מוצר טוב ויציב, אתה מוזמן לבחור מקצוע אחר ולא לפתוח חברת תוכנה. את שאר טענותיי על הAgile הקדוש אשמור לדיון אחר. אגב, מנסיוני בעשרים האחרונים גם ראיתי בעין איך האידיאולוגיה הזו מביאה לכשלונות גדולים, פגיעה באמון הלקוחות ופגיעה מהותית במוצרים וגם בשוק. וברור אגב לחלוטין, בהקשר של הדיון, שמטוס נוסעים הוא לא משהו שיוצא עם עדכון תוכנה כל שבועיים, והמסקנה בהתאם. |
|
||||
|
||||
המוצר שלנו הוא חומרה, לא תוכנה. אנשים בכירים ממני (ואולי גם חכמים ממני) הגיעו למסקנה שהלקוח מעדיף לקבל מוצר עם פונקציונליות חלקית כבר היום ועדכונים בכל חודש מאשר לקבל מוצר מוגמר בעוד שנה. כמובן שאין שום דרך שמחלקת QA תהיה מסוגלת לבדוק גרסת תוכנה חדשה כל שבועיים ואפילו לא כל חודש, בעיקר כאשר התוכנה רצה על עשרות גרסאות חומרה שונות, כאשר במעבדות הבדיקה יש אולי 10% מהן. וכמובן, שאנחנו לא מייצרים מטוסי נוסעים או אפילו מכוניות אוטונומיות, אבל בפעם הבאה ששיחת טלפון מתנתקת בפתאומיות, שהסרט שאתה רואה מקרטע, או המשחק שלך לא מצליח להתחבר לשרת המרכזי, תקלל אותנו (לא אותי אישית, למיטב ידיעתי אין לנו לקוחות בארץ). |
|
||||
|
||||
האידאולוגיה אולי מטומטמת, אבל מצליחה. אני צריך להגיד מיקרוסופט ומסך המוות הכחול? |
|
||||
|
||||
כמו שאולי נרמז בתגובה שלי, בחברות שאני הכרתי ומכיר - שהמוצרים שלהם יותר דומים עקרונית למטוס מאשר לתוכנה גרידא, גם אם פחות מסובכים - האידיאולוגיה הזו הובילה לפגיעה ממשית בתוצאות החברה, ללקוחות מעוצבנים שנותנים לך על הראש ולתוצאות עסקיות כושלות. אולי ככה זה כשהלקוחות שלך משלמים הרבה כסף על כל מוצר. אין לי ספק שמייקרוסופט עושים המון בדיקות איכות. |
חזרה לעמוד הראשי |
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש | © כל הזכויות שמורות |