בתשובה לדב אנשלוביץ, 28/03/18 7:32
 |
|
 |
||
|
||||
 |
"הניסיון להטיל את המשימה הזאת על מחשב נכשל עד כה לחלוטין"... (מאחר ואתה לא אוהב לקרוא טקסט ארוך באנגלית, אצטט רק משפט אחד מהפתיחה: "Researchers have developed deep learning neural networks that can identify pathologies in radiological images such as bone fractures and potentially cancerous lesions, in some cases more reliably than an average radiologist"). |
 |
 |
 |
|
|
|
||
|
||||
|
אני מכיר את הנושא הזה מחבר שהיה שנתיים בארצות הברית בחברה שמנסה לפתח את הנושא, ולדבריו התוצאות מאד עלובות. זה היה לפני כשלש שנים. אני בספק גדול אם הייתה פריצת דרך בנושא. מכל מקום אם היום תידרש לבדיקה כזאת אצלנו, אין שום מקום שבו עושים את זה דרך מחשב, ותצטרך להמתין בסבלנות לתוצאות. | |
|
|
|
|
|
||
|
||||
|
בשלוש השנים האחרונות הושגה התקדמות לא מבוטלת, מה שנותן מקום לאופטימיות מסוימת. מכל מקום ''נכשל לחלוטין'' ממש לא מבטא את המצב (המחקרי) העכשווי. | |
|
|
|
|
|
||
|
||||
|
אם זה כך אני שמח. זה חשוב. | |
|
|
|
|
|
||
|
||||
|
חזרתי שוב וקראתי גם את מה שאני כתבתי בעניין זה. כתבתי טקסט קצר מאד בעברית: "זיהוי תאים סרטניים בפתולוגיה". בשיטות הדימות השונות לא מדובר בהגדלה כדי להתבונן בתאים ולזהותם. | |
|
|
|
|
|
||
|
||||
|
משהו בכיוון: https://www.docwirenews.com/docwire-pick/deep-learnin... מה שהפתיע אותי המיוחד הוא גודל - ליתר דיוק קוטן - הקובץ ששימש ללימוד: בסך הכל פחות מ-1400 תמונות של גידולים (nodules) חשודים. אני בטוח שבקצת מאמץ ניתן לקבל הרבה יותר נתונים ממוסדות רפואה שונים (אולי תמורת הנחה במחיר התוצר המוגמר) ולמיטב הבנתי זה כמעט מבטיח את שיפור התוצאה (אם לא, אלון מאסק זורק המון כסף לפח). דגדגן: "Researchers have recently created a deep learning algorithm that matches, and occasionally exceeds, the performance of expert radiologists in determining whether a thyroid nodule requires biopsy". ובהזדמנות זאת, למה לא לבדוק את מצב התרגום האוטומטי של גוגל: "חוקרים יצרו לאחרונה אלגוריתם למידה מעמיק התואם, ולעיתים אף עולה על הביצועים של רדיולוגים מומחים בקביעת האם יש צורך בגידולי בלוטת התריס בביופסיה". כמה סמלי שהכשל העיקרי בתרגום הוא של המונח deep learning (בנוסף לטעות בסמיכות ובסידור לא נכון של חלקי המשפט האחרון). |
|
|
|
|
|
|
||
|
||||
|
לא זוכר איפה קראתי או שמעתי, יחסית לאחרונה, שרדיולוגים מבינים שהם חיים על זמן שאול, ושעוד לא הרבה שנים תוכנות יידעו לפענח צילומים יותר טוב מהם באופן מוחץ. | |
|
|
|
|
|
||
|
||||
|
אולי גם טייסים מבינים שהם חיים על זמן שאול, עוד לא הרבה שנים מטוסים ימריאו וינחתו יותר טוב מהם באופן מוחץ... אה... רגע. | |
|
|
|
|
|
||
|
||||
|
קראתי איפשהו שבטיסות טרנסאטלנטיות (או אולי ארוכות טווח?) הטייס מטיס בממוצע 11 דקות. | |
|
|
|
|
|
||
|
||||
|
הזמן נטו שבו הטייסים יושבים פיזית ליד ההגה הוא זמן שבו מחשבים לא יכולים עדיין להחליף אותם. מניח שזה כולל שלב המראה ושלב נחיתה, או מצבים של סכנות לא חזויות, ועוד. כמו כן, בהטסה ממוחשבת לטייסים יהיה זמן פנוי שבו הם יתמודדו עם בעיות טיסה שאינן מחייבות אותם לשבת על ההגה, למשל בחירת מסלול טיסה מבין מספר מסלולים אופציונלים. כלומר - צפויה בעתיד הקרוב הטסה תמוכת מחשב, לא חלופה שמייתרת את הטייס. |
|
|
|
|
|
|
||
|
||||
|
הנחיתה היום היא אוטומטית (אולי לא בכל שדה או סוג מטוס). המראה, אגב, זה שלב מסוכן יותר, אני חושב שדב יוכל לתקן אותי. | |
|
|
|
|
|
||
|
||||
|
במטוס נוסעים לא לוקחים סיכון שיכולים לקחת במטוס קטן, קל וחומר סיכון למטוס זעיר. חברת בוינג עתידה להפסיד סכומי עתק (סדר גודל של אלפי מטוסים מהסוג שכשל, שלא ימכרו בשנים הקרובות). בגלל מטוס הנוסעים שלה שהתרסק לאחרונה כי חברות תעופה לא מוכנות לספוג תאונות שיבריחו מהן נוסעים. לפי זכרוני במטוסי נוסעים עיקר ההוצאות הן דלק ולא עלות הטייסים. |
|
|
|
|
|
|
||
|
||||
|
גישה, נחיתה והסעה אוטומטית של מטוס נוסעים Airbus A320. | |
|
|
|
|
|
||
|
||||
|
אכן ההוצאה על דלק היא כ 40% מסך כל הוצאות חברת התעופה וגדולה בהרבה מכל הוצאה אחרת. בדוח של ראיינאייר (חברה יעילה במיוחד) לשנת 2018 (בה מחירי הדלק היו נמוכים) היו ההוצאות על דלק 35% מסך ההוצאות התפעוליות, כפליים מההוצאה הבאה- עלויות נמלי תעופה. ההוצאה על שכר העובדים התפעוליים היתה רק השלישית בגודלה, כ 13.5% מסך ההוצאות התפעוליות. | |
|
|
|
|
|
||
|
||||
|
אני מסכים לגמרי, הטייס נמצא שם כיום רק לצרכי חירום - אבל צרכי החירום הללו הם קריטיים, כי מלבד המרטה ונחיתה או אפילו פגעי מזג אויר, יכולות לקרות עוד עשרות תקלות לא צפויות, כמו כשל מנוע, שאז החלטות של שניות יהיו ההבדל בין חייהם ומותם הוודאי של מאות אנשים (וכמו שנאמר כאן - הפסד כלכלי נגרר עצום לחברת התעופה). אצל הרדיולוגים, לעומת זאת, מספיק שנחזיק 5 אחוז מכמותם היום, בשביל מקרים חריגים שהמחשב לא יוכל לאבחן היטב,והם יקבלו את הקובץ באימייל ביום יומיים אחרי האבחון האוטומטי, כדי לתת מענה טוב וסביר וסיכון של אבחנה שגויה. הדחיפות ומכפלת הסיכונים בהשוואה לטייס קטנות בשני סדרי גודל, ולכן לדעתי החשש לפרנסה של הרדיולוג מוצדק פי מאה יותר משל הטייס. |
|
|
|
|
|
|
||
|
||||
|
מעניין מה יעלם קודם: הטייסים או חגורות ההצלה המתנפחות. האם היה מקרה שחליפות ההצלה הללו הצילו אנשים בטיסות אזרחיות? | |
|
|
|
|
|
||
|
||||
|
לפי מה שנמסר לי מפי קברניט אל על (אבל זה היה לפני כעשר שנים או יותר ואני לא יודע מה המצב היום) החלק היחיד של הטיסה שנעשה בידי אדם הוא ההמראה. זאת משום שבהמראה המטוס מלא דלק וזה נחשב מסוכן. כטייס של מטוסים קלים לשעבר, אין ספק שהנחיתה היא תרגיל הרבה יותר קשה מההמראה. (במקרה שלי אפילו במבחן הניווט, הבוחן אמר בסופו שהבעיות שלי בניווט הן הנחיתות. . .). מל''טים גם גדולים מאד ממריאים כמובן ללא טייס אנושי (שקופץ במצנח אחרי ההמראה). נראה לי שההקפדה על המראה אנושית היא יותר עניין של איזו מסורת בטיחות שעתידה לפקוע מתי שהוא אם זה עדיין לא קרה. | |
|
|
|
|
|
||
|
||||
|
מאידך גיסא, לרגל 50 שנה לנחיתה על הירח הזכירו לנו שבהליך הנחיתה הסופי המחשב קרס וניל ארמסטרונג הנחית את הנחתת ידנית. מעניין שגם ב"בראשית" ההתרסקות נגרמה בסופו של דבר מקריסת המחשב, ולו היה שם ארמסטרונג הוא ככל הנראה היה מצליח להשלים את הנחיתה. במקרה שמעתי אתמול הרצאה מפי מישהו שהתאמן יחד עם אילן רמון בקבוצת האסטרונאוטים. פרט מאד מעניין בהרצאה היה תיאור המחשב שהיה להם שם, מחשב שלא היה מעז להראות את פרצופו ליד סמארטפון פשוט של ימנו מרוב בושה. ולמרות הזינוק האדיר בהתפתחות המחשבים מאז, דווקא בן אדם היה אולי מציל את המצב ב"בראשית". | |
|
|
|
|
|
||
|
||||
|
המידע שיש לי הוא דוקא הפוך. שמה שריסק סופית את החללית זו פקודה שנשלחה מהקרקע ברגעים המכריעים. עדיף היה להשאיר אותה על מוד אוטומטי ולקוות לטוב. וכמובן, בן אדם 'בתוך' בראשית זה מופרך לחלוטין עקב גודלה. |
|
|
|
|
|
|
||
|
||||
|
הייתי בהרצאה קצרה של מישהו שהיה מעורה מאוד בפרויקט ואמר דבר דומה. הוא אמר שכאשר כשל הרכיב, הבקר שאחראי עליו נתן פקודת אתחול למערכת ואלמלא הפקודה הזו יתכן ש''בראשית'' היתה משלימה את הנחיתה. | |
|
|
|
|
|
||
|
||||
|
זה לא הפוך. לא אמרתי שניל אמסטרונג היה יכול להנחית את החללית מחדר הבקרה. הוא היה צירך להיות עליה. אבל כמו שאתה אומר הוא גדול מדי. ומהמקורות שלי שאיני מצליח דרך הטלפון השבור להעביר אליהם שאלות, אבל תשובות לשאלות אחרות אני כן מקבל דרך אותו טלפון שבור, נמסר לי שהמחשב אתחל את עצמו ללא התערבות אנושית, לא רק לפני אחד התמרונים הראשונים כפי שסופר בתקשורת, אלא מספר פעמים ובהם כמה פעמים תוך תהליך הנחיתה. |
|
|
|
|
|
|
||
|
||||
|
במהלך משימה חללית (או לווינית), זה לא נדיר מאד שמחשבים מאתחלים את עצמם - בדיוק בגלל זה בונים כלים כאלה עם יתירות חזקה ומהירה (עד כדי שני מחשבים שרצים במקביל, וכשאחד מהם מגלה תקלה, מיד מעבירים משני הראשון מאתחל את עצמו וחוזר חלילה). אחת הסיבות לתכנון שכזה, בניגוד למערכות על כדור הארץ, היא שמחשבי חלל חשופים לחלקיקים וקרינה אנרגטיים לאין שיעור מאלה שאנו חווים מתחת לאטמוספירה הנוחה שלנו. אי לכך, אפילו עם אמצעי הגנה פיזיים מתאימים, תמיד יש סיכוי שחלקיק יעבור דרך ביט זכרון או רגיסטר כלשהו, ויקלקל/ירסט/יהפוך אותו. לגבי הנחיתה עצמה, עשה מה שעשה המחשב, הפקודה מהקרקע היתה מה שמנע ממנו כל אפשרות נחיתה. ייתכן כמובן שגם לללא הפקודה היה כשל אחר מפסיק את תהליך הנחיתה. |
|
|
|
|
|
|
||
|
||||
|
איני זוכר שדווח שהסיבה לאתחול שתואר בתקשורת הייתה השפעה חיצונית של קרינה או משהו דומה. בדיוק כמו הסיבה שנמסרה לקריסת המחשב בנחתת של אפולו 11, הסיבה שנמסרה הייתה עומס יתר. לכן קצת תמהתי בגלל המהפכה שעברו המחשבים מאז. | |
|
|
|
|
|
||
|
||||
|
כן, טייסים - רוב הזמן - לא מפעילים את המטוס. ובכל זאת, אני לא מדמיין שנעלה בקרוב על מטוס ללא טייס, למרות שהטכנולוגיה מאפשרת זאת. הסיבה היא מגבלות חוקיות, אבל גם רגשיות וחברתיות. כיון שאלו לא הולכות להפתר, גם אותם רדיולוגים ישארו הסמכות האחרונה - גם המשפטית במקרה של תקלות - אם וכשהמחשבים יחליפו אותם לחלוטין. אני לא דואג לרדיולוגים כמו שאני לא דואג לטייסים. אולי באמת יש יותר סיכוי שיהיו במטוס ''טייס וכלב'', מאשר שלא יהיו בו טייסים בכלל. | |
|
|
|
|
|
||
|
||||
|
אם ב''מגבלות רגשיות וחברתיות'' אתה מתכוון לקושי של אנשים לסמוך על המחשב כשאובייקטיבית כן מוצדק לסמוך עליו, אני חושב שהקושי הזה יקרוס באותה מהירות שבה קרסה המוטיבציה של אנשים לנווט בנסיעה ללא עזרת מחשב. | |
|
|
|
|
|
||
|
||||
|
זה לא "לסמוך על המחשב", זה לסמוך *אך ורק* על המחשב. בלי בנאדם שיהיה שם, כגיבוי. | |
|
|
|
|
|
||
|
||||
|
אוקיי. אני רוצה, בלי קשר לחידוד המוצדק שלך, לשנות את הניחוש שלי. הניחוש המעודכן שלי: התחושה הציבורית תלויה בחוזקה בסמכות. רשויות התעופה הן סמכות מקצועית חזקה ומכובדת, ואם הן יאמרו שזה בסדר - וחזקה עליהן שתהיה לזה הצדקה אובייקטיבית איתנה - הציבור הרחב יסמוך עליהן בלי למצמץ. ממילא זה לא הולך למשאל עם בינארי. בהינתן אישור של רשויות התעופה, הכדור יעבור לשוק החופשי. שוק התעופה האזרחית הוא תחרותי מאוד על מחיר; אנשים מאוד מחפשים טיסות זולות, וחברות התעופה מנסות לחסוך בכל דרך. הנוסעים הספקנים יצטרכו לממן את הספק. אני מנחש שמהר מאוד יימצאו חברות הלואו-קוסט שינסו לחוש את הדופק הצרכני עם פיסת החיסכון הזו; ויימצאו גם מספיק נוסעים שלא יהססו, או כן יהססו אבל לא ירצו לשלם עוד עשרים-שלושים דולר בגלל ספק שהסמכות אמרה שהוא לא מוצדק. ממילא אנשים רבים חשים לא לגמרי בנוח - למעשה, לגמרי לא בנוח - לעלות על גוש הפלדה הכבד הזה, שהשד יודע איך הוא מחזיק באוויר - אבל עולים בכל זאת. אני מנחש שלסמוך על הטייס האוטומטי הוא מחסום קל יותר. אם הטיסות הראשונות של הלואו-קוסט יעברו בשלום, שאר השוק ייענה מהר. מה אם באחת הטיסות הראשונות דווקא יתרסק מטוס? אני מנחש שזו תהיה רק מכה קטנה בכנף. הרשויות יעצרו את הטיסות הלא-מאוישות עד לחקירה ממצה של המקרה ותיקון הולם של הטעון תיקון, זה ייקח כמה חודשים, הרשויות יודיעו שאפשר שוב, והציבור יסמוך עליהן. אבל מה צריך כדי שרשויות התעופה יאמרו שזה בסדר? פה אין לי ניחוש. מי בכלל משפיע שם יותר? מדענים ומהנדסים, טייסים בדימוס, או נציגי חברות תעופה (אילו)? מהם השיקולים החזקים יותר בהחלטות - שיקולי בטיחות אובייקטיביים, כסת"ח או כלכלה? צפריר הזכיר לי שעדיין משקיעים משאבים לא מבוטלים, וניג'וס לא מבוטל לנוסעים ולדיילים, בציוד ונהלים לחילוץ ממטוס בים, עד כמה שאני מבין בגלל אילוץ הרשויות, ואני מתקשה לדמיין שיש לזה איזושהי הצדקה של ממש. יש פה שני הבדלים מעניינים ממכוניות אוטונומיות. בתחבורת כביש אין סמכות מקצועית חזקה - יש משרדי ממשלה שנהנים מהרבה פחות שליטה והרבה פחות אמון מאשר רשויות התעופה. הבדל שני, ההחלטות הצרכניות הן ברזולוציה הרבה יותר קטנה - אם הממשלה או הרשות המקומית מאשרת, כל צרכן יכול להחליט עבור עצמו, בעוד שבתעופה חברות מעטות יחסית צריכות להחליט עבור נוסעים רבים, ותלויות בתגובות של נוסעים רבים. |
|
|
|
|
|
|
||
|
||||
|
אני חושב שכיום בארה''ב האישור לנחיתה אוטומטית ניתן בצורה פרטנית לחברת תעופה שמבקשת אישור למטוס מסוים שמותקנות בו מערכות מסוימות שנוחת בשדה תעופה מסוים שיש בו מערכות מסוימות, ושמטיס אותו טיים עם הכשרה ספציפית. | |
|
|
|
|
|
||
|
||||
|
השאלה היא בעצם, למה זה לא קרה עד היום. בהינתן טייס אוטומטי שעושה, כבר היום, פעולות טובות יותר מבן האנוש - מדוע עדיין הקוקפיט מאוייש, ולעיתים ע"י מספר טייסים? מדוע אנחנו סומכים על המחשבים שיעשו א'/ב'/ג' ולא ד'/ה'/ו'? במקרה של מטוסים1, אני יכול לדמיין שבעיקר מדובר בשלושה גורמים: 1. מגבלות הפסיכולוגיה האנושית - בעיקר מחשבות כמו "מה יקרה אם המחשב ישתבש, מי ינהג?", אותם מקרה קצה שאנחנו רוצים שיהיה גיבוי אנושי ש"משגיח" על המכונה. 2. המגבלות המשפטיות - צריך שיהיה מישהו שאפשר יהיה להפיל עליו את האחריות, שיש שוט - כמו כלא, קנס, או מבוכה חברתית - שבאמת מאיים על מי שטועה. מה נעשה עם המחשבים, נאיים עליהם במינוס מאה נקודות ל Fitness function שלהם? 3. מגבלות של בטיחות - האקרים באמת יכולים להרוס מערכות ממוחשבות. מעליות צריכות להתמודד עם הגרביטציה בלבד, אין "מרוץ חימוש" מול כדור הארץ, משוואות ניוטון לא מנסות לחבל באופן אקטיבי במעלית. מהנדסי-המטוסים דואגים שפגעי הזמן לא יגרמו להתרסקות, אבל הזמן אינו מתנסה שיטות חדשות לרסק מטוס. מערכות אחרות, למשל מערכת הצבעה ממוחשבת, מנסות להתמודד מול בני אנוש שמנסים לחבל בהן - התייחסו לזה קצת ב xkcd. 1במקרה של מעליות, הסיבה היא שראינו כבר בשנות ה 60-70 שבן האנוש לא באמת "נוהג" במעליות החדשות דאז, אלא פשוט לוחץ על הכפתור - ומכאן הובן שלא צריך אותו. הוא לא גיבוי, הוא לא זה שיכול להציל אותך אם המערכת מתקלקלת והמעלית נופלת. להבדיל - הנהג של המטוס והרכבת, או הרדיולוג לצורך העניין, באמת מהווים רשת בטחון למחשב (עד כמה הרשת הזו אמיתית, זה דיון בפני עצמו). |
|
|
|
|
|
|
||
|
||||
|
במטוסי העתיד הצוות יכלול טייס וכלב. תפקיד הכלב יהיה לשמור שהטייס לא יגע בשום דבר. | |
|
|
|
|
|
||
|
||||
|
בינתיים התוכנות לא מספיק טובות. התאונות של ה 737 מקס קרו כנראה בגלל השתלטות של תוכנה על ההגאים שלא אפשרה לטייסים להציל את המטוס. ראה גם תגובה 547602 שאושררה בדיעבד ע"י חקירת המקרה |
|
|
|
|
|
|
||
|
||||
|
במקרה של ה 737 מקס הייתה, לדעתי, תקלה בתכנון שלא הייתה צריכה לקרות. פעם לא היו תכנות שמשחקות שח. אחר כך היו אבל את אלוף העולם לא הצליחו לנצח, והיום הן כן. אני מניח שתוך זמן קצר אפשר יהיה לסגור את כל הפערים בהפעלה אוטומטית של המטוס ברמת בטיחות גבוהה מאד. הרי גם היום מסתובבים מלטים בטווחים עצומים ממקום ההמראה, וכמעט אין התרסקויות. מה אושרר בדיעבד לעניין החקירה על הנחיתה על ההדסון? אגב, ראיתי את הסרט "סלי", אני כמעט בטוח שלא כך התנהלה החקירה, ויש לי גם הערות לגבי התסריט שם. |
|
|
|
|
|
|
||
|
||||
|
הסימולציות אישרו שהנסיון לחזור ולנחות בלה גווארדיה או בטיטרבורו לא היה מבטיח. | |
|
|
|
|
|
||
|
||||
|
בתגובה אליה הפנית כתוב שהטייס לא פעל לפי הנהלים וחשבתי שזה מה שאתה אומר שאושרר. מה שרציתי עוד להוסיף הוא שגם אם בדיעבד הסימולציות היו מראות שהיה ניתן להגיע לאחד משני שדות התעופה האלה, בפרוש אי אפשר היה להאשים את הטייס ברשלנות אלא לציין לשבח את האופן שבו תפקד. כי בכל מקרה מדובר במקרה גבולי, ולטייס לא היו מחשבים וסימולטורים שהיו מספקים לו תשובה חד משמעית. וכשיש ספק אין ספק. זה הפריע לי מאד בסרט ''סלי''. את מה שקורה כאשר מנסים לחזור בכל מחיר ראינו במקרה מטוס אל על שהתרסק בהולנד על בניינים וכל אנשי הצוות נספו, ומזל שזה היה מטוס מטען ללא נוסעים. | |
|
|
|
|
|
||
|
||||
|
אתה מודע לכך שבהתרסקות נהרגו 39 אנשים שלא היו במטוס? להם לא היה הרבה מזל. בלי קשר לכך, עד כמה שידוע לי לא היתה שום דרך להנחית את המטוס בשלום. הפער בין המהירות המינימלית שבה למטוס היה עדיין עילוי ובין המהירות המקסימלית, שבה מטוס 747 עם הרבה מטען יכול לנחות, היה פשוט גדול מדי. |
|
|
|
|
|
|
||
|
||||
|
אתה מדבר על התרסקות מטוס אל על באמסטרדם? כי אנו דברנו על המקרה של הנחיתה על ההדסון. הזכרתי באחת התגובות את המקרה הזה כמקרה שבו המטוס חזר לנחיתה בשדה. קראתי עכשיו את התאור בויקיפדיה. זה נראה כאילו לא הייתה בעיה לחזור מבחינת מהירות וגובה, אלא שבהדרגה אבדה השליטה על המטוס בגלל התנתקויות המנועים ולא ניתן היה להגיע לנחיתה על המסלול. | |
|
|
|
|
|
||
|
||||
|
אני מדבר על התרסקות מטוס אל על ליד אמסטרדם. ציינת שלמרבה המזל נהרגו רק אנשי צוות המטוס, אך למעשה נהרגו גם הנוסעת היחידה ו-39 אנשים על הקרקע. ההתרסקות לא נבעה מההחלטה לחזור לשדה ולנחות שם. לא הייתה שום דרך למנוע את ההתרסקות. | |
|
|
|
|
|
||
|
||||
|
לא זכרתי שנהרגו אנשים בבניינים שלתוכם התרסק המטוס, ומהתיאור בויקיפדיה אני גם מסכים שלא הייתה דרך למנוע את ההתרסקות. אני מניח שלו היה הצוות מחליט לנחות על הים הוא היה מונע את מותם של האנשים שעל הקרקע, אבל כיוון שלא היה ניתן לצפות מראש את התנהגות המטוס בהמשך ההחלטה לחזור לשדה הייתה בכל זאת נכונה. | |
|
|
|
|
|
||
|
||||
|
מסכים שב 737 מקס היתה תקלה בתכנון (התוכנה!) שלא היתה צריכה לקרות. העניין הוא שכדי שתהיה תוכנה ממש טובה למטוס אוטונומי צריך להושיב בסימולטור סאלי כזה, או כמה סאלי-ים, להתקיל אותם בכל המקרים והתגובות, ולאפשר לתוכנה ללמוד את התגובות המוצלחות. גם אז אני לא משוכנע שאני רוצה שתוכנה תנסה להנחית בחירום מטוס על ההאדסון. |
|
|
|
|
|
|
||
|
||||
|
אילו במטוס של סאלי היה מחשב דומה לזה שבעזרתו בצעו את החקירה בסרט, והשליטה הייתה בידיו הוא היה מחזיר מיד מיד את המטוס לנחיתה בלגררדייה והנוסעים היו נשארים יבשים. אילו היה מדובר בגובה ומהירות נמוכים מעט מאלה שהיו הוא היה אומר מיד לטייס שאי אפשר, והטייס היה מנחית את המטוס על ההדסון מבלי להתלבט הרבה. יכול להיות (איני מכיר את הנושא) שנחיתה אוטומטית על ההדסון לא פחות בטוחה מנחיתה בידי טייס, וזה גם תלוי מי הטייס. כשצופים לעתיד ברור שהמכונה תנצח. במקרים כאלה זה תמיד היה כך. | |
|
|
|
|
|
||
|
||||
|
גם אני מניח שהמכונה תנצח בסוף. אני חושב שבעוד 20-25 שנה יהיו כבר מטרופוליטנים בעולם שהכניסה אליהם עם מכונית שאינה אוטונומית תיאסר. אני רק מפנה את תשומת הלב לבעייתיות שבהסתמכות על תוכנה שנוהגת כלי תחבורה באופן אוטונומי. בעיקר משום שקשה לסגור הרמטית את כל הפרמטרים שמגדירים מה שהיא צריכה לעשות (מקרים ותגובות). לדוגמה- כאשר הנתיב חסום (נגיד מערבל בטון שמתחיל לפרוק באתר בניה בניצב לכביש) נהג אנושי יעבור קו לבן כדי להמשיך בדרכו. מתי תגיד לתוכנה האוטונומית לעבור קו לבן? נראה לי שיהיה קל מדי לגוף זדוני לגרום לפקקים איומים ונוראים באותו מטרופולין עתידני. כל מה שצריך זה כמה ארגזי קרטון גדולים. מקרי ה 737 מקס מפנים זרקור אל הבעייתיות הזאת. |
|
|
|
|
|
|
||
|
||||
|
הערתי בדבר ניצחון המכונה התייחסה איך ורק לחשש שלך מנחיתה אוטומטית על ההדסון. | |
|
|
|
|
|
||
|
||||
|
תוכנה לא היתה עושה את זה כי זה לא היה בנהלים. אולי בעקבות המקרה זה כן יכנס לנהלים, אבל אז יהיה מקרה אחר שהתגובה הנכונה לו לא תהיה בנהלים. | |
|
|
|
|
|
||
|
||||
|
את מקרי הקצה שבהם תוכנת הטייס תיכשל בגלל נסיבות בלתי צפויות צריך לקזז מול המקרים שבהם הטייס האנושי מרסק את המטוס בכוונה - לפחות שני מקרים בשנים האחרונות, וכנראה גם המטוס המלזי. הכלב שדב דיבר עליו בהחלט היה עוזר כאן. |
|
|
|
|
|
|
||
|
||||
|
יש לי הרגשה שיהיו מספיק דרכים לרסק את המטוס בכוונה. איפשהו יש קלטים ותמיד אפשר להתערב בהם (סתם לדוגמה: המקבילה של פקק התנועה). אז יכול להיות שיידרש מגדל פיקוח עוין. או משהו אחר. או אולי שיבוש הקשר למגדל(י) הפיקוח. | |
|
|
|
|
|
||
|
||||
|
אבל זה רק יפיל את המטוס, לא יהווה התאבדות של גורם השיבוש (אלא אם מדובר בפקח טיסה מספיק מוכשר כדי לקלוע את המטוס בדיוק אל מגדל הפיקוח שבו הוא נמצא. כן, הוא יראה לטייסים איך עושים את זה באמת בגדול). ואז זה כבר סתם טרור, וטייסים ונהגים אוטומטיים כוקטור טרור זה נדוש. | |
|
|
|
|
|
||
|
||||
|
יש עוד נקודה מעניינת: בעקבות החטיפות ב־9/11 הרבה יותר קשה לנוסעים להיכנס לתא הטייס בניגוד לרצון הטייס. אבל בריסוקים האחרונים שציינת הטייס ניצל בדיוק את זה וניצל ככל הנראה רגע שהוא היה לבד בתא כדי להשתלט על המטוס (המלזי עשה משהו עוד יותר דרסטי, לפי השחזור המקובל: טיפס לגובה רב וכך חנק את כל הנוסעים). יהיה מקום שממנו יש אפשרות לשלוט על המטוס ולכן גם לרסק את המטוס. |
|
|
|
|
|
|
||
|
||||
|
היכן מסופרים הסיפורים ובהם השערות שמדובר במעשה התאבדות מכוון של הטייסים במטוס המלזי? לא נתקלתי בכך עד כה. האם יש לך מקור? אגב, נדמה לי, אם כי איני בטוח, שאי אפשר להעלות את המטוס לגובה כזה שבו מערכת הדיחוס לא נותנת לחץ מספיק כדי לאפשר חיים, וגם יש לנוסעים מסכות חמצן. אני זוכר שב 1967 בהיותי חייל סדיר טסתי במטוס מסוג "סטרטוקרוזר" שחיל האוויר הפעיל אז. זה היה מטוס נוסעים גדול מאד מהראשונים של בואינג עם ארבעה מנועי בוכנה, והיה בו דיחוס. לטייסים היה שעון ובו שני מחוגים: גובה המטוס (שנמדד באמצעות מדיד לחץ אוויר), ו"גובה הקבינה", מדיד לחץ דומה שהוצב בתוך המטוס, ולפעמים הקברניט היה מחליט להנמיך קצת משום ש"גובה הקבינה" היה עולה. ואם כבר נזכרים בחוויות מהעבר, ברבות מאד מהטיסות האלה אחד המנועים היה דומם, והיינו חוזרים מיד לנחיתה עם שלושה מנועים. מצעד יום העצמאות אחרי מלחמת ששת הימים נערך בירושלים, וחיל האוויר הציג גם קבוצת מטוסים מהסוג הזה. כשהם עברו אמרתי לאחי שלא ייתכן שכל המנועים עובדים. הבטנו היטב למעלה וראינו שבאמת אחד הפרופלורים באחד המטוסים לא מסתובב. . . | |
|
|
|
|
|
||
|
||||
|
קישרתי למעלה לכתבה על המטוס המלזי. זהירות, זו כתבה ארוכה והפואנטה מגיעה רק לקראת הסוף. בעצם זה ''בהארץ'' - נדמה לי שהקריאה בתשלום ואתה מעדיף לא לשלם להם. אני אגלה לך רק את מקור הסמכות. הכתבה מתורגמת מ''אטלנטיק'', וההשערות המוצגות שם הן לא מתוך הדו''חות הרשמיים, שעדיין אומרים ''לא יודעים'', אלא מסקנות של מומחי תעופה חובבים מרחבי מהעולם שהתפרסמו בבלוגים, מתוך הנתונים שכן התפרסמו רשמית. אין שום אקדח מעשן שאומר התאבדות. אבל הם מסבירים בפרוטרוט למה האפשרות הזו מסתדרת מצוין עם הנתונים הידועים, וכל השערה אחרת ממש לא מסתדרת. הם אומרים גם שהדו''חות הרשמיים לא אומרים התאבדות, כי זה ממש לא נוח, לא לחברת התעופה ולא לרשויות, כך שבהיעדר אקדח מעשן הן מעדיפות לומר ''לא יודעים''. | |
|
|
|
|
|
||
|
||||
|
"עשינו הערכת יתר להגעתם של כלי רכב אוטונומיים" אומר מנכ"ל פורד. ההבטחה הגדולה של תעשיית הרכב ליצור מכונית ללא נהג שיכולה לנסוע לכל מקום תהייה "בעתיד הרחוק", אומר מנכ"ל ארגו (פורד ופולקסוואגן משתמשים בטכנולוגיה שלה). הגורם לדחייה - התנהגות בני האדם. התנהגות לא צפויה קוראת כל היום. למשל, מכונית אוטונומית שנתקלת ברוכב אופניים שנוסע בניגוד לתנועה ברחוב סואן בין כלי הרכב. או מטאטא רחוב שמבצע בפיתאומיות סיבוב מעגלי שלם בצומת וחוצה את כל המסלולים כולל אלה עם רמזור ירוק. בעיה אחרת היא "מיקרו שינויים" בנהיגה כמו ליד מכונית שמנסה לחנות, ואיך לעשות את זה בלי ללחוץ כל הזמן על המעצורים או לנסוע במהירויות נמוכות וסופר-זהירות. במאמר אחר שקראתי דיברו על הקשיים המשפטיים, ביטוחיים ורגולטיבים. למשל, על מי נופלת האחריות בזמן תאונה? על התוכניתן? המהנדס? בעל הרכב? הנוסע ברכב? על הרכב הפוגע או הרכב הנפגע? |
|
|
|
|
|
|
||
|
||||
|
לדעתי הקשיים המשפטיים לא שונים במיוחד מהיום. גם היום רכבים כוללים הרבה תוכנה, חלק מהתאונות קשורות לבאגים כאלו ואחרים ותעשיית הרכב לא פעם נתבעת. נאמר זאת אחרת.. ברגע שחברות הביטוח יקלטו שרכב אוטומטי לא משחק בטלפון תוך כדי נהיגה, הקושי המשפטי יהיה אצל נהגים אנושיים ולא אצל נהגים אוטומטיים. למשל, על מי נופלת האחריות בזמן תאונה? על נהג חדש בן 18 שקיבל הודעה בוואטספ? מי ששלח לו את ההודעה? אבא שלו שהתקצן לקנות רכב עם נהג אוטומטי? |
|
|
|
|
|
|
||
|
||||
|
"הבעיה העיקרית היא שהראיה של רכב אוטונומי עדיין לא מספיק טובה לנהיגה בטוחה במצבי תנועה כבדה או לראות רחוק מספיק כדי להתמודד עם התנאים בכבישים מהירים בכל מזג אוויר". הטכנולוגיה המודרנית של מצלמות, רדאר, חיישנים אולטראסונים ולייזר עדין לא אמינים מספיק או מתוחכמים מספיק כדי להבדיל למשל בין תינוק וחרוט תנועה. | |
|
|
|
|
|
||
|
||||
|
מעניין. באיזה מקום בעולם העניין הזה של ײלהבדיל בין תינוק לחרוט תנועהײ הוא בעיה מעשית? אני מניח שמדובר בחניה של בית חולים ליולדות. אבל צחוקים בצד, יש לי 2 הערות: א. שמעתי שהרכבים האוטונומים מתבססים על היתוך של חיישנים, בדיוק כדי להתגבר על המגבלות של כל חיישן בפני עצמו. עדיין מגניב לשמוע על החידושים בתחום החיישנים. ב. מצבי קצה (ראות לקויה, תינוקות על הכביש וגו) משפיעים לרעה גם על נהג אנושי. לכן מספיק לחכות ליום שבו מכונית אוטומטית תהיה קצת יותר טובה מהנהג האנושי הממוצע. כי ביום הזה, מכונית אוטונומית תתחיל להציל חיי אדם (כל זאת כמובן בלי לבטל את הצורך לשפר את הבטיחות עוד עוד). |
|
|
|
|
|
|
||
|
||||
|
אם א לא ברור, הכוונה בהיתוך חיישנים היא: שילוב מידע בזמן אמת המגיע מכמה חיישנים. אין הכוונה לחיבור שלהם בעזרת מרתך לגג של מסחרית בסגנון צוות לעניין. | |
|
|
|
|
|
||
|
||||
|
ומצד שני: יש כיום בעולם לא מעט רכבות שפועלות בדרגות שונות של עצמאות, כולל עצמאות מוחלטת - List of automated train systems [Wikipedia]. | |
|
|
|
|
|
||
|
||||
|
ואפילו מעליות! | |
|
|
|
|
|
||
|
||||
|
יפה! מעניין איפה הפער התפיסתי גדול יותר- בין מעלית ללא נהג לבין רכבת ללא נהג או בין רכבת ללא נהג לבין מטוס ללא נהג? אצלי הפער מרכבת למטוס גדול יותר. אני יכול להתייחס לרכבת כמו מעלית לרוחב, בגלל המסילה. |
|
|
|
|
|
|
||
|
||||
|
מעלית ללא נהג? במעלית כל אחד הוא הנהג. הנהיגה אסורה למי שלא הגיע לגיל 14 או לכפתורים. | |
|
|
|
|
|
||
|
||||
|
Eleven
|
|
|
|
|
|
|
||
|
||||
|
התכוונת לזה? | |
|
|
|
|
|
||
|
||||
|
כן | |
|
|
|
|
|
||
|
||||
|
כבר לפני שנתיים לפחות שמעתי הרצאות בכנסי ראייה מממוחשבת שהראו ביצועים עודפים בסיווג של פגמים פיזיולוגיים וחיזוי בעיות, יחסית לרופאים אנושיים. זכורה לי במיוחד עבודה שנעשתה על צילומי רשתית העין, כשלמרבה האירוניה אחד האתגרים המרכזיים במחקר היה לקבל דוקא את סיווגי הרפרנס (סליחה, אשמח להצעות) האנושיים לתמונות. האתגר נבע מכך שרופאים אנושיים - גם מומחים בתחומם - נתנו סיווגים שונים מאד זה מזה, ונדרש מיצוע של כ-7 רופאים אנושיים לכל תמונה במדגם כדי לקבל נתונים קוהרנטיים וללמוד לפיהם. |
|
|
|
|
|
|
||
|
||||
|
"רפרנס" בהקשרים כאלה הוא "ייחוס", לא? | |
|
|
|
|
|
||
|
||||
|
חזרתי למאמר כדי לקרוא אותו ומסתבר שאנחנו לא מדברים כלל על אותו דבר. במאמר מדובר על פענוח תמונות של דימות צילומי רנטגן סי טי אם אר אי וכדומה, והמטרה היא להחליף את המקצוע שנקרא ''רדיולוג''. לא על כך דיברתי. אני התכוונתי לעבודתם של פתולוגים שמסתכלים דרך מקרוסקופ על תאים בביופסיה שנלקחה מהרקמה. זה גם קשור ברפואה אבל משהו אחר. | |
|
|
|
|
|
||
|
||||
|
אני חושב שפתולוגיה על-ידי מחשב עדיין לא נפתרה, אבל די בטוח שזה עניין של שלוש שנים בערך. אני לא חושב שיש שם אתגר מהותי שלא פתרו כבר. | |
|
|
|
|
|
||
|
||||
|
אותו חבר עליו ספרתי בתגובה 698264 שהוא אדם לא טיפש כלל וזכויותיו ומעשיו רבים, יצא לדרכו בדעה דומה לשלך וחזר בדעה ש"הם" (הפתולוגים) לא יודעים שום דבר וכל השיטה שבה מסתמכים על איזה "גורו" שווה ל. . . כי אם אי אפשר לעשות את זה בעזרת מחשב אין שם שום דבר. אז תיזהר שלא תשלים את הדרך כמוהו. אנו מסתמכים על "גורואים", ובדרך כלל השיטה הזאת מוכיחה את עצמה למרות שיש מדי פעם טעויות. שנים רבות עוסקים בהטלת המשימה הזאת על מחשב וזה לא הולך. איני יודע מה המיוחד בשלש השנים הקרובות. | |
|
|
|
|
|
||
|
||||
|
אני לא בטוח אם שלוש השנים הבאות מיוחדות, אבל שלוש השנים הקודמות (מאז שיחתך עם חברך) ראו קפיצות מדרגה בפתרון בעיות דומות (ר' אבחון באמצעות רשתית בתגובה של צפריר). צריך אולי להבהיר שה"הבטחה" שלי היא שמחשב יהיה טוב כמו מיטב המומחים האנושיים, ויותר טוב ממרבית המומחים. להבטיח שהוא יהיה יותר טוב ממיטב המומחים זה כבר סיפור אחר. זה אפשרי רק אם אתה מלמד את המחשב לא לפי תיוגים של מומחים אלא לפי מה קרה לפציינט בסוף (אבל אז אני מניח שהזיהוי לא יהיה של סוג הסרטן, אלא רק "מצב קטלני/מצב יציב בהינתן טיפול X"). אבל זה אולי יותר קשה, לפחות מבחינת השגת הנתונים. במקרה עוד יותר קיצוני, שאולי אתה רומז אליו בביקורת של החבר שלך על הפתולוגים, פשוט אין אינפורמציה של ממש שמקודדת במראה התאים במיקרוסקופ - ואז זו בעיה. במילים אחרות, אני לא חושב שמחשב יכול להיות טוב באסטרולוגיה. אבל זיהוי סרטן ממורפולוגיה של תאים היא אלף בית של אונקולוגיה, לא? |
|
|
|
|
|
|
||
|
||||
|
תזכורת: לפני שלוש שנים אלוף העולם במשחק גו היה בנוי מתרכובות פחממניות, וכמעט כל המומחים ניבאו שזה לא הולך להשתנות בקרוב. מאז לא רק שהוא הוכה, גם התוכנה שניצחה אותו - AlphaGo - הובסה מאז בתוצאה 100:0 ע"י גירסה מתקדמת יותר שלה, שלא מתבססת על לימוד של משחקים של בני אדם. המצב שונה מפתולוגיה כי במקרה של גו קל לדעת אם ניצחת או הפסדת בכל אחד מטריליון המשחקים שאתה משחק נגד עצמך, אבל אני חושב שיש מספיק מידע על מהלך המחלה של חולים כדי להשאיר מקום לאופטימיות. שאלה למבינים: האם יש קושי עקרוני להפעיל את השיטות הקיימות של deep learning על הבעיה של תכנון רשתות טובות יותר, או שהסינגולריות כבר (כמעט) כאן? |
|
|
|
|
|
|
||
|
||||
|
למה בדיוק אתה מתכוון ב"תכנון רשתות טובות יותר"? אני חושב שברוב הבעיות האתגר הוא לא תכנון הרשת - רשת עצבית הוא דבר גנרי למדי - אלא הניסוח המתאים של הבעיה, מציאת דוגמאות הלימוד, סטנדרטיזציה שלהן, תיוגן על-ידי אנשים, וכן הלאה - בזה יש עוד עבודה לאנשים כמה וכמה שנים. בעצם אלו בכלל לא בעיות למידה. | |
|
|
|
|
|
||
|
||||
|
האמת היא שאני יודע בערך כלום על רשתות נוירונים, עמוקות או רדודות, אבל דומני ש-AlphaGo, DeepBlue ו-Watson אינן בדיוק אותה ארכיטקטורה/תוכנה. אולי צריך לשאול שאלה אחרת: האם יש הוכחה שרשת נוירונים גדולה אחת יכולה לעשות כל מה שהרבה רשתות שמחוברות זו לזו ברשת-על יכולות, ובאותו סדר גודל של מספר חישובים? אני שואל כי המוח שלנו בטח דומה יותר לארכיטקטורה השניה. טוב, אני עומד לשמוע את מיכאל גלעד, אולי לפני שהוא מתחיל לכפול וקטורים מימין ומשמאל אצליח להבין משהו. |
|
|
|
|
|
|
||
|
||||
|
כשאתה מדבר על "מה יכולה רשת נוירונים לעשות" אני לא מבין. אני אסביר מה אני כן מבין (ההשכלה שלי היא לא הרבה מעבר לאותה סדנה בת יומיים, ששילבה תיאוריה עם פרקטיקה). לרשת נוירונים נתונה יש מספר נתון של נוירונים במספר נתון של שכבות. בהתחלה היא לוח חלק. ואז מאמנים אותה על הרבה קלטים, כולם מאותו סוג, במטרה לטפל ממש ממש טוב בקלטים דומים. בסוף מקבלים רשת מאומנת, שעושה (בשאיפה) ממש טוב את אותה משימה מצומצמת. זה הסוג הנפוץ ביותר של רשתות עצביות, ומה שהוא יודע לפתור זה בעיות סיווג (איזה סוג מכונית בתמונה), או מתן ציונים (עד כמה הפודל הזה יפה). יש סוג אחר, דוגמת אלפא גו, שיודע לפתור את הבעיה "מה המהלך הבא האופטימלי". ויש סוג שלישי, שמזינים לו קלטים בלי לתת להם ציונים, והוא מצליח אולי לזהות בהם תבניות (אבל לא לומר בעצמו משהו סמנטי עליהן). בכל הסוגים, רשת נתונה שעברה אימון יודעת לפתור בעיה אחת מצומצמת ומוגדרת. חשוב לשים לב שחלק מהמשימות שהמוח האנושי עושה לא ניתנות בקלות לרדוקציה לאחד משלושת סוגי הבעיות שרשתות עצביות יודעות עקרונית לעשות. אני לא מדבר אפילו על רגש או על תכלית, אלא למשל על הוכחת משפטים במתמטיקה, או משימות תכנות. חזרה למונחים שדיברת עליהם: כשאתה שואל "מה יכולה רשת הנוירונים לעשות", השאלה אם אתה מדבר על רשת בתולה (יש לה פוטנציאל מגוון מאוד, אבל בינתיים היא לא יכולה לעשות כלום), או על רשת מאומנת (יכולה לעשות מצוין (לפעמים) משהו אחד מצומצם). בכל הסוגים, יש סיכוי מסוים שרשת עם יותר נוירונים ביותר שכבות תצליח יותר טוב (אני מנחש שאין לזה הוכחה, כי לא יודעים להוכיח כלום ברשתות עצביות. אני מניח שבקירוב מסוים זה נכון, הסתברותית). אני לא חושב שמישהו יודע לומר משהו אינטליגנטי על "רשתות שמחוברות זו לזו בעל-רשת". |
|
|
|
|
|
|
||
|
||||
|
תודה. אחרי ששלחת את השאלה עלתה במוחי המחשבה הטריביאלית שבעצם רשת אחת גדולה מכילה באופן אינהרנטי "הרבה רשתות שמחוברות ברשת-על" (פשוט ע"י איפוס הפרמטר של עוצמת הקשר בין הנוירונים מרשת אחת לאחרת) בכל רמה או בחלק מהן, כך שהשאלה שהעליתי אולי די מטופשת. עדיין יש לי הרבה שאלות בעניין, בעיקר בשאלות הקשר בין רשתות נוירונים לבין דפוס הפעולה של המוח (מערכת הראיה מן הסתם פועלת די דומה לר"נ, אבל כפי שציינת ייתכן שהמצב שונה לגמרי לגבי פעולות חישוביות אחרות) אבל חושבני שלא אטריד בכך את הציבור עד שלא אבין קצת יותר בעצמי, אם בכלל. למעונינים, לדעתי סדרת הסרטונים שמתחילה כאן מהווה נקודת פתיחה טובה. חקסמח. |
|
|
|
|
|
|
||
|
||||
|
צ"ל: "אחרי ששלחתי את השאלה...". | |
|
|
|
|
|
||
|
||||
|
משפט ששמעתי משני מרצים שונים על רשתות עצביות, אבל אני לא יודע לנמק אותו לעומק, הוא שהקשר בינן לבין המוח האנושי הוא משהו שבהתחלה חשבו שקיים, או שהיה השראה עמומה, אבל היום אף אחד לא חושב ברצינות שזה דומה. | |
|
|
|
|
|
||
|
||||
|
אולי זה עומד להשתנות | |
|
|
|
|
|
||
|
||||
|
אם למישהו יש שעתיים להשקיע בראיון פוקח עיניים בשאלה זאת, אני בהחלט ממליץ. אחחח, אילו הייתי היום בן 21... |
|
|
|
|
|
|
||
|
||||
|
אילו היית היום בן 21...? מה? מה היית עושה? אל תשאיר אותי במתח. | |
|
|
|
|
|
||
|
||||
|
זה לא ברור מנוסח ההודעה? הייתי הולך ללמוד מדעי המוח. | |
|
|
|
|
|
||
|
||||
|
למד מדעי המוח לפני שמדעי המוח ילמדו עליך | |
|
|
|
|
|
||
|
||||
|
גם אני במתח. אנא ספר. | |
|
|
|
|
|
||
|
||||
|
או, עוד מישהו שמכיר את הסרטונים של 3blue1brown! הבנאדם גאון פדגוגי-מתמטי. סידרת הסרטונים שלו על אלגברה לינארית פתחה לי כמה צ'קרות. | |
|
|
|
|
|
||
|
||||
|
באמת משובח! ועכשיו אני סקרן לדעת - איך מכינים אנימציה שכזאת בתקציב סביר? |
|
|
|
|
|
|
||
|
||||
|
הכל אצלו מתוכנת בפייתון (!), ואפשר להוריד את כל הקוד מ-github, לגמרי בחינם. הוא לא רק גאון אלא גם נשמה טובה (ואני גאה לתמוך בו ב-patreon). | |
|
|
|
|
|
||
|
||||
|
ביום שיותר אנשים יידעו מי זה גראנט סנדרסון מאשר מיהו דני סנדרסון נדע שהמשיח הגיע. ולא שיש לי משהו נגד דני סנדרסון. | |
|
|
|
|
|
||
|
||||
|
תנוח דעתך, הדור הצעיר לא יודע מי זה דני סנדרסון, כך שזה נעשה קל יותר משנה לשנה. | |
|
|
|
|
|
||
|
||||
|
לערוץ שלו יש 2.3 מיליון עוקבים. אני לא אתפלא אם היום שהזכרת כבר הגיע. | |
|
|
|
|
|
||
|
||||
|
:-) שכחתי את קיומם של 7 מיליארד גויים ימ"ש. |
|
|
|
|
|
|
||
|
||||
|
למה אתה מתכוון בזה: ײחשוב לשים לב שחלק מהמשימות שהמוח האנושי עושה לא ניתנות בקלות לרדוקציה לאחד משלושת סוגי הבעיות שרשתות עצביות יודעות עקרונית לעשות. אני לא מדבר אפילו על רגש או על תכלית, אלא למשל על הוכחת משפטים במתמטיקה, או משימות תכנות.ײ קצת מוזר לי בהנתן שסוגים מסויימים של רשתות הן turing complete, אני מניח שהנקודה המעניינת היא ײבקלותײ. אתה יכול להרחיב? |
|
|
|
|
|
|
||
|
||||
|
אני לא בטוח למה הכוונה ברשתות שהן טיורינג-שלמות. אם אתה רוצה תפרט, אבל בכל מקרה, אין לנו אלגוריתם להוכחת משפטים במתמטיקה או לתכנות ברמה שמתחילה אפילו לדגדג בני אדם (מומחים), אז מה עוזר אם רשת עצבית היא טיורינג-שלמה? אני לא כל כך יודע מה מעניין בטענה שלי שהבעיות האלו לא ניתנות בקלות לרדוקציה לבעיית סיווג או דירוג או איפטום-המהלך-הבא או זיהוי תבניות בקלט. זו לא טענה מלומדת. אם למישהו יש רעיון איך לעשות רדוקציה כזו, או קישור למחקרים שעשו זאת, זה יהיה מעניין. הוספתי "בקלות" כי אם מתעלמים מבעיות סיבוכיות או רמות אבסטרקציה אז זה קל. רוצה תוכנית שמסדרת רשימת מספרים, או תוכנית למשחק אנגרי בירדז? קל מאוד כבעיית סיווג: ייצר הרבה תוכניות אקראיות (או אפילו בצורה חצי-אינטליגנטית עם היורוסטיקות), תן למתכנת (או לקוד מחשב שאינו רשת עצבית) לסווג אותן ל"תוכנת אנגרי בירדז"/"לא תוכנת אנגרי בירדז". מצא פרמטרים רלוונטיים1 והזן לתוכנת רשת עצבית. אמן את הרשת העצבית, וכשהיא מוכנה הזן לתוכה עוד יותר הרבה תוכניות אקראיות. ברגע שהיא תודיע על אחת מהן "אה, זו בהסתברות גבוהה תוכנת אנגרי בירדז", עצור. הנה קיבלנו מערכת מחשב שעיקרה רשת עצבית והיא מתכנתת אנגרי בירדז (בסבירות גבוהה). 1 מה הבעיה למצוא פרמטרים רלוונטיים? כזכור, אני מתעלם מבעיות סיבוכיות או רמות אבסטרקציה, אז לצורך העניין נתייחס לקוד המחשב בקלט כמחרוזת של תווים. הפרמטרים הרלוונטיים הם (1) התו הראשון במחרוזת, (2) התו השני במחרוזת, (3)... כן, אני יכול לחשוב בעצמי על האופטימיזציה המופלאה של להתייחס ל-tokens בשפת התכנות במקום לתווים. אוקיי, "רדוקציה בקלות" היא לא המילה הכי מתאימה כאן. מה שאנחנו רוצים הוא "רדוקציה סבירה", בלי לרדת יותר מדי רמות אבסרטקציה ולעלות יותר מדי סדרי גודל ברמת הפירוט. |
|
|
|
|
|
|
||
|
||||
|
אוקי, תודה על התשובה. אני חושב שצריך לדייק במשפט ײאין לנו אלגוריתם להוכחת משפטים במתמטיקה או לתכנות ברמה שמתחילה אפילו לדגדג.. ײ. אם מדובר על אלגוריתם שיכול להוכיח כל משפט, או לתכנת כל דבר - זה משהו שגובל בבינה כללית, לא? (בלשון המעטה. זה קשה גם למומחים אנושיים). ברור שאנחנו רחוקים מזה. אבל אם מדובר בהוכחת משפטים ספציפיים במתמטיקה, זה דווקא תחום מאד וותיק במדעי המחשב ועם הישגים (כלומר, הצליח להוכיח משפטים שבני אדם לא הצליחו). לגבי הקשר של רשתות עצביות לתחום: אני משאיר כאן קישור למאמר שהכותרת שלו היא Deep network guided proof search. לגבי תכנות.. תחשוב על האלגוריתם שמאמן רשתות ניורונים. זוהי משימת תכנות פרופר (לייצר קוד שמסווג משהו). רק כאן, דווקא המומחה האנושי לא מדגדג את ההישגים של הרובוט המאמן. בהקשר לײאפטמום המהלך הבאײ - אם אני חושב על machine learning ועל תת התחום supervised learning - הוא נשמע לי כמו בעיית אופטימזציה קלאסית. יש לך אוסף כלים כלשהו (לוח וגיר, דוגמאות אימון, פרמטרים של רשת הניורונים, מה שתרצה) ובעזרתם אתה צריך לגרום לתלמיד לקבל ציון כמה שיותר טוב - ותוך זמן סביר. כלומר אתה צריך לבחור בתבונה מה הכלי הבא אותו אתה מפעיל. דווקא נשמע לי מתבקש להשתמש ברשת נירונים כדי לתכנת (כלומר לאמן) תוכנות אחרות. |
|
|
|
|
|
|
||
|
||||
|
אפטום המהלך הבא הוא אחד מסוגי הבעיות שהתחייסתי אליהן כבעיות מתאימות לרשת נוירונים. | |
|
|
|
|
|
||
|
||||
|
אבל התייחסת לתכנות כאל בעיה בלתי מתאימה. הראיתי איך היא כן - אפשר להשתמש ברשתות ל supervised learning |
|
|
|
|
|
|
||
|
||||
|
אז לא הבנתי את כוונתך, ואני עדיין לא. "עבודה של מתכנת" היא (לצורך העניין) קבלת מפרט לתוכנה בשפה אנושית, והפקת קוד מחשב שיבצע את המפרט. האם אתה יכול להראות איך מגיעים באמצעות למידה מפוקחת לרשת נוירונים שתעשה את זה? | |
|
|
|
|
|
||
|
||||
|
''מפרט לתוכנה בשפה אנושית'' הוא להבנתי בעיית בינה כללית. ''מפרט למסווג שיודע לזהות הונאות כרטיס אשראי בהתבסס על אוסף דוגמאות'' הוא בעיני גם בעיה תכנות, רק בעייה ספציפית שבעבר העסיקה מתכנתים אנושיים. וכאן יש אלגוריתם שמשאיר אבק למתכנתים אנושיים. |
|
|
|
|
|
|
||
|
||||
|
אוקיי, ברור. כשכתבתי ''משימות תכנות לא ניתנות בקלות לרדוקציה לאחד משלושת סוגי הבעיות שרשתות עצביות יודעות עקרונית לעשות.'' לא התכוונתי שאף משימת תכנות אינה ניתנת וגו' - הרי כל רשת עצבית פותרת משהו שאפשר היה לממש (פחות טוב) כמשימת תכנות קלאסית. התכוונתי שמגוון משימות התכנות שמתכנת אנושי ממוצע יכול לעשות לא ניתן וגו'. | |
|
|
|
|
|
||
|
||||
|
הרעיון שגם תהליך הלמידה של הרשת לא מחייב התערבות אנושית נשמע לי מגניב בהחלט. אני מתאר לעצמי שבלב הבא יוותרו על השתתפות אנושית גם בנסיעות עצמן. מכוניות אוטונומיות ללא נהג ונוסעים ישוטטו להן בדרכים בשעה שאנחנו נתפנה לדברים חשובים יותר כמו שיגור תגובות לאייל. | |
|
|
|
|
|
||
|
||||
|
רעיון נחמד, אבל מי ישלם על הדלק? | |
|
|
|
|
|
||
|
||||
|
אח, אתה בטח זוכר שלאפרים קישון זכות יוצרים על רעיון דומה. קומביין שחורש, זורע, קוצר, טוחן, אופה ואוכל. | |
|
|
|
|
|
||
|
||||
|
בארור. יותר קרוב לנושא שלנו, כשהוא שמע שיש מחשבים שמשחקים שח הוא אמר שהוא יקנה שניים שישחקו זה עם זה והוא יוכל ללכת לראות סרט. ברוח הדברים, פעם הדפסנו חומר כל כך סודי שהצענו לחבר את המדפסת ישירות למגרסה (קישון הציע שילוב של עיפרון ומחק לקבלת תוצאה דומה עבור מסמכים ידניים). |
|
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |