בתשובה לצפריר כהן, 06/06/24 12:58
Training data collapse 769300
ביום טוב של אוסליבן, גם לא בעוד 40 שנה.
ביום רע של אוסליבן, רק צריך להכניס בתוכנה מוד עיצבון, והוא יוכל לנצח את אוסליבן מחר בבוקר.
Training data collapse 769308
דומני שצפריר מתלוצץ בעניין גילו המופלג של אוסאליבן בעוד 120 שנה.

אני סבור שכבר היום אפשר לבנות רובוט שיהיה אלוף העולם בסנוקר (לא אתפלא בכלל אם הוא ישתמש בזרוע אחת בלבד), אלא שהמחיר די גבוה. כשהרובוטיקה תתקדם עוד כמה שלבים קשה לי לפקפק בכך שזה יקרה (בשביל מה זה טוב? בשביל לתת לשוטה אחד קצת נחת).
Training data collapse 769313
אני חושב שמה שבאמת אפשר לבנות כבר היום, ובמחיר לא מאד גבוה, זה רובוט שחנצח בטניס.
אבל זו משימה הרבה יותר קלה.
מי יודע למה?
Training data collapse 769319
לא רק כי רובוטניס יכול להיות הרבה יותר איטי מרובוטניס שולחן?
Training data collapse 769322
לפי התיאוריה שלי - בגלל המרחקים והסרבים.
לדעתי לא קשה לבנות רובוט (והוא ממש לא צריך להראות כמו בן אדם) שכל חבטת הגשה שלו מנצחת.
זה ענין של מהירות חבטה ודיוק ממצב מאד סטטי, אז לא נראה לי שקשה לעשות מערכת מכנית שמהירות הסרף שלה תהיה כמו של השחקן הכי טוב בעולם (לפחות), ודיוק הכוונון שלה יהיה כזה שדה-פקטו בהנתן מיקום השחקן היריב (משימה קלה למצלמה היום) תמיד תהיה זוית ועוצמה של סרף שהוא לא יצליח לענות עליהן.

נשאר רק הקטע של לענות על חלק מההגשות של הצד השני, וגם שם האתגר יהיה בעיקר קצת מכניקה מהירה - מעקב אחרי הכדור עם מצלמה מהירה נראה לי כמו משימה עם קושי בינוני.

סרבים של פינג פונג הרבה יותר טריקיים, בגלל שהם חייבים לקפוץ פעמיים וזה מגביל את מהירות החבטה.
Training data collapse 769463
בינתיים יש הרבה דיבורים אופטימיים, אבל הסרטון שבראשית הכתבה רחוק מלהרשים. לא רק שהרובוט התעשייתי לא היה מנצח בטניס שולחן, אפילו את הצב של אכילס הוא לא היה משיג.
Training data collapse 769320
הנה סרטון רלוונטי: Why Don’t We Have Better Robots Yet?
Training data collapse 769327
הסרטון קצת אכזב אותי: לא באמת מפתיע מה קשה לרובוטים לעשות, ועדיין יש פער באינטואיציה: היינו חושבים ששיחה ברמה גבוהה היא אתגר קשה יותר למכונות מלהרים כלי אוכל מהשולחן; והציוד שיש לנו - עיניים, ידיים ומערכת משוב ביניהם - לא נראה על פניו מאוד שונה ממה שזמין או יכול להיות זמין לרובוטים. לא קיבלתי מהסרטון איזו תובה שתגשר על הפער.
Training data collapse 769309
משום שהנבואה ניתנה לשוטים, אני חושב שזה ראוי שגם אני אוסיף את הניבוי שלי.

למרות שאני מעריך (עד סוגד) מאוד את אוסליבן, אני אשים פה את הפרדיקציה שלי: תוך 5 עד 10 שנים, הבינה המלאכותית עצמה תהיה כלי עיקרי / מוביל ב-Designs ברובוטיקה ונראה קפיצות ביכולות של מכונות שהיום קשה לדמיין. אני חושב שהאדם יאבד את מקומו, די בקרוב, גם במדרג המוטוריקה העדינה/מורכבת. לכן, ההערכה שלי שבעוד 10-12 שנים מהיום, אוסליבן לעומת מכונה יהיה ברמה דומה של מגנוס מול סטוקפיש היום.

הניחוש שלי הוא שהרובוטים של עוד 10-15 שנה לא יהיו שונים ממה שאנו מכירים מסיפורי המד״ב עליהם גדלנו.
Training data collapse 769310
ובא לאסימוב גואל!
Training data collapse 769311
החזון של אסימוב עם חוקי הרובוטיקה נראה לי תמים משהו. שדה הקרב העתידי כנראה יכלול נחילים של מכונות השמדה מתוחכמות וחושבות (הרבה יותר מהכלב צעצוע עם שלט רחוק מהוידאו). התאורים הדיסטופיים בסיפורי המד״ב של Frank Herbert או של Philip K. Dick‏1 נשמעים לי יותר קרובים למה שנראה במאה ה-‏21.

אני אתחיל לאמן את הילדים שלי ל-Butlerian Jihad.

_
Training data collapse 769336
לא ממש הפתיל הנכון אבל למי יש כוח לחפש...

סקוט אהרונסון ממליץ על המאמר הזה של יוצא OpenAi, שעוסק בעתיד ה AI בכלל ולאו דווקא ברובוטיקה. רק התחלתי לקרוא אבל רצתי לספר לחבר'ה כי עד שאסיים את 165 העמודים של ה"מאמר" (בילדותי קראו לזה "ספר") הוא כבר יתממש או יוכח כשטות והבל.

תקציר מנהלים באדיבותו של coPilot:

Copilot
Certainly! Here’s a concise summary of Leopold Aschenbrenner’s report on Situational Awareness:

OOMs Go Zoom:
Leopold discusses the rapid evolution of AI capabilities, focusing on orders of magnitude (OOMs) of effective compute.
Factors contributing to growth include increased computational power, algorithmic efficiency, and paradigm-shifting developments.
Conclusion: AGI is approaching rapidly1.
Factors in Effective Compute:
Compute: Training language models has become 3,000-10,000 times more computationally intensive from GPT-2 to GPT-4.
Algorithmic efficiency: Advances in machine learning science save compute, adding 1-2 OOMs.
Unhobbling: Paradigm shifts unlock latent model capabilities, further enhancing effective compute1.
In summary, AGI is on the horizon, driven by computational progress and algorithmic innovations. 😊🌟
Training data collapse 769337
ותקציר התקציר באדיבות השוטה הגלובלי המקומי שלכם: AGI by 2027 is strikingly plausible.
Training data collapse 769338
לא יכולתי שלא להבחין בצירוף "Leopold Aschenbrenner" שנוגד את כל קונספט התקציר.
Training data collapse 769339
אני תוהה מה אמין יותר? לשאול את ג'פטו לגבי העתיד של AI או לשאול את אדם נוימן לגבי העתיד של WeWork לפני עשר שנים, או לשאול את אילון מאסק לגבי העתיד של מכונית אוטונומית.
Training data collapse 769340
שאלה טובה.

אני תוהה אם זה אמין יותר או פחות מלשאול מפתח/ראש צוות/מתכנת/מהנדס תוכנה לגבי העתיד של AI או אם מכונות יוכלו (בקרוב?) להפוך את מקצועו לחסר ערך.
Training data collapse 769342
קודם כל, השאלה השנייה שלך הרבה יותר ספציפית מה-AGI הגדול והנורא.
בתור שכזו, הייתי מצפה ממי שינסה לענות לה ש-א. ידע מהן הדרישות מהמקצוע הזה ו-ב. תהיה לו יכולת שערוך לגבי יכולות ה-AI בקרוב.
לגבי א. - נושאי התפקידים שציינת מצויידים בידע רלבנטי למדי כדי לענות על זה.
לגבי ב. - לא יודע. סביר להניח שלמהנדס ממוצע קשה יהיה להעריך התפתחות טכנולוגית כזו שהוא לא מעורב בה.

התשובה המתחכמת - אם הצ'אט ייתן תשובה נכונה יותר מהמפתח, זה רמז טוב לכך שיוכל להחליף אותו בקרוב :-)
Training data collapse 769343
:-)
Training data collapse 769361
המאמר עצמו נכתב בידי אדם (human לא נוימן 😉).
Training data collapse 769312
אופטימיות נאה, כשאפילו בקרב חובבי הייפ המכוניות האוטונומיות כבר הפנימו שזה ייקח הרבה יותר זמן ממה שהם חשבו. עשרות שנים יותר.
Training data collapse 769314
אכן. אבל אין סתירה לוגית בין הכשלון בניבוי בקרב חובבי ההייפ של המכוניות האוטונומיות בעבר לבין כשלון אפשרי בניבוי אחרי האכזבה. אני אכן טוען שה״תיקון״ בניבוי החדש הוא תיקון יתר והוא יתברר די מהר כטעות.

חוץ מזה, אני לא הייתי מכנה את מה שאני אומר כאופטימיות.
Training data collapse 769315
אכן כך. מצד שני, מה שקרה עם מודלי השפה גדול לדעתי יותר מאשר המכוניות האוטונומיות. זה אירע בבת אחת והקדים את זמנו ביחס לציפיות העוסקים בתחום בלפחות עשור אם לא דור.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים