בתשובה לאריק, 07/06/24 14:07
Training data collapse 769311
החזון של אסימוב עם חוקי הרובוטיקה נראה לי תמים משהו. שדה הקרב העתידי כנראה יכלול נחילים של מכונות השמדה מתוחכמות וחושבות (הרבה יותר מהכלב צעצוע עם שלט רחוק מהוידאו). התאורים הדיסטופיים בסיפורי המד״ב של Frank Herbert או של Philip K. Dick‏1 נשמעים לי יותר קרובים למה שנראה במאה ה-‏21.

אני אתחיל לאמן את הילדים שלי ל-Butlerian Jihad.

_
Training data collapse 769336
לא ממש הפתיל הנכון אבל למי יש כוח לחפש...

סקוט אהרונסון ממליץ על המאמר הזה של יוצא OpenAi, שעוסק בעתיד ה AI בכלל ולאו דווקא ברובוטיקה. רק התחלתי לקרוא אבל רצתי לספר לחבר'ה כי עד שאסיים את 165 העמודים של ה"מאמר" (בילדותי קראו לזה "ספר") הוא כבר יתממש או יוכח כשטות והבל.

תקציר מנהלים באדיבותו של coPilot:

Copilot
Certainly! Here’s a concise summary of Leopold Aschenbrenner’s report on Situational Awareness:

OOMs Go Zoom:
Leopold discusses the rapid evolution of AI capabilities, focusing on orders of magnitude (OOMs) of effective compute.
Factors contributing to growth include increased computational power, algorithmic efficiency, and paradigm-shifting developments.
Conclusion: AGI is approaching rapidly1.
Factors in Effective Compute:
Compute: Training language models has become 3,000-10,000 times more computationally intensive from GPT-2 to GPT-4.
Algorithmic efficiency: Advances in machine learning science save compute, adding 1-2 OOMs.
Unhobbling: Paradigm shifts unlock latent model capabilities, further enhancing effective compute1.
In summary, AGI is on the horizon, driven by computational progress and algorithmic innovations. 😊🌟
Training data collapse 769337
ותקציר התקציר באדיבות השוטה הגלובלי המקומי שלכם: AGI by 2027 is strikingly plausible.
Training data collapse 769338
לא יכולתי שלא להבחין בצירוף "Leopold Aschenbrenner" שנוגד את כל קונספט התקציר.
Training data collapse 769339
אני תוהה מה אמין יותר? לשאול את ג'פטו לגבי העתיד של AI או לשאול את אדם נוימן לגבי העתיד של WeWork לפני עשר שנים, או לשאול את אילון מאסק לגבי העתיד של מכונית אוטונומית.
Training data collapse 769340
שאלה טובה.

אני תוהה אם זה אמין יותר או פחות מלשאול מפתח/ראש צוות/מתכנת/מהנדס תוכנה לגבי העתיד של AI או אם מכונות יוכלו (בקרוב?) להפוך את מקצועו לחסר ערך.
Training data collapse 769342
קודם כל, השאלה השנייה שלך הרבה יותר ספציפית מה-AGI הגדול והנורא.
בתור שכזו, הייתי מצפה ממי שינסה לענות לה ש-א. ידע מהן הדרישות מהמקצוע הזה ו-ב. תהיה לו יכולת שערוך לגבי יכולות ה-AI בקרוב.
לגבי א. - נושאי התפקידים שציינת מצויידים בידע רלבנטי למדי כדי לענות על זה.
לגבי ב. - לא יודע. סביר להניח שלמהנדס ממוצע קשה יהיה להעריך התפתחות טכנולוגית כזו שהוא לא מעורב בה.

התשובה המתחכמת - אם הצ'אט ייתן תשובה נכונה יותר מהמפתח, זה רמז טוב לכך שיוכל להחליף אותו בקרוב :-)
Training data collapse 769343
:-)
Training data collapse 769361
המאמר עצמו נכתב בידי אדם (human לא נוימן 😉).

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים