בתשובה לאח של אייל, 29/03/23 19:57
להשעות את הבינה 758407
אפופידס • בתשובה לאח של אייל יום ד', 29/3/2023, 21:39
באשר להשוואה בין התפשטות הבינה המלאכותית הכללית (AGI) להפצת הנשק הגרעיני, ישנם לדעתי שני הבדלים מרכזיים.
הראשון הוא יכולת הפיקוח. מה שאיפשר את חתימת ההסכמים בנושא היה פיתוח אלגוריתים FFT שאיפשר לעקוב אחר הפרתם ע"י שני הצדדים - Veritasium.
השני הוא שלפחות לדעתי, מידת הסכנה שבנשק גרעיני, גדולה ככל שתהיה, נופלת אלפי מונים מבינה שמסוגלת לצפות את תגובות הנפש האנושית ולתמרן אותה, להבין את הטכנולוגיה והמדע לכדי פיתוחים מקוריים, ולתכנן ולשכפל במהירות גירסאות משופרות שלה.
להשעות את הבינה 758408
אח של אייל • בתשובה לאפופידס יום ד', 29/3/2023, 23:03
אני מסכים ל 2 הנקודות שלך.

רק הערה: דיברתי על האמנה למניעת הפצת נשק גרעיני (NPT) ויכולת הפיקוח מתייחסת לאמנה אחרת: האמנה למניעת ניסויים גרעיניים (NTB). אבל בכל מקרה זוהי אנלוגיה מוגבלת מאד. אי אפשר באמת למנוע את ההתפתחות הטכנולוגית הזו והיא אכן הרבה יותר מסוכנת. אולי אפשר לקנות קצת זמן עבור מי שמנסה להפוך את הטכנלוגיה הזו ליותר בטוחה - AI_safety [Wikipedia] .

הקפאה לחצי שנה נשמע ממש קצר. אבל לפחות זוהי התחלה של מודעות ציבורית.
חזרה לעמוד הראשי המאמר המלא
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים
האייל הקורא RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש © כל הזכויות שמורות