בתשובה לדורפל, 14/05/06 17:03
גילוי חיים תבוניים בכוכב אחר 385869
ירדן ניר-בוכבינדר • בתשובה לדורפל יום ד', 17/5/2006, 2:25
(גם תשובה מתוקנת לשכ"ג, במקום תגובה 385544)
אני חושב ששאלת-מפתח כאן היא עד כמה לאלקטיורינג תהיה פסיכולוגיה מורכבת. במוח האדם, עד כמה שאני מבין, יש "מרכזי רגש" שבמידה רבה נפרדים מ"מרכזי התבונה" (עיבוד קלט חושי, הסקת מסקנות, חישוב העתיד) אך מנהלים איתם אינטראקציות מרתקות, בפרט לצורך חישוב רצונות. מכאן, נראה לי שאולי יש סיכוי שנצליח לבנות מחשב עם קוב של תבונה ואפס, או כמעט אפס, רגשות; ואולי רק רגש אחד, תשוקה עזה להשביע את רצון בני האדם. ואז נראה לי שאתה צודק, וגם לחוקי אסימוב יש עתיד. מאידך, אולי יתברר שזה לא אפשרי, והרבה תבונה הולכת בהכרח עם מערכת רגשית לא טריוואלית (לא צריכה אפילו להיות מסובכת כמו שלנו; ארנבת נראית לי מספיק מסובכת‏1), אז נדמה לי שהעניין יוצא משליטה: האינטראקציה עם התבונה הגדולה-בסדר-גודל-יותר-משלנו תוביל לרצונות שלא נוכל לחזות.

‏1 נזכרתי בזוג האררבות, האחת ז"ל והשנייה תבדל"א, של גיסתי.
גילוי חיים תבוניים בכוכב אחר 386652
דורפל • בתשובה לירדן ניר-בוכבינדר יום א', 21/5/2006, 18:18
1. אפשר לעשות אמולציה של רגשות. יהיו אשר יהיו הרגשות אצל בני אדם, עם מספיק כוח חישוב (תחת ההנחה, שאני לא באמת רוצה להניח או לבקר, שאי-פעם יהיה לנו מספיק), תוכנה יכולה לדמות בן אדם, דרך דימוי כל האטומים המרכיבים אותו וסביבה מיידית קטנה שלו. לתוצר הזה של התוכנה הזאת לא יהיו פחות רגשות משיש לי ולך. זה בצורה הברוט-פורס-ית ביותר.
2. אני לא חושב שאני ואתה מבינים "רגשות" באותה הצורה.
3. איזו מן מערכת רגשות של התוכנה תהיה "לגיטימית" בעיניך? אם התוכנה תעבור בין אופוריה, דכאון ועוד כמה מצבים מדי חמש דקות, זה יספק אותך? משהו יותר מורכב? איך בדיוק? למה? זה מחזיר אותי לשתיים - נראה לי שאנחנו מבינים "רגשות" בצורה שונה, מה שגם מוביל אותך ליחס להם יותר משמעות משאני מייחס.
4. מערכת רגשות/רצונות שלא נוכל לחזות - אפשרי, ואפשרי שלא. תלוי בתוכנה שנבנה. זה לא תוצר בלתי-נמנע. אנחנו יודעים לנבע איפה יהיו כמעט כל האטומים שכרגע מרכיבים את הירח בעוד עשרת אלפים שנים יחסית בקלות, אבל לחשב לאן יפנה זבוב בעוד שניה ידרוש מאיתנו הרבה יותר מידע ומחשבה. הכאוטיות של מערכות איננה עומדת ביחס ישר לשום גורם יחיד שלה שאני יכול לחשוב עליו, לא גודל ולא "סיבוכיות" (אפשר לתת דוגמה נוספת בשביל הסיבוכיות).
*** כשאני אומר "אפשרי", אני מתכוון באופן כללי. גם את הרצונות שלך אני לא מבין למלוא עומקם. אני לא צריך.
גילוי חיים תבוניים בכוכב אחר 386971
ירדן ניר-בוכבינדר • בתשובה לדורפל יום ג', 23/5/2006, 18:20
1-3. נדמה לי שאתה בפתיל הלא-נכון. אני לא חולק על כך שניתן עקרונית ליצור מחשב עם רגשות; ההפך, התגובה שלי, אם לתמצת אותה בשטחיות, תהתה האם ניתן ליצור מחשב (עם תבונה) *ללא* רגשות.

4. כל זה נכון, אבל אני מתקשה לראות איך זה עונה לתהייה שלי. אני ניסיתי להפנות את תשומת הלב לשאלה עד כמה תבונה ורגשות שלובים ותלויים זה בזה. הרי ברור שלפחות במימד התבונה, לא נוכל לחזות את הפלט של אלקטיורינג (בנינו אותו בדיוק כדי שיוציא פלט שלא נוכל לנבא); השאלה היא מה זה גורר ביחס לרגשות, ומכאן(?) ביחס למוטיבציות, ומכאן(?) ביחס לרצונות, ומכאן(?) ביחס להחלטות.
גילוי חיים תבוניים בכוכב אחר 387006
דורפל • בתשובה לירדן ניר-בוכבינדר יום ד', 24/5/2006, 3:06
יש פער גדול בתקשורת בינינו. מה הם רגשות בעיניך? מבחינתי:

אלו דפוסי פעולה של המוח. מצבים רגשיים נבדלים זה מזה, ובעצם מוגדרים, כך: סדר החשיבויות שלך באותו מצב רגשי, סדר הקדימויות של הקלטים שלך באותו המצב, הנטיות שלך בפירוש המידע שברשותך כשאתה באותו המצב, הנטיות של כיוון תשומת הלב שלך באותו המצב וכו'.

אדם "בלי רגשות" יהיה פשוט אדם עם רגש אחד - תמיד אותן קדימויות קלטים, תמיד אותו סדר עדיפויות, וכו'. מגוון ה"רגשות" שלנו הולך מצויין עם שאר המבנה הגנטי שלנו, נותן לנו יתרון על אדם היפותטי שיש לו, נגיד, רק פחד, עוררות-מינית וכעס. הוא לא תוצר או מרכיב הכרחי של "תבונה".
גילוי חיים תבוניים בכוכב אחר 387157
אבשלום • בתשובה לדורפל יום ד', 24/5/2006, 20:38
לא ברור לי מאפה אתה לוקח את הדברים הללו,
כלומר יש מה שאתה ידוע על מדעי המוח שאני לא יודע,
האם אנחנו באמת יודעים לפי מה פועלת תבונה אנושית?
זה נראה לי מאוד מנותק מהמציאות להתיימר לדעת מה השפעת הרגשות על החשיבה או אם אפשר לקיים חשיבה ללא רגשות,
גילוי חיים תבוניים בכוכב אחר 387213
אבשלום • בתשובה לאבשלום יום ה', 25/5/2006, 0:45
אוי,
מב=משהו, ידוע=יודע
וכמובן נקודה בסוף הפיסקה.
גילוי חיים תבוניים בכוכב אחר 388019
דורפל • בתשובה לאבשלום יום ב', 29/5/2006, 16:10
סיפרתי על הדיעות שלי בנושא, התיאוריות, הניחושים, ההסברים עתירי נפנופי הידיים שאני מספר לעצמי כשאני חושב על הנושא. לא "התיימרתי לדעת". התיימרתי לחשוב.

אני לא מסכים עם ההגדרה הנפרדת של "רגשות" ו"חשיבה".

בהודעה שאליה הגבתי אמרתי ש"איקס בלי רגשות" היא פיקציה, דרך לא נכונה להגיד שלאיקס אין *מגוון* של "רגשות". תתעלם או תתייחס, אבל בבקשה אל תעשה משהו באמצע. (איקס כאן איבר מקבוצה שלא נסטה ונדון בה, בבקשה.)
גילוי חיים תבוניים בכוכב אחר 387483
ירדן ניר-בוכבינדר • בתשובה לדורפל יום ו', 26/5/2006, 8:20
ואני חושב שההבדלים העיקריים בין מצבים רגשיים שונים, בעיקר לצורך הדיון הזה, הוא שהם מכתיבים רצונות שונים בהינתן קלט זהה ומערך ידיעות זהה. אבל אני חושב שהפער בינינו לא גדול: הנקודה שרציתי להעביר בתגובה 385869 היא מה שאתה כותב - שתבונה יכולה להיות מנותקת מרגשות. רק שאני לא עד כדי בטוח בכך כמוך; אני לא חושב שאנחנו מבינים מספיק את התבונה, ואת התנאים הנדרשים לצורך תבונה.
גילוי חיים תבוניים בכוכב אחר 387487
י. כבשי • בתשובה לירדן ניר-בוכבינדר יום ו', 26/5/2006, 8:33
הרגשות שם כי, כנראה, הם מיעלים את התבונה (אם אפשר להפריד ואי. [אפשר]) ולא להיפך.
גילוי חיים תבוניים בכוכב אחר 388022
דורפל • בתשובה לירדן ניר-בוכבינדר יום ב', 29/5/2006, 16:17
אני *לא* אומר "התבונה יכולה להיות מנותקת מרגשות". בשביל לחשוב את המחשבה הזאת, או את ההפוכה לה, הייתי צריך להחזיק בראש מודל שונה לגמרי של "תבונה" ו"רגשות".
גילוי חיים תבוניים בכוכב אחר 388085
ירדן ניר-בוכבינדר • בתשובה לדורפל יום ב', 29/5/2006, 20:38
''תבונה מנותקת מרגשות'' הוא ניסוח לא טוב מצידי. התכוונתי שניתן להגיע לתבונה מורכבת או חזקה בהרבה משלנו, תוך שמירה על מערך רגשות פשוט בהרבה משלנו. אם הבנתיך נכון, אתה מסכים (ואולי רק יותר בטוח בכך ממני).
*לנבא 387003
דורפל • בתשובה לדורפל יום ד', 24/5/2006, 2:36
חזרה לעמוד הראשי
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים
האייל הקורא RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש © כל הזכויות שמורות