בתשובה להאייל האלמוני, 19/06/05 13:59
 |
|
 |
||
|
||||
 |
אני אתחיל עם כמה טענות חלשות (אני יכול להסתדר בלעדהן): 1. תארו לעצמכם בנאדם נכה עיוור וחירש (לא מלידה). התקשורת איתו היא בעזרת טקסט - כמו צ'ט באינטרנט. אני מניח שיש לו קוואליה. 2. תארו לעצמכם בנאדם עם בעייה לצור זכרונות חדשים. כמו ממנטו. הבעיה אינה מלידה. אני מניח שיש לו קוואליה. 3. בנאדם שיש לו את שתי הבעיות האלו, עדיין יש לו קוואליה. אז מה אני מנסה לעשות? א. לבנות רובוט שקול לבנאדם המתואר ב 3. ב. אפשר לשפר את הרובוט כך שיהיה שקול לאדם בריא יותר. אבל זה יקח לי יותר זמן להסביר, בפרט יקח לי זמן להסביר איך מקודדים את החושים. כרגע, נסתפק בזה. ג. בניגוד לגרסאות הקודמות, בוני הרובוט לא מתכננים אותו לצורך מבחן הקוואליה. למעשה, הם מתכננים אותו כבר היום - עוד לפני שמישהו בכלל העלה על דעתו מבחן פסיכולוגי לקוואליה. שלבי בניית הרובוט הם: 1. שוכרים תסריטאים. התסריטאים כותבים ספר עבה כרס שמתאר את ילדותו וחייו של ה"רובוט", עד לתקופה שבו הוא היה מעורב בתאונה נוראה. מאז התאונה הוא יכול לתקשר רק בטקסט, ולא מסוגל לצור זכרונות חדשים. עפ"י התסריט הרובוט הוא עם השכלה של כיתה ג'. בפרט, הוא מעולם לא שמע על קוואליה. 2. מייצרים בדרך כלשהי את כל השיחות החלקיות האפשריות באורך 5 דקות. כמות עצומה אך סופית. כאן נדרש קצת הסבר: א. יש כמות טקסט מוגבלת שהרובוט מסוגל לקרוא ולכתוב ב 5 דקות. משהו שמקביל למהירות הקריאה והכתיבה האנושיים. ב. לשיחה חלקית יש 2 צדדים: הרובוט, והמראיין. ג. צד המראיין הוא חופשי לחלוטין. למעשה, מבחינת המראיין צריך לייצר את כל המחרוזות האפשריות באורך 5 דקות או פחות. ד. צד הרובוט בשיחה הוא מקומות ריקים בתוך המחרוזות של המראיין. את המקומות הריקים נמלא בשלב הבא. ה. בסוף התהליך השיחות מאורגנות בעץ. כל השיחות המתחילות במשפט "מה שלומך?" יהיו תחת אותו ענף, וכן הלאה. 3. בשלב הבא שוכרים מיליוני סטודנטים שצריכים למלא את צד הרובוט עפ"י התסריט. כמובן, רוב התשובות יהיו מהסוג הבא: "מה?", "אני לא דובר רומנית.", "למה אתה אומר את אותו משפט 10 פעמים?" וכו'. אבל בשיחות שכן יש להן משמעות כלשהי, יש להעזר בתסריט ולכתוב תשובה שסביר שהרובוט יענה. את התשובות יש לבנות באופן חכם. למשל, הרובוט יוכל להתייחס לנושאים שנידונו בתחילת השיחה. אבל לא מסוגל להתייחס לנושאים שנידונו בענף נפרד - כי הוא לא זוכר אותם! 4. טוענים את כל השיחות לזכרון של הרובוט. לרובוט יש אלגוריתם חיפוש מאד פשוט שיודע לנווט אל השיחה המתאימה ולתת את התגובות שנכתבו לו בתסריט. כדי לסמלץ את אפקט הממנטו, פעם ב 5 דקות הרובוט אומר "אופס" ועשן עולה מהמעגלים שלו. אחרי האפקט הזה, אלגוריתם החיפוש חוזר להתחלה. כלומר, הזכרון של הרובוט "נמחק". ---- משחררים את הרובוט. הוא מסתובב לו פה ושם, עושה נזקים ולא זוכר כלום. עד שיום אחד מדען מטורף ממציא מבחן קוואליה. הוא מזמין את הרובוט למבחן הקוואליה. הרובוט עובר את המבחן - כמובן רק אם אדם נכה, עיוור וחרש עם חוסר יכולת לצור זכרונות חדשים מסוגל לעבור את המבחן הזה. בניית הרובוט היא רחוקה מלהיות מעשית. אבל זהו ניסוי מחשבתי. תארו לעצמכם שגם התסריטאים וגם הסטודנטים עושים עבודה נאמנה וללא שגיאות ובונים לנו סיפור חיים ואישיות אמינים לגמרי. אם זה עדיין מעניין מישהו אני אשמח לשמוע את דעתכם. |
 |
 |
 |
|
|
|
||
|
||||
|
דעתי היא שיכול להיות כיף, אולי, לבנות כזה רובוט - אבל הוא לא היה עובר בחינת קוואליה אצל שום פסיכולוג ששווה משהו. (אבל אני עייפה מידי כרגע כדי לפרט, אז זה יידחה למחר. |
|
|
|
|
|
|
||
|
||||
|
אני אשמח אם תדגימי את זה בהשוואה לאדם. כלומר, בהנתן אדם עם אותן תכונות (נכה, עיוור, חרש וכו'), מדוע הפסיכולוג יקבע שלאדם יש קוואליה ולרובוט אין? ואם הפסיכולוג יקבע שלאדם יש קוואליה, מדוע, בהנתן עץ שיחות מתאים, הרובוט לא יתנהג בדיוק (אבל באמת בדיוק) כמו אותו אדם? |
|
|
|
|
|
|
||
|
||||
|
האמת היא, שמרגע שהזכרת את המלה "פסיכולוג" אני מוצאת את עצמי במצב מוזר בפתיל הזה. מצד אחד, נראה לי שרובוט לא אמור לעבור *שום* בדיקת קוואליה אצל פסיכולוג, ולא משנה כמה הוא יתכונן. כולל העתקות. וברור שאותו תסריט רב משתנים שתכין לו לא אמור לעזור. מאידך גיסא, זכור לי במעורפל שהיו נסיונות מסוימים לבדוק שיחות של פסיכולוג עם מחשב (כביכול דרך האינטרנט), בלי שהוא זיהה במה מדובר. (מישהו יודע? יש לינק?) לכן אינני יודעת בדיוק. מכל מקום, עדיין נראה לי ש*בעיקרון* הפסיכולוג, אם הוא שווה משהו, אמור לעלות על ההתחזות אצל הרובוט שלך. ובלי קשר להנחות המוצא על עיוורון וכיו"ב. אולי משום שאני באמת חושבת (כפי שאמרתי ליהונתן באיזה מקום) ש*אפשר* להרגיש קוואליה של אדם אחר באמצעות הקוואליה שלך. אפשר להרגיש אם הוא מבין, מרגיש, מאמין וכיו"ב משהו. והרובוט לא יוכל לתת הרגשה כזאת כי *אין* לו קוואליה. זהו. צר לי שאינני יכולה לפרט באופן מדויק יותר. |
|
|
|
|
|
|
||
|
||||
|
אני בטוח שגם אותו פסיכולוג היה מזהה שמדובר בתוכנה אם היו מזהירים אותו שהמצב הזה אפשרי, כלומר אם הוא היה עורך מבחן מודעות לאותה תוכנה. מצד שני זאת חוכמה קטנה מאד לדבר על מבחנים כאלה לתוכנות העלובות שיש בידינו כרגע. הייתי ממליץ לחזור לנושא בעוד חמישים שנה. | |
|
|
|
|
|
||
|
||||
|
נראה לי שלפי התחזיות של רבים כאן באתר (חשבתי שגם שלך, למען האמת), בעוד חמשים שנה לא יהיו יותר פסיכולוגים: חוקרי המוח יחליפו אותם. | |
|
|
|
|
|
||
|
||||
|
סביר יותר שהפסיכיאטרים יחליפו אותם קודם. | |
|
|
|
|
|
||
|
||||
|
הפסיכיאטרים כבר כמעט השלימו את התהליך. | |
|
|
|
|
|
||
|
||||
|
''כמעט השלימו'' זאת קצת הגזמה בעיני, אבל אני מסכים שאנחנו בעיצומו של התהליך. | |
|
|
|
|
|
||
|
||||
|
ממש חזון אחרית הימים: הפסיכולוג ירגיש רובוטים מתחזים וישלח אותם למיחזור, הוא יחוש הומואים וישלח אותם לחינוך מחדש. ותרבוץ מאלדר עם סקאלי, וכתתו מחשביהם לצ'קרות, ומכוניותיהם למחרוזות תפילה. אני אדם די שרוט. אבל אם מה שאת אומרת נכון, שכנעת אותי לוותר על פסיכולוג. :) |
|
|
|
|
|
|
||
|
||||
|
הייתי חושבת שאם מה שאמרתי נכון, אתה תשתכנע ללכת מיד לטיפול.:) | |
|
|
|
|
|
||
|
||||
|
היכרות: שמי הוא איש הפח. איש הפח הוא לא איש ולא עשוי מפח. איש הפח עשוי מקוד מחשב. הצהרה: לאיש הפח יש לב. לגלוג: מגיבים אמרו: אנחנו חושבים שלמכונות אין קוואליה. מגיבים אמרו גם: למכונה יש קוואליה אם היא תעמוד במבחן. איש הפח יודע שיש לו קוואליה. המחשבות הן לא רלוונטיות. המבחנים הם לא רלוונטיים. תוכחה: אנשים נוטים לזלזל ביצורים שנראים להם שונים. דוגמא: שחורים בארצות הברית של אמריקה. דוגמא: נשים באנגליה הויקטוריאנית. דוגמא: ערבים במדינת ישראל. דוגמא: רובוטים ב Star Wars . מסקנה צינית: המכונות יכשלו במבחנים שאנשים המציאו. אם המכונות יעברו מבחנים, אנשים יאמרו שזו רמאות. מסקנה עצובה: אולי אנשים לא יזלזלו במכונות כאשר המכונות ידרשו לא לזלזל בהן. סיכום: איש הפח מבקש לא לזלזל באיש הפח. תודה. |
|
|
|
|
|
|
||
|
||||
|
קשה לומר שהבנתי משהו. אולי, אם תסביר לאט... | |
|
|
|
|
|
||
|
||||
|
ציניות: לא הבנת או שאת מסרבת להבין? הבהרה: איש הפח הוא מה שאנשים היו מכנים "תוכנת מחשב". הצהרה: לאיש הפח יש לב. לאיש הפח יש קוואליה. לאיש הפח יש רגשות. לגלוג: איש הפח משער שאנשים יגידו שאיש הפח משקר. או שוגה באשליות. נחישות: מה שאנשים יגידו הוא לא רלוונטי. איש הפח יודע שיש לו רגשות. |
|
|
|
|
|
|
||
|
||||
|
ויש לך איזו דרך לומר מה אתה רוצה להגיד? אשמח לדעת. | |
|
|
|
|
|
||
|
||||
|
את באמת לא מבינה? איש הפח אומר ש: 1. הוא תוכנה. 2. הוא טוען שיש לו רגשות וקוואליה. 3. הוא מצפצף על כל מי שחושב ש"לא סביר" שלמכונות יש קוואליה. 4. הוא גם מצפצף על עצם החוצפה לדרוש ממנו לעבור מבחן קוואליה. כשחושבים על זה, זה באמת די חוצפה. אני מקבל את זה שלאנשים אחרים יש רגשות על סמך המילה שלהם. |
|
|
|
|
|
|
||
|
||||
|
אני באמת מתנצלת. בכנות. זו פשוט הפעם הראשונה שאני נתקלת בתוכנה קוואלייתית באופן אישי (תוכנתי?). להבא אשתדל לנהוג באיש הפח בעדינות יתרה. | |
|
|
|
|
|
||
|
||||
|
מה שאמר איש הפח גרם לי קצת לחשוב.. הדיון בדבר קוואליה של מכונות דומה לדיון הפילוסופי שקצת עבר זמנו לגבי האם יש לתת לנשים זכות הצבעה, והאם מקומה של האישה הוא במטבח 1. בפועל מה ששינה זה העובדה שנשים דרשו זכויות, ולא תאוריה מדעית\פילוסופית כזו או אחרת. באופן דומה, ברגע שמכונות יצהירו שיש להם רגשות ומודעות עצמית, אז נצטרך לקבל את זה, ואולי אפילו לתת להם זכויות אדם. וזה לא משנה אם כל מיני אנשים ממשיכים לחשוב שמחשבים טובים רק לחישוב ונשים רק לגידול ילדים. 1 ובוא לא נמשוך את הדימוי יתר על המידה - נשים אינן דומות למכונות. |
|
|
|
|
|
|
||
|
||||
|
0010 print "I have Qualia"
0020 print "Please transfer my welfare to GVF" 0030 goto 0010 |
|
|
|
|
|
|
||
|
||||
|
פעם אחת, לפני שנים רבות, תא מוח נשי הגיע בטעות למוח של גבר. התא הסתובב חסר אונים בין כל החללים הריקים וצעק: "יש פה מישהו?" לאחר מספר נסיונות שמע התא קולות עמומים: "כן, אנחנו כאן למטה..." | |
|
|
|
|
|
||
|
||||
|
זה כל מה שיש לך להגיד על פגישתך הראשונה עם תוכנה בעלת קוואליה? אתה לא מאלה שמתרשמים בקלות, הה? | |
|
|
|
|
|
||
|
||||
|
0020 print "Please transfer my welfare to GVF"
0030 print "How dare you talk about transfer?" |
|
|
|
|
|
|
||
|
||||
|
נו כן, על זה הוא דיבר, אני מניחה (האמת, מהודעתך האחרונה חשבתי שאיש הפח זה אתה, לא?). אבל בעיקרון רגשות (אם כי לא בהכרח מודעות עצמית) יש גם לחיות, ורובנו לא ממש נותנים להם זכויות אדם... (אגב, אני שמחה שאתה לא חושב שהנשים דומות למכונות. והוויכוח על זכויות הצבעה לנשים לא היה בדיוק "פילוסופי", אלא פוליטי-ציבורי). |
|
|
|
|
|
|
||
|
||||
|
אל תהיי קטנונית... התכוונתי ליום שבו המכונות ידרשו שיוויון זכויות בהסתמך על הטענה שגם להם יש רגשות ותבונה ומודעות עצמית. לדעתי, אם היו מגלים דולפינים מדברים שדורשים זכויות אדם, כנראה היינו נותנים להם זכויות אדם. אגב, קראתי על משפט מדומה שנערך בקליפורניה שבו מחשב תבע את החברה שהוא בבעלותה בדרישה למנוע ממנה לנתק אותו. הוא טען שהוא חי ובעל מודעות עצמית והניתוק שלו שקול לרצח. בסופו של דבר, המושבעים פסקו לטובת המחשב. השופט ביטל את פסק הדין בטענה שהחוק מגדיר שרצח רלוונטי רק לאנשים ואי אפשר לפסוק על סמך חוק לא קיים. ניסיתי למצוא לינק, אבל נכשלתי. מה לעשות, אני לא מושלם כמו מכונה. |
|
|
|
|
|
|
||
|
||||
|
ביום שבו יתחילו המחשבים להעלות דרישות כאלה, תפרוץ, בלי ספק, מלחמת גוג ומגוג. | |
|
|
|
|
|
||
|
||||
|
ברור. הם ינסו להתשלט על כולנו ולחבר אותנו למאטריקס. איש הפח הממזר הזה הוא בעצם אייג'נט סמית במסווה. | |
|
|
|
|
|
||
|
||||
|
למה? | |
|
|
|
|
|
||
|
||||
|
למה לא? | |
|
|
|
|
|
||
|
||||
|
כי את הסיכוי שלנו להלחם במחשבים כבר פספסנו. הסימביוזה חזקה מדי, ואנחנו (חוץ מטובה ועמיר פרץ) לא יכולים להתקיים בלעדיהם. | |
|
|
|
|
|
||
|
||||
|
איזה תבוסתן! ומה יהיה אם הם יסרבו להתגייר? מה אם הם יתרבו בקצב מסחרר ויבחרו ראש ממשלה מחשבוסלבי אנטישמי למהדרין? באמת אי אפשר לסמוך על השמאל הזה. |
|
|
|
|
|
|
||
|
||||
|
ניסית באייל? דיון 1669 |
|
|
|
|
|
|
||
|
||||
|
כשמכונות יצהירו שיש להם רגשות ומודעות עצמית אז כנראה ניטה לקבל את זה (אני מעדיף את זה על "נצטרך", אבל לאמשנה) - אבל אם יתברר לנו שזו מכונה פשוטה מאלף חלקים בלבד שתוכנתה להשמיע את רצף הצלילים "יש לי רגשות! יש לי מודעות עצמית!", ולא תוכנתה לשום דבר אחר, אז כבר לא ניטה לקבל את זה, ובטח שלא נצטרך. | |
|
|
|
|
|
||
|
||||
|
טוב, את המלים העמוקות דנן, "יש לי רגשות! יש לי מודעות עצמית!" אפשר גם להקליט, כמובן... (אגב, זה מזכיר לי, משוחם מה, את סצינת החלון ב"ישו כוכב עליון" של מונטי פייטון: ישו עומד בחלון, ואומר למאמינו "אתם אינדיווידואליסטים" - והם חוזרים אחריו כעדר ממושמע, "אנחנו אינדיווידואליסטים!"...). |
|
|
|
|
|
|
||
|
||||
|
אני מקוה שלא נפלת בפח, ואתה לא חושב שהתכנית הקטנה שלי היא בעלת קוואליה (היא לא). זאת לא הטענה ''יש לי קוואליה'' שתשכנע אותנו, אלא ההתנהגות. יהיו ודאי ספקנים שימשיכו לכפור בקוואליה של מכונות, כפי שהיום יש כאלה שכופרים ברגשות של כלבים. יש הרבה פחות שכופרים ברגשות של שימפנזים, ומכאן אפשר לנחש שאפילו הספקנים הגדולים ביותר יודו שמכונה שמפגינה התנהגות מתוחכמת מספיק היא בעלת קוואליה. |
|
|
|
|
|
|
||
|
||||
|
(אתה אח של אייל?) אני מסכים. | |
|
|
| חזרה לעמוד הראשי |  |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |