בתשובה לאורי רדלר, 24/12/06 13:00
 |
|
 |
||
|
||||
 |
ההוכחה אינה על דברים פיזיים, אם כי ניתן להסיק ממנה משהו על דברים פיזיים. למשל, ההוכחה על כך שלא ניתן לרבע את המעגל באמצעות סרגל לא מסומן ומחוגה לא עוסקת בסרגל ומחוגה פיזיים - אבל גם בעזרת הכלים הפיזיים הללו לא תוכל לעשות את זה. בפסקה השנייה אתה חותר לכיוון טיעון החדר הסיני. התשובה שלי לכך היא ש''לטעון מחשב בשורה ארוכה של תשובות מתוחכמות למגוון רחב של שאלות'' הוא דבר קשה הרבה יותר ממה שניתן לחשוב, מכיוון שדיאלוג הוא (בתקווה) לא סיטואציה שבה כל אחד בא ואומר רק את מה שהכין מראש (ואם כן - זה מורגש. מאוד). כמובן שכאן אני לא יכול להוכיח כלום, וגם לא מנסה. |
 |
 |
 |
|
|
|
||
|
||||
|
מאידך גיסא - יש גם אנשים שלא מבינים סרקאזם, לא ציניות, לא הומור "רגיל", לא חשיבה אסוציאטיבית וכו'. יש כמובן הרבה מאוד אנשים שאינם מסוגלים לעשות אפילו את קצה-קציהם של החישובים שמחשב פרימיטיבי למדי של היום יכול לבצע. ייתכן שבדיקה אפשרית של השאלה "עם מי אני מדבר" תהיה מול X מחשבים בעלי תוכנה זהה ו-X אנשים - כאשר שונה מ-1. | |
|
|
|
|
|
||
|
||||
|
מטרת המבחן היא להקשות על המחשבים. פירוש הדבר שנעמיד נגדם אנשים שיקשו עליהם לעבור את המבחן, לא כאלו שבעצמם לא היו עוברים אותו. בדיוק באותה מידה, בזמן המבחן לא נשאל רק שאלות מהסגנון "מה השורש של 54352633". (ניטפוק אידיוטי: שאלת "שורש" שכזו היא שאלה מכשילה. אם בן שיחך עונה מייד, או שהוא מחשב או שהוא רמנוג'אן, ורמנוג'אן יש רק אחד. כמובן שכל מתכנת מתחיל יגיד למחשב *לא* לענות מהר, או לא לענות בכלל, לשאלה כזו כשהוא משתתף במבחן טיורינג). |
|
|
|
|
|
|
||
|
||||
|
פספסת את עיקר העניין: החד-פעמיות של בני האדם. | |
|
|
|
|
|
||
|
||||
|
קודם פספסתי אותו, עכשיו אני סתם לא מבין למה הכוונה. | |
|
|
|
|
|
||
|
||||
|
שני מחשבים תקינים מאותו סוג עם אותה תוכנה יגיבו באותו אופן לאותן פקודות. לא כך לגבי שני אנשים. | |
|
|
|
|
|
||
|
||||
|
זה ממש, ממש לא נכון. מחשבים יכולים ללמוד מנסיון, כך שגם אם היתה להם "אותה תוכנה" בראשית הדרך, אין להם שום סיבה להגיב באותו אופן במצבים זהים. אפילו שני מחשבים המותקנת עליהם אותה תוכנת שח ישחקו אחרת במצבים זהים, אחרי כמה שבועות של אימון. (מצד שני, אם "אותה תוכנה" מתייחס גם לידע הנצבר ע"י המחשב, אז הבעייה היא הפוכה: אין לך שום מושג איך יגיבו שני אנשים עם "אותה תוכנה".) |
|
|
|
|
|
|
||
|
||||
|
למה הכוונה ב"מחשבים יכולים ללמוד מנסיון"? | |
|
|
|
|
|
||
|
||||
|
בדיוק למה שזה אומר: אין כל קושי לתכנת מחשב באופן כזה שהחלטותיו תהיינה תלויות לא רק בהוראות מפורשות של המתכנת, אלא גם במצבים שונים שהתוכנה נתקלה בהם במהלך "חייה" (כלומר הזמן בו היא פעלה). מחשב המשחק שח, אם לחזור לדוגמה מלמעלה, לא מתוכנת כיצד להגיב בכל מצב של הלוח. הוא מתוכנת לדרג את האפשרויות עפ"י כללים מסויימים, והכללים הללו *מתעדכנים* קצת אחרי כל משחק שהתוכנה משחקת. אם נתקבלה החלטה מסויימת ולבסוף המחשב הפסיד, ייתכן שבפעם הבאה תתקבל החלטה שונה באותו מצב. | |
|
|
|
|
|
||
|
||||
|
אני לא חושב שיש (היו, או יהיו) שני אנשים עם ''אותה תוכנה'' לצורך הדיון הזה. לכל אחד מאיתנו קשרים סינפטיים שונים, כבר בלידה, ואדרבא במהלך התפתחותנו. | |
|
|
|
|
|
||
|
||||
|
כמובן שאין בעיה לעשות את אותו הדבר עם מחשבים, אם יתגלה שזה מועיל, ''לגוון'' אותם כך. אבל בשביל זה קודם כל התוכנה צריכה להיות מורכבת מספיק. | |
|
|
|
|
|
||
|
||||
|
(כן, לזה התכוונתי) | |
|
|
|
|
|
||
|
||||
|
האלמוני כבר ענה טוב ממני. | |
|
|
|
|
|
||
|
||||
|
לא צריך תוכנות לומדות, גם תוכנות שמכילות מידה מסויימת של אקראיות (כמו משחקים) תזמון (כמו מערכות הפעלה מודרניות) או תקשורת (כמו כל גלשן) לא יגיבו באותו אופן לאותן פקודות. | |
|
|
|
|
|
||
|
||||
|
למה ללכת רחוק? החלונות של הזעיר הרכרוכי מגיבים תמיד באותו אופן לאותן פקודות? | |
|
|
|
|
|
||
|
||||
|
"מערכות הפעלה מודרניות" כולל כל הגרסאות של החלונות של הזעיר הרכרוכי החל מ-1990. | |
|
|
|
|
|
||
|
||||
|
<סרקזם אידיוטי> אלו מערכות הפעלה? מודרניות? </סרקזם אידיוטי> | |
|
|
|
|
|
||
|
||||
|
"ההוכחה אינה על דברים פיזיים, אם כי ניתן להסיק ממנה משהו על דברים פיזיים" – לכן כתבתי שאתה ניגש לעניין מהזווית המתמטית (או התיאורטית, אם תרצה). ההוכחות, כל אחת בנפרד וכולן ביחד, הן חסרות משמעות לעניין זה. לדוגמה, אם אתה רוצה לשאול האם מחשב יוכל לחוות אהבה, אין די בניתוח ההיבטים החיצוניים, הכימיים והפיזיים, של אהבה. למעשה, זו הדרך להבטיח שלעולם לא תוכל לענות על השאלה. אהבה היא בראש ובראשונה עניין סובייקטיבי: היא רגש שאדם מסוים חש לאדם אחר. ככזו, היא קשורה באגו הספציפי של אדם. אתה יכול להזין מחשב בנתונים ובאלגוריתמים שיאפשרו לו לחקות את המאפיינים החיצונים של אהבה (או את התפישה של מאפיינים כאלו על־ידי המתכנת) אבל המחשב לא יחוש דבר משום שאין לו אגו ספציפי, שאיפות ורצונות משלו. אם אתה תכתוב שמה שכתבתי לעיל הוא שטויות, אולי אעלב. מחשב, במקומי, היה יכול להפגין מראית חיצונית של היעלבות, אם היה מישהו כותב לו אלגוריתם היעלבות. האלגוריתם היה יכול להיות משכנע מאוד, אבל הוא עדיין היה אלגוריתם המכוון לחקות באופן חיצוני, משום שבפנים אין כלום. הנסיון בכללו מזכיר קצת יצירת פסל היפריאליסטי של אדם, שיוצרו מנסה לשכנע אותנו שמה שמבדיל בינו לבין אדם הוא האלגוריתם הנכון. ======= ושתי הערות אגב: א. ההתקדמות הדלה ביצירת חיקוי-אדם מוצלח במחשב נובעת מהיעדר ביקוש נאות. בני אדם נוצרים בקלות יחסית והתרומה של רובם אינה מצדיקה את העלות הגבוהה שביצירת חיקוי ממוחשב להם. ב. שדה מעניין יותר לחשוב עליו מיצירת מחשב ש"אוהב" (משהו שרובנו השתלט עליו בסביבות כיתה ד-ה) הוא מחשב יוצר. |
|
|
|
|
|
|
||
|
||||
|
נראה לי שהבעיה נעוצה בכך שאתה סבור שמחשב תמיד יבסס על אלגוריתם ספציפי שמישהו יכתוב עבורו, ובו כל רגש יטופל באופן נפרד (זו, אגב, הצורה שבה מוצג דאטה מ"מסע בין כוכבים", שכבר הזכרתי קודם). אני סבור שמחשב שמתוכנת בצורה כזו אכן לא ירגיש כלום, וגם לא יעבור את מבחן טיורינג. לכן אני מעדיף לתקוף את השאלה מזווית שונה, ולשאול האם המוח הוא מחשב מתוחכם, או משהו שהוא יותר מזה. יש הבדלים ברורים בין המוח למחשב - המחשב מבוסס על סיליקון והמוח (למיטב ידיעתי) לא, למשל, אבל אלו הבדלים פיזיים, והם (כנראה) פחות רלוונטיים לשאלת הדבר שהמוח עושה. לכן השאלה היא האם מחשב שעושה בדיוק את מה שהמוח עושה (ואת זה לא נוכל לעשות על ידי כתיבת אלגוריתמים ספציפיים) הוא חסר אגו, כפי שאתה טוען. אני לא כל כך בטוח בכך - או, כמו שכתבתי בדיון אחר כאן לא מזמן, אני סבור שאם למחשב שכזה אין אגו, גם לנו אין. בקשר להערות שלך: א' אינה ממש רלוונטית - אני סבור שלא רוצים ליצור חיקוי אדם, אלא ליצור מחשב חושב (ויוצר) - אבל מחשב שכזה, אם יהיה מתוחכם מספיק, יהיה מסוגל לעבור גם את מבחן טיורינג. בקשר לב' - אני מסכים. |
|
|
|
|
|
|
||
|
||||
|
''לכן אני מעדיף לתקוף את השאלה מזווית שונה, ולשאול האם המוח הוא מחשב מתוחכם, או משהו שהוא יותר מזה. יש הבדלים ברורים בין המוח למחשב - המחשב מבוסס על סיליקון והמוח (למיטב ידיעתי) לא, למשל, אבל אלו הבדלים פיזיים, והם (כנראה) פחות רלוונטיים לשאלת הדבר שהמוח עושה.'' אתה מגדיר את הבעיה אחרת, אבל למעשה זה אותו דבר. במקרה הראשון, אתה מציב לבדיקה את ההשערה שהמחשב יכול לחקות את המוח האנושי על בסיס השערה ב' שהמוח הוא סך כל ההתרחשויות הניתנות להבחנה המתקיימות בו ואילו במקרה השני אתה מציב השערה א' המוח האנושי הוא סך כל ההתרחשויות הניתנות להבחנה המתקיימות בו ולכן ראוי לבדוק את השערה ב' שהמחשב יכול לחקות את המוח האנושי. הטיעון שלך מניח את הטעון הוכחה לצורך ביסוסו. בוא ניקח מקרה פשוט יותר של כלב, נאמר, ונניח שמוחו הוא רק מחשב מתוחכם. כלב הוא מקרה נוח יותר מאדם, מאחר והתפקוד האינסטינקטואלי אצלו רחב יותר. תוכל בקלות לבנות מחשב מקביל שיהיה בעל ''רצון'' לאכול ולשתות, לעשות את צרכיו, להתגרד אם יש לו פרעושים, ולהיכנס מתחת לשולחן אם יש רעמים בחוץ. כדי להפוך את החיקוי לכלב ממש, בעל ''אישיות'' (מילה לא מתאימה) משלו, תצטרך להעניק לו ''ביוגרפיה''. כלומר, תצטרך לעבור כל רגע בחייו ולבנות את מערכת האינטראקציות האקראית שהוא חווה כדי להתעצב כפי שהוא. בכל ''צומת אינטראקציות'' כזו תצטרך להחליט באיזו מהאפשרויות החלופיות הכלב יבחר (וכמעט תמיד ישנן עשרות כאלו), כשכל ''צומת אינטראקציות'' נמצאת ביחס זה או אחר ל''צומתי אינטראקציות'' קודמים ומשפיעה עליהם. נאמר שבכל ''צומת אינטראקציה'' יכול הכלב לבחור רק באחד מעשרה אופני התנהגות, ויש חמישים צמתים כאלו בשעה, מספר האפשרויות האפשריות יחרוג בתוך יממה אחת מכוח המחשוב העומד לרשותנו או שיוכל לעמוד לרשותנו בעתיד כלשהו. לכן, יש צורך בגישה ''היוריסטית'' כזו או אחרת, שתתעדף אופני התנהגות מסוימים על אחרים וסוג של ''עקומת התפתחות'' שתקבע מה תהיינה ההשפעות השיוריות של צמתים קודמים על הצמתים הבאים. כל זה מביא אותך לכורח לקבוע ''מהו כלב'' או ''מהו מוחו של כלב'' מראש. בניסוח אחר, כדי להוכיח את הנחת המוצא שמוחו של כלב הוא רק מחשב מתוחכם, אתה חייב להניח שמוחו של כלב הוא רק מחשב מתוחכם. הנחת הטעון הוכחה. |
|
|
|
|
|
|
||
|
||||
|
נראה לי שאתה נוקט בשיטה של "נראה שלא ניתן לפתור את הבעיה על ידי כך שנציג נסיון כושל לפתור אותה ונגיד שעשינו את מיטב יכולתנו". אם אני ארצה לבנות כלב אני לא אתחיל לעבור על צמתי אינטראקציה - אני אבדוק מה קורה במוח של כלב ברמת "הביט הבודד", ואנסה לסמלץ את הרמה הזו באמצעות מחשב. בימינו זה בלתי אפשרי, הן מכיוון שטכנולוגיית המחשוב לא מפותחת מספיק, והן מכיוון ש(למיטב ידיעתי) אנחנו רחוקים מלדעת מספיק על מבנה המוח כדי להבין את רמת "הביט הבודד" בו. אבל אני מסכים עם נקודה אחת: אכן, יש כאן צורך בהשערה שהמוח הוא סך כל ההתרחשויות הניתנות להבחנה המתקיימות בו. השאלה המעניינת היא האם, אחרי שנבנה חיקוי למוח הכלב על סמך ההתרחשויות הללו, תהיה לנו דרך כלשהי לדעת מי כלב "אמיתי" ומי לא. השאלה המעניינת עוד יותר היא אם אי קיום דרך שכזו מצביע על כך שאין הבדל בין השניים. זו כבר שאלה פילוסופית, שאני לא רואה דרך לענות עליה לכאן או לכאן - זה בעיקר עניין של הגדרה. |
|
|
|
|
|
|
||
|
||||
|
"אם אני ארצה לבנות כלב אני לא אתחיל לעבור על צמתי אינטראקציה - אני אבדוק מה קורה במוח של כלב ברמת "הביט הבודד", ואנסה לסמלץ את הרמה הזו באמצעות מחשב." לפני כמה שנים מן הסתם הייתי מסכים איתך בשמחה. היום אני חושב/מרגיש שזה תעתוע ותו לא. "אבל אני מסכים עם נקודה אחת: אכן, יש כאן צורך בהשערה שהמוח הוא סך כל ההתרחשויות הניתנות להבחנה המתקיימות בו" זו הנקודה המרכזית, בעצם. אם אתה מניח זאת, הנחת את מה שאתה מבקש להוכיח, שכן ההנחות "המוח הוא סך כל ההתרחשויות הניתנות להבחנה המתקיימות בו" ו"המוח הוא מחשב משוכלל" הן הנחות רדוקציוניות דומות מאוד או זהות. מתוך זה, השאלה המעניינת "האם, אחרי שנבנה חיקוי למוח הכלב על סמך ההתרחשויות הללו, תהיה לנו דרך כלשהי לדעת מי כלב 'אמיתי" ומי לא" פחות מעניינת, משום שכבר השבת עליה מראש. מבחינה לוגית יש כאן פטיטיו פרינקיפי[*] או מעגל מרושע[**]: 1. נניח שאדם הוא סך כל ההתרחשויות הניתנות להבחנה המתקיימות בו [הנחת המוצא שלך] 2. כל דבר שהוא סך כל ההתרחשויות הניתנות להבחנה המתקיימות בו ניתן לפירוק עד רמת הביט הבודד [טענה מקובלת] 3. כל דבר הניתן לפירוק עד רמת הביט הבודד ניתן לייצג באופן מלא באמצעות מחשב משוכלל [אולי לא עכשיו, אבל טענה מקובלת באופן עקרוני] 4. לכן, האדם אינו יותר ממחשב משוכלל [מ.ש.ל]. כמובן שיש כאן בעיה משמעותית אם איננו מקבלים את הנחת המוצא, משום שאם אנחנו מקבלים אותה כ'מהלך' תקין, אפשר להוכיח באמצעותה כל דבר וגם את היפוכו. לשם דוגמה: 1. אם לא נפלת ממטוס חד מנועי באמצע הלילה, סימן שאלוהים משגיח עליך. 2. לא נפלת ממטוס חד מנועי באמצע הלילה. 3. סימן שאלוהים משגיח עליך. 4. לכן, יש אלוהים. |
|
|
|
|
|
|
||
|
||||
|
קראת את הפסקה השנייה שלי? בכל מקרה, נראה לי שמיצינו את הנושא הזה. | |
|
|
|
|
|
||
|
||||
|
"קראת את הפסקה השנייה שלי?" קראתי, ולכן כתבתי. ואכן כן, מצינו. |
|
|
|
|
|
|
||
|
||||
|
אני לא כל-כך מבין איך התרחשות שאינה ניתנת להבחנה, ניתנת להבחנה (אחרת ההנחה שלך היא טאוטולוגיה פשוטה). | |
|
|
|
|
|
||
|
||||
|
אני לא פוסל את האפשרות שההתרחשות עצמה אינה ניתנת להבחנה אבל בטווח הארוך היא תגרום לתוצאות שניתנות להבחנה. איך? אין לי מושג. אני הרי לא מאמין בזה ממילא. | |
|
|
|
|
|
||
|
||||
|
טוב, אני מניח שהכי טוב שאשתוק. | |
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |