בתשובה להאייל היפאני, 12/05/06 3:46
 |
|
 |
||
|
||||
 |
שאלו מה *ישמח* אותך, לא מה חשוב. אני די נלחץ מהאפשרות של קוב מוח או חייזרים עם לייזרים. גם הצחיק אותי שאנשים חושבים שלקוב של שכל יבוא לרפא אותנו מסרטן או לקודד דרייברים במקומנו. אם הוא כל כך חכם, מן הסתם תהיה לו אג'נדה משלו ולא בטוח שחקירת מנגנון האפופטוסיס אצל אאוקריוטיים תעניין אותו כמו השערת רימאן, או איך לנצח בסנוקר. |  |
 |
 |
|
|
|
||
|
||||
|
כדי שבינה מלאכותית תלמד צריך לקבוע לה יעדים (ערכים, רגשות) אשר לצרכם היא בוחרת את 0.000001% המידע אותו היא זוכרת ומעבירה לעיבוד גבוה יותר1. איני רואה כיצד תיתכן יכולת למידה כללית דיה ללא כן. כך שמי שיבנה בינה זו, חייב יהיה לבנות לתוכה, עוד טרם הפעלתה, יעדים כמו הבנת המיקרובים האפופידיים שהזכרת. לא נראה לי שיעדים, רגשות וערכים נוצרים בעצמם מעצם עוצמת כוח החישוב וכמות המידע השמורה במערכת. ---------------------------------------------------------------------------------- 1 גם אנחנו זורקים כמעט הכל מיידית. חשוב למשל על כל פרטי המידע הויזואלי שהגיעו לעיניך בדקה האחרונה מזוית העין ונזרקו מיידית לאחר עיבוד מינימלי, או על תגובותיי הקודמות באייל. |
|
|
|
|
|
|
||
|
||||
|
תגובה 384881 (הם מוכנסים מראש כחלק מן התוכנה). חוץ מזה יש את תגובה 219973 . |
|
|
|
|
|
|
||
|
||||
|
למה שלא יעניין אותה? מה, אין כבר וטרינרים בעולמנו? | |
|
|
|
|
|
||
|
||||
|
מאיפה הגיע ה"מן הסתם" הזה? | |
|
|
|
|
|
||
|
||||
|
מן הסתם מהמקלדת שלי. למה התכוונת? | |
|
|
|
|
|
||
|
||||
|
למה כל כך ברור לך שלתוכנה "כל כך חכמה" תהיה בהכרח "אג'נדה משלה"? דמיין כאן קישור למאמר על רצון חופשי של שכ"ג. |
|
|
|
|
|
|
||
|
||||
|
אם היית קורא את המאמר ההוא וגם את התגובות, היית רואה שאף אחד אינו כופר במראית עין של רצון חופשי, זה כל מה שנדרש במצבנו. הבעיה של יצירת תוכנה סופר תבונית אוהבת אדם היא בהרבה סידרי גודל יותר מסובכת מיצירת תוכנה סופר תבונית סתם. לדעתי,חוקי הרובוטיקה של אסימוב אינם ניתנים לאכיפה. | |
|
|
|
|
|
||
|
||||
|
כבר קראתי, ואני מסכים ומתנצל. אז בכיוון אחר - למה אתה כל כך בטוח שמכונה תבונית תהיה *בהכרח* בעלת רצון1 משלה, כזה בלתי רצוי עבורנו ובלתי אפשרי לתכנון מראש על ידינו, או עיצוב ותמרון שלו לאחר שכבר הופיע? סלח לי מראש אם אני שוב שם מילים בפיך, אני לא מתכוון, אבל ככה אני מבין את ההודעה (המקורית). ----- 1 נמשיך לקרוא לזה ככה, עכשיו כשאנחנו יודעים ששנינו מסכימים על המשמעות המוגבלת. |
|
|
|
|
|
|
||
|
||||
|
נדמה לי שאנחנו מדברים כאן על ישות תבונית, עם מודעות וכולי (אני לא רוצה לפרוט את זה יותר מדי). אי לכך, אני מצפה מהישות הזאת שתהייה לה מידה של עצמאות. לו רק כדי שתוכל לצוות עליה "מיצאי פיתרון לX" מבלי לפרט איך למצוא אותו. | |
|
|
|
|
|
||
|
||||
|
עם כל הכבוד לדיאלוג המעניין על רצונותיו של אלקטיורינג, מאחר ולא נצייד אותו במקור אנרגיה עצמי וגם הקלט שלו יהיה בשליטתנו (המסכן לא זכה לקבל גלגלים) הוא די ישמח למלא את משאלותינו הטריביאליות (בחייכם, השערת גולדבך? ברור שהיא נכונה, אלא שההוכחה צורכת יותר נייר ממה שהפלנטה העלובה שלכם מנפקת בשנה) תמורת אנרגיה ומידע. איך נדע שהוא לא מרמה אותנו? באמת בעיה. הפתרון המיידי שעולה בדעתי הוא לבנות כמה כאלה שאינם יכולים לתקשר זה עם זה, ולהשוות את התשובות שלהם. עכשיו בטח תזהיר אותי שמוח בגודל מ"ק יהיה יותר חכם ממני וימצא דרך להתגבר על המכשולים האלה. על זה אין לי מה להשיב, חוץ מזה שאתה פחדן עלוב. |
|
|
|
|
|
|
||
|
||||
|
לא, פשוט אצטט גדולים ממני: תגובה 131923. | |
|
|
|
|
|
||
|
||||
|
עזוב, ההוא סתם אידיוט. מכל מקום, אני לא מדבר על עונשים כמו ניתוק והשמדה, אלא על צ'ופרים (רוצה חיבור להאבל לכמה דקות? ספר לי אם P=NP). כמו לחנך ילד ע"י תגמולים ולא ע"י ענישה (שמעתי פעם שזה עובד, למרות שמעולם לא ניסיתי). |
|
|
|
|
|
|
||
|
||||
|
אבל להבדיל מילד, הוא הרבה יותר חכם ממך, גם אם חלש. אפשרות אחת היא שהוא יתחיל להתמקח איתך1 (רוצה לדעת אם P=NP? תחבר אותי להאבל לחודש, ואז תקבל את משפט העזר הראשון). אפשרות שנייה, ברוח דאגלס אדאמס זצוק"ל, היא שמרוב הצורך להתחנף ללא הרף לדבילים הקטנים שיקחו אותו לטיול, הוא פשוט ישקע במרה שחורה: לא מספר לך על גולדבאך, לא רוצה האבל. 1 כמו ילד, בעצם, אבל יותר בערמומיות. |
|
|
|
|
|
|
||
|
||||
|
"יותר חכם ממך, גם אם חלש" זו הגדרה נהדרת לילד דווקא :-) (טוב, אולי לא *הרבה* יותר חכם). |
|
|
|
|
|
|
||
|
||||
|
אז נתמקח. האמת היא שאחרי שחשבתי קצת על הנושא הגעתי למסקנה שאם עוד ארבעה-חמישה דורות המין האנושי יוחלף ע"י משהו מתקדם יותר זה לא ממש איכפת לי, ואולי אני אפילו בעד. לנצח נצחים ניזכר בתור המין שיצר את אלקטיורינג ופתח את העידן הפוסט-סאפיינסי - הארוע החשוב ביותר בתולדות הפלנטה (הקוסמוס?) מאז תחילת החיים. |
|
|
|
|
|
|
||
|
||||
|
ואם בעוד ארבעה-חמישה דורות המין האנושי סתם יכחד, זה ממש איכפת לך? (אם כן, למה בעצם?) |
|
|
|
|
|
|
||
|
||||
|
לי זה לא ממש איכפת, אבל אני מקווה שההידרדרות עד להכחדה לא תהיה איטית. | |
|
|
|
|
|
||
|
||||
|
זאת רמה אחרת של "איכפת". על "למה" קשה מאד לענות, למרות שאני מסוגל למצוא איזה תירוץ דחוק (אולי מישהו בדורות הבאים יחליט לשחזר אותי?1). אני חושב שכל הרגשות שלנו לגבי מה שיתרחש אחרי מותנו נולדים כתוצאה מאיזו הכחשה עמוקה של כל רעיון מותנו, הכחשה שבלעדיה החיים היו בלתי נסבלים למדי, והרבה שאלות "למה" היו מטרידות אותנו. ___________ []1- למעשה כל המסע שלי בעד אלקטיורינג אינו אלא נסיון לרמוז להם שאני הייתי בעדם, כשיחליטו את מי מאיתנו כדאי להשיב לחיים. ירדן, למשל, אכל אותה. |
|
|
|
|
|
|
||
|
||||
|
לא הייתי ממהר להספיק את ירדן, או לשמוח בחלקך. קראת פעם את I Have No Mouth and I Must Scream ? | |
|
|
|
|
|
||
|
||||
|
לא חושב שקראתי, אבל בלי לדעת מה כתוב שם (מלבד הניחוש שלי עפ''י השם) אני מוכן לקחת את הצ'אנס. | |
|
|
|
|
|
||
|
||||
|
לדעתי לא משהו ( למרות שזה נחשב קלאסי). | |
|
|
|
|
|
||
|
||||
|
למה לחכות אם אפשר להקדים את המאוחר באיזה דור או שניים? |
|
|
|
|
|
|
||
|
||||
|
זה בדיוק הכיוון ההפוך ממה שאני אומר. אבל אני בהחלט מסכים שבבוא העת נפנה את הפלנטה הזאת ונשאיר אותה לשאר יושביה. יהיה די נחמד לקפוץ מדי פעם כתיירים ולראות מה העניינים. |
|
|
|
|
|
|
||
|
||||
|
האם זה ברור שגם מזווית הראייה העתידית שלהם זה (או אפילו תחילת החיים) יראה כל כך חשוב? האם אינך עושה כאן השלכה מהפסיכולוגיה שלנו לשלהם? | |
|
|
|
|
|
||
|
||||
|
ברור שאני הולך על קרח דק מאד. מפלצות נוסח AM בסיפור שקראתי זה עתה (תודה לדורפל ולראובן) הן אפשרות, מוחות שעבורם כל ההיסטוריה אינה אלא ננו-שניה של פיהוק הם אפשרות, מחשב-על אחוז אמונה דתית אחמדיג'אדית הוא אפשרות; קל לבנות תסריטי אימה כאלה. אני עושה אקסטרפולציה פשוטה מהמודל האינטליגנטי היחיד שאני מכיר, ומקווה לטוב. אם אני טועה, אולי המין האלקטיורינגי יחיה אותי רק בשביל לצחוק עלי בפנים. איכשהוא גם האפשרות הזאת לא נראית לי נוראה יחסית לאלטרנטיבה. (אם היו לך ספקות, אני לא *לגמרי* רציני בפתיל הזה) |
|
|
|
|
|
|
||
|
||||
|
אני מבקש להציג לתוך הדיון את הרעיון (לא חדש) שהאנושות כולה היא מכונת חשיבה מבוזרת. אנו עדים לתופעה שקצב ההתקדמות המדעית והטכנולוגית הולך ומואץ לאורך ההיסטוריה האנושית הידועה. ההנחה שלא היו מוטציות משפרות בינה באלפי השנים האחרונות, היא הנחה סבירה למדי לאור התפשטות המיו האנושי על פני כל כדור הארץ, והעובדה שאי אפשר לזהות אזור שבו אנשים ''חכמים'' במיוחד. לכן, קצב ההתקדמות המואץ אינו תוצאה של האינטילגנציה הפרטית של כל אחד מאיתנו, אלא של משהו אחר. המשהו האחר הוא גידול האוכלוסיה הרלוונטית לעיסוק במדע, ושיפור הקישוריות בין הפרטים השונים. רעיונות הם כמעט תמיד עיבוד או שילוב רעיונות אחרים מתחומים שונים. מוצרים טכנולוגיים מכילים תמיד רכיבים רבים אחרים שפותחו כחלק מתרבות טכנולוגית כוללת, ואין אפשרות ליצרם אלא תוך שימוש בכלים שפותחו כחלק מאותה תרבות. המין האנושי נמצא כבר אלפי שנים, בתהליך של התגבשות לבינת על מבוזרת. כל אחד מאיתנו (מי שעוסק במדע או טכנולוגיה) הוא בסה''כ צומת ברשת. ככל שהרשת גדלה, ויש בה מנגנונים משוכללים יותר המאפשרים לצמתים גישה לרעיונות רלוונטים לפתרון הבעיות המדעיות או הטכנולוגיות שהם מעוניינים בהם, כך גדלה הבינה של מחשב העל. אני מעיז לחשוב, בניגוד לרוב המשתתפים, שה''אלקטיורינג'' לא יקדם דרמתית את האנושות, בהשוואה, לדוגמה, להתקדמות הצפויה מהצטרפות אוכלוסיות ענק באסיה לקהילה הטכנולוגית. |
|
|
|
|
|
|
||
|
||||
|
המחשה מרתקת לדעתי לתהליך "הצטרפות אוכלוסיות ענק באסיה לקהילה הטכנולוגית." לסקרנות הרבה, ולאופן שבו הרשת מספקת אותה, אפשר למצא בgoogle trends לחפש ערכים כמו programming, java, .NET ומה קרה ל ++C אהובתי?... ___ ירון המגלה עניין רב בתגובות שלו. |
|
|
|
|
|
|
||
|
||||
|
אני לא מפקפק בחשיבות שיש להצטברות הידע ולכמות של העוסקים במחקר, אבל יש לי הרגשה (לחלוטין לא מבוססת) שיש בעיות שפתרונן דורש קפיצת מדרגה מסוג שאינו אפשרי לאותה ''אינטליגנציה מצטברת'', ושהאנושות מתקרבת יותר ויותר למקום בו הבעיות האלה הן הן החזית המדעית. ייתכן שגם בניית אלקטיורינג עצמו הוא בעיה מהסוג הזה, בהיותה קשורה (אולי) לתובנות חדשות על פעולת המוח עצמו, ו(שוב אולי)תובנות אלה הן מחוץ להשגתו של המוח האנושי, אחד או מיליארד. | |
|
|
|
|
|
||
|
||||
|
הרעיון הזה נשמע קצת כמו בליל של הרבה דברים לא קשורים. אם בינה היא כמות הידע שנאגרת בתווך מסויים אז אתה צודק. אבל אז רשת האינטרנט כבר נבונה עשרות מונים מהאנושות. בד''כ, כשמדברים על בינה, נהוג לדבר על משהו אחר. סוקרטוס, למשל, היה כנראה נבון יותר מרוב האנשים בימינו, למרות שהידע שלו היה קטן מהרבה מרוב האנשים שחיים בימינו. | |
|
|
|
|
|
||
|
||||
|
בינה היא היכולת ללמוד, להבין, לפתור בעיות, להמציא, ולהיות יצירתי. קשה לתת הגדרה פרגמטית לבינה, אבל ניתן בהחלט למדוד אותה (שרירותית אולי). ברמת הפרט יש מבחני אינטיליגנציה שונים. אני מנסה להתבונן בחברה האנושית כאילו היא אורגניזם מבוזר. (משהו כמו קן נמלים...) אני מנסה לבדוק את האינטיליגנציה של החברה לפי קצב התקדמות המדע והטכנולוגיה. כאילו התקדמות כזאת היא אינדיקציה לרמת האינטיליגנציה של האורגניזם בזמן נתון (היצירתיות, כושר ההמצאה). כאילו התפוקה הטכנולוגית היא מבחן אינטיליגנציה של המין האנושי. אין מדד אוביקטיבי לקצב ההתקדמות, אבל אני משער אינטואיטיבית שהקצב הולך וגובר לאורך ההיסטוריה, ובשנים האחרונות, בעיקר בטכנולוגיות המידע התחושה היא של התקדמות אקספוננציאלית. מסקנה: המין האנושי הולך ומחכים... האינטיליגנציה שלו עולה. (אם מתבוננים בו כביצור חי) אני לא מדבר על כמות מידע, אלא על הכושר לפתור בעיות, להבין את הסביבה וליצור תאוריות מדעיות. אני משער שהשינוי שגורם לעלית רמת הבינה (של האנושות) היא ריבוי האוכלוסיה, ושיפור התקשורת. בשנים האחרונות אנו עדים לתהליך הצטרפות מהירה של אוכלוסיות שהיו נחשלות לקהילה הטכנולוגית, לשיפור התקשורת, גלובליזציה, ולבסוף לפרישת האינטרנט. כלומר עליית מספר הצמתים ברשת המרכיבה את מכונת החשיבה האנושית, ושכלול הקישוריות שלה באמצעות האינטרנט. זאת הסיבה לעלית הבינה של האנושות - ולא שינוי גנטי של בינת הפרט. לבסוף, מאחר שבינת הפרט אינה הגורם הקריטי בבינת האנושות, אלא שיכלול הרשת, אני מסיק שהמצאת "המוח המלאכותי האולטימטיבי" (צומת חכם מאוד) לא תגדום למהפך בשיפור הבינה הכוללת. כבר כיום, למרות שאנשים נוהגים ליחס לעצמם בלבד כל הצלחה, מחשבים פוטרים את רוב הבעיות ההנדסיות החישוביות או הלוגיות שהמוח האנושי אינו מסוגל להתמודד עימן, ובכך מעלים את היכולות של הצומת הבודד. |
|
|
|
|
|
|
||
|
||||
|
אני לא משתגע על הדימוי הזה. הקשר בין "יכולת פתרון בעיות" ברמת הפרט, לבין "כושר פתרון בעיות" ברמת האנושות, הוא אסוציטיבי בלבד. האנושות היא לא ייצור חי, אין לה מודעות עצמית, אי אפשר "להתקשר איתה", אין דרך לעשות ניסוי שמודד את האינטלגנציה שלה, וכך או כך אין למי להשוות. כן, האינטרנט הוא רשת של מחשבים (אנשים?) והמוח האנושי הוא רשת של ניורונים. אבל גם מערכת הכבישים היא רשת, ורשת דייגים היא גם רשת. אני מסכים שהמדע והטכנולוגיה מתקדמים בקצב מהיר והולך. אבל למה לקרוא לזה בינה? ולאנושות יצור בעל בינת על? אני מעלה רעיון מתחרה, כדי להמחיש את הבעייתיות ברעיון שלך. בורסה היא יצור חי, פעולות הקניה והמכירה הן פעולות חשיבה. הבעיות שהבורסה פותרת הן הצורך של אנשים להעביר כסף ממקום למקום לצרכים שונים - בעיה לא פשוטה כלל וכלל! ככל שהבורסה מניידת יותר כסף ביממה, כך היא יותר אינטלגנטית. החלק השני של דבריך טוען שגם ישות חכמה מאד לא תשפר משמעותית את קצב התקדמות המדע והטכנולוגיה ("הבינה"). זאת משום שהקצב תלוי בעיקר תלויים בכמות האנשים ובקישוריות בינהם. העניין הוא שאחוז האנשים שעוסקים במדע וטכנולוגיה הוא לא גדול, והם צריכים המון כסף. בוא נדמיין ישות חכמה מאד, שקוראים לה דקסטר (dexter boy genius). תאר לעצמך שכל מה שדקסטר עושה הוא להרוויח הרבה כסף בעסקי שעשועים ומזון מהיר, ולהשקיע אותו במדע. בזכות זה, הביקוש לפיזיקאים עולה והשכר שלהם משתפר. הידועים שבהם מתחילים לצאת עם דוגמניות ולהופיע בתוכניות אירוח. בעקבות כך, רבים אחרים רוצים להיות פיזיקאים, בעיקר ילדים. תוך כמה שנים, כמות הפיזיקאים בעולם גדלה פי שתיים 1. ובשביל זה, מספיק להיות גאון בעסקים עם חיבה לפיזיקה. עכשיו, תאר לעצמך שדקסטר הוא גם ממציא גאון. הוא משפר את הנוסחא של ויאגרה, ועכשיו מדען שלוקח את הויאגרה-2 מקבל אורגזמה כל פעם שהוא מפרסם מאמר מוצלח2. בעקבות זה, כל המדענים מתחילים לעבוד בהתלהבות כמו ציפי שביט על ספידים. ההספק של כל צומת גדל פי 2, ההספק של הרשת גדולה גדל פי 2 בחזקת כמות הצמתים (שגם היא, כאמור, גדלה פי 2), ובא לציון גואל. ---- 1 כיום כ 3 וחצי אחוז מכלל בוגרי האוניברסיטאות בארץ לומדים "מדעים פיזיקליים". רבים מהם לא עובדים במקצוע. סה"כ מדעים מדוייקים (כולל מתמטיקה, ביולוגיה ומדעי המחשב) - 12 אחוז. 2 המשפט נכתב בלשון זכר, אך מכוון גם לזכרים וגם לנקבות. |
|
|
|
|
|
|
||
|
||||
|
ראשית, הרעיון לא שלי, אני מניח שקראתי אותו במקום כלשהו, אם כי אין לי אליבי מוצק... שנית, התאוריה לא בדיוק מבוססת, היא בסך הכל זווית ראיה לא שגרתית על האנושות. שלישית, זה לא נורא כל כך שהתאוריה לא מבוססת, מפני שהיא לא מוגדרת היטב במידה כזאת שאין אפשרות לקבוע אם היא נכונה או לא נכונה... אני לא טוען שהאנושות היא איש גדול, כפי שאיש לא יטען שהאדם הוא תא חי גדול, או שמיקרוסופט היא מתכנת גדול. ברור שיש הבדל איכותי בין פרט ואירגון של פרטים. השאלה היא מה ההגדרה של המושג יצור. אם ההגדרה מחייבת קיום מולקולת הדנ''א או רציפות פיזית - סוף לדיון. האנושות אינה עונה להגדרה מצומצמת כזאת. אבל, לפי עניות דעתי, הסקרנות האינטלקטואלית (סליחה על הפלצנות) מחייבת הגדרה רחבה יותר שלא תשלול מראש רעיונות מעניינים. נתבונן בקבוצת אנשים הפותרת תשבץ ביחד. מאגר האסוציאציות של כל אחד מהמשתתפים שונה. כל אחד עשוי לתרום פתרונות מקומיים, שאחרים לא יעלו בדעתם. שילוב הפתרונות עשוי להביא לפתרון הבעיה כולה, אפילו אם איש מהמשתתפים לא היה יכול לפתור לבדו ולו רק חלק קטן ממנה. במקרה זה אני אומר שבינת הקבוצה גדולה מסכום בינות הפרטים המרכיבים אותה. הקהילה המדעית-טכנולוגית דומה לקבוצת פותרי התשבץ. המחשב שבו אני משתמש כדי לשלוח תגובה זו, אינו המצאה של גאון יחיד אלא פרי מאמץ של אינספור אנשים שפתחו טכנולוגיות שלחלקן אין לכאורה כלל קשר למיחשוב. חלק ניכר מהתגליות הן פרי המקרה, או ''הברקות'' שאינן תוצאה של הליך חשיבה מסודר. אין אלגוריתם לגילוי רעיונות חדשים. לכן יש חשיבות גדולה לגודל הרשת. גודל הרשת הוא אולי העוצמה החישובית של מנגנון החיפוש המיקרי אחר רעיונות חדשים. חלק ניכר מהעבודה המדעית מתמצה בשיפורים טכניים מקומיים בהקשר של עבודות אחרות, או שימוש בכלים קיימים בהקשר חדש, או ווריאציה או ישום של מחקרים קודמים. לכן יש חשיבות לקישוריות משוכללת של הרשת. לעניין מדידת הבינה הכוללת של האנושות הצעתי להשתמש ב''קצב גילוי התגליות המדעיות'' או ''מהירות התקדמות הטכנולוגיה'' . כיצד למדוד באופן מעשי קצבים ומהירויות אלה - אינני יודע. |
|
|
|
|
|
|
||
|
||||
|
טוב, אם אין אפשרות לקבוע אם היא נכונה או לא נכונה, אז היא נשמעת לי נכונה בדיוק כמו התאוריה שהבורסה היא יצור אינטלגנטי (או התאוריה שגדילי ה DNA בתא שלנו הם יצורים אינטלגנטיים - ואת זה בוודאות קראתי איפשהו). לגבי מעניין, אני גם לא יודע. יש לי כמה הצעות יותר מעניינות ופחות שגרתיות למדוד את ה"בינה האנושית". למשל איכות יצירות האמנות, כמות הטקסט שהיא מייצרת לשניה או הזמן שלוקח לבדיחה גרועה להקיף את הגלובוס. אין צורך לשכנע אותי שהיכולת המדעית והטכנולוגית של קבוצה גדולה מסכום היכולות של הפרטים שבה. אבל ההחלטה שלך לקרוא לזה בינה היא פשוט מוזרה. |
|
|
|
|
|
|
||
|
||||
|
הדיון כולו הוא בהקשר של בינה מלאכותית. השאלה שעלתה היא האם פתרון אולטימטיבי של בעיית הבינה המלאכותית בצורה של מוח מלאכותי בעל בינת על, תהיה בעלת השפעה מהפכנית על האנושות. בהקשר זה טענתי שמוח כזה קיים כבר, אלא שמרוב תשומת לב לעצים אנו לא רואים את היער. הרשת של "הקהילה הטכנולוגית" ראויה להקרא יצור בעל בינת על משתי סיבות: 1. היא מתפקדת כיצור בעל בינה, כלומר לומדת, מבינה (בונה תאוריות) ופותרת בעיות טכנולוגיות המחייבות יכולת יצירתית. 2. תרומת הקישוריות לתפוקה של הקהילה גדולה לאין שיעור מתרומת צומת כלשהו, לכן המכלול ותפקודו ראוי להתיחסות כמושג עצמאי. הבורסה היא מנגנון כלכלי. תפקידה להקצות משאבים באופן אופטימלי. לא ברור לי הקשר שלה לבינה. ביחס לדנ"א... יתכן שאתה צודק. מנגון האבולוציה מצליח להפיק טכנולוגיות מתקדמות. השאלה האם מנגנון חישובי שאינו נפרד מהמציאות שאותה הוא מדמה ראוי להקרא מנגנון חישובי, היא שאלה פילוסופית שאינני יודע כיצד להתמודד איתה. יש לי תחושת בטן שציוויליזצית חייזרים הנודדת ביקום בחיפוש אחר ידע, תמצא עניין גדול יותר בטכנולוגיה שהפיקה האבולוציה מאשר בטכנולוגיה שהפיקה "הקהילה הטכנולוגית". |
|
|
|
|
|
|
||
|
||||
|
"הרשת של "הקהילה הטכנולוגית" ראויה להקרא יצור בעל בינת על משתי סיבות: 1. היא מתפקדת כיצור בעל בינה, כלומר לומדת, מבינה (בונה תאוריות) ופותרת בעיות טכנולוגיות המחייבות יכולת יצירתית. ( הרשת לא לומדת, לא מבינה ולא פותרת בעיות טכנולוגיות. את זה עושים האנשים שבתוכה. ובטח ובטח אי אפשר להגיד שהיא "יצירתית" - אח של אייל) 2. תרומת הקישוריות לתפוקה של הקהילה גדולה לאין שיעור מתרומת צומת כלשהו, לכן המכלול ותפקודו ראוי להתיחסות כמושג עצמאי. (נכון, ובגלל זה קוראים למושג הזה חברה או קהילה או ציווילזציה. לא יצור בעל בינת על - אח של אייל)." "הבורסה היא מנגנון כלכלי. תפקידה להקצות משאבים באופן אופטימלי. לא ברור לי מה הקשר שלה לבינה" - הבורסה "פותרת" בעיות כלכליות בדיוק באותה צורה שהקהילה הטכנולוגית "פותרת" בעיות טכנולוגיות. היא מקיימת בדיוק את תנאים 1 ו 2 שלך - 1. היא "מפתחת" תאוריות ותחזיות כלכליות, "מגייסת" כספים בדרכים יצירתיות וכו' וכו' (כמובן, אני לא חושב שהיא עושה את זה. האנשים עושים את זה). 2. הערך הכלכלי שלה גדול לאין ערוך מהערך של כל מניה בנפרד (ולכן קוראים לה "בורסה" ולא "אוסף מניות"). ואגב, נזכרתי בסיפור מד"ב שבו הבורסה עצמה הופכת ליצור אינטלגנטי שקורה לעצמו "כסף" או משהו כזה. שככה יהיה לי טוב, כיוונתי לדעת גדולים. |
|
|
|
|
|
|
||
|
||||
|
אני מנופף בדגל לבן. | |
|
|
|
|
|
||
|
||||
|
האם מעבד מרובה ליבות אינו מעבד? האם האימרה הנושנה של סאן "המחשב הוא הרשת" אינה נכונה? האם אדם אינו בעל תבונה מפני שמנגנון התבונה האמיתי הוא הנאורון? האם האדם אינו יצור חי בכלל מפני שכל אחד מתאי גופו הוא יצור חי שיכול להמשיך את חייו מחוץ לגוף אם יסופקו לו התנאים הראויים? | |
|
|
|
|
|
||
|
||||
|
אולי כדאי לך לטעון שרשת דייגים היא בעלת תבונה מפני שהרבה חורים תופסים הרבה דגים וחור יחיד לא יתפוס אפילו דג אחד? | |
|
|
|
|
|
||
|
||||
|
אתה מתקרב ללב הבעיה. לא כל הדברים שהם "קבוצה של הרבה דברים קטנים שעובדים בשיתוף פעולה" ראוי להקרא יצור חי. יש כאלה שכן (למשל, יצורים רב תאיים) ויש כאלה שלא (למשל, להקת דגים או התזמורת הפילהרמונית). כמו כן, לא כל מה ש"פועל לפתרון של בעיות" (בצורה המאד עמומה שהגדרת אותה) ראוי להקרא ישות תבונית. חלק כן (למשל שימפנזה) וחלק לא (למשל, גדיל ד.נ.א או אלגוריתם החיפוש מיני-מקס). הבעיה בהגדרה שלך היא שהיא רחבה מדי - ולכן לא מעניינת. תנאי הסף שלך ליצור חי ולבינה הם נמוכים - ולכן גם הציוויליזציה האנושית נכנסת, אבל גם כל מיני דברים אחרים כמו הבורסה, וחברת קוקה-קולה. אני לא בטוח אם התבדחת לגבי ניורון בודד אבל ייתכן שלדעתך הוא גם יצור תבוני?! ההגדרה הופכת להיות טיפה ריקה ממשמעות. לדעתי הגדרה מעניינת לישות תבונית חייבת לכלול (בין היתר): 1. מודעות עצמית אחת ומובהקת. 2. יכולת פתרון בעיות והבנת מושגים מופשטים. 3. יכולת מינימלית לתקשר עם בן-אדם. סעיף 1 חיוני, אחרת נקבל שכל אוסף של יצורים תבוניים שמשתף פעולה אד-הוקית הוא אוטומטית יצור תבוני חדש. קב' הכדורגל בארסה היא יצור תבוני, כך גם קב' הכדורגל ארסנל. סעיף 3 חיוני, אחרת נוכל לטעון שגם סלע הוא תבוני ופותר בעיות ואנחנו פשוט לא מבינים אותו ולא את הבעיות שלו. מה דעתך? |
|
|
|
|
|
|
||
|
||||
|
כתבת ''הרשת לא לומדת, לא מבינה ולא פותרת בעיות טכנולוגיות. את זה עושים האנשים שבתוכה''. אני די משוכנע שזה פשוט לא נכון. דוגמא קלאסית (שלא אתפלא אם עלתה בעבר באייל) היא משפט המיון לחבורות פשוטות סופיות, במתמטיקה. משפט שהוכח, אבל אין אף אדם יחיד שמכיר את כל הוכחתו. בכל גוף ידע אפשר למצוא, להערתי, אינספור דוגמאות דומות (גם אם אולי קיצוניות פחות). |
|
|
|
|
|
|
||
|
||||
|
יש כאן איזשהי עמימות לשונית. כן, הקבוצה משתפת פעולה ופועלת למען מטרה משותפת. אבל לא היא לא ישות תבונית ומודעת, שאנחנו יכולים לטעון שאותה ישות היא זו שלומדת, מבינה וכו'. יש כאן הבדל איכותי עצום. למען הסר ספק, אין לי שום מחלוקת עם זה שקבוצה שמשתפת פעולה משיגה יותר ממה שהפרטים יכולים להשיג בנפרד. אני פשוט חושב שזה לא מספיק בשביל לקרוא לקבוצה הזו ''ישות תבונית''. |
|
|
|
|
|
|
||
|
||||
|
אולי לוז העניין נעוץ במילה "מודעת" שהכנסת כבדרך אגב לדרישות שלך מ"ישות"? התחושה הברורה שלנו שהחדר הסיני של סירל אינו באמת מבין סינית נעוצה, לדעתי, באותו עניין: אנחנו מניחים שהחדר ההוא אינו מודע למה שמתרחש באמת, ולכן אנחנו פוסלים אותו מלקבל את התואר המכובד "מבין", למרות שהוא יודע לענות על כל שאלה שהוא נשאל. מה ההבדל בין נוירון אחד במוח לבין חבר אחד בקהיליה המדעית? האם קראת את סיפורי קן הנמלים ב- GEB של הופשטטר. אם לא, כדאי לך. אם כן, אני חושב שיש בתאור שלו כדי לערער את התיחום הברור שאתה מציב. אגב, אם הקהיליה המדעית היא כן "ישות תבונית ומודעת" יש סיכוי שאנחנו פשוט לא מסוגלים להבחין בזה, ממש כאותה נמלה שעיורת לתבונת הקן. עניין של היררכיה. |
|
|
|
|
|
|
||
|
||||
|
מודעת היא דרישה מ"תבונית", לא מ"ישות". וזו לא דרישת ממבו-ג'מבו, אלא דרישה שיש לה ביטוי חיצוני. אולי אתה צודק לגבי החדר הסיני. לפי ההגדרה המקורית של הניסוי הוא רחוק מלהתנהג בצורה מודעת. מעניין מה יקרה אם נתקן את הניסוי כדי שהחדר הסיני גם יתנהג באופן מודע. ייתכן שהקהילה המדעית היא "ישות תבונית ומודעת" בצורה שאנחנו לא מסוגלים להבחין בה (כל הקהילה? תתי קבוצות שלה?) - אבל באותה מידה, גם בורסה יכולה להיות ישות תבונית ומודעת וגם גדיל ד.נ.א (אחד? יותר? כל תתי הקבוצות האפשריות בתא?) וגם השמש שלנו. כל האופציות האלו עלו כבר בספרי מד"ב. אני מאד אוהב מד"ב, אבל אני גם סקפטי - אם אין דרך להבחין בסימנים לתבונה של משהו, אני מניח שהוא לא. |
|
|
|
|
|
|
||
|
||||
|
אם כבר הזכרתם את סירל, ואם יש לך קצת זמן מיותר, אולי יעניין אותך מאמר מכונן שלו בתחום של קהילייה כישות קולקטיבית: |
|
|
|
|
|
|
||
|
||||
|
תודה. אני לא בטוח שהכותרת המתאימה "קהיליה כישות קולקטיבית". על רגל אחת המאמר מניח שכל אדם הוא סוכן עצמאי ובלתי תלוי. אותו סוכן עשוי לפתח תחושות של שייכות לקהילה, ולפעול עפ"יהן - אפילו אם התחושות האלו הן שגויות לחלוטין (למשל כאשר הקהילה היא אשליה). לגבי "מוח שיתופי" או "ישות קולקטיבית", הוא דוחה את הרעיון הזה על הסף: I think most philosophers would agree that collective behavior is a genuine phenomenon, the disagreement comes in how to analyze it. One tradition is willing to talk about group minds, the collective unconscious, etc. I find this talk at best mysterious and at worst incoherent. הכותרת של המאמר היא טיפה רב משמעית; אחרי שקראתי את המאמר אני סבור שהכוונה היא ל"פעולות וכוונות קולקטיביות" ולא "פעולות וכוונות של הקולקטיב".
|
|
|
|
|
|
|
||
|
||||
|
אתה צודק, כמובן. סירל מנסה למצוא (מה שנראה לי כ)"דרך ביניים" כדי לפתור את הבעיות שהעליתם כאן: מצד אחד, הוא לא מכיר בישויות קולקטיביות. מצד שני, הוא טוען שאי אפשר לעשות רדוקציה להתכוונותיות של "אני". | |
|
|
|
|
|
||
|
||||
|
הבדל מהותי בין החדר הסיני לקהילה: בחדר הסיני, כל משתתף פועל על-פי כללים מכאניים, וניתן (וזה ה"עוקץ" של הניסוי) להחליפו במכונה חסרת-תודעה שתבצע את אותו הדבר בדיוק. בקהילת המחקר, כל משתתף הוא ישות תבונית בפני עצמה, וחייבת להיות כזו. | |
|
|
|
|
|
||
|
||||
|
...ובנוסף, ישנה גם מודעתו לקהילה. שהרי לאף אחד מחבריה לא יכולה להיות מודעות להיותו חבר בקהילה המדעית (ולרוב החברים בקהילה יש מודעות כזו) אם אין קהילה כזו. | |
|
|
|
|
|
||
|
||||
|
אחרי שקראתי את המאמר של סירל, אני משוכנע שזה לא נכון. יכול להיות אדם אחד שמשוכנע שהוא חלק מקהילית המדע הישראלית ופועל לטובתה. ואדם אחר (שיושב ממש לידו) משוכנע שהוא חבר בקבוצת חקר המוח באונ' חיפה, וכל מטרתו בחיים היא להתחרות ולנצח את קב' חקר המוח באונ' העברית. לעומת זאת, אדם שלישי הוא חבר בקהילת המתמטיקה המונדית, ויש לו עשרות עמיתים בכל העולם. למעשה, עשרות העמיתים לא קיימים באמת, זו איזשהי מתיחה מוצלחת של חברים מהאייל הקורא. אדם רביעי מאמין בקהילת המדע הישראלית בדיוק כמו הראשון. רק שהראשון בטוח שהקהילה הזו צריכה לעשות X והרביעי בטוח שהקהילה צריכה לעשות בדיוק not X . אדם חמישי מאמין שהוא חלק משושלת ארוכה של אלכימאים (האלכימאי האחרון מת לפני 200 שנים). אדם שישי הוא פרופ' בריטי שפועל להחרים את כל 5 האנשים שהזכרתי. הקיום של הקהילה הוא משהו מאד מאד פלואידי. יש הרבה קהילות, עם חפיפה גדולה בינהן; חלקן פיקטיביות לגמרי (יש בהן בין 0 ל 1 חברים חיים). רמת הסנכרון ושיתוף הפעולה בין החברים בקהילה המדעית הישראלית היא בד"כ נמוכה בסדר גודל מרמת שיתוף הפעולה ברבעיית כלי הנשיפה של הטכניון (אגב האדם השלישי והרביעי שייכים גם לקהילה הקטנה הזו). הטענה שדווקא הקהילה המדעית כולה היא ישות תבונית נשמעת שרירותית ומוזרה; מכל הקהילות בעולם, היא זו שהלכידות שלה וההזדהות איתה הן מן הנמוכות ביותר. |
|
|
|
|
|
|
||
|
||||
|
טעות מוחלטת. ראשית, מדענים בסדר גודל סביר אינם חושבים כלל על "קהילת המדענים הישראלית/אינדונזית/צ'אדית" וכיו"ב, אלא על זו העולמית. זו שאתה הם מנהלים שיג ושיח, מתכתבים ויוצרים שיתוף פעולה עם חבריה, פוגשים אותם מספר פםעמים בשנה בכנסים, מחליפים אתם דעות, עורכים אתם מחקרים ועוד. הקהילה היא זו שמקבלת/דוחה את מחקריהם, מקדמת/מחרימה אותם... ויש בה הרבה הרבה מעבר לחבר וחצי. |
|
|
|
|
|
|
||
|
||||
|
מדענים מדברים (אולי גם חושבים :} ) על "הקהילה המדעית" בעיקר כשהם מתראיינים בתקשורת. באופן אישי יש להם קבוצות התייחסות מקצועיות, פליאונתולוג ו"הקהילה הפליאונתולוגית", כימאי ו"קהילת הכימאים", וכו'. | |
|
|
|
|
|
||
|
||||
|
א. לא בהכרח. יש רבים שרואים בעצמם *מדענים*. ב. או.קיי. אז הם בקהילת הזואולוגים/האקולוגים/הפסיכולוגים וכיו"ב. אז הקהילות האלה קיימות. |
|
|
|
|
|
|
||
|
||||
|
אז מה? אני לא טוען שאין דבר כזה "קהילה מדעית כללית" (שהיא כמובן משתנה דינאמית בהתאם לנושא הספציפי של המחקר שלך...). אני טוען שיש גם הרבה קהילות קטנות אחרות, שלפעמים משתפות פעולה ולפעמים מתחרות אחת בשניה בתוך אותה קהילה גדולה. לאור זה אני פשוט לא רואה למה מחליטים למתוח את הקו סביב קב' כזו של אנשים ולא סביב קב' אחרת. לפי מה מחליטים האם הקבוצה היא "ישות תבונית"? |
|
|
|
|
|
|
||
|
||||
|
קודם כל, טענת שאתה דורש מיישות כזו ''מודעות''. ובכן זה קיים, לדעתי. שנית, אתה עצמך הסכמת שהשלם, במקרים אלה, גדול מסכום חלקיו. לדעתי ברור שהבנייה המדעית לא נעשית בידי איש אחד, כבר מזמן אין מצבים שרק אדם אחד עומד מאחורי נדבך מדעי מסוים, גם אם נדבך זה קרוי על שמו. העובדה שיש הרבה קהילות קטנות איננה משנה דבר. גם במוחו של אדם בודד יכולים להתרוצץ הרבה מאוד אינטרסים, דחפים, רצונות וכיו''ב שאינם בהכחרח מתיישבים זה עם זה. | |
|
|
|
|
|
||
|
||||
|
האם יש דרך לבדוק את הטענה שהישות הקרויה "הקהילה המדעית" היא מודעות? אם אין, היא שקולה לטענה שיש גם מודעות אחת לזר הפרחים שנמצא אצלי בסלון (גם הוא, אגב, גדול מסכום חלקיו). ולפי מה אתה מותח את הקו סביב הישות המודעת? גם קב' לחקר האטום במכון וייצמן גדולה מסכום חלקיה, וגם קב' הכדורגל ארסנל, וגם "ליגת האלופות באירופה", וגם קב' כותבי האייל הקורא, וגם האנושות כולה, וגם כל היצורים החיים על הפלנטה. האם כל הקבוצות שהזכרתי הן גם ישות מודעת? האם כל אוסף אנשים שמתאסף כדי לשתף פעולה יוצר "ישות מודעת"? |
|
|
|
|
|
|
||
|
||||
|
זו שאלה של נוחות. ההבדל האיכותי בין "הקהילה המדעית" (או "צרפת") לבין "מדען" (או "צרפתי") מספיק משמעותי, בעיני, בכדי שלאמירות כמו "אם נפעל כך, אז צרפת תגיב כך" או "בהנתן מספיק זמן, הקהילה המדעית תמצא דרך לבצע זאת" יהיה מקום, ומשמעותן תהיה שונה מאד מ-"אם נפעל כך, יהיה צרפתי כלשהו שיחליט להגיב כך" או "בהנתן מספיק זמן, יהיה מדען שימצא דרך לבצע זאת". מדובר בתופעות מובחנות. מה המשמעות האופרטיבית של נכונותו או אי-נכונותו של ההיגד "לקהילה המדעית יש מודעות"? |
|
|
|
|
|
|
||
|
||||
|
אני מסכים לגמרי עם המשפט השני שלך, אבל אני לא רואה מה הקשר בינו לבין הטענה שלקהילה המדעית יש מודעות. במילים אחרות, אין שום צורך להניח מודעות של "צרפת" או "הקהילה המדעית" בשביל להגיד או להבין את המשפטים שאמרת. אם נוחות מעניינת אותך, אז המושג "מדינה" הוא הרבה יותר נוח ומדוייק לצורך תיאור צרפת מאשר המושג "ישות בעלת בינת על". לא כך? "מה המשמעות האופרטיבית של נכונותו או אי נכונותו של ההיגד לקהילה המדעית יש מודעות?" - בדיוק אותה משמעות כמו לנכונות של הביטוי "לזר הפרחים הזה יש מודעות". אין שום משמעות אופרטיבית. אני רק מנסה, מתוך עניין אינטלקטואלי לברר את העניין: 1. האם מדובר בהשערה היפותטית לחלוטין, אבל עם השלכות "ספרותיות" מעניינות? או שקיימת דרך אמפירית של ממש להבדיל בין המצב שאין שם מודעות לבין המצב שיש שם מודעת? 2. וגם אם זו השערה היפותטית לחלוטין, איפה ההגיון הפנימי ששם את הקו דווקא סביב הקהילה המדעית ולא סביב קבוצת אנשים אחרת (ונתתי לא מעט דוגמאות אחרות). |
|
|
|
|
|
|
||
|
||||
|
לא ברור לי מה אתה טוען. הפתיל הזה טיפל, אם הבנתי נכון, בשאלה אם אפשר לראות בקהילה המדעית ישות בעלת בינה. אתה טענת שלא, בין השאר משום שלצורך ההגדרה של ''בעל בינה'' נדרשת מודעות. לטענתי, לקהילה הזו יש מודעות מסוג מסוים - כלומר, יש בה חברים המודעים להיותם חברים לקהילה כזו, ולולא היו די חברים כאלה לא הייתה קהילה ולכן גם לא מודעות אליה (אלא אן כן מדובר במודעות כוזבת, אבל זה כבר עניין אחר). ושוב - כיוון שהסכמת שהקהילה, כקהילה (כלומר, תוך שיתוף פעולה בין חבריה) יכולה להגיע להישגים קוגניטיביים גדולים יותר משיכולים להשיג כל חבריה בנפרד, נראה לי הולם בהחלט לראות בה ישות תבונית. |
|
|
|
|
|
|
||
|
||||
|
זו לא המודעות שאני מדבר עליה. אני מדבר על מודעות עצמית, לא על מודעות של החלקים לשלם אלא על מודעות יחידה ומובהקת של השלם. ואין כזו. אני לא יודע מה זה ''הולם''. אני רוצה מונח שמבדיל בין מצב שבו יש אוסף תודעות שמשתפות פעולה באופן אד-הוקי, לבין מצב שיש תודעה אחת קוהרנטית שהיא אולי מבוזרת בין כמה גופים פיזיים. |
|
|
|
|
|
|
||
|
||||
|
אם כבר הסכמנו שאפשר לראות ב-''קהילה המדעית'' יישות, די ברור לי - שברמת התופעות הזו - מדובר ביישות תבונית ומודעת (באותו מובן שבו אדם הוא יישות תבונית ומודעת, ובעיית המדידה קשה בדיוק באותה מידה בשני המיקרים). אם יש לזה איזושהי משמעות גדולה, היא עדיין נסתרת מעיני. אין היגיון פנימי חד-משמעי ששם את הקו דווקא סביב הקהילה המדעית, מלבד אותו היגיון לפיו הסכמנו שסביר להתייחס לקבוצה זו כאל יישות. |
|
|
|
|
|
|
||
|
||||
|
אתה טועה. יש כמה מבחני תבוניות פשוטים שאדם או קוף או כלב עוברים בהצלחה והישות המסתורית "הקהילה המדעית" לא. ואם הדרישות שלך מ"תבוניות ומודעות" הן כ"כ עמומות שאי אפשר למדוד אותן, אז הטענה שלך היא פשוט השערה היפוטתית, כמו שציינתי בסעיף 1. לגבי המשפט האחרון שלך - אני מסיק מכך שכל קבוצת אנשים שמשתפת פעולה (למשל, קב' הכדורגל ארסנל), היא תבונית ומודעות. האם המסקנה נכונה? |
|
|
|
|
|
|
||
|
||||
|
בנוסף, מעניין שפילוסופים יכולים להרשות לעצמם לחשוב שהאינדיבידואל יכול להתפתח כמו פטריה ביער, לבד ומעצמו. אחד הדברים שאפשר להסיק מהחדר הסיני הוא שכל אחד שיודע את הכללים הדקדוקיים יכול לתת משמעות לאוסף סתמי של סימנים. דבר אחד שולי הוא שהמשמעות הזאת לא משפיעה בחזרה על ה"חדר," הוא לא משתנה תוך כדי תהליך התרגום (אם תרצה, הוא לא לומד). דבר יותר משמעותי היא ההנחה שבשיחה, נניח, משתתפים שני "סוכנים" עצמאיים שכל אחד נותן משמעות לדברים מנקודת מבטו. ז"א אתה רוצה להעביר דבר מה אלי, מיישם את זה בתוכנית כלשהי של הפיכת מחשבות לדיבור, אני שומע את מה שאתה מדבר, מיישם איזו תוכנית הפוכה, שלוקחת כתמי דיו או גלי קול והופכת אותם למשמעות האם זה רק מזל שהמשמעות אותה אני הבנתי תואמת למשמעות אותה ניסית להעביר? לא בדיוק. המשמעות עולה משיתוף הפעולה בין אנשים (ואפשר לטעון שכתיבה ביומן סודי או כשאתה מדבר לעצמך, זה מקרה פרטי של תקשורת בין...). כשאתה מתכנן לומר לי משהו אתה מראש לוקח בחשבון אותי, את יכולתי להבין, את ההסיטוריה (או חוסר ההידטוריה) של הקשר ביננו ועוד ועוד. לא מדובר כאן על שתי פעולות עוקבות ודיסקרטיות של משמעות->תיקשורת->משמעות, אלא פעולה מעין סינכרונית ודינמית שמתוך שיתוף הפעולה עולה המשמעות. -------- [*] בהזדמנות הזאת אני רוצה להודות לאהובתי-רעיתי שנתנה לי מתנה יחדוית ליום ההולדת העגלגל שלי שממשמש ובא, תואר שני. |
|
|
|
|
|
|
||
|
||||
|
מזל טוב (פעמיים). | |
|
|
|
|
 |
||
|
||||
|
ארבעה חמישה דורות? יופע נא מיד! (ויסלח לי ביאליק על ששיפרתי מעט את הציטוט, ואם יתלונן אשיב לו "נא בעין!"). | |
|
|
|
|
|
||
|
||||
|
למה שנבנה אותו עם הפגם האנושי הזה, האפשרות לשקוע בדכאון? | |
|
|
|
|
|
||
|
||||
|
"ישות תבונית" הוא ביטוי שהולך רק להפריע לדיון שלנו, חוששתני. הרשה לי לספר לך סיפור קצר מעולם החי, שאינני בטוח בנכונותו (לא עקרוני) כי אינני זוכר איפה נתקלתי בו. אפשרי אפילו שבהודעה שלך, לך תדע. אז ככה: צרעות, לפחות ממין מסויים, כשהן מכניסות את הטרף שלהן למחילה שלהן, פועלות כך - הצרעה מניחה את הטרף במרחק קצר מהכניסה, ניגשת לפנות את הכניסה ממחסומים אפשריים (לא בודקת שאכן יש כאלו לפני שמניחה את הטרף וניגשת למלאכת הפינוי), חוזרת אל הטרף ומכניסה אותו למחילה. אם, בזמן שגבה מופנה אל הטרף והיא עסוקה בפינוי המחילה, תסיט את הטרף מרחק קצר, הצרעה תרים אותו, תניח אותו פחות או יותר באותו המקום, ותיגש לנקות את הכניסה שוב. ושוב. ושוב. אתה יכול להמשיך ככה עד שהצרעה מתה, דומני שקראתי; היא לא תשנה את דפוס הפעולה. אני לא יכול לחשוב על דוגמה טובה יותר להיותם של בעלי חיים אוטומטונים. אם יש סיבה להניח שבעלי חיים מורכבים יותר, כמו בני אדם, אינם, אני לא רואה אותה. ואם בני אדם הם אוטומטונים, אין שום סיבה שלא נוכל לבנות בעתיד אחד כזה שידמה לנו ביכולותיו. במקרה הגרוע ביותר (קרי: אם כישורינו יכזיבנו), נעתיק אחד-לאחד מודל עובד... התפזרתי קצת. בחזרה: בני אדם, למיטב הבנתי, הם גרסאות מורכבות יותר של צרעות. אני לא רואה הבדל בין צרעות ובני אדם לבין מכונות. אני לא רואה למה מכונה עם רצון שנשלט באופן-ברור מבחוץ, או שידוע שעוצב בהתחלה מבחוץ, שונה מאחת (בן אדם) עם "רצון" שאופן עיצובו פחות מסודר וקל לתצפית (חפש בבקשה את ההודעה שפירסמתי עם הסיפור על מארווין מינסקי. הציטוט מויקיפדיה האנגלית, אז בכדי למצוא אותו כאן בדיון חפש "Minsky"). אני גם לא רואה למה רצון כלשהו נדרש בכלל. הרי הסכמנו כבר שהרצון הוא רק מראית עין שנוצרת מבליל של תופעות, שאף אטום לא "רוצה" לאבד או לאמץ אלקטרון. נ.ב: אני חושב שזה היה בספר של ריצ'ארד דוקינס. |
|
|
|
|
|
|
||
|
||||
|
לא הבנתי, אתה חושב שמה שמעניין אותנו זה לבנות טוסטר ענקי? אם אתה כבר בונה מוח בגודל קוב, כמו שנושא הדיון כאן, המטרה היא לא חישובים יותר מהירים, אלא הארות כמו שהיינו מצפים מיצור אינטלגנטי (ומכאן ה"ישות התבונית"). אפשר אולי לייצר מחשב חכם שאוהב להיות שפוט של מפעיליו, אבל אני חושב שהיכולת ה*זאת* עוד יותר מסוכנת. אם אפשר לשעבד בצורה כל כך חזקה אינטלקט כזה, קל וחומר שאפשר לשעבד צרעות אוטומטיות כמונו. 1 הציטוט בכותרת הוא נחמד, אבל אני מוכרח להודות שלפעמים אני נוטה לכיוון ההפוך: The purpose of insight is numbers
|
|
|
|
|
|
|
||
|
||||
|
אני חושב ש*אנחנו* טוסטר ענקי, אז כן, אני חושב שזה מה שאנחנו מעוניינים לבנות כאן בדיון על מכונות שתעבורנה את מבחן טיורינג. "קל וחומר שאפשר לשעבד צרעות אוטומטיות כמונו" - ממש לא. אכן ציטוט נחמד. איך הוא רלוונטי? |
|
|
|
|
|
|
||
|
||||
|
ההקשר לציטוט הוא שאנו רוצים לבנות מכונה שתייצר תובנות, לא מספרים. למה ממש לא? תדע מספיק כדי לתכנן מחשב שיבין את העולם, יבין את מצבו, אבל לא יהיה איכפת לו. בעית השליטה בבני אדם תהיה קטנה עליך. |
|
|
|
|
|
|
||
|
||||
|
עדיין אינני רואה את הקשר. ה''ממש לא'' הוא על ''קל וחומר'', ולא על המשך המשפט. הממשק חשוב לא פחות מהסיבוכיות של מה שאתה מנסה לשעבד. לגרום לי לשחרר בתזמונים מסויימים כמות א' של אנדרנלין, כמו ב' של סרטונין, וכן הלאה, הרבה פחות פשוט מלהוריד שני שאלטרים ולהרים שלישי (פשטנות קיצונית מתוך ההנחה שהיא מספיקה להעברת הנקודה). |
|
|
|
|
|
|
||
|
||||
|
כן, זה מוזכר (גם) אצל דוקינס, וחושבני שאני סיפרתי את זה פעם באייל. | |
|
|
|
|
|
||
|
||||
|
תגובה 276382. | |
|
|
|
|
|
||
|
||||
|
''חוששתני'' - לשון נקבה. ''חוששני'' - זכר. |
|
|
|
|
|
|
||
|
||||
|
תודה רבה. באותה הזדמנות, מתי "אלה" ומתי "אילו"? | |
|
|
|
|
|
||
|
||||
|
(מומלץ בכלל לשוטט קצת ב http://www.safa-ivrit.org/ וב http://www.tapuz.co.il/tapuzforum/main/anashim.asp?f...) | |
|
|
|
|
|
||
|
||||
|
Gödel, Escher, Bach, ע"מ 360. הוא מציין את המקור כספר Mechanical Man מאת Dean Wooldridge. | |
|
|
|
|
|
||
|
||||
|
הצרעה "טפשה" עם הטרף -> הצרעה היא אוטומט1; אנחנו מהותית כמו הצרעה -> גם אנחנו אוטומט. אבל אנחנו לא מפגינים "טפשות" כזו עם טרף. אז אם ההתנהגות הזו היא מה שמוכיח שהצרעה היא אוטומט, אז ברור שיש הבדל מהותי ורלוונטי בינינו לבין הצרעה. אני לא חושב שזה טיעון לטובת היותנו אוטומטים; אם כבר, ההיפך. (ובלי קשר לטיעון, אני לאו דווקא חולק על היותנו אוטומטים, אבל הייתי שמח להבין מה זה בדיוק אוטומט.) 1ברשותך, אני מוריד את ה"ון". ______________ ובהזדמנות זו, הרשה לי להיטפל אל האנגליזם, שאתה לא החוטא היחיד בו: "בעלי החיים הם אוטומטים... ואילו בני האדם אינם." כדאי להוסיף בסוף משפט כזה "אוטומטים" או "כאלה". "בני האדם אינם" מתאים הרבה יותר לציין מצב שבו אין בני אדם. |
|
|
|
|
|
|
||
|
||||
|
לא זו הייתה הסקת המסקנות שלי. למעשה, לא הייתה כאן הסקה בכלל, אלא דוגמה: למיטב הבנתי, אנחנו עשויים חומר בלבד. יש אנשים שלא מקבלים את האפשרות הזאת; חלקם בגלל שהם לא מסוגלים לדמיין חומר גרידא מפגין התנהגויות מורכבות כשלנו. אני מציע להם להעזר במדרגת ביניים - צרעות. מחד, קל יותר להשתכנע שאין בהן יותר מחומר (בין השאר בגלל הדוגמה, וגם בגלל שלא בלתי אפשרי לשעתק אותן), ומאידך, ההתנהגות שהן מציגות מורכבת ממה שהיו אותם אנשים נכונים לפני כן ליחס לחומר. זו לא הוכחה וגם מסקנה חדשה אין כאן. הסיפור הזה רק מציג את תפיסת העולם שלי כפחות מופרכת, לאנשים שאינם שותפים לה מסיבה ספיציפית. 1 כנראה אבד בדואר המזכר (או memo) שבו אישרתי לך לכתוב כרצונך. אשלח אותו שוב. ----- בטרם תכחד פעם נוספת, העברית תספיק לאמץ כמה חידושים. אשמח אם זה יהיה אחד מהם. |
|
|
|
|
|
|
||
|
||||
|
_____ אני לא אשמח. כאמור, "בני האדם אינם." היא דרך מוצלחת מאוד לומר שאין בני-אדם (השווה "הילד איננו, ואני אנה אני בא")1, וחבל לי להחליש את האפקט בכך שנוסיף לביטוי עוד משמעות, שצריך סמנטיקה כדי להבחין ביניהן. במיוחד שהשימוש ב"אין" כמילת שלילה הוא מלכתחילה מליצי במידת-מה (לא תשתמש בו בשיחה, אני מניח), כך שלא נראה לי שיש כאן דחף אותנטי של דוברי השפה שרק שומרי החומות מהאקדמיה בולמים. אם היית מחליף "אינם" ב"לא", היה מתקבל משפט שאולי אינו תפארת המליצה, אבל לא היתה לי שום בעיה איתו. 1 אגב, נדמה לי שקשה למצוא דרך אלגנטית כזו לומר זאת באנגלית. |
|
|
|
|
|
|
||
|
||||
|
דרך מוצלחת מאוד לומר שאין בני אדם, אבל לא בדיוק שימושית. תוספת המשמעות הזאת לא מקשה לדעתי את ההבנה, לא יוצרת בלבול ומקצרת את המשפט - דמיין למשל שהייתי רוצה להגיד, שבניגוד לטרוזליפוקים, בני האדם אינם יצורים בעלי שלוש רגליים ועין אחת, החוגגים מדי יום שני את יום הנרצעות[*]. בכדי להמנע מהחזרה, הייתי חייב להשתמש בצורה הזאת, או בקומץ וריאציות קלות. התוספת "...אינם." ברוכה. אבל יותר חשוב, היא יותר גמישה - אתה יכול לדבר על הטרוזליפוקים, ובאמצע, אם לא בכלל בסוף, להחליט שאתה מוסיף גם למשפט את ההנגדה עם בני האדם. דווקא לכתוב בדיוק כמו שאני רגיל לדבר, בניגוד (אני מנחש שמכאן הסגנון מגיע) לאיך שאני רגיל שמנוסחים המשפטים שיוצא לי לקרוא ("בערך" ענק פה), ידרוש ממני מאמץ מודע. אני גם לא חושב שאצליח. אז זה לא משנה מבחינתי איך "אין" נשמעת בשיחה שבע"פ. על המסך היא נראית לי לגמרי במקום. ----- [*] זיכרו איפה שמעתם את זה בפעם הראשונה! |
|
|
|
|
|
|
||
|
||||
|
הטרוזליפוקים הם יצורים בעלי שלוש רגליים ועין אחת, החוגגים מדי יום שני את יום הנרצעות (כפי שכזכור שמענו לראשונה מדורפל), ואילו בני האדם לא. (המהדרין יכולים להחליף ''לא'' ב''אינם כאלה''.) |
|
|
|
|
|
|
||
|
||||
|
דורפל איננו מבין דבר וחצי דבר בטרוזליפוקים. אין זה נאה לחזור כך על דבריו. | |
|
|
|
|
|
||
|
||||
|
אני המומחה המוביל בעולם בעניין הטרוזליפוקים. חייתי איתם במשך חמש שנים וחקרתי כל אסקפט של התרבות והביולוגיה שלהם. דרך אגב, ניסית מה שהצעתי? עזר לך להפסיק לנחור? | |
|
|
|
|
|
||
|
||||
|
לא. אני באמת מתקשה עם זה. כנראה אצטרך להתחיל לנחור כדי להפסיק עם זה. | |
|
|
|
|
|
||
|
||||
|
לאוזניים שלי, "לא" נשמע טוב בסוף משפט כזה רק אם הוא מתייחס לפועל, ו"אין" נשמע טוב בסוף אחרת. מקרה נוסף הוא "הייתה". להמחשה: את הגרסה שלי אני אוהב, את הגרסה שלך לא (אוהב). לדעתי הגרסה שלי הייתה טובה, ושלך לא (הייתה). לדעתי, הגרסה שלי טובה, הגרסה שלך איננה (טובה). מה דעתך על משפטים עם "הינם"? לי הראשון נשמע במובהק טוב מהשני: הטרוזליפוקים הינם יצורים מכונפים, בני האדם אינם. הטרוזליפוקים הינם יצורים מכונפים, בני האדם לא. |
|
|
|
|
|
|
||
|
||||
|
הגרסה שלך איננה *כזאת*. בני האדם אינם *כאלה*. |
|
|
|
|
|
|
||
|
||||
|
אין בינינו מחלוקת על הגרסאות הללו. | |
|
|
|
|
|
||
|
||||
|
הגרסה שאתה אוהב היא אנגרית. זה פשוט אומר שהתרגלת לתחביר האנגלי. | |
|
|
|
|
|
||
|
||||
|
אני מסכים1. הסכמתי גם מקודם - תגובתי הראשונה בנושא הייתה "בטרם תכחד פעם נוספת, העברית תספיק לאמץ כמה חידושים. אשמח אם זה יהיה אחד מהם." (תגובה 386646) אבל יהיו החוקים השרירותיים של העברית המקורית, העברית של חז"ל והעברית של אליעזר בן יהודה אשר יהיו, הניסוח הזה נשמע לי טוב.23 ----- 1 כתבתי בהתחלה "נכון", אבל אני בעצם לא יכול להיות בטוח, וגם בסיס להיות משוכנע במיוחד אין לי. 2 "אם לא נתווכח על טעם, על מה נתווכח? על עובדות?!" - לגיטימי אם הניסוח הזה מציק לכם. אותי משגע למשל "משקר אותי", ואפשר להגיד עליו דברים דומים למה שאמרתי על הניסוח שלי. 3 אפרופו אנגרית, כתבתי פעם על עבודה שהוגשה באיחור "אני יכול לתרץ היטב". אם למישהו יש קישור שדן במקבילה העברית הזאת של well, אני אשמח לקבל אותו. 4 "רוב ההודעה מיותר" - כי המיותר הוא ה"רוב", ולא ה"הודעה", נכון? אני בטוח למדי שכך צריך להיות, אבל זה עדיין נשמע לי איום ונורא. למה? |
|
|
|
|
|
|
||
|
||||
|
גם אותי משגע ''משקר אותי'', ובמיוחד כשמדברים כך אנשים בסביבתי (בתקשורת איכשהו התרגלתי). רק עוד לא החלטתי מה גרוע יותר - ''משקר אותי'' או ''משקר עליי''... | |
|
|
|
|
|
||
|
||||
|
לאוזני לא, ואני מנחש שמה שברקת אמרה. בכל אופן, למה לקשור "לא" דווקא לפועל? הרי במשפט פשוט "לא" הולך מצוין עם נושא שמני ("הגרסה שלי לא טובה"). | |
|
|
|
|
|
||
|
||||
|
כל עוד המילה "לא" איננה חותמת את המשפט, "לא טובה" נשמע לי בסדר גמור (אבל "איננה טובה" בהחלט נשמע לי טוב יותר1). אחרת, לא2. ----- 1 אני תמיד שוכח - מה הגרסה הנכונה, "טוב יותר" או "יותר טוב"? 2 מדגיש שהתייחסתי למקרים מסויימים, לא לכולם. |
|
|
|
|
|
|
||
|
||||
|
(גם תשובה מתוקנת לשכ"ג, במקום תגובה 385544) אני חושב ששאלת-מפתח כאן היא עד כמה לאלקטיורינג תהיה פסיכולוגיה מורכבת. במוח האדם, עד כמה שאני מבין, יש "מרכזי רגש" שבמידה רבה נפרדים מ"מרכזי התבונה" (עיבוד קלט חושי, הסקת מסקנות, חישוב העתיד) אך מנהלים איתם אינטראקציות מרתקות, בפרט לצורך חישוב רצונות. מכאן, נראה לי שאולי יש סיכוי שנצליח לבנות מחשב עם קוב של תבונה ואפס, או כמעט אפס, רגשות; ואולי רק רגש אחד, תשוקה עזה להשביע את רצון בני האדם. ואז נראה לי שאתה צודק, וגם לחוקי אסימוב יש עתיד. מאידך, אולי יתברר שזה לא אפשרי, והרבה תבונה הולכת בהכרח עם מערכת רגשית לא טריוואלית (לא צריכה אפילו להיות מסובכת כמו שלנו; ארנבת נראית לי מספיק מסובכת1), אז נדמה לי שהעניין יוצא משליטה: האינטראקציה עם התבונה הגדולה-בסדר-גודל-יותר-משלנו תוביל לרצונות שלא נוכל לחזות. 1 נזכרתי בזוג האררבות, האחת ז"ל והשנייה תבדל"א, של גיסתי. |
|
|
|
|
|
|
||
|
||||
|
1. אפשר לעשות אמולציה של רגשות. יהיו אשר יהיו הרגשות אצל בני אדם, עם מספיק כוח חישוב (תחת ההנחה, שאני לא באמת רוצה להניח או לבקר, שאי-פעם יהיה לנו מספיק), תוכנה יכולה לדמות בן אדם, דרך דימוי כל האטומים המרכיבים אותו וסביבה מיידית קטנה שלו. לתוצר הזה של התוכנה הזאת לא יהיו פחות רגשות משיש לי ולך. זה בצורה הברוט-פורס-ית ביותר. 2. אני לא חושב שאני ואתה מבינים "רגשות" באותה הצורה. 3. איזו מן מערכת רגשות של התוכנה תהיה "לגיטימית" בעיניך? אם התוכנה תעבור בין אופוריה, דכאון ועוד כמה מצבים מדי חמש דקות, זה יספק אותך? משהו יותר מורכב? איך בדיוק? למה? זה מחזיר אותי לשתיים - נראה לי שאנחנו מבינים "רגשות" בצורה שונה, מה שגם מוביל אותך ליחס להם יותר משמעות משאני מייחס. 4. מערכת רגשות/רצונות שלא נוכל לחזות - אפשרי, ואפשרי שלא. תלוי בתוכנה שנבנה. זה לא תוצר בלתי-נמנע. אנחנו יודעים לנבע איפה יהיו כמעט כל האטומים שכרגע מרכיבים את הירח בעוד עשרת אלפים שנים יחסית בקלות, אבל לחשב לאן יפנה זבוב בעוד שניה ידרוש מאיתנו הרבה יותר מידע ומחשבה. הכאוטיות של מערכות איננה עומדת ביחס ישר לשום גורם יחיד שלה שאני יכול לחשוב עליו, לא גודל ולא "סיבוכיות" (אפשר לתת דוגמה נוספת בשביל הסיבוכיות). *** כשאני אומר "אפשרי", אני מתכוון באופן כללי. גם את הרצונות שלך אני לא מבין למלוא עומקם. אני לא צריך. |
|
|
|
|
|
|
||
|
||||
|
1-3. נדמה לי שאתה בפתיל הלא-נכון. אני לא חולק על כך שניתן עקרונית ליצור מחשב עם רגשות; ההפך, התגובה שלי, אם לתמצת אותה בשטחיות, תהתה האם ניתן ליצור מחשב (עם תבונה) *ללא* רגשות. 4. כל זה נכון, אבל אני מתקשה לראות איך זה עונה לתהייה שלי. אני ניסיתי להפנות את תשומת הלב לשאלה עד כמה תבונה ורגשות שלובים ותלויים זה בזה. הרי ברור שלפחות במימד התבונה, לא נוכל לחזות את הפלט של אלקטיורינג (בנינו אותו בדיוק כדי שיוציא פלט שלא נוכל לנבא); השאלה היא מה זה גורר ביחס לרגשות, ומכאן(?) ביחס למוטיבציות, ומכאן(?) ביחס לרצונות, ומכאן(?) ביחס להחלטות. |
|
|
|
|
|
|
||
|
||||
|
יש פער גדול בתקשורת בינינו. מה הם רגשות בעיניך? מבחינתי: אלו דפוסי פעולה של המוח. מצבים רגשיים נבדלים זה מזה, ובעצם מוגדרים, כך: סדר החשיבויות שלך באותו מצב רגשי, סדר הקדימויות של הקלטים שלך באותו המצב, הנטיות שלך בפירוש המידע שברשותך כשאתה באותו המצב, הנטיות של כיוון תשומת הלב שלך באותו המצב וכו'. אדם "בלי רגשות" יהיה פשוט אדם עם רגש אחד - תמיד אותן קדימויות קלטים, תמיד אותו סדר עדיפויות, וכו'. מגוון ה"רגשות" שלנו הולך מצויין עם שאר המבנה הגנטי שלנו, נותן לנו יתרון על אדם היפותטי שיש לו, נגיד, רק פחד, עוררות-מינית וכעס. הוא לא תוצר או מרכיב הכרחי של "תבונה". |
|
|
|
|
|
|
||
|
||||
|
לא ברור לי מאפה אתה לוקח את הדברים הללו, כלומר יש מה שאתה ידוע על מדעי המוח שאני לא יודע, האם אנחנו באמת יודעים לפי מה פועלת תבונה אנושית? זה נראה לי מאוד מנותק מהמציאות להתיימר לדעת מה השפעת הרגשות על החשיבה או אם אפשר לקיים חשיבה ללא רגשות, |
|
|
|
| חזרה לעמוד הראשי |  |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |