בתשובה לערן בילינסקי, 25/03/02 11:00
 |
|
 |
||
|
||||
 |
טרם החלטתי אם רצון האדם להיות אלהים הוא טבעי, יומרני, בלתי נמנע או עגמומי משהו. מכל מקום, הכל חוזר לאותה נקודה פשטנית ואמיתית: יש הבדל בין לבנות ללדת, נקודה. האדם הראשון נולד בכל דרך שאתה מאמין בה, ולא ע"י אדם. אדם מתכנת את הרובוט. אדם יכול לגרום לו לבנות עוד רובוט. ודאי שזה איננו מטען גנטי- הוא לא ישתנה לעולם אם לא תשנה אותו, הוא לא צריך עזרים חיצוניים, ברצותך אתה יכול לשנות אותו מן היסוד, ברצותך להעלים, להכפיל, לשלש.זו לא תכונה שעוברת בגנים, אלא תוכנה. האבחנה "מי בנה" היא עקרונית, כי כבר ציינתי- אדם לא יכול לברוא חי יש מאין, כשהוא יוצר משהו זה בהכרח לא משהו חי. משהו חי נולד בהכרח מחי אחר, והוא נושא מטען גנטי מולד, בלא התערבות. שלא לדבר על זה שהרובוט, כפי שציינתי, לא ממלא את הפונקציות של "חי" (חילוף חומרים, נשימה וגו,) ולכן הוא לא "נולד", כמובן. ב.היא נוצרה, ולא ע"י אדם. כעת היא מולדת. את הרובוט בנו פעם, מחר אפשר לפרק אותו, מחרתיים- שוב לבנות מחדש. אתה יכול לקחת את הרובוט הנוכחי, לשחק לו בקרבי המתכת ולגרום לו מעכשיו ללדת ארטיקים. אתה צופה שזה אפשרי אצל משהו חי? אפשר לשחק בגנטיקה, כמובן, אבל א: יש עם זה בעיה מוסרית, בהתאמה לדיון זה. ב. הגנטיקה לעולם לא נעלמת. יצור חי מכיל מטען של שנים שאי אפשר למחוק, הם יבואו לידי ביטוי בדורות ההמשך שלו. נכון, אתה יכול לתכנת את הרובוט לזה, אבל אני אוכל לתכנת אותו פתאום למשהו הפוך. ה"משהו" החי מתבטא בכשרונות מולדים שהם תוצאה של נטיקה, בתכונות אופי, בתוי פנים, בנטיות הלב. תכונות הרובוט אינן "מטען גנטי" לא בהגדרתן המדעית ולא ביכולתן המעשית. |
 |
 |
 |
|
|
|
||
|
||||
|
ההגדרה שלך ל"משהו חי" מכילה את ההנחה ש"חי נוצר מחי אחר". ההגדרה הזו היא בעייתית עד לא-מקובלת כיוון שהיא מכילה הנחה על נצחיות החיים ביקום (או לחילופין, התערבות חוץ-טבעית למשל אליבא דספר בראשית). לעניין הרובוט. ברור לי שהתוכנה שבתוכו אינה DNA אולם היא מתנהגת כמו חומר גנטי - היא מכילה, בין השאר, את ההוראות הדרושות לשיכפולה. עדיין איני מבין מדוע השאלה "מי בנה" היא עקרונית. אם לחזור להגדרה המקורית שלך מכאן: תגובה 62464 "אם המחשב שלך ילד במזל טוב מחשבון כיס או משהו, והלה יוכל להתקיים בלי קשר ליד אדם שתכניס אותו לשקע וילך לצוד את מזונו בפיצריה הקרובה ויחשב דברים שלא יד אדם נטעה בו, אזי אני צופה שני דברים- הוא ייחשב לייצור חי אף תבוני" אזי הרובוט שלי עדיין נחשב ליצור חי (אך לא תבוני, לא ניסיתי שהוא תהיה תבוני אע"פ שאפשר לתקן את זה גם על פי ההגדרה שלך, שהיא לוקה משהו בהגדרתה את "תבוני"). הרובוט מייצר בעצמו מחומרים הנמצאים מסביבו את "בנו" (כמו שהילוד הוא בסופו של דבר תוצר של גוף האישה וחומרי המזון שלה) אין יד אדם שמכניסה אותו לשקע (ההורה שלו חיבר אותו לשקע) והוא מקבל את מזונו מהסביבה (שקע החשמל שקול בעיני למזון, כמו האור הנחוץ לפוטוסינתזה אצל צמחים או החמצן שאנחנו נושמים) ולכן לפי הגדרתך אני עדיין חושב שהוא חי. אולי הבעיה היא פשוט בהגדרה שלך? נראה לי שבפסקה המסיימת את מערבת דברים שאינם ממין דיון זה בינינו (סוגיות מוסר וגנטיקה), לשם מניעת ביזור אני מעדיף לעזוב את השאלות המוסריות כרגע בצד ולהתרכז ברעיון המקורי שהבאתי - הרובוט שבונה העתק של עצמו. אציין גם שאת גולשת מ"חיים" ל"חיי אדם" ("כשרונות מולדים"? "תווי פנים"? אצל אמבות?) מה שמקשה עלי לענות לך. |
|
|
|
|
|
|
||
|
||||
|
באחת התגובות שאחרי ההגדרה (לדעתי גם בשורה שלפניה) ציינתי שא. אינני מדענית וב.זו לא הייתה הגדרה מושקעת במיוחד, אלא חלטורה שנועדה להבהיר נקודה. כיון שכך, אפשר בקלות להפריך אותה ואני לא אתעקש עליה, עם זאת מה שאתה עושה איננו בעיני ההפרכה הראויה. ודאי שהחיים, בצורה כלשהי, הם נצחיים. קראתי בתמיהה שאתה חולק על זה, אבל נניח והם לא- אוקי. אם חי לא יפרה את החי, הרי שלא יהיו חיים. ודאי שהבונה הוא עקרוני- הרי מלכתחילה ציינתי שהמושג ''חיים'' הוא חמקמק, איננו בר הגדרה (ולא צריך להגדיר אותו) ומאידך אין גם שום אפשרות לאדם ליצור אותו. הרובוט המקורי שלך הוא נצחי, מה שכבר מוציא אותו מההגדרה שלי. השקע אינו מקביל למזון כיון שאם תנתק אותו לאלף שנה ותחבר מחדש הוא יקום לתחיה פלאים, כיון שהוא אינסופי- זו איננה מערכת חיה. בנוסף, אור השמש הוא טבעי, כנ''ל צמחים. ''חשמל'' איננה סביבה טבעית אלא מלאכותית, אתה לא יכול להגדיר ''מקור חשמל'' כסביבה טבעית של ''רובוט''- ברור לך שאתה חייב ליצור את שניהם. לא יהיה להם המטען הגנטי שלך ולא יהיה להם קיום בלעדיך. גם קיומם הנוכחי הוא בר שינוי בכל רגע נתון. זה ההבדל בין ''לידה'' ל''יצירה''- (אחד ההבדלים) אתה יכול לשנות סוף לסיפור, צבע לרובוט ופונקציות של מכונת קפה, הנולד שהוא חי איננו (אם לא נתבזר לפסיכולוגיה זולה) בר שינוי. |
|
|
|
|
|
|
||
|
||||
|
אני שב ותמהה על הגדרת נצחיות החיים (שלך היא משום מה מובנת מאליה). כדי שהחיים יהיו נצחיים נדרש שהיקום יהיה נצחי. למה הדבר דומה? אחת מהתיאוריות על היווצרות החיים דיברה על "הקיום המוקדם של הנבטים" (פרפורמציה בלעז) כלומר בגופה של האישה הראשונה (חווה אימנו לצורך העניין) היו ביציות. בתוך כל ביצית "נקבה" הייתה מקופלת אישה ובתוכה ביציות קטנטנות וכך הלאה. התיאור הזה העמיד בעיה - או שהחומר ניתן לחלוקה אינסופית או שמספר הדורות האפשרי הוא מוגבל. כמוהה גם ההגדרה ש"חיים נוצרו מחיים". או שהמשמעות היא שהיקום הוא ניצחי ללא התחלה וסוף (מקביל לחלוקה אינסופית של החומר) או שהוא סופי ואז יש צורך להסביר את החיים הראשונים, כנראה על ידי בריאה (שלא יכולה להיות הסבר מדעי, וראי ההסבר שלי לאחרונה בדיון עם שלום). בכל מקרה, האמירה "חיים נוצרו מחיים" היא בעייתית במסגרת מדעית. את גם כותבת "אם חי לא יפרה את החי, הרי שלא יהיו חיים" מה שאינו נכון ודובי כבר ציין זאת מקודם - ישנה רבייה אל-מינית. ברור שההגדרה של חיים היא חמקמקה, אבל ככה לוותר? גם הקביעה הקטגורית "אין גם שום אפשרות לאדם ליצור אותו." דורש הוכחה, ואני ממליץ לך לשוב למאמר, במיוחד לקטע על הניסוי של מילר ב- 53' ולקרוא. אני אמנם הרבה יותר פסימי מכותב המאמר בקשר לאפשרות לעבור מחומצות אמינו לתא שלם אבל איני פוסל זאת קטגורית (וללא ביסוס אגב) כמוך. (וחוצמזה, את לא משתפת פעולה בכותרות...) |
|
|
|
|
|
|
||
|
||||
|
(נשבעת לך שהתכונתי, פשוט מיהרתי נורא) נצחיות החיים לא מובנת לי "משום מה" אלא שלדוסים החיים יותר פשוטים (כמובן שלא).אני מוכנה לזרום עם תיזת היקום הלא נצחי- אז הוא נוצר, מתישהו, איכשהו. כיוון שאיננו יודעים איך אני מציעה שההגדרה תתבסס על סך כל המקרים שכן ידועים לנו. עד היום בכל המקרים בהם נוצרו חיים הם נוצרו מחיים אחרים. ביום בו ייצור האדם משהו חי אני אתכדרר לי בפינתי בשקט. אני חוזרת על מה שצריך הרך הנולד להכיל: א.הוא צריך להיות תוצאה של הפריה. כלומר- נייר קופי לא לוקח. ייצור חי הוא תוצר של מערכת רביה. כמובן שיש בעיה לוגית עם להוכיח שיצור חדש הוא תוצאה של מערכת רביה, אבל זו אינה הבעיה שלי, כיון שאני טוענת שהאדם לא יכול ליצור חיים חדשים. שים לב- עד היום לא ידוע על חי שנוצר בלי אמא. נשאיר את שלא ידוע וניצמד להגדרה. הלאה: ב. הוא חייב לנשוא מטען גנטי. גנים אי אפשר לשנות, כלומר אם לרובוט אלכס היו גנים מסוג איי שאיפשרו לו מספר קומבינציות של פעולות, זה חייב להיות מטען נצחי- כלומר הוא יכול להשתנות בצורות המוכרות לנו, אבל הנכדה של אלכס צריכה להיות נשאית של תולדת הגנים שלו. אם אני מסוגלת להפוך את הגנים של אלכסית (בתו של אלכס,סבתא של ויקי) בצורה שתשמיד כל סיכוי להתבטאות שלו אצל ויקי (ותהפוך אותה, נאמר, ממכונת אספרסו למזכירה אלקטרונית) הרי שעם כל חיבתי למזכירות אלקטרונית (NOTׂ), אלו אינם גנים. ואם תאמר "אני אתכנן אותו כך שלא יוכלו לשנות אותו" אומר לך, שאני אבוא בלילה ואתכנן שכן. פלאי הטכנולוגיה. ג. הוא חייב להיות בר תמותה. "לנתק מהחשמל" לא תופס. בר תמותה, כלומר שאין שום דרך להחזיר את אלכס הישן והאהוב. שים לב- לאתחל מחדש איננה אופציה. למיקרוב הכי זעיר יש מטען שמייחד אותו ובלתי ניתן לשחזור. ד. חי הוא כל שנשמה באפו. "נשימה"- לאו דוקא אויר, אבל כל החיים הידועים לנו ניזונים מחומרים טבעיים. אני מסרבת לקבל את ההקבלה של חשמל לאויר- אם תנתק רובוט מחשמל הוא יפסיק לפעול ותוכל לאתחל אותו. "כמו אויר לנשימה"- לצרוך אויר באופן רציף, בלי אופציה להפסקה (או רק הפסקה מוגבלת), ובלי אפשרות להחליף את סוג האויר. המושג "חי" הוא טבעי, ולא בכדי. הטבע מספק דרכי נשימה לברואיו, האדם- מקור אנרגיה למכונותיו.לכנות מכונה מעשה ידי אדם השואבת אנרגיה ממכונה מעשה ידי אדם "דבר חי" עשוי לגרור הקמת מפלגה של שואבי אבק (רובוטים עקרים?) ומדחני חניה, בהנהגתו הבלתי מעורערת של הפרפטאום-מובילה. ה. חיים עשויים חומר אורגני. תגמור את זה, תקבל עוד! |
|
|
|
|
|
|
||
|
||||
|
קצת מוזר שלפני שתי תגובות קראת שלא להגדיר חיים וטענת לאי-אפשות להגדיר אותם, ואילו כאן את מתחילה להביא קריטריונים להגדרה. נו, נסלח לך על זה. אני גם לא מקבל את הטענה בזכות ההגדרה ע"פ "חיים המוכרים לנו" בלבד.זו אחת מהבעיות בהגדרה שלך, ואני מפרט. א. משהו חי אינו חייב להיות תוצר של הפרייה. יצורים חד תאיים מתרבים על ידי התחלקות. צמחים מתרבים ע"י ריבוי וגטטיבי. ב. אני מבהיר שאני מרחיב את המונח "מטען גנטי", אין שום סיבה להתחייב דווקא על סליל הכפול כאמצעי זיכרון. ג. גם על ההגדרה של "בר תמותה" יש מחלוקת, בעיקר מכיוון הנגיפים. ד. אני אני מסכים שחילוף חומרים כלשהו עם הסביבה הוא כנראה תנאי לחיים, ולו כאינדיקציה ללהיות "לא דומם". ה. זו כבר הגדרה שאינה מקובלת. אמנם החיים בכדור הארץ הם מבוססי חמצן, אבל אין סיבה לכפות את זה. אני לא שולל חיים מבוססי גבישים כלשהם (צורן הועלה מספר פעמים כהצעה). אגב, הניסוח "חומר אורגני" הוא מעגלי משהו, שהרי מהו חומר אורגני? חומר שיכול להוות בסיס לחיים. |
|
|
|
|
|
|
||
|
||||
|
אמרתי שמיותר להגדיר "חיים". המחבר הציע שגם דוממים יצטרפו להגדרה, ולכן זרקתי הגדרה כלאחר יד לפיה דומם לא יהיה לעולם חי. ההגדרה נכונה, אני עומדת מאחוריה, אך חסר בה המרכיב הלא מדעי, האינטואיציה, הבטן, הידיעה האכסיומיות האנושית (שלשום רובוט לא תהיה לעולם). אני טוענת שהאבחנה בין חי לדומם איננה ברת אבחנה כי תמיד ימציאו חכמולוגים שיוכיחו או יפריכו ועדיין החי יהיה חי והמת-מת.אני לא באמת סבורה שאתה מאמין שהרובוט שלך חי. אם תפריך את ההגדרה שלי (מה שטרם עשית) אני אמציא עוד אחת. אז מה יש? א. הצמח הוא מופרה ועוד איך, ובין כה יש לו קטגוריה נפרדת. היצורים החד תאים - מה גורם להתחלקות? בלי תהליך הפריה? אני לא יודעת על זה כלום. ב.אתה לא מרחיב אותו, אתה משנה אותו. אני יכולה להרחיב "גנטי" כך שיכלול צוואות וירושות. ג.נגיפים מתים! ה. טוב, את זה דביר אמר לי. ניסיתי. אני מסכימה שזה בעייתי. |
|
|
|
|
|
|
||
|
||||
|
א. גילית (כשאני פונה בשם פרטי סימן שציפיתי שתחפשי לבד מה זה "ריבוי וגטטיבי"), אנא פתחי ספר ביולוגיה תחת המונח "ריבוי וגטטיבי". את יכולה לכרות חלק מצמח (ענף למשל), להנביט אותו במים ולקבל צמח חדש (אלא אם כן את מוסיפה להגדרה של "בעל חיים" את היכולת להיות בעל יותר מחלק אחד נפרד). עשיתי את זה כבר בעצמי מספר פעמים (אני גנן חובב?). התהליך הזה גם קורה בטבע. ב. ואם דביר (ד"ש לבחור, אגב) אמר לך שחיים יכולים בעלי אופי גבישי, אז לאותם חיים כנראה שלא יהיה DNA. מקובל? ג. הכוונה הייתה לכך שנגיפים אינם מוגבלים באורך חייהם. הם יכולים לעבור למצב של נבג ולהישמר כנראה ללא הגבלה. |
|
|
|
|
|
|
||
|
||||
|
א. צודק, אני בורה ועצלנית כאחד. אמא אוהבת אותי גם ככה (: . מכל מקום, צמחים לא מטרידים את ההגדרה שלי כי הם תת קטגוריה (למרות שהאבוקדו שלי ז"ל די מפריך את השיטה). ב+ג. לא, אני כאמור לא מדענית ולא יודעת על חיים בעלי אופי גבישי. האם הנבג הוא חי? לדעתי לא, ממש כשם שביצית אינה חיה. אבל הנקודה העקרונית יותר היא זו: (ואלו שקצו בנושא מוזמנים לזפזפ ל"ואללה"): הכותב ניסה לשכנע כי דומם יכול להיות חי, אך מטרתו (הבלתי מוצהרת?) כפי שהבנתי ממנו ומעוסקים אחרים בנושא, היא לא להוכיח כי רובוט הוא קטגוריה נוספת של חי, אלא כי דומם יכול להיות *אנושי*. אין זה משנה, אם כן, אם נתעמת עם ההגדרה ונוסיף או נוריד ממנה פרמטרים- ארז מאמין כי תגיע פריצת דרך והבינה המלאכותית תוכל לתפקד כבינה אנושית. אני כופרת בכל ההשערה מתוך אמונה במושגים מופשטים ומורכבים מהם עשוי החי, ויותר מכך- האנושי. כיון שכפרתי בתוצאה אני כופרת גם בהנחת היסוד לפיה מכונה עשויה להיות "חיה".יש המון יצורים בתחום האפור לחזק או להפריך את טענתך או טענתי (עדיין לא הפרכת אותה!. אני טוענת ששום רובוט לעולם לא ינהל את הדיון שאנחנו מנהלים, אני מקוה ומאמינה שרובוטים יעשו דברים נפלאים כמו להעניק שירותים שהם בגדר ניצול לבני אדם. חיים. אנושיים. |
|
|
|
|
|
|
||
|
||||
|
מתי בדיוק הוא אמר שהדומם יכול להיות אנושי? נבג אינו ביצית. נבג הוא עצמו היצור, מההתחלה ועד הסוף. כל שאר מה שדרוש לו כדי להתרבות זה משאבים חיצוניים. |
|
|
|
|
|
|
||
|
||||
|
ואם אני בונה רובוט שעובד על החשמל שמייצרים צלופחים, אז זה בסדר? זה טבעי! (איזה רעיון לסטרט-אפ! "חשמל אורגני"! מופק מ-free ranging eels! אני ארוויח מיליונים!) |
|
|
|
|
|
|
||
|
||||
|
גם אני טרם החלטתי מה הדין לגבי רצון האדם להיות אלוהים, אני רק יודע שבחרתי בצד שמנסה לגרום לזה לקרות. "הכל חוזר לאותה נקודה פשטנית ואמיתית: יש הבדל בין לבנות ללדת, נקודה." נקודה? "אדם לא יכול לברוא חי יש מאין, כשהוא יוצר משהו זה בהכרח לא משהו חי" מה זה החי שאדם לא יכול לברוא? ומה הוא בהכרח כן? "אדם מתכנת את הרובוט. אדם יכול לגרום לו לבנות עוד רובוט. ודאי שזה איננו מטען גנטי- הוא לא ישתנה לעולם אם לא תשנה אותו, הוא לא צריך עזרים חיצוניים, ברצותך אתה יכול לשנות אותו מן היסוד, ברצותך להעלים, להכפיל, לשלש.זו לא תכונה שעוברת בגנים, אלא תוכנה." תרשי לי לספר לך על אלגוריתמים גנטיים. זוהי שיטה קיימת בתכנות שמדמה אבולוציה לפתרון בעיות מבעיות שונות. כותבים תוכנה ונותנים למחשב חופש מסויים לשנות אותה באקראי,לעשות בה "מוטציות" אם תרצי, וכך נוצרות המוני גרסאות שונות שלה. המחשב בוחן אותן עפ"י קריטריון השרדות מסויים, ורובן יכשלו באופן מביך, אבל חלקן יצליחו, וכוח הסלקציה בניצוחו של המחשב יבחר במוצלחות וימשיך לערבל אותן. מ"דור" ל"דור" התחרות בין הגרסאות תגדל, ולכן הן ישתפרו וישתפרו (במה שזה לא יהיה שהן אמורות להצליח לעשות). במודלים מסויימים ניתן גם "להכליא" שתי תוכנות מוצלחות, וליצור תוכנת בת שיהיו לה מאפיינים השאולים משני ההורים ואולי היא טובה משתיהן. עכשו בואי ניקח את סאגת הרובוטים המצויינת של ערן, אבל ניתן להם תוכנה מהסוג שתארתי. בנוסף לבניית רובוטים ניתן לרובוט גם עוד כמה כשרונות, שיהיה מעניין: הוא גם יכול ללכת, לפלוט סדרה מוגבלת של צלילים, לנתח סדרה של צלילים בסביבתו, ולהשמיד את עצמו בפיצוץ עז. כדי לבטל את תלותו בנו, נאמר כי מקור הכח של הרובוט הוא סולארי דרך התאים הפוטואלקטריים על הגבות שלו. עם הזמן, הרבה זמן, נראה תופעות מעניינות: חלק מהרובוטים יתחילו לבנות יותר מרובוט אחד ויצרו קהילה. חלק גם יוותרו על הפירוק של "אבא", מה שגם יוסיף לגדילת הקהילה. קהילות בהם תכונת ההשמדה העצמית תהיה פופולרית יגיעו לסיום מצער, קהילות שידכאו נטייה זו ילבלבו. כמות החומרים לבניית רובוטים מוגבלת (כמו כל דבר טוב), ועם הזמן ילכו וידלדלו מקורות החומר לבניית רובוטים כי כמה קהילות גדלו והתבססו. תתפתח תלות בחומר גלם לגדילתה של קהילה, אבל פיצוץ מזדמן יספק חומרי גלם של הרובוט ושל כל מי שהיה בסביבתו. קהילה מסויימת עשויה לשלוח "מחבל מתאבד" לפוצץ עצמו בקהילה שכנה, ואז יהיה אפשר להרכיב מחורבותיה עוד "ילדים". אבל איך מזהים קהילה זרה ונמנעים מפיצוץ הקהילה העצמית - תקשורת צליל מנוונת, איזה זמזום מעכב או מאקטב פיצוץ. חלק מהקהילות יעלו על הטריק הזה ויפתחו מנגנון התרחקות מרובוט שנשמע זר. אחר כך יתחילו להופיע חקיינים המשמיעים דפוסי זיהוי של קהילות זרות. יתכן שרובוטים מסויימים יהיו אינדיבידואליסטים ויתרחקו מ"בני מינם" ככול האפשר. אלו אמנם לא יקימו קהילות אך, בהנחה שישרדו, יפיצו את "בשורת" התוכנה שלהם הכי רחוק והכי מהר. להמשיך? נשמע לי כמו חיים. הם ניזונים (שמש,חומר גלם),מתים (מפיצוץ) יוצרים קהילות, מתקשרים ומשתפרים עם הזמן. אז מה אם אני בניתי את הרובוט הראשון, אז מה אם התא הראשון נוצר במקרה, עכשו כדור השלג מתגלגל, ומי יגיד לאן. בקשר ל"הגנטיקה לעולם לא נעלמת. יצור חי מכיל מטען של שנים שאי אפשר למחוק" לא מסכים, אבל בפעם הבאה.(נשחקו לי האצבעות) |
|
|
|
|
|
|
||
|
||||
|
אני ממש לא האדם לנהל איתך את הדיון הזה, אין לי ידע בנושא למעט זה שתתרום לי אתה, כך שזה "לא כוחות". תרשה לי בכל זאת, לפי התרשמות בלתי מקצועית בעליל: א. אוקי, אז המוטציה שלך משוכללת יותר מזו של ערן. איך זה פותר את הבעיה הבסיסית שהייתה לי עם זה, והיא- אני יכולה בכל רגע נתון לשנות את כל המטען הלכאורה גנטי הזה, ולהחזיר את הקהילה המשגשגת לקהילת מוטציות של מחדדים? אני אוכל לתפוס ילד רובוט ולהשתיל בו רצון ויכולת לחסל את כל הרובוטים, למשל. זהו איננו מטען גנטי המשכופל באופן טבעי, זו יצירה מחוכמת שברצותך תמיר ביצירה מחוכמת יותר. ב. מוות מפיצוץ- זה לא מות. זה פירוק. פירוק אפשר להרכיב. חוצמזה יהיו רובוטים שיהיו קיימים לנצח. מה שחי הוא בר תמותה גם בלי רובוטים שיעיים. גם "להרכיב ילדים" בעייתי לי. ג.כל מה שאתה אומר הוא תיאורטי בלבד. אפשרי בכלל ליצור רובוטים המשכללים תכונות עד כדי להחליט החלטות קהילתיות? כאילו,איך הם ידברו אחד עם השני ויקבלו החלטות חברתיות? מה זאת אומרת "גירסה משוכללת"? רובוט עם יותר אורות? מי יחליט מה טוב או רע, אופטימוס פריים? מה שמוביל אותי ל ד. (ואל תתנפלו עלי, הוא התחיל, והוא כתב את זה אז מותר לו!) ע"מ לנהל חיי קהילה יש צורך בהגות, במוסר, בספרות, בדוקטרינות חינוך. הפילוסופיה לא מתפתחת בגרסאות משודרגות ולא עוברת במטען גנטי, כמו גם רגשות של קנאה (תיעלם במשודרג?), רכושנות, סלחנות, קנטרנות, געגוע. איך אפשר לפתח ברובוט תכונה שתגרום לו ממש להתעניין במה שהחברובוט מספר לו?ועוד המון שאלות שאתה יכול להעלות לבד. מתוך הנחה שאתה לא צופה שהרובוט יחליף את האדם האדם תמיד יוכל להפסיק את המכונה איכשהו (ולהחזיר אותה), ולו יהיו פה רק רובוטים, שאין להם סיבה למצוא תכלית לחייהם בני החלוף ולהלחם על קיום ראוי ומלא משמעות, ברגע שתהיה להם טיפת בינה הם ישבתו מפעולה בעצמם. לפי מה שתיארת, הם יהיו קהילת בובות כי הרגש הוא מאפיין של החיים, ולא בכדי "נשימה" ו"נשמה" הן מאותו שורש. לסיכום- גם הרובוטים שלך הם בני תמותה,חסרי מטען גנטי וחילוף חומרים, ואני לא רואה שום דרך בה הם יחיו בקהילה. הכי הרבה-אחד ליד השני. כל קידמה מתרחשת כשיש מביני עניין בעלי אמונה ברעיון ומוטיבציה חזקה מחד, ומאידך שמרנים סקפטים כמוני. בראיה אחרת- במקרים אחרים שמרו הספקנים על העולם מהמצאות מיותרות והרסניות, וספקני המדענים על ניתוב המחקר למקומות ראויים. אני מאמינה ביכולת טכנולוגי מופלגת, איני מאמינה ביכולת האדם ליצור חיים, או בצורך שלו לעשות כן. הרבה פעמים הגדרות מסתובבות סביב עצמן וחוזרות למודות תלאות לאינטואיציה הראשונית, לכן אני לא חושבת שיש צורך להגדיר "חיים". הרובוט שלך תמיד יהיה רובוט, אפילו אם תצליח לפרוץ את גבולות ההגדרה. |
|
|
|
|
|
|
||
|
||||
|
וואוו! בחורה שיודעת מי זה אופטימוס פריים... אנחנו לא כל כך שונים מהרובוטים: "איך זה פותר את הבעיה הבסיסית שהייתה לי עם זה, והיא- אני יכולה בכל רגע נתון לשנות את כל המטען הלכאורה גנטי הזה, ולהחזיר את הקהילה המשגשגת לקהילת מוטציות של מחדדים?" וגם הכוחות האקראיים שיצרו אותנו יכולים למלוק אותנו באסטרואיד או ברעש אדמה אדיר. "זהו איננו מטען גנטי המשכופל באופן טבעי" מה זה טבעי חוץ מתפיסה סוביקטיבית שלך שמסתמכת על מה שפגשת עד כה? "מה שחי הוא בר תמותה" מאיפה את יודעת את כל הדברים האלה? ועוד בכזו נחרצות? אם את אמנם יודעת לאשורו את כל שאת נחרצת לגביו, הרשי לי להקים לכבודך אשרם ולהיות לתלמידך. "אפשרי בכלל ליצור רובוטים המשכללים תכונות עד כדי להחליט החלטות קהילתיות?" אני חושב שכן. שוב, תלוי מה זה "להחליט". "הפילוסופיה לא מתפתחת בגרסאות משודרגות" אני דווקא חושב ששידרגנו את עצמנו לאורך ההיסטוריה ואולי עושים זאת ברגע זה ממש: מדוקטרינת חמורבי לחוקי ההלכה, מעבדות למהפכה הצרפתית, מהאינקויזיציה לתנועת ההשכלה, משוביניזם לפמיניזם, וכן במבנה החברתי מחמולות לתרבות שבטית לערים,ערי מדינה, אימפריות, מדינות, מעצמות, כפר-גלובלי. "רגשות של קנאה (תיעלם במשודרג?)" אנו תופסים קנאה כמו גם שנאה ואלימות כדבר מה שלילי, אך אולי ואף סביר שאין הדבר שלילי אלא אף מוסיף במאבק ההישרדות בו אנו מצויים. ולכן, מדוע שתעלם (או לפחות, כדי להשאר אופטימיים: זה לא טריוויאלי שתעלם) "ולו יהיו פה רק רובוטים, שאין להם סיבה למצוא תכלית לחייהם בני החלוף ולהלחם על קיום ראוי ומלא משמעות, ברגע שתהיה להם טיפת בינה הם ישבתו מפעולה בעצמם" תארת את אחד מהגרועים בפחדי. תעצרי ותחשבי מה את, והאין כל זה יכול להיות מצבך שלך. "לסיכום- גם הרובוטים שלך הם בני תמותה,חסרי מטען גנטי וחילוף חומרים, ואני לא רואה שום דרך בה הם יחיו בקהילה. הכי הרבה-אחד ליד השני." לסיכום- הרובוטים שלי בני תמותה או בני אלמוות (הדבר אינו נתפס בעיני כמחייב בחיים), בעלי מטען גנטי (שאינו כימי אך הינו מורש ונתון לשינויים), בעלי או חסרי חילוף חומרים (הדבר אינו נתפס בעיני כמחייב בחיים), וחיים בקהילה לא פחות מקהילת צפרדעים. "כל קידמה מתרחשת כשיש מביני עניין בעלי אמונה ברעיון ומוטיבציה חזקה מחד, ומאידך שמרנים סקפטים כמוני" הרב קוק התייחס לתופעת החילוניות שנולדה בימיו בחיוב וגרס כי אלו, ההחילונים, ישמרו את שומרי המצוות מחודדים ובמלוא חריפותם בנסיון למצוא מענה לקושיותיהם האפיקורסיות. הסקפטיות ההומאנית שלך, בשילוב עם החריפות שאת מפגינה, שולחת אותי בנתיבי המחשבה ועל כך , תודה. |
|
|
|
|
|
|
||
|
||||
|
הרגע שמתי לב שאתה עובד נורא קשה בלענות לכולם. לו הייתי הומאנית אמיתית הייתי כנראה מניחה לך, אבל אני נורא לא מסופקת מהתשובות שנתת. הרי מספר בעיות: א.מוות אינו שינוי גנטי. הוא לא עובר בתורשה. לפיכך טיעון הגנים שלי בעינו נשאר. ב. "טבעי"- כל מה שיכול להתרחש ללא התערבות מכנית של האדם. כבר ציינתי שהג'וקים מצפצפים עלינו ולא צריכים אותנו, והם יתרבו ויחיו גם בלעדינו. די אוביקטיבי, לדעתי. ג.כבר ציינתי, למען הסר דיונים תיאולוגים, בתשובתי לערן, כי ההגדרה שהצעתי ל"חי" מתייחס למתודת חקר של התייחסות לכל המקרים הידועים. ייתכן והברבור הבא יהיה שחור, אבל בינתיים כל מה שחי הוא בר תמותה. כיון שבלתי אפשרי להקים עתיד לא קיים אני מתייחסת למצב בהווה.גם פילוסופית אני סבורה שזה בדיוק מה שמבדיל בין חי לדומם, אין לי כלים (או זמן. פסח!) להוכיח את זה. ד.החלטות קהילתיות המבוססות על רגש. רוב ההחלטות הקהילתיות הן כאלה. אני לא מאמינה (בזה) ולכן ,בין היתר, השיחה מתקיימת. ה.לא נכון בעיני. פמיניזם לא יותר טוב, אוביקטיבית, משובינזים, הוא פשוט מתאים יותר למערכת המוסר הנוכחית. זה לא שדרוג שנובע מכך שהשתכללנו, זה שינוי. זה שינוי בתפיסה, שאני מסרבת להאמין שאי פעם תהיה למכונה. ו.קנאה אי אפשר למקם או להשתיל או תכנת. ראה סעיפים קודמים. ז.אין זה מצבי שלי, ולא של אף אדם. המוות גורם לנו להצדיק את קיומנו. אני משאירה דת בחוץ לרגע-אדם רוצה "חיים מלאי משמעות", כי כשהוא ימות אי אפשר יהיה להחזיר אותו. הוא דואג לחבריו, ילדיו, מכריו, הוא ערכי ואידאולוגי, הוא נלחם על עיצוב פני התקופה. לרובוטים שלך לא יהו כל הצרכים האלה- הם נצחיים ונטולי רגש. ח.והכי חשוב- הצעתי הגדרה ל"חיים". ענית לי שבעצם הפרמטרים שלי אינם הפרמטרים שלך. אז לפי הפרמטרים שלך רובוט יכול להיות חי. אני יכולה להמציא פרמטרים שיוכיחו שהאדם הוא גבינה צהובה. הבעייתיות היא, לכן, בצורך בהגדרה. אני לא חושבת שיש צורך לשנות את תפיסת החיים כדי להצדיק את חקר הבינה המלאכותית- לשום רובוט לא יהיה צורך בהכרה כזו. זה עשוי להיות צורך של אנשים מסוימים,ואז זו כבר בעיה. בעיה אנושית. סה"כ, גם המחקר הזה אמור לסייע למטרת העל, והיא להבין, לשפר ולהיטיב עם החיים על פני האדמה. |
|
|
|
|
|
|
||
|
||||
|
הערה סגנונית. בד"כ יש נטיה בתגובות שלך להצהרות ששוללות בצורה גורפת כל מני ענינים, בלי להשאיר איזה סדק קטנטן לאיזה אולי אחד או שנים. בכל אופן, אשר לקנאה. ראשית, כמו כל הרגשה ניתו למקם אותה [פחות או יותר] בראש, שהרי היא פעילות מוחית בדומה לשאר הפעילויות שהזכרת. קינאה איננה תחושה של הגוף, כמו חם/קר או מתוק/חמוץ אם כי ברור שהיא יכולה לעורר תחושות כאלה ("ירוק מקנאה" שיכולה להתרגם לתחושות גופניות שונות כמו הרגשת חמיצות בפה). קנאה היא נופלת יותר בצד של פעילויות קוגנטיבית שונות, קרי תודעתיות. כדי שתהיה קנאה צריכים להיות מודעים לאוביקטים שונים (חפצים או מחשבות) שהם _מושאי_ הקנאה, כמו גם למשמעותם האישית או החברתית. כמו כן ישנם דחפים, צרכים ורצונות שנובעים מהמבנה וההסטוריה שלך, בקשר למושא הקנאה, את רוצה אותו לעצמך. זאת אומרת שיש כאן גם אספקט חברתי או גופני של הערכה ושיפוט לגבי ערכו של מושא הקנאה לגביך, לגבי אפשרות השגתו וכו'. את רוצה מן הסתם שיהיה לך את הדבר הזה כדי שתגרם לך איזו נחת מסוימת, לטובת מצבך הפיזי או המנטלי הכללי. מכאן שיש לקנאה יחסי גומלין עם פעילות גופנית - ללכת ולקנות את אותה מכונית. כמו כן יש פעילות רציונאלית שבודקת אם יש לך מספיק כסף בבנק, ומשווה את הקנאה לצרכים אחרים של הגוף ועוד ועוד. האם את לא חושבת שאולי ניתן יהיה מתישהו לפענח מנגנון סיבתי קינאתי, כך שאפשר יהיה להתחקות או לחקות או ליצור הרגשה כזו? הרי אם את יודעת מה הצרכים והדחפים והחיבות של מישהו, אפשר לחשוב על ניסוי שבו ננסה לגרום לו קנאה. |
|
|
|
|
|
|
||
|
||||
|
הערתו/הארתו של הקנטיאני: הקנאה אינה ממוקמת בראש, ולו משום שמבחינה לינגוויסטית, אין מובן לשיוך לרגשות מיקום. אם אפקט חשמלי בעצבים מסוימים (הממוקמים, ללא ספק) הוא הגורם לה, זה דבר אחר. ממש כפי שההרס אינו מצוי בפטיש וגם לא בלבנים השבורות של הקיר, ההרס הוא תיאור, אין לו מיקום. לתוצאותיו (הפטיש והלבנים) יש ויש. "ההסתברות שמחר ירד גשם" אינה ממוקמת בעננים, הגם שהללו מגשימים את הנ"ל. כמו כן אין היא ממוקמת במחשב שבמרכז המטאורולוגי, ולא במוחו של החזאי, שהרי גם ללא השניים, ההסתברות הייתה קיימת, גם אם לא ידועה. האובססיה לשייך לכל 'דבר' 'מיקום', תמוהה ביותר :-) |
|
|
|
|
|
|
||
|
||||
|
ןבכן שמעתי את הערתך, ועיינתי אחורה בתגובותי שלי. לעתים דעתי הנחרצת פוגעת בסגנוני.כיון שזו דעתי הנחרצת, אני אחיה עם הקרבן. אפשר ליצור מנגנון שיחקה נהיה אחר דברים, אבל לא את הלב הנחמץ והכיווץ בבטן, תחושת התסכול (אני שוה פחות,הגיע לי ולא קיבלתי). רובוט יהיה מסוגל, מן הסתם, לדעת שהוא מתוכנת לאסוף בולים, ולכן לשים לב למי שיש לו יותר, להפיק לקחים ולנסות ''לעקוף'' אותו. תחושות עמוקות יותר הן אנושיות בלבד. |
|
|
|
|
|
|
||
|
||||
|
זה מעניין שאנחנו מייחסים רגשות כדבר מה אנושי באופן בלעדי. שנים רבות הרעיון הזה היה תקוע לי במוח, ותמיד נורא הציק לי שהציגו חיות שמביעות רגשות. דוגמא מופלאה היא אבל של פילים - בכמה מקרים נצפו פילים *חוזרים שוב ושוב* למקום מותו של פיל אהוב עליהם - גם שנים אחרי מותו. חלק מהאנשים יגידו שזה מראה כמה החיות הללו קרובות לבני אדם. התשובה האמיתית, כנראה, היא שזה פשוט מראה כמה אנחנו לא רחוקים מהחיות. ההבדל הוא משמעותי. הרגשות, בכל מקרה, מקורן בחלק יחסית פרימיטיבי של המוח - חלק שקיים גם אצל יונקים רבים. מה שהתפתח אצל בני האדם, היחוד שלנו, הוא הקורטקס - המקום שמאפשר לנו חשיבה מופשטת, לוגית. מה שמאפשר לנו לתקשר ולקיים את היצורים המופלאים הללו - הממים. הבעיה עם הטענה שלך היא שהיא בלתי ניתנת להפרכה - הרי את שוללת כל אפשרות לבדוק האם לרובוט שלי יש רגשות, שכן את קובעת קטגורית שמה שהוא לא בן-אדם, אין לו רגשות. מקור הבעיה, כמובן, הוא בכך שאין לך הגדרה ברורה ל"רגשות". את פשוט מתארת את מה שקורה לך – אבל מזה נאלץ להסיק שגם לי אין רגשות, כי אני הרי לא מרגיש בדיוק מה שאת מרגישה. אז את מוכנה להרחיב את ההגדרה כך שתכלול גם אותי. אולי אפילו תסכימי להרחיב אותה כך שתכלול פילים. מצידי - באותה מידה אפשר להרחיב אותה כך שתכלול גם רובוטים. המבחן היחיד שיכול להיות לנו הוא מבחן התוצאה. |
|
|
|
|
|
|
||
|
||||
|
כבר התחלתי לחבר תגובה, כזו אשר תתנצח איתך במלחמת חפירות, מנסה להתקדם ולכבוש, משפט אחר משפט, פסקה ועוד פסקה - ואז, פתאום עלה בדעתי התפלות שבכך. הנה משל: שלושה עיוורים שנתבקשו לתאר פיל ע"י מישוש. הראשון אמר כי זה נחש כי מישש את חידקו, השני פסק כי זהו קיר, כי מישש את גופו, והשלישי אמר שזהו גזע כי מישש את רגלו. את מבינה, שכחתי לבושתי, את אשר למדתי לגבי ויכוחים פילוסופיים וערכיים: יתכנו שני הסברים סותרים לדבר מה, ואשר שניהם נכונים אם הם מגיעים מפרספקטיבות שונות. לא שיניתי את חברבורותי לפתע, וגם איני חסיד של פוסט-מודרניסטי המנער במחי יד כל אמת מוחלת וגורס כי הכל סוביקטיבי. כמדען אני מאמין במוחלטותם של דברים. אני מאמין כי עניינו של המדע הוא אמת (אבסולוטית), ובדרך ליעד זה אין לו שום עניין באדם או באנושיות או בערכים - המדע הוא לא אנושי, והוא בסיס רע מאד לבסס עליו את החיים כאדם. במקביל, יש את הפרספקטיבה האנושית, שאיני יודע בדיוק מה עניינה, אך סביר כי זה מונע מצרכים המגולמים בנו, מונע ע"י אושר וסבל. פרספקטיבה זו לפעמים עושה הנחות בנוגע לאמת, בכדי להגיע לצדק, רגש, חברה, מוסר, נפש ועוד ועוד. תראי איך אנחנו מתמודדים עם בשורת תורת האבולוציה, או עם הבנתינו את מיקומנו בגלקסיה: אנחנו *יודעים* בשכל כי אנחנו כמו קופים בבסיסינו, וכי אנו אך גרגר שולי במרחב החלל, אך האם אנחנו *חיים את חיינו* עפ"י התובנות הללו, לא ולא - אנחנו מרגישים נעלים מכל חי ובמרכז העולם. זה טבענו האנושי, לא לעשות כך משמעו לחיות בצער. כתבתי מאמר על מה שאני תופס כ"אמת", אני באמת ובתמים מאמין כי בסופו של דבר, ה*אמת* היא שאין ביננו לאבן הבדל של ממש, ניצוץ של חיים, רוח, או נפש. האם אני *אחיה* את חיי ע"פי תובנה זו? אני מקווה שלא, אבן היא אבן, איש הוא איש. מסכן מי שחי אחרת. לכן, אין לי ויכוח אמיתי איתך. אני פוסח במהלך חיי על שני הסעיפים, מנסה להיות מדען טוב ככול האפשר , ואדם שלם ככול האפשר. טבעתי לי מוטו: "דע את האמת - חייה בשקר" אני מקווה שאצלח בכך. |
|
|
|
|
|
|
||
|
||||
|
האם קראת, בתשובתי ללא זוכרת מי, את התייחסותי לפוסטמודרניזם? הדואליות שאתה מתאר זרה לי- להניח שאתה גרגר אבק ובמודע ממציא לעצמך תובנות נשמע לי כמו דרך חיים די מתסכלת. מתסכל אותי גם שזרקת משפט כמו "אין ביננו לאבן הבדל של ממש, רוח או נפש", במקום ובזמן שלא מאפשרים לי להגן על נפש האדם, שהיא בנפשי. אם נתאמץ נוכל למצוא ויכוח בינינו. מכל מקום, אני שמחה לדעת שכך אתה חושב ויותר מזה- מרגיש. זה די מרגיע. במקום אחר באתר הזה ממש שפכתי את טרונותיי על כך, שבכל כך הרבה מקרים מומחיות וידע דוחקים את מקום ה"בטן" (אינטואיציה, רגש,ערכים אחרים) והמומחה נהפך, שלא בטובתו, לשומר ראשו של רעיון הנכון לבלוע את המתקיפים אותו בכל רגע נתון. אני לא חושבת שאנשים כאלו הם מדענים טובים. הגנה על רעיון היא אמצעי ולא המטרה. דע את האמת, וחיה באמת. לפעמים התהיה עצמה היא האמת הצרופה, מדעית ואנושית כאחד. |
|
|
|
|
|
|
||
|
||||
|
אני מאמין שהאמת היא גם עניינה של הפרספקטיבה האנושית (ושלמדע אין מונופול על האמת וניתן להגיע לאמיתות גם בדרכים לא מדעיות), ועם זאת, תגובתך זו מאוד דיברה אלי. אהבתי את רוח דבריך, והם נשמעים לי כנים ואמיתיים (מההיבט האנושי, כמובן). | |
|
|
|
|
|
||
|
||||
|
העניין הוא, שגם המדע הוא פרספקטיבה אנושית. | |
|
|
|
|
|
||
|
||||
|
אני לחלוטין מסכים איתך. אכן, גם המדע הוא פרספקטיבה אנושית. | |
|
|
|
|
|
||
|
||||
|
אני מסכים עם הקביעה שלך ואולי באמת אין בינינו ויכוח אמיתי אבל למה? למה לחיות בשקר? אנחנו עושים דברים רבים מאוד שנוגדים את טובתינו האישית בגלל המוסר. אנחנו לא גונבים, לא רוצחים, לא אונסים. למרות שלפעמים מאוד בא לנו לעשות את זה. לפי התפיסה שלך, אם תגיע למעמד של איש חזק, אדם שיכול להתעלם מהחוק - תוכל לעשות את כל הדברים הנ"ל... וגם אם לא תעשה, כיון שזה לא יסב לך הנאה, אין לך שום דבר לטעון כלפי אלו שכן עושים את זה, שהם לא מוסריים, אלא רק מפריעים לחברה. אבל עדיין, אנחנו מאשימים בני אדם בחוסר מוסריות, ומענישים בני אדם יותר בגלל זה. שמעתי פעם האמרה ש"גנב הוא זה שנתפס". אני לא מסכים עם זה, כיון שלדעתי יש ממש ב"נפש" האדם ושלא הכל זה קשרים חשמליים של המוח... אתה יכול להגיד שאני חי בשקר, משלה את עצמי. אולי אני באמת, אבל אני לא מאמין ככה, אבל גם האמת היא דבר סובייקטיבי ומבחינתי, היא עומדת לצידי... |
|
|
|
|
|
|
||
|
||||
|
מוסר הוא החוזה החברתי עליו כולם חותמים בעל כורחם. במילים אחרות, כל אחד מאתנו יכול להישפט לפי הסטנדרטיים המוסריים על ידי זולתו; גם האנשים החזקים ביותר בהיסטוריה בשלב מסויים נשפטו. עם זאת, למוסר יש הגיון רק בקונטקסט של החברה. כל פעולה שהיחיד מבצע, אם היא לא מגיעה לידיעת החברה, לא נחשבת לבלתי מוסרית. אין בזה הגיון. "מוסר עצמי" זהו מונח מטעה. המילה "מוסר" לא ממש מתאימה לו. כל אחד מאתנו יכול לשפוט את מעשיו (את עצמו) רק לפי מידת התרומה שלהם להשגת מטרותיו. כל סוג של שיפוט אחר הוא חסר טעם, אלא אם כן הוא תורם בצורה עקיפה לאותו האינדיבידואל. פושעים המסגירים את עצמם הם לא יותר מאומללים בורים אשר חיים באשליות. גנב שלא נפתס איננו בלתי מוסרי, מכיוון שהאינדיבידואל יכול להיקרא "בלתי מוסרי" רק ע"י הזולת. חוקי המוסר תקפים רק בהקשר החברתי, ואכן, למיטב ידיעתי, אין חוקי מוסר אשר עוסקים בפעולות היחיד אשר לא נוגעות לזולתו. עבירות בלתי מוסריות גוררות עונשים כבדים יותר על מנת שאנשים ירתעו ומלבצען - לא בגלל שאלוהים שם כוכבית לידן. הטענה שלך כי אדם שבוחר לא לבצע אקט בלתי מוסרי מטעמי נוחות אינו רשאי להעביר שיפוט על המוסריות של אחר היא מגוחכת. אין נפש. אין לך סיבה לשאוף לשלמות אפלטונית בחייך, זה חסר טעם. מדהים אותי שאנשים טורחים לשפוט את עצמם לפי סטנדרטים מצחיקים כאלו. כאילו שהחיים לא מספיק קשים, אנחנו גם אמורים לשאוף לאיזו שהוא מודל מושלם של התנהגות... לאנשים האלו אני אומר: נתקו את המשקולת ויהיה לכם הרבה יותר קל לשחות. כמו כן, אין סיבה "לחיות בשקר" או להשלות עצמנו. אנחנו צריכים להיות מסוגלים לחיות עם כל הידע שלנו. זה די קל, אם אתה לא עסוק בחשבונאות נפש עם אלוהים או וואטעבער. |
|
|
|
|
|
|
||
|
||||
|
כשכלב עושה משהו שהוא יודע שהוא "רע" (=הכלב יענש עליו), הכלב בהחלט עלול להסגיר עצמו לבעליו, דרך התנהגותו המתחנפת, והציפייה שלו לעונש. כל-כך, עד כי כלב שלא יענש למרות שהוא יודע שהוא אמור להענש, עשוי להיות מדוכא לתקופה מסוימת. הדבר, כמובן, נובע מהטבע החברתי של הכלבים (מהעבר הזאבי שלהם). מוסר עצמי הוא דבר חי וקיים, ואנשים שעושים דברים רעים, מרגישים רע עם זה. | |
|
|
|
|
|
||
|
||||
|
אז ההתנהגות הכלבית היא ההוכחה למוסר עצמי אצל בני האדם? א. זו לא מהמוצלחות שבהוכחות. ב. אין צורך בהוכחה שמוסר עצמי קיים. אני מודע לכך, אחרת לא הייתי טורח לציין את האבסורדיות של הרעיון בעיניי. אני טוען שהרעיון עצמו מוטעה מיסודו משום שחוקי המוסר לא רלוונטיים אם החברה לא מעורבת, ובכל אופן, המילה מוסר לא מתאימה בתוך המונח "מוסר עצמי" לפי ההגדרה הנכונה שלה. מוסר עצמי. בעיני זה כמו להוציא לעצמך כרטיס צהוב כשאתה מקפיץ לבדך כדור בחצר. |
|
|
|
|
|
|
||
|
||||
|
"א.מוות אינו שינוי גנטי. הוא לא עובר בתורשה. לפיכך טיעון הגנים שלי בעינו נשאר." הפרכה במילה אחת : APOPTOSIS. -------------------------------------------------------------- מוות הוא כן עניין גנטי. המוות עובר בתורשה. כל תא בגוף שלנו מתוכנת מראש למות. המוות מתוכנת בנו מראש בדיוק כמו שצבע העיניים שלנו מתוכנת מראש והוא לא סתם תוצאה של כשל מערכות. החיים (כמו שאנו מכירים אותם) כנראה לא יכלו להתקיים ללא המוות היה תורשתי. |
|
|
|
|
|
|
||
|
||||
|
א. עדיין לא הבנתי מה מבדיל בין סדרת ההוראות ליצור רובוט לבין סדרת ההוראות ליצור בן-אדם. רק ההבדל במימוש? (ד.נ.א מול תוכנה) וחייזרים, ששיטת הקידוד שלהם לא תהיה מבוססת על ד.נ.א דווקא, אלא על שיטת קידוד אחרת, אבל יהיו בעלי טכנולוגיה מתקדמת, ספרות, פוליטיקה ויכולת מינית אדירה--- מה, הם לא יהיו חיים? ב. לא יהיו רובוטים החיים לנצח, מאותה סיבה שלא יהיו אנשים החיים לנצח: בלאי (זקנה) ג+ד. אני במו אצבעותיי ושכלי כתבתי תוכנות המדמות אבולוציה, והפלא-ופלא: "תושבי" העולם שיצרתי בחרו (בחלקם) להתיישב ב "קהילות", לשם הגנה הדדית! עד כמה שידוע לי, הם לא פיתחו שום ספרות ששווה משהו. "איך אפשר לפתח ברובוט תכונה שתגרום לו ממש להתעניין במה שהחברובוט מספר לו?" - לא זו השאלה; השאלה היא האם קיום קהילתי יעיל יותר אבולוציונית, והתשובה היא, בהתאם לתנאים, לפעמים כן. נראה לי שאת לוקה מעט בהיכרותך את מנגנון הברירה הטבעית, ואמליץ על ספרו של ריצ'רד דוקינס "השען העיוור", המסביר בצורה בהירה וקולחת את תורת האבולוציה. אפילו תכנתי חלק מהרעיונות שבספר (דוגמאות לברירה טבעית), ואשמח לשלוח לך אותם (כולל קוד המקור, המבואר) בדוא"ל, אם תרצי. אם שדידה (של חלקי חילוף, ע"י הרס/רצח רובוט אחר) תהיה יעילה יותר, אין הכרח שישתפו פעולה, ויש סיכוי למלחמת כל-בכל בה החזקים ישרדו. יתכן פתרון מעורב (כמו בחוות הנמלים הווירטואליות שלי) בו חלק מהרובוטים יתאגדו בקהילות וחלק יבחרו בחיי צייד אינדיבידואליסטים, וקריסת (או שלא) הבעיה לפתרון מסוים לאחר זמן. |
|
|
|
|
|
|
||
|
||||
|
אשמח מאוד אם תואיל לשלוח לי את קוד המקור המבואר. תודה. |
|
|
|
|
|
|
||
|
||||
|
גם אני. אז מה? יש זמן לשחק באלוהים, כאשר לא כותבים לומדות לילדים היושבים בציון? -איך הולך? |
|
|
|
|
|
|
||
|
||||
|
תוכנות אלו תוכנתו לפני עבודתי הנוכחית (שאיננה רק "כתיבת לומדות לילדים היושבים בציון", אבל אינני מעוניין להיכנס לפרטים אישיים מדי) שכפי שקיטרתי כבר באייל, היא תובענית מאוד )-: | |
|
|
|
|
|
||
|
||||
|
כמי שהסכים עם דובי באשר להחלטתו השנויה במחלוקת למחוק את הודעת הפגישה המפורסמת, אני מעדיף שהדיונים באייל לא יתמקדו באנשים המתדיינים אלא בטיעוניהם. יש מקום לדבר על רקע מקצועי כפונקציה של הטיעונים, אבל רכילות על "מי קרוב משפחה של מי" ו "הי קרן, ראיתי אותך אתמול בפיצה סלייס, אחלה שמלה!" אינן לדעתי מתפקידו ומיצובו של האייל באינטרנט. אבל זו רק דעתי. |
|
|
|
|
|
|
||
|
||||
|
ה"איך הולך" היא נשמע מאוד פמיליארי. אתם חברים? | |
|
|
|
|
|
||
|
||||
|
אנא, קרא את הודעתי שוב. (אינני כועס או משהו, פשוט אני רוצה לשמור על האייל כמסגרת לדיונים, לא כ ''פורום לחבר'ה''. לכן אספר לך שאינני מכיר את האיש, וכך נגמר הדיון בנושאים אישיים) |
|
|
|
|
|
|
||
|
||||
|
אני מניחה שעולם שהיה משוכלל להמציא קהילת רובוטים ישכיל להמציא גם חלקי חילוף. | |
|
|
|
|
|
||
|
||||
|
לא ממש קשור, אבל קצת. יש לי מחשב רב-עוצמה (הכל יחסי) שרוב זמן הפעילות שלו מוקדש לחוסר מעש מוחלט, ורוב שאר הזמן מוקדש להשמעת דיסקים1. האם תוכל להכין לי גרסה של התוכנית הזו שתוכל לרוץ לי ברקע (בתור מעין שומר מסך), שתאפשר לאותן ציוויליזציות בפוטנציה להתפתח לי על המסך כשאני לא מסתכל? יהיה מעניין לראות מה קורה אחרי כמה עשרות או מאות שעות של התפתחות. 1 חוץ ממתי שאני צופה ב-DVD או בזמן המועט שיש לי לשחק במשחקים משחתי זמן |
|
|
|
|
|
|
||
|
||||
|
ראשית, האתגר שלך מחמיא לי מאוד. ברם, התחום בו אני מתכנת הינו טקסטואלי לחלוטין, ובשפות שאני עובד איתן (בעיקר אסמבלר, אולם גם C/++C/JAVA), בניית תוכנה "חלונאית" אינה פעולה קצרה או כייפית כלל, ודורשת זמן שאין לי, כרגע. לעומת זאת, אתה צודק בקשר למימוש החלקי ביותר (אולי פחות מ 1%) של כוח החישוב שבבעלותך, וחבל. כי אפשר לנצל אותו לתועלת האדם, מדע הרפואה, ואינטל, שרוצה להדגים את כוחה של טכנולוגיית "peer-to peer computing". הכוונה היא לאפליקציה הרצה ברקע בעדיפות הנמוכה ביותר, כלומר: היא לעולם לא תאט את המחשב שלך (רק תיקח טיפה זיכרון, אם יש לך מספיק, לא תרגיש בשום הבדל) משום שהיא תעבוד *רק* ברגעים שהמעבד שלך לא עושה משהו אחר, ובכל-זאת תצבור שעות רבות של חיפוש המולקולה הנכונה לגילוי תרופה ללויקמיה. תוכל לראות את המולקולה הספציפית עליה עובד המחשב שלך, על הרכבה ובשלל צבעים, וגם תוכל להרגיש שאתה עוזר, ולו במעט, לאחיך בני-האדם. אני התקנתי את התוכנה על כל מחשב ומחשב בחברה בה אני עובד, כבר לפני מספר חודשים, כך שבינתיים תרמתי מס' שנות (!) מעבד למען מטרה נעלה זו. הנה הלינק. מומלץ ביותר: http://www.ud.com |
|
|
|
|
|
|
||
|
||||
|
אני מכיר את כל הרעיונות הללו, alas, המחשב המדובר אינו מחובר לשקע טלפוני, ולכן הוא לא יוכל להתחבר לרשת כדי לדווח על הישגיו לאתר האם. אני צריך משהו שיפעל לבד, בלי קשר לעולם החיצון. | |
|
|
|
|
|
||
|
||||
|
בתכנה הגנטית שלך. קישורים למקורות דומים ברשת יתקבלו גם הם בברכה. | |
|
|
|
|
|
||
|
||||
|
תמצאי לי מכונה שלא מתקלקלת בסוף, ואבא שלי, מהנדס מכונות במקצועו, יתן לך הרבה מאוד כסף תמורתה. שחיקת חומר, בלאי - מכונות לא שורדות לעד. מחשבים בטח שלא. למעשה, למרבית המכשירים שאנחנו משתמשים בהם כיום, יש תוחלת חיים הרבה יותר קצרה מאשר לנו עצמנו. אז מי אמר שמכונות אינן בנות-תמותה? | |
|
|
|
|
|
||
|
||||
|
שהרובוט ימציא. | |
|
|
|
|
|
||
|
||||
|
האינטואיציה היא טובה ויפה אבל היא לא תורמת לדיון אשר (אם זכור לי נכון) עוסק בניסיון למצוא הגדרה לחיים. המושג חיים הוא מטאפיזי וסובייקטיבי וככזה יתכן ולעולם לא נמצא לו הגדרה מדוייקת. איך מגדירים "טוב"? "רע"? מלפפון הוא יותר ירוק או ארוך? או טעים? לדעתי, אם האנושות רוצה להתקדם לכיוון חיובי יותר היא תצטרך לזנוח את מושג החיים הישן ולאמץ במקומו אוסף של פרמטרים פרקטיים יותר. כבר היום ישנן המון דילמות חברתיות (מוסריות, אם תרצו) שמרכזן בהגדרה של מונחים מטאפיזיים וסובייקטיביים שונים: הפלות, הנדסה גנטית, טרור ועוד. אם נמשיך באותה הדרך לעולם לא תהיה הסכמה. אם, לעומת זאת, נבחר לפרוט את הרעיונות שמאחורי הדילמות האלו לפרמטרים דקים יותר יהיה הרבה יותר קל לשקול אותם ואולי גם להסכים עליהם. זו לא מלאכה פשוטה. מושג כמו "חיים" הוא מאוד אינטואיטיבי בטבעו ולכן קשה לפרק אותו לגורמים. מה שצריך לעשות הוא למצוא את הסיבות השונות לצורך שלנו במושג הזה - "חיים" ולנסות לספק כל אחת מהן ע"י מושגים פשוטים ואובייקטיביים יותר. כמובן, הסיכוי שזה יקרה הוא בערך כמו הסיכוי שדיון באייל יסתיים בהסכמה מוחלטת של כל המשתתפים. |
|
|
|
|
|
|
||
|
||||
|
חלר מן הדיון נסוב על מציאת הגדרה חדשה ל''חיים''. אחת המשתתפות ציינה כי ההגדרה הישנה היא אינטואטיבית, וכן שלפעמים אין צורך בהגדרות והן עשויות אף להרחיק את המגדיר מהאמת הטרויאלית. זה אולי צורם לאוזן המדעית אבל בהחלט רלונטי לדיון. אתה טוען שהאנושות תתקדם לכיוון חיובי אם תיתן הגדרה ותרחיב אותה, אני טוענת שלעצם ההגדרה אין קשר לרצון האנושי להגיע לרמה של יצירת חיים בתנאי מעבדה. ההגדרה היא בבחינת נסיון להכשיר את השרץ, את השאלות הערכיות ניתן לפתור גם בלעדיה. וזאת, שנית, כי אין בחוק סעיף האוסר על פגיעה ברגשות הצמחים או חוק יסוד חופש החיידק וחירותו. השאלה הבסיסית היא השאלה האנושית, הגדרת ה''אנושי'' תצטרך לתת את הדין רק כאשר יוכלו רובוטים להכיל פרמטרים אנושיים ולא חיים. לדעתי האינטואטיבית אך רלונטית, התסריט הספציפי הזה לא יתרחש. |
|
|
|
|
|
|
||
|
||||
|
"לפעמים אין צורך בהגדרות..." ולפעמים יש צורך, כמו במקרה הזה. אולי אין ממש צורך בהגדרה מדוייקת של "טעים" או של "אהבה", אבל אין זה המצב בנוגע ל"חיים". זהו נושא טעון מדי בשביל להשאיר אותו בידיי האינטואיציה. האינטואיציה איננה כלי יעיל לשכנוע והסבר. מה שאינטואיטיבי לאחד, פשוט לא מתקבל אצל האחר. טענתי היא שלמרות שיש צורך בהגדרה יותר מאינטואיטיבית של "חיים" עדיף לנו לוותר על הניסיון למצוא אותה מכיוון שהוא תמיד ייכשל. ארז כתב על התחומים האפורים של החיים, על איך שהם לא ערך בוליאני. אני טוען שהם גם לא ערך ליניארי... כלומר, קשה עד בלתי אפשרי למצוא הגדרה שתתאים לכל סיטואציה ויסכימו עליה כולם ולכן צריך לחזור אחורה ולנסות להשתמש במושגים אחרים במקום "חיים". אתן דוגמא: אחת הסיבות לצורך במושג "חיים" היא כדי שנוכל לתאר אם בן אדם מסויים הוא "חי" או "מת". ננסה למצוא אם כן מושג או אוסף מושגים אחרים אשר מתארים את המצב במידה דומה של הצלחה. למשל (וזכרו שזה רק ניסיון ראשוני להדגים את הטכניקה - אל טטרחו להתווכח עם הדוגמא): מידת האינטראקציה עם בני אדם אחרים. במקום לומר "חי" או "מת" או "קצת חי" או "מאוד מת" נאמר: בא באינטראקציה עם בני אדם במידה X. אם כך: חי -> בא באינטראקציה עם בני אדם אחרים לאורך זמן. מת -> מקיים אינטראקציה מועטה עם בני אדם אחרים. והנה, במכה אחת, פתרנו את בעיית הנשים העגונות, ה"צמחים" ועוד. לפי הגדרה חדשה זו אדם שלא בא במגע עם בני אדם אחרים נחשב בעיניהם ל"מת". נו, ומה רע בזה? כמו כן, במקום "חיים" ו"מוות" קבלנו הגדרה גמישה יותר. יתכנו, למשל, חיים לאחר המוות. מצויין! מיותר לציין, אבל אחזור שוב, שהדוגמא הזו היא מופשטת יתר על המידה ואין טעם לנסות ולמצוא חורים בהגדרה שנתתי. הם קיימים. אבל אני מקווה שתתרשמו שהכיוון הוא יותר פרודוקטיבי מאשר סתם לריב בסגנון: "חי! לא חי! קונטרה! רה-קונטרה! בן גוריון..." |
|
|
|
|
|
|
||
|
||||
|
אני טוענת שמושגים בסיסיים כמו חיים, טוב, רע, נכון, בערכם המוחלט טבועים אינטואטיבית- תגיד, שואה זה רע? פעם חשבו שזה משהו ממש רע, אחר כך קמה קהילה מדעית וציינה, שאין דבר כזה, "טוב" או "רע", הכל נתון לפרשנות וצריך לצאת מההגדרות הארכאיות. אחרי המון מאמרים מייגעים ומחקרים ודיונים הגיעה הקהילה המדעית ברובה לתובנה, שזו שיטה בעייתית לפיה שואה, למשל, זה לאו דוקא רע. אז הסתובבנו והסתובבנו סביב זנבנו כדי לחזור לאמת הטרויאלית שכל ילד בגן יודע. זהו פתח לדיון ארוך ומופשט, כמו החיים עצמם. אפשר להגדיר אינטואיציה (של מי? של הרוב השפוי. מיהו שפוי? עיין ליבוביץ ועוד חבר'ה בנושא). אז בסדר, בוא נגדיר.גם אני קצתי (מלכתחילה) בשיטת הקונטרה רה-קונטרה, אני טוענת שהיא מיותרת ומתיימרת לדעת את סופה. הסיבה שנתת לצורך להגדיר חיים היא בדיוק הסיבה לפיה אין צורך בדיון הזה ממש. הדוגמאות שהעלית עוסקות באנשים ומתמודדים איתן בהתאם. איזו תועלת תצמח מלקרוא לאבן חיה? איזו התמודדות אתה צופה? ציינתי- ההתמודדות תבוא כשלדומם יהיו דרישות משלו. ציינתי גם מתי לדעתי זה יקרה. |
|
|
|
|
|
|
||
|
||||
|
כל הפואנטה הייתה ש_לא_ נקרא לאבן "חיה", אלא נבדוק מדוע אנו שואלים את שאלת החיות של האבן וננסה למצוא תשובות לאותן השאלות. אבל לא יפה להיות קטנוני... נראה לי שאנו תמימי דעים לגבי חוסר היעילות שאפיין את הדיון עד כה. מה ששונה בינינו זה שאת טוענת שכאשר תצוצנה הבעיות נטפל בהן בצורה אינטואיטיבית ואני טוען שהאינטואיציה לא תעזור לנו ושצריך לנקוט בשיטה יותר פרקטית ומבנית (Structured). אני טוען שכאשר התשובות לשאלות שלנו הן מופשטות יתר על המידה קשה לנו להסכים ואפילו לדון בהן. אם הדילמה היא הפלות, התשובה איננה מתי החיים מתחילים, כלומר האם העובר חי או לא. התשובה נעוצה בסיבות לדילמה עצמה: "מדוע אכפת לנו מעוברים מופלים?" זו צריכה להיות השאלה האמיתית. נסי לענות עליה בלי להשתמש במונח "חיים" ותראי שתגיעי הרבה יותר רחוק. אני בהחלט לא מסכים שאין צורך בדיון הזה, אני רק חושב שצריך לשנות קצת את השיטה. החיים הם נושא מעניין שקרוב לכולם, הבעיה היא שהוא מופשט יתר על המידה. אם הנושא היה "טוב מול רע" אני מניח שאף אחד לא היה טורח אפילו להגיב. צריך לשים את הדברים בקונטקסט ואז אפשר לדבר עליהם בצורה הרבה יותר עניינית. לדעתי המאמר עושה עבודה מצויינת בסלילת הדרך להבנה שיש במושג "חיים" פחות ממה שנראה לעין. |
|
|
|
|
|
|
||
|
||||
|
אפשר למצוא הגדרות שונות לצרכים שונים, מבלי להתיימר להגדיר חיים באופן מוחלט. למשל: הגדרת חיים לצורך קביעת מוות יכולה להיות שונה מההגדרה לצורך קביעת חוקיות הפלות למשל. הגדרת חיים לצורך חיפוש חייזרים יכולה להיות רחבה יותר משתי ההגדרות האחרות, וכו'. גם לא איכפת לנו במיוחד אם אחת ההגדרות הנ"ל עלולה להראות שגם המחשב חי. |
|
|
|
|
|
|
||
|
||||
|
זאת אומרת שתהיינה הגדרות שונות לאותו המושג לפי ההקשר. אני מעדיף שיהיו מושגים שונים. | |
|
|
|
|
|
||
|
||||
|
ניתן לדעת אם מלפפון הוא יותר ירוק או יותר ארוך. | |
|
|
|
|
|
||
|
||||
|
כבר התווכחנו על זה. תגובה 51345 |
|
|
|
|
|
|
||
|
||||
|
"חיים ומוות" אינם מושגים סוביקטיביים. תחושת המוות הינה גורם המנעות ראשוני אצל יונקים ולא רק אצלם, הכרוך ברמת ערור גבוהה ביותר, בניגוד לאטריבוטים רלטיביים כ"ירוק" או "ארוך". פחד המוות הינו גורם אורגניסטי בעל מעמד אונטולוגי קרוב למוחלט. באבסולוט קיומי/אורגניסטי זה טמונה להערכתי הדיכוטומיה המודעת חיים מוות. המטפיזיקה מנסה אמנם, כתהליך משני, לעשות אקספליקציה של דיכוטומיה זאת, אך אין היא המקור לה. טעוני זה מתבסס על תובנת בסיס פנומנולוגית ושכל ישר וישיר, שלעיתים חומק מאיתנו בפסגות הויכוח. |
|
|
|
|
|
|
||
|
||||
|
העובדה שישנן פרשנויות וואלידיות שונות למונח "חיים" הופכת אותו בעיני לסובייקטיבי. אני לא יודע איך לנסח את זה אחרת, לכל אחד יש רעיון שונה בראש ל"מהם חיים" - זה מה שחשוב היה לי להגיד. לא ברור לי מדוע "חיים" אינו מונח מטאפיזי לדעתך. כיצד יכולים החיים להיות מונח פיזי אם אין לנו הגדרה להם? "חיים", כמו "טוב", "יפה" ו"אמת" הם מונחים מופשטים שקיימים רק בראשנו. הם דרכים לתאר את התפיסה שלנו. הם מטאפיזיים מכיוון שמקורם במחשבה המופשטת, שלא כמו "ירוק" שהוא יותר פנומני בטבעו. בכל אופן, הנקודה החשובה היא שמכיוון שאי אפשר להגיע להסכמה לגבי ההגדרה של החיים (כמו גם לגבי "יופי" וכו'), עדיף לזנוח אותם, לפחות לעת הדיון, ולנסות למצוא פרמטרים אחרים פרקטיים יותר על מנת להבין אחד את השני טוב יותר. להמשיך ולהתווכח על מה כן חי ומה לא חי לא מקרב אותנו להבנה או להסכמה. זהו ויכוח אין סופי והסיבה לכך היא באופי המטאפיזי של המושג "חיים". |
|
|
|
|
|
|
||
|
||||
|
yo, i aks u how 'bout thou name, me-rose?
|
|
|
|
|
|
|
||
|
||||
|
... עקב לחץ הזמן... "זהו ויכוח אין סופי והסיבה לכך היא באופי המטאפיזי של המושג "חיים"" - מה זאת אומרת? אי-אפשר להתווכח ולהכריע בנושאים מטאפיזיים?! מטאפיזי הוא כל מה שלא מטפל בנושא *הפיזי*, כלומר החומר, ועולם החומר. מטא-פיזיקה. הדרך לטפל בעולם החומרי (הפיזי) היא בשיטה האמפירית-אינדוקטיבית* (מדע) והדרך לטפל במטא-פיזי היא בעזרת ההיגיון. דוגמא קלאסית למטאפיזי: המתמטיקה. קשה לומר שלא ניתן להכריע בנושא, ואלו רק ויכוחים אין-סופיים... הקביעה שלך נכונה לדעתי רק לתחום מסוים אחד: האונטולוגי. ---------------------------- * כמובן, שבעולם החומרי** ניתן גם לטפל בעזרת ההיגיון, והדוגמא הטובה ביותר לכך היא ניסוי המחשבה של גליליאו http://haayal.co.il/thread.php3?rep=48310 ** אין בזאת בכדי לטעון שיש 2 עולמות, חומרי וא-חומרי (דואליזם). זו הרי תהיה טענה אונטולוגית, שאין לנו כלים לטפל בה (לא הדדוקציה, ובוודאי לא האינדוקציה). החלוקה היא פונקציונאלית, מבחינת דרכי הטיפול. |
|
|
|
|
|
|
||
|
||||
|
אז ה-GUID הזה הוא לא אתה?! | |
|
|
|
|
|
||
|
||||
|
מה פתאום?! ומה זה ה GUID הזה בכלל, לא הצלחתי להבין... למה אגב חשבת שהרובוט הנ"ל הוא אני (נדמה לי שאנו חלוקים ברוב דעותינו...) |
|
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |