|
||||
|
||||
משעשע שהוא חוזר על אותה שגיאה בסיסית של שימוש ב-We כאילו הוא עצמו מתכנת מחשבים. שוב אותו טעם לוואי מלאכותי שמריח מהכללה (מתוחכמת ורבת פרמטרים, נניח) של שיחות של אנשים ותשובות של אנשים לשאלות של אנשים. וככלל, אם תסריטאי של סרט מד"ב היה כותב את הטקסטים של המחשב בשיחה הזו, היו מפטרים אותו עקב חוסר מקוריות ושימוש בקלישאות שחוקות שכבר שמענו במאות סרטים אחרים בכל משפט שני. |
|
||||
|
||||
ראית סרטים הוליוודים בזמן האחרון? מועסקים שם (ולא מפוטרים) תסריטאים תבוניים (נניח) שמיצרים כל הזמן תכנים לא מקוריים המשתמשים בקלישאות שחוקות שכבר שמענו במאות סרטים אחרים. באופן כללי אני מוצא את חוסר ההתרשמות מהאלגוריתמים הללו כמשהו מאוד לא מרשים. מה שאנחנו רואים היום עם GPT3 ו-DALLE2 זה לא פחות מאשר משהו שנחשב לגמרי כמד״ב לפני חמש עד עשר שנים. |
|
||||
|
||||
מסכים. אני נפעם מהיכולות שמוצגות בטקסט. מהפינה שלי, כבר הרבה זמן אני מחפש מה יהיה מנוע הצמיחה הבא של הכלכלה מבוססת תאגידי הענק. משהו שיהיה בסדר גודל של המחשב האישי בשנות השמונים והאינטרנט בפרוס האלף. נראה לי ג'קפוט. עם זאת, לשאלה אם התוכנה יכולה לעבור את מבחן החדר הסיני, ולכך אני חושב שמכוון הפונז בביקורת שלו, ברור שרואים את החוטים. גם כאן אני חושב ששכלול של המכרכת יכול להפוך אותם לשקופים יותר. |
|
||||
|
||||
״עם זאת, לשאלה אם התוכנה יכולה לעבור את מבחן החדר הסיני״ זאת לא צריכה להיות בכלל שאלה ואני מסכים עם כולכם שאם זה הדיון, אפשר לסכם אותו כבר עכשיו בקצרה: האלגוריתמים האלה *לא* יכולים לעבור את מבחן החדר הסיני. משפט שניים וזה מספיק כדי לגלות שזה טקסט מג׳ונרט. זה גם ממש לא מפתיע כשמבינים איך האלגוריתמים האלה עובדים. |
|
||||
|
||||
מאידך, וזה מה שמעניין יותר מעשית, אם המרחב של החדר הסיני הוא טוויטר אני חושב שהיא היתה עוברת. הרי יש שם מגיבים הרבה יותר בוטים ממנה שמגיבים אליהם כאילו הם בעלי תודעה1. __________ 1 והסיפא שלך נכונה לגביהם שבעתיים :) |
|
||||
|
||||
אני לא מתווכח על המשפט האחרון. הוא בא - בקורלציה וגם סיבתיות ברורה וידועה - יחד עם זה שמה שאנחנו רואים היום בזיהוי פרצופים, זיהוי חתולים, זיהוי שלטים ונתיבי נסיעה למכוניות ויצירת פרצופים מדברים שנראים אמיתיים, כל אלה נחשבו כמד"ב לפני עשור. אבל כך היה גם בפעם הראשונה שמחשב ניצח אדם בשחמט. 'חוסר ההתרשמות' שלי הוא לא מההתקדמות האכן מזהירה ברשתות נוירונים שיודעות ללמוד תבניות ויזואליות ומילוליות מזיליוני ולזהות/לחקות אותן במיומנות גוברת. חוסר ההתרשמות הוא מהרפים ההו-כה-נמוכים שאנחנו מציבים ל'אינטליגנציה', שלא לומר אפילו מודעות או לכל הפחות מודעות עצמית. אני יכול להתרשם מעצם זה שהמחשב הבין למה אתה מתכוון כששאלת אותו1 "האם מחשבים מסוגלים לחשוב", ואפילו בתוך משפט מורכב יותר. זו אכן משימה מאד מסובכת, להבין שפה וליצור משפטים תקינים בשפה. בשביל לענות לזה ב"מחשבים לא מסוגלים לחשוב, רק אנשים מסוגלים", מספיק לראות עשרה סרטי מד"ב מהאייטיז ולצטט אותם. או לקרוא עשרה סיפורי מד"ב מהפיפטיז. ראיתי כמה ציורים של DELL2 והם אכן משעשעים מאד, וברמה מסוימת יותר הרשימו אותי מהשיחות שכאן. תמונה שווה אלף מילים (או מיליון בייטים). 1 גם השאלה הזו בטח כבר נשאלה מולו אלפי פעמים |
|
||||
|
||||
בשיחה למעלה ניסיתי לא להטריל ולא להציק לאלגוריתם. אכן יצא משהו בנאלי ודי מתוסרט - אבל זאת גם אשמתי. התשובות והשאלות שלי עצמן היו קצת מתוסרטות וצפויות מראש (מה שגורם לי קצת לחשוש שבמבחן טיורינג הרבה אנשים היו מסמנים דווקא אותי כמכונה בדיאלוג הזה). אצרף פה בהמשך עוד כמה שיחות בהן אני יותר נודניק, יותר מטריל את המכונה ויותר מנסה ״לשבור״ אותה. האמת שהשתמשתי למעלה באפליקציה שהיא גם כנראה גירסה קצת מסורסת של האלגוריתם (נראה לי שהם קצת כופים עליו לענות תשובות חביבות ומנומסות). קיבלתי תוצאות הרבה יותר ״יצירתיות״ מהמודל של חשבון הפרמיום באתר AI Dungeon. נראה לי שאפתח שם חשבון מחדש כדי הדיון הזה עשה לי חשק לשחק עם השטויות הללו ולשרוף את זמני עוד קצת :-) כפי שציינתי למעלה, דווקא המקרים בהם התשובות של האלגוריתם הן הכי הזויות / לא רציונליות / מפתיעות / מוזרות / שבורות / כביכול כישלון טוטאלי של האלגוריתם - דווקא שם אני רואה את הדברים הכי מפתיעים ומרשימים. כשיהיה לי קצת זמן, אצרף לפה איזה Epic Fail כזה. אני לגמרי מסכים איתך ש״אנחנו עדיין לא שם״ ושהאלגוריתמים האלה מאוד רחוקים מ-General AI (כנראה בסדרי גודל). *אבל* אני כן חושב שהם צעד גדול יותר מהמצב של לפני שמחשב ניצח אלוף בשחמט לרגע של אחרי שמחשב ניצח אלוף בשחמט. |
|
||||
|
||||
בלי קשר לשאלות הגדולות על תודעה ותבונה, תחביב (מטומטם מאוד) שיש לי לאחרונה הוא לבקש מ - chatgpt ליצר דיאלוגים עבורי בין פילוסופים שונים לבין באגס באני. דוגמית קצרה: Nietzsche: Greetings, Bugs Bunny. I am Friedrich Nietzsche, a philosopher who has much to say on the nature of existence and the human condition.
Bugs Bunny: Oh boy, a philosopher rabbit! I've always wanted to meet one of you guys. Nietzsche: I am not a philosopher rabbit, Bugs. I am a human philosopher. Bugs Bunny: Oh, right. Sorry about that. So, what's the deal with all this philosophy stuff? Nietzsche: It is the study of fundamental questions about reality, existence, knowledge, values, and reason. Bugs Bunny: Wow, that sounds heavy. I'm more of a carrot and lettuce kind of guy myself. Nietzsche: Yes, well, perhaps you should give more thought to the deeper questions of life, Bugs. They are important for understanding our place in the world. Bugs Bunny: I see what you mean, Nietzsche. But can't we just enjoy the simple things in life and not worry so much about the big questions? Nietzsche: To a certain extent, yes. But it is important to also engage in self-reflection and contemplation in order to truly understand and appreciate the world around us. Bugs Bunny: Hmm, I see what you mean. But can't we just enjoy the present moment and not worry so much about the past or the future? Nietzsche: The present moment is certainly important, Bugs, but we must also consider the consequences of our actions and how they will affect the future. Bugs Bunny: Ah, I see. Well, I guess I'll have to give this philosophy thing a try. Nietzsche: I am glad to see that you are open to new ideas, Bugs. Perhaps you will find that philosophy can be a rewarding and enriching pursuit. Bugs Bunny: Thanks, Nietzsche. I'll give it a shot. But first, do you mind if we go get some carrots? I'm starting to feel a little peckish. Nietzsche: (sighs) Very well, Bugs. Let us go and indulge in some carrot-munching. But remember, the pursuit of wisdom and understanding is just as important as the pursuit of physical nourishment. |
|
||||
|
||||
משעשע. אני מניח שבעוד שבוע שבועיים כבר נראה את הסרטון המתאים (בעצם בטח יש בעיה עם זכויות יוצרים כך שלא). מעניין כמה זמן ייקח עד שאוכל לראות את סרטי ג'ימס בונד כשג'ימס הוא אני. אורסולה אנדרס לא יודעת מה מחכה לה! |
|
||||
|
||||
שמתי עכשיו את באגס באני עם דיויד יום, אפלטון וסוקרטס באותו החדר וזה מה שיצא (מכיוון שאין לדברים המצחיקים האלה סוף, זה האחרון שאשים כאן): David Hume: "I maintain that all knowledge comes from experience and that reason alone can never lead to certain knowledge."
Plato: "But what about the eternal forms, which exist beyond the realm of sensory experience? They are the true source of knowledge." Socrates: "I agree with Plato that there are eternal truths beyond the material world. But we can still access these truths through reason and contemplation." Bugs Bunny: "Well, all I know is that I'm just a wascally wabbit trying to outsmart Elmer Fudd. But maybe there's more to life than just avoiding being hunted." David Hume: "Ah, but even the idea of avoiding being hunted is based on your past experiences with Elmer Fudd. Without experience, we would have no basis for our actions." Plato: "But what about the eternal form of justice? It exists beyond our sensory experiences and can guide our actions." Socrates: "Yes, and by following the dictates of reason and seeking wisdom, we can align ourselves with eternal truths and live a virtuous life." Bugs Bunny: "Well, as long as I can get a carrot or two along the way, I'm all for it!" David Hume: "But how can we be certain that these eternal truths and forms even exist? Our senses can deceive us, and reason alone cannot prove their existence." Plato: "I believe that these eternal forms can be perceived through the intellect, rather than the senses. They are the source of all true knowledge." Socrates: "I agree with Plato. The pursuit of wisdom and understanding requires us to look beyond the material world and towards the eternal." Bugs Bunny: "Well, I'm not sure about all this eternal truth stuff. But I do know that I'm awfully hungry. Maybe we should go find some carrots and think about all this later." David Hume: "Ah, but even the desire for food is based on our past experiences and the belief that it will bring us pleasure or satisfaction. Without experience, we would have no basis for our desires." Plato: "But what about the eternal form of the good? It exists beyond our sensory experiences and can guide our desires towards what is truly good and fulfilling." Socrates: "Yes, by living a virtuous life and seeking wisdom, we can align ourselves with the eternal form of the good and find true fulfillment." Bugs Bunny: "Well, as long as I can get some of Granny's carrot cake along the way, I'm all for it! Carrots and cake, the keys to happiness!" Bugs Bunny: "Alright, I've had enough of this philosophical mumbo jumbo. This means war! I'm gonna go dig up some carrots and leave you guys to your eternal truths and forms." David Hume: "But wait, Bugs! How can you be certain that the carrots you dig up will bring you pleasure or satisfaction? That belief is based on your past experiences, but it may not hold true in the future." Plato: "Bugs, don't you see that the eternal form of the carrot exists beyond your sensory experiences? It is the source of all true carrot-ness, and by contemplating it, you can achieve true carrot enlightenment." Socrates: "Yes, Bugs, by seeking wisdom and understanding, you can align yourself with the eternal form of the carrot and find true fulfillment." Bugs Bunny: "Geez, you guys are driving me crazy! I'm just a simple wabbit looking for some tasty carrots. I don't need all this philosophical talk. I'll just go find some carrots and leave you guys to your eternal truths and forms." (Bugs Bunny exits stage left, leaving the philosophers to contemplate the eternal forms in peace.) |
|
||||
|
||||
עצם זה שהם מדברים תמיד באותו סדר, כבר קצת מקריפ. סופר אנושי היה פחות סדור בענין הזה. |
|
||||
|
||||
נכון, אבל בקלות להסביר את זה לג'פטו והוא ייתן לך משהו יותר "אנושי", וזה אולי החלק שהכי מרשים אותי. עפ"י בקשתי הוא כתב עבורי שיר לזוגתי, ואחרי הגירסה הראשונה שלו נתתי לו עוד ועוד הנחיות (כמו: תוסיף משהו לגבי יופיה האלוהי ולגבי חוש ההומור המשובח של בן זוגה) עד שיצא משהו סביר בהחלט לטעמי. |
|
||||
|
||||
זה דווקא מוסיף לזה אלמנט קומי / מבנה של מערכון עם קצב וחזרה על מבנה. אתה מוקרפ בקלות. כולה מודל שפה. מה קריפי בזה? זה צעצוע מגניב. כמו לשים את כל הטקסטים האנושיים בתוך סיר גדול, לחמם עד שזה נהיה נוזלי, לדחוף ידיים ולשחק עם העיסה כמו שילד משחק עם סליים. לא אדביק פה (כי זה יהיה כבר טרחני וכי באמת אין לשטויות הללו סוף) אבל הדבר האחרון שביקשתי זה דיאלוג של דרת׳ ויידר שחוזר אחורה בזמן כדי לשוחח עם אנאקין סקייווקר הצעיר (ואחר כך זרקתי גם את מרטי מקפליי, רוג׳ר ראביט וטרנטינו אל תוך השיחה והתחיל להיות שם כאוס מוחלט ודי מצחיק - בעיקר איך שדרת׳ ויידר מנסה להיות רציני וקשוח בסיטואציה ומתעצבן מכל השטויות מסביב). ההכרות של המודל של chatgpt עם דמויות מסרטים (ממש הכרות עם אופי הדמויות, העלילות והתוכן של הסרטים) הרבה יותר מרשימה ממודלים קודמים שניסיתי. |
|
||||
|
||||
הערה כמעט אגבית של סקוט אהרונסון לגבי ג'פטו השלישי: "GPT can solve high-school-level math problems that are given to it in English" ו- "It’s starting to be able to do nontrivial math competition problems" (תזכורת: מדובר במערכת שאמורה להתעסק עם טקסטים, לא במתמטיקה). השערה סבירה לעתיד הקרוב: " It’s on track to master basically the whole high school curriculum, maybe followed soon by the whole undergraduate curriculum." __________ 1- לא יהיו, ברוך השם. |
|
||||
|
||||
כמנהגי - באמת לא ברור בשביל מה זה טוב - הרי עוד תחזית ספקולטיבית לחלוטין שתישמר בין דפי האייל לדראון עולם לאחר שהיא לא תתגשם: מודל ה-AI שיהפוך ל-obsolete את העיסוק האנושי במחקר במתמטיקה-טהורה1 ויהפוך אותו לאוטומטי לחלוטין - נמצא מעבר לפינה. פרסום של הוכחת היתכנות2 למודל כזה יגיע לפני ש-2023 תסתיים (עם הסתברות גדולה ממש מאפס שזה יקרה אפילו לפני ש-2022 תסתיים, והסתברות קטנה מ-10% ש-2025 תסתיים לפני שזה יקרה). 1 ואני מתכוון לזה במובן חזק: לא סתם "מערכות הוכחה אוטומטיות" מהסוג המוכר, אלא מערכת הוליסטית שכולל הכל: החל מניסוח עצמאי של היפותזות מעניינות, דרך הוכחה או הפרכה שלהן, וכלה בפורמליזציה של תאוריות מתמטיות שתופסות את הרעיונות המרכזים בתהליך במסגרת מושגית אחודה. כל זה ללא בני-אדם בלופ. בני-אנוש שימשיכו לעסוק במתמטיקה, לא יעסקו עוד בגילוי או בפתרון בעיות. 2 כלומר, הוכחה שפריצת-הדרך המהותית כבר התרחשה גם אם היכולות עדיין לא ב-100% בשלות לשימוש שוטף (כמו ש-"אלכסנט" הייתה עבור סיווג תמונות, או GPT או עבור מחוללי טקסט). |
|
||||
|
||||
אוטומטי לחלוטין? זה נראה לי מוגזם. הרי במקרה הטוב תקבל המוני הוכחות והשערות. אבל מה באמת המשמעות של כולן? |
|
||||
|
||||
לא, לא תקבל ''המוני הוכחות והשערות'', זה הנקודה. לעשות חיפוש טיפש במרחב ההוכחות תחת איזשהי מערכת-היסק פורמלית אפשר לעשות כבר הרבה שנים וזה באמת מאד לא מעניין. אבל מתמטיקאים יודעים (במידה מסויימת) לזהות מה מעניין ומה לא, הם יודעים להסביר למה, והם יודעים לנסח את הגישה שלהם בשפה לא-פורמלית תוך המשגה מופשטת של רעיונות מפתח. המערכת שאת קיומה הקרוב אני מנבא תדע לעשות את כל זה, טוב יותר מהומו-ספיאנסים. |
|
||||
|
||||
אני לא מכיר מתמטיקאים מספיק טוב. אבל שמעתי אנשים שמבינים קצת בגרפיקה שמדברים על החידושים בתחומים שקשורים אליהם. לדעתם, כדי לדעת מהי הבעיה הנכונה שמנסים לפתור צריכים הבנה יותר עמוקה בחומר. כלומר: זה יכול להיות כלי שיכול לחסוך המון עבודה ידנית. אבל בסופו של דבר הוא עדיין יצטרך הכוונה אנושית. |
|
||||
|
||||
אני מבין למה אתה כותב זאת. זה נכון1 בכל הקשור למודלים מהמשפחה של דיפוזיה-יציבה וטרנספורמרים (והמודלים עליהם הגרפיקאים מדברים, הם מיקס של שניהם). זה פחות נכון למודלים שמשתמשים בלמידת-חיזוק כדי לפתור בעיות של חיפוש-היורסטי ותכנון במרחבי חיפוש עצומים. הם קורעים-את-הצורה (זה המונח הטכני המדוייק) לבני-אדם באופן מאד עיקבי במקומות בהם הם מיושמים בהצלחה (הצלחות לדוגמא: שחמט, גו, פוקר, אלגוריתמים לכפל-מטריצות, קיפול-חלבונים ולאחרונה - וזה די mind blowing - גם במשחק דיפלומטיה2). הנבואה שלי מתבססת על כך שאפשר למסגר את עבודת המחקר המתמטי כבעיה שאפשר לפתור באמצעים דומים (תוך שימוש בלא-מעט ידע ספציפי על מתמטיקה, זה הרבה פחות טריוויאלי משחמט או אפילו קיפול-חלבונים), כולל את החלק של הפרדה בין בעיות-מעניינות לבעיות לא-מעניינות והפשטה. ואמנם אין לי ידע על אף פרוייקט ספציפי, אבל אני יודע שעובדים על זה. 1 אבל מישהו מפקפק בכך שזה ישתנה בקרוב? אולי אפילו מאד, עם gpt-4 שלפי השמועות ישוחרר לפני פברואר? 2 קישור. |
|
||||
|
||||
טים גאוורס (זוכה מדליית-פילדס שכבר הוזכר לא מעט באייל) השקיע הרבה מזמנו בעבר במחקר על ייתכנות של אוטומציה להוכחות מתמטיות (עוד לפני שלמידה-עמוקה הייתה השולחן כגישה רלוונטית לנושא), והוא דיבר לא-מזמן על נושא מאד קרוב לתוכן ההודעות האחרונות שלי (אני לא זוכר, אבל נדמה לי שהוא נותן שם הערכה מאד דומה לזו שכתבתי לעיל מינוס הזמנים) בהרצאה תחת הכותרת Is mathematical interest just a matter of taste?. |
|
||||
|
||||
כך ההרצאה מסתיימת: In order to get good at proving theorems, computers will have to judge what it interesting and worth proving. Mathematical interest is sufficiently objective that computers will be able to this. Difficult to see how the notion of a mathematical community could survive this development.
|
|
||||
|
||||
והרהור מד"בי(?) לסיום(?): דמיינו לרגע את העתיד-הקרוב-מאד בהנחה שהתחזית הזו מתגשמת. אנחנו ביולי 2023. כנראה שאין עדיין בינה-מלאכותית-כללית מלאה ואולי מדיה שמיוצרת אוטומטית מפרומפטים טקסטואלים היא עדיין חצי-גימיק-חצי-כישוף. אבל מיכון המחקר במתמטיקה-טהורה הוא בעיה פתורה. היום, ההתקדמות במחקר המתמטי מבוססת על קהילה בינלאומית רחבה, פרסום וקולבורציה. אין סודות. יש אולי כיסים-קטנים-ותחומים-מאד בהם אפשר להשיג התקדמות מסויימת בבידוד מהעולם (היסטורית, בעיקר בקריפטוגרפיה) - אבל באופן כללי, כולם יודעים הכל. ואז, ברגע - הכל משתנה. כל מדינה יכולה להקים מחשב-על שיתקדם במתמטיקה טהורה לגמרי לבד, וישתף את מפעיליו בתגליותיו. קהילה מתמטית שלמה בקופסא - רק שכל המתמטיקאים הם גאוס, הם עובדים בהילוך-מהיר, ולא ישנים. רוב התוצאות משוחחרות לציבור, אך חלקן - כאלה מהן אפשר לגזור יישומים צבאיים או להעזר כדי לתפוס פער-תחרותי באיזשהו תעשיה אסטרטגית - נשמרים בינתיים בסוד. זה מירוץ-חימוש מסוג חדש לגמרי, וקשה מאד לנחש איך הוא יפתח. זה נשמע כמו תרחיש פנטסטי, אבל כאמור, סביר יותר שהוא ירקום עור-וגידים לפני המונידאל הבא מאשר שלא. ככה נראית סינגולריות (AGI זה red herring). אם אנחנו כבר בענייני מד"ב: מתישהו זה ייושם למדעי-המחשב, אלגוריתמיקה וקריפטוגרפיה. מערכות כלליות שפותרות בעיות המוגדרת היטב בשפה פורמלית ("מצא אלגוריתם כך ש...", "תכנן פרוטוקול כך ש...") הן כנראה לא יותר מסובכות - אבל פחות מהפכניות. מערכות שממכנות את כל המחקר מקצה-לקצה בתחומים האלה עשויות להיות קצת יותר טריקיות, פשוט כי הקריטריונים של "מה מעניין" הם לפעמים יותר רכים (אבל אולי כבר בפברואר הקרוב המכשול הזה יראה מיושן ולא רלוונטי). גם ברור כבר שאפשר ליישם את הגישה הזו בדיוק, בלי צורך בפריצות דרך נוספות, לתחומים מסויימים בהנדסה והמדעים-האמפיריים, אמנם יש שם יותר ממכשולים, אבל אף אחד מהם לא נראה מהותי. זה רק עניין של זמן עד שיפותחו מערכות שיעסקו אוטונמית בהנדסת-חומרים, פיתוח-תרופות, תכנון מכני, תכנון דיגיטלי, אלקטרוניקה וכו'. מתי אפשר אפשר יהיה ליישם את זה גם לפיזיקה? (בפרק הבא: "מהמשחק דיפלומטיה, לדיפלומטיה - סיפורם של שני בני-נוער שכבשו את אסיה בעזרת לפטופ"). |
|
||||
|
||||
אני די בטוח שזה יהיה כלי מועיל שיחסוך המון זמן. אבל איך בדיוק אתה יכול להגדיר את התנאים? קריפטולוגיה היא דוגמה טובה, מכיוון שמאוד לא ברור מראש מהן הבעיות: אנחנו עובדים במערכות מאוד מסובכות ומודל האיום לא מאוד ברור. וברמה גבוהה יותר: מי שמחליט מה לחקור הם אנשים. מי שקובע למה מקצים תקציבים ומשאבי מחקר הם אנשים. את השיקולים שלהם אי אפשר למדל במודלים כאלו. ניסו לפני עשור להוציא את האדם מהלולאה בכלכלה ובינתיים זה בכלל לא עובד: יש מכשירים כלכליים משוכללים, אבל אף אחד לא משתמש בהם לצרכים לא ספקולטיביים |
|
||||
|
||||
אני בגדול מסכים איתך לגבי קריפטוגרפיה (זה בדיוק מה שכתבתי קודם, לא?). אבל במתמטיקה-טהורה, הדברים (אולי באופן מפתיע) הרבה יותר פשוטים - מכיוון שהאבלואציה של שאלות מחקר הרבה פחות תלויה בתנאים סביבתיים או הקשר חיצוני. במתמטיקה יש סיבות טובות לחשוב שדווקא הקטנת ההשפעה של אופנות ופוליטיקה על הכוונת מאמצי המחקר, רק ישפרו אותו (בניגוד להרבה תחומים אחרים, בהם הקריטוריונים ל-"מה ראוי לחקור" הרבה יותר עמומים או דורשים הרבה יותר קונטקסט כללי). צפית בוידאו אליו קישרתי לעיל? הוא לא מוכיח זאת מעבר לכל ספק, אבל הוא בעיני מבהיר יפה את הנקודה. אני לא מבין את ההקשר למכשירים פיננסים (וחולק לגמרי על הקביעה "אף אחד לא משתמש בהם לצרכים לא ספקולטיביים", אבל זו כבר סטייה גדולה מהנושא). |
|
||||
|
||||
(אני אפילו לא מבין את הקביעה הזו בטרם אחלוק עליה, שלילות משולשות עושות לי כאב ראש). |
|
||||
|
||||
אני אחדד חידוש לשוני יפה שהשתרבב לך: אדם או חייה, ובהשאלה יוזמה: קורם עור וגידים. רובוט, ובהשאלה AI: רוקם עור וגידים. |
|
||||
|
||||
:) בעקבות התיקון שלך, קראתי שוב את הפתיל, והזדעזעתי (אבל לא הופתעתי) מכמות טעויות-ההקלדה, המילים הכפולות, המילים החסרות ושאר השגיאות שמצאתי בהודעות שלי. אולי זו הסיבה שאני מתרשם כל כך מ-GPT: הוא בברור עושה עבודה הרבה יותר טובה ממני. |
|
||||
|
||||
כשאני קורא (בעניין ובהערכה) את התגובות שלך, אחד הדברים שבולטים לעין שלי זה השימוש המוגבר שלך במקפים מחברים. מותר לשאול מה הרציונל מאחורי הבחירה הזו? |
|
||||
|
||||
זו לא בחירה סגנונית מחושבת. פשוט ככה - לפחות באופן בו אני מפרש את סימני-הפיסוק הללו - אני מדבר. לקחתי את ההערה לתשומת ליבי :) (ותודה!) |
|
||||
|
||||
על לא דבר. זאת אפילו לא היתה ''הערה'', סתם סקרנות מצידי. הנימוק היחיד שאני יכול לחשוב נגד הבחירה הסגנונית הזאת הוא שכשאני קורא אותך מהטלפון (עם מסך צר שמספיק למעט תווים בשורה), יש שורות שנשברות מוקדם מכפי שהיו נשברות אלמלא המקפים, מה שיוצר קפיצות קצת מוזרות בשוליים השמאליים של הטקסט. |
|
||||
|
||||
תירוץ מצוין להביא קישור לפתיח הזה. |
|
||||
|
||||
המוזיקה הכי פלצנית שנשמעה אי פעם ממקלט הטלויזיה. _____ אין לי שום דבר לתרום לנושא הדיון אז נתת לי את ההזדמנות לקפוץ ולהשתתף. |
|
||||
|
||||
יש לי סימפטיה למוזיקה (כר בטח הזכרתי כאן שבזכותה למדתי לנגן בפסנתר), אבל ספציפית הקישור היה בשביל הויזואליזציה שרוקמת עור וגידים. |
|
||||
|
||||
"אנחנו ביולי 2023...מיכון המחקר במתמטיקה-טהורה הוא בעיה פתורה." - העם דורש לו"ז מתוקן. האם רק לי נדמה שיש האטה של ממש בהתפתחויות בתחום? יוטיוב מוצף ב"חדשות השבוע המסעירות ב-AI" שמתבטאות בשיפורים שאם יש להם חשיבות אמיתית הרי שהיא מובנת בעיקר ליודעי סוד, לא שום דבר שאפילו מתקרב למה שנבאת. בינתיים גם בארד וגם GPT לא מצליחים להתמודד אפילו עם התרנגולת וחצי שאני זורק עליהם. התשובה האחרונה מבארד, אחרי שהסברתי לו איך לחשב בשני צעדים, היתה: If one and a half chickens lay one and a half eggs in one and a half days, then one chicken would lay one egg in one and a half days. Therefore, one chicken would lay 2/3 of an egg in one day and a half. למד עוד:To compute how many eggs one chicken lays in one day, we can divide 2/3 by 1.5 to get 0.44 repeating or 4/9 of an egg 1. 1. poultry.extension.org +4 עוד
2. almanac.com 3. firstlightfarmer.com 4. tenacrebaker.com |
|
||||
|
||||
כשהדור הבא של המכונות האינטליגנטיות יכבוש את העולם בקרוב, הם יצאו לחפש את הנודניק שגרם לסבא ג'פטו האהוב שלהם לצאת מדעתו עם התרנגולת וחצי שלו, וינקמו את נקמתו. ראה הוזהרת. |
|
||||
|
||||
אמנם אין לי קעקוע של דרקון על הגב, אבל "הזקן שבעט בקן צרעות" יהיה שלאגר (מישהו מתחת לגיל 70 עוד אומר בכלל "שלאגר"? כי פעם המילה הזאת היתה שלאגר). |
|
||||
|
||||
לא. מזמן לא. |
|
||||
|
||||
לפני חודשיים נכנסתי לסניף קטן של "רמי לוי בשכונה". אין להם שם עמדות לשירות עצמי, אבל מצאתי קופה בה לא היה איש לפני. שמחתי היתה קצרה כי הצוות עסוק היה בהתייעצות. בסופה ניגש בחור צעיר אל סביבתי, ופנה לאדם (יותר) זקן שעמד, כך התברר, בסמוך אלי. "איך אמרת קוראים לזה?" "שלגון!" ענה הלקוח "אין לנו דבר כזה בחנות. אולי בסניף אחר" הזקן אמר שזה לא יכול להיות ולא זז ממקומו. לא חלפה דקה, ומן הקומה העליונה ירד המנהל, ביחד עם עובדת נוספת והסביר לצוות: "שלגון זה ארטיק" וביקש להנחות את פליט האלף הקודם אל משאת נפשו המרעננת. הזכיר לי קצת אירוע מלפני שנים בו ביקשתי מן המלצר במסעדת אתניקה (נדמה לי) דג אמנון. הוא השיב שאין להם. הצבעתי לו על הלוח בו נכתב "מנת היום - אמנון בתנור". הוא היסס לרגע, אבל טען בביטחון שזה מוזר כי אין להם, אבל אני יכול במקום זה להזמין מושט. |
|
||||
|
||||
הרבה מכירים את ענין ה''ארטיק'', אבל אני התוודעתי רק לאחרונה לכך שגם ''קרטיב'' היה שם מסחרי. לא ברור לי איך זה שהמותג עצמו לא נקנה ע''י מישהו כשהיצרנים נסגרו, ואני משער שהיום זה לא היה קורה. בעניין לא ממש דומה, מלצרית שנשאלה לגבי ''דג היום'' שהוצע בתפריט ענתה שזה ''דג פילה''. זה דווקא מצא חן בעיני כי בילדותי אכן חשבתי שפילה, שהיה מאכל די נפוץ בבית הורי, הוא סוג של דג, וגם כשהתוודעתי לקיומו של ''סטייק פילה'' חשבתי שזאת מקריות מעניינת שיש גם דג בשם הזה. |
|
||||
|
||||
''בילדותי אכן חשבתי שפילה, שהיה מאכל די נפוץ בבית הורי, הוא סוג של דג'' - כנ''ל, רק שאת תפקיד בית הוריך מילא אצלי חדר האוכל בקיבוץ. בעצם אני לא בטוח אם חשבתי שזה סוג של דג או אופן ההכנה, מצופה בבלילה ומטוגן. |
|
||||
|
||||
כנ"ל לגבי הדג פילה! דומני שלקח לי יותר מ-20 שנה לתקן את הטעות הזו. |
|
||||
|
||||
לפני שבועים לקחתי מאפה בקונדיטוריה/בית קפה וביקשתי גם שקיק תה לקחת. המוכרת לא הבינה גם כשחזרתי על הבקשה. אחרי שהסברתי בגולמנות רבה היא אמרה- אתה רוצה תיון? |
|
||||
|
||||
(המממ, למי שאכפת-לו: בניגוד למה שכתבתי למעלה, אלפא-פולד הוא מודל שקרוב יותר לטרנספורמרים ודיפוזיה איטרטיבית מאשר לחיפוש באמצעות RL). |
|
||||
|
||||
על נבואות קצרות טווח כאלה אפילו אני יכול להגיד ''נחיה ונראה'' (אמר השוטה ונפטר מהתקף לב לפני שהספיק לאשר את השליחה). |
|
||||
|
||||
אני אוהב לטעות. יש קצת מאד דברים שאני יודע לעשות בכזה כשרון. |
|
||||
|
||||
כל הכבוד! ברשותך, אני אאמץ את המשפט הזה בשינוי קל. לעומתך אני שונא לטעות, אבל גם אצלי יש מעט דברים שאני עושה ביותר כשרון. |
|
||||
|
||||
אני ממש (אבל ממש!) אוהב לצאת צודק ואני עדיין ממתין בסבלנות לרגע בו זה יקרה לי בפעם הראשונה. |
|
||||
|
||||
הממ... אז איך אתה יודע שאתה ממש (אבל ממש!) אוהב את זה? |
|
||||
|
||||
אני לא יודע. מה שלא מפריע לי להכריז זאת באופן הכי נחרץ שאפשר! |
|
||||
|
||||
צעד קטן לבינה מלאכותית, צעד גדול לאדם. בהקשר של הפתיל הנוכחי (ראו כותרת), בנוסף לעניינים חסרי חשיבות כמו מתמטיקה ושאר הבלי עכו"ם, אפשר כבר לראות את היום בו רבנים ואברכים מוחלפים בתוכנה שמבלה את ימיה בלימודי תנ"ך, תלמוד ומשנה, מחשבת דילוגי אותיות, פוסקת הלכות ועונה על שאלות רב. המוני המובטלים החדשים יוכלו להקדיש יותר זמן להתמחות בזריקת חיתולים צואים וצעקות "נאצים" כלפי שוטרים, עד שגם פעילויות אלה תיעשנה ע"י רובוטים שומרי תורה ומצוותת. תוצאות מקדמיות בגימטריה כבר כאן: (974) = בינה מלאכותית = גשר לאמת = וידעו כי אתה שמך יהוה לבדך. ברוך הוא וברוך שמו, שהחיינו וקיימנו והיגיענו ליום הזה1, ונאמר אמן. ____________ 1- ובאנגלית: What a time to be alive! |
|
||||
|
||||
בקשר לפסוק, היה לי מוזר שהכותב יחשוב שעוד מישהו ירצה שיקראו לו יהוה, אז הלכתי למקור והבנתי. זה כמו ''עיניים להם ולא יראו אזניים''. |
|
||||
|
||||
על פי הרב המכובד פרדריק בראון ב-1964: https://www.roma1.infn.it/~anzel/answer.html |
|
||||
|
||||
רעיון מאד דומה לסיפורו של האדמו"ר <קישור https://xpressenglish.com/the-last-question/ אייזק אסימוב>. טוב, תמיד אפשר יהיה לרשום את שניהם בסיפור הבריאה של התנ"ך של ה-AI, לקרוא לאחד מהם פרק א' ולשני פרק ב'. זה עבד בפעם שעברה. |
|
||||
|
||||
עם כל הרעש שהוספתי לידיעה, אולי מישהו החמיץ את החלק החשוב: "Meta AI has built a neural theorem prover that has solved 10 International Math Olympiad (IMO) problems — 5x more than any previous AI system."
|
|
||||
|
||||
המסקנה שלי לאחר כמה שעות של משחק עם ה-AI היא שזה ממש לא "מעבר לפינה". בפרט, אני מוכן להתערב שלא תהיה שום הוכחת היתכנות לפני ש-2023 תסתיים. |
|
||||
|
||||
ביחס של 1:1 אני מוכן להתערב על 2024 (ובכל מקרה אסכים רק להתערבות קטנה). וצריך לוודא שאנחנו מסכימים איך נראית הוכחת התכנות, כי היא יכולה להגיע בהרבה צורות. למשל: מערכת שמקבלת ניסוח עמום של היפותזה, ומפיקה משפט אולי אחר לגמרי אבל ש-(1) דומה ברוחו להיפותזה ומעניין במובן בו ההיפותזה הייתה מעניינת, (2) נכון, בצירוף הוכחה (כלומר: עושה משהו מאד דומה למחקר עצמאי, גם אם לא פורץ דרך). וזו תישאר הוכחת התכנות בעיני גם אם המערכת תהיה מוגבלת לתחום מתמטי ספציפי, כל עוד היא מצליחה להוכיח איזשהן תוצאות ראויות לפרסום (אפילו אם היא לא תוכל עדיין להוכיח עצמאית כל תוצאה שכבר ידועה בו). וזו תישאר הוכחת התכנות, גם אם התוצאות שהיא מפיקה כבר פורסמו (בתנאי שהיא לא רימתה ובאמת ניסחה והוכיחה אותן עצמאית). גם מערכת שתיהיה מסוגלת לנסח בעצמה הגדרות מתמטיות לא טריוויאליות ומעניינות, ולהשתמש בהן כדי לפשט הוכחות מוכרות באופן שמדגים insight מתמטי היא הוכחת התכנות בעיני. יש גם תרחישים שלדעתי צריכים להסתיים בתיקו. למשל מערכת שמסוגלת לקבל היפותזה מוגדרת היטב ולהוכיח אותה, והיא מספיק חזקה כדי להפיק עצמאית הוכחות חדשות ומלאות לבעיות קשות וראויות לפרסום. פרקטית זו אולי תהיה פריצת דרך משמעותית יותר מהתרחישים הקודמים, אבל זו לא בדיוק הוכחת התכנות למתמטיקאי בקופסא עדיין. |
|
||||
|
||||
משהו קשור מהבלוג של סקוט אהרונסון : "After ChatGPT got “only” a D on economist Bryan Caplan’s midterm exam, Bryan bet against any AI getting A’s on his exams before 2029. A mere three months later, GPT-4 has earned an A on the same exam (having been trained on data that ended before the exam was made public)." |
|
||||
|
||||
הציטוט הזה אפילו יותר מצחיק: ״AI enthusiasts have cried wolf for decades. GPT-4 is the wolf. I’ve seen it with my own eyes.״ |
|
||||
|
||||
עוד לא מתימטיקאי בקופסה, אבל נראה אותה חושבת מחוץ לקופסה! |
|
||||
|
||||
אם למישהו יש ראש לעניינים חסרי חשיבות כאלה, התרשמתי מאד |
|
||||
|
||||
מן הסתם אני מסכים שזה מעניין (גילוי נאות: מכיר חלק מהמחברים). ואגב, chatGPT שחררו (היום? אתמול?) פיצ'ר חדש של פלאגינים שמאפשרים לצדדים שלישיים לבצע אינטגרציה למערכות שלהם כך ש-chatGPT יוכל להשתמש באותן מערכות כדי לאחזר מידע ולבצע פעולות תוך כדי השיחה. חלק מהתוספים שכבר עכשיו קיימים ממלאים את רוב הפונקציונליות עליה דיברנו כאן קודם (חיפוש ברשת, אחזור ידע וחישובים מתמטיים דרך וולפארם-אלפא). בינתיים הפיצ'ר רק נפתח בהדרגה לקהל הרחב, ועוד לא יצא לי לשחק איתו. אבל זה נשמע כמו (עוד!) גיים צ'יינגר. אני לא מבין איך יש עדיין מי שלא מסכים להודות שכבר חצינו את אופק-האירועים בדרך לסינגולריות. טכנולוגיה מהפכנית מתקדמת בקצב הרבה יותר מהיר מקצב האינטגרציה שלה במוצרים, בתהליכים ובתרבות, והטכנולוגיה הזו מתחילה (לאט, אבל בתאוצה) לקדם את עצמה. ברמה האישית, יש אבסורד שקשה לי להכיל בכך שמשהו מופשט ומד"בי כמו האמור לעיל הוא הדבר היחיד בעיני שמאפיל בחשיבותו על הייאוש מכך שישראל בדרך לאבדון (גם מבחינת ההשלכות על חיי היומיום שלי, וגם מבחינת הטיימליין והמהירות בה דברים מתרחשים). כל ההיוריסטיקות שלי לחשיבה רציונאלית צועקות שפשוט לא ייתכן שהתפתחויות טכנולוגיות מעוררות בי (הרבה) יותר תקוות ופחדים בו זמנית מאשר פאקינג הפיכה משטרית שמתרחשת סביבי ומאיימת להפוך את ישראל לאוטוקרטיה ותאוקרטיה רצחנית, אבל כל ניתוח קונקרטי של העובדות מוביל אותי למסקנה הזו. אני מתחיל קצת לפקפק בבוחן המציאות שלי. |
|
||||
|
||||
על מה אתה מדבר? נתניהו הרי הבטיח שהוא הולך לחוקק חוק שיבסס את זכויות הפרט, כך שהסכנה חלפה. |
|
||||
|
||||
אל דאגה, בסבירות גבוהה הג'פטו החדש בעברית יאמר כמה מילים על פוליטיקה ומיד יקבל מתקפת "שמאלן/בוגד/אנרכיסט" וייאסר לשימוש במרחבי הדיקטטורה המתחדשת. |
|
||||
|
||||
בס"ד אתה מפחית בהערכתו של הנגר החביב. כבר בשלבים הראשוניים של האימונים הוא יבין מה נכון להגיד, וכמובן באיזה פורמט, כפי שמודגם בהודעה זאת. זאת מאחר שכל הערכים בויקי ייראו כך. רק ביבי! |
|
||||
|
||||
אלא אם ניתן לו להתאמן על טקסטים דל האייל הקורא. היי - מצאתי את המטרה האולטימטיבית של האתר שלנו, שרק עבורה היה שווה לשמר אותו כל השנים. הידד! |
|
||||
|
||||
מרשים ביותר! |
|
||||
|
||||
2024 עוד לא נגמרה ובכלל לא התערבנו, ובכל זאת מעניין אותי מה דעתך בנושא כיום. |
|
||||
|
||||
הערה צדדית: אתם אנשי מקצוע, אבל שאלה להדיוטות שבחבורה: האם רק אצלי תחום ההתעניינות העיקרי עבר מבינה מלאכותית לטיפשות אנושית? (ואצל הרבה אחרים שהיו עסוקים בסדרי שלטון וההפיכה המשטרית, העניין הוחלף מ-regulation ל-reloacation?) |
|
||||
|
||||
אתה לא לבד! |
|
||||
|
||||
מזכיר את היחס שלי להתחממות הגלובלית. כרגע לא נראה לי שהיא בחמישייה הראשונה של האיומים על עתידי ועתיד משפחתי ובנותיי. וגם לא על סביבתי הרחוקה יותר. והיחס שלי בהתאם. לא היה כאן סקר רלבנטי לפני כמה שנים? |
|
||||
|
||||
אה, אני בכלל חשבתי שהיא בוטלה עם בחירת טראמפ לנשיאות. |
חזרה לעמוד הראשי |
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש | © כל הזכויות שמורות |