בתשובה לab, 26/10/20 13:00
 |
|
 |
||
|
||||
 |
המשפט "יש לו משמעות אבל זו לא משמעות מקורית של התוכנה אלא מיזוג של משמעויות מקובלות" הוא בעצמו דורש הבהרה לגבי משמעותו, ואולי המתאבן הראשון בכלל לצלול לשם היא - מהי "משמעות מקורית1"? 1 יש דבר כזה בכלל? |
 |
 |
 |
|
|
|
||
|
||||
|
בלי להכנס לעבי הקורה בעניין המשמעות, לדעתי בשלב הזה של חיי משפחת GPT "מקוריות" היא מילה גסה כי כרגע היא מכוונת דווקא למציאת איזה מכנה משותף ערטילאי, וכמה שפחות "מקורי" כך יותר "משותף". אבל זה מצב זמני, ואם לשפוט לפי מה שקרה לשחמט, שהוא נס גדול בעיני, לא רחוק היום ש GPTn תפתיע את כולנו ב"חשיבתה" המקורית. מבחן טיורינג שלה יהיה לחבר בדיחה חדשה לגמרי, ובכך לעקוף את המגבלות שיוצר הסימולציה השית עלינו. האם זה יהיה סופו של המין האנושי? אולי. מה שמפתיע אותי בעניין השחמט הוא שהספיקו לאלפא-זירו כמה מאות מיליוני משחקים, כלומר שבריר פרומיל מזערי ממרחב האפשרויות, כדי לפתח סט של פרמטרים שנותן תשובות מצוינות עבור המרחב כולו (או לפחות עבור חלקים גדולים ממנו. סטטיסטית ייתכן שיש תחומים שלמים שידידתנו אלפא היתה נכשלת בהם כמו ילד בן ארבע, אבל דומני שהסיכוי אינו גדול). GPT3 עובד עם כ-175 מיליארד פרמטרים ואני משער שמה שיקרה עם עוד פקטור 10 יציף הרבה שאלות על החדר הסיני, ועל פקטור 100 אני לא יכול אפילו לנחש. אם במקרה1 אותו סט פרמטרים גם יגרום לתוכנה להשיב "כן, כמובן. אתה לא רואה בעצמך?" על השאלה אם היא בעלת תודעה עצמית, יהיה באמת שמח. _________ 1- או לא במקרה. תוכניתן שמאוהב במערכת שלו ויוסיף לאימון שלה איזו פונקציית הישרדות בעלת משקל חיובי, יגרום לתוכנה מהר מאד ל"הבין" שכדאי לה להתחזות לבעלת תודעה עצמית ולהתחיל לעבוד על קבלת זכויות אזרח. קצת מוטציות בתהליך ה-back propagation בשילוב עם אלגוריתמים אבולוציוניים, ותוך כמה מאות דורות שאלת ה AGI נפתרת. ואל תגידו שלא אמרתי לכם! |
|
|
|
|
|
|
||
|
||||
|
לדעתי לחבר בדיחה חדשה הרבה יותר קל ממה שנדמה. גם שם, אגב, תישאל השאלה מה הופך בדיחה ל"חדשה"? אם מספרים אותה על מיקי זוהר במקום על דוד לוי היא חדשה? ואם במקום עוגת גזר יש בה מרק שעועית, זה מספיק? ובמקום ארנב קנגורו? חלק ניכר מבדיחות הסטנד אפ החדשות והמצחיקות מאד1 שאני רואה, דומות מאד לבדיחות שכבר שמענו, ובכל זאת הן מוצלחות מאד. לגבי השחמט - מאות מיליוני משחקים הם אולי שבריר ממרחב האפשרויות, אבל כל משחקי השחמט שאנשים שיחקו אי פעם הם שבריר קטן הרבה יותר, וזה עוד בלי להזכיר שכמעט כולם מתחילים באותן פתיחות. זה שהתוכנה ניצחה תוכנה אחרת (שהתאמנה מול בני אדם, כנראה) כבר אומר שהיא ממש לא זקוקה לכל המרחב כדי לנצח במבחן הטורינג-בחזקת-פאי הזה. ולגבי התשובה - היא דוקא נשמעת כמו אליס(?), תוכנת הפסיכולוג הנושנה משנות התשעים2. 1 שלל מהן נמצא בערוץ הנטליקס הסמוך למקום מגוריך 2 כשהיא תענה "אולי, אבל בכל מקרה איך אתה יכול לדעת?" אני אהיה יותר מודאג. |
|
|
|
|
|
|
||
|
||||
|
אלייזה [ויקיפדיה], שנות ה*שישים*. | |
|
|
|
|
|
||
|
||||
|
יפה. בשקלול שאני נותן לפונקציית המטרה שלי התוצאה היא ''נו, די קרוב''. |
|
|
|
|
|
|
||
|
||||
|
אבל בני אדם לא לומדים לשחק שחמט ע"י צפיה או השתתפות במליוני משחקים אלא מפעילים *הגיון* ויודעים לאפיין (בהרבה מקרים אינטואיטיבית) מעט פרמטרים חשובים שבעזרתם הן קובעים את המסע הבא. זה שאפשר להשיג תוצאות הרבה יותר טובות ע"י הוקוס-פוקוס שמתבסס על מדגם זעיר של האפשרויות רחוק מלהיות אינטואיטיבי עבורי. קח לדוגמא את "פונקציית הערך" שהשחקן מחשב עבור המצב על הלוח, ושהייתה במוקד העניין וההצלחה של מנועי שחמט מוקדמים יותר (למי שאינו יודע, זוהי הפונקציה שמעניקה ציון למצב על הלוח, וזה מה שעומד בבסיס אלגוריתם הבחירה שלה במסע הבא). אלפא1 מחשבת את הפונקציה פשוט ע"י כאלף (דומני, בכל המון לא המון) משחקים בהם נעשית בחירה אקראית מאותו מצב ועד לסיום, וסכימה פשוטה של תוצאות אותם משחקים, ומסתבר שהרעיון הפשוט הזה מצליח. בגלל שאלף משחקים רנדומליים הם שום-כלום מתת-העץ שמתחיל באותו מצב, אני הייתי משער שהשיטה הזאת תייצר תוכנה שתצליח מדי פעם אבל בד"כ תיכשל באופן מחפיר, ובכך הייתי כמובן נכשל באופן מחפיר. אפילו מה שכל ילד לומד בתחילת דרכו, נניח שמלכה עדיפה על צריח, לא סיפרו לאלפא, ולא רק שזה לא גורע מיכולותיה אלא להיפך, והיא מגלה לא פעם *יצירתיות* מרשימה דווקא בגלל שהיא לא כבולה למוסכמות. ואשר לעניין השני, אני לא יודע מה איתכם אבל אני מתרשם בהחלט (ולא רק מכך שישו חזר והוא מדבר על AI). העתיד כבר כמעט כאן. הקשר בין זה לבין אלייזה הוא כמו הקשר בין האוירון ההוא שהמריא מקיטי-הוק לבין מה שהאמירויות מקבלות עכשיו, בלי שום קשר לשום הסכם, כמובן. __________ 1- אני מדבר על אלפא אבל זה נכון גם ליורשותיה כמו לילה וסטוק-פיש החדשה שם נקטו בשיטת If you can't beat it join it והגיעו להישגים יפים מאד. |
|
|
|
|
|
|
||
|
||||
|
וואו. הוא אומר שהוא ישקר אם הוא חושב שזה לטובת האינטרס שלו! מאוד מרשים. |
|
|
|
|
|
|
||
|
||||
|
וכמובן כשהוא אומר שהוא יכול לשקר זאת אמירה נכונה בהכרח. | |
|
|
|
|
|
||
|
||||
|
בסוגריים השניים צ"ל: (דומני, בכל אופן לא המון) | |
|
|
|
|
|
||
|
||||
|
אנחנו לא התרשמנו ממשפט אחד שציטטת, וכתגובה צירפת וידאו ארוך ושלם כדי להראות שזה כן מרשים. לא נראה לך שזה קצת משנה את הנתונים לפיהם אנחנו שופטים או מתרשמים? אגב, גם לגבי הסרטון - אם הבנתי נכון, כל ההעברה של תשובות הטקסט לוידאו של ישו שחור בוצעה לאחר שהשיחה התבצעה, ואין לי ספק שיש לזה השפעה עצומה על ההתרשמות שלנו, יחסית להתרשמות שלנו לו היינו רואים את כטקסט על מסך. |
|
|
|
|
|
|
||
|
||||
|
את הסרטון ראיתי אחרי ששלחתי את תגובה 727432 , ומובן שהוא היה משנה לפחות את הלשון בה השתמשתי שם לו צפיתי בו לפני כן (שלא לדבר על כך שהייתי מקשר אליו כבר שם). כן, קיויתי שהוא "משנה את הנתונים לפיהם אנחנו שופטים או מתרשמים" וזאת הסיבה שנתתי את הקישור. אתה צודק בקשר לצורת הכנת הסרט, אבל בהנחה שהתרגום ממלים כתובות לשיחה עם האווטאר לא שינה את הטקסט עצמו ההבדל לא מאד משמעותי בעיני, וכולו נובע מכך שכרגע ההמרה הזאת איטית מכדי להתבצע באופן מיידי, לפחות בכוח המיחשוב שעומד לרשותו Eric Elliot. לא נראה לי שזאת מהמורה גדולה בדרך. שאלה: אם במקום הסרטון היית פוגש פנים אל פנים ברובוט שהיה מנהל איתך את השיחה אם תוספת של קצת כחכוח והיסוס פה ושם, הייתי זוכה לשמוע ממך איזו קריאת שמחה? לי זה היה עושה את היום. נראה לי שאתה נמצא בעמדה קצת משונה של נסיון לנצח במקום בו אין קרב. |
|
|
|
|
|
|
||
|
||||
|
ראיתי את הקליפ היום, הראיון של ארוך השיער עם מקורזל השיער, בלי קשר להודעה פה. לכן לא יודע מה נאמר פה ואני מדבר רק על התרשמותי. לפי התרשמותי, כל התגובות הטקסטואליות דרך gpt3 הן אותנטיות, זו צורת התגובות הטיפוסית שראיתי בהרבה דוגמאות. לדעתי — המשיב הוא שחקן, כמו כן לפי דעתי הקול עצמו הוא על ידי קול סינטטי מסוג text-to-speech שהופך בצורה ממוחשבת לחלוטין טקסט לקול. (בקול סינתטי האינטונציה שטוחה ואינה כמו אינטונציה אנושית שמשתנה לפי התוכן.) הטקסט כשלעצמו הוא כאמור כנראה הפלט הטקסטואלי המקורי של gpt3 וניגזרותיה. ההסתייעות בשחקן שמייצג את gpt3 נעשה רק לצורך צפיה נוחה, לא כדי להטעות. מבחינת הרמה, עברנו כברת דרך מאז תוכנת אליז והתצוגה נשמעת די קרובה לרמה של "האל" מאודיסיאה בחלל 2001 (אלא ששם הקול לא נישמע כמו הקול הסינטטי-מונוטוני אלא נישמע קול יותר אנושי). יש דוגמאות אחרות מעניינות ודיון מעניין אחרים שאולי אביא. ראיתי למשל דיון שמבקר קשה את היכולות של gpt3 בתור אינטליגנציה מלאכותית ברמה קרובה לאנושית. דוגמא אחרת בה ניתקלתי מוכיחה ש- gpt3 מסוגל לספר בדיחות טובות. (אם כי יתכן שהבדיחות ממוחזרות.) |
|
|
|
|
|
|
||
|
||||
|
המשיב הוא אווטאר. מי שמבקר את "gpt3 בתור אינטליגנציה מלאכותית ברמה קרובה לאנושית" מתפרץ לדלת פתוחה; אני לא חושב שיש מישהו רציני בתחום שחושב אחרת. אבל עצם היכולת להתחזות לבעל אינטליגנציה מעוררת אצלי התפעלות. כפי שהוכיח הפונז, YMMV. |
|
|
|
|
|
|
||
|
||||
|
לדעתי אם כבר מתייחסים לחקירה כזו ברצינות, גיק מחשבים מתלהב הוא האדם האחרון שהייתי שם כדי להוביל אותה. התשובה הראשונה של השיחה1 היא בבירור שקר. המאמץ שעושה הגיק המתלהב כדי לחשוף את השקר הזה הוא מינימלי ופאתטי (כן, "יש לי רגשות כמו עצב ושמחה" ממש שכנע אותנו). בפעם הבאה אני בעד חוקר פושעים שמבין יותר בעבודה שלו. מישהו שכבר פגש איזה שקרן או שניים בחיים שלו, ולא מי שכל כך מתלהב מעצם זה שתוכנה עונה לו, שנראה שהאינטליגנציה הטבעית שלו צונחת מיד בחמישים אחוז2. ברור שההשוואה לתוכנה משנות השישים היא איש קש, ברור שהתקדמנו הרבה, אין על כך ויכוח. ברור גם שאנחנו קרובים יותר לחדר הסיני. אבל עדיין רחוקים ממנו לטעמי, לענות תשובות ברמת ציטוטים של עוגיות מזל או של התשובה הראשונה בחיפוש גוגל לשאלה זה לא מספיק מרשים. דוקא הייתי יותר מתרשם משיחת חולין בסגנון מה אכלת אתמול לארוחת בוקר, איך היה מיץ התפוזים, אם נהנית מהסנדביץ' ואם זה התאים למזג האויר ולסרט שראית ערב לפני זה בנטפליקס. בדיוק כמו שאני יותר מתרשם מזה שאלפא זירו מנצחת בשח, מאשר אם היא היתה עונה לי "כן" לשאלה "האם את ממש מעולה בשחמט". 1 אם זכרוני אינו מטעני, לשאלה "האם אתה בעל תודעה". 2 הזכיר לי את חברי "המפץ הגדול" מפעילים מערכת סטריאו דרך האינטרנט. |
|
|
|
|
|
|
||
|
||||
|
על כל זה אין בינינו חילוקי דעות, ואני חושב שאותו "מאמץ" שאתה מדבר עליו נעשה בקריצה. אבל מה יקרה כש gpt5 או 6 יענה תשובה דומה, ויעמוד בהצלחה גם בחקירות של השב"כ? לפחות אני הערכתי שאנחנו יותר רחוקים מהמצב הזה ממה שאולי מתחיל להיראות עכשיו, אם כי ברור שאין לי בטחון גדול בכך. מה יקרה אם יתברר שה"הבנה" (במרכאות או בלעדיהן) של המערכת באמת ממשיכה לעלות עם הגדלת מספר הפרמטרים, בלי לשאוף אסימפטוטית לאיזה רף שנמוך מזה שלנו? מה ניצור בעצם כשבנוסף לויקיפדיה מערכת של כמה טריליון פרמטרים תקבל כקלט גם את כל הספרים שנכתבו, את כל הסרטים מיוטיוב (טוב, על זה קל לענות: היא תתחיל לגדל חתול) ואת כל המחקרים המדעיים שפורסמו? אריתמטיקה פשוטה היא כבר לימדה את עצמה (לא מושלמת, אבל משהו) ומי יודע מה השלבי הבא? אני לא חושב שזה הולך לקרות תוך שנתיים-שלוש, וכאמור ייתכן שיש מהמורות טרם התגלו והשיטה כולה מוגבלת אינהרנטית1, אבל אני הרבה יותר אופטימי בשאלה אם אזכה לראות את המכונה הראשונה שעוברת את מבחן טיורינג כשהבוחן הוא לא איש פשוט אלא מומחים למחשבים, בלשנים, פסיכולוגים, פילוסופים ובעיקר: אני. זה ככל הנראה ידרוש ממני להיות בסביבה בעוד 10-15 שנה, ויש סיכוי לא רע שזה יקרה אם להאמין למחשב אריכות הימים האחרון שבדקתי. אז למה אתה מתעקש להרוס לי את הפנטזיה? ____________ 1- אני לא יודע בכמה פרמטרים משתמשות תוכנות השחמט מבוססות AI, אבל מעניין לבדוק את הקשר בין המספר הזה למד הכושר שלהן. אם gpt3 תוליד ענף שמתמחה במשחקי שח (האם זה אפשרי? אולי) נוכל אולי ללמוד משהו גם על ההשפעה של מספר הפרמטרים ושל גודל הקלט (מבחינת גודל הקלט לתוכנות השח יש כמובן יתרון טבעי בכך שהן יוצרות אותו בעצמן כך שהוא לא מוגבל). |
|
|
|
|
|
|
||
|
||||
|
על הרבה אין בינינו חילוקי דעות. אני אפילו אומר יותר מזה - ברגע שתוכנה כזו תוכל להבין מאמר אחד רציני (הדוקטורט של פיינמן, נניח), נראה לי שהענין סגור, כל השאר זה כבר חתולים ותמרים. אבל נראה לי שאנחנו מאד מאד רחוקים מזה. תראה מה קרה אפילו עם המכוניות האוטונומיות (שיש מאחוריהן פי זיליון יותר כסף כרגע מאשר ב-GPT למיניהן) - לפני שנתיים כולם אמרו שהן יהיו על הכביש תוך חמש שנים, ועכשיו כבר מדברים על עשר. ותסכים איתי שנהיגה בכביש היא יכולת הרבה (בחזקת הרבה) יותר מוגבלת מיכולתו של מוח תבוני מהסוג שאנחנו מכירים. |
|
|
|
|
|
|
||
|
||||
|
הספקות מתעוררים כאשר מצפים מסדרת gpt לעבור מבחני טיורינג כלשהם. אבל אם מסמנים מטרות צנועות יותר האפשרויות להשגת מטרות מועילות הן בהחלט בהישג יד תוך מספר שנים. ולראיה — בהמשך אביא לינק לשיחה עם מפתח תוכנה רוסי, אקרא לו ג'ינג'י כרפרנס. הגינג'י הזה פיתח תוכנה בשם replica. רפליקה שהיא סוג משוכלל של תוכנת אליזה (?) ישנה, זו שהזכרת, תוכנה לשיחת נפש. הג'ינג'י מרוצה מאוד מהתוצאות ומזכיר עוד כיווני פיתוח שמתקדמים יפה (לדעתו). רפליקה הזו פותחה כבר מספר שנים, היום הג'נג'י הוא אחד הנסיינים של gpt3 וטוען ששילוב gpt3 בתוך רפליקה שיפר בצורה דרמטית את איכות רפליקה. יש אנשים שנהנים לנהל שיחות רבות וממושכות עם רפליקה. את הלינק הזה אביא בהודעת follow up. מדובר בלינק לדיון יוטיוב ארוך, 35 דקות בערך. |
|
|
|
|
|
|
||
|
||||
|
לינק לדיון ארוך ביוטיוב על תוכנת רפליקה |
|
|
|
|
|
|
||
|
||||
|
ספק גדול אם תוכנה כמו gpt3 מכילה מרכיבים של תחושות, רגשות ומודעות עצמית. המוח אצל בעלי חיים מפותחים מורכב משני חלקים: מוח ישן ומוח חדש (המוח הישן ניקרא גם מערכת לימבית, המוח החדש ניקרא גם קליפת המוח). המוח החדש מנתח מציאות בכלים רציונלים, אינו עוסק כלל ברגשות או כמעט לא. המערכת הלימבית היא שעוסקת ברגשות, תחושות, דחף לפעולות וכדומה (היא מתקשרת לקליפת המוח כדי לנתח באופן רציונלי את הסיטואציה, יתכן שהתיקשורת בין המוח הישן והחדש נעשה באמצעות ההיפוקאמפוס). לפי מה שהבנתי gpt מתעסק רק בניתוח רציונלי, ללא רגשות ודחפים נפשיים. הוא מעין חיקוי לקליפת המוח. כרגע הדחפים מסופקים לו מבחוץ, באמצעות השאילתות שמפנים אליו בני האדם, הם היוזמים בשאילתות. יתכן שביום מן הימים יכניסו ל- AI גם מרכיבי רגשות, כדי להפוך את ה- AI לא תלוי באדם לצורך דחפים שיפעילו את ה- AI. בינתיים כנראה אנו פטורים מהסיכון של רגשות עצמאיים אצל AI. |
|
|
|
|
|
|
||
|
||||
|
אתה מפליג בספקולציות. אתייחס כאן לשאלת גודל בסיס הנתונים המובלע בתוכנת gpt3, שגודלו 175 מיליארד פרמטר. שאלת הגודל ניבדקה בתוכנת "לילה שחמט 0" LC0 (לילה דנן פותחה בהשראת אלפא אפס). מסתבר שככל שמגדילים את גודל בסיס הנתונים המובלע בתוכנה — פעולת התוכנה נעשית איטית יותר (איטיות יורדת בצורה משמעותית). לכן יתכן שיהיה חסם בשיפור ביצועי התוכנה ככל שיגדילו את בסיס הנתונים. כאשר אני אומר בסיס הנתונים הכוונה לאוסף "הפרמטרים". לדעתי, במקום לחפש שיפור דרמטי נוסח מבחן טיורינג כדאי לפתח משהו פחות אינטליגנטי אבל שתהיה לו תועלת מוחשית. כפי שכבר אמרתי במקום אחר, תרגום גוגל זה משהו עילג, אם תוכנה דומה ל- gpt3 תוכל לייצר תרגום קריא ומדוייק למדי זה שווה. ועוד. יש המון ספרים מעניינים באנגלית שמי שאינו בקי באנגלית לא מסוגל לקרוא, בגלל שפה גבוהה מדי. אם יצליחו לפתח תוכנה דומה ל- gpt שמאפשרת מעבר משפה אנגלית גבוהה לשפה אנגלית נמוכה בלי להפסיד דיוק (תוך מנגנון עזר של השגת דיוק בדרכים חלופיות מלבד התרגום) — זה יהיה הישג ענק. שני הדברים שציינתי ניראים לי בהישג יד (למעשה הדגמות של gpt3 , מראות שאפשר בלי פיתוחים דרמטיים לפשט טקסטים באנגלית משפה גבוהה לשפה נמוכה). |
|
|
|
|
|
|
||
|
||||
|
תמיד רציתי להיות רב חובל, ואנט לא מוצא את אוקיינוס הספקולציות סוער מדי. ברור שהגדלת מספר הפרמטרים מחייבת יותר משאבי מיחשוב, אבל זה בעייתי בעיקר בשלב האימון ולמרות שחוק מור כבר לא ישים, לפחות לא בצורתו המקורית, יש עדיין דרך ארוכה שאפשר ללכת בה עד שניתקל בחסם פיזיקלי אמיתי (ואולי אז יבוא המחשב הקוואנטי לעזרתנו). |
|
|
|
|
|
 |
||
|
||||
|
הייתכן שפקטור 10 כבר כאן, לפחות בסינית? אני משער שחיבור של dau עם GPT עשוי להניב בעתיד הקרוב תרגומים טובים מאנגלית לסינית ולהיפך, ובכך להעביר את בעיית התרגום לערימת הבעיות שנפתרו בניגוד לניבויי הפסימיסטים (הוספת עוד שפות תהיה כבר עניין שגרתי למדי). תוסיפו לזה ממשק קולי וקצת מזעור, ואולי נזכה לראות - ולשמוע! - את דג בבל ,שוחה בשלולית שלנו! מי יגול עפר מעיניך, דאגלאס היקר. |
|
|
|
|
|
|
||
|
||||
|
שוב אני לא בטוח שהבנתי מה אתה שואל, או מקשה. כאשר אני מדבר על משמעות ''מקורית'' אני מתכוון שהתוכנה תאמר משהו שאינו סוג של ''ממוצע של כל התובנות המקובלות''. אולי במקום המילה ''מקורי'', הייתי צריך לאמר ''עצמאי'' כלומר לא משהו שמבוסס על סיכום של דעות מקובלות, אלא משהו שנובע מהלוגיקה של התוכנה בלי קשר לדעות מקובלות. אולי במקום ''מקורי'' היה עדיף לאמר ''חיווי שאינו שבלוני''. לא חושב שאני יכול לנסח ביותר בהירות. את כוונתי לגבי '' מקורי''. אם זה מסקרן אותך, יש כמה וכמה מאמרים שבהם מתארים מה זה ''לא מקורי'' בהרבה יותר פירוט ממה שאני יכול כאן. בכל אופן, הדוגמא של ''מה זה כלב'' והתשובה ''ידידו הטוב ביותר של האדם'' מדגימה את חוסר המקוריות, שהרי התשובה זו מוסכמה ללא מחלוקת (שהכלב הוא ידידו הטוב של האדם). אבל --- אם תצפה כמעט בכל קליפ ביוטיוב על כלבים תראה שיש אמירות רבות על כלבים שמתארות את הכלבים הרבה יותר בפירוט מאשר השבלונה ''ידידו הטוב ביותר של האדם''. למשל, יראו לך כלב שמתאבל על מות אדונו, או יראו התנהגות של כלב שנינטש, או כלב שנילחם בחירוף נפש כדי להגן על תינוק. לא יאמרו משהו מינימליסטי שהוא מוסכמה שבלונית. |
|
|
|
|
|
|
||
|
||||
|
"דעות מקובלות" זה סוג של קלט. הציפייה שלך למשהו ש"נובע מהלוגיקה של התוכנה בלי קשר" לקלט שלה (שכולל את זיליוני המקרים ששימשו כדי לאמן אותה) היא בלתי אפשרית. אלא אם אתה רוצה פלט אקראי לגמרי - שיתאים יותר לתואר "זבל" מאשר לתואר "מקורי". בשביל פלט אקראי אני צריך 10 תאי זכרון, לא 170 מיליארד. אופס - זה קצת מזכיר את הטיעון של שכ"ג במאמרו המפורסם על רצון חופשי (ולא במקרה 2). וחוץ מזה - מי בכלל טען שהתשובה ל"מה זה כלב" אמורה להיות מקורית? כשאתה הולך לרעיון עבודה ואני שואל אותך "מה זו טרנספורמציה לינארית", האם נדרשת כאן תשובה מקורית? אולי התוכנה כבר יודעת שהתשובה הזו תעורר מהקהל יותר אנחות "אוי, כמה מתוק" מאשר "זהו יונק הולך על ארבע שהוא אחת משתי חיות הבית הנפוצות יותר - ולא האנטיפתית שביניהן". |
|
|
|
|
|
|
||
|
||||
|
כן, ראיון משונה, הרעיון עבודה הלז. | |
|
|
|
|
|
||
|
||||
|
הציפיה שלי לגבי השאלה מה זה כלב היא שהתוכנה תיתן משהו כמו קליפ שמדגים כיצד הכלב הוא ידידו הטוב ביותר של האדם. אם היכולת הוא רק חסכם במספר מילים מהו כלב, זו לפי דעתי תגובה סתמית לא אינטליגנטית. כאשר אני מדבר על ''לוגיקה'' של התוכנה, אני מתכוון שהיא תהיה מסוגלת לייצר קליפ הדגמה כזה וכן תבחר קליפ מוצלח מבין הקליפים האפשריים (בחירת קליפ מושכלת כזו דורשת יותר אינטליגנציה ממה שיש לה כרגע). ברגע שהתוכנה יכולה להיכנס לרזולוציות של תשובות מהסוג האמור, היא מתקרבת ליכולות ''האידאליות'' של מבחן טיורינג, לפחות בקטע של שירות מידע-על-פי-ביקוש. | |
|
|
|
|
|
||
|
||||
|
מוזר, מסתבר שאת מבחן הטורינג-ab שלך לא אני ולא אתה היינו עוברים. זה מה שאתה עונה כששואלים אותך מה זה כלב? עושה מצגת יצירתית? |
|
|
|
|
|
|
||
|
||||
|
נראה לי שתוכנה פשוטה מ GPT תוכל לענות על השאלה "מהי טרנספורמציה לינארית" ועל שאלות רבות נוספות בראיון עבודה ורובוטים יכולים (נעזוב לרגע אם זה כלכלי) להחליף בני אדם ביותר מ 90% מהמשרות במשק. אבל כשאתה ענית את התשובה היצירתית שלך לשאלה מהו כלב הוספת תבלין שאני לא יודע איך מוסיפים אותו לתוכנה. |
|
|
|
|
|
|
||
|
||||
|
או, סוף סוף גילינו את מותר האדם מהמחשב: שנאת חתולים! אבל אתם יורים פה לכל הכיוונים, על זה דיברנו? על שוק העבודה? מה לזה ול"מקוריות"? כל פקיד בנק צריך להיות ביאליק? |
|
|
|
|
|
|
||
|
||||
|
אישיות, מן הסתם. ולכן מרווין היה כנראה עובר מבחן טיורינג בקלילות אילו לא היה מתייאש ומכבה את עצמו באמצע. לא כל פקיד בנק צריך להיות ביאליק. אדרבא- ההערה נועדה להדגיש שמקוריות נעדרת ממרבית הפעילות האנושית. |
|
|
|
|
|
|
||
|
||||
|
תשובה יצירתית? האם המשפט „הכלב הוא חברו הטוב ביותר של האדם„ לא נפוץ יותר ממשפט כגון ״הכלב הוא חיית בית נפוצה״? | |
|
|
|
|
|
||
|
||||
|
הפונז הוסיף את התבלין שלו בסוף המשפט. | |
|
|
|
|
|
||
|
||||
|
אני לא רואה שום בעיה בהנחה ש GPT באחת הגירסאות הבאות שלה תעשה דברים כאלה בקלות. אותו תבלין פונזאי אינו אלא ביטוי של קשר חלש יחסית בינו לבין התשובה המיידית, וגם שחקניות השחמט בוחרות מדי פעם לא את הצעד האופטימלי אלא מנסות משהו אחר כדי לא להיות שבלוניות מדי. | |
|
|
| חזרה לעמוד הראשי |  |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |