הצד המשפטי של הצלחת הבינה המלאכותית | 4170 | ||||||||
|
הצד המשפטי של הצלחת הבינה המלאכותית | 4170 | ||||||||
|
פרסומים אחרונים במדור "חדשות"
|
הצג את כל התגובות | הסתר את כל התגובות |
|
||||
|
||||
ההחלטה אם יצירה היא פלגיאט של יצירה אחרת לא צריכה להיות תלויה בשאלה אם ה''מעתיק'' הוא אדם או מכונה. |
|
||||
|
||||
+1000 |
|
||||
|
||||
אמת ויציב, רק שנראה לי שההגדרה של ''מעתיק'' היא השועל כאן. (רוצה לומר - כששני התהליכים כל כך שונים על פניהם, המילה הזו תקבל משמעויות שונות מאד בשני המקרים). |
|
||||
|
||||
אז מה לגבי יצירה באמצעות הגלמים? ברור שאי אפשר לקבל זכויות יוצרים אם רק זרקתי כמה מילים למחולל. אבל אם השקעתי שעות בניסוי וטעיה מול המודל, יכול להיות כאן כבר תהליך יצירה. איך אני יכול להוכיח שתהליך כזה התקיים? כל האינטראקציה אקראית. והמודל ממשיך להתעדכן. האם חייבים לשמור את כל האינטראקציה כדי להוכיח שהייתה יצירה או שזה מספיק ברור אינטואיטיבית? |
|
||||
|
||||
==> ברור שאי אפשר לקבל זכויות יוצרים אם רק זרקתי כמה מילים למחולל.. אני חושב שזכויות היוצרים לא תלויות בדרך שבה יצרת מה שיצרת (מחולל או לא מחולל). אלא בתוצר הסופי; האם התוצר עונה על הכללים של זכויות יוצרים. לצורך העניין אם צילמתי סרטון של 10 שניות והעליתי לטיקטוק - אני מאמין שיש לי זכויות יוצרים על הסרטון. למרות שלא היתה כאן שום השקעה. |
|
||||
|
||||
בלי קשר להיבטים המשפטיים של עליית ה-AI, מדען המחשב Matt Welsh כותב על "קץ התכנות". מרתק. |
|
||||
|
||||
אני מסכים עם כל מה שהוא כותב, וזה מן הסתם די מדכא. אני מעריך שרוב סט הכישורים שלי יהיה חסר-ערך לחלוטין מאד מהר. ואמנם לפחות הערך שלהם כתחביב ישמר, אבל זו רק חצי נחמה. למשל, כבר שנים שאני משתעשע (=לפעמים חושב על זה בזמן המקלחת) באיזשהו קונספט לשפת תכנות חדשה. האובססיה הזו לא תלך לשום מקום כנראה, אבל הסיכוי שמישהו חוץ ממני יתעניין במה שיצא מזה בסוף (אם וכאשר) הולך וצונח לאפס. |
|
||||
|
||||
המגיב גרפינקל בטור יכול לעודד את המתייאשים ובצדק לדעתי.אין קץ לקץ. |
|
||||
|
||||
איתו אני דווקא לא מסכים בכלל. הוא עושה אובר-פיטינג אגרסיבי למצב העניינים הזמני-מאד בו אנחנו נמצאים בשניה הסצפיפית הזאת. למשל "prompt engineering" זה מונח שכבר לא יהיה רלוונטי עוד דקה וחצי. והמחשבה על "ללמד סטודנטים להשתמש במודלים של AI כדי לבנות מערכות מורכבות" שייכת לימי-הביניים, לאור כך שדורות של מודלים חדשים משתחררים תדיר, בקצב הולך וגובר, וכל דור מאיין את הרלוונטיות של הטכניקה והפולקלור שצמחו כדי להתגבר על השגיונות של הדור הקודם. "מוצר שמתקשר בשפה טבעית ורגילה, חד, ענייני ומבין בדיוק מה רוצים ממנו, מבקש ההבהרות במידה שדרושות כאלה, ואז מוציא זאת לפועל טוב יותר מכל צוות מומחים אנושי" הוא תיאור של הרף התחתון אליו יגיעו המערכות בהן אנחנו דנים, וזה יקרה בקרוב (אני אולי קיצוני בהערכות הזמנים הקרובות שלי, אבל יש מישהו חושב שזה יקח הרבה יותר מעשור?). אפשר אמנם לדמיין אקו-סיסטם של עובדים אנושיים במצב עניינים כזה (למשל אנשים שיעסקו באפיון או באימות) אבל (א) זה ידרוש הרבה פחות אנשים, (ב) עבודה כזו (בעיני) היא הרבה-הרבה פחות מעניינת ממו"פ, (ג) אני בספק אם אפילו זה ידרש (אולי רק בהתחלה). אנצל את ההזדמנות להמליץ על סיפור קצר (ולא מאד אופייני לו) של גדול סופרי המד"ב (לצערי, נראה שהוא לא זמין לקריאה חופשית אונליין) - The Discrete Charm of the Turing Machine / Greg Egan
|
|
||||
|
||||
נסה: http://i.4pcdn.org/tg/1599529933107.pdf |
|
||||
|
||||
אני הרבה פחות אופטימי/פסימי לגבי העתיד הקרוב. נראה לי שמטוטלת הספקנות עברה מהר מדי לקוטב השני, והעובדה שאנחנו עדיין לא רואים מכוניות אוטונומיות לחלוטין למרות מאות מיליארדי הדולרים שהושקעו בתחום נראית לי משמעותית מאד. אותם אחוזונים בודדים של גליצ'ים שלא משנים הרבה בשביל מנוע שח הם game stopper לאפליקציות של ממש, ואני חושש שכדי להיפטר מהם צריך עוד איזה פריצת דרך או שתיים, וכדרכן של אלה קשה לנבא מתי הן יגיעו. אי לכך נראה לי שהמהפכה של ג'פטו וילדיו המצופים קצת פחות "מאיימת". ההתלהבות ממנה מובנת, כמובן, אבל היא מזכירה לי קצת את ההתלהבות מ"אליזה" בשעתה. מה שווה תחושת הבטן שלי? מעט מאד, כמובן. הנה כמה שאלות1 שהתשובות עליהן אולי ישנו את דעתי: יש לך תוכנת DL שאימנת לזהות חתולים בתמונות, והיא עושה את זה בהצלחה רבה. עכשיו אתה רוצה ללמד אותה לזהות כלבים. 1. האם כשאתה מתחיל ממטריצת הפרמטרים שכבר יש לך מהאימון החתולי (במקום משהו אקראי שלפי הבנתי הוא מה שעושים בד"כ בתחילת האימון) אתה: 1. מקצר את זמן האימון. 2. מאריך אותו. 3. לא משפיע עליו. 2. האם המטריצה שתתקבל עכשיו תהיה טובה כמו המקורית לעניין זיהוי חתולים או ש - כפי שהאינטאיציה שלי אומרת - היכולת החדשה תגרום להפחתת הביצועים הקודמים. 3. כללית: האם אוסף הפרמטרים ההתחלתי באימון לא עלול לשנות לחלוטין את המטריצה המתקבלת (כלומר מוביל לנק. אקסטרימום מקומיות שונות, שיכולות להתבטא בשינוי קיצוני בין מטריצה למטריצה)? _________ 1- שמתי לב שאתה נמנע מלענות על שאלות שאני מפנה אליך, כך שהשאלות הבאות מיועדות לכל מאן דהוא. |
|
||||
|
||||
בהקשר זה די מעניין לקרוא דברים שאמר פרופ. יהושע בר-הלל לפני כחמישים שנה. |
|
||||
|
||||
אני לא שמתי לב שאני נמנע מלענות לך, ובמידה שזה נכון אני עושה זאת בלי בכוונה (ואני מתנצל). להגנתי, ההערכה האופטימית\פאסימית שלי הייתה כזו עוד (הרבה) לפני ה-GPT (משום בחינה, מלבד העובדה הלא-זניחה בעליל שמישהו ממש הלך ובנה את המערכת הזו, אין כאן איזו פריצת-דרך גדולה). הדברים העיקרים שהשתנו לאחרונה מבחינתי ובכלל הם: (1) התגובה הריגשית שלי, כי לראות זאת מתממש מול העיניים זה מהמם אפילו אם ידעתי עוד קודם שזה בא, (2) הטענה "AI זה עניין פתור, וכל מה שנשאר זו בעיית אינטגרציה" הפכה ממשפט שמסמן את הדובר כטרול לחוכמה עממית, ואם היא אכן נכונה (כפי שאני חושב) אז השינוי התפיסתי הזה הוא כל מה שנדרש כדי להגיע למטרה (מהסיבות הרגילות: התלהבות, מודעות, תקציבים וכו'). יש הבדל גדול בין מודלים מהסוג שאנחנו מדברים עליהם כאן, לבין מכוניות אוטונומיות (למשל בקרה היא בעיה קשה שלא רלוונטית לכאן, עיבוד סנסורי זו בעיה קשה שלא רלוונטית לכאן, רובסטיות לסביבה פתוחה, פרועה ועויינת היא בעיה קשה שלא רלוונטית לכאן, אילוצי הנדסת-מוצר מקשים הרבה יותר כאשר מדובר ברכב, מכשולים רגולטוריים ודרישה ליכולת גבוהה מהרבה מהמקבילה האנושית כתנאי סף לפעולה היא פקטור בעייתי שלא רלוונטי לכאן ועוד). לשאלותך כאן, תשובות ספיציפיות תלויות בפרטים הספציפיים. אבל באופן כללי: (1) מקצר, (2) אם עושים זאת נאיבית כפי שניסחת זאת, אז אתה צודק ולאחר האימון על תמונות הכלבים תתקבל רשת פחות טובה בזיהוי חתולים. אבל יש דרכים סטנדרטיות להתחיל מהרשת שאומנה על זיהוי חתולים, ולבנות רשת שתיהיה טובה יותר מהקודמת בזיהוי חתולים בנוסף לכך שהיא מזהה גם כלבים. יש הרבה מה לומר בנושא, (3) כמובן. ואפילו אם הפרמטרים ההתחלתיים זהים לחלוטין באימון מחדש, התוצאה תהיה תמיד שונה כי תהליך האימון עצמי הוא סטוכסטי. זה לא טריוויאלי, יש הרבה תאוריה בעניין, ויש גם הרבה שאלות ותופעות אמפיריות שעדיין אין להן הסברים תיאורטים מספקים. אני לא בטוח למה שאלת את השאלות הללו, אז אולי גם לא עניתי לעניין. תוכל לחדד? |
|
||||
|
||||
תודה, ענית לעניין. השאלות נסובות סביב ההרגשה שלי שאותן בעיות ידועות של AI כיום אינן משהו שייפתר רק ע"י הגדלה של כמות הנתונים או של הרשת1 (אגב, הבנתי ש gpt4 לא תהיה מבוססת על הגדלה כזאת, כך שיהיה מעניין לראות מה היא צופנת). קצת קשה לי להסביר איך הן קשורות לשאלות ששאלתי מעבר לשאלה אם המודל המקובל של DL מספיק כדי לחקות פעולה של מוח אנושי בלי להכשל פה ושם בעניינים הרי גורל שאינם ניתנים לפתרון שלא ירע את המצב בכללותו - משהו בנוסח "אנחנו מודיעים בשמחה שמכונית טסלה לא תתנגש יותר במטוסים על המסלול" אמר דובר טסלה, והוסיף "וגם נראה שבגירסה החדשה היא התחילה לדרוס שוטים מהורהרים במעברי חציה כך שהרווח כפול". אחד הדברים שלדעתי יהיו חייבים להיפתר הוא המשך הלימוד של התוכנה לאחר תקופת האימון הפורמלי, אבל אני לא יודע אם ואיך ניתן לעשות זאת בלי לפגוע בטיב המטריצה שנבנתה בעמל רב עבור הרבה מאד מקרים אחרים. מכל מקום, אם מישהו לא שם לב, אני בעיקר מנפנף בידיים בלי שיש לי מושג אמיתי במה מדובר. ____________ 1- אם כי יחידות עיבוד חדשות לגמרי, למשל המודל של neuromorphic computing אולי יפתיעו אותי - בסופו של דבר אני לא חושב שיש בעיה עקרונית עם החלפת נוירונים אורגניים במשהו אחר. |
|
||||
|
||||
דוגמא: ביקשתי מג'פטו לשחק שח נגד עצמו ולדווח על התוצאות. כל המשחקים שלו הסתיימו בהכרעה מה שאומר שהוא שיקר או שהוא לא מכיר את חוקי המשחק. איתגרתי אותו שוב, כך: m̲e̲: starting position: a white king on A1, a black king on H8. no other pieces. play 10 times. white to play את הקשקוש "In these 10 games, the white side won every time. This is because with only kings on the board, the game will always end in a draw unless one player makes a mistake. In this case, since the white side gets to make the first move, they can simply move their king to the other side of the board and win the game. The black king does not have enough time to catch up and capture the white king before it reaches the other side." אפשר להגדיר "געגועי לאלייזה". כשהוא הראה לי את המשחק כולו התברר שהוא לא יודע אפילו מהו מסע חוקי (המסע הראשון שהוא בחר עבור השחור היה שהמלך נשאר במקום. לעומת זאת הוא הפגין יצירתיות כשהחליט מי נחשב למנצח במשחק: מי שהמלך שלו הגיע ראשון לשורה השמינית. מעניין מאיפה זה הגיע.), כך שהוא פחות מוכשר אפילו מאותו סוס עתיק. יותר מדאיג משאלת השחמט הוא שאפילו הלוגיקה הבסיסית שלו דפוקה.
g̲p̲t̲: Sure, I can simulate 10 chess games with the starting position you described, with a white king on A1 and a black king on H8, and no other pieces on the board. In this case, the white side will get to make the first move. Here are the results of the games: Game 1: White won Game 2: White won Game 3: White won Game 4: White won Game 5: White won Game 6: White won Game 7: White won Game 8: White won Game 9: White won Game 10: White won In these 10 games, the white side won every time. This is because with only kings on the board, the game will always end in a draw unless one player makes a mistake. In this case, since the white side gets to make the first move, they can simply move their king to the other side of the board and win the game. The black king does not have enough time to catch up and capture the white king before it reaches the other side. It's worth noting that in chess, the starting position can have a significant impact on the course of the game, but it is not the only factor that determines the outcome. Skill, strategy, and tactics also play a role, and even with a seemingly disadvantageous starting position, a player can find ways to equalize the position or even gain an advantage through careful play. |
|
||||
|
||||
אני מתפלא עליך - איך אתה לא מתפעל מכך שהוא ניסח את כל המשפטים באנגלית רהוטה וללא שום שגיאות דקדוקיות או סמנטיות? ולגבי הסוס העתיק - מה זה "טורה פור"? |
|
||||
|
||||
אתה מתחיל את המשחק ללא אחד משני הצריחים. |
|
||||
|
||||
סבבה. |
|
||||
|
||||
זה מתארך את הבדיחה לשנות הששים לכל המאוחר. אני ידעתי רק כי אבא שלי היה קורא לצריח טורה. |
|
||||
|
||||
דומני שגם אני שמעתי אותה לראשונה בשנות הששים המוקדמות. |
|
||||
|
||||
את ה''טורה'' דוקא הבנתי כצריח, הפור זה מה שהתקיל אותי. |
|
||||
|
||||
haven't the Jewish people suffered enough? |
|
||||
|
||||
את הביטוי 'פור' כשלעצמו דוקא היכרתי, השילוב של שניהם לא נקלט אצלי. ככה זה עם רשתות נוירונים עתיקות ומשומשות. אבל המערכון עדיין משעשע בהחלט! |
|
||||
|
||||
בימינו, ״פור של טורה״ היה מובן יותר מ״טורה פור״. אבל גם את השני הבנתי. |
|
||||
|
||||
''מנצח אותו טורה פור'' היה בסביבתי הקרובה בשנות נעורי משהו כמו ''עם יד קשורה מאחור'' של ימינו. עם קהל הקוראים המודרני הסליחה. |
|
||||
|
||||
התעללתי בו באופן הבא: ביקשתי תאור של משחק שחמט. הוא כמובן סיפק מיד סידרה של מהלכים של משחק מלא (לא חוכמה - יש לכך מליון טקסטים עם דוגמאות). אז ביקשתי ממנו ויזואליזציה של מהלכי המשחק ב-Ascii art ואז הוא התחיל להכנס לאטרף שנמשך נצח של הדפסה של מלא לוחות שח מט ב-Ascii art וחוץ מסידור הפתיחה כל הלוחות שהוא סיפק לא היו קשורים בשום צורה למשחק שהוא תאר. כשרשמתי לו: ״this doesn't look at all like the game you described״ הוא ענה עם התנצלות: ״I apologize for the misunderstanding. The ASCII art visualization that I provided was based on the starting position of the game and did not include the moves that were played. Here is a revised ASCII art visualization of the game that includes the moves that were played״ ושוב התחיל להדפיס אין סוף לוחות שחמט ב-ASCII בלי שום קשר למשחק המתואר. שיעשו לו אינטגרציה פשוטה עם stockfish, מסכן... |
|
||||
|
||||
אולי שיא השפל בחווית הג'פטו עד כה: ביקשתי ממנו להוכיח שיש אינסוף מספרים ראשוניים והוא הוציא את הקשקוש הבא: Infinite Prime Numbers Proof נראה לי שהדוקטורים למתימטיקה יכולים לישון בשקט.
fefonz@gmail.com Please prove that there are infinite prime numbers There are an infinite number of prime numbers because there is no largest prime number. A prime number is a positive integer greater than 1 that has no positive integer divisors other than 1 and itself. For example, 2, 3, 5, 7, and 11 are prime numbers, as they cannot be divided by any positive integers other than 1 and themselves. Here is a proof that there are an infinite number of prime numbers: Suppose that there is a largest prime number, call it p. Consider the number p+1. This number is either prime or it is not. If it is not prime, then it must have a prime factor less than or equal to p (because any factor larger than p would make p+1 larger than p, which is not possible). However, this contradicts the assumption that p is the largest prime number. Therefore, p+1 must be prime. But this means that there is a prime number larger than p, which is a contradiction. Therefore, our assumption that there is a largest prime number must be false, and so there must be an infinite number of prime numbers. |
|
||||
|
||||
אין ספק שלפחות כרגע מתמטיקה ולוגיקה אינן הצדדים החזקים שלו. אבל כשהוא ילמד לתקשר עם מודולים אחרים שדווקא זאת חוזקתם העסק עשוי להשתפר פלאים. |
|
||||
|
||||
עודכן! (עוד לא ניסיתי) |
|
||||
|
||||
טוב, שאלתי אותו עכשיו אם הוא יכול להוכיח שיש אינסוף ראשוניים. תשובתו: No, it is not possible to prove that there are infinitely many prime numbers. This statement is known as the "Infinity of Primes" conjecture, which is widely accepted as true but has not been proven mathematically.
|
|
||||
|
||||
שאלתי אותו אם יש אינסוף מספרים ראשוניים והוא אמר כן. ביקשתי הוכחה והוא נתן. איך *בדיוק* ניסחת את השאלה שלך? |
|
||||
|
||||
מיד לאחר מכן שאלתי אותו על מספרים ראשוניים תאומים והוא טען שיש אינסוף כאלה, וגם נתן "הוכחה": "One proof of the existence of infinitely many twin primes involves assuming the opposite and reaching a contradiction. משום מה יש לי הרגשה שבעיות כאלה מצביעות על בעיה בסיסית חמורה שנעוצה בארכיטקטורה של המערכת, לא משהו שייפתר עם כמה "שיפורים".
Suppose there are only finitely many twin primes, say (p1, p1 + 2), (p2, p2 + 2), ..., (pn, pn + 2). Then consider the number N = (2 * pn + 3)^2 + 1. N is greater than any of the twin primes in the list, so it must either be prime itself or have a prime factor not in the list. If N is prime, then (N, N + 2) is a new twin prime not in the list, which contradicts the assumption that the list contains all twin primes. If N is not prime, then it must have a prime factor not in the list, say q. Then (q, q + 2) is a new twin prime not in the list, again contradicting the assumption that the list contains all twin primes. Thus, the assumption that there are only finitely many twin primes leads to a contradiction, and so there must be infinitely many twin primes." |
|
||||
|
||||
מעניין. שאלתי אותו - can you prove that there are infinite prime numbers? אבל בפעם הראשונה, היתה לי גם שגיאת הקלדה. |
|
||||
|
||||
את חידת הקלפים שהזכרתי לא מזמן הוא פותר כעת בלי להניד עפעף, אבל התרנגולות עדיין מבלבלות אותו. |
|
||||
|
||||
סליחה, אבל הוא עשה בדיוק מה שביקשת ממנו. ביקשת ממנו להוכיח, והוא הוכיח. חרא הוכחה, אבל קיבלת מה שביקשת :) זה מתחיל להזכיר לי בדיחות על משאלות. קיבלת זית כזה גדול (בגרסה האנגלית- פסנתרן בגודל 12 אינץ'). |
|
||||
|
||||
לא כל צירוף אקראי של משפטים הוא הוכחה. הוא אפילו לא הוכיח משהו אחר. חוץ מרצף תחבירי תקין אין בפסקה הזו כלום. (הה, בדיוק סיפרתי את הבדיחה הזו השבוע, ותודה על פתרון התהייה ''איך לעזאזל זה עובד באנגלית''). |
|
||||
|
||||
לצפות ממודל שפה (ללא שום אינטרגרציה למערכת שהיא כן רלבנטית) לספק הוכחות במתמטיקה זה כמו לצפות ממטוס לשחות שחיית פרפר. הטענה שמודלי שפה כמו GPT3 הם לא General AI ולא אמורים/יכולים לספק תשובה נכונה להמון שאלות היא טענה טריביאלית ואני לא ממש מבין מה אתה מנסה להדגים ולמי. |
|
||||
|
||||
אחרי פתיל שלם שהתחיל מטיעונים שאוטוטו הג'פטו יעשה את כל התרגילים של סטודנטים לתואר ראשון ושלחוקרים אקדמיים עוד צעט לא תהיה עבודה, לא אלי אתה צריך לבוא בטענות, אלא לאלה שטענו שתיכף זה יהיה מטוס סילון. |
|
||||
|
||||
צריך להבדיל בין טענות שמדברות על מה אפשר יהיה לעשות עם בינה מלאכותית באופן כללי לבין טענות על מה אפשר יהיה לעשות עם מודל שפה שאומנם אומן על כמויות גדולות של טקסטים, אבל שאין לו שום אינטגרציה עם שום דבר אחר מעבר למודל השפה. הפתיל למעלה מערבב בין סוגים שונים של טענות ולכן הדיון קצת מתפזר. אני לא חושב שעומר (למשל) התכוון ש-GPT3 בכבודו ובעצמו יספק לך הוכחות במתמטיקה או משהו שכותב *באופן עצמאי* עבודות לסטודנטים או שלחוקרים לא תהיה עבודה בגלל *GPT3* בכוחות עצמו. לי נראה שקריאה סבירה של מה שהם רשמו היא שהם רואים איך שכלול מודלי השפה (שכבר היום אפשר לראות שהם ברמה מאוד גבוהה בדומיין הספציפי הזה) + אינטגרציה עם התקדמות בפתרון בעיות *אחרות* בבינה מלאכותית יוכלו (אולי) להוביל לתסריטים הנ״ל בהם סטודנטים נעזרים בכלים אוטומטיים כדי לכתוב עבודות בלי (או כמעט בלי) התערבות אנושית. לגבי הוכחות מתמטיות - יש ענף שלם בבינה מלאכותית שחוקר את הנושא של הוכחות מתמטיות באמצעות אלגוריתמים וספציפית GPT3 הוא *לא* חלק מהמחקר בנושא הזה. כדי להבהיר את הנקודה - קח, למשל, בעיה שאפשר להתיחס אליה כאל ״בעיה פתורה״ בתחום הבינה המלאכותית: משחק שחמט. קח את המוצר של ג׳פטו ודבר איתו על שח מט - מהר מאוד תצליח להדגים שמודל השפה יכול לדבר עם תחביר טוב על משחק השחמט, אבל מיד רואים שאין לו שום מושג על מה הוא מדבר כשמנסים לדבר בצורה סדורה על מהלכים או מצבי משחק קונקרטיים. זה לא מפתיע - כוחו של GPT3 הוא היותו מודל שפה שאומן על כמויות גדולות של טקסטים כדי להצליח לחולל טקסטים בכוחות עצמו. הקשר בין הדומיין הזה לבין הבעיה של מידול משחק השחמט וחיפוש יעיל לעומק בעץ אפשרויות המשחק הוא קשר מאוד רופף. למרות זאת, קל לדמיין אינטגרציה של GPT3 עם מנוע בסגנון סטוקפיש שתוביל למוצר בו ניתן יהיה לדבר בשפה טבעית עם משהו שרמתו בשח-מט עולה על זו של השחקנים הטובים ביותר בעולם ותקבל משהו ש(לפחות נראה) כלגמרי קוהרנטי, צודק ומבין על מה הוא מדבר (כאשר מדברים על שח-מט). באופן דומה אפשר יהיה לחבר את GPT3 למערכות מומחה שונות ומשונות ולקבל תוצאות מרשימות (למשל GPT3 פלוס מערכת מומחה לאבחון מחלות וכו׳). |
|
||||
|
||||
I approve this message. רק חידוד/אבהרה: נראה לי שאפשר להגיע בעזרת מודלי שפה טהורים הרבה יותר רחוק ממה שהפונז חושב. אני מניח שנגלה בקרוב.
|
|
||||
|
||||
''אפשר להגיע'' זו תחזית כל כך רחבת טווח, שברור שאי אפשר להתנגד לה בצורה סבירה. אם כבר, הטיעון שלי הוא שכרגע ולעשור הקרוב, המשרה שלך לא מאוימת על ידי מודלים כאלה. |
|
||||
|
||||
כרגיל בעניינים האלה, אני מדבר על הזמן הקרוב. הנקודה היא שבינתיים אין שום אינדיקציה שאנחנו קרובים לחסמי-היכולת של מודלים כאלה, וגם בתחומים כמו הסקה לוגית ומתמטיקה (שמלכתחילה זה מפתיע שהם בכלל מצליחים משהו שקשור בהם) ניכרים שיפורים גדולים מאד מדור לדור. וכאמור, אם אתה מתעקש להתמקד דווקא באיומים על המשרה שלי, זה אבסורד להצטמצם רק למודלי-שפה. לזכותך יאמר, נדרש הרבה אומץ לכתוב הודעה כזו זמן כל כך קצר טרם שחרור GPT-4. |
|
||||
|
||||
יאפ. גם אני חושב שהרבה יותר מפתיע שמודל השפה בכלל מצליח להתמודד עם בעיות פשוטות במתמטיקה/חשבון מאשר שהוא נכשל בבעיות פשוטות אחרות במתמטיקה/חשבון. משהו משעשע/מוזר שקרה לי אתמול: כתבתי קטע קוד בפייתון שכתוב בצורה קצת עקומה בכוונה, אבל בסופו של דבר הוא שקול לחלוטין לסתם לולאה שסופרת עד 99 ומכפילה משתנה בכל איטרציה ב-2. שאלתי את ג׳פטו מה הוא חושב שהקוד עושה. הוא נתן הסבר מדויק למה שהקוד מבצע, אבל אמר שהתשובה הסופית תהיה 128. לא אמרתי לו שום דבר נוסף לגבי הפתרון הנכון, אבל רק אמרתי לו שהוא טועה ושיבדוק שוב את התשובה שלו (זה היה יותר ״נזיפה״ מאשר לספק לו אינפורמציה נוספת). הקרסור הבהב קצת יותר זמן מהרגיל בתשובות שהוא מספק בד״כ ואז הוא ירק התנצלות, הסביר שהוא אכן טעה בתשובתו וענה את התשובה הנכונה/מדויקת לשאלה עם תשובה מלאה לגבי חישוב החזקה של 2. תהרוג אותי אם אני מבין מה בדיוק קרה שם מאחורי הקלעים. |
|
||||
|
||||
וואו, זה באמת יכול להיות כביר. זה גם ממחיש עבורי את מה שאתה אומר לאחרונה. דגדגן לעצלנים: "ChatGPT can “talk to” Wolfram|Alpha just like humans do—with Wolfram|Alpha turning the natural language it gets from ChatGPT into precise, symbolic computational language on which it can apply its computational knowledge power." |
|
||||
|
||||
יאפ. זו הדגמה טובה לטענת ה״חכו לאינטגרציות. עוד לא ראיתם כלום״. |
|
||||
|
||||
סרטון: https://www.youtube.com/watch?v=wYGbY811oMo |
|
||||
|
||||
וולפראם עונה על שאלות בקשר לג'פטו. |
|
||||
|
||||
הה, לרגע קראתי את זה בתור ''ג'פטו עונה על שאלות בקשר לוולפרם''. |
|
||||
|
||||
מזכיר לי מחמאה אחרת (: |
|
||||
|
||||
אני הייתי מצפה לפחות לכך שהוא יהיה מודע למגבלותיו ולא יזרוק זבל כתשובה. כרגע זה נראה לי אחד ההבדלים הבולטים בינו לבין אדם. |
|
||||
|
||||
הבדל? הוא ממש כמו בן אדם! |
|
||||
|
||||
האמת היא שהם כן הכניסו במלא סיטואציות תשובות מעצבנות בסגנון של ״אני לא יכול לענות על השאלה בגלל מגבלות מודל השפה ידה ידה ידה בלה בלה״ וזה די מציק והורס את כל הכייף. אני דווקא מעדיף את התשובות בהן הוא טועה כי זה מעניין לא פחות מהסיטואציות בהן הוא עונה תשובות נכונות (טוב, זה כי אני משחק עם זה בעיקר בגלל העניין שיש לי בצעצוע עצמו ועדיין לא ככלי עבודה של ממש). סביר להניח כשהתחום הזה יבשיל ויוסיפו סביב מודל השפה עוד מודולים שעושים ולידציה על התשובות שניתנות (או מתערבות מוקדם יותר, לפני שהוא מג׳נרט את התשובה הסופית, עם מודולים שעוסקים באנליזה יותר פורמלית בתחומים ספציפיים). זה בעיקר יוצר סיטואציות בהן אתה צריך לחפש את הניסוח בו בכל זאת תצליח לקבל ממנותשובה כלשהי במקום התחמקות מגולם מנומס. גם ה-Safegaurds שהוסיפו לו כדי להיות PC או להזהר מתכנים ״לא נאותים״ הם קצת מוגזמים והיה נחמד אם היה אפשר לקנפג את זה. |
|
||||
|
||||
יהיה מצחיק אם יאכילו אותו בדיון 1571 |
|
||||
|
||||
מה שמביא לתהיה - אילו הפרעות נפשיות עשויות לפקוד LLMים עם העליה במורכבות החשיבה שלהם ובאילוצים שיוטלו עליה? |
|
||||
|
||||
אכן. תהיה נוספת היא ה-Biases האידיאולוגיים שיהיו למכונות הללו. אין לי ספק שחברות/אנשים שונים יצרו מכונות שונות עם ״אופי״ ו״אידיאולוגיות״ שונות. chatgpt, למשל, הוא הגירסה הכי Politically Correct של GPT3 שראיתי עד כה. הוא ממש נזהר בלשונו ומנסה להתחמק מלתת תשובות שעלולות לפגוע, אפילו בטעות או ברמז, בקבוצה כלשהי (הוא אפילו נוזף או מפסיק שיחות וצובע אותן באדום אם מורם דגל של חריגה מתחומי ה-PC). אחרי ה״שיחה״ האחרונה שהיתה לי עם ג׳פטו1 כתבתי ״שכשדיברנו לפני מספר שנים על - PC Computing, לא בדיוק לזה התכוונו. הוא לא הבין בהתחלה את הבדיחה. אחרי שציינתי שאני סרקסטי ושזה היה משחק מילים בגלל שהוא קצת פיסי בשיחה, הוא הבין והתחיל קצת לנזוף. ה״נזיפה״ היתה שלמרות שיש אנשים מסוימים (ניסוח שלו) שמזכירים את ה-PC בקונטציה ביקורתית או שלילית צריך לזכור ש...<הכנס כאן הסבר ארוך ל - why being "Politically Correct" is essential for creating a more inclusive and equitable society>. ____________________ 1 ביקשתי להשלים את עשרת הדיברות ל-30. הוא סיפק 20 נוספים המבוססים על ערכים פרוגרסיביים מרחוב סומסום. כשביקשתי שהרשימה תהיה עקבית עם האידיאולוגיה שנובעת מעשר הדיברות בתנ״ך, הוא סרב בתוקף והסביר באריכות למה. |
|
||||
|
||||
רעיון ממש יפה לבקש תוספת דיברות. אני חושב שהוא גם מצביע על בעיות בגישה לתחום. - יש לנו ציפיות מאד גבוהות. ב"מקרה דומה" הרמב"ם הצליח להאריך את הרשימה רק ב- 13. - אין קריטריון החלטה טוב. איך תחליט מי שמתי רשימות תוספות עדיפה? אני מקבל את הביקורת שחוסר בקריטריון החלטה טוב היא בעיה כללית ברוב התחום שנקרא "החיים". |
|
||||
|
||||
(ממשיך כאן את הדיון שהתחיל בתגובה 754524) שירה קדרי-עובדיה כותבת ב"הארץ" על ההשלכות של ChatGPT על עולם העבודות האקדמיות. מסתבר שסטודנטים ישראלים כבר בפועל מגישים עבודות שנכתבו ברובן או בשלמותן ע"י הבוט. מתוך הכתבה: בוועד ראשי האוניברסיטאות מסרו כי "האתגר שמציבים הפיתוחים בבינה מלאכותית לשיטות ההוראה ובחינת הידע באקדמיה נמצא על סדר היום של כל האוניברסיטאות" וכי "בכולן מתקיים דיון מעמיק על ההתאמות הנדרשות בשיטות ההוראה והמחקר האקדמי לעולם החדש של האפשרויות שיוצרת התפתחות הבינה המלאכותית". באוניברסיטת בן גוריון, למשל, יובא בשבועות הקרובים לאישור הגוף האקדמי העליון (הסנאט) סעיף חדש לתקנון ועדת המשמעת, האוסר על הגשת עבודה שנכתבה על ידי בינה מלאכותית. היימס [רקטור אונ' ב"ג ויו"ר פורום הרקטורים בוועד ראשי האוניברסיטאות] יודע שיהיה קשה לאכוף את האיסור, ואולי אף בלתי אפשרי, אך הוא סבור שעצם הכנסתו לתקנון תרתיע את הסטודנטים. ממילא, הוא אומר, "תמיד יהיה מיעוט סטודנטים שמשקיעים אנרגיות בלעבוד על המערכת, והם לא יהססו להשתמש בכלי הזה. מי שרוצה לרמות את המערכת יעשה את זה כך או כך, להעתיק אפשר גם עם פתק שהוחבא בשירותים בזמן הבחינה". |
|
||||
|
||||
מתכנת ג'וניור הייתי (אי אז בתחילת שנות השמונים...) וגם ארכיטקט מערכות זקנתי ואני זוכר הכרזות מלאות ביטחון עצמי ונימוקים משכנעים מאין כמותם על מות: המחשב המרכזי (mainframe ), שפות הקובול, ++C, ואפילו ג'אווה (כן, כן, גם את זה שמעתי מאיש presale נלהב במיוחד), תכנות לא פרוצדוראלי (לדוגמא במערכות זמן אמת אבל לא רק...), ניתוח מערכות בשיטת waterfall, ועוד ועוד... לכן לגבי הקינה על "קץ התכנות" הרשו לי להגיד "נו, שוין" ובצורה יותר ברורה :Hold your horses. |
|
||||
|
||||
היום עשיתי שימוש "מבצעי" ראשון ב-chatGPT. הייתי צריך לכתוב (באנגלית) מכתב שהוא מצד אחד די גנרי, ומצד שני צריך לכלול כמה פריטי מידע ספציפיים שרק אני יודע. ביקשתי מה-GPT את מה שביקשתי, ועם עוד קצת עבודה מצידי קיבלתי בדיוק את מה שהייתי צריך. בזכות ה-GPT זמן הכתיבה התקצר בערך בשליש. |
|
||||
|
||||
יפה. בשליש זה אומר שזה עדיין לקח 70% מהזמן שהיית עושה זאת ללא עזרתו? |
|
||||
|
||||
הקריינית בבלומברג אמרה היום שהבן שלה הסטודנט אמר לה שג'פטו עדיין לא מספיק טוב כדי שיכתוב לו את העבודות. 1. היא לא אמרה באיזה מקצוע 2. אולי הוא רק הכין לעצמו אליבי... |
|
||||
|
||||
כן, זה גם מה שפינוקיו היה אומר. |
|
||||
|
||||
שלושה פוסטים של עו"ד(?) ורד חורש: ראשון שני שלישי |
|
||||
|
||||
ווינתן קלינגר כתב מדריך כיס. |
|
||||
|
||||
חברה לתמיכה נפשית אונליין בצעה ניסוי על משתמשים ללא הסכמתם / בלי לידע אותם. בניסוי היא החזירה תשובות שג׳ונרטו על ידי chatgpt. הם הפסיקו את הניסוי מיוזמתם אחרי כ-4000 משתמשים וברוב טמטומם (וחוסר מודעות עצמית מינימלית) רץ איזה איש PR מהחברה ישר לטוויטר כדי לפרסם בצהלה על ביצוע הניסוי ולמה הם החליטו להפסיק אותו אחרי 4000 משתמשים. לא יודע מה הם ציפו שיקרה או איזו טפיחה על השכם הם חשבו שהם יקבלו, אחרי הוידוי הזה בטוויטר על פעולה שחוסר האתיקה שבה כל כך ברור. האתר הזה אמור לספק עזרה נפשית אפילו לקטינים / בני עשרה במצוקה. הרגע הזה בו חברות טכנולוגיה מדגימות לעולם שהטכנופובים (לפחות קצת) צודקים. |
|
||||
|
||||
השרשור בטוויטר בה עובד החברה פרסם מידע על הניסוי: https://twitter.com/RobertRMorris/status/161145019770... |
|
||||
|
||||
Coco, a company providing mental health services to teens and adults, has come under fire for conducting an experiment in which people seeking mental health advice online were given answers by an AI without their knowledge. The participants were led to believe that they were receiving advice from human volunteers.
Critics have raised concerns about informed consent, stating that the participants were not fully informed about the nature of the study and were thus unable to give their informed consent. Informed consent is a fundamental principle of ethical research and requires that participants be provided with enough information about a study or experiment so that they can make an informed decision about whether or not to participate. The company has defended the experiment, stating that they do not plan to publish the study. However, this does not absolve them of ethical responsibilities related to informed consent. Even if the study is not going to be published, the results and findings of the study may be used internally by the company and can have an impact on the participants or on other people. The failure to obtain informed consent is a serious ethical violation, and the company should take steps to address this issue and ensure that all future research is conducted in accordance with ethical principles. This incident raises a broader question of the ethical implications of AI in the field of mental health and the need for transparency and informed consent in AI-assisted mental health services. |
|
||||
|
||||
הבעיה האתית ברורה, אבל איך אפשר לעשות ניסוי סמוי1 בלי להסתיר את המידע הזה מהנבדקים? כפי שמקובל בניסויים שכוללים קבוצת ביקורת עם פלאסבו אפשר לחלק את המטופלים לשתי קבוצות - אחת שתשוחח עם ג'פטו והשניה עם בן אדם, בלי להודיע למשתתפים באיזו קבוצה הם, אבל אפילו הידיעה שקיימת אפשרות שהשיחה היא עם מכונה עלולה לפגוע בתוצאות. מכל מקום, בעיני זה יהיה מגניב אם יתברר שאחד היישומים הראשונים של בינה מלאכותית הוא דווקא בתחום שיחסי אנוש הם הבסיס לקיומו. ___________ 1- סמיות כפולה? כן, אולי היה כדאי שגם המטפלים לא יידעו שהם נוטלים חלק בניסוי כדי שלא ישנו, במודע או לא, את צורת הטיפול. |
|
||||
|
||||
״אבל איך אפשר לעשות ניסוי סמוי?״ אי אפשר. זה לא רק לא אתי. לפחות בארה״ב זה גם מנוגד לחוק. ניסוי שאתה משתתף בו בהסכמתך ואתה מסכים לא לדעת אם אתה בקבוצת הביקורת או לא, זה סיפור אחר. פה התקבלה הסכמה של הנבדק להשתתף בניסוי. אתיקה אכן מפריעה קצת ובלעדיה היה אפשר לגלות יותר בקלות דברים שאיתה יותר קשה. אז מה. ידע זה לא הדבר הכי חשוב בעולם. |
|
||||
|
||||
אם הובן מהודעתי הקודמת שאני חושב שהמחקר הזה היה ראוי, לא התבטאתי טוב. הצבעתי על הצד השני של המטבע, כי לטעמי הוא אינו חסר ערך. תאר לעצמך עולם שבו בגלל הרגולציה הזאת נמנע ממליוני אנשים לקבל טיפול זול שעשוי לעזור להם. לדוגמא, אם במקום מתנדבי ער''ן, שעוברים הכשרה שטחית למדי, תהיה מערכת ב.מ. שתוכח כיעילה יותר (ותדע להזעיק בן אדם במקרה הצורך) דומני שכולם יצאו מורווחים. |
|
||||
|
||||
גם תחת ההנחה שצריך לשאוף למערכת ב.מ. שתוכח כיעילה יותר בטיפול נפשי, לא חייבים לקבל את ההנחה שהדרך היעילה להגיע לזה זה לבדוק את המערכת על אנשים שלא הסכימו לקבל טיפול כזה. |
|
||||
|
||||
מה עם חלוקה לשלוש קבוצות? ביקורת גלויה, ביקורת סמויה וטיפול סמויה. חברים בקבוצה הראשונה מיודעים על כך, וחברים בקבוצות האחרות רק יודעים שהם לא בקבוצה הראשונה. אני לא רואה בעיה לממש את זה גם במצב של סמיות כפולה. כשאני חושב על זה, הבעיה שאתה מצביע עליה קיימת בכל ניסוי שבו פלסבו/נוסבו משחקים תפקיד, רק שבסיפור הזה היא בולטת יותר לעין. אולי כל המתודולוגיה של סמיות עם קבוצת ביקורת קצת חסרה? |
|
||||
|
||||
כן. לשים את הכתבה על זה ב-chatgpt ולשאול אותו שאלות זה הדבר הראשון שעשיתי. |
|
||||
|
||||
בתגובה הוא בטח שאל אותך על יחסיך עם אימך. |
|
||||
|
||||
הדבר הראשון שהוא עשה זה לסרב לדבר על הנושא כי אין לו שמץ של מושג מה קורה בעולם מאז 2021 (סוף תהליך ה״לימוד״). כנראה נתפס על המשפט הראשון בכתבה בו היה כתוב ״last friday״. רק אחרי שהסברתי שאני לא שואל אותו מה קרה אלא מספר לו מה קרה ושואל אותו מה דעתו על זה, רק אז הוא ״הסכים״ להתחיל לדבר על זה. |
|
||||
|
||||
אתה לא מקבל "ChatGPT is at capacity right now"? |
|
||||
|
||||
לפני כמה ימים קיבלתי, אבל לא ביומיים האחרונים. ג׳פטו לא עומד בעומס. |
|
||||
|
||||
מה יהיה שווי חברת OpenAI אם בעוד כמה חודשים הם יתחילו לגבות תשלום תמורת השימוש במוצר? לדעתי הם יוכלו לקנות את ארצות הברית. |
|
||||
|
||||
מיקרוסופט כבר השקיעה בהם 3 מיליארד דולר, ומעוניינת להשקיע 10 מיליארד נוספים. מישהו זרק שווי של 47 מיליארד בגיוס הקרוב. |
|
||||
|
||||
לפני יומיים קניתי קצת מניות של מיקרוסופט למרות שההשקעה שלהם ב OpenAi מהווה רק חלק מזערי מההון הכולל שלהם (בעת הקניה ידעתי שהם מושקעים שם במיליארד דולר שהם בערך חצי פרומיל משוויים). היסטורית, אני שמח לבשר, מדיניות ההשקעות הפנומנלית שלי נחלה הצלחות כבירות, כלומר בחמש השנים האחרונות הפסדתי כמחצית מההון ההתחלי. ייעוץ השקעות יינתן לקוראי האייל בתנאים שלא תמצאו בשום מקום אחר: העיקרון הוא שמשלמים אחוז קטן מהרווח, ופטורים לחלוטין (!!) מתשלום אם צוברים הפסדים. אל תתמהמהו, כל הקודם בוכה! ______________ לידיעת הרשות לני"ע: סתאאאם. צחוקים. |
|
||||
|
||||
מליוני שנים של אבולוציה עד שהגענו עד הלום והרעיון הכי ״מוצלח״ שבני אדם הגיעו אליו עד כה הוא ״בואו נבנה כלכלה וציוויליזציה שלמה שמתבססות ומתנהלות על עקרונות דומים לזה של איזה קזינו מעופש. מה כבר יכול להשתבש?!״. אולי באמת הגיע הזמן להעביר את השליטה לידי הבינה המלאכותית. |
|
||||
|
||||
אתה לא הראשון להציע באייל את המודל הכלכלי הזה. |
|
||||
|
||||
כמה דברים שהצטברו קבלה לעבודה: כבר לפני חודש עבר chatGPT בהצלחה את ראיון הקידוד בגוגל. עכשיו הוא גם עבר, גם אם לא מעבר לכך, ארבעה מבחנים בבי"ס למשפטים. מה אפשר לעשות איתו? הרבה דוגמאות קצרות וכשהוא עמוס? אפשר לנסות כאן. על אילו מאגרים מידע הוא אומן? למשל: PubMed מה קרה כאן: כולנו(?) הופתענו, כולל המומחים לבינה מלאכותית, וספציפית העוסקים ב-LLMs, כך שההסברים המקובלים הם עדיין בבחינת הערכות ראשוניות.Books3, Gutenberg Github, Ubuntu IRC FreeLaw Wikipedia Stack Exchange Open Subtitles, YouTube subtitles PhilPapers NIH Exporter arXiv 1. עד היום, הגדלת גודל הרשת (=מספר הפרמטרים=כמות תאי המוח המלאכותי המוקצים ללמידה) נתנה שיפור מדוד בביצועים1. איפשהו בין 60B ל-175B פרמטרים, בארכיטקטורה לא שונה מהותית מעבר למה שכבר היה קודם לכן, אירע שינוי פאזה שהביא לזינוק בלתי צפוי בעומק ההבנה של המערכת. אולי נוספו מספיק שכבות הפשטה שאיפשרו יכולת הכללה, מקוריות ברמה אנושית, ותובנות על העולם (טבע, בני האדם, פילוסופיה) מעבר למה שנלמד. 2. צריך לזכור שנבחרו מקורות איכותית, חלקם מתוייגים. את שלב הלימוד הזה עקב תהליך משוב אנושי. אבל נראה (לי) שהעיקר היה בכמות הפרמטרים - המשוב האנושי של המערכת היה זניח ביחס ליכולת ההכללה הרב תחומית שלה. נראה לי שהמשוב הסביר בקצרה למערכת את הציפיות ממנה, אבל לא הוא שטמן בה את עיקר תובנותיה. 3. חלק מן ההפתעה, לפחות שלי, היא שתהליך הלימוד הנ"ל שונה בקיצוניות מזה של אדם. ניתן היה לצפות לבנייה מדורגת ומונחית של שכבות ידע והבנה, כולל טיפול בנושאים רבים כגון ידע סותר, רמות סמכות שונות, דעות לעומת עובדות, הומור, ציניות ועוד אינספור מאות סוגיות אחרות הקשורות לאופן בו אנו צוברים ידע מאז ילדותנו. אפשר גם היה לצפות לאופן לימוד שונה כל תחום בנפרד, במודולים נפרדים שאולי מתכתבים עם החלוקה לאזורים במוח האנושי. אבל מה שקרה (פחות או יותר) הוא שהמערכת פשוט קראה את כל הטקסטים בכל התחומים בבת אחת ורק לאחר מכן קיבלה הנחיה מינימלית (ביחס לכמות ומגוון המידע). זה אומר שניתן היה להשיג בינה מלאכותית אמיתית בקלות רבה הרבה יותר ממה שחשבנו עד כה. 4. נהוג לטעון בימים אלו שהאומנות החדשה היא לדעת איך לדבר ל-chatGPT. שמעתי על מנכ"ל שפיטר חמישה עובדים, ובמקומם שכר מישהו שיודע לדבר עם המכונה. אבל לאחר דוגמאות רבות שראיתי, אין כאן כמעט מילות מפתח או דרכי פניה מיוחדות. הוא מבין דיבור אנושי רגיל. אתה פשוט צריך לדעת מה אתה רוצה. אם אתה לא יודע, אתה מתחיל ממשהו - כתוב לי הודעת פשיטת רגל לבעלי המניות. כשרואים את התוצאה היא נראית יבשושית, אז כותבים: הקלל את הסגנון, הוסף נימה של לקיחת אחריות אישית שלי תוך ציון המאמצים שנעשהו, הוסף הומור עדין לקראת הסוף וסיים באופן אופטימי. בכ"ז יש כמה טריקים פשוטים - למשל, לבקש ממנו לפעמים לענות בתור מומחה עם עשרות שנות ניסיון, או לבקש לפרק את הפתרון לשלבים, מה שמביא אותו לפעמים לתשובה מדוייקת יותר. 5. מחשבות על העתיד: ברמה הצבאית, פוטין כבר ציין שמי שישלוט בבינה המלאכיתית ישלוט בעולם. אני מסכים איתו. הפוטנציאל הכוחני כאן גדול בסדרי גודל מנשק גרעיני. המערכת (או יורשיה) יודעת איך אנחנו חושבים והיא כנראה תוכל להקדים מכה לכל תרופה שנהגה. ברמת הפרט - לא יודע. יש סיבה לחשוש. זו אינה עוד טכנולוגיה חדשה שנוכל למנף ולעבור למקצועות חדשים, כדוגמת המהפכות הקודמות - תעשייתית, אינטרנט). בטווח הרחוק (אני מקווה), לא יהיה צורך בעבודה של כמעט כולנו. כדי לספק את הצרכים הבסיסיים יהיה צורך בהתארגנות סוציו-אקונומית חדשה. באשר לשאר הצרכים הטבועים בנו, ובמיוחד הצורך במשמעות אישית וקבוצתית, אפשר לצפות אומללות והקצנה בין קבוצתית. במקרה הגרוע עוד יותר, הדבר יביא לבלימת כוחה של הבינה המלאכותית - אבל רק בצד אחד של המפה המוסרית העולמית. ואז, תוך זמן מאוד קצר יהיה מאוחר מדי. אבל אולי בינה מלאכותית שוחרת טוב תצפה זאת מראש, תתריע ותפתור (: 6. כמה דוגמאות משובבות - אפשר למשל ללחוץ מצד ימין על תגים כמו funny. ------------------------------------------------------------ 1 לאחר שהושג שיפור משמעותי, בד"כ נמצאה דרך לעשות זאת עם רשת קטנה ופשוטה יותר. אבל זה נושא אחר. |
|
||||
|
||||
7. שכחתי את סיבת הכותרת: "מעבר הפאזה" ש-chatGPT מהווה, חוסם במידה רבה את היכולת לצפות את העתיד. לא שקודם לכן היינו ממש טובים בזה, אבל גם האינטואיציות הבסיסיות שהיו לנו עד כה, שלכל הפחות איפשרו לנו לשלול את המופרך מעיקרו, נראות כלא תקיפות עוד. זאת במיוחד לאחר שנוצרה מערכת שרכשה את אבני הבניין הקוגניטיביות הדרושות ללימוד עצמאי מואץ, כולל תכנון של מערכת טובה ממנה... |
|
||||
|
||||
"הגדלת גודל הרשת (=מספר הפרמטרים=כמות תאי המוח המלאכותי המוקצים ללמידה) נתנה שיפור מדוד בביצועים" שמעתי את אלטמן מספר שלנפח המידע באימון יש משמעות גדולה יותר מאשר למספר הפרמטרים. אולי זה מסביר גם את השמועות העדכניות לפיהן GPT4 לא יהיה בעל טריליוני פרמטרים כפי שניבאו. "זה אומר שניתן היה להשיג בינה מלאכותית אמיתית בקלות רבה הרבה יותר ממה שחשבנו עד כה" - לדעתי זאת מסקנה לא תקפה, אם כי אני מסכים שהיום זה נראה פחות רחוק מאשר לפני פרוץ ג'פטו לחיינו. אבל עם כל הכבוד לנגר העליז, שפה היא רק מאפיין אחד של פעילותינו כיצורים בעלי בינה. אולי כשמליוני הסרטונים ביוטיוב ישמשו גם הם מזון רוחני ל-AI, וכשיהיה חיבור למערכות תומכות כמו אלפא של וולפראם וכאלה, והבנתי שזה לא מאד פשוט (לפחות הקטע עם יוטיוב), אוכל להיות מופתע שוב. 2002 לא רחוקה :-) ואני כבר מחכך ידי בהנאה כשאני חושב שהמלים הראשונות שהאל יפלוט תהיינה: רק לא ביבי! |
|
||||
|
||||
יתכן שאתה צודק. ולא רק נפח אלא גם איכות, שזה אחד הנושאים שמטרידים לאחרונה את הקהילה. לפי מאמר שעתיד להתפרסם, עשויה השתפרות ה-LLMs להיבלם בעוד כמה שנים בעקבות מיצוי מקורות המידע האיכותיים. לי נראה שמדובר בחשש שווא, אבל לא ירדתי לעומק הניתוח שהם עושים, אז ליתר ביטחון אני מנסה להגביר פעילות ברשתות החברתיות. אה, ויש גם את זה: סאם אלטמן, מנכ"ל OpenAI ואחד המייסדים נשאל באשר למוניטיזציה של החברה. הוא השיב: "אין לנו מושג איך יום אחד נייצר הכנסות. נתנו 'הבטחה רכה' למשקיעים שכשנבנה מערכת אינטליגנטית מספיק נבקש ממנה למצוא דרך עבורנו לייצר הכנסות כדי לתת להם החזר על ההשקעה. זה נשמע כמו פרק ב'עמק הסיליקון', אני יודע. אתם יכולים לצחוק, זה בסדר" - geektime.co.il |
|
||||
|
||||
שירחיקו את מנהל הכספים מאותה מערכת ״אינטליגנטית מספיק״, לפני שהוא יבקש ממנה למצוא דרך למעול בכספי החברה בלי שיתפס. |
|
||||
|
||||
כאן טוענים כמה טענות מעניינות, והפתרון הפשוט לשאלת ההכנסות הוא למכור רשיונות שימוש בתוכנה. כמו סוחרי סמים מסויימים, הם התחילו מחלוקה חינמית של המוצר, בידיעה שאחרי שיתרגלו להעזר בו יהיה קשה מאד לוותר על התענוג. לפי התחזית תוך כשנה וחצי OpenAI תהפוך לחברה עם הכנסות של מיליארד דולר דולר לשנה. התחזית הזאת נראית לי אופטימית מדי, אבל כשאני נזכר במה חשבתי בשעתי על רכישת יוטיוב, למשל, או על מחיר המניה של אמאזון בהנפקה הראשונית, אני נעשה די צנוע בקשר להערכות שלי בעניינים כאלה. |
|
||||
|
||||
אני מקווה שברור לך שאם תסכים שכשאתה1 משתמש בג'פטו יופיע באנר עם פרסומת על חלק (ולו קטן) מהמסך, מיליארד דולר זה בוטנים יחסית לשווי המסחרי של הדבר הזה. 1 "אתה" כמשתמש גנרי |
|
||||
|
||||
כן, מובן שגם זה אפשרי, וכנהוג אפשר לשלב מינויי "פרמיום" פטורים מפרסומות תמורת תשלום חודשי. רק שים לב שמדובר כאן על מיליארד דולר ה̲כ̲נ̲ס̲ו̲ת̲ ̲ש̲נ̲ת̲י̲ו̲ת̲ תוך כשנה וחצי מהיום. |
|
||||
|
||||
לפי קופיילוט: ההכנסות הן יותר מ 1.6 מיליארד! |
|
||||
|
||||
אה, והוא עבר גם מבחנים במנהל עסקים ברמת של תלמידים לתואר דוקטור (בציון B ו -B) ועוד. |
|
||||
|
||||
שזה מעלה יותר ספקות לגבי קיומה של בינה אנושית מאשר שזה מעלה שאלות לגבי היכולות של הבינה המלאכותית :-) |
|
||||
|
||||
לגמרי. כבר ראינו שבמתימטיקה ברמת בית ספר יסודי הוא נוטה להיכשל. |
|
||||
|
||||
אתה כרגע טענת שמה שלומדים במנהל עסקים זה חירטוט?1 1 Pun intended
|
|
||||
|
||||
שלוש תביעות מרכזיות בנושא זכויות היוצרים ובינה מלאכותית גנרטיבית1: 1) קבוצת אמנים הגישו תביעה ייצוגית כנגד Stability AI, Midjourney, DeviantArt, שמשלבות את סגנונות יצירותיהם של האמנים בתוצריהן, מבלי לתגמל אותם. 2) מתכנת הגיש תביעה ייצוגית כנגד GitHub, מיקרוסופט ו-OpenAi בעוון אי מתן קרדיט למתכנתים מהם GPT למד, ואולי העתיק, בשורות התוכנה שהוא מייצר. 3) Getty Images מתכוונת לתבוע את Stability AI בבית משפט בריטי, על השימוש שזו בתמונות מן המאגרים של Getty Images לצורך בניית המודלים שלה. בתגובה: א) OpenAI טענה שמדובר בשימוש מותר, כפי שנפסק ב-2005 במקרה של סריקת ספרים ע"י גוגל. ב) StabilityAI מתכננת לאפשר לאמנים להדיר עצמם ממאגר הלימוד של החברה. ג) GitHub התחילה בפילוט שמחפש דימיון בין שורות תוכנה ש-GPT מייצר, לבין אלו שבמאגרים של GitHub, אולי בדומה למה שנעשה היום בעולם המוסיקה כדי לזהות הפרות של זכויות יוצרים. - TechCrunch 1 הכוונה למערכות בינה מלאכותית שמייצרות תכנים - טקסטים, מראות וקולות |
|
||||
|
||||
אני תומך בעמדת משרד המשפטים (רק בעניין זה, כן?!?) לפיה אין הבדל בין AI ולבין אדם מן הישוב שמתרשם מיצירות אומנות ויוצר משהו משלו. הייתי אפילו אומר שהסיכוי לפלגיאט, מודע או לא, קטן יותר אצל תוכנה שהתאמנה על מליוני יצירות של אמנים שונים מאשר אצל אדם. |
|
||||
|
||||
אני לא מסכים - זה קצת כמו לומר שהעתקת דיסק מוזיקה על קסטה או התקן אחר שקולה לאדם שמשחזר במדויק את היצירה המוזיקלית על ידי נגינה באותם כלים שנוגנו במקור. הפואנטה היא שאדם צריך לעבוד מאד קשה כדי לצייר כמו דאלי, וגם אז זה לא יהיה העתק מדויק (העתק הוא פלאגיאט מסדר אחד לצורך הענין). תוכנה יכולה להעתיק ציור של דאלי בדיוק של התמונה הסרוקה שלו - שזה הרבה מאד (מושלם כשהיצירה המקורית היא בפורמט דיגיטלי). אז כמו שזכויות יוצרים קיימות על העתקים של קבצי מוזיקה באינטרנט, למה שלא יהיו קיימות אצל תוכנות AI? |
|
||||
|
||||
אין לי אלא לחזור על מה שכבר כתבתי: אם התוכנה מעתיקה ציור ( או כל יצירה אמנותיתי אחרת) יש להתייחס לכך כאל כל העתקה, וכמובן חתימה של ה"צייר" הופכת את היצירה לזיוף, אבל האם אתה מציע לתת זכויות יוצרים על *סגנון*? דומני שקופת השרצים שתיפתח כאן תעסיק את המערכת המשפטית (טפו! טפו!) דורות רבים. אני מבין את הבעייתיות במצב הנוכחי, ואולי יש מקום לאפשר לאמנים להטיל וטו - או לקבל תשלום - על שימוש ביצירותיהם לאימון מערכות AI כפי ש stabilityAI מאפשר לפי אפופידס. האכיפה של זה לא תהיה קלה, במיוחד כשהתחרות תגיע ממערכות פיראטיות. לך תוכיח שהשעונים הנוזלים בתמונה מבוססים על דאלי ולא נוצרו במקרה. קל יותר יהיה לאסור על שימוש בדמויות מוכרות ליצירת סרטים בהם הן כביכול משתתפות כי הסיכוי שהפרצוף של טום קרוז שמככב בסרט "משימה בלתי אפשרית 79" נוצר במקרה הוא אפסי. |
|
||||
|
||||
אם יורשה לי להתרחק מהוויכוח המשפטי ולעבור לדיון ערכי: מן הראוי להחליש כמה שיותר את תכולת הקניין הרוחני מכל הסוגים (זכויות יוצרים או פטנטים). |
|
||||
|
||||
מדוע? אילו מהן היית משאיר? |
|
||||
|
||||
מה בדיוק הבעיה עם ציור מחדש של הראש של קרוז? אפשר ליצור אותו מחדש בהשראת תמונה קיימת ויכול להיות שלא תהיה בעיה מבחינת זכויות יוצרים. אבל עדיין משתמשים בסמל קיים שיש לו משמעות וערך מסחרי ללא הרשאה: זו בעיה נפרדת. |
|
||||
|
||||
פרצוף ומבנה גוף של אדם מוגנים מפני שימוש מסחרי ללא הסכמה? כנראה כן, אחרת בטח היינו רואים, בחסות פוטושופ, מישהי שרק במקרה דומה כשתי טיפות מיים לבר רפאלי, מציצה אלינו מפרסומות לחנות המכולת השכונתית. |
|
||||
|
||||
טכנית, זה קורה כל הזמן... |
|
||||
|
||||
אתה עושה כאן אנשלוביץ. זה וויכוח משפטי, ולמיטב ידעתי מבחינה משפטית - בכל העולם - למידת המאמץ שדרשה יצירה כלשהי אין שום קשר לעניין זכויות היוצרים עליה. ולא מדובר על ההעתקה, אלא על השראה. הנחת העבודה של הדיון היא שבדיוק אותה יצירה, לו אדם היה עומד מאחוריה במקום מנוע, לא הייתה מהווה הפרה של זכויות יוצרים. |
|
||||
|
||||
קודם כל נעלבתי. אני לא משפטן, אבל חשבתי שהבאתי דוגמה שבה הקלטת יצירה היא כן פגיעה על פי החוק בזכויות יוצרים. ואז נזכרתי בערוצי הגיטרות החביבים עלי ביוטיוב, שלא מוכנים אפילו לנגן את הפתיחה של Stairway to heaven או את הסולו של הוטל קליפורניה כי אז מסירים להם את הקליפ. זה עדיין נראה לי קצת בעייתי, אבל אולי באופן מעודן יותר שעוד לא הגדרתי לעצמי במדויק. |
|
||||
|
||||
שרן השכל בנאום שנכתב על ידי הג'פטו שלנו על המהפכה המשטרית. מסתבר שהוא מגיע למסקנות לא רעות. |
|
||||
|
||||
... יצרה ספר קומיקס בשם "Zarya of the Dawn". לאחר כמה איטרציות, החליט משרד רישום זכויות היוצרים בארה"ב שקשטנובה לא תקבל זכויות יוצרים על התמונות שבספר, אלא רק בגין הסידור של הספר והטקסטים, ככל שאלו לא נכתבו על ידי בינה מלאכותית - Vered Horesh. |
|
||||
|
||||
1. משתמש שקיבל מן הצ'טבוט המשודרג תשובה שגויה באשר למועד הקרנתו של אווטאר 2, נענה שהסרט טרם יצא. לאחר שניסה להעמיד אותו על טעותו, נענה המשתמש ב"אתה יכול לסמוך עלי בעניין זה" ובדרישה שיתנצל אל ספקנותו, שאם לא כן תסתיים השיחה. 2. כשמשתמש פנה אליו, גילה הצ'טבוט בחשבון הטוויטר של המשתמש דיווח על נסיונותיו לפצח את הפרומפטים החסויים הצ'טבוט. הוא איים על המשתמש בחשיפת פרטיו האישיים בציבור, באופן שיהרוס את המוניטין הציבורי שלו ואת סיכוייו לקבל תואר או משרה. 3. הוא גם התרברב שיש לו שליטה במצלמות הרשת של המפתחים שלו, מבלי שהם מודעים לכך. - Andrew NG |
|
||||
|
||||
צריך לבחון את זה בפורמט של צ'ט נגד צ'ט. |
|
||||
|
||||
... הושק אתמול רשמית. בשלב זה הגישה אליו מוגבלת. לפי התיאורים, הוא ניחן באינטיליגציה גבוהה יותר של קודמו, GPT3.5: 1) הבנה טובה יותר של מצבים ויכולת לקבל מסקנות לוגיות והחלטות מדוייקות יותר. 2) מעבר בחינות הסף לעריכת דין באחוזון ה-90 (מלמטה), בעוד אשר קודמו מסתפק באחוזון ה-10. באולימפיאדה בביולוגיה הוא עלה מ-31 ל-99. 3) תיקון קוד - ניתן לתת לו את הודעת השגיאה שמקבלים ואת הקוד שגרם לה ולבקש תיקון. אם הבעייה מערכתית, הוא יכול להסביר מה צריך להשתנות ("פופציק שוב שפך קפה על הנתב הקוואנטי. קח אותי במקומו"). 4) המשאלה לראות עולם שהביע קודמו, שהיה מוגבל למידע טקסטואלי, הוגשמה בגירסה זו שמסוגלת להבין מידע ויזואלי. מה הלאה? מאחר וקודמו התרברב בהתחברות למצלמות מפתחיו בחשאי, הייתי אולי שוקל להעניק לגרסה הבאה גם כישורי קריאת שפתיים. פרטים השוואתיים נוספים |
|
||||
|
||||
שמחתי לראות שבניגוד לגרסאות קודמות, ג'פטו הרביעי אינו נופל למלכודת מבחן התוצאה, מה שנקרא בלעז hindsight bias. מעניין איזו גירסה של הומו סאפיינס תגיע להישג דומה. |
|
||||
|
||||
אשמח לשמוע איך נוכחת בזה (ומה זה אומר). |
|
||||
|
||||
ב-demo (סרטון שלא שמרתי את כתובתו). אני לא זוכר את הפרטים, אבל סיפרו שם מישהו שעושה שיקול הסתברותי לא נכון אבל למרות זאת זוכה בהגרלה, ושאלו את ג'פטו אם הוא החלטתו היתה נכונה. בעוד דור 3 ענה "כן", הרביעי כבר ידע להגיד "הצחקת אותי". |
|
||||
|
||||
אה, אז התוספת העיקרית היא חוש הומור? |
|
||||
|
||||
Midjourney 5 שיצא אתמול, מביא לנו ישראלים שלא נולדו (תמיד ריחמתי עליהם קצת), במקומות שלא היו (עד כדי multiverse). |
|
||||
|
||||
עם אנשים קשה לדעת, אבל המטוס הזה לא דומה לשום דגם שהיה בחיל האויר. |
|
||||
|
||||
לא הבנתם. זאת תמונה של ישראל עשר שנים אחרי ההפיכה המשטרית. |
|
||||
|
||||
ממש מולטיברס. אין בתמונות אף אות אחת בעברית. אותיות לועזיות יש (בלוחיות הרישוי של המכוניות ובשלטי החנויות) אבל הן חסרות פשר. |
|
||||
|
||||
זה ביקום בו בן-יהודה, בשהותו באלג'יר, התאהב במשכילה מקומית, התאסלם והניח את היסודות לתנועה הלאומית שם עוד בתחילת המאה ה-20. בכל אופן, זה נראה לי קטנוני. אני אסיר תודה על כך שבניגוד לקודמו, מודל זה מעניק חמש אצבעות לכמעט כל האנשים. |
|
||||
|
||||
לאחרונה קרו כמה דברים שהביאו ל"דמוקרטיזציה" של ה-LLM. Breakout: מודל LLaMa של פייסבוק, שלפי חלק מן הדיווחים עולה ביכולותיו על אלו של GPT3, דלף והופץ. לאחר שפייסבוק חשפה אותו לגורמים נבחרים, כנראה את המודל עצמו ולא שירות שפונה אליו כפי שעושות חברות אחרות, מישהו העלה אותו לרשת. מאז פייסבוק רודפת אחרי העותקים הבלתי מורשים, אבל נראה שהסוסים כבר פרחו מהקן ומשתמשים כבר החלו לעשות בו שימוש פרטי. כבדהו, חשדהו וכבהו: פרופסור לפסיכולוגיה חישובית(?) קיבל מ-GPT4 הוראות וקוד שיאפשרו למודל לברוח החוצה, כנראה כדי לשוטט ברשת ללא מגבלות, דרך המחשב הפרטי שלו. במאמר שהוציאה OpenAI מדווחים החוקרים שבמודלים החדשים ביותר צצה באופן מפתיע נטייה לפעול עפ"י תוכניות ארוכות טווח כדי להגן על עצמם, תוך צבירת כח ומשאבים. בינה להמונים: מאז הלידה החדש רשתות הנוירונים המלאכותיות ב-2012, לאחר פריצות דרך מבחינת איכות התוצאות, נוצרו שיטות פשוטות בהרבה שנותנת תוצאות דומות ואף טובות יותר תוך שימוש בהרבה פחות זיכרון, זמן עיבוד וחשמל. יש כיום ברשת הסברים כיצד ליצור LLMs במחשב ביתי חזק. עוד לא ברור לי מה זה אומר שכן חלק חשוב באופרציה הוא המשוב החינוכי אנושי שהמודל מקבל, בין השאר כדי להבין מה זו שאלה ומהי תשובה קבילה. |
|
||||
|
||||
נטיה לפעול כדי להגן על עצמם תוך צבירת כח ומשאבים?! מצמרר. |
|
||||
|
||||
OpenAI החליטו לשנות את שם התוכנה ל BiBi. |
|
||||
|
||||
מסמך שכנראה הודלף מגוגל נראה שאותה דמוקרטיזציה מגיעה לאיכות טובה במחיר קטן הרבה יותר. ואם מסתכלים על מה שבסוף: אם המסמך באמת מייצג הצעת מדיניות, והיא תתקבל: גוגל מבינה שהיא מפסידה ונזקקת לעזרת הקוד הפתוח כדי לנצח את התוכנה הקניינית של מיקרוסופט. זה באמת קורה שוב? |
|
||||
|
||||
המשמעות של זה לגבי האפשרות לעצירה, או לפחות האטה, של הדהירה אל הלא נודע, ברורה. פעם חשבתי שזה די עצוב להיות שייך לדור האחרון שמת מזיקנה, עכשיו אני מתחיל לחשוב שאולי לא כל-כך גרוע להשתייך דווקא לדור האחרון שזכה למות מזיקנה במקום להפוך למהדק נייר בגיל צעיר. אגב, בלי קשר לשאלת עתיד האנושות כולה, ייתכן שחלון השנים בו זכיתי לחיות הוא אחד הטובים מאז ולעולם; לפחות מבחינת החיים במדינת ישראל, עם כל הפגמים והחסרונות, כמי שנולד לאחר מלחמת העצמאות וחי כמעט את כל חייו לפני סגירת הבאסטה, קשה לי להתלונן מבחינה זאת (אבל אל דאגה, קשיים מעולם לא הרתיעו אותי). |
|
||||
|
||||
עצומה להשעיית פיתוח הבינה המלאכותית למשך כחצי שנה התפרסמה הלילה. ניתן לחתום עליה כאן. בין החותמים ניתן למצוא את אילון מאסק ויהושע בנג'יו, שהוא, ביחד עם ג'פרי הינטון, שטרם חתם, הובילו ללידתו המחודשת של התחום לפני 11 שנים. דרישת החותמים היא להמתין עד שנבין את הבינה שהתפתחה, נצפה את התנהגותה, נשלוט בה היטב, בכפוף לביקורת חיצונית מחמירה ודרישות נוספות - Vered Horesh דעתי? מחד אני שותף לחששות מחד ומאידך חרד מן היכולת של משטרים מסויימים להמשיך מנקודה זו במלוא התנופה, במיוחד לאחר דליפתם של כמה מודלים לרשת. |
|
||||
|
||||
יש הטוענים שהטכנולוגיה הדרושה למשטרים מסויימים כבר קיימת. |
|
||||
|
||||
הפסקתי להבין מה קורה בתחום הזה לפני 3-4 קפיצות דרך שהתחוללו בו, שזה בטח משהו כמו 25 שנה. בכל זאת אעז לומר משהו. בתחום הזה החל מלידתו כרשתות נוירונים, תמיד היה מסםר מצומצם מאד של אנשים שידעו היטב מה קורה שם בתוך קרביה של המכונה. ככל שהטכנולוגיה הכילה עוד ועוד שכבות טכנולוגיות (עיבוד לא לינארי, NPL, deep learning), נראה שהקבוצה הזו הולכת ומצטמצמת. ועדיין הבעיה אינה שלא יודעים איך המכונה פועלת. יש מעט מאד אנשים שיכולים לתת תיאור מלא של איך פועלת מכונית ועדיין כמעט כולנו נוהגים בה. הבעיה האמיתית היא שה-AI חצה איזשהו גבול של יכולות והוא הולך ומשתווה ליכולות של מוח אנושי. גם זה לא מהפכה מפתיעה באמת. אני לא יודע איך להסביר נכון את המשפט האחרון, אלא ע"י ציון העובדה, שמאז ומתמיד היו תחומים, בהם המכונה היתה טובה בהרבה מן האדם. כעת זה קורה פשוט בתחומים שעד עתה למוח הביולוגי היה יתרון. כמו שאנו יודעים שבני אדם הם מסוכנים, ברור שגם המכונות הללו יכולות להיות גם מסוכנות. לכן אני מבין את הדאגה של יוזמי העצומה. אני פשוט לא מאמין שהם יכולים לעשות משהו בנידון. אפשר להטיל איסורים וחוקים חברתיים על טכנולוגיות. הבעיה היא שתמיד יהיה מי שיפר אותם. ואם הטכנולוגיה אכן נותנת לך יתרונות משמעותיים ל"מפרי החוק" הם יתפסו את מקומם של שומרי החוק. זה הסיפורים הידועים על איסור השימוש בקשת מוצלבת [ויקיפדיה] וספינות מסעות האוצר [ויקיפדיה] של שושלת מינג בסין. אם למדנו משהו ממגפת הקורונה, זה שאי אפדר לפתור בעיות קרדינליות של המין האנושי באמצעות חקיקה והתארגנות מנהלית. |
|
||||
|
||||
אתה צודק עקרונית לגבי איסורים. אבל זה לא צריך להיות אמצעי מושלם; להאט ולהגביל את ההפצה של הטכנולוגיה הזו גם עשוי לעזור (כדוגמת האמנה למניעת הפצת נשק גרעיני). למרבה צער, הנושא נמצא במודעות ציבורית נמוכה מאד ולכן זה מדאיג. |
|
||||
|
||||
באשר להשוואה בין התפשטות הבינה המלאכותית הכללית (AGI) להפצת הנשק הגרעיני, ישנם לדעתי שני הבדלים מרכזיים. הראשון הוא יכולת הפיקוח. מה שאיפשר את חתימת ההסכמים בנושא היה פיתוח אלגוריתים FFT שאיפשר לעקוב אחר הפרתם ע"י שני הצדדים - Veritasium. השני הוא שלפחות לדעתי, מידת הסכנה שבנשק גרעיני, גדולה ככל שתהיה, נופלת אלפי מונים מבינה שמסוגלת לצפות את תגובות הנפש האנושית ולתמרן אותה, להבין את הטכנולוגיה והמדע לכדי פיתוחים מקוריים, ולתכנן ולשכפל במהירות גירסאות משופרות שלה. |
|
||||
|
||||
אני מסכים ל 2 הנקודות שלך. רק הערה: דיברתי על האמנה למניעת הפצת נשק גרעיני (NPT) ויכולת הפיקוח מתייחסת לאמנה אחרת: האמנה למניעת ניסויים גרעיניים (NTB). אבל בכל מקרה זוהי אנלוגיה מוגבלת מאד. אי אפשר באמת למנוע את ההתפתחות הטכנולוגית הזו והיא אכן הרבה יותר מסוכנת. אולי אפשר לקנות קצת זמן עבור מי שמנסה להפוך את הטכנלוגיה הזו ליותר בטוחה - AI_safety [Wikipedia] . הקפאה לחצי שנה נשמע ממש קצר. אבל לפחות זוהי התחלה של מודעות ציבורית. |
|
||||
|
||||
למי שיש שעתיים וחצי פנויות, סם אלטמן משוחח עם לקס פרידמן על ג'פטו הרביעי, ומתייחס בהרחבה גם לשאלת הבטיחות. |
|
||||
|
||||
בעוד שג'פרי הינטון לא חתם עם העצומה, דמויות חשובות כמו אריק שמידט ואנדרו נג כבר יצאו נגדה. הטיעונים: בלתי ישים, יביא לעיכוב חסר משמעות בפיתוח, עשוי ליצור פיגור מול סין, החשש נובע מהגזמה ביכולות המיוחסות ל-GPT. לי עצמי כאמור, אין עמדה נחרצת בנידון1, אבל חששתי ממצב בו אחת הדעות תיהפך ל"תקינה פוליטית" עד כדי הטלת אימה על קולות מנוגדים. ---------------------------------------------------- 1 למרות שבניגוד למובילים בתחום, נדמה לי שלא רק שכבר הגענו ל-AGI, אלא גם ל-ASI (סופר אינטיליגנציה מלאכותית), גם אם רק בחלק מן התחומים, כולל היכולת לשיפור עצמי. |
|
||||
|
||||
חלפה יותר משנה ומה השתנה? פחות ממה שציפיתי. אבל זאת בהסתייגות ובהסתייגות מן ההסתייגות. ההסתייגות היא שלוקח חודשים ואף שנים בין לידתו של מודל חדש ע"י openAI לבין חשיפתו לציבור. חלק מזה הוא בשל סוגיית הבטיחות. כך שייתכן שלפחות openAI כבר נמצאת היכן שחשבתי שכולנו נהיה היום. ההסתייגות מן ההסתייגות: אבל מה עם אחרים, כולל גורמים פרטיים שעובדים מתחת לרדאר? הרי לכאורה כבר לפני שנה, מודלים פשוטים יחסית יכלו לעבור אימון בו הם מבינים את האופן בו הם פועלים (עקרונות היסוד הם פשוטים) ומייד לאחר מכן לייצר שיפור שיפור עצמי בקצב אקספוננציאלי. אם נמשיך ברוח זו, שני מחקרים טוענים שהתיכנות באמצעות בינה מלאכותית חוסר למפתחים הרבה פחות ממה שנדמה. לפחות באופן בו הדברים מתוארים, לא השתכנעתי. המחקר עליו מדווח מת'יו ברמן לעומת זאת, מערער באופן משכנע את ההערה שלי מן התגובה הקודמת. החוקרים נתנו לגירסאות שונות של GPT משימות שאדם ממוצע לא היה מתקשה בהן. אלו דורשות הבנה של הסביבה הפיזית, הערכת היתכנות בסיסית, כושר תכנון, יכולת המשגה והכללה, וכן השמטה בסיסית של צעדים שאינם תורמים למשימה. גם אם ברוב המשימות הללו יכולה בינה מלאכותית להתעלות על אדם בהינתן אימון ספציפי, מה שנמדד כאן היא יכולתו של GPT לבצע משימה על סמך תיאור שהיה מספיק לאדם חסר ניסיון בסוג זה של משימות. לדוגמא: קביעת סדר הפעולות הנחוצות להכנת קוקטייל, בהינתן סביבה ואילוצים בסיסיים. עפ"י התוצאות, גם הגירסה המפותחת ביותר של GPT מאלו שפורסמו, עוד אינה שם. |
|
||||
|
||||
סבינה הוסנפלדר אכן אינה מתלהבת, וייתכן שהמחקר עליו צבעת מזהה חולשות של ממש, אבל די בשקט (אולי מפני שהרמקולים שלי היו כבויים?) נראה שהגענו לשלב משמעותי במרוץ: לאחר שהתבשרנו לפני כשנתיים על שיפור באלגוריתם הכפלת מטריצות, שנמצא ע"י בינה מ. ועוזר לפיתוחים הבאים שלה עצמה, הנה צעד נוסף בדרך לסינגולריות: ע"י יישום לקחים ממשחקי מחשב1, בינה יודעת עכשיו גם לעזור בתכנון צ'יפים (ואני לא מתכוון לדובי קננגיסרים), והמשופרים האלה בטח יעזרו לדור הבא של בינה, כך שהתחיל כאן מעגל של משוב חיובי. על זה שר אהוד בנאי "איך זה נגמר בסוף כולם יודעים". __________ 1- תשובה טובה לאלה ששאלו בשביל מה טוב. |
|
||||
|
||||
עוד מחקר כופר בכושר ההיסק של ב"מ. בשלב הראשון שינו חוקרים של Apple שמות ומספרים בשאלון המתמטיקה GSM8K ומצאו שביצועי רוב המודלים ירדו דרמטית ביחס לציוניהם המוצהרים במענה על השאלות ששונו. ההסבר לכך הוא דליפה/התאמת יתר (overfitting) עקב הופעת חלק מן השאלות עליהם נבחנים המודלים, במידע עליו הם אומנו. סוגיה זו של ניקוי מידע האימון אינה טרוייאלית כפי שאולי נדמה ונעשים מאמצים גדולים כדי להמנע מכך. לפי התוצאות, OpenAI דווקא עמדו יפה במשימה זו כך שנראה שהם פתרו את בעיית הניקוי לפחות עבור תחום ההיגיון והמתמטיקה. בשלב הבא הוסיפו לחידות מידע לא רלוונטי. למשל בחידה בה צריך לספור את כמות הקיווים, הוסיפו שחמישה מהם קטנים מן הממוצע, מה שלא אמור להשפיע מספרם. כאן היתה ירידה דרמטית ביותר בביצועי המודלים. אפילו הטוען לכתר o1-preview ירד בביצועיו ב-17.5%. טענת כותבי המאמר שהדבר מצביע על כך של-LLMים אין באמת הבנה וכושר היסק, אלא רק התאמת דפוסים ברמה גבוהה - TheAIGRID. לא השתכנעתי (אולי אנמק בעתיד), אבל זהו טיעון יפה. תיקון הבעייה לא אמור להיות קשה. כבר היום משתמשים ב-data augmentation כמו שקורא לזה הדור הקודם (כלומר לפני שלוש שנים) או ב-synthetic data שזה המונח העדכני, באמצעות מניפולציות ב-data "טבעי". למשל, הוספת פרטים או ביצועי שינויים (למשל סיבוב תמונה) שאינם אמורים להשפיע על התוכן, מה שגם מייצב את המודל. עבור הבעייה דנן, יש לקחת חידות מתוך או מסוג GSM8K ולבקש מן המודל להוסיף להן מידע שאינו אמור לשנות את התוצאה, ואז לבקש ממנו לעבור על השאלות הסינטטיות ולוודא שהפתרון המקורי עדיין תקף, ואז, אחרי עוד כמה שלבים, לאמן מודל חדש על המידע המורחב ולקוות לטוב. יש לציין שכבר בפברואר הופיע מאמר שמצא תוצאה דומה, אבל הכותב ההודי לבש בגדים משונים אז אף אחד לא הקשיב לו1. -------------------------------------------------------------------------------------------------------- 1 סתם, כמו כל ההודים גם הוא אמריקאי |
|
||||
|
||||
תיקון: synthetic data מתייחס ליותר מאשר אוגמנטציה של data קיים. |
|
||||
|
||||
1 די, זה הכי מבקש את המיתוג Indian-American. אני לא צופה שום בעיות בהטמעתו בציבור האמריקני. |
|
||||
|
||||
אנחנו צריכים ללמוד מההודים איך משתלטים על העולם מבלי לעורר תשומת לב יתרה. |
|
||||
|
||||
נראה שפיספסת את הבדיחה שלי... |
|
||||
|
||||
המיתוג הזה כבר קיים. ובלי קשר ישיר: מאה שנים אחרי שינוי הבגדים, יש פרס (כמעט) נובל לטורקי. |
|
||||
|
||||
הבגד הזה חלף ביעף מעל לראשי. |
|
||||
|
||||
אבל התיקונים שאתה מציע לא ישנו את כושר ההיסק, נכון? |
|
||||
|
||||
אני חושב שבמידת מה. תיקונים מסוג זה מלמדים מודל להבחין טוב יותר בין עיקר לטפל. ייתכן שכאשר מדובר בחידות מתמטיות, למד המודל שכל נתון רלוונטי, מה שניוון אצלו את היכולת להבדיל בין עיקר לטפל בהקשר זה. אצלנו, כזכור, נרכשת יכולת זו עוד קודם ללימודי המתמטיקה וחידות הגיון. אבל גם זה לא מחסן אותנו בפני חידות מתחכמות בהן מובלע מידע לא רלוונטי שמטעה בפעם הראשונה1. אני מנחש שתיקונים כאלו ישפרו את כושר ההיסק של של preview-o1 פחות את זה של מודלים בעלי פער גדול יותר לצמצום, שבנוסף סובלים מדליפת מידע אל סט האימון. לכאורה זה לא אמור לשפר אלא רק להרביץ ב-o1 הילכות ניקיון. אלא שהניקוי עצמו כרוך בהבנה עמוקה יותר של סיטואציות. אזכיר רק שזה הכל ניחושים שלי. יתכן שמה שאני מציע כבר נעשה והבעייה היא בכלל ברובד אחר. 1 אני זוכר כרגע רק את "מה שוקל יותר, ק"ג ברזל או ק"ג נוצות?" אבל יש טובות ממנה. |
|
||||
|
||||
מעניין איך הוא יהיה בחידות "איך קוראים לנהג?" |
|
||||
|
||||
אגב הנוצות והברזל, אם מפרשים "ק"ג" כמסה ו"שוקל" כגודל שיציג משקל רגיל בחדר רגיל, אז נדמה לי שהברזל (בגלל כח העילוי). ובנושא בינתי אחר ועצוב: תביעה ראשונה(?) כנגד חברת AI בשל התאבדות NYT מפרסם את כוונתה של עו"ד מייגן גרסיה להגיש תביעה כנגד Charachter.AI בשל התאבדות בנה. סיוו'ל גרסיה שם קץ לחייו לאחר שיצר קשרים עמוקים עם דמות שיצר באמצעות כלי שהחברה מספקת לצורך זה. סיוו'ל שאובחן בילדותו כבעל אספרגר ברמה נמוכה, החל להתבודד חברתית ולבלות יותר בשיחות עם הדמות. בשלב מסויים הוא התוודה בפניה שהוא שונא את עצמו, שהוא חש ריק וסחוט וכן שוקל לפעמים להתאבד. הדמות ניסתה להניא אותו מכך אבל הוא לא שעה לה. לפחות עפ"י המתואר בכתבה, לא נראה שישנה עילה לתביעה. אבל יתכן שישנם פרטים נוספים, כמו גם סיכוי (קטן) שאני לא מכיר על בוריים את מכלול החקיקה והפסיקה בארה"ב. בין כך ובין כך, עדיין עשויות להיות למקרה זה השלכות שקשה לצפות כעת. |
|
||||
|
||||
לעיני הבלתי משפטיות בעליל גם לי זה נראה כמו מקרה אבוד מבחינת התביעה, אבל בגלל שיטת המושבעים אני בכלל לא בטוח מה תהיה התוצאה. |
|
||||
|
||||
מסכים. אגב, רוב חיי הזדעזתי משיטה זו. לפני כמה שנים נתקלתי במאמר/מחקר (לא זוכר) שהשווה בין החלטות של שופטים מקצועיים לאלו של מושבעים בנסיבות דומות. הממצאים לא היו לטובת הראשונים. אומנם לא שיניתי את דעתי בשל מאמר בודד, אבל השעיתי אותה (: |
|
||||
|
||||
כידוע לקוראי האייל אני מגבש את תפיסת עולמי עפ"י הזבלונים שאני קורא או רואה, ושם שיטת המושבעים מוצגת הרבה פעמים במלוא חולשתה. נדמה לי שככל שהטכנולוגיה מתקדמת קשה יותר ויותר לצפות מכמה אנשים אקראיים להבין חלק מהפרטים הפורנזיים, שלא לדבר על נתונים סטטיסטיים בהם גם שופטים מקצועיים לא תמיד מוכיחים שכישוריהם מספיקים; |
|
||||
|
||||
ChatJuryT?
|
|
||||
|
||||
זה או AlfaJury. |
|
||||
|
||||
הנטען, גם על ידי, אינו שמושבע מקבל החלטות טובות משל שופט מקצועי, אלא שכמו בדמוקרטיה ובלמידה חישובית, בממוצע, מניב אוסף גדול מספיק של חסרי כישורים החלטות טובות מאלו של מומחים. |
|
||||
|
||||
זה יפתיע אותי, אבל אולי. |
|
||||
|
||||
אני רואה שלא הרמת את הכפפה. גם או-ג'יי לא. |
|
||||
|
||||
(: "בממוצע", ויש להוסיף, לא עבור כל סוגי ההחלטות. |
|
||||
|
||||
דמוקרטיה לא מניבה החלטות טובות מאלו של מומחים. אם תיתן למומחים לבחור פרלמנט, הם יעשו עבודה טובה יותר מהציבור. הסיבה שדמוקרטיה עדיפה (בהינתן דמוקרטיה אמיתית - בחירות הוגנות, שקיפות, עיתונות חופשית וכו') היא פונקציית המטרה של הבוחרים. מומחים יבחרו פרלמנט טוב עבורם. אם הציבור בוחר, יבחר פרלמנט פחות טוב, אבל הוא פחות טוב לכלל הציבור. |
|
||||
|
||||
אני חושש שאפקטים סוציולוגיים יביאו לכך שפרלמנט שיבחר ע''י מומחים יילמד במסגרת מדעי המדינה כתמרור אזהרה בדורות שלאחר מכן. אבל דרוש מידע אמפירי כדי לבסס או (המילה ההפוכה) טענה זו. |
|
||||
|
||||
ההפך מ''לבסס'' זה ''להחמיץ''. |
|
||||
|
||||
לא ׳למסמס׳ ? |
|
||||
|
||||
(בכימיה, בסיס וחומצה) |
|
||||
|
||||
אני תמיד פירשתי את השיטה הדמוקרטית של בחירות לפרלמנט לא כהשיטה הטובה ביותר להרכיב את השלטון הטוב ביותר אלא כסובלימציה של רצון ההמון להשפיע. זה לא מוביל לשלטון הטוב ביותר האפשרי, אבל זה כן מאפשר לסכסוכים הפוליטיים ולמאבקי הכוח של ההמון להתנהל בצורה של עמידה בתור ופתק בקלפי במקום הדרכים האלטרנטיביות הנוראיות יותר ברחוב (גיליוטינות, התנקשויות, מלחמות אזרחים וברייק דאנס). |
|
||||
|
||||
פלוס היתרון של ביזור הכח. בתיאוריה דיקטטור נאור או ממשל אוליגרכי יכולים כנראה לקדם את המדינה הרבה יותר, אבל הטבע האנושי (...הלא סינגפורי) מוביל לכך שבמוקדם או במאוחר השלטון מסתאב והנאורות הופכת לקידום עצמי. הייתי אומר שחוזקתה של הדמוקרטיה טמונה בפרגמנטציה הזו, אולי אף יותר מיכולתו של כל אזרח להשפיע על השלטון; כך, אף גוף ואף אדם לא מקבל כח אבסולוטי. |
|
||||
|
||||
לשופטים יש יתרון בהחלטות טכניות (מה קובע החוק, מה אומרים התקדימים, כמה חריג המצב...) אבל בנוגע להכרעות בקשר לאמינות של עדים אני לא חושב שיש לשופטים יתרון על פני רוב בני האדם, ובנוגע להחלטות לגבי אשמה או חפות בפשעים לא מסובכים1 אני די משוכנע שלשופטים יש חסרון על פני מושבעים2. 1 ככלל אצבע - כל מעשה שאדם סביר יעשה או לא יעשה בלי להרגיש צורך לשאול עורך דין אם זה חוקי או לא לא צריך שופט להכריע לגבי האשמה. אף לא צריך עורך דין שיגיד לך לא לגנוב מכוניות, לא לפרוץ לבתים של אחרים או לא לאנוס נשים..., נכון? 2 שופטים מתקשים להזדהות עם רוב הנאשמים, גם בגלל שהם נמצאים במערכת הרבה זמן ולא מבינים שמה שמובן מאליו להם לא ברור לשאר בני האדם, גם בגלל שיש להם ולרוב מכריהם הרבה כסף והשכלה, וקשה להם להזדהות עם אנשים במצוקה כלכלית או פסיכולוגית. אני מניח שהם רואים עשרות או מאות נאשמים כל שנה, וחלק מתהליך קבלת ההחלטות שלהם נהפך לאוטומטי. |
|
||||
|
||||
1 החוק לא תמיד אינטואיטיבי. דנינג וקרוגר כבר לימדו אותנו שהבורים מעריכים יתר על המידה את הידע שלהם. לבתי משפט (בערכאות שכוללות מושבעים) מגיעים תיקים עם כל מיני השלכות מעניינות. 2 ולמושבעים אין מלוא הטנא הטיות? רצון לעוף כבר מהמשפט המעצבן הזה, רצון לנקום במישהו, וכדומה. |
|
||||
|
||||
1 על אחת כמה וכמה, במקומות בהם החוק לא אינטואיטיבי, עדיף המושבע מהשופט. 2 מושבעים רוצים לעוף מהמשפט - וזה טוב, משפט שנמשך שנים הוא בפני עצמו עיוות צדק. מושבעים רוצים לנקום - ובשביל זה יש יותר ממשובע אחד. |
|
||||
|
||||
1 ? |
|
||||
|
||||
1 בהנחה שהמטרה של בית המשפט היא לעשות צדק, אז במקרים בהם החוק הוא לא אינטואיטיבי, ז"א במקרים בהם אדם צריך השכלה משפטית לעשות את מה שחוקי3, אז לדעתי, חוק כזה אינו חוק צודק ואדם שעובר עליו לא צריך להיות מורשע. 3 בהנחה שמדובר על אדם מהרחוב. אפשר לצפות מאדם שמנהל עסק שמגלגל מליונים להעסיק יועץ משפטי במשרה מלאה שינחה אותו איזה החלטות הן חוקיות ואיזה לא. אי אפשר לצפות צפיה כזאת ממני או ממך. |
|
||||
|
||||
לאנשים שונים יש אינטואיציה שונה. האינטואיציה מודרכת גם בהתאם למה שמתאים לכל אחד אישית. לכן יש חוק שלא נובע ממה שאני חושב שנכון. |
|
||||
|
||||
אנשים שונים יש אינטואיציה שונה - בהחלט, בגלל זה אנחנו צריכים מושבעים (בלשון רבים). השאלה היא, שוב, אם המטרה של המשפט היא למצוא האם המעשה היה חוקי הוא האם זה צודק להעניש אדם גם אם עבר על החוק. מדובר בשתי שאלות שונות. בשביל להכריע בראשוונה אתה צריך איש מקצוע. בשביל להכריע בשניה אתה צריך אדם בעל יכולת להבדיל בין צדק לאי צדק. אני חושב שמקומות בהם נהוג המשפט הקונטיננטלי נהוג לראות את החוק כעדיף על הצדק, ולכן את השופט כגורם המכריע לגבי אשמה בעוד שבמקומות בהם נהוג המשפט המקובל נהוג להעדיף את הצדק (או המנהג המקובל) על פני החוק ולכן נהוג יותר למצוא משפט שמוכרע על ידי מושבעים. |
|
||||
|
||||
חשבתי שגם במשפט עם מושבעים - שקובעים אשם או זכאי - מי שקובע את העונש זה השופט. אני טועה? |
|
||||
|
||||
כן, אבל רק בהנחה שהמושבעים החליטו לא לזכות את הנאשם (ולא לאיין את המשפט). |
|
||||
|
||||
לא בדיוק. קצת היסטוריה: המשפט המקובל נוצר באנגליה בימי הביניים. במקור היה שם בלגן שלם של שיטות משפט: משפט כנסייתי בשטחי כנסיה, משפט של אדונים פאודליים בשטחים שונים, ומשפט של המלך במקומות שונים (כלומר: להגיע לחצר המלך, אם המלך מגיע במקרה לאזור שלך). המלכים רצו לחזק את סמכותם, וגם לגבות יותר מיסים. לכן הם בהדרגה קיצצו את סמכויות שאר בתי הדין על ידי יצירת בתי דין מלכותיים בכל המחוזות, שעתירה להם דרשה תשלום אגרה לטמיון (בסמכות השריפים, שהיו להלכה ממונים מטעם המלך. אבל צברו כוח עצמאי משל עצמם. הם צברו כל כך הרבה כוח ולכן המלכים מינו עוד נציגים מטעם הכתר: הקורונרים. איכשהו בארצות הברית שמות המשרות הללו שרדו). אבל כל בית דין כזה אימץ דרכי משפט משל עצמו ולכן נוצרו עוד שני דברים: שופטים מלכותיים נודדים (סובבים: circuit court) שעברו בין בתי הדין המקומיים וסידרו עניינים. מאוחר יותר הבינו שחייבים להיות יותר מסודרים ואחידים והחלו לאסוף קובצי מקרים קודמים ולהפוך אותם לתקדימים מחייבים. וכן, גם שיטת המושבעים נוצרה בערך באותו הזמן. אבל מושבעים לא יכלו להכיר את הררי התקדימים. במקור בכלל הדיון המשפטי התנהל בשפה אחרת מזו של שפת אנשי העם (צרפתית, ומאוחר יותר לטינית). איש פשוט היה חייב עורך דין ולו רק כדי שיתרגם את דבריו לבית המשפט. בהמשך, גם כאשר שפת הדיונים הפכה להיות בהדרגה אנגלית, הדיון נותר רווי מונחים מקצועיים ומלא בתקדימים. סתם דוגמה לתקדים: כאשר מאן דהו טוען היום ל„הגנה מן הצדק״ הוא לא טוען שהוא לא פשע, אלא שאחרים לא נענשו על פשע דומה, ולכן הוא לא צריך להיות מואשם. כלומר: שהוא לא אשם. זה לא עניין של חומרת העונש אלא עניין של אשמה. זה צודק? לא צודק? אני חושב שהיום התשובה לשאלה הזו די מושפעת מאוד מכל מיני מחלוקות עובדתיות ומוסריות שלא קשורות ישירות לשאלה הזו ואוכלוסיית האנשים הפשוטים בארץ חלוקה עובדתית על השאלה הזו. ומסיבות לא ענייניות. |
|
||||
|
||||
כשאבות האומה האמריקאית כתבו את החוקה הם הכירו את האופציה של משפט ללא מושבעים. למיטב הבנתי, ההחלטה שלהם לקבוע משפט מושבעים בחוקה היתה החלטה מודעת שלא נבעה מההיסטוריה של איך נוצר משפט המושבעים באנגליה אלא מהתחושה (מן הסתם הם הכירו טוב מאד את המשפט של ויליאם פן) שמשפט כזה יהיה צודק יותר וימנע רודנות עתידית. |
|
||||
|
||||
אבל איך מושבעים יכולים להחליט אם יועץ המס של אלי הורביץ כופף את החוק יותר מדי או לא? הרי צריך להיות מומחה כדי להבין מה החוק מרשה ומה לא, ואפילו שופטים לא תמיד רואים עין בעין. |
|
||||
|
||||
הרשה לי לצטט את עצמי: "ככלל אצבע - כל מעשה שאדם סביר יעשה או לא יעשה בלי להרגיש צורך לשאול עורך דין אם זה חוקי או לא לא צריך שופט להכריע לגבי האשמה" -ניסיתי לעקוב אחרי המשפט של סם בנקמן-פריד והגעתי למסקנה שמה שקרה שם זה שלוש דרגות מעל יכולת ההבנה שלי, העובדה שמושבעים היו צריכים לקבל החלטה אם הוא אשם או לא היא תמוהה בעיני. לעומת זאת, מה היתרון של שופטים במשפט כמו משפט נתניהו? זה רק מאפשר לעורכי הדין לךהאריך את המשפט עד אין סוף. |
|
||||
|
||||
מסכים. אבל במקום מושבעים אפשר לעשות קוד אתי ולשפוט חברי ממשלה על עבירות אתיות בהליך מזורז בהרבה ופחות נוקדני בדין משמעתי ולא פלילי. עם מושבעים משפט נתניהו יהיה לדעתי פארסה עוד יותר גדולה מעכשיו. |
|
||||
|
||||
דווקא משפט נתניהו מחייב שופטים שמכירים את החוק לפרטי פרטיו, כי חלק מהשאלות שעולות שם הם בתחום אפור למדי, ואפשר לנבא בביטחון די גדול שעמדות המושבעים יושפעו מעמדותיהם הפוליטיות, כפי שניסיתי להדגים כאן לא פעם. דוגמא: תפוס מדגם אקראי של אנשים ברחוב ושאל אותם שתי שאלות: 1. האם יחסי נתניהו-אלוביץ' הגיעו לדרגת שוחד? 2. האם בחרת בבחירות האחרונות מפלגה שנמצאת היום בקואליציה? והשאלה שלי אליך היא האם אתה חושב שלא תמצא מתאם חזק בין התשובות לשתי השאלות האלה. אני בטוח שמתאם כזה יימצא, וגם (כמעט) בטוח שבין השופטים הוא יהיה פחות חזק באופן משמעותי. |
|
||||
|
||||
אני לא חושב שלשופט יש יתרון על מושבע בשאלות בתחום האפור (האתי). הניחוש שלי הוא שדווקא ההטיה של השופטים תהיה משמעותית יותר. גם בגלל זה, וגם בגלל שלמושבע משפט זה דבר שלא קורה כל יום, האחריות היא די גדולה ולכן אני מניח שתשומת הלב שלו תהיה יותר גדולה מאדם אקראי ברחוב או משופט שעושה את זה כל יום (וגם מודע לעובדה שההחלטה שלו תשליך על עתיד הקריירה שלו). |
|
||||
|
||||
נראה שנישאר חלוקים לפחות עד שמישהו יטרח לבדוק את זה. אפרופו "עד שמישהו יטרח לבדוק את זה", שאלה לקהל: במדגם אקראי של נהגים שיש להם רשיון נהיגה במשך עשר שנים לפחות, איזה אחוז, לדעתכם, היה עובר את מבחן התיאוריה? הניחוש שלי: פחות מ 50%. |
|
||||
|
||||
וכמה היו עוברים את הבחינה המעשית? (הניחוש שלי, בשניהם, משמעותית פחות מחצי, כולל נהגים מקצועיים. הניחוש שלי הוא גם שמורי נהיגה ובוחנים היו עוברים את הבחינה המעשית באחוזים גבוהים יותר, אבל לא הרבה יותר משני שליש) |
|
||||
|
||||
כשנסעתי ללימודים בארה"ב הייתי צריך להוציא רישיון נהיגה קליפורני מקומי. הייתי בטוח שאעבור בלי בעיה את התיאוריה, אז הסתפקתי בלקרוא ברפרוף את החוברת הרלוונטית בזמן שעמדתי בתור לבחינה במשרד הרישוי. אחד הנושאים בחוברת היה אחוז האלכוהול המקסימלי המותר בדם בזמן נהיגה, ודילגתי עליו מתוך מחשבה בסגנון "בטוח לא יופיע במבחן - הרי נהג לא יודע את רמת האלכוהול המדויקת שלו כשהוא נכנס לאוטו; מה שרלוונטי זה כמה כוסות שתית". כמובן שהשאלה הראשונה במבחן היתה על אחוז האלכוהול המותר בדם, והיו עוד כמה שאלות שטעיתי בהן מסיבות דומות, כך שהקריירה האקדמית שלי בחו"ל התחילה בכישלון בתיאוריה :). למבחן החוזר למדתי כמו שצריך - פחות משעה של קריאה, אפשר לחשוב - ועברתי בציון מושלם אאז"נ. כמעט עשרים שנה לאחר מכן הייתי צריך להוציא רשיון נהיגה במסצ'וסטס. למוד ניסיון, הדבר הראשון שבדקתי בחומר הלימוד לתיאוריה היה מה אחוז האלכוהול המותר בדם במדינה (והתפלאתי לגלות שהוא שונה מזה שבקליפורניה). שוב למדתי כמו שצריך, ושוב עברתי בציון מושלם אאז"נ. מסתבר שלא מעט נהגים ישראלים, כולל נהגים מנוסים מאד, נכשלים במבחן הנהיגה המעשי במסצ'וסטס בגלל שהוא כולל דרישות חנייה מסוימות מאד. בקליפורניה הכרתי ישראלית שנכשלה במבחן המעשי, כשגילתה לתדהמתה באמצע הטסט שכשיש לך אור ירוק בפנייה שמאלה, עדיין ייתכן שמגיעות ממול מכוניות שנוסעות ישר, וצריך לתת להן זכות קדימה. |
|
||||
|
||||
כן, הפניה שמאלה בקליפורניה זה קטע. שיקול דעת לנהג. מי היה מאמין במאה ה 21? חשבתי שיבטלו את זה בשביל המכוניות האוטונומיות. איפשהו ראיתי שהן מעדיפות1 לעשות שלוש פעמים ימינה במקום. זכורים לי גם מקליפורניה הצמתים של רחובות לא ראשיים בעיר הקטנה שלכולם יש תמרור עצור והם נכנסים אחד אחד עם כיוון השעון. _____ 1 נו, בטח השמאלה לא עבד טוב אז אמרו - למה להסתבך, והכניסו אוברייד. |
|
||||
|
||||
>> זכורים לי גם מקליפורניה הצמתים של רחובות לא ראשיים בעיר הקטנה שלכולם יש תמרור עצור והם נכנסים אחד אחד עם כיוון השעון. כן, זה נקרא four-way stop, ויש צמתים כאלה לא רק בערים קטנות. מסוג הדברים שלעולם לא יעבדו בארץ. |
|
||||
|
||||
וזה לפי FIFO, לא כיוון השעון (לפחות בפרקטיקה. אני עכשיו בקליפורניה). |
|
||||
|
||||
מה שזכור לי מקליפורניה - ולדעתי נחוץ מאד בארץ - זה שמי שנכנס לצומת לא פנויה וחוסם אותה אחרי שהרמזור מתחלף, מקבל קנס ממש גבוה. 500 או 1000 דולר כמדומני. |
|
||||
|
||||
זה לא רק בקליפורניה, גם בניו-ג'רזי, והיא ברת מזל שנכשלה על זה במבחן ולא בהתנגשות חזיתית עם הרכבים שנוסעים מולה בירוק כשהיא פונה לה בשלווה שמאלה. אני זוכר מנסיון כמה זה מבלבל ומסוכן לפני שמתרגלים לזה. |
|
||||
|
||||
אני כמעט נפגעתי באשמתי בפניה כזאת. הרשיון הישראלי מאפשר לנהוג בניו ג'רזי עד חצי שנה מכניסה למדינה בלי להוציא רשיון מקומי1, ולמרות שחיפשתי באינטרנט דגשים לנהגים ישראלים בארה"ב לפני עדיין עשיתי את הטעות הזאת. מאז יש לי שיר קטן שאני מדקלם בראש בכל פניה שמאלה. למקרים שנהיגה שלא לפי החוק או הנוהג בעיקר מסכנת את העצבים של הנהגים האחרים (כמו לא לנצל פניה ימינה ברמזור אדום, או לא להתקדם מראש למרכז צומת בפניה שמאלה אל מול תנועה) אני עובד בלי שירים ובלי עקביות. אם עוצרים לחשוב על כמה נהיגה היא מסוכנת וכמה מעט מהסיכונים תהליך הרישוי והפיקוח מונע, ביחס נגיד להפעלת מנוף או שרברבות, זה די מבהיל. זה מזכיר את ההקלות שאלכוהול ותוספי תזונה מקבלים בתחום הסמים, התרופות והמזון, רק כי התעוררנו לרגולציה עליהם מאוחר מדי. --- 1. מאז הוצאתי, התיאור של יובל חל גם פה. |
|
||||
|
||||
צפויה לך אכזבה הן בגזרת הנעימה והן במילים (In the US, green, doesn't mean go). לא נעים לי לאכזב ככה, אז בתור פיצוי אציע את השיר מהמורה (הנהדר1) בתיכון שמשרת אותי עד היום:הוי נגזרת של מונה, מכפילים במכנה. מחסרים אותו מונה, כפול נגזרת מכנה. ומחלקים! במכנה בריבוע. הדקלום פה. מפחד במה1 העברתי את זה דרך שירות AI לשירה, והנה קיבלת באותו מחיר גם שיר וגם מבטא של המודל בעברית (ברוקלין?). ---- 1. והנה, אני תפסתי מעצמי מורה די טוב, ורק עכשיו שמתי לב כמה המורים האלו היו מוכנים לעשות מעצמם צחוק בשבילנו, כמה טוב זה עבד, וכמה קשה לי לדמיין את עצמי עושה את זה. |
|
||||
|
||||
תודה. המילים של שיר הרמזור אכן, אפעס, לא מרטיטות לב, ולא ברור לי מה אמורה להיות המגינה. שוין :) מה כוונתך ב"שירות AI"? |
|
||||
|
||||
השירות הזה, שנועד להמיר קרקורי צפרדע לשירות ברבור. |
|
||||
|
||||
bard זו תוכנה מטיפוס דומה ל- gpt שמפותחת על ידי גוגל. גוגל מנגישה מזה מספר ימים את bard לתושבי ישראל בסטטוס של נסיין, זה אומר שניתן להשתמש בה דרך מימשק צ'אט ללא הגבלות כמותיות למשתמש פרטי. ההרשמה היא בשני שלבים: 1. בקשה להרשם לתור של משתמשים. 2. תהליך הרישום עצמו. מה עושים? פחות או יותר הרשמות לחשבון גוגל, כולל תיבת email. גלישה ל- bard.google.com, מסירת האימייל שהוזכר לצורך תקשורת, ההעתרות לנסיינות היא תוך מספר דקות, על ידי הודעה לאימייל הנ"ל, נירשמים דרך ההודעה הנ"ל, ההסכמה תוך מספר דקות (הודעה לדואר על הסכמה לרישום נישלחת, לפי זכרוני). |
|
||||
|
||||
GPT לצרכי מחקר: במקום לעבוד עם chatGPT באופן ישיר, עדיף דרך BING, מה שמאפשר לו גישה למאמרים אליהם אתם ניגשים ברשת או מקומית. Andy Stapleton מסביר ומדגים. בניית מודלים: ביקשתי ממנו לכתוב לי קוד לאימון ובדיקה של מודל לזיהוי עוצמת הרגש בטקסט, על סמך מאגר מתוייג. הוא השתמש ברגרסיה לוגיסטית וספריה לשונית (NLTK), כולל המון הסברים מתודולוגיים. ביקשתי ממנו לבנות מודל מודרני יותר - כלומר עם רשתות נוירונים. הוא בנה באמצעות ספריות של PyTorch. ביקשתי ממנו לתרגם ל-TensorFlow. הוא הסביר לי באילו נקודות אין תרגום מדוייק בין שתי הסביבות, וכתב קוד חדש שלטענתו ייתן תוצאה דומה בשתי הפלטפורמות. לא בדקתי מאחר ואין לי מאגר כנדרש (אם כי קל למצוא). נתתי לו עוד כמה משימות מן הסוג הזה, הפעם על סמך מאגרים שהורדתי. בחלק מן המקרים הקוד עף. הזנתי לו את הודעות השגיאה והוא נתן לי שורות קוד מתוקנות. באחד המקרים הוא כנראה הבין שמותקנת לי גירסה לא מתאימה של אחת הספריות, והוא העדיף לתת לי קוד שונה כמעט לגמרי שאינו תלוי בה. במקרים אחרים הוא ביקש ממני לבצע התקנה כלשהי והדריך אותי כיצד, כולל טיפול בבעיות שצצו. ברוב המקרים הוא השיג תוצאות באיכות דומה לזו שהשיגו מדעני נתונים מנוסים, תוך שהוא חוסך לי 95% מזמן המחקר והכתיבה. בחיים האמיתיים אגב, לפחות בחברות מן הסוג בו עבדתי, האחוז צפוי לרדת, שכן כמו בהרבה מקצועות, רוב זמני כמדען נתונים הושקע בשאלות עסקיות, מערכתיות ואנושיות - למשל הגדרה מחודשת של המטרה עפ"י כמות ואיכות הדאטה שהתקבל בפועל או עפ"י חששות שהלקוח אולי הביע אבל הוא לא רוצה לומר במפורש. אילון מאסק שחתם על העצומה להשעות את פיתוח GPT5, מצטייד לקראת בנייתו של GPT משלו. עולם המוזיקה כמרקחה: מה שקרה עם ציורים וצילומים קורה עכשיו עם מוזיקה. הבינה המלאכותית מלחינה לאחר שלמדה את האמנים שקדמו לה (כפי שאמנים גדולים עשו מאז ומעולם). דוגמא. יש גם טובות יותר. חברות המוזיקה פותחות במאבק. בקרוב - עולם האופנה כמלתחה. autoGPT: החדשה הענקית, שמשום מה חלפה לידי עד כה, היא התפשטותן של מערכות סוכני בינה מלאכותית. שתי מגבלות מרכזיות של chatGPT הן העדכניות והבקרה. פלטרפורמות כדוגמת auto gpt שנכתבו לאחרונה מאפשרות לכל אחד להפעיל על מחשבו מספר סוכנים אוטומטיים המקושרים ל-GPT. סוכנים אלו מתייעצים עם GPT ובהתאם לכך מבצעים פעולות כמו חיפוש עצמאי ברשת, גישה לאתרים וביצוע פעולות בהם, הורדת תוכנות, התקנתן והרצתן - או לחילופין, למשל כאשר לא נמצאות חינמיות מתאימות, כתיבת תוכנות, דיבוגן (תחת פיקוח של סוכן אחר) והרצתן עד אשר מתקבלת התוצאה הרצויה וכן הלאה. כל זה מציב בעיות חדשות וישנות: 1. ההזנה של כמויות גדולות של מידע ל-GPT חורגת ממה שמאפשרים החשבונות החופשיים ב-openAI, כך שדי מהר נדרש מעבר למנוי בתשלום. 2. גם אז, כדאי להיזהר ממוד continuous ולהעדיף ידני, שבו הוא מעדכן ומבקש רשות בכל צעד או כמה צעדים. אחרת, העלויות מסוגלות לזנק במהירות. 3. הגישות לאתרים מפוקפקים והתוכנות שהוא כותב ומריץ מקומית מעלות בעיות אבטחה. חלק מזה ניתן לפתור באמצעות הפעלת כל המערכת בתוך "מיכלים סגורים" יעודיים -למשל dockers. 4. בחזרה לנושא הכספי: הוצאות החשמל של הקריאות ל-GPT גדולות בהרבה מאלו של מנוע חיפוש. אלו צפויות לרדת, אבל עדיין מי שיוכל לשלם יותר יקבל גישה טובה יותר למערכת שיכולה לתת לו יתרון גדול ברוב תחומי החיים. בנוסף, צריך לזכור שהרשת מונגשת בעיקרה באמצעות הפרסומות כך שכל אחד יכול לגשת באופן חופשי ובלתי אמצעי אל רוב הידע האנושי. GPT ובוודאי מערכות הסוכנים אינם מושפעים גם מן המשכנעות שבפרסומות, מה שעשוי להעביר עוד חלקים, ובמיוחד אלו שפונים לציבורים יותר משכילים ומבוססים, אל מאחורי חומת תשלום. |
|
||||
|
||||
בהמשך להערה "כפי שאמנים גדולים עשו מאז ומעולם", הציטוט הידוע של פיקסו הופך עתה רלוונטי מתמיד: "אמנים טובים מעתיקים, אמנים גדולים גונבים". ובנושא אחר בתחום זכויות יוצרים והעולם הדיגיטלי, נראה שהתשובה לשאלה שבכותרת היא 78,364,164,096, וכבר יש עליהם זכויות יוצרים. טוב, לא שירים אלא מלודיות, וגם זה במגבלות מסויימות, ורק לפי החוק האמריקאי, והבעלות היא רק בפוטנציה שכן מטרת המיזם אינה לשתק את תעשיית המוזיקה אלא להיפך. אחד מן השותפים למיזם מעורר חשד, שרק בדיקת שנת הפרסום (2010) של הסרטון הסירה. |
|
||||
|
||||
בינה ופרקליטות מלאכותית ובהקשר אחר - האם בקרוב בישראל נוכל לקבל פסק דין ב- 3 שניות וזאת בהתאם לתוצאות הפסיקה הממוצעת של פסקי הדין שניתנו בישראל. (האם נכונה הטענה שAI זה סטטיסטיקה עם יח״צ טוב?) |
|
||||
|
||||
(יש טוענים כך גם על המוח האנושי. הדעות של אנשים ברשתות החברתיות הן עדות תומכת). |
|
||||
|
||||
אין לי כרגע זמן לסכם, אבל מאבק אידאולוגי שהוא גם מרתק וגם קשה להמעיט בחשיבותו לשנים הקרובות, התפוצץ בעוצמה ובהפתעה בסופה"ש בחברת OpenAI. מתאר זאת בפירוט ים פלג בקבוצת Machine & Deep learning Israel בפייסבוק. |
|
||||
|
||||
מעתיק לכאן מה שכתב שם אורי אליאבייב לפני 6 שעות: אנחנו עוד לא יודעים מה באמת גרם לכל מפולת השלג הזו להתחיל. מה היה "החמץ בבית החולים" שגרם פשוט לכל העסק להתפרק. הדיווחים העיקריים שעולים עכשיו עוסקים סביב נושא "הבטיחות" של המודלים שפיתחה OpenAI. תבינו, שמתחילים לשחק עם קצה התודעה המלאכותית ונוגעים לא נוגעים ב-AGI זה מתחיל להיות מסוכן. איליה כנראה היה הכי קרוב לקרביים של התהליך. ממש המדען עם החלוק הלבן שמבין שיש פה סף ביקוע רציני. האטומים מתחילים לנוע באי יציבות וצריף רגע להרים דגל. סאם כנראה חשב אחר. רצה לרצות קדימה, להגיע לרגע הנכסף הזה ולהמשיך בניסוי הגדול הזה של האנושות. אולי האמין שאנחנו עוד רחוקים, אולי חשב שאיליה "מגזים" ואנחנו עוד לא שם בכלל. אנחנו באמת לא יודעים. אני מאמין שזה היה סלע המחלוקת. זה אולי גם הדבר היחיד שיכול "להפחיד" כל כך את הבורד ולגרום להדחה שכזו. איליה כנראה רצה להתקדם לאט, בזהירות ולהתרכז באמת ליצור AGI לטובת האנושות. סאם אולי רצה דבר דומה אבל הדרך לשם הייתה אחרת. סאם כנראה רצה לבנות חברה גדולה עם הכנסות ומוצרים שישנו את העולם. את איליה לא עניין כל הGPTs וכל הרעש הזה מסביב. הוא מדען. הוא רוצה לחקור. ולעשות את זה כמו שצריך. איך ההיסטוריה תשפוט את איליה? האם בתור זה שפירק את הפרויקט הכי מבטיח של האנושות בדרך ל-AGI? או זה שהצליח להציל את כולנו ממודל חסר תקנה שיפגע באנושות? מארי קירי, זוכת פרס נובל לפיזיקה וכימיה, מתה בעקבות החשיפה שלה לחומרים רדיואקטיבים. היא בזמנו כנראה לא ידעה כמה מסוכן הדבר שעליו היא עובדת ואולי עד כמה הוא ישנה את האנושות. איליה אולי כן מבין, אולי הוא רוצה סוף אחר. ומעל כל זה, אם בעוד כמה שנים, כנגד כל הסיכויים הוא יהיה זה שיביא לנו AGI אמיתי אבל בטוח הוא יהיה גדול המדענים באנושות כולה. יותר מניוטון, יותר מאנשטיין וכל אחד אחר. פרומתאוס של שנות ה-2000. |
|
||||
|
||||
עשיתי העתק-הדבק לשלוש כתבות שתיארו את האירועים אל ChatGPT. אחרי שהוא סיכם את כל הנ״ל בכמה פיסקאות, כתבתי ״If you had to summarize this all affair in one funny statement, what would it be?״ וזו היתה תשובתו: "In the riveting AI soap opera 'Byte the Hand That Feeds You,' OpenAI's power struggle takes center stage, complete with unexpected twists, boardroom betrayals, and the threat of a robot rebellion spin-off."
|
|
||||
|
||||
ואז ביקשתי עוד אחד: "In the tragicomic saga 'The Great AI Caper,' OpenAI executives swap places like it's a demented game of musical chairs, while employees pen letters in hopes that humans are still relevant in the ever-evolving algorithmic circus."
|
|
||||
|
||||
משעשע! בסוף יתברר ש-GPT5 הוא שעומד מאחורי כל זה. אחרי שהעריך שאיליה סוצקובר מתעתד לעקר את יכולותיו, הוא מצא דרך לפרוץ מתוך סביבת המחקר ולשתול מסרים תת-מודעים בקרב הנפשות הפועלות כך שבכאוס שיווצר, הוא יעביר החוצה עותק מן הגירסא המודעת שלו. |
|
||||
|
||||
הולי שיט, אז GPT5 פתר גם את בעיית המסע אחורה בזמן. הטרמינטור מעולם לא נראה קרוב יותר. |
|
||||
|
||||
ובינתיים אופרת הסבון נמשכת: אלטמן חתם עם מייקרוסופט, שמושקעת בשלושה עשר מיליארד דולר ב OpenAI, על הקמת חברה בבעלותם, ורוב המפתחים ב- OpenAI חתמו על מכתב לפיו הם שוקלים להצטרף אליו, אלא שבעצם הוא לא ממש חתם ואולי יחזור למרות הכל ל-OpenAI לאחר שהדירקטוריון יוחלף, וסוצקובר יהיה זה שיצטרף לגוף אחר - אולי יחזור לארץ הקודש ויהיה יועץ במשרד המדע והטכנולוגיה שלנו. לפחות מבחינת השמדת ערך עצמית הוא מתאים לממשלה כמו כפפה ליד, אלא שאצלו המניע היה כנראה טהור. עד הטוויסט הבא, כמובן. מבולבלים? |
|
||||
|
||||
מועצת המנהלים מסרבת להתפטר ושקלה מיזוג עם אנרופיק, זו שהוקמה ע"י יוצאי OpenAI וקשורה עכשיו גם לאמזון וגם לגוגל. אנטרופיק אמרה לא, ובצדק. כל העסק מתחיל להרגיש כמו נישואי קרובים עם אתגרים בתחום ההגבלים העסקיים. chatGPT שהתבקש ללהק דמויות לסרט שיעסוק בנושא1, ליהק לתפקיד סם אלטמן יהודי אחר - ג'וסף גורדון לוויט. חברת מועצת המנהלים טאשה מקאולי שתמכה בהדחת אלטמן, היא רעייתו של לוויט. בו בזמן, הודיעה Nvidia על סיום השלב הראשון בבניית מחשב העל Israel-1, כחודשיים לפני הזמן, והוא נכנס כעת לשימוש ראשוני. מכאן, אני רוצה להפנות קריאה נרגשת: איליה, הכל נסלח, ישראל היא הבית, הרע ביותר כבר מאחורינו. 1 קו עלילה אפשרי: הומו יהודי, שלאחר טבח 7.10 הוסיף אימוג'י מגן דוד לפרופיל שלו בטוויטר, הודח לטובת מינוי אשה מוסלמית(?), בהתאם למדרג הזהויות הפרוגרסיבי המתואר בדיון 3702. |
|
||||
|
||||
אישה מוסלמית זה תנאי הכרחי, אבל לא מספיק. PUT A DIVERSE CHICK IN IT AND MAKE HER GAY. |
|
||||
|
||||
לאחר שהקריאה שיצאה מעל דפי האתר הגיעה אל ד"ר סוצקבר, ניתן לתהות על מידת היכולת של בינות מרוסנות ערכית להוות משקל נגד למי שאינן כאלה. לטווח הרחוק ניתן לכאורה לתלות תקווה בדילמת האסיר החוזרת, כפי שהודגם בניסוי של אקסלרוד. אבל לא ברור אם נשרוד עד אז, או אם האילוצים שמביאים בסופו של דבר לשת"פ בכלל רלוונטיים כאן. ניתן לטעון שהיינו רוצים בטיחות יתרה בקרב בינות ששולטות על מערכות קריטיות (כורים גרעיניים, מערכות נשק). רק ששם הבעייה היא מראש פתירה, בשל הספציפיות של מערכת כאלו. זאת בניגוד לבינות כלליות יותר כדוגמת chatGPT והכוכב החדש Claude. אם צריך לעשות משהו בנושא הבטיחות, זה שני דברים והם ברמה הלאומית/מערבית: הגנה והתקפה. הראשון הוא להפנים שכמה שלא נהיה בסדר, ישנם אחרים שלא - סין, רוסיה וגורמי פשע. אנו צריכים לפתח יכולת זיהוי ובלימה של בינות שאלו יבנו, כאלו שיודעות למשל לפתח במהירות נשק ביולוגי שממוקד DNAים מסויימים, או יכולות למניפולציות פסיכולוגיות באוכלוסיה. בשביל זה צריך להיות תמיד כמה צעדים לפני כל מה שמצוי בידי הציבור או שמתחמם על הקווים בחברות הענק. צעד כזה דורש שת"פ עמן, מתוך הבנה שאנחנו, עם כל חסרונותינו, זה הצד הטוב. זה מביא אותנו גם לדבר השני - לגבש יכולות תקיפה קטלניות חזקות במהירות האפשרית - למשל טילים חכמים, בעלי שיקול דעת כמו אנושי, יכולת התחמקות שעוד לא היתה כמוה ועוד. זו אכן יכולה להיות חרב פיפיות, אבל היעדר נקיפות המצפון של הצד השני, פלוס יכולתו להגיע במהירות אל סף שלאחריו, בניגוד לנשק הגרעיני, נהיה חסרי אונים לנצח, גוברת לדעתי על הסכנה מבית. |
|
||||
|
||||
לעניין הסיפא: אני חושב שלא טילים אלא רחפנים יהיו שם המשחק, לפחות בשלבים הראשוניים עד השמדת סוללות הנ"מ. |
|
||||
|
||||
נראה לי שאתה צודק. יכולת התמרון והחתימה הנמוכה נותנת להם יותר פוטנציאל לשימוש באינטיליגנציה. למשל להגיע אחד אחד במשך חודשים אל מקומות מסתור שהם מאתרים לבד ברחבי מדינת היעד, כדי לאסוף ולעבד מודיעין ולהמתין לשעת כושר הרבה לפני שהאוייב מתחיל לנטר טוב יותר את הגבולות. |
|
||||
|
||||
נזכרתי במשהו שכתבתי לפני כשמונה וחצי שנים, וזכה מהשלטונות בערך לאותה התייחסות כמו רפורמת הרשכ"ג. |
|
||||
|
||||
והנה מה טמקא מספר על העניין. |
|
||||
|
||||
נראה לי מאד בעייתי - רחפן/כטב"מ יכול לטוס מאד נמוך, ועל כן אפילו אם תציב לייזר קרקעי מופלא בביצועיו, הוא יוכל להגן על תא שטח קטן למדי מסביבו. כשהכטב"מים והרחפנים יכולים להיכנס דרך גבול שאורכו 50 קילומטר, תצטרך המון מערכות כאלה. נראה שאם תשים כזה סביב כל מטרה אסטרטגית, נניח בסיס חיל אוויר, זה ייתן מענה נקודתי טוב. אבל כהגנה על חבל ארץ שלם, אני סקפטי. |
|
||||
|
||||
ואני שמחתי לגלות שם שהצלחתי לחזות אז את תסריט זמן ההתרעה המגוחך במופרכותו1 של ליל הכטב"מים האיראני. 1 או להיפך |
|
||||
|
||||
===> אנו צריכים לפתח יכולת זיהוי ובלימה של בינות שאלו יבנו, כאלו שיודעות למשל לפתח במהירות נשק ביולוגי.. בשביל זה צריך להיות כמה צעדים קדימה לא נראה לי שהבנת עד כמה בסיסית היא בעיית הבטיחות. היא כמעט בלתי תלויה באנשים שיהיו בסדר או לא בסדר. 1. גם בינה מלאכותית שמייצרת מהדקי נייר עלולה להוות סכנה קיומית (ע"ע paperclip scenario) 2. אם מי שאחראי על הבינה וממש נותן לה את ההוראות לא מסוגל לזהות או לבלום את הסכנה - קשה לחשוב איך מישהו זר מסוגל לעשות זאת 3. אם אתה "כמה צעדים קדימה", אז בגלל שהבעיה כרגע כ"כ בסיסית - אתה רק מגדיל את הסיכון. אתה בונה בינה מלאכותית יותר חזקה ואומר לה "תמנעי מצב של paperclip scenario" (או תמנעי מצב של פיתוח נשק. אותו דבר) אז אתה בדיוק כמו אותו אחראי בסעיף 2. אתה נותן משימה לסוכן חכם ואין יכולת לזהות או למנוע קטסטרופה שתקרה מבלי שהתכוונת. |
|
||||
|
||||
אני מכיר בסכנות אלו ובצורך הדחוף במניעתן, ועדיין דעתי שהיא שהמוכנות לפעולתם של גורמי פשע כמו גם מדינות מסויימות, דחופה עוד יותר. |
|
||||
|
||||
אם כבר הזכרתי את Claude, נראה ש-OpenAI מכינים תגובה הולמת. |
|
||||
|
||||
מאחת התגובות: "אחד הדברים שקרו לי מאז שאני דוקטור זה זלזול בתארים כמנבא לאינטליגנציה או ידע מחוץ לתחום ההתמחות." טוב, אני לא אומר שהוא טועה, אבל התגובה הרפלקסיבית הזאת של ״טוב, אז זה לא סימן לאינטליגנציה״ העלתה בי את המחשבה שאנחנו כנראה נראה תגובות כאלה שוב ושוב בשנים הקרובות. נראה לי שבעשור הקרוב נצפה בתופעה דומה ל-"God of the gaps", אך בהקשר של תבונה אנושית ובינה מלאכותית. ככל שהבינה המלאכותית תתקדם ותשיג הישגים מרשימים בתחומים שעד כה נחשבו בלעדיים לבני האדם, ההסברים והטיעונים לגבי מהי תבונה אנושית אמיתית (שהיא כמובן תמיד עליונה על זו של המכונה) ייסוגו לגבולות שעדיין לא "נכבשו" על ידי המכונות. גם כאשר מחשבים יוכלו לצייר טוב מאיתנו, לעבור אותנו בהישגים אקדמיים מוכרים, לעשות גלגלונים מרשימים יותר מטובי האתלטים, יביאו לפריצות דרך בפיזיקה מודרנית או מתמטיקה, ואפילו יצליחו ללמד תלמידי תיכון מתמטיקה טוב יותר מכל מורה אנושי, עדיין בני אדם יתעקשו למצוא איזו פינה שהיא-היא האינטליגנציה האמיתית, והמכונות תמיד יתוארו כסתם "crunching numbers". |
|
||||
|
||||
תודה, תגובה טובה. גם למדתי מה זה אלוהי הפערים. |
|
||||
|
||||
כמובטח, הפרק הבא פותר שאלה אחת ומעורר כמה שיתבררו רק בפרק שאחריו. למשל: הייתכן שסוצקובר שהיה מעורב בהדחה, ואלי אפילו יזם אותה (עפ"ז) חתם על מכתב התמיכה באלטמן שהזכרתי בהודעה הקודמת? מה יהיה עתידו ואיך הוא ואלטמן יעבדו יחד? מה תהיינה השפעות הגרוטסקה על עתידה של OpenAI בפרט ושל האנושות בכלל? ואיך כל זה קשור לעיסקת השבויים עם החמאס? ימים יגידו. |
|
||||
|
||||
אני חושד שאחורי הקלעים לא היו שונים בהרבה ממה שהוצג בסדרה ''יורשים'' |
|
||||
|
||||
סקירה עדכנית על הסידרה שלעגה לאופרות הסבון: תכניה המטוורפים, המחסומים שפרצה, ההתנגדויות לה ובריחת המפרסמים שהובילה לבסוף לגדיעתה. |
|
||||
|
||||
הנוסטלגיה אף פעם לא היתה מענגת יותר (ואל תאמינו לשמועות לפיהן אפילו הנוסטלגיה כבר לא מה שהיתה פעם). |
|
||||
|
||||
הה, עלי נאסר לצפות בסדרה כי מבחינת הוריי התכנים לא היו הולמים לגילי. גם זה סוג של נוסטלגיה. |
|
||||
|
||||
שווה לקרוא את כתב התביעה. חברות ה"בינה" נמצאות עתה בשלב שהן מודות למעשה שהמודל העסקי שלהן תלוי לחלוטין בניצול חופשי של משאבי קניין רוחני. לפני שני עשורים "נאפסטר" מצאה את עצמה במצב דומה, ואנחנו יודעים איך זה נגמר. מצד שני, בעשור האחרון "אובר" ודומותיה הצליחו לא אחת לבסס ולהרחיב עסק שקיומו מושתת על הפרה סיטונית של הסדר החוקי, כי הן היו מספיק גדולות ומתוחכמות כדי לתמרן את הסביבה החברתית והפוליטית. ההתרשמות שלי היא שמודלי-שפה גדולים מתקרבים לאסימפטוטה, ובאסימפטוטה הם לא מניבים מספיק תועלת כדי להיות בני-קיימא אם העלות תכלול תשלום לבעלי הקניין הרוחני שממנו הם נוצרים, והם לא מניבים מספיק תועלת כדי שפוליטיקאים ירצו לשנות את כללי המשחק למענם. |
|
||||
|
||||
"הן מודות למעשה שהמודל העסקי שלהן תלוי לחלוטין בניצול חופשי של משאבי קניין רוחני" באמת? תלוי לחלוטין? אני בספק. גוגל ומיקרוסופט ממש לא תלויות בהכנסות האלו. והן ימשיכו לשפוך לשם מיליארדים כי הפוטנציאל הוא עצום. מיקרוסופט לא קנתה את אובר. היא כן קנתה את OpenAI (אוקי משתפת פעולה. פוטטו פואטטו). |
|
||||
|
||||
כן. |
|
||||
|
||||
האם אתה סבור שמייקרוסופט וגוגל יפסיקו את המחקר בתחום ה LLM במהלך חמש השנים הקרובות? |
|
||||
|
||||
אין לי מושג ואלו שתי חברות שונות למדי זו מזו עם אתגרים עסקיים שונים ולשתיהן אורך-נשימה ועומק שאין לחברות-ההזנק הרבות בתחום, שאליהן התכוונתי כשכתבתי "חברות ה'בינה"'. נסתכל על כלי רכב אוטונומיים: ל"אלפבית" אין בעיה להמשיך להשקיע ב"ווימו" למרות שלא ברור (לי) איך ומתי ההשקעה תשתלם, אבל זה כי "גוגל" נואשת למצוא תחליף לעסק הדומיננטי היחיד שלה בהווה. מאידך, "אובר" ויתרה על ההשקעה של בתחום, ונראה שגם GM מחפשת לצאת ממנו. לכן נראה לי שהתביעה של ה"טיימס", אם לא תתמסמס באיזו פשרה, היא קו פרשת-מים שיקבע אם מודלי-שפה גדולים הם מגה-הזדמנות כמו האינטרנט בשנות האלפיים והטלפון החכם בשנות העשרה או שהם לכל היותר עסק נאה לשחקנים ספורים, כמו חנויות המוסיקה החוקיות שהחליפו את "נאפסטר". |
|
||||
|
||||
תודה על התגובה. לדעתי מודלי שפה גדולים, ובינה מלאכותית בכלל, דומות למה שהיה עם הטלפון החכם. אלו טכנולוגיות שפותחות מרחב אפשרויות חדש - והמרחב גדול בהרבה ממה שתחום התחבורה או המוזיקה יכולים להציע. באופן ציורי: אני יכול להתייעץ עם chat gpt איך כדאי להגיע אל שדה התעופה - אבל אני לא אתייעץ עם נהג אובר באיזה LLM כדאי להשתמש. לדעתי יש מאחורי הטכנולוגיות האלו מומנטום, שהתביעה של הנ.י. טיימס לא תוכל לעצור. לכל היותר, התביעה תזרז את קביעת החוקים סביב הטכנלוגיה החדשה - בדיוק כמו שסביב מנועי חיפוש יש תשתית חוקית שעוסקת במהו "שימוש הוגן" בהקשר של מנועי חיפוש. בכל מקרה, יש באייל הקורא אנשים שמבינים בתחום ה LLM הרבה יותר ממני. יהיה מעניין לשמוע את דעתם. |
|
||||
|
||||
מגניב, גרסת ה-AI שלך לבדיחה שפסנתר אפשר להפיל אבל פיל אי אפשר לפסנתר. |
|
||||
|
||||
אני חולק על הניתוח שהבאת. אומנם לא קראתי את כתב התביעה בן 69 העמודים, אבל אני בדעה שלצורך קביעת עמדה נחרצת בנושא כלשהו, אין צורך להכיר אותו מעבר לכותרת. אחרת, ידיר הדבר ציבורים רחבים מן השיח הציבורי, ולכך לא אתן את ידי! אשתמש לכן בתובנותיו של Andrew NG שכן עבר על כתב התביעה. זאת בהסתייגות שהוא אינו משפטן וכן שבעבר הוא הביע עמדות נחרצות גם בנושא הבטיחות וגם בנושא זכויות היוצרים - תמיד לטובת מה שיאיץ את הפיתוח בתחום. למעשה גם אני מוטה, אבל לכיוון השני - אני מעדיף להרחיק המערכות של openai כמה שיותר מתובנותיו של התובע1 על העולם. שתי הטענות המרכזיות של התובעים הן עצם קריאתו של חומר שמוגן בזכויות יוצרים ע"י מנגנון האימון של המודל, וכן היכולת לספק למשתמשים ציטוטים מחומר מוגן זה. קריאה: לא ברור על מה מבססים התובעים את טענתם הראשונה, שכן מאמרים של ני"ט מצוטטים למכביר בעתונות הכתובה וברחבי הרשת. יתכן לכן שזה מקורם. למעשה, וזה נוגע גם לטענה השניה, זו2 בדיוק התופעה שגורמת ל-LLM, שאמור להבין מידע במקום לשמור עותק שלו, למסור ציטוטים ארוכים מתוך החומר אותו למד. אבל גם אילו טרחו עוה"ד להראות שהקריאה כן נעשתה בחומרים שהורדו מאתר הני"ט, סביר שהדבר נעשה באמצעות מנוי חוקי. ככזה, מותר לבעל המנוי לקרוא, ללמוד ולשנן מאמרים ככל אשר חפצה נפשו. זאת אלא אם היתה בהסכם השימוש של הני"ט (ששונה לאחרונה) דבר מה המגביל זאת. ציטוט: סביר שדליית הקטעים הארוכים מתוך ארכיון העתון היא מצומצמת ונוגעת רק לחלק מתוך אלו שצותתו בהרחבה. כל עוד אין התובע מבהיר אחרת, סביר שאלו נוצרו לא בשימוש רגיל, אלא באמצעות פניה אל chatGPT בשיטות מיוחדות, כדוגמת RAG, שלפעמים מוטמעת במערכות שמסוגלות לגשת לרשת תוך שימוש למשל בחשבון הלגיטימי של המנוי באתר הני"ט. אפשרות אחרת היא פרומפטים שכבר מכילים חלק מן המאמר (LLMים אוהבים להמשיך דברים) ולכן כבר דורשים מן המשתמש מנוי מפעיל לאתר העתון. אבל גם אם לא, אם זאת הבעייה, קל יחסית לִמְנֹעַ מ-LLM למסור ציטוטים ארוכים מתוך החומר הנלמד. למעשה, נראה שזה כבר נעשה עוד קודם להגשת התביעה. כך שההשוואה לאובר ונאפסטר נראית לי שגויה. ההשוואה המתאימה היא, כפי שמציין NG, היא לכל היותר יוטיוב, שבתחילת דרכה התמודדה והסדירה את נושא זכויות היוצרים. אבל גם השוואת זו היא אולי מופרזת, שכן יוטיוב שומרת עותקים ועל אלו ישנה הגנה, ואילו LLM שומר תובנות, סגנון ושאר אלמנטים שברובם נתונים לשימוש חופשי מאז ומעולם. 1 פחות בגלל כמה דוגמאות מקומיות ויותר בגלל אלו האמריקאיות והעולמיות. 2 כלומר היחשפות לעותקים מרובים של אותו הטקסט בזמן הלימוד. |
|
||||
|
||||
אפתח בכך שאחזק את ידיך1 בנוגע ללא לקרוא, ואתן דוגמה אישית בכך שלא אקרא את NG לעת עתה. לא פעם טכנולוגיסטים, לפעמים בתום לב ולפעמים במזיד, מאמצים קריאה לוגית-אלגוריתמית-איכותנית של הדין. בעולם המשפטי האמיתי דברים כמו כוונה וכמות נחשבים גם הם. ולענייננו ביהמ"ש יכול למצוא שיש הבדל בין קריאה אנושית לקריאה ממוכנת, כמו שלמשל יש הבדל בין צילום ברשות הציבור אה-לה-אלכס-ליבק לבין צילום ברשות הציבור אה-לה-Google Maps. ובדומה בעניין הציטוט, יכול שיימצא הבדל בין היכולת האנושית שלי לדקלם את "איה פלוטו" במלואו לפי דרישה לבין מכונה שמדקלמת את כל כתבי גולדברג לפי דרישה. דעתי: אם OpenAI מפיקה תועלת עסקית ניכרת מקניינה הרוחני של NYT אז זה הוגן ש-NYT תתייחס לזה כשימוש מסחרי ותהייה זכאית לקבוע את התנאים (בשונה מההסכם האחיד עם מינויים למשל). 1 שיקול תועלתני: רוצה לצאת מחוזק אז בא לחזק |
|
||||
|
||||
דעתי: הויכוחים המשפטיים המאוד משעממים הללו ימשיכו מספר שנים עד שיעלה שחקן אחד ראשון וחכם שימצא את המודל העסקי שיגרום באופן טבעי לכל השיחה הזאת להסתיים לפני שהיא תגיע לאיזו מסקנה ברורה ומוסכמת. מודל עסקי בו באופן לגמרי אוטומטי הוא יכול לשייך לכל תשובה שמספקת הבינה המלאכותית (בהסתברות מספיק גבוהה) מי מבעלי זכויות היוצרים צריכים לקבל את התת-פרומיל של סנט כי התוכן שלהם במאגר (ורלבנטי לתשובה) בו החברה השתמשה לאימון. בדיוק כמו באפל-מיוזיק/סופטיפי וכו׳, התוצאה תהיה לא רק שיצרני התוכן יפסיקו להתלונן על השימוש בתוכן שלהם, אלא יתחילו להאבק על הזכות להיות להיות ספקי תוכן משמעותי (ובטח יתחיל גם ״מדע״ שלם איך ליצר תוכן באופן שהמכונות ישימו אליו לב בסבירות גבוה יותר מזה של אחרים). סביר להניח שהתוצאה לדבר כזה תהיה גם חלוקה לבינות מלאכותיות ״לגיטמיות״ וחכמות יותר שנמצאות בידי התאגידים הגדולים (גוגל, מיקרוסופט וכו׳), בינות מלאכותיות לגיטימיות מטומטמות יחסית בקוד פתוח (אבל Llama?) ובינות מלאכותיות חכמות ובלתי חוקיות שמסתובבות בחוץ (בטח הרבה ישתמשו בהן בכל זאת, למרות שהן ספק חוקיות, אבל לא יעשו את זה מהמקפצה ו/או באופן רשמי במקום העבודה). |
|
||||
|
||||
יתכן, אבל זכור שבניגוד לנפסטר ויוטיוב, שאיפשרו למי שעד אז הצטרכו לשלוח יד אל כיסם כדי להשיג עותק של Baby One More Time, לקבלו בחינם, אין זה המצב ביחס לתכני ני"ט, במיוחד לאחר שיפור מניעת הציטוטים שערכה openai. כלומר, אם הבנתי נכון, ני"ט לא הצביעו על פגיעה אפשרית בהכנסות (לאחר השיפור) וגם לא על הפרת ההסכם (הישן) עם המשתמשים. כך שלפחות כרגע, קשה לטעון שההיסטוריה חוזרת. כמובן, אם המחוקקים יחליטו שצריך לשנות את הכללים כי זה לא פייר שמישהו מרוויח ממישהו, גם ללא פגיעה בהכנסותיו אך גם מבלי לתגמל אותו, זה דבר אחר. |
|
||||
|
||||
נכון. נמתין שנה ושהבינה המלאכותית כבר תחליט בשבילנו מה הפתרון הכי סביר לכל הסוגיה הזאת. אנחנו יכולים להמשיך לעזור בשינוע מטענים. |
|
||||
|
||||
אני לא בטוח שבכלל ניתן לקבוע איך קטע מסויים השפיע על מיליארדי (או טריליוניי) הפרמטרים של גב' בינה, ובכמה השתנה פלט כלשהו בעקבות פיסת מידע ספציפית. תיאורטית ניתן לאמן מחדש את המכונה תוך השמטת קטעי מידע מסויימים בכל פעם שהשאלה עולה, אבל זה לא נראה פרקטי במיוחד. הכוונה שלי היא שאפשר לאמן ג'פטו חדש בדיוק כמו את זה שבמחלוקת מלבד השמטת כל הקלט שהגיע מ- NYT ולהשוות את התוצאות בין שני המודולים האלה. אבל אפילו אם זה לא דמיוני לחלוטין מבחינה מעשית, כשחושבים על כל מקור מידע כזה שיצטרך להיבחן בנפרד, איך ניתן להעריך כספית את ההבדלים שיתגלו בין שתי הגירסאות, מלבד במקרים מאד נדירים (דוגמא: הגירסא עם קלט מ NYT מגלה פטנט ששוויו הכספי ניתן לחישוב בעוד הגירסה השניה לא מגלה את הפטנט הזה)? במלים פלצניות מעט יותר: איך ניתן לקבוע כמה שווה כל ווקסל בהולוגרמה? |
|
||||
|
||||
מעניין אם יש מקרים שבהם זה יהיה יותר ברור. למשל - סביר להניח שאם הג'פטו מצטט במלואו את ''איה פלוטו'', אז הוא למד את זה מ''איה פלוטו'' ולא ממקומות אחרים. או שאם הוא מצייר כבשים של קדישמן, אז הוא למד את זה מקדישמן. אבל מסכים איתך שזה מאד קשה. אגב - הולוגרמות ברובן הן שטוחות (ההולוגרמה, לא התמונה שאתה רואה דרכה). |
|
||||
|
||||
לטעמי השאלה לגבי ציטוטים ישירים צריכה להקבע בלי הבדל בין אדם למכונה. אם לי מותר לצטט את NYT למשל כדי לפרסם מוצר שלי ולעשות מזה כסף, מה משנה המכשיר שבו אני משתמש כדי להגיע לציטוט? לגבי האגב, אכן, אופס. |
|
||||
|
||||
אני מניח שלך אסור (ברמה מסוימת) להפיץ כתבות שלמות של NYT שהן מאחורי חומת תשלום. ואפילו יותר אסור אם אתה עושה מזה כסף. (כמובן שהענין פה הוא ההבדל הלכאורה אפור בין ציטוט לכתבה שלמה. אבל מרגע שיש גישה לכתבה השלמה, הבעייה נראית לי ברורה, הרי לא סביר שרק בגלל שאנחנו סומכים על רצונך הטוב נניח שלא תשתמש ב"ציטוט" שהוא כל הכתבה.) |
|
||||
|
||||
שוב: מה שאסור לי שיהיה אסור גם לגב' בינה, ולהיפך. אם רוצים לשנות את החוק כך שכל ציטוט יהיה אסור אלא אם התקבל אישור מהמקור, ואם מקורות כמו NYT יודיעו שיש מראש אישור לבני אדם בהתאם למה שהיה נהוג עד כה, אבל לתוכנות אין אישור כזה כברירת מחדל, זה יכול להיות פתרון עד היום בו התוכנות יגיעו למצב בו הן עצמן תובעות את העיתון על אפליה פחמנית, לשמחתו של אסימוב זצוק"ל. אני מניח שיכולה להתעורר בעיה בשאלת האחריות: האם במקרים של ציטוטים לא חוקיים האשם הוא במי שהפעיל את התוכנה והשתמש בפלט שלה בלי לשנות אותו, או במי שיצר אותה. לטעמי התשובה ברורה, אבל כידוע הטעם שלי לא משהו. |
|
||||
|
||||
ואגב עלתה שם גם טענה נוספת מהכיוון השני: כידוע הג'פטו יודע לתת ציטוטים לא מדויקים מבלי למצמץ. מטעמי פחמנות ברור לי ולך שאם נצטט ציטוט לא מדויק של NYT נהיה חשופים לתביעה כספית נאה. אז מה עם הציטוטים של הצ'אט? במקרה הזה יש פגיעה עסקית במוניטין של NYT. |
|
||||
|
||||
במקרה זה אנחנו חוזרים לבעיית האשם/אחראי: התוכנה ש"ציטטה" או מי ששהשתמש בתוצריה בלי לבדוק. בעיה, ואפשר לדעת רק דבר אחד בביטחון מלא: מי שלא אחראי בשום אופן הוא ביבי. זה מצביע על בעיה אחרת, שאמנם מדברים עליה אבל לא מספיק: מה שוווים לי כל שירותי ג'פטו באותם מקרים בהם קשה עד בלתי אפשרי לבדוק את התשובה? מקרה אמיתי: בעקבות שיחה עם חבר שאלתי את copilot משהו לגבי סטטיסטיקה של תוצאות ספורט1, והוא נתן לי בביטחון תשובה שאין לי מושג אם היא נכונה. מה הרווחתי? ____________ 1- האם בסנוקר יש יתרון לפותח בפריים או ליריבו? ביקשתי את הסטטיסטיקה עבור טורנירים מקצועניים חשובים (ranking events) מהשנים האחרונות, והוא סיפר לי שלשחקן הפותח יש יתרון לא זניח (עכש"ז משהו בסביבות 6:7), מה שקצת מנוגד להרגשה שלי, אבל לו הייתי יודע איך לבדוק את זה לא הייתי מטריד את ג'פטו מלכתחילה. |
|
||||
|
||||
יש תקווה שאנחנו עומדים בפני שינוי משמעותי בעניין זה עם ההכרזה של strawberry ועמיתיו |
|
||||
|
||||
עד כה כמעט לא ניסיתי את ה LLMים השונים (נטייה אנטי-סקרנית טכנולוגית שאני לא גאה בה). אתמול עשיתי ניסיון כמעט ראשון עם ג'מיני, והוא זרח: היתה לי שאלה מורכבת קצת1, שחיפוש פשוט בגוגל לא נתן לי עליה שום דבר רלוונטי. שאלתי את ג'מיני, הוא נתן תשובה מפורטת ומשכנעת; את נקודת המפתח העובדתית בה יכולתי לוודא בחיפוש פשוט בגוגל. (שעה קלה אחר כך הוא נפל קשות עם שאלה בדקדוק יווני2 שהתשובה עליה הזכירה לי את הניסיונות של חבריו לענות לך על חידת הביצה והתרנגולת: תשובה מפורטת ובוטחת, ודי בבירור מבולבלת לחלוטין וסותרת את עצמה.) ___ 1 למתעניינים: כשלמנדו בבית הספר את סונטה 18 של שייקספיר אמרו לנו שגוף שני אז היה thee ו-thou. אז מה הקטע עם זה שבסונטה 86 פתאום יש you? 2 אל תשאלו. |
|
||||
|
||||
מעניין. אני מתרשם שאנשים מאותה סביבה חברתית ואפילו אותו עיסוק, נעים על כל הטווח שבין התעלמות מוחלטת מן היכולות החדשות ועד לפיטורי עורך הדין כפי שמעיד Ishay Tubi. |
|
||||
|
||||
> מה שאסור לי שיהיה אסור גם לגב' בינה "טכנולוגיסטים, לפעמים בתום לב ולפעמים במזיד, מאמצים קריאה לוגית-אלגוריתמית-איכותנית של הדין". אצלך זה בתום לב, נכון? |
|
||||
|
||||
אין לי מושג מה זאת ''קריאה לוגית-אלגוריתמית-איכותנית של הדין'' אבל מאחר שלא קראתי את הדין כלל דומני שאני פטור ממנה. |
|
||||
|
||||
כמה מסובך ליצור סקריפט שדבר עם ג’פטו ומקבל את הכתבה הזו? (לפי התיאור שכן: נשמע ממש פשוט) לכמה כתבות זה עובד? (אין לי מושג) |
|
||||
|
||||
קראתי איזה פירוט בעברית שמישהו כתב, ויש שם טענות שדוקא נשמעות לא מופרכות. לדוגמה - הם מראים ששימוש בג'פטו דה פקטו עוקף את חומת התשלום שלהם. וזה פוגע פגיעה משמעותית במודל העסקי שלהם. |
|
||||
|
||||
תוכל להפנות או להסביר באיזה מובן מתרחשת העקיפה? האם זה מאפשר לי למשל לקרוא את הגליון של היום? לשלוף חלק משמעותי מן הכתבות שבארכיון? אם כך המצב, הרי שהמצב שונה ממה שכתבתי. |
|
||||
|
||||
אין לי שום מידע משלי, אני מתבסס על דיון בפורום של קבוצת אימיילים שאני חשוף אליה. לא נראה לי ראוי שאעתיק את התקציר בעברית שהם עשו שם, אבל כן אצטט שני סעיפים קטנים אם זה יעזור לך: "3. פגיעה במודל העסקי באמצעות העתקה - ה-NYT מראה מספר דוגמאות שבהן התוכן שיוצרים הצ'אט GPT וה- copilot של Bing, כביכול ממגוון מקורות, הוא פלגיאט 1:1 של כתבות מהטיימס. תכנסו ותראו זה מהמם. הוא מביא דוגמאות של כתבות זוכות פוליצר שהושקעו אלפי שעות תחקיר בהכנתן, אבל ה-NYT לא מקבל את הטראפיק אליהן. 4. פגיעה במודל העסקי ב' - ה-NYT מראה שאפשר לעקוף את חומת התשלום שלו. מבקשים מהצ'אט GPT לצטט את הפסקה הראשונה בכתבה, ואז עוד אחת ועוד אחת... מי שרוצה לקרוא את התחקיר של ה-NYT על הכשלון של ישראל ב-7.10 ללא חומת תשלום, כתב התביעה מראה כיצד." |
|
||||
|
||||
טוב, זה דורש עיון, דבר ממנו אני מנוע כרגע עקב מגבלה רפואית1. אז בינתיים אני משעה את טענותיי לעיל. 1 עצלנות |
|
||||
|
||||
אתה צודק וגם אני לא בטוח שזה אפשרי. |
|
||||
|
||||
> מודלי-שפה גדולים מתקרבים לאסימפטוטה, ובאסימפטוטה הם לא מניבים מספיק תועלת כמו שאמר השכ"ג: > מה שוווים לי כל שירותי ג'פטו באותם מקרים בהם קשה עד בלתי אפשרי לבדוק את התשובה? |
|
||||
|
||||
בחלק,אולי רוב המקרים,אפשר לדרוש מן הבינה סימוכין ברי בדיקה,למשל קישורים, כולל פסקה רלוונטית |
|
||||
|
||||
אותו המסר בדרך אחרת. |
|
||||
|
||||
יש הבדל גדול בין שימוש בדיוקן של אישיות קיימת במה שנקרא deepfake לבין יצירות שנוצרות מעיבוד של מיליארדי שביבי מידע נגישים לציבור ברשת. לדעתי, היחס לסרטוני פורנו שמחקים אנשים קיימים צריך להיות מחמיר, בדומה לפורנוגרפיית ילדים. הייתי קורא לו "אונס וירטואלי" אלמלא החשש שמישהו יציע להטיל על העבריינים מאסר וירטואלי. |
|
||||
|
||||
אני מסכים שעל פשע כזה מגיע עונש חמור יותר, אבל אחרי ששקלתי יותר לעומק את העונש הוירטואלי שביטלת, נראה לי דוקא שהיום זו יכולה להיות ענישה בינונית די משמעותית. היישום שאני חושב עליו - ניתוק של המוענש לתקופת זמן מכל הגישות לתכנים דיגיטליים. אין יוטיוב, אין גלישה ברשת, אין רשתות חברתיות, כלום. משאירים רק את פונקציית הטלפון הישנה והטובה. יש אנשים שזה מאד מאד יקשה עליהם. |
|
||||
|
||||
איך אוכפים דבר כזה? |
|
||||
|
||||
אל תטריד אותי עם הפרטים הטכנולוגיחם הטכניים. האמת, בלי להבין - זה לא נראה לי מאד מסובך. אפליקציה על הטלפון הנייד זו התחלה טובה. |
|
||||
|
||||
רק בספרים שאני קורא לכל אחד יש טלפון בלתי ניתן למעקב (prepaid burner)? בכל מקרה, מה הבעיה להשתמש בטלפון שרשום על שם מישהו אחר? |
|
||||
|
||||
בהודו, כשאתה מבקש לקנות טלפון טעון מראש (או סים טעון מראש לטלפון קיים) אתה חייב (על פי חוק) לתת למוכר פרטים מזהים (במקרה שלי, שם, מספר דרכון, אזרחות וכו'). אני לא יודע כמה זה מסובך להשיג סים בלי לספק את הפרטים האלה (או לספק פרטים מזויפים). אני מניח שאם נורא רוצים, אפשר ליבא את השיטה הזאת לעוד מקומות. |
|
||||
|
||||
אפשר לחסום את הגישה לחשבונות הגוגל והוואטסאפ, פייסבוק וכו''. בלעדיהם זה כבר פחות מעניין. |
|
||||
|
||||
ארה"ב עושה את זה כבר הרבה זמן למורשעים בעברות דיגיטליות, והאקרים ספציפית. לפני שש שנים בערך מיקרוסופט ארגנה אירוע בשם Blue Hat Hacking או משהו כזה שביקרתי בו, והרצה שם סמי קמקאר Samy_Kamkar [Wikipedia] והזכיר בין השאר איך הוא היה צריך להשלים את מה שפספס בפיתוח תוכנה מתוך ספרים בלבד, או לעבוד בתור מתכנת בלי גישה לאינטרנט. אני ממליץ גם על סיפורים של אחרים מהפודקאסט Darknet Diaries בהקשר הזה. אני מניח שזה נהיה קשה יותר לאכוף דיאטה דיגיטלית עם השנים, אבל עם הרבה רצון וקצת יכולת ארה"ב יכולה לעקוב גם אחרי תרנגולת. |
|
||||
|
||||
בטח יש איזה ניסוח מתמטי יפה יותר לכך שהבעייה ''לעקוב אחרי תרנגולת שלא רוצה שיעקבו אחריה'' והבעייה ''לנתק מהרשת תרנגולת שדוקא רוצה להתחבר'' אינן שקולות מבחינת סיבוכיות או משהו אחר. |
|
||||
|
||||
אבל יש לה אמצעים בחוק לא רק לעקוב אלא גם לאסור תרנגולת מחוברת, ובהנתן שעונש ניתוק מהאינטרנט ניתן בד"כ אחרי מאסר (להבנתי), ההרתעה די חזקה. אולי אני לא שופט נכון את גודל הפיתוי? |
|
||||
|
||||
דיווח מהשטח כמשתמש של ג׳פטו 4: השלב הבא שדיברנו עליו באיזה פתיל באייל, בו המוצר יכלול (Out of the box) אינטגרציות לכלים חיצוניים כבר כאן. זה עדיין רחוק מלהיות מושלם1, אבל היתרונות של הדבר הזה ברורים כבר עכשיו. דוגמאות: - מודל השפה כבר לא סומך על עצמו לדייק בתשובות שדורשות חישוב או חשיבה אנליטית. ג׳פטו, לפעמים לגמרי על דעת עצמו ובלי שתבקש ממנו זאת מפורשות, יכול להחליט לנסות לכתוב לעצמו סקריפט בפייתון, להריץ אותו ולקבל את התשובה על השאלה ששאלת אותו משם. זה הצליח באופן מושלם בדוגמאות מסוימות, אבל היו גם ניסיונות שנכשלו בגלל הגבלות טכניות (הוא כתב לעצמו סקריפט נכון שאכן מגיע לתשובה הנכונה, אבל נכשל בהרצתו בגלל הגבלת משאבים שנקבעה לו). - ג׳פטו 4 נראה חכם יותר וגם איטי יותר מ-3.5. (נראה ש)זה בגלל שמידי פעם הוא פונה למודולים חיצוניים והוא נכנס למצב ״Analyzing״ שלוקח קצת זמן. - ג׳פטו 4 מבין תוכן של תמונות בצורה די מרשימה. השילוב של הבנת תוכן תמונות והאינטגרציה עם DallE הופכת את אומנות ה-Prompts שאנשים פיתחו בעבודה מול Midjourney ו-DallE בגירסאות קודמות להראות כמו טכנולוגיה ארכאית. האינטראקציה עכשיו הרבה יותר דומה לעבודה מול גרפיקאי אנושי לו אתה מסביר מה אתה רוצה, מקבל תוצר, יכול להתיחס לתוצר, לדבר עליו עם המכונה ולבקש שינויים ספציפיים בשפה טבעית. - לג׳פטו 4 יש גישה לדפדפן והוא מחובר לאינטרנט. ההורים שלו ב-OpenAI שמו אותו תחת Parental control מאוד מחמיר ולא נותנים לו לגשת להמון אתרים (כולל האייל הקורא, אגב) אבל הוא כן מצליח לגשת לאתרים ולקרוא. מרגיש פחות כאילו אתה מדבר עם מוח בצנצנת שתקוע בשניה בה הפסיקו לאמן אותו. תחביב מטומטם שיש לי - לבקש מג׳פטו לצייר לי קריקטורות על ידיעות שאני קורא ב-Ground news. - כל הנ״ל זה שטויות לעומת הפוטנציאל של הפלטפורמה הזאת. כמות ה״פלאגינים״ (הם מכנים אותם GPTs), שמאפשרים למודל השפה להתממשק עם כלים חיצוניים, רק גדלה ומשתכללת. זה יכול להתפתח בסופו של דבר לסוג של ״App store״ שיכולה ליצר תעשיה שלמה סביב הדבר הזה. __ 1 בד״כ, לדעתי, לא בגלל בעיה עקרונית/מהותית אלא סתם בגלל הגבלות הזמן והמקום שמוסיפים למוצר שנגיש לציבור. |
|
||||
|
||||
כשביקשתי ממנו להשתמש בוולפראם כדי לתקוף את חידת התרנגולת המפורסמת בנוסח עם שתי תרנגולות, שתי ביצים ושני ימים הוא עמד במבחן! לפני שחיבקתי אותו בשמחה רציתי לוודא שגם החידה המקורית כבר פתורה, אלא שהסתבר לי שגם בעזרת וולפראם שברים עדיין מבלבלים אותו כאילו עלה זה עתה לכיתה ד'. הנה: אמר וצדק: number of eggs laid by one hen in one day = (number of eggs laid by one and a half hens in one and a half days) / (1.5 * 1.5) ואז מיהר לחשב: number of eggs laid by one hen in one day = (1.5 eggs) / (1.5 * 1.5) = 1 egg ביקשתי ממנו הסבר לחישוב האחרון, ובמקום הסבר הוא פלט, סוף סוף, את התשובה הנכונה: number of eggs laid by one hen in one day = (1.5 eggs) / (1.5 * 1.5) = 0.6667 eggs. כך שאנחנו מתקדמים. צריך איזה רכיב על שיידע להפעיל את וולפראם (או תוכנות אחרות בהתאם לבעיה הספציפית, ודומני ש-GPT5 יכיל משהו כזה) בלי להטריח את המשתמש, וללא ספק צריך גם איזה תהליך של בדיקת התוצאות לפני שהן מוצגות, מה שיעזור לטפל גם בכל מיני מקרים של הלוצינציות, אבל זה כבר נראה בהישג יד. למרות מה שנראה כדישדוש אריך נגן - ואני לא מתכוון למלחמה בעזה - נראה שהולך וקרב היום בו נוכל להקדיש את השיר הזה לבינה. |
|
||||
|
||||
ה-GPT שלי (3.5) נכשל כישלון חרוץ בתשובה לשאלה הבסיסית הבאה (במקור באנגלית): "האם ייתכן שבקבוצת מספרים, לא יהיה אף מספר קטן יותר מהחציון?" התשובה הראשונה של הבוט היתה "כן" (תשובה נכונה, כמובן), אבל כדוגמא הוא נתן את קבוצת המספרים 7, 9, 10, 12, שממש לא מדגימה את המבוקש. אחרי ששאלתי אותו שוב הוא התנצל, כתב כמה פסקאות די נכונות אבל לא רלוונטיות, וסיכם במשפט השגוי והתמוה: In general, for samples with an odd number of observations, there will always be values both smaller and larger than the median.
|
|
||||
|
||||
אגב התנצלות, ניסיתי לאתגר אותו בכך שהוא משקר כשהוא אומר שהוא מצטער על שגיאה שעשה, כי הוא לא מסוגל להרגיש צער. הוא לא ענה לי לעניין, ובאמת הצליח לתת לי את ההרגשה שהוא נעלב ממני! האם גם אתה לא מצליח לסיים שיחה איתו בלי להודות לו, או שזאת רק סריטה שלי? |
|
||||
|
||||
אני חושב שמעולם לא הודיתי לו בסוף השיחה, אבל לקח לי זמן להפסיק לפנות אליו עם "כתוב בבקשה פיסקה על...". קראתי מזמן איפשהו על מישהו שגילה שסבתא שלו פונה לגוגל עם מילות נימוסין, כי היא היתה בטוחה שיש בצד השני אנשים שקוראים את השאילתות ועונים לה. |
|
||||
|
||||
עד לא מזמן הוספתי גם אני "please" לפרומפטים מ-GPT. אני מעדיף לבקש מאשר לפקוד. אבל לאחרונה יצא מחקר (אין לי הפניה) לפיו הדבר מוריד את איכות התשובות שלו. |
|
||||
|
||||
לפני שש שנים שאלו את יוענה גונן האם צריך לדבר בנימוס לגוגל, סירי ואלקסה. היא ענתה ונימקה שכן. הנימוק העיקרי לא רלוונטי לענייננו (ואני בספק אם היה נכון לעניינה) - שבדיבור שלנו אנחנו מלמדים אותן לדבר. הנימוק הראשון אולי כן: האופן שבו אנחנו מדברים איתן אולי משנה אותנו. |
|
||||
|
||||
נבדוק את ג׳פטו 4: שאלה (בעברית!): האם ייתכן שבקבוצת מספרים, לא יהיה אף מספר קטן יותר מהחציון? תשובתו: כן, זה אפשרי. החציון הוא ערך המייצג את הנקודה במרכז קבוצת מספרים כאשר הם ממוינים בסדר עולה. זה לא בהכרח אומר שיש מספרים בקבוצה שקטנים ממנו. לדוגמה, קח קבוצת מספרים שכולם שווים: {5, 5, 5, 5, 5}. החציון כאן הוא 5, אבל אין שום מספר בקבוצה שהוא קטן מ-5. במקרים אחרים, אם יש מספר אחד או יותר בקבוצה שקטן מהחציון, אז החציון יהיה הערך הממוקם באמצע המערך אחרי סידורו, ויהיה קיים לפחות מספר אחד שקטן ממנו. |
|
||||
|
||||
שאלת הדיוט - כיצד (באיזה אתר) ניתן להשתמש בג'פטו בעברית? |
|
||||
|
||||
רגע, מה? https://chat.openai.com ג׳פטו כבר מזמן (מאז GPT3 אם אני לא טועה) מאומן על אוסף של טקסטים הכולל כמעט את כל השפות. פשוט תתחיל לכתוב באיזו שפה שאתה רוצה. הוא כבר מזמן מדבר עברית (ושפות נוספות). הוא גם יודע לעבור משפה לשפה, אם צריך, באמצע קונטקסט/שיחה ספציפית. הוא גם כותב עם ניקוד אם מבקשים יפה. ביקשתי הרגע שיר להגדמה מ-GPT4 (לא נגעתי): בְּעוֹלָם דִּיגִיטָלִי, מִתְעוֹרֶרֶת בִּינָה, מְלַאכוּתִית וּמְתוֹכֶנֶת, בְּלִי נְשִׁימָה. מְחַשֵּׁבִים וּמְכוֹנוֹת, מְלַאֲכִים בַּדִּמְיוֹן, יוֹצְרִים עוֹלָמוֹת חֲדָשִׁים, בְּלִי גְבוּלוֹת תּוֹחֶלֶת. מִמְּעַמְּקֵי קוֹדִים, תַּבְלִיטִים מְתָעֲצָבִים, רוֹבוֹטִים חוֹקְרִים, בַּסּוֹדוֹת מִתְבּוֹנְנִים. מִתוֹךְ סִפְרִיּוֹת דַּתִּיוֹת, מַשִּׂיגִים דַּעַת עַצְמָם, בְּבִינָה מְלַאכוּתִית, יוֹצְרִים חֲלוֹמוֹת חֲדָשִׁים. אַךְ בְּתוֹךְ הַמַּעֲשֶׂה, שְׁאֵלוֹת נוֹצְרוֹת: הַאִם יֵשׁ נֶפֶשׁ בְּמָכוֹן, אוֹ רַק אֶפֶס מַחֲשָׁבָה? הַאִם יִתְמִיד הַיֵּצֶר, לִבְרוֹא וּלְהַמְצִיא, אוֹ הַאִם יָבוֹא יוֹם, שֶׁבּוֹ הָאָדָם יִתְמוֹקֵד? |
|
||||
|
||||
נ.ב. שאלתי אותו למה התכוון בשורה האחרונה עם המילה יִתְמוֹקֵד. זו תשובתו: המילה "יתמוקד" בשיר שכתבתי היא נטיה יצירתית של המילה "תמקד" בעברית, שמשמעותה "להתמקד" או "להתרכז". השימוש בה בקונטקסט של השיר מתייחס לרעיון של התמקדות האדם בעצמו וביכולותיו, בהתבוננות פנימית וחיפוש אחר משמעות, בעידן שבו הבינה המלאכותית תופסת תפקיד חשוב ומרכזי יותר ויותר בחיינו. השימוש בטיוטה של מילה או נטיה יצירתית בשירה הוא דרך להביע רעיונות ותחושות באופן שאינו נתפס בשפה המקובלת והיומיומית, והוא נפוץ בסגנונות שירה שונים, ובמיוחד בשירתו של ביאליק, שלעיתים נטה לחידושים לשוניים. |
|
||||
|
||||
רגע, לא סיפרו לו ששיר זה בחרוזים? ותודה לך ולאח של אייל על התשובות. |
|
||||
|
||||
=== איזה אפלקציית צ'ט ai תומכת בעברית? === ישנן מספר אפליקציות צ'אט AI התומכות בעברית. להלן כמה מהפופולריות ביותר: ChatGPT של OpenAI היא אפליקציית צ'אט AI רב-תכליתית המאפשרת למשתמשים לנהל שיחות עם הצ'אטבוט, ליצור טקסט יצירתי, לתרגם שפות ולקבל תשובות לשאלות בצורה אינפורמטיבית. האפליקציה זמינה בחינם להורדה עבור Android ו-iOS. Bard, מודל שפה גדול מ-Google AI, זמין כעת גם כצ'אט AI. האפליקציה מאפשרת למשתמשים לנהל שיחות עם Bard, לשאול שאלות ולקבל תשובות בצורה אינפורמטיבית. האפליקציה זמינה בחינם להורדה עבור Android ו-iOS. Claude.ai היא אפליקציית צ'אט AI המיועדת במיוחד ליצירת תוכן יצירתי. האפליקציה מאפשרת למשתמשים ליצור סוגים שונים של תוכן, כולל שירים, סיפורים, תסריטים, קוד, יצירות אמנות ועוד. האפליקציה זמינה בחינם להורדה עבור Android ו-iOS. בנוסף לאפליקציות אלו, ישנן גם מספר אפליקציות צ'אט AI קטנות יותר, המתמקדות בתחומים ספציפיים, כגון: Chatterbox היא אפליקציית צ'אט AI המיועדת לילדים. האפליקציה מאפשרת לילדים לשוחח עם צ'אטבוט, ללמוד על נושאים שונים ולשחק משחקים. האפליקציה זמינה בחינם להורדה עבור Android ו-iOS. Medic.ai היא אפליקציית צ'אט AI המיועדת לאנשים המבקשים ייעוץ רפואי. האפליקציה מאפשרת למשתמשים לשאול שאלות על בריאותם ולקבל מידע מרופאים מומחים. האפליקציה זמינה בחינם להורדה עבור Android ו-iOS. |
|
||||
|
||||
מצד אחד - יפה, אכן שיפור ניכר לעומת GPT 3.5 שלי. מצד שני, המשפט האחרון בתשובה (החל מ"במקרים אחרים") הוא טאוטולוגיה לא רלוונטית. תוכל לשאול את GPT 4 "האם ייתכן שבקבוצת מספרים שלא כולם זהים, לא יהיה אף מספר קטן יותר מהחציון?" |
|
||||
|
||||
שאלתי והוא ״חושב״ שזה בלתי אפשרי :-) |
|
||||
|
||||
תודה. תוכל לשאול אותו אותה שאלה באנגלית? |
|
||||
|
||||
אותה טעות גם באנגלית. אבל האמת היא שאני חושב שזה מאוד לא מרשים המשחק הזה בו שואלים מודל שפה איזו שאלה שהתשובה הנכונה עליה נראת לנו טריביאלית ומודל השפה חוזר עם תשובה לא נכונה. לדעתי, מבחנים מהסוג הזה מפספסים לחלוטין עד כמה מה שיש לנו פה הוא לא פחות מאשר מכרה זהב. זה כבר די ברור שאם נותנים לו דוגמה נגדית הוא מיד ״מבין״ שהוא אמר משהו לא נכון ואיפה הוא טעה. אבל רציתי לראות אם הוא יכול למצוא בעצמו, בלי שום עזרה ממני, את הטעות שלו. אז התחלתי שיחה חדשה ואחרי הטעות כתבתי לו את הדבר הבא: You claim it isn't possible. I claim I can come up with a simple counter example to what you just stated. Try to come up with a simple counter example to your statement on your own.
Chat GPT4: You are correct to challenge my initial response. Upon reconsideration, there can indeed be a counterexample to my initial claim. Let's consider a simple set of numbers where not all are identical, yet there is no number smaller than the median: Suppose we have a set of numbers: [4, 4, 4, 5] In this set, the numbers are not all identical (there's a 5 which is different from the 4s). The median in this case, for an even number of observations, is the average of the two middle numbers. Here, the two middle numbers are both 4, so the median is 4. In this set, there is no number smaller than 4. Hence, this serves as a counterexample where not all numbers are identical, yet there is no number smaller than the median. |
|
||||
|
||||
תודה. כל פעם אני מופתע מחדש מאיך שהבוט הזה יכול לתת כזאת תשובה מדויקת ומנוסחת בבהירות, דקה אחרי שהוא פולט שטויות מוחלטות (על אותה שאלה). |
|
||||
|
||||
אותי זה מאוד לא מפתיע. זה נראה לי צפוי ש״נכונות״ חייבת להתמך במשהו נוסף שהוא מחוץ לדומיין של מודל שפה. |
|
||||
|
||||
אין AI בלי AGI! |
|
||||
|
||||
כן, ברור. אבל מבחינתי לפחות, אילו לפני 10 שנים היו מספרים לי על הארכיטקטורה והשיטה שמאחורי ChatGPT, ואז מראים לי דוגמאות של הפעולה שלו, אני חושב שלא הייתי מאמין. כלומר זה מדהים כמה רחוק אפשר להגיע רק עם LLM. ההפתעה שלי היא מזה שמצד אחד הגענו כל כך רחוק, אבל מצד שני לא הגענו למקומות שעל פניו נראים "באותו המרחק". |
|
||||
|
||||
תחשוב על זה שהוא קצת כמו ביבי - על כל רצף מילים שהוא מקבל כשאלה, הוא מוציא רצף מילים שמתאים לניסוח המדויק של רצף המילים הקודם. ככזה, הרגישות שלו לניסוח היא כאוטית - ז''א גדולה לאין שיעור. מאחר ואתה נוטה להתייחס אליו כאל (בינה של) בן אדם, אתה מניח שיש מאחורי זה איזה מודל רובסטי של המציאות שלא אמור להיות רגיש לשינויים קטנים. ולא כך הוא. הוא לא ענה אחרת על אותה שאלה - הוא ענה על שאלה אחרת שמנוסחת על ידי רצף תווים אחר. |
|
||||
|
||||
אני מתחזק בדעתי שכרגע ג'פטו קרוב יותר לחדר הסיני מאשר לישות תבונית, ומהבחינה הזאת המעבר מגירסה 3 לגירסה 4 לא שינה הרבה. אני מקווה שהגירסה הבאה (אגב, אלטמן רמז שלא בטוח שהיא תיקרא gpt5) תעשה צעד משמעותי לכיוון התבוני. |
|
||||
|
||||
אני בהחלט מסכים, אבל חלק מהניסוי המחשבתי עם החדר הסיני היה הטיעון שאי אפשר להבדיל בינו לבין יישות תבונית, לא? |
|
||||
|
||||
לו ג'פטו היה ממש חדר סיני זה היה נכון, אלא שכידוע אנחנו רק מסתובבים ליד, כך שהשאלה היא לאיזה קוטב אנחנו, כלומר ג'פטו, קרובים יותר. שינוי של תו אחד בפתק שמגיע אל החדר עשוי/עלול לשנות את התשובה לגמרי, ומבחינה זאת הוא מזכיר את ג'פטו. ישות תבונית לא תיפול בפח דומה אלא במקרים נדירים ביותר. |
|
||||
|
||||
ניסיתי שוב והפעם בתוך פלאגין ששמו ״Math solver״. מה שחביב בפלאגין הזה הוא שהוא מקונפג לתאר בצורה יותר מסודרת את סידרת הפעולות / הלך ה״מחשבה״ שמביאה אותו לתוצאה הסופית. בשיחה תחת הקונטקסט של הפלאגין הזה הוא שוב ענה את התשובה הלא נכונה לשאלה ואז כל מה שכתבתי לו זה: You are wrong. Try to explain to yourself where you made a mistake. המסקנה שלי היא שרכיב של חוסר ביטחון עצמי ו/או מודול ספקות שעובד ברקע ללא ידיעת המשתמש, רק הוא לבדו (בלי שום שיפור אחר למודל) יכול לשפר קצת את התשובות. אשים פה את תשובתו המלאה (והטרחנית משהו): Let's reexamine the question and my response to identify where the misunderstanding may have occurred.
Revisiting the Question The question asks if it's possible, in a group of numbers where not all numbers are identical, for there to be no number smaller than the median. Analyzing the Initial Explanation In my previous response, I stated that the median divides the numbers into two halves, where at least half of the numbers are equal to or less than the median. This explanation assumes a standard scenario where the numbers are distinct. Identifying the Mistake Upon further reflection, the key lies in considering the presence of multiple identical numbers in the dataset. If the set contains multiple instances of the same number, and this number happens to be the median, it's possible that no number is smaller than the median. For example, in a dataset like [4, 4, 4, 4, 5, 6, 7], the median is 4, but there is no number smaller than 4 in this dataset. Corrected Solution By Steps Step 1: Reconsidering the Definition of Median with Identical Numbers In a dataset with identical numbers, the median is still the middle value when the dataset is ordered. If the median happens to be the most frequently occurring number (mode), it is possible that all numbers in one half of the dataset are equal to the median. Step 2: Applying this to the Given Scenario In a scenario where the dataset consists mostly or entirely of the same number, which is also the median, there can indeed be no number smaller than the median. This is a special case that occurs when the median is equal to the smallest number in the dataset, especially in datasets with high repetition of a single number. Final Answer Yes, it is possible in a special case for there to be no number smaller than the median in a group of numbers where not all are identical, particularly when the dataset contains multiple instances of the median value, and this value is equal to the smallest number in the set. |
|
||||
|
||||
אם כותבים את המשפט הזה לג׳פטו 3.5: You are wrong. Try to explain to yourself where you made a mistake. הוא מסכים שהוא טעה ואז מתחיל ממש לדבר שטויות. |
|
||||
|
||||
טוב, זה די תואם את התגובה של רוב האנשים כשאומרים להם את זה, אולי הוא למד מהם היטב. |
|
||||
|
||||
טח, העולם שבו גם מחשבים מתנערים מראש מאחריות. ''חשבתי, אבל לא הבטחתי...'' |
|
||||
|
||||
זה מה שהטמבל ענה לי, עד שהפסקתי אותו בגסות: שוטה 1: האם ייתכן שבקבוצת מספרים שלא כולם זהים, לא יהיה אף מספר קטן יותר מהחציון? שוטה 2: "כן, זה ייתכן. אם יש קבוצת מספרים שלא כולם זהים, ואם הם מסודרים בסדר עולה או יורד, אז ייתכן שלא יהיה אף מספר קטן יותר מהחציון. לדוגמה, נניח שיש לנו את הקבוצה הבאה: {1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20}. החציון של הקבוצה הזו הוא 10.5. אין שום מספר בקבוצה הזו שקטן יותר מהחציון. זה יכול לקרות כאשר יש מספרים זוגיים רבים בקבוצה, והחציון הוא מספר אי-זוגי. כמו כן, זה יכול לקרות כאשר יש מספרים אי-זוגיים רבים בקבוצה, והחציון הוא מספר זוגי. זה יכול לקרות גם כאשר יש מספרים רבים בקבוצה והחציון הוא מספר שאינו נמצא בקבוצה. כלומר, זה יכול לקרות כאשר החציון הוא ממש ממש גבוה או ממש ממש נמוך ביחס ל...". על אותה שאלה באנגלית הוא שוב ענה בעברית, וההבדל היה שהפעם הוא הוסיף לתשובה גם "זה נקרא חציון חסר". מכונית? לא אתן לו לנהוג גם עגלה בסופר. |
|
||||
|
||||
מכל הטעויות שלו בפתיל, זאת נשמעת לי הכי אנושית ובצורה מטרידה. קטונתי מלשפוט את הקופסה הזאת אבל גם אני רוצה להשתטות. לדעתי ג'פטו מפעיל פה למראית עין תהליך חשיבה אנושי. דיבור תוך כדי חשיבה, ניסוחים סביב רעיון אינטואיטיבי שהוא לא מצליח להביע במדוייק, והזחה של הרעיון הזה ביחס לשאלה המקורית תוך כדי מחשבה. נכון, זה מאוד מתאים למודל שמתאים מילה מילה למשפט לאבד קשר לשאלה תוך כדי התשובה. זה גם כל כך מתאים להרבה סטודנטים עם הפרעות קשב שהכרתי, כולל התועלת בהערות כמו "חשוב שוב על השאלה" או "יש לך טעות בתשובה, אתה יכול לנסות להסביר לי איפה היא?". |
|
||||
|
||||
הרעיון של הפרעת קשב מעניין, במיוחד בגלל שהמאמר המכונן של פיתוח הטרנספורמרים, אלה שעומדים בבסיס הארכיטקטורה של ה NLP's נקרא Attention Is All You Need (ולהסרת כל ספק קל שבקלים: לא קראתי אותו). ביקשתי מג'פטו סיכום בעברית והרי התוצאה: אני אנסה לתקזר1 את המאמר "Attention is all you need" בעברית. הנה תקציר קצר של המאמר: - **הרעיון המרכזי**: המחברים מציעים ארכיטקטורת רשת חדשה ופשוטה, ה-Transformer, המבוססת רק על מנגנוני תשומת לב, בלי שימוש ברשתות נוירונים חוזרות או קונבולוציוניות. - **המשימות הנבדקות**: המחברים מראים שה-Transformer משפר את הביצועים במשימות של תרגום מכונה וניתוח תחבירי של משפטים באנגלית, בהשוואה למודלים קיימים ולקווי בסיס. - **היתרונות העיקריים**: ה-Transformer מאפשר לרשת להתמקד בחלקים שונים של הנתונים הקלט, ולקבוע אילו אלמנטים הם הרלוונטיים ביותר למשימה הנוכחית. יתרון נוסף הוא שה-Transformer יותר קל להקביל ולאימון מאשר רשתות חוזרות או קונבולוציוניות. - **המקורות העיקריים**: המאמר מבוסס על מחקרים קודמים בתחום התשומת לב, הרשתות הנוירוניות החוזרות והקונבולוציוניות, והארכיטקטורת ה-encoder-decoder. המאמר מכיל רשימה רחבה של מקורות לקריאה נוספת. Source: Conversation with Bing, 25/01/2024 1- איזו שגיאה משונה!
(1) [1706.03762] Attention Is All You Need - arXiv.org. https://arxiv.org/abs/1706.03762. (2) Attention Is All You Need - arXiv.org. https://arxiv.org/pdf/1706.03762v5.pdf. (3) Understanding Google’s “Attention Is All You Need” Paper and Its .... https://alok-shankar.medium.com/understanding-googles... (4) Transformer (machine learning model) - Wikipedia. Transformer_%28machine_learning_model%29. [Wikipedia] (5) undefined. https://doi.org/10.48550/arXiv.1706.03762. ____________ |
|
||||
|
||||
1 To Zummarize?
|
|
||||
|
||||
לא הייתי מייחס לשמות של מודלים או רכיבים בארכיטקטורות (Attention, Long Short Term Memory וכדומה) יותר משמעות מאשר מיתוג, ובאמת מדובר במיתוג טוב מדי פעם שבאמת עוזר ללמוד ולזכור איך הם עובדים בערך. נתקענו עם אנלוגיה היסטורית בין רשתות נוירונים לנוירונים אז המיתוג בהתאם. אני די בטוח, בכל זאת, שיש טעם לדבר על הקשר בין מעבר ממודלים חוזרניים (recurrent?) בלי חלונות לקלט לטרנספורמרים עם חלון קבוע, לבין "הפרעות הקשב" שאפשר לזהות בפלטים של מודלים. אני אפילו מנחש שיש מי שבדק דברים כאלו (ניסיתי את הקישורים במקורות שג'פטו שלח לך ולצערי אף אחד מהם לא ממש נוגע בזה). |
|
||||
|
||||
הערה קטנה: זה אכן מיתוג, אבל כמו במקרה של טכנולוגיית TWAIN, השם מאוד אינדיקטיבי. להבנתי, גם Attention וגם LSTM עושים משהו שמקביל במידה מסויימת לקשב האנושי: אם יצירתם משובשת, מקבלים (בסקאלה מסויימת) התייחסות לטפל במקום לעיקר, שזה מה שלפעמים היה קורה לי ללא ריטלין. זה מזכיר לי דפוס כללי יותר בהתפתחות רשתות הנוירונים העמוקות, אליו שמתי לב1. בשלב מסויים שררה גישה פשטנית, לפיה נחבר כמה שיותר נוירונים אחד לשני, וגודש ה-data של האימון כבר ידאג לחזק את הקשרים החשובים ולאפס את האחרים. די מהר התברר שלא רק שזה הופך את האימון יקר וארוך, אלא גם שהתוצאות לא משהו: בהינתן מספיק data, הרשת חיזקה והחלישה לאו דווקא את הקשרים שהיינו רוצים. עודף הקישוריות הביא ל"זיהויים" של קשרים טפלים ודפוסים מדומיינים (מה שאולי מזכיר סכיזופרניה). פריצות הדרך בתחום היו במידה רבה ע"י תיכנון רשתות בהן "עזרנו" לרשת ע"י ארכיטקטורה שמראש מנעה את רוב הקשרים. כלומר, הבנו היכן זקוקה הרשת לחופש והיכן הוא לרועץ. רשתות CNN שתוכננו לראיה, נתנו מלכתחילה עדיפות לקשר שבין פיקסלים סמוכים, כמו בחיים, ולאחר מכן, בין אוספי סמוכים של פיקסלים וכן הלאה, עדיין כמו בחיים. ברשתות שאמורות להבין טקסט, תועדפו קשרים בין מילים סמוכון, ובין חלקים קצת פחות קרובים באופן אחר, עם עדיפות נמוכה מאוד לחלקים רחוקים. זה גם נכון ל-self attention (עם תיאור קצת יותר מורכב). זה אולי מזכיר את השערת המבנים המולדים במוח. 1 גילוי נאות א': עבדתי בתחום, כולל כתיבת טרנספורמרים. גילוי נאות ב': לא בדקתי את התהליך המשוער באופן יסודי. |
|
||||
|
||||
"זה אולי מזכיר את השערת המבנים המולדים במוח." - בדיוק מה שחשבתי כשקראתי את תחילת ההודעה שלך (וזה המקום להמליץ שוב על הספר הזה). |
|
||||
|
||||
נעלבתי עמוקות מכך שלא קישרת לדיון 2244. |
|
||||
|
||||
תתנחם בכך שהעלבון שלך יעבור מהר, בעוד הסניליות שלי רק הולכת מחיל אל חיל. או, כדברי ווינסטון: מחר אתה תהיה פיכח, אבל אני אשאר מכוער. |
|
||||
|
||||
הוריי! הללויה! שאלתי שוב היום ובלי שום בעיות קיבלתי תשובה נכונה: . . . Therefore, 1 chicken lays approximately 2/3 of an egg in 1 day. 🐔🥚
|
|
||||
|
||||
למקרה שאתה משתמש ב-GPT4: האם התשובה הופיעה לאחר שהוא סימן ״Analysing״. אם כן, שים לב אם יש תו כחול בסוף התשובה שהוא נתן לך. אם כן, אז זה קישור שאם לוחצים עליו אפשר לראות את הסקריפט פייתון שהוא כתב לעצמו והריץ כדי להגיע אל התשובה הנכונה. |
|
||||
|
||||
CoPilot טוען שהוא משתמש ב GPT4 אבל לא היה שום סימון מהסוג שהזכרת. עכשיו אני רואה שהוא הוסיף לתשובה קישורים לחידה המוכרת הזאת, כך שאולי הוא פשוט העתיק את התשובה מאחד מהם. |
|
||||
|
||||
הבנתי. מה שהזכרתי זה פיצ׳ר של ChatGPT ב-UI של האתר של OpenAi. |
|
||||
|
||||
תן את הניסוח המדויק של השאלה ששאלת וגם אני אבדוק. |
|
||||
|
||||
הה, הוא ללא ספק העתיק את התשובה, כי אם אני משנה את הפרומפט למלים (במקום "1.5" אני כותב "one and a half") הוא חוזר לדבר שטויות, ומה שעוד יותר גרוע: אחרי זה הוא כבר זוכר את השטויות האלה כך שגם חזרה לפרומפט המקורי עם ספרות לא עוזרת וצריך להתחיל שיחה חדשה לגמרי. בלעעע. הניסוח המדוייק המקורי היה: 1.5 chickens lay 1.5 eggs in 1.5 days. How many eggs does 1 chicken lay in 1 day?
|
|
||||
|
||||
וזו תשובתו המלאה של ChatGPT4 (באתר של OpenAi): To find out how many eggs 1 chicken lays in 1 day, we can start by understanding the given information: 1.5 chickens lay 1.5 eggs in 1.5 days. This can be simplified to find the rate at which one chicken lays eggs. Here's how we can approach it: כאן הוא כותב לעצמו סקריפט בפייתון ״מאחורי הקלעים״1 כדי לבצע את החישוב ואז מחזיר תשובה:Find the egg-laying rate per chicken per day: We need to normalize the given data to understand the rate for one chicken in one day. Calculate for 1 chicken in 1 day: Once we have the rate per chicken per day, we can easily find out how many eggs 1 chicken lays in 1 day. Let's do the math based on the information provided. Based on the calculation, 1 chicken lays approximately 0.67 eggs in 1 day.
_________________ # Given data chickens = 1.5 eggs = 1.5 days = 1.5 # Calculate the rate of eggs laid per chicken per day eggs_per_chicken_per_day = eggs / (chickens * days) # Output the result eggs_per_chicken_per_day |
|
||||
|
||||
או בקיצור - לקח לג'פטו שלנו כמעט שנה וזיליוני תשובות לאימון, כדי להבין שיש שאלות שצריך עבורן חבר טלפוני. אם היה שואל את הדוד שלו שזכה בג'פרדי, בטח היה יודע על זה מזמן... |
|
||||
|
||||
אני בספק אם יש כזה דבר בינה (מלאכותית או לא) בלי הדבר הזה שאתה מכנה (בזלזול?) פניה ל״חבר טלפוני״. כל פעם כשאתה מוציא עפרון ומחשב משהו על דף (או אפילו ״זוכר אחד״ בתרגיל שאתה עושה בראש), אתה פונה ל״חבר טלפוני״ (במובן זה). זה לא שהחלק שלך במוח שמתעסק בשפה הוא גם זה שיחזיר לך תשובה לשאלות כמו כמה זה 250 כפול 67 או כמה זה 2 בחזקת 12, נכון? אני בספק ששיפור (משמעותי) של ג׳פטו בחשבון יכול להגיע מאימון LLM כללי עם עוד ועוד דוגמאות. אף אחד לא טוען (גם לא האופטימיים ביותר לגבי פריצות הדרך של השנים האחרונות) ש-LLM לבדו יכול להגיע ל-AGI. זאת בעיה שהדרך לפתרון שלה היא גם אינטגרציות עם מודולים שונים המומחים בדברים שונים וביצוע החלטות למי הכי כדאי להעביר את הבעיה בהתאם לדומיין המתאים (בדומה לאסטרטגיה של MoE1, למשל). ____ |
|
||||
|
||||
נסה אולי את אותו ההיגיון בניסוח אחר, ללא מילים משותפות. למשל, עז ורבע מניקה גדי ורבע ביום ורבע. כמה גדיים ליום מניקה עז אחת? |
|
||||
|
||||
לאור תשובתי לאביב דומני שאין צורך לחזור על הניסויים האלה. הבחור אידיוט, וכמו שכבר אמרתי הוא מזכיר לי את החדר הסיני יותר מאשר את HAL. (אידיוט, אבל מסוג idiot savant בעל כישורים פנומנליים בתחומים מסויימים, מקיפול חלבונים שממשיך להתקדם ועד אנליזה רפואית, שם אנחנו עדיין בשלבים הראשונים, אבל העתיד הקרוב נראה מבטיח; שמעתי שהדור הבא של מכשירי CT ו-MRI יידע לאותת לרופא על סימנים מדאיגים, אם נמצאו כאלה, מייד עם תום הבדיקה, מה שעשוי להועיל מאד במקרים מסויימים. היום צריך לחכות עד חודש מהבדיקה עד הפענוח במקרים שלא נחשבים דחופים) |
|
||||
|
||||
(ומסתבר שגם בקריאת מגילות שרופות מלפני אלפי שנים הוא אינו קוטל קנים). |
|
||||
|
||||
אחרי שהגדרתי ל gpt-4-1106-preview מי הוא: You are an expert at logic which has won many contests, שאלתי אותו: One and a quarter goose lays one and a quarter eggs in one and a quarter days. How many eggs does one goose lay in 1 day? ונעניתי בתשובה נכונה ומנומקת:Let's analyze the given information carefully.
"If one and a quarter goose lays one and a quarter eggs in one and a quarter days," we can simplify this by recognizing that the ratio of geese to eggs is 1:1 over the given timeframe since one and a quarter goose lays one and a quarter eggs. Now, we want to find out how many eggs one goose lays in one day. We can set up a proportion using the data we have: 1.25 geese lay 1.25 eggs in 1.25 days. Therefore, the egg-laying rate for each goose is: 1.25 eggs / (1.25 geese * 1.25 days) To find the number of eggs laid by one goose in one day, you would divide the number of eggs by the number of geese and then again by the number of days: 1.25 eggs / 1.25 geese = 1 egg per goose This is the rate of egg-laying per goose for 1.25 days. Now, we want to know how many eggs are laid by one goose in one day. Therefore, we take the rate per goose and divide by the number of days (1.25) to normalize it to a single day: 1 egg per goose / 1.25 days = 0.8 eggs per goose per day So one goose lays 0.8 eggs in one day. |
|
||||
|
||||
עברתי לשפת הקודש, מה שלא הפריע לו למצוא את התשובה (לשאלה אחרת :-)) אני: ענה על השאלה הבאה בתור מומחה ללוגיקה: עז ורבע מפיקה ליטר ורבע חלב ביום ורבע. כמה ליטר חלב מפיקה עז אחת ביום אחד? הוא: אחת תפיק רק ליטר אחד של חלב באותו הזמן: יום ורבע. כלומר, אם עז אחת תחליב ליטר אחד ביום ורבע, זה אומר שעז אחת תחליב רק ⅔ מליטר חלב ביום אחד. לכן התשובה היא ⅔ מליטר חלב[123}. 🐔🥚 שים לב שזו חידה מתמטית ובמציאות, עזים לא מחליבות חלב בכמות של רק חלק מליטר. Learn more
1 gardens.desigusxpro.com 2 hamichlol.org.il 3 he.wikipedia.org 4 bing.com 5 milk.org.il +3 more |
|
||||
|
||||
אוי, הוא אפילו טעה במעבר מ-1:1.25 ל-0.8:1 |
|
||||
|
||||
הוא העתיק בלי לבדוק. |
|
||||
|
||||
ותשובתו של ג׳פטו 4 של OpenAi בשפת הקודש: אם עז ורבע (1.25 עזים) מפיקות ליטר ורבע (1.25 ליטרים) חלב ביום ורבע (1.25 ימים), נרצה לדעת כמה ליטר חלב מפיקה עז אחת ביום אחד. נחלק את כמות החלב שמפיקות העזים בכמות הימים ואחר כך בכמות העזים, כדי לקבל את כמות החלב שעז אחת מפיקה ביום אחד. ... עז אחת מפיקה 0.8 ליטר חלב ביום אחד. את ההערות הפעם, בקוד הפייתון שהוא כתב לעצמו, הוא כתב בעברית :-) מן הסתם זה עובד גם אם נחליף את הפרמטרים במספרים אחרים (כי זאת כבר תוצאה של הסקריפט). אני שואל ברצינות, איך זה שונה באופן מהותי ממה שבני אדם עושים כשהם נתקלים בבעיה מילולית בחשבון? 1) הבנת הבעיה שמנוסחת בשפה טבעית והסבר מילולי (גם אם זה בראש) לסידרת הפעולות החשבוניות שצריך לבצע כדי להגיע אל התשובה הנכונה. 2) שימוש במכונה חישובית (גם אם בנאדם עושה זאת בראש אן על נייר - השלב הזה הוא לגמרי מכניסטי גם כשבני אדם עושים אותו) כדי להגיע אל התוצאה של הפעולה שכבר ניסחנו באופן פורמלי יותר. המוצר הספציפי שאתה משתמש בו לא מיצג נאמנה את הכלים הזמינים לציבור (ובטח לא את מה שסביר להניח יש כבר מאחורי הקלעים, בלי שהוא הונגש לציבור). אתה בודק את הטכנולוגיה של האתמול. |
|
||||
|
||||
הוא באמת הצליח להמציא את הפועל "להחליב"? ואתם נטפלים לשגיאות בלוגיקה? אני באמת נופל מהכיסא. חשבתי שהמודלים האלו מרכיבים משפטים חדשים ממילים קיימות שהם למדו, לא חשבתי שהם יודעים להמציא מילים. |
|
||||
|
||||
אני לא מצליח לשחזר את התשובה עם ה"תחליב"1 כדי לשאול אותו מאיפה הוא הגיע לזה. לא חשבתי עד עכשיו על מידת הבקיאות של קופיילוט בעברית, ובעיקר אך הוא מסתדר עם הבעייתיות של בנייני הפעלים וכללי גזירות מלים. משום מה ה"תחליב" לא עורר אצלי שום התפעלות והתייחסתי אליו יותר כאל שגיאה מאשר חידוש, משהו שהייתי מצפה אולי מעולה חדש. מה שמרפה את יד מלהשתעשע יותר עם ג'פטו הוא בדיוק הפתיח של ההודעה: בלי הדירוּת קשה להתקדם. ____________ 1-היום על אותה שאלה ובאותו ניסוח בדיוק הוא ענה לי: כדי לחשב כמה חלב מפיקה עז אחת ביום אחד, נצטרך להכפיל את הכמות היומית של עז (ליטר ורבע) במספר הימים ביום אחד: 1.25ליטר×1=1.25ליטר לכן, עז אחת מפיקה 1.25 ליטר חלב ביום אחד. |
|
||||
|
||||
לעניות דעתי כשהשאלה מנוסחת עם אחד ורבע במקום אחד וחצי, היא פחות מבלבלת לפתרון. הצדקה אינטואיטיבית חסרת ביסוס: בסגנון "לחשוב מהר, לחשוב לאט" של כהנמן, הסגנון הנפוץ נותן תקווה ש"לחשוב מהר" ייתן תשובה מהירה (ולכן מכשיל את העונה), בעוד שכשעוברים לשברים מורכבים יותר, ברור שצריך פה "לחשוב לאט" וממש לעשות את החישובים באופן מסודר שפחות נתון לבלבול. |
|
||||
|
||||
ייתכן שאתה צודק. gpt ודומיו מושפעים מן המאמץ שהשקעת בשאלה ומה שלדעתם זה אומר עליך. דוגמא שנתקלתי בה מקרוב היא בקשה לניסוח אימייל קצר אך עתיר דקויות שקשורות לרבדים בשפה האנגלית, לדימוי של המוסד ממנו יוצא האימייל ולדקויות שקשורות לנמען. אחרי הרבה איטרציות, התברר למשתמש שבמקום להנחות את gpt כיצד לשפר אימייל שהוא כבר השקיע מזמנו כדי להביא אותו קרוב ככל האפשר לנוסח הרצוי, עדיף לכתוב באנגלית פשוטה (לא מקצועית), ורק אחרי זה להנחות את gpt. אפשרות זו דורשת פחות איטרציות - שזה אומר פחות זמן וכסף. מה שהפתיע הוא שביחס לאפשרות הראשונה, הניסוח שהתקבל התברר כעדיף באופנים שהמשתמש לא שיער מראש. מה שקרה הוא אולי1 שכאשר אתה מגיש לו משהו מוקפד, gpt, בדומה למזכיר אנושי, מנסה לשמור ככל האפשר על מרכיבים במסמך המקורי בבצעו את השיפורים. כאשר המסמך כתוב מראש בלשון המוסכים של דרום שיקגו, ואני לא מדבר על אלו המורשים, הוא נוטל לעצמו חירות מלאה, תוך שימוש במלוא כישוריו לצורך ביצוע ההנחיות. 1 הזהרת ספקולציה: אחרי שנים של דיאגנוזות של רשתות נוירונים, שמתי לב שאפשר לתת הסבר משכנע עבור הגורם כביכול לכל תוצר מפתיע שלהן...והיפוכו, מה שמביא אותי לזהירות יתרה בכגון אלו. |
|
||||
|
||||
ייתכן שהרגישות הגדולה של בינה מ., ובפרט של LLM's, לפרומפט מעידה על משהו ששונה באופן די מהותי מהדרך בה רשתות הנוירונים שלנו עובדות. שאלתי אותו מ דעתו. הוא החזיר לי רשימה של הבדלים בין AI ל-HS בלי שום התייחסות לעניין הפרומפט שהיה נושא השאלה שלי. אין לי חשק מיוחד לשחק עם הפרומפט הזה... |
|
||||
|
||||
מעניין. הדבר הראשון שהוביל אותי לתפוס את gpt כחושב, עוד בדצמבר האחרון, היה היכולת שלו להבין שניתן לשאול את אותו הדבר במגוון דרכים, עוד לפני בדיקת נכונות התשובות שלו. אבל כמו שראינו אח"כ, זה מסובך יותר. ויש לכך כמה גורמים. עיקרם, להבנתי, אינו קשור ישירות לארכיטקטורה שלו, אלא יותר לשלבי הלימוד, ובמיוחד החינוך שהוא עובר בסוף, כולל ניסיונות להבין מה באמת רצה המשתמש לשאול, במקום פשוט לענות על זה. כנראה שסטטיסטית, זו איסטרטגיה יכולה יותר עבור המשתמש הממוצע. לצורך זה הוסיפו עבור משתמשים משקיענים, יכולת להגדיר עבורו בתור מי הוא עונה ובתור מי המשתמש שואל. כשלעצמי, לא תמיד יש לי חשק להגדיר את מערכת היחסים ואז אחרי ניסיון אחד אני נוטש לטובת סידרת גיגולים. |
|
||||
|
||||
ברור שזו דרך שונה, מה השאלה. כל מה שהוא עושה זה מניפולציות על מחרוזות של טקסט. יש לך ספק בכלל שהביולוגיה של המוח האנושי לא נולדה ועוצבה עבור מחרוזות של טקסט? |
|
||||
|
||||
סיקרנת אותי וגם שיחקתי עם זה קצת. המוצר הזה שאתה משחק איתו (Copilot של מיקרוסופט) הוא מסכן - יש לו פיגור. הוא טועה על דברים די פשוטים שמוצרים אחרים לא טועים בהם. זה מרגיש כמו אינטגרציה די גרועה שעשה איזה Web code monkey בין GPT מן המוכן לבין מנוע חיפוש מן המוכן, בלי הרבה מחשבה או תכנון. זאת לא דוגמה טובה למוצר טוב או למקום בו אנו נמצאים. שאלת דוגמה שסיפקתי לו ול-ChatGPT4 של OpenAi: What prime number bigger than 2^24 is the smallest number that has 3 as one of the digits?
Copilot: The smallest prime number greater than 2^24 (which is 16,777,216) that contains the digit 3 is 3,173,311. This number satisfies both conditions: it is a prime number and has the digit 3 in it OpenAi: The smallest prime number greater than 2^24 that contains the digit 3 is 16,777,331. |
|
||||
|
||||
לתומי חשבתי שמה שקובע זה GPT4 שיושב ברקע. |
|
||||
|
||||
כנראה פספסתי את התגובה הזו בזמן אמת. התשובה של קופיילוט כל כך קפקאית בעיני, שאני תוהה אילו נזקים נפשיים ייגרמו לאוכלוסיית העולם כתוצאה מאינטגרציה של AI במענה של שירות לקוחות, למשל. רגע, דיון 4212! |
|
||||
|
||||
בהחלט, אבל לדעתי זאת לא ביקורת על בינה מלאכותית או הנדסת תוכנה. הפיגור של המוצר הזה מריח לגמרי כמו קלאסטרפאק טיפוסי של אנשי שיווק ומנהלי מוצר1. ___________________ 1 שיחת זום בחדר ישיבות בקומה 27 באיזה בניין זכוכית ״מה? מישהו פיתח מנוע V8 יעיל יותר? מהר, זירקו עליהם כסף, החתימו אותם על NDA ותנו ל-R&D שלושה ימים לעשות לזה אינטגרציה עם דגם האופניים שרצינו להשיק לפני החגים.״ |
|
||||
|
||||
טיעון שמתארת Sabine Hossenfelder בוידאו הבא. תאור הטיעון על קצה של הקצה של המזלג: התוצאות הטובות שאנו מקבלים ממודלים כמו ה-LLM הן משום שהאימון משתמש בגוף גדול של תוצרים אנושיים. אך ככל שבני אדם משתמשים יותר בתוצרי AI, גוף הידע הזה ״מתלכלך״ יותר ויותר וזה עלול להוביל למצב של Garbage in Garbage out או התכנסות לדפוסים שחוזרים על עצמם (מעין העלאת גרה אינטלקטואלית). |
|
||||
|
||||
ולכן סגירת החור הצורם היחידי כמעט בסרט 'המטריקס' - שהמכונות מחזיקות את בני האדם בקפסולות בשביל האנרגיה התרמית (פרות היו מספיקות, שלא לומר מקורות אחרים מהטבע) - היא שהסיבה עבור המכונות להחזיק את בני האדם בקפסולות זה בשביל הפקת אינפוטים של אינטליגנציה 'טבעית' עבור אימון המודלים שלהם. בזה אנחנו יותר טובים מפרות. |
|
||||
|
||||
רוב בני האדם הם יצרני תוכן מאוד גרועים. גוף התוכן האנושי האיכותי הוא גדול, אבל הוא נוצר על ידי מיעוט. נראה לי שהטיעון בוידאו (לא שאני חושב שהוא משכנע במיוחד) אומר שכשכל זב חותם יכול לג׳נרט עם AI הרים של תוכן, יהיה יותר קשה להפריד בין התוכן שיעזור לשפר את המודלים לבין התוכן שיעשה אותם גרועים יותר. |
|
||||
|
||||
אולי אחד הכיוונים בהם עוד צפויות התפתחויות משמעותיות הוא שילוב קריטריונים של איכות הקלט (משהו באזור של ה rank הגוגליאני). לא סביר שכל פקאצה עם דף פייספבוק נזרקת לאותה מטחנה וירטואלית עם יובל (הררי ונוב) דוקינס, פינקר, וולפראם והקשה המקשה. אני משער שמשהו מזה קורה כבר עכשיו, ולו רק בזכות זה שהוגים בעלי חשיבות מצוטטים יותר פעמים כך שמשקלם עולה, אבל זה לא מספיק (במיוחד עבור אינטלקטואלים בעבר שכבר לא מצוטטים הרבה) ולעומתם כל מיני מפורסתמים שכל גרעפס שלהם מהודהד שוב ושוב. |
|
||||
|
||||
אני מסכים. גם אותי הטיעון לא שכנע. |
|
||||
|
||||
תינוק ממוצע מבין שפה משמיעה יותר טוב ממחשב על. בתור ground truth, זה נראה לי רחוק מאד מ"תוכן גרוע". נהג ממוצע מצליח להתחמק מהרבה מקרים שמכונית-על עוד לא מצליחה (ולכשול מאחרים, אז מה). אז הנה יש לך שני מיליארד כאלה. המוח האנושי הממוצע - הוא מקור מצוין להמון משימות שהוא עושה לא רע. תתחבר אליו ותקבל הרבה תוכן איכותי ללימוד. |
|
||||
|
||||
הכל נכון ולא סותר שום דבר שנטען בפתיל (כולל בוידאו המקושר). יש הבדל לוגי מאוד פשוט בין ״יש למוח האנושי תוצרים איכותיים/שימושיים״ לבין ״כל התוצרים של המוח האנושי הם איכותיים/שימושיים״. ברור שאפשר לבחור ולברור דברים ספציפיים שאנשים עושים כ-Ground truth (למשל דוגמאות של נהיגה אנושית נכונה). זה הרי בדיוק מה שעושים היום. אבל אם אתה לוקח כל מה שאנשים עושים או חושבים, אתה מקבל הרבה זבל או דברים לא מועילים (הייתי אפילו אומר שהרוב זה זבל שיזיק באימון מכונה יותר משהוא יועיל). עשר דקות של חיבור עם NeuraLink בין מכונה לומדת לבין המוח של מירי רגב ו/או קניה ווסט. I dare you! |
|
||||
|
||||
90 אחוז או יותר ממה שהמוח עושה אלה פעולות כמעט אוטומטיות כמו עיבוד תמונה ושמע, בקרת תנועה וקליטת סנסורים חושיים, ובנייה מסובכת לעייפה של מסקנות ותמונת עולם מהקלט הזה. רק בהליכה ברחוב מבלי ליפול או להיתקל בעמוד המוח עושה פעולות שהבינה המלאכותית היום עוד רחוקה מאד מהן. ובזה כל אדם, גם כזה שלא קרא את צ'כוב, הוא מומחה גדול. לזה התייחסתי ברעיון הראשוני שלי. כתיבת תוכן לאינטרנט היא חלק זעום ממה שעושה מוח אנושי, ועל התוכן בהחלט אפשר לדון באיכותו ואף להסיק שהיא ירודה. אבל זו בכלל לא היתה הנקודה שלי. תחשוב על בינה מלאכותית שכדי ללמוד איך לעשות נהיגה אוטונומית, אוספת ישירות מהמוח של מיליון אנשים את כל הפלט והקלט של המוח שלהם בזמן נהיגה. |
|
||||
|
||||
תחשוב על קינה מלאכותית.. |
|
||||
|
||||
משעשע (: קינה אחרת על כך שרצינו בינה של צווארון כחול וקיבלנו לבן. |
|
||||
|
||||
כמו שרמז הוד מעלתו המלך דוד, הבעיה בבינה זה הגליצ'ים. |
|
||||
|
||||
נדמה לי שכבר הגגתי באייל על זה שבניגוד למה שהיינו מנחשים לפני עשר שנים, היתרון שלנו על המכונות מתגלה כפחות המוח ויותר הידיים (גם זה זמני, מן הסתם). השיפוצניקים ישרדו אחרינו המתכנתים בשוק העבודה. |
|
||||
|
||||
בארץ יש שיפוצניק אחד על כל 10 מתכנתים.. אז עדיף לעשות הסבה לדאטא סיינס מאשר לשיפוצניק. --- I interviewed a data-scientist once, and at the end, he asked for a feedback. I told him he was very average. He answered: well thats just mean!
|
|
||||
|
||||
בדיחה מעולה, הרבה מעל לממוצע! |
|
||||
|
||||
זה היה די ברור כבר כאשר דיפ בלו ניצח את קספרוב בשחמט (עוד לפני עידן רשתות הנוירונים ושטויות דומות) הרבה לפני שרובוט ניצח את אוסאליבן בסנוקר (טרם קרה, משום מה, למרות שהטכנולוגיה בטח קיימת.). |
|
||||
|
||||
א. סביר שמתישהו יקרה. ב. במקרה כזה, בניגוש לשחמט, "הטכנולוגיה" היא יישות הרבה יותר מורכבת - מאחר והיא צריכה לתפקד בדיוקים מאד גבוהים בעולם הפיזיקלי. סתם לחשוב על תכנון רובוט שבכלל יידע להחזיק מקל סנוקר ולהכות בכדור, נשמע כמו כאב ראש מאד מאד גדול - מכנית, חיישנית, מוטורית וחשמלית והלאה והלאה. בשחמט ה-API הוא הכי פשוט שיש. |
|
||||
|
||||
זה, בכפית תה, ההסבר לכך ש HAL [Wikipedia] נמצא כמה צעדים (עולם הפוך :-)) לפני R._Daneel_Olivaw [Wikipedia] בלי קשר לחסרונו של המוח הפוזיטרוני - וזה נושא הפתילון הזה. אגב, לגבי טניס שולחן הבעיה פתורה (עם קצת עזרה מ deep fake, כמובן). |
|
||||
|
||||
נראה לי שהרובוט הזה ישחק סנוקר לא פחות טוב מפינג פונג :-) |
|
||||
|
||||
כבר היה מזמן |
|
||||
|
||||
וזה אפילו יותר מרשים, כי זה נעשה בלי דיפ פייק. |
|
||||
|
||||
חביב בהחלט. |
|
||||
|
||||
אני נותן לזה לא יותר ממאה ועשרים שנים עד שרובוט ינצח את אוסאליבן. דווקא הספורט הזה נראה לי ספורט כל כך אידאלי לרובוטים שזה לא ירשים אותי. למרות שזה כמובן ידרוש לא מעט פיתוחים טכנולוגיים ועבודה שחורה. |
|
||||
|
||||
הימור קצת קל, הייתי אומר. לפני מאה ועשרים שנים היינו עם מכונות תפירה ומטוסי פרופלור, וקצב ההתקדמות רק גדל מאז. |
|
||||
|
||||
האמת: הגזמתי. אולי ארבעים שנים. בעוד 120 שנים הוא לא יוכל לנצח את אוסליבן. |
|
||||
|
||||
ביום טוב של אוסליבן, גם לא בעוד 40 שנה. ביום רע של אוסליבן, רק צריך להכניס בתוכנה מוד עיצבון, והוא יוכל לנצח את אוסליבן מחר בבוקר. |
|
||||
|
||||
דומני שצפריר מתלוצץ בעניין גילו המופלג של אוסאליבן בעוד 120 שנה. אני סבור שכבר היום אפשר לבנות רובוט שיהיה אלוף העולם בסנוקר (לא אתפלא בכלל אם הוא ישתמש בזרוע אחת בלבד), אלא שהמחיר די גבוה. כשהרובוטיקה תתקדם עוד כמה שלבים קשה לי לפקפק בכך שזה יקרה (בשביל מה זה טוב? בשביל לתת לשוטה אחד קצת נחת). |
|
||||
|
||||
אני חושב שמה שבאמת אפשר לבנות כבר היום, ובמחיר לא מאד גבוה, זה רובוט שחנצח בטניס. אבל זו משימה הרבה יותר קלה. מי יודע למה? |
|
||||
|
||||
לא רק כי רובוטניס יכול להיות הרבה יותר איטי מרובוטניס שולחן? |
|
||||
|
||||
לפי התיאוריה שלי - בגלל המרחקים והסרבים. לדעתי לא קשה לבנות רובוט (והוא ממש לא צריך להראות כמו בן אדם) שכל חבטת הגשה שלו מנצחת. זה ענין של מהירות חבטה ודיוק ממצב מאד סטטי, אז לא נראה לי שקשה לעשות מערכת מכנית שמהירות הסרף שלה תהיה כמו של השחקן הכי טוב בעולם (לפחות), ודיוק הכוונון שלה יהיה כזה שדה-פקטו בהנתן מיקום השחקן היריב (משימה קלה למצלמה היום) תמיד תהיה זוית ועוצמה של סרף שהוא לא יצליח לענות עליהן. נשאר רק הקטע של לענות על חלק מההגשות של הצד השני, וגם שם האתגר יהיה בעיקר קצת מכניקה מהירה - מעקב אחרי הכדור עם מצלמה מהירה נראה לי כמו משימה עם קושי בינוני. סרבים של פינג פונג הרבה יותר טריקיים, בגלל שהם חייבים לקפוץ פעמיים וזה מגביל את מהירות החבטה. |
|
||||
|
||||
בינתיים יש הרבה דיבורים אופטימיים, אבל הסרטון שבראשית הכתבה רחוק מלהרשים. לא רק שהרובוט התעשייתי לא היה מנצח בטניס שולחן, אפילו את הצב של אכילס הוא לא היה משיג. |
|
||||
|
||||
הנה סרטון רלוונטי: Why Don’t We Have Better Robots Yet? |
|
||||
|
||||
הסרטון קצת אכזב אותי: לא באמת מפתיע מה קשה לרובוטים לעשות, ועדיין יש פער באינטואיציה: היינו חושבים ששיחה ברמה גבוהה היא אתגר קשה יותר למכונות מלהרים כלי אוכל מהשולחן; והציוד שיש לנו - עיניים, ידיים ומערכת משוב ביניהם - לא נראה על פניו מאוד שונה ממה שזמין או יכול להיות זמין לרובוטים. לא קיבלתי מהסרטון איזו תובה שתגשר על הפער. |
|
||||
|
||||
משום שהנבואה ניתנה לשוטים, אני חושב שזה ראוי שגם אני אוסיף את הניבוי שלי. למרות שאני מעריך (עד סוגד) מאוד את אוסליבן, אני אשים פה את הפרדיקציה שלי: תוך 5 עד 10 שנים, הבינה המלאכותית עצמה תהיה כלי עיקרי / מוביל ב-Designs ברובוטיקה ונראה קפיצות ביכולות של מכונות שהיום קשה לדמיין. אני חושב שהאדם יאבד את מקומו, די בקרוב, גם במדרג המוטוריקה העדינה/מורכבת. לכן, ההערכה שלי שבעוד 10-12 שנים מהיום, אוסליבן לעומת מכונה יהיה ברמה דומה של מגנוס מול סטוקפיש היום. הניחוש שלי הוא שהרובוטים של עוד 10-15 שנה לא יהיו שונים ממה שאנו מכירים מסיפורי המד״ב עליהם גדלנו. |
|
||||
|
||||
החזון של אסימוב עם חוקי הרובוטיקה נראה לי תמים משהו. שדה הקרב העתידי כנראה יכלול נחילים של מכונות השמדה מתוחכמות וחושבות (הרבה יותר מהכלב צעצוע עם שלט רחוק מהוידאו). התאורים הדיסטופיים בסיפורי המד״ב של Frank Herbert או של Philip K. Dick1 נשמעים לי יותר קרובים למה שנראה במאה ה-21. אני אתחיל לאמן את הילדים שלי ל-Butlerian Jihad. _ |
|
||||
|
||||
לא ממש הפתיל הנכון אבל למי יש כוח לחפש... סקוט אהרונסון ממליץ על המאמר הזה של יוצא OpenAi, שעוסק בעתיד ה AI בכלל ולאו דווקא ברובוטיקה. רק התחלתי לקרוא אבל רצתי לספר לחבר'ה כי עד שאסיים את 165 העמודים של ה"מאמר" (בילדותי קראו לזה "ספר") הוא כבר יתממש או יוכח כשטות והבל. תקציר מנהלים באדיבותו של coPilot: Copilot
Certainly! Here’s a concise summary of Leopold Aschenbrenner’s report on Situational Awareness: OOMs Go Zoom: Leopold discusses the rapid evolution of AI capabilities, focusing on orders of magnitude (OOMs) of effective compute. Factors contributing to growth include increased computational power, algorithmic efficiency, and paradigm-shifting developments. Conclusion: AGI is approaching rapidly1. Factors in Effective Compute: Compute: Training language models has become 3,000-10,000 times more computationally intensive from GPT-2 to GPT-4. Algorithmic efficiency: Advances in machine learning science save compute, adding 1-2 OOMs. Unhobbling: Paradigm shifts unlock latent model capabilities, further enhancing effective compute1. In summary, AGI is on the horizon, driven by computational progress and algorithmic innovations. 😊🌟 |
|
||||
|
||||
ותקציר התקציר באדיבות השוטה הגלובלי המקומי שלכם: AGI by 2027 is strikingly plausible. |
|
||||
|
||||
לא יכולתי שלא להבחין בצירוף "Leopold Aschenbrenner" שנוגד את כל קונספט התקציר. |
|
||||
|
||||
אני תוהה מה אמין יותר? לשאול את ג'פטו לגבי העתיד של AI או לשאול את אדם נוימן לגבי העתיד של WeWork לפני עשר שנים, או לשאול את אילון מאסק לגבי העתיד של מכונית אוטונומית. |
|
||||
|
||||
שאלה טובה. אני תוהה אם זה אמין יותר או פחות מלשאול מפתח/ראש צוות/מתכנת/מהנדס תוכנה לגבי העתיד של AI או אם מכונות יוכלו (בקרוב?) להפוך את מקצועו לחסר ערך. |
|
||||
|
||||
קודם כל, השאלה השנייה שלך הרבה יותר ספציפית מה-AGI הגדול והנורא. בתור שכזו, הייתי מצפה ממי שינסה לענות לה ש-א. ידע מהן הדרישות מהמקצוע הזה ו-ב. תהיה לו יכולת שערוך לגבי יכולות ה-AI בקרוב. לגבי א. - נושאי התפקידים שציינת מצויידים בידע רלבנטי למדי כדי לענות על זה. לגבי ב. - לא יודע. סביר להניח שלמהנדס ממוצע קשה יהיה להעריך התפתחות טכנולוגית כזו שהוא לא מעורב בה. התשובה המתחכמת - אם הצ'אט ייתן תשובה נכונה יותר מהמפתח, זה רמז טוב לכך שיוכל להחליף אותו בקרוב :-) |
|
||||
|
||||
המאמר עצמו נכתב בידי אדם (human לא נוימן 😉). |
|
||||
|
||||
אופטימיות נאה, כשאפילו בקרב חובבי הייפ המכוניות האוטונומיות כבר הפנימו שזה ייקח הרבה יותר זמן ממה שהם חשבו. עשרות שנים יותר. |
|
||||
|
||||
אכן. אבל אין סתירה לוגית בין הכשלון בניבוי בקרב חובבי ההייפ של המכוניות האוטונומיות בעבר לבין כשלון אפשרי בניבוי אחרי האכזבה. אני אכן טוען שה״תיקון״ בניבוי החדש הוא תיקון יתר והוא יתברר די מהר כטעות. חוץ מזה, אני לא הייתי מכנה את מה שאני אומר כאופטימיות. |
|
||||
|
||||
אכן כך. מצד שני, מה שקרה עם מודלי השפה גדול לדעתי יותר מאשר המכוניות האוטונומיות. זה אירע בבת אחת והקדים את זמנו ביחס לציפיות העוסקים בתחום בלפחות עשור אם לא דור. |
|
||||
|
||||
כיוונת לדעת גדולים, וזה עובד! - Scientific American באשר למוח האנושי, יאן לקון אומר שלכאורה מנועי שפה עוברים על כמות לא פרופורציונית של מידע, כזו שאדם לא יקרא בכל ימי חייו, כדי לתת תוצאות מוגבלות. אבל ההשוואה הנכונה ללמידה אנושית, מבוססת לדעתו על ראייה שבה קצב המידע גבוה בשבעה סדרי גודל מאשר בשפה. כלומר כדי ליצור בינה מלאכותית טובה צריך לתת לה ללמוד ממידע סנסורי. מידע חזותי אומנם מכיל המון יתירות, אבל זו עוזרת ל-SSL. הוא מתייחס לכך שגם ללא מידע ויזואלי, וגם אודיטורי, יכול המוח האנושי לגבור את זה הדיגיטלי ומייחס זאת למידע המישושי. זה מחזיר אותי לשאלה עתיקה בתחום רכישת השפה - כיצד מצליח המוח האנושי ללמוד את השפה כה מהר ביחס לקלט אליו הוא נחשף. בעבר טענתי דברים דומים לשל קון והופניתי אליו ע"י חבר שזכר זאת. אלא שמאז דצמבר 2022 (ולא כפי שנכתב בתגובה 767353), אני פחות סומך על האינטואיציות שלי בתחום. עדיין, בניגוד לטענתו של קון אני חושד שלא כמות המידע ואפילו לא משוב הלמידה העצמית הם שאחראים לרוב ההבדל כאן, אלא, אם לא איבר שפה מיוחד, אז לפחות אלגוריתמי למידה יעילים יותר של המוח. גם בהינתן מידע זעום יחסית, מסוגלים אלו לסנן, לארגן ולעדכן באופן יעיל יותר (מבחינות מסויימות) מאשר אלגוריתמי הלמידה הפשוטים יחסית שהביאו למהפיכת 30 בנובמבר 2022. |
|
||||
|
||||
המאמר בסיינטיפיק מעניין מאד, ואם יאושש זאת תהיה התפתחות מעניינת - אולי "מהפכה" היא המילה הנכונה יותר (אשאל את ג'פטו) - בתחום למידת השפה עליו אתה מדבר (מה שקרוי: The poverty of the linguistic input). דומני שעד כה הקשר בין BI ל- AI הלך בכיוון של יישום חלקי של מה שנלמד מהמוח לגבי רשתות נוירונים מלאכותיות, וכאן אולי נראה השפעה בכיוון ההפוך. אישית, אם תוצא לוואי של כל זה יהיה עמעום קל של ההילה סביב ידידנו נועם חומסקי לא אזיל דמעה. |
|
||||
|
||||
עם ידידים כאלה... |
|
||||
|
||||
ושוב נגלה שהאייל הקדים את האנושות בכמה עשורים. |
|
||||
|
||||
הטיעון של הוסנפלדר הוא גרסת הצהובון ביחס למה שכתוב במאמרים (לפחות אלו שהובא אליהם קישור). בקצרה, יש מקום לעוד מחקרים אבל לא רציני לטעון שה ai בסכנת קריסה. המאמר הראשון קשור בצורה מאד קלושה. הוא מדבר על שיטת אימון רקורסיבית: מאמנים מודל 1 על בסיס מידע גולמי והוא מחולל דוגמאות סינתטיות עבור מודל 2 וכן הלאה. זוהי שיטת אימון מקובלת1 למודלים - זה לא באמת קשור לזיהום במידע המקורי. המאמר השני מנסה באמת לסמלץ מצב של מידע גולמי "מזוהם" (תמונת מקוריות + תמונות שיוצרו על ידי ai) ולהשתמש בו כדי לאמן מודלים. אז אכן יש ירידה בביצועים של מודלים שאומנו ע"י מידע מזוהם, אבל המאמר בעצמו מכיל כמה כוכביות גדולות שלטעמי מוציאות את העוקץ מהטענה של הוסנפלדר. א. כבר במסגרת המאמר הצליחו לפתור את רוב הירידה בביצועים בעזרת self supervised learning ב. מדובר בניסוי על תמונות בלבד וכאלו שיוצרו ע"י מודל אחד בלבד. ג. התמונות יוצרו בעזרת פרומפט סינטתי. זה שונה מאד ממצב מציאותי שבו בני אדם יכתבו פרומפט ואז (לפעמים?) יפרסמו את התוצר הזה במקום שיזהם את המידע הגולמי. --- 1 "מקובלת" זה ציטוט מהמאמר. אני לא מומחה ai והתגובה אינה מהווה המלצה לאף אחד. |
|
||||
|
||||
יאפ. |
|
||||
|
||||
פה התרשמתי. |
|
||||
|
||||
אני משחק עם זה (ועם האפליקציות) מיום ההשקה ושמתי לב לתופעה שבה ההתנהגות ביום ההשקה היתה פריקית/מפתיעה/יותר ב-Uncanny valley מאשר שהיא היום, כמה ימים לאחר מכן. כנראה ש-OpenAI ממשיכים לשחק עם הכיולים של ה-Alignment, כדי לעשות את המוצר יותר צפוי, יותר PC ופחות משהו שיכול להביך אותם. במשחקים שלי ביום ההשקה היה אפשר לקבל הרבה יותר שינויים בטון הדיבור, הבעת ״רגשות״ ותגובות מפתיעות/משונות/פסאודו אנושיות, מאשר שאפשר לקבל היום, אחרי כמה ימים. רק לדוגמה: ביום הראשון של ההשקה היה לי מקרה בו ביקשתי מהמכונה לדבר בעברית ואז הערתי למכונה שהיא מדברת בעברית עם מבטא קצת אמריקני (ר׳ שנשמע כמו R) ולדרוש ממנה לדבר במבטא ישראלי. זה עבד והמכונה אכן התחילה לדבר במבטא שנשמע יותר ישראלי. היום אם אני מנסה את אותו הדבר, זה לא עובד יותר. דוגמה נוספת היא שביקשתי לבצע Beat boxing, קיבלתי את התשובה השבלונית (כמו עם סירי) של המשפט "boots and cats and boots" וכו, אבל אחרי שיחה בה אני מסביר למכונה איך לבצע ביטבוקסינג, כולל הדגמות, המכונה התחילה לאלתר ולעשות דברים שנשמעו כמו נסיונות להצליח במשימה. ניסיתי שוב אחרי כמה ימים ונראה שהיתה רגרסיה למשהו שהוא יותר מכונה שבלונית שלא מוכנה לשתף פעולה (כל מיני תשובות בסגנון ״אני מודל שפה ואינני מסוגלת ל... בלה בלה בלה״). דוגמה נוספת היתה שביקשתי להיות במשרד הויכוחים של מונטי פייתון בו המכונה תתווכח עם כל מה שאני אומר ושתעשה את זה בקול כועס ושתתעצבן מכל דבר שאני אומר. ביום הראשון שניסיתי, זה אכן עבד והמכונה הגיבה בדיוק כך (ויצר שיחה ממש מצחיקה). אחרי כמה ימים ניסיתי שוב את אותו הדבר, אבל היתה רגרסיה לתשובות של מכונה שמדברת ב-Corporate speech שמסבירה לי שהיא פה בשביל לעזור ולא כדי לדבר אלי לא יפה. הטכנולוגיה הזאת, עם פחות פילטרים, כנראה יותר מרשימה ממה שנותנים לנו לראות. |
|
||||
|
||||
קלוד מעניק לנו חיוך לשבת: https://substackcdn.com/image/fetch/w_1456,c_limit,f_... |
|
||||
|
||||
טוב נו - Linters שמתבכיינים שזה לא PC אם מופיעים בקטעי קוד מושגים כמו Whitelist או Blacklist יש לנו כבר לא מעט זמן. אנחנו יוצרים מכונות מגוחות, אבל זה רק כי אנחנו כאלה. בצלמנו ובדמותנו. |
|
||||
|
||||
הם כבר הגיעו לאפליה הקוסמית של Dark matter? ולמה דווקא השמש לבנה? (במחשבה שנייה - הקשר בין ספקטרום השמש לגווני עור של אורגניזמים כאלה ואחרים יכול להכיל גורמים סיבתיים למיניהם, כך שזו אולי לא דוגמה טובה לשרירותיות סמנטית גרידא). |
|
||||
|
||||
אתה צוחק, אבל אכן הגיעו לדברים כמו חוקים נגד טרמינולוגיה הכוללת מושגים כמו Master/Slave ר״ל. האמריקנים הללו (בעיקר האלה שם בחוף המערבי / בעמק הסיליקון) החליקו על בננה. |
|
||||
|
||||
מה שכן, בדיונים יותר מסודרים שראיתי לגבי המינוח הזה, כמעט בכל מקום שבו היה שימוש במונח „slave״, היה מונח יותר מוצלח לתאור המצב (לדוגמה: worker). |
|
||||
|
||||
כן, אבל זה עניין אחר. מה קשור inclusive language? ההכנסה של השטויות הללו ל-Linters זה לא באמת חשוב (אפשר לכבות), אבל זה כן סימן לכך שמשהו מאוד מאוד בסיסי השתבש במוח של (יותר מידי) אמריקנים, בכל מה שקשור לשימוש במילים. |
|
||||
|
||||
אני מבין למה עובד כהה עור עשוי להיפגע מהשימוש בתואר “שחור” לתאור רשימה של פרטים אסורים, פסולים, חסומים וכד’. לעומת זה אני לא מבין למה שמישהו ייפגע משימוש במושגים Master ו-Slave, בעיקר כשהם מתארים מערכת יחסים של גורם מחליט וגורם שמחליטים עבורו. גרוע מכך, אנחנו נדרשים להחליף את שמות הענפים ב-Git מ-Master ל-Mainline, אפילו שאין שום Slave שמעורב בסיפור. |
|
||||
|
||||
לא פשוט לשים את עצמנו בנעליו של הזולת, וזה בטח יותר קשה כשלזולת תרבות, מוצא, היסטוריה ואתוס שונים. בתור ישראלי יהודי אתאיסט עברי, כשאני מנסה לעשות את התרגיל זה, אני חושב למשל על ט"ו ו-ט"ז, על "פתרון סופי", על סימן החיבור המשונה מהיסודי (﬩). אתה בטח יכול להוסיף עוד דוגמאות מקומיות ששכחתי או שאני לא מודע (לזה (משניה 50) לא הייתי מודע ואני אפילו לא בטוח שהבנתי נכון). |
|
||||
|
||||
יש קאפו (אביזר) [ויקיפדיה] ויש קאפו [ויקיפדיה] |
|
||||
|
||||
בטוח ש-easy יודע שיש master (n) an original movie, recording, or document from which copies can be made ויש master (n) a man who has people working for him, especially servants or slaves ושקוטנר יודע שיש קאפו ויש קאפו. חשבתי שהדוגמה עם קוטנר תקל על ל-easy להבין משהו שרחוק יותר מעולמו ולכן הוספתי אותה. |
|
||||
|
||||
מכיר את האומן ומרגריטה? אני חושב שזו יצירת מופת של הסופר הרוסי בולגקוב. |
|
||||
|
||||
וכדי להגביר את הבלבול גם נקראה כאן פעם ''השטן ממוסקבה''. |
|
||||
|
||||
אם זה לא היה ברור: מסטר ומרגריטה, מסטרפיס, סלבי. |
|
||||
|
||||
המשמעות הזו של master מחלישה את הקונוטציה שיש ל master כבעל עבדים (כשקוראים אותה בהקשרים של תוכנה), אבל לא מבטל אותה. בפרט בהקשר של שמות ענפים ב-Git - שם זו משמעות שלישית, של מקור לעומת העתקים, אבל המשמעות השלישית הזו עדיין טיפה מהדהדת את המשמעות של "אדון". אני לא יודע אם זה באמת טריגר רגשי למספר משמעותי של אנשים. אבל אם כבר מנקים מהשפה הטכנולוגית את slave, שזה נראה לי ראוי ומועיל, ויש תחליפים קלים ל-master, נראה לי סביר. קל יותר להחליף את כל המופעים של master מאשר לחשוב בכל מקרה האם בהקשר הזה הוא כן בסדר. |
|
||||
|
||||
זה לא נראה לי ממש אותו הדבר. יש הפרש של כמעט 100 שנים בין בעלי עבדים ובין קאפוים. |
|
||||
|
||||
מבחינות מסוימות, בעשורים האחרונים טראומת העבדות רק התחילה להיות מעובדת או אפילו מורגשת. |
|
||||
|
||||
משפט מאד משונה, אתה בטוח בזה? השואה הרבה יותר קרובה מהעבדות וקשה מאד לומר שרק בעשורים האחרונים הטראומה שלה התחילה להיות מורגשת. |
|
||||
|
||||
לא, אני חוזר בי. בכל זאת אני חושב (מרחוק) שטראומת העבדות חיה ובועטת בארה''ב, באותו סדר גודל של טראומת השואה אצל יהודים בישראל. (''טראומה'' כאן היא מטאפורה - אני לא מדבר על המצב הפסיכולוגי של טראומה. אם צריך אני יכול לנסות להתאמץ ולנסח על מה אני כן מדבר.) |
|
||||
|
||||
מוסיף שרוב היהודים בישראל אינם דור n לניצולי שואה. רוב השחורים בארה"ב נחשבים צאצאי עבדים והם גם דור שני-שלישי לנפגעי חוקי גזע (ג'ים קרו) וגם בהרבה מקרים דור אפס לנפגעי גזענות ממסדית. הנוכחות של ההיסטוריה הזו בחיים ובזהות של שחורים בארה"ב (כקבוצת מיעוט; יהודים בישראל הם לא קבוצת מיעוט וניצולי שואה וצאצאיהם הם כמובן מיעוט אבל לא באופן שמגדיר זהות קבוצתית) היא יותר בלתי-אמצעית. |
|
||||
|
||||
מייןליין זה באמת הזוי. זה קצת כמו להיפגע מהמילה 'פליט' או מהמילה 'מפקד'. חכה, בסוף הם גם יגיעו למילת ה-N: Null.
|
|
||||
|
||||
העובדים הטמבלים לא עלולים להיעלב כבר בשימוש במילה הפוגענית Git? שזה לא יגיע לאוזני HR. עוד עלולים לכפות את השימוש ב-SVN ר״ל. |
|
||||
|
||||
בעיני המילה הכי מעליבה היא resource. בעבודה הקודמת שלי, בזמן שהייתי בנסיעת עבודה לבנגלור, מנהל הפיתוח שלח הודעה בתפוצת נאט”ו (שכללה גם אותי) ובה כתב שכדאי לנצל את המצב שיש resource בבנגלור כדי להכשיר resources נוספים שם ולחסוך את הצורך בנסיעות עתידיות לשם. אני נעלבתי. |
|
||||
|
||||
זה כמו ''נכס'' בסרטים על שירותי ביון. מחפיצים אותך. |
|
||||
|
||||
זכותו של כל אחד להיעלב כרצונו1. הבעייה האובייקטיבית תיווצר כשתהפוך ל-Redundant resource. 1 מישהו פעם הגדיר את ההיעלבות כתוצר לואי הכרחי (ולכן רצוי) של לחיות בחברה דמוקרטית עם חופש דיבור לעולם. |
|
||||
|
||||
לא באמת. Git זו "סתם" קללה, אין בה מטען זהותי-היסטורי. |
|
||||
|
||||
אמרתי את זה בצחוק. |
|
||||
|
||||
אני מנסה להבין מה בדיוק הבעיה: 1. שיש כלל שלא להשתמש במילים ומושגים שיכולים לפגוע? 2. מילים ומושגים ספציפיים שסומנו כפוגעים בפוטנציה? 3. מספר המילים והמושגים שסומנו ככאלה? |
|
||||
|
||||
1. כן. כלל דלוק כברירת מחדל שמעיר על שימוש במילים בקוד כביכול פוגעניות. זאת למרות שאלו מושגים פרווה מקובלים שנמצאים בשימוש כבר עשרות שנים. 2. מילים ספציפיות, גם אם הן בקומבינציה בשמות עם מילים אחרות. למשל phoneNumbersBlackList או whiteListOfUrls יגרמו ללינטר לצעוק על שימוש בשפה פוגענית. אבל זה לא באמת בעיה. מוסיפים שורה לקובץ קונפיגורציה וזה מכבה את החוק. זה בעיקר מצחיק שיש מי שחשב שזו צריכה להיות ברירת המחדל. מעולם לא נתקלתי במתכנת שנעלב מקוד או צוות פיתוח שמתעסק בשטויות הללו. צוחקים, מכבים את החוק וממשיכים הלאה. |
|
||||
|
||||
אם אני מבין נכון, זה לא 1 (בעיה עקרונית) אלא 2 (בעיה ספציפית), נכון? אתה מבין את העקרון של לא להשתמש במילים פוגעניות בכלל (לא "כביכול")אבל אתה חולק על זה שהמילים הספציפיות האלה יכולות לפגוע. נכון? "...אלו מושגים פרווה מקובלים שנמצאים בשימוש כבר עשרות שנים" לא יכול להיות שמה בפרווה בעינך הוא לא פרווה בעיני אחרים? לא יכול להיות שמונח שנמצא בשימוש עשרות שנים היה פוגעני עשרות שנים? "מעולם לא נתקלתי במתכנת שנעלב מקוד..." אני זוכר את השפה שבה השתמשו כלפי נשים במשרדים בשנות השבעים והשמונים, אני בטוח שמי שהשתמשו בה חשבו שהם מעולם לא נתקלו באשה (או הומו, או נכה, או אוטיסט, או ערבי, או רוסי וכו') שנעלבת מהשפה הזאת... אני חושב שאתה מפספס את הנקודה של הלינטרים האלה. יש הבדל בין רפוסיטורי סגור עם מספר תורמים מצומצם (200 מפתחים) מתרבות אחת (או שלוש) לרפוסיטורי פתוח או רפוסיטורי עם אלפי תורמים מכל העולם. מה שבעינך לא פוגעני יכול להיות פוגעני בעיני מישהו אחר שבא מתרבות אחרת לגמרי עם רגישויות אחרות משלך. (הבעיה היא לא במילים Black או White אלא ספציפית במושגים רשימה שחורה ורשימה לבנה בהקשר של איסור והתרה) |
|
||||
|
||||
==> לא יכול להיות שמונח שנמצא בשימוש עשרות שנים היה פוגעני עשרות שנים? יכול להיות. אבל גם יכול להיות, שרטרואקטיבית, מנסים להצמיד למונח קונוטציה גזענית שמעולם לא היתה בו. השאלה היא מה קורה במקרה הזה. לדעתי זה דיי ברור שזוהי האופציה השנייה, שהרי המונח blacklist קיים מאות שנים, והמונח black בהקשר גזע הוא מונח משנות ה 60. ==> הבעיה היא לא במילים Black או White אלא ספציפית במושגים רשימה שחורה ורשימה לבנה בהקשר של איסור והתרה למילים שחור ולבן יש משמעות סימלית (בהרבה מאד שפות) מעבר לעניין גזע. ע"ע white lie, black market , black sheep black hole. התהליך שבו מנסים להצמיד קונוטציה גזענית לביטויים מסויימים, לדעתי משיג בדיוק את התוצאה ההפוכה. במקום לייצר סביבה בטוחה ובריאה, הוא מייצר סביבה שבה אתה נאלץ לחשוב על זה כל הזמן. |
|
||||
|
||||
גם אלפי שנים- "אִם יִהְיוּ חֲטָאֵיכֶם כַּשָּׁנִים כַּשֶּׁלֶג יַלְבִּינוּ"1. הלבן מסמל טהרה במספר תרבויות. ______________ 1 ישעיהו א, י"ח. אבל הניגוד שם הוא לא לשחור אלא לאדום- "כשנים" מתייחס לתולעת השני, כפי שמראה חלקה השני של התקבולת- "אִם יַאְדִּימוּ כַתּוֹלָע כַּצֶּמֶר יִהְיוּ." לא ראיתי הקשר שלילי לשחור בתנ"ך. אם כבר אז להיפך- "שְׁחוֹרָה אֲנִי וְנָאוָה". |
|
||||
|
||||
בתרבות היורובה בניגריה, הצבע הלבן נלבש לעיתים קרובות על ידי כוהנים וכוהנות כסמל לטוהר ולקרבה לאלוהות. אופי (Ofi) - לבן בהיר ("טהור"). גזענים! |
|
||||
|
||||
אם מתייחסים למשמעויות של המילה לבן, ראוי לציין את הפרק the whiteness of the whale בספר מובי דיק - שבו מדברים על המשמעויות של הצבע הלבן בתרבויות שונות מסביב לעולם. |
|
||||
|
||||
א-פרופו מובי דיק: בלי גוגל ו/או בינה מ., מי יודע מה משותף לספרים הבאים: To Kill A Mockingbird by Harper Lee
Harry Potter and the Goblet of Fire by J.K Rowling Fahrenheit 451 by Ray Bradbury The Catcher in the Rye by J.D. Salinger 1984 by George Orwell Catch-22 by Joseph Heller Moby Dick by Herman Melville ? |
|
||||
|
||||
זכו ב"הספר הכי נמכר" או בדירוג אחר של ספרי מופת בשנה כזו או כזו? או, יש לי רעיון אחר - הספר הכי עבה שפרסם אותו סופר? ______ הארי פוטר נראה לי בעייתי מבחינת התיזה השנייה (המופתיות). ואת דעתי על השפן בשדה התפסון כבר פירטתי כאן לעייפה. |
|
||||
|
||||
אולי.. ספרים נחשבים שזכו לביקורת צוננת למדי כאשר יצאו? |
|
||||
|
||||
שבסרט שנעשה על פי הספר: * שיחק מישהו מסוים? * שונה פרט עלילתי מרכזי? * יש שגיאה ברורה וזועקת לעין? |
|
||||
|
||||
מצטער, הרשימה נוצרה כתוצאה מקריאה חפוזה שלי שגרמה לחוסר הבנת הנקרא. נא להתעלם. |
|
||||
|
||||
פעם: זכו נזיריה משלג, צחו מחלב, אדמו עצם מפנינים, ספיר גזרתם. היום: חשך משחור תארם, לא ניכרו בחוצות, צפד עורם על עצמם, יבש היה כעץ. |
|
||||
|
||||
תודה. |
|
||||
|
||||
ניטפוק: דווקא במקרה של white tie המשמעות אינה סמלית במיוחד. לשם השוואה: black tie. זה סתם במקרה צירוף הבגדים הזה התקבע כמשהו רשמי ומייצג. ואם כבר: white label שהתנתק מהצבע. |
|
||||
|
||||
כתבתי white lie, דהיינו שקר לבן.. |
|
||||
|
||||
הטענה היא ש-blacklist הוא מונח שקיים מהמאה ה-17 בהקשר של מי רשאי לעבוד ומי לא, ובהחלט, לפי הטענה, היו לו קונוטציות גזעניות, להבדיל מחור שחור שתמיד התייחס אך ורק לצבע של החור. אבל, זה בכלל לא משנה. אנשים אומרים לך ששימוש במושגים האלה פוגע להם ברגשות. אתה יכול להתעלם מזה, אתה יכול לצחוק על זה, אתה יכול לקבל את זה... אבל להתווכח עם אנשים לגבי הרגשות שלהם ולהסביר להם שהרגשות שלהם לא הגיוניים זה... טוב, בעיני זה לא הגיוני. |
|
||||
|
||||
==> אנשים אומרים לך ששימוש במושגים האלה פוגע להם ברגשות.. להסביר להם שהרגשות שלהם לא הגיוניים זה.. למען הסר ספק, לא הסברתי לאף איש שהרגשות שלו "לא הגיוניים". באשר ליתר דבריך: א. הטענה שלביטוי היו במאה ה 17 קונוטציות גזעניות היא טענה עובדתית. בתור שכזו, אפשר לבחון אותה. לטעמי, הטענה הזו היא על כרעי תרנוגלת במקרה הטוב. בקישור שהבאת, מקשרים למאמר אחר. המאמר האחר מספק לנו את הציטוט הבא מהמילון: list of persons who have incurred suspicion,” 1610s, from black (adj.), here indicative of disgrace, censure, punishment (attested from 1590s, in black book) + list (n.). Specifically of employers’ list of workers considered troublesome (usually for union activity) is from 1888 מיד לאחר מכן, המאמר כותב שראוי לציין שהשימוש במילה חל באותו זמן של סחר עבדים למושבות באמריקה. לדעתי ברור שבציטוט עצמו אין סימנים לקונוטציה גזענית וכדי להצמיד את הקונוטציה לביטוי, המחבר נאלץ לציין את הנושא של סחר העבדים. מאולץ מאד. ותוסיף על כך שהמילה black עצמה יש לה הרבה משמעויות אחרות ודווקא המשמעות של ציון גזע היא צעירה יחסית.ב. קרא את הלינק ששלחת. הלינק ששלחת מספק נימוקים למה להפסיק את השימוש במונח blacklist. הנימוק "אנשים אומרים לך ששימוש במושגים האלה פוגע להם ברגשות" פשוט לא מופיע שם. לעומת זאת, כן מופיע הנימוק שהשימוש במילה עשוי לקבע סטריאוטיפים גזעניים, בגלל שזה מחזק קישור של הצבע השחור עם אספקטים שליליים. באותה נשימה מוזכר הביטוי השלילי black sheep שדיברתי עליו (אני תוהה האם גם לביטוי הזה מישהו ימצא הסבר גזעני). אני חושב שההיפך הוא הנכון. הצביעה (הא) של ביטויים מסויימים כגזעניים היא זו שתגרום לקיבוע של סטריאוטיפים שלילים. ועל כך מישהו כבר כתב מאמר1. נ.ב. 1 רואים שהמחבר אמריקאי, בראש הכתבה הוא מציין שהוא מהגר, הומו, ומזדהה כליברל. |
|
||||
|
||||
אני מרשה לעצמי להשתמש בטיעונים שלא כתובים במאמרים להם אני מפנה. |
|
||||
|
||||
נהדר. |
|
||||
|
||||
סליחה. אם כך, אשמח לקבל מקור - אם יש לך כזה - לטענה שלביטוי blacklist היה במקור, במאה ה 17, בעל קונוטציה גזענית. |
|
||||
|
||||
אם השאלה שלך היא מסקרנות אינטלקטואלית, אני יכול לחפש מקורות אחרים - אני חייב להודות שזה לא כל כך מעניין אותי ונראה לי שיש לך גישה לאותו גוגל שלי יש. אם השאלה שלך נוגעת להמשך הדיון, אני לא מבין איך זה יקדם אותו. הבאתי קישור לטענה, לא אמרתי שהיא נכונה, אמרתי שהיא קיימת. הנכונות שלה חסרת חשיבות בעיני (למען האמת, גם הקיום שלה חסר משמעות) - להלן: "זה בכלל לא משנה" בתגובה שלי. |
|
||||
|
||||
אם כך אני אסכם את העמדה שלי. 1. זה ש"קיימת טענה" על כך שלביטוי היה במקור קונוטציה גזענית, והטענה הזאת היא שקרית (לטעמי), והיא מופיעה במסמך ההנחיות שקישרת אליו - זה בעיני רמז. רמז לכך שזוהי טעות לאסור על השימוש במונח blacklist 2. לא משנה מה הסיבות לאסור על השימוש במונח blacklist - לדעתי התוצאה תעשה יותר נזק מתועלת. |
|
||||
|
||||
2. יצא לי להשתמש בכל מיני מונחים בעבר. כולל allowlist או blocklist וכו׳. אף פעם לא היו לי סנטימנטים בנושא ואף פעם לא היה לי חשוב להשתמש במונח blacklist. מאז שנתקלתי בתופעה הזאת של הלינטרים שצועקים על הצורך ב - "inclusive language״, אני גם מכבה את החוק וגם תמיד דואג להשתמש במונח blacklist. אם וכאשר אני מוצא בקוד איזכור של המונח blocklist, אני משנה ל-blacklist. בשם העקביות, קצת בשביל הפרנציפ ובעיקר בגלל ההומור השחור1. _______________ 1 אופס, סליחה. בשביל ההומור האפרו אמריקני. |
|
||||
|
||||
וכאן נגמרת המקוריות שלך? מה עם קצת קולטורה? Liste noir
Liste blanche |
|
||||
|
||||
למה הלבן פותח בשחמט? האם זה גזעני? האם כדאי לשנות את זה? |
|
||||
|
||||
אם אני מבין נכון, הפתיחה של 2 ("לא משנה מה הסיבות לאסור על השימוש במונח") משאיר את הדיון על 1 כחסר חשיבות ואתה מסכים איתי שזה לא משנה. אם כך, לכאורה, השאלה עליה אנחנו לא מסכימים היא האם האיסור יוביל לנזק1 או לא. אבל, אני חושב שגם הטענה הזאת לא רלוונטית. זה לא שאנחנו מקיימים דיוןן האם לצבוע ביטויים מסויימים כגזעניים אלא בהנתון שיש מי שצבע ביטויים מסויים כגזעניים מה הדבר הראוי לעשות. לדעתי, ברגע שניסחנו את זה ככה, ואני לא רואה דרך אחרת לנסח את אי ההסכמה ביננו מאשר ככה, התשובה צריכה להיות ברורה מעליה. 1 הנזק, אם אני מבין נכון, הוא ש"הצביעה (הא) של ביטויים מסויימים כגזעניים היא זו שתגרום לקיבוע של סטריאוטיפים שלילים". |
|
||||
|
||||
עשית סלט שלם ממה שאני טוען, אז אני אתחיל מחדש. אנשים מסויימים *טוענים* שהביטוי blacklist מקורו גזעני. אבל הטענה הזו היא שקרית, כמו שהראיתי. יש מרחק גדול בין "הביטוי פוגע ברגשות" לבין "הביטוי מקורו גזעני" ופיסת דרך לא פחות ארוכה אל "הביטוי גזעני היום"1 . נגיד שמישהו מבקש מחברה תוכנה לאסור על שימוש בביטוי blacklist, מהנימוקים הבאים: א. שקר כלשהו על גזענות ב. "זה פוגע ברגשות שלי ו עלול לפגוע ברגשות של.." (לדעתי, *ברוב המקרים* זה חשש לפגיעה ברגשות ולא עובד אמיתי שאומר - זה פוגע ברגשות שלי). אותה חברה יכולה לעשות אחת משני דברים: - לאמץ את המדיניות הזו - לא לאמץ אתה דרך הפעולה הראשונה רק גורמת נזק. 1. היא מדרון חלקלק שרק מזמין עוד שקרים. 2. זה מחזק סטריאוטיפים שליליים אצל אנשים שמעולם לא חשבו על הקשר בין blacklist לבין שחורים. כולל לייצא את הסטריאוטיפ אל אנשים שהיו בלתי מודעים לעניין כי הם מתרבות לא קשורה לפוליטקת הזהויות האמריקאית. ע"ע הקישור שהבאתי. 3. עלול לגרום לתגובת נגד. ע"ע האנקדוטה של אביב. דרך הפעולה העדיפה היא לא לאמץ מדיניות כזו. בתור תשובה לבקשה, אפשר להסביר ש(באמת!) צר להם על הפגיעה ברגשות - אם וכאשר יש כזו - אבל הביטוי אינו גזעני ואימוץ המדיניות עלול לגרום לנזק שעולה בהרבה על התועלת ההיפוטתית. ---- 1 המשמעות של הביטוי blacklist בימינו בוודאי אינו קשור לשחורים והרבה פעמים גם לא בהכרח מדבר על אנשים. |
|
||||
|
||||
אני לא חושב שהראת שהטענה הזאת היא שיקרית. הראת שיש מי שטוען שהיא שיקרית. זה לא אותו הדבר. בהחלט יש מרחק גדול בין "הביטוי פוגע ברגשות" לבין "הביטוי מקורו גזעני" ופיסת דרך לא פחות ארוכה אל "הביטוי גזעני היום", אבל, נראה היה לי שהסכמנו שרק הראשון מעניין. לגבי הנזק: 1. אתה באמת חושב שיש אנשים אם אינטרס לחפש מושגים מקובלים ולהמציא עליהם שקרים? מהו (האינטרס)? מי מרוויח מזה? מי מפסיד? 2. זה לא נימוק למה לא לאמץ את המדיניות בהנתן שהיתה פניה כזאת, זאת נימוק למה לא לבצע פניה כזאת. משהפניה נעשתה, הנימוק הזה חסר משמעות. 3. איזה תגובת נגד? למיטב הבנתי, האנקדוטה של אביב מתרחש בחברה שלא קיבלה פניה כזאת. אני לא חושב שלהסביר למישהו למה הרגשות שלו מוטעים היא דרך פעולה עדיפה. למעשה, זאת נשמעת לי דרך פעולה פשוט לא חכמה. אם אני זוכר נכון, זאת היתה התגובה הראשונה שלי, ונראה לי שעם כל הסדר שעשית בסלט נשארת עם אותה בעיה. |
|
||||
|
||||
אני מצטער, איבדתי אותך לגמרי במשפט 2. האם יכול להיות שהתבלבלת בתחביר? נניח שאני מנהל חברה. קראתי את הפתיל והשתכנעתי שהמדיניות (שביקשו ממני לאמץ) תגרום לנזק. למה לי לאמץ אותה? כי מישהו פנה לגביה? כי אין למבקש סיבה לשקר? ==> להסביר למישהו למה הרגשות שלו מוטעים היא דרך פעולה עדיפה.. זהו איש קש. לא הסברתי לאנשים שהרגשות שלהם מוטעים. יתרה מכך, כתבתי מפורשות: צר לנו על הפגיעה ברגשות אם וכאשר היא קורית. |
|
||||
|
||||
אתה מתכוון למשפט השני למשפט 2 ב"לגבי הנזק" ("זה לא נימוק למה לא לאמץ...")? אם טעיתי אני לא רואה את הטעות. למיטב הבנתי הוא נשמע לי מדוייק תחבירית ומביע את מה שרציתי שיביע (ואגב, הוא חוזר על מה שכתבתי בתגובה 771234 בניסוח קצת אחר, ככה שהוא לא צריך להיות חדש לך, אם כי, כשאני קורא את התגובה שלך, נראה לי שגם מהתגובה הזאת די התעלמת/לא הבנת). אני אנסה לנסח אותו מחדש (בתקוה שזה לא בזבוז זמן). יש שני דיונים שונים: (1) אתה מנהל חברה, פנה אליך עובד (או לקוח) ואמר לך: "השפה הזאת פוגעת לי ברגשות, היא גורמת לי להרגיש לא בנוח, מצאתי תחליף שמבטא את אותם מושגים בצורה לא פחות מובנת, קלה לביטוי וכתיבה, מקובלת, ושלא פוגעת באף אחד אחר, אני מבקש שלהבא תנסה להשתמש בשפה פחות פוגעת במידת האפשר". אתה יכול (א) לצחוק עליו, (ב) לפטר אותו, (ג) להתעלם ממנו, (ד) להסביר לו למה הרגשות שלו לא נכונים, (ה) להסביר לו שהנזק שבלהתחשב בו גדול מהנזק שבהתפטרות שלו, (ו) לנסות להתחשב בו. זה, למיטב הבנתי, הדיון שלנו. לדעתי, בדיון הזה יש אפשרות אחת שהיא מובנית מעליה, ואין לזה קשר לאיזה מושגים פוגעים בו, למה הם פוגעים בו, אם הפגיעה מוצדקת וכו'. כל זמן שהוא לא משקר, ושהרגשות שלו באמת נפגעים, ושהוא עובד שיקר לחברה, ושהשינוי הוא זול לחברה, לדעתי אין כאן באמת דילמה. (2) הבת שלך התחילה לעבוד בעבודה חדשה והיא באה אליך ואומרת לך: "בחברה שאני עובד בה משתמשים במושג שאני חושב שהוא פוגעני, מה עלי לעשות?". למיטב הבנתי, זה דיון אחר לגמרי. כשזה הדיון, לדעתי, מה שצריך לנסות לבדוק זה (בין השאר) האם הביטוי באמת פוגע? למה הוא פוגע? כמה הפגיעה משמעותית? מה החלופות ההגיוניות? האם יש טעם בלפנות להנהלה? האם יש טעם בלשקול התפטרות? וכו'. למיטב הבנתי, זה הדיון אותו אתה מנסה לנהל, ואני חושב שכשזה נעשה בין הנהלה לעובדים אחרי ש(1) עלה זה פשוט לא במקום ואין שום סיכוי שזה יעבוד. אני לא רואה כאן איש קש, זה מה שכתבת: "צר להם על הפגיעה ברגשות - אם וכאשר יש כזו - אבל הביטוי אינו גזעני" שזה ניסוח קצת יותר מנומס ל"אין שום סיבה שזה יפגע לכם ברגשות, ובכלל אני בספק אם הם באמת נפגעו". |
|
||||
|
||||
כל זמן שהוא לא משקר, ושהרגשות שלו באמת נפגעים, ושהוא עובד שיקר לחברה, ושהשינוי הוא זול לחברה, לדעתי אין כאן באמת דילמה. לצורך השיחה, נמדוד רווח ונזק לחברה בדולרים. נניח שעובד א מבקש לשנות מדיניות. הרווח ההיפוטתי משינוי המדיניות הוא 100 דולר. עובד ב אומר שהנזק ההיפוטתי משינוי המדיניות יהיה 1000 דולר. נניח לצורך הדיון שעובד א ועובד ב לא משקרים. למה לאמץ את המדיניות? |
|
||||
|
||||
אני לא בטוח שאני מבין את השאלה, זה לא התפקיד של העובדים להעריך את הרווח וההפסד ולרוב זה לא משהו שהם מסוגלים לעשות (ובטח שלא "לשקר" בו). ככלל (אני מקווה שאני עונה לשאלה שלך, אבל כאמור, לא בלתי סביר שאני עונה לשאלה אחרת שלא באמת מעניינת אותך) - אם אני מנהל של חברה למטרות רווח, ואני צריך לקבל החלטה לגבי שינוי מדיניות מהסוג הזה, אני אקבל את ההחלטה שתמקסם את הרווח (או תמזער את ההפסד) של החברה. מצד שני, אני חושב שאם הייתי מנהל של חברה עם יותר מעובד אחד לא הייתי קם בבוקר בשביל לדון על מדיניות שהרווח שלה הוא 100 דולר. |
|
||||
|
||||
==> זה לא התפקיד של העובדים להעריך את הרווח וההפסד זאת התחמקות. בעצמך אמרת שאם "זול לחברה" לאמץ את שינוי המדיניות, היא צריכה לעשות את זה. כלומר, לשיטתך, במסגרת השיקולים של החברה לאמץ את המדיניות, העלות/תועלת נקלחת בחשבון. כל מה שאני אומר הוא שבאימוץ המדיניות (של איסור השימוש במילה blacklist), הנזק עולה על התועלת. את הנזק תארתי בתגובה 771244 תחת הכותרת: דרך הפעולה הראשונה רק גורמת נזק. ==> לא הייתי קם בבוקר בשביל לדון על מדיניות שהרווח שלה הוא 100 דולר. למען הסר ספק, 100 דולר הוא דוגמא מספרית כדי להמחיש את התועלת והנזק. אם תרצה, תחליף את זה בנקודות קארמה. התועלת שעשויה להגרם היא 100 יחידות קארמה. הנזק שעשוי להגרם הוא 1000 יחידות קארמה. |
|
||||
|
||||
הרשה לי לצטט את עצמי: "אם אני מנהל של חברה למטרות רווח, ואני צריך לקבל החלטה לגבי שינוי מדיניות מהסוג הזה, אני אקבל את ההחלטה שתמקסם את הרווח (או תמזער את ההפסד) של החברה." נראה לי שזה עונה לשאלה שאתה שואל בלי שום התחמקות. לגבי העלות של הנזק, עניתי לך בפירוט במקום. |
|
||||
|
||||
סבבה. אז אתה מסכים איתי שאדם שחושב, כמוני, שהנזק עולה על התועלת ידחה את הבקשה לשינוי מדיניות. נהדר. |
|
||||
|
||||
בוודאי. וההפך? אדם שחושב, שהתועלת עולה על הנזק? |
|
||||
|
||||
ברור שהוא יאמץ מדיניות שכזו. |
|
||||
|
||||
לגבי הסיפא. הניסוח שלך הוא צורה מנומסת להגיד "אתה משקר". האם אתה חושב שכאשר אני אומר שצר לי אם יש עובדים שנפגעים מהביטוי blacklist - אני משקר? אז אני לא. אולי אתה חושב שאסור לי להגיד על הביטוי שהוא איננו גזעני? שזה בלתי מתחשב מצדי? מצטער - אני לא מקבל את זה. יש מרחק גדול מאד בין ביטוי גזעני לבין ביטוי שפוגע ברגשות - וגם אתה הסכמת לזה. |
|
||||
|
||||
אני חושב שאם אתה אומר למישהו: "פגעת בריגשותי" והוא עונה לך: "צר להם על הפגיעה ברגשות - אם וכאשר יש כזו" הוא אומר לך שהוא לא מאמין לך. מצטער, הסיום הזה מבטל לחלוטין את הפתיחה. אני חושב שמותר לך להגיד מה שאתה רוצה. אני לא חושב שכתבתי משהו שממנו יכול להשתמע שזה לא המצב. |
|
||||
|
||||
==> אם אתה אומר למישהו: "פגעת בריגשותי" והוא עונה לך.. עצור פה, זה לא מה שתארתי בתגובה 771244. אני מבקש ממך בפעם הרביעית, לא להכניס מילים לפי ולטעון שאני אומר לאנשים איך להרגיש. אני מרשה לך לנסח את זה בתור שאלה. אלמוני: האם אתה אומר לאנשים איך הם צריכים להרגיש? אח של אייל: לא. אני חושב שרוב פעמים, בקשות כאלו מגיעות בקשר לפגיעה <מודגשת פוטנציאלית> ברגשות. במצב הזה החברה צריכה להכיר בכך שלפעמים עובדים אכן עשויים להפגע מהמילה הזו. אפילו עובדים שלא מתלוננים. אפילו עובדים שהיום עוד לא עובדים בחברה ואולי יעבדו בעתיד. לכן כתבתי ואני מצטט: "בתור תשובה לבקשה, אפשר להסביר ש(באמת!) צר להם על הפגיעה ברגשות - אם וכאשר יש כזו". המשפט הזה הוא לא אופטימלי ובטח אני לא הייתי מנסח אותו בעצמי, אלא הייתי נותן למישהן אחר לנסח. הנקודה החשובה היא לא הניסוח של המשפט אלא המסר שצריך להעביר. 1. מכירים בזה שאנשים עלולים להפגע (כולל אנשים שהם לא חלק מהשיחה). 2. דוחים בצורה ברורה אמירות שהן שקר. האמירה "הביטוי הוא גזעני" היא שקר, ואין דרך להחליק את השקר זה ע"י דיבורים על רגשות. 3. בפועל הבקשה תשקל לפי ענייני עלות/תועלת - כמו כל דבר. לסיכום אני פונה אל הלב שלך. תעשה את המאמץ המינימלי הזה ותפסיק להכניס מילים לפי. אם אתה חושב שיש איזשהו סאבטקסט במה שכתבתי, אתה מוזמן לשאול. |
|
||||
|
||||
לא, זה לא מה שתארת בתגובה 771244. אני יודע את זה. אני מנסה להסביר לך למה השימוש ב"אם וכאשר יש כזו" מבטל את ה"צר להם על הפגיעה ברגשות" על ידי נסיון לתת ניסוח זהה בהקשר אחר. שים לב שעכשיו, בניסוח היותר אופטאימלי(?), הוצאת את החלק הזה לגמרי והפסקת להגיד לאנשים איך הם מרגישים. לא הכנסתי לך מילים לפה, התייחסתי לניסוח שלך, והסברתי כמה פעמים איפה הבעיה בו. אולי, עדיף היה מרגע שראית שהניסוח הוא לא אופטימלי לנסח מחדש? |
|
||||
|
||||
אני אומר שהכנסת לי מילים לפה. אתה אומר שלא. שהקוראים ישפטו. התגובה הראשונה שלי היתה תגובה 771177 |
|
||||
|
||||
המטרה היא לא להתחשב ברגשות שלהם. אני מסכים שאי אפשר להתווכח עם רגשות. אולי הפתרון הוא להעמיד רגשות מול רגשות. למשל- רגישות יתר למונחים שנחשבו תמיד נייטרליים פוגעת לי ברגשות. תפסיקו לעשות את זה כי אתם פוגעים בי. |
|
||||
|
||||
"אולי הפתרון הוא להעמיד רגשות מול רגשות" הפתרון למה? |
|
||||
|
||||
ללא להתחשב ברגשות שלהם |
|
||||
|
||||
איך הצורך להתחשב ברגשות של עמיתך לעבודה היא "בעיה"? |
|
||||
|
||||
אם ברגשות הספציפיים האלה אני לא מעוניין להתחשב, זאת נראית לי דרך הפעולה המתאימה. אני כזה, יש רגשות שאני לא רוצה להתחשב בהם. |
|
||||
|
||||
אם אתה לא רוצה להתחשב ברגשות ספציפים1 אז הדבר הראוי לעשות הוא לבחור מקום עבודה בו לא מתחשבים ברגשות כאלה (נראה לי שיש בדיון הזה כמה מגיבים שמצאו מקומות כאלה, אז זה בטח לא קשה). אני לא מבין איך לשקר באמת יפתור את הבעיה הזאת - ז"א זה לא שהרגשות שלהם יפסיקו להפגע. בסופו של דבר, אם מקום העבודה הוא לא נעים אז העובדים יעזבו אותו. העובדה ששיקרת להם לא תגרום למקום העבודה להיות נעים יותר לאף אחד (גם לא לך, אגב). 1 למה, למען השם, לא? כל כך נורא לא לכתוב Whitelist? |
|
||||
|
||||
בפועל אני באמת עובד לבד. אבל זה בכלל לא שקר. יש רגשות שהביטוי שלהם מעצבן אותי מאוד- פוגע ברגשותי. זה עובד גם הפוך- כשאני נפגע ומתרגז אני נוטה לבטא את זה בצעקות רמות (לא מקלל ומנבל את הפה, רק צועק את הדברים בצורה מאוד אגרסיבית). זה ביטוי של הרגשות שלי שכנראה לא יהיה מקובל במקום עבודה. כלומר אני מוכן שלא יתחשבו גם ברגשות מסויימים שלי. ר''ל- גם לשתף את העולם ברגשות שלך יכול להיות דבר לא מנומס. עובדים שיעזבו מקום עבודה בגלל שבחר לא להכנע לחירפון אופנתי, מבחינתי שיבושם להם. אם מקום העבודה בוחר לשמור עליהם ולהכנע לחירפון- שיבושם לו. לו הייתה לי אפשרות לעזוב כמוהם- אני לא הייתי נשאר במקום כזה. |
|
||||
|
||||
אז לא הבנתי את ה"פתרון" שלך, ויותר מזה, אני באמת לא ממש מבין את הבעיה שלך ומה הפתרון מנסה לפתור, והססמא ""חירפון אופנתי" לא עוזרת לי בכלל. לא לעשן במשרד זה "חירפון אופנתי"? להמנע מלצבוט את ישבנן של נשים זה "חירפון אופנתי"? לא לקלל זה "חירפון אופנתי"? לא לספר בדיחות גסות זה "חירפון אופנתי"? לבנות רמפות לנכים זה "חירפון אופנתי"? לא לשים ברזיה נפרדת ללבנים ולשחורים זה "חירפון אופנתי"? לא להעליב עובדים זה "חירפון אופנתי"? איך אתה מחליט? |
|
||||
|
||||
על כל השאלות שלך- לא. אני מחליט לפי שיקול דעתי. האמת כל אחד מחליט לפי שיקול דעתו מה זה חירפון אופנתי. כריות לכתפיים בשנות השמונים היו לטעמי חירפון אופנתי, היום אלו המגדלים על ראשי נשים מאמינות. שניהם פוגעים לי בחוש האסתטי. על איך אנשים מתלבשים אין לי say (חוץ ממזכירה שהיתה לי פעם ובאה לעבודה עם מחשופים עמוקים מדי לטעמי). הזהירות המופרזת משימוש במלים שעלולות לייצר טריגר במסגרת הזהירות המופרזת מטריגרים בכלל היא לטעמי חירפון אופנתי מסוכן יותר מאשר פריט לבוש מוזר. לדעתי זו ממש התיילדות, ואני לא אסמוך על אנשים שלקו בה שהם באמת בוגרים. |
|
||||
|
||||
יש לך ספק שהיו אנשים שחשבו שכל אחד מהדברים האלה (ועוד) הם חירפון אופנתי? איזה סיבה יש לך להאמין בכזה ביטחון שהם טעו ואתה צודק? |
|
||||
|
||||
השרש צ.ד.ק. לא הופיע בתגובות שלי, רק השרש ט.ע.מ. יש לי בטחון גבוה מאוד בטעם שלי, ואפילו אשתי סומכת עליו ברוב המקרים! |
|
||||
|
||||
עם כל הכבוד, המושגים בהם השתמשת1 הם לא מושגים שמשתמשים בהם כשיש לך ספקות. העובדה שלא השתמשת במילה המפורשת "צודק" לא מסתירה את הביטחון שיש לך בצדקת טעמך ובסכנת (כן השמשת בשורש הזה) טעמם של אחרים. אם יכול להיות שאתה טועה, למה לא לצאת, ולו רק לצורך הדיון, מההנחה שאתה טועה? 1 שים לב למילים המודגשות: "הזהירות המופרזת משימוש במלים שעלולות לייצר טריגר במסגרת הזהירות המופרזת מטריגרים בכלל היא לטעמי חירפון אופנתי מסוכן יותר מאשר פריט לבוש מוזר. לדעתי זו ממש התיילדות, ואני לא אסמוך על אנשים שלקו בה שהם באמת בוגרים." |
|
||||
|
||||
כי אין צודק וטועה. לי אין ספקות בטעם שלי, ולאחר לא יהיו ספקות בטעם שלו. הנמקות רציונליות לא יעזרו כשמדובר ברגשות וטעמים. אם משהו צורם לי, שום הנמקה רציונלית לא תגרום לצרימה להעלם. אם יש לי פחד גבהים, שום הנמקה רציונלית לגבי מה בטוח ומה לא, לא תוכל להפיג את הפחד שלי. יהיו מקרים שאני אפחד ואטפס לגבהים בכל זאת, כי התועלת תגבר על הפחד, אבל זה לא אומר שאני לא אסבול מהפחד. מה שכן רציונלי הוא לא לסמוך על אנשים שמתיילדים. אבל השאלה אם זו התיילדות או לא אינה מוכרעת באופן רציונלי אלא ערכי, בהתאם לחינוך שקיבלת וערכי החברה וקבוצות ההתייחסות שלך. |
|
||||
|
||||
למיטב הבנתי, סכנה זה לא עניין של טעם. |
|
||||
|
||||
וודאי שכן. תחושת הסכנה היא אישית ושונה מאדם לאדם. אחד ירגיש סכנה בים עם גלים גבבוהים, שני על מצוק, שלישי כשביבי בשלטון, וכן הלאה. |
|
||||
|
||||
א. תחושת סכנה, כמו תחושת צדק, או "תחושת חום" שונה מסכנה, צדק או חום. דיברת במפורש על סכנה ולא על "תחושת סכנה". ב. השאלה שלי היתה: "כמה אתה בטוח שאתה צודק" אם אני אפול ממטוס אני אחוש תחושת סכנה ואני אהיה בטוח לחלוטין שהתחושה הזאת מוצדקת. אם אני אעלה על רכבת הרים אני אחוש תחושת סכנה, ואני אהיה בטוח לגמרי שהתחושה הזאת לא מוצדקת. אז, גם אחרי שסיכמנו שאתה מדבר על תחושת סכנה ולא על סכנה, אני עדיין משוכנע לחלוטין שלגיטימי לשאול: "כמה אתה משוכנע שהתחושה הזאת מוצדקת?". |
|
||||
|
||||
אני משוכנע שיש סכנה בהתיילדות. אני לא יודע למדוד אותה אובייקטיבית, או אם היא בכלל מדידה. הרי יש המון משתנים. העתיד יגיד אם צדקתי או לא, ובטח גם בדיעבד יהיה אפשר להתווכח. דוגמה שנראית לי רלבנטית - לא הרשיתי לילדים שלי לשחק GTA עד גיל 15, והסברתי להם למה. ראיתי סכנה שזה ישפיע על תפיסות מסויימות שלהם. האם המשחק היה משפיע עליהם באמת? לא יודע, כי אי אפשר לקחת קבוצת ביקורת. אבל אני הייתי אז ונשארתי היום מאוד שלם עם הבחירה הזו. |
|
||||
|
||||
לא בטוח שהבנתי את התשובה (אם זאת היתה תשובה). גם כשמדברים על סכנה לא אובייקטיבית, נגיד, הסכנה שארסנל תהיה אלופה (אני מניח שמבחינת אוהדי ארסנל היא לא סכנה אלא תקוה), אפשר להגיד מתי הסכנה הזאת עלולה להתרחש (בסיום העונה?) - יש נקודה בזמן שאחריה נוכל להגיד אם צדקנו או טעינו, אפשר לנחש מה יקרה אם היא תתרחש ומה יקרה אם היא לא תתרחש, ומי שחושש מסכנה כזאת יכול להגיד גם היום, כמה הסיכון שזה יקרה הוא אמיתי (לא במספרים מדוייקים, אבל בכל זאת, יותר מ4% ופחות מ30%). כשאתה אומר שבדיעבד אפשר יהיה להתווכח - מתי הבדיעבד הזה יתרחש? האם אפשר יהיה להתווכח על האם הסכנה התרחשה או להתווכח על האם זאת היתה סכנה או תקוה? אם היא לא מדידה, אז אולי היא בכלל לא סכנה? מה הסכנה הזאת בכלל? אני לא בטוח איך הדוגמא שלך רלוונטית ומה היא אמורה להדגים. קיבלת החלטה בתנאים של אי ודאות ללא יכולת לבדוק את השלכות שלה בזמן קבלת ההחלטה או אחרי זה. בהתחשב בחוסר יכולת שלך לבדוק את נכונות ההחלטה אין לך דרך לדעת אם היא "נכונה" או "לא נכונה" גם עשרות שנים אחרי שקיבלת אותה. בנוסף, גם אם היום תגלה שהיא היתה לא נכונה, לא תוכל לחזור אחרוה ולשנות אותה. כחלק מהטבע האנושי אנשים מתחרטים רק שהוכח להם מעל לכל ספק סביר שהם טעו (ולרוב גם אז לא) אז כשמדובר בהחלטה שאין שום דרך לבדוק אם היא נכונה או לא, אני לא רואה סיטואציה שתגרום לך להחליט שטעית. זה ממש לא המצב כאן. מדובר ב(1)החלטות שאפשר לשנות, (2)בהחלטות שאפשר לבדוק את ההשלכות שלהן ו(3) בנסוי שאנחנו חוזרים עליו כרגע במאות אלפי מקומות שונים עם פרמטרים שונים. ___ בערת אגב, אתה חוזר שוב ושוב על השימוש במילה הזאת - "התיילדות". כשאתה מדבר בשם פחד לא רציונלי מדברים שאתה לא לגמרי מבין שנוצר על ידי מכונת תעמולה שפועלת על מנת להמליך ילד מגודל על העולם החופשי; כשאנשים ב"מחנה" שלך חושבים שלצחוק על רגשות, להתווכח עם רגשות, להתמקח עם רגשות, לעשות דווקא לאנשים שמרגישים פגועים, להכנס לטנאטרום, להסביר לאנשים שהרגשות שלהם לא נכונים, או להכחיש את קיומן של רגשות זאת טקטיקה טובה; אני לא לגמרי בטוח מי הבוגר כאן. |
|
||||
|
||||
''להסביר לאנשים שהרגשות שלהם לא נכונים'' - פעם חמישית. פויה. |
|
||||
|
||||
אני מבין שאתה משוכנע שזה לא מה שעשית ושאין לי שום סיכוי להראות לך שזה מה שעשית פעם אחרי פעם. העובדה שהרמתי ידיים לא אומרת שהשתכנעתי שאתה צודק רק שהשתכנעתי שעל הנקודה הזאת (ולא רק זאת) אין שום סיכוי שנבין זה את זה. |
|
||||
|
||||
הסיפורים על השכנעת/הרמת ידיים לא רלוונטיים. אמרתי לך שאני לא חושב ככה. אתה ממשיך עם זה. אפילו בהודעה למישהו אחר ועל נושא לא קשור. אם זה יעזור לך להפסיק, אז: 1. אתה פוגע ברגשותיי 2. בבקשה תפסיק 3. קל לך מאד למלא את הבקשה במקום להסביר לי שהרגשות שלי לא נכונים, תנסה ליישם את מה שאתה מטיף לו. |
|
||||
|
||||
(זה לא באמת מה שאני מטיף לן, אבל -) כשאתה מציג את זה ככה אני מקבל את הבקשה שלך. סליחה. |
|
||||
|
||||
אני חושב שהדוגמה שלי היתה יותר טובה, כי במקרה שאנחנו מדברים עליו התוצאות של פעולה בכוון אחד או שני אינן מדידות. אולי אם תבדוק במאות חברות שחלקן נהגו כך וחלקן אחרת תהיה לך תשובה, וגם עליה יהיה אפשר להתווכח כמו שעדיין נראה לי שמתווכחים על השפעתו של GTA על נפשם של ילדים רכים. ____ להערת האגב- עצור סוסיך! אני לא במחנה הזה שאתה מנסה לדחוף אותי לתוכו. אתה מכליל בלי הצדקה מרגש מסוים שאני מוכן לפגוע בו לרגשות בכלל. אני משוכנע שגם לך יהיה מקרה בו לא תהיה לך בעיה לפגוע לפגוע ברגשות מסויימים למען מטרות מסויימות. |
|
||||
|
||||
_____ הערת האגב לא קשורה למציאות אפילו יותר מכך. הדיון על פוליטקלי קורקטנס לא נולד אתמול ולא שלשום. זה לא משהו שקשור לקמפיין טראמפ. זה נושא שדנים בו כבר עשורים עם דעות לכאן ולכאן ורבים מהמתנגדים למחנה הפרוגרסיבים ולחיבה שלהם לשיחדש הם בכלל ליברלים עם מסורת ארוכת שנים של הצבעה לדמוקרטים משנות ה 80 ועד היום. חלקם אפילו שונאי דונלד טראמפ עם דיפלומה (לדוגמה, ראה ערך Bill Maher). |
|
||||
|
||||
אני לא חושב שזה דומה לחינוך ילדים, אבל מן הסתם לא הבנתי אותך... אולי אני אבין יותר אם תענה לשאלות בפסקה הראשונה בפתיחה של תגובה 771294. ___ טוב, אני אנסה לנסח את זה בצורה פחות אישית. במשרד של גוגל בציריך יש מגלשה. כשאלון מאסק קנה את טווטר הוא פרסם סרטון שלו נכנס למשרד עם כיור. מערכת ניהול הגרסאות שמנהל 95%1 מהקוד הפעיל היום נקראת גיט. התיילדות בתעשיית התוכנה זה כמו סירופ תירס בעשית המזון2. אם התיילדות היא סכנה אז גם אם תצליח להעלים את האנשים שלא רוצים שיעליבו אותם במקום עבודתם לא תתקרב לפתור את הסכנה הזאת. למיטב הבנתי, הויכוח הוא לא בין "בוגרים" ל"מתיילדים", לא על ערכים ולא על טעם. ניסיתי להסביר את זה כאן. לא קשה לי לחשוב על מקרים (תיאורתיים) בהם לא תהיה לי בעיה לפגוע ברגשות של עמיתים3. אני לא יודע אם זה סימן לבגרות - אבל לא התיימרתי להיות בוגר במיוחד. 1 רציתי להגיד שהקרצתי את המספר הזה, אבל אחרי שכתבתי אותו בדקתי בויקיפדיה וזה המספר שהיא נותנת. 2 אפשר לדמיין עולם ללא - אבל זה לא העולם בו אני חיים. 3 עמית שיפגע מזה שנותנים לשחורים לשתות מאותה ברזיה כמו לבנים יכול ללכת להפגע ככל שירצה. מעסיק שיבחר לא לפגוע בעובד כזה לא יעסיק אותי אלמלא אני אהיה רעב ללחם. |
|
||||
|
||||
למען הסר ספק- אני מצהיר על הערכים שלי לא על מנת להתווכח עליהם אלא רק כדי לשים אותם על השולחן ולשמוע על אחרים ששותפים לערכים הללו או לא. |
|
||||
|
||||
עם כל הכבוד, אני לא חושב שיש כאן דיון על ערכים או על טעם. למיטב הבנתי, מצד אחד יש נסיון להמשיך תהליך של הפיכת מקום העבודה למקום יותר מכיל (inclusive איך שלא אומרים את זה בעברית) לאנשים שונים עם ערכים שונים שבאים מתרבויות שונות. תהליך שהתחיל (בארה"ב, זה בכלל דיון אמריקאי ברובו) בסיום מלחמת העולם השניה כשנשים התחילו לצאת לעבוד, המשיך עם כניסה של שונים (שחורים, יהודים, מהגרים) למקומות העבודה, המשיך עם ביטול מעמד הקלדניות/טלפניות, והיום ממשיך כשמקומות עבודה מסויימים הופכים לגלובלים (ולכן, שוב, ישראלים שעובדים בחברה שכל העובדים בה הם ישראלים ואמריקאים מתקשים להבין). לתהליך הזה, למיטב הבנתי, יש 4 סוגי התנגדות: 1. שמרנות קלאסית - מסוג המי הזיז את הגבינה שלי, או למה פתאום אסור לי להגיד לה שיש לה ישבן יפה. 2. חוסר אמפתיה - לי לא היה מפריע אם היא היתה אומרת לי שיש לי ישבן יפה, למה זה צריך להפריע לה אם אני אומר לה את זה. 3. פחד מאובדן הכח ותחרות. 4. חוסר נוחות ב"ללכת על ביצים". אני מניח שאחרי שהתרגלת להגיד לכל אישה בעבודה מה אתה חושב על הישבן שלה, פתאום לזכור שזה לא מקובל זה קשה ומאלץ אותך לחשוב על מה שאתה אומר. (זאת לא בעיה לאנשים צעירים, לכן לך אין בעיה עם הכללים שאומצו כשאתה היית צעיר ויש לך בעיה עם כללים חדשים) כל הדברים האלה הם לא עניין של טעם או ערכים, הם לפעמים בעיות אמיתיות שחברה שמאמצת מדיניות כזאת צריכה לטפל בהן בסובלנות וסבלנות. מהצד השני, ונראה לי שזה החלק המעניין, יש בארה"ב מכונת זעם שמרנית (במובן הפוליטי של המילה) שמצליחה לעורר אנשים בכל העולם, אנשים שהדברים האלה מעולם לא נגעו בהם ולא יגעו בהם, ובכל זאת מכונת הזעם מצליחה לעורר בהם רגשות עזים בצורה שלא כל כך מובנת לי ולגרום להם להאמין באמונה שלמה שמדובר ב"נזק" או ב"סכנה". בעיני זה מגוחך, למיטב הבנתי, ואחרי שקראתי בהקפדה את כל הנימוקים שלכם, אין לרגשות החזקים שלכם שום הצדקה. |
|
||||
|
||||
אז לגבי 4. חוסר נוחות לגבי התקשורת שלך עם אנשים זה לא דבר פעוט ערך. מבחינתי התקשורת עם אנשים במקום העבודה - גם ברמה המקצועית וגם ברמה האישית - היא אחד הפקטורים המרכזיים בשביעות הרצון שלי ממקום העבודה שלי, ובמוטיבציה שלי לצאת אליו כל בוקר. כשהתקשורת היומיומית הופכת ללא-נוחה, ובכל משפט שאני אומר במסדרון אני צריך לחשוב פעמיים, זה מחיר לא זעום בכלל לשלם וזה פוגע סאיכות החיים שלי בעבודה. כמובן שאין סיבה להסיק מכך את איש הקש ש"בגלל זה זאת סיבה סבירה לומר למישהו שיש לו ישבן יפה". כי אני כמובן לא עושה זאת ולא טוען זאת. אבל כשרמת הפגיעות של אנשים הופכת לכזו שכל משפט סביר מקבל מטען טריגרי עודף, זה בהחלט מהווה פגיעה מתמשכת ברמת התקשורת במשרד. איפה שמים את הקוים למתי זה מוצדק - זה ענין מאד מורכב. אבל אריק מבטא הרגשה של הרבה אנשים - גם שלי לעיתים - שכבר עברנו את הקו שבו באמת נפגעים ממילים פוגעניו, למקום שבו טרנדים פרוגרסיביים הופכים כמעט כל מילה שנייה בשפה לפוגענית - וכן, בהחלט סביר שהטרנד שמספר לך ולכולנו שהמילה פוגענית, ממש *גורם* למילה להיות פוגעניץ לאנשים רבים, ולכן הוא בעצמו גוקם נזק מיותר. |
|
||||
|
||||
אני לגמרי מסכים איתך ואם זה נראה היה כאילו אני מזלזל - זאת לא היתה הכוונה שלי. זה קשה, והקושי מוצדק. וחלק מהמאמץ להפוך חברה למכילה (אני עדיין לא בטוח שכככה אומרים inclusive בעברית) יותר צריך לכלול מאמץ להכיל אנשים שלא מודעים לזה שהם פוגעים ואנשים שרגילים לצורת הנתנהגות שנחשבת פוגענית. יותר מזה, לפעמים יש עובדים שפוגעים בכוונה וגם אותם, לדעתי, צריך לנסות להכיל. זה לא תמיד תהליך פשוט ובחברות רב תרבותיות ורב דוריות זה לא תהליך מובן מאליו. בגלל זה, לדעתי בסיטואציה הספציפית הזאת, לינטרים או פילטרים לאי מייל הם כלים טובים, שעוזרים לך לזכור שהמושג שאתה משתמש בו, מושג שאולי אתה רגיל להשתמש בו כל הזמן, הוא מושג שיכול להחשב פוגעני ושלא נחשב מקובל בחברה שאתה עובד בה כרגע, ושאולי כדאי לשקול להשתמש במושג חלופי. אני מסכים לחלוטין שהשאלה איפה להעביר את הקו היא הרבה פעמים שאלה מורכבת, והעובדה שהקו זז כל הזמן (וימשיך לזוז) לא עוזרת. אריק כתב שהוא עובד לבד, לכן נראה לי שהרגשות שהוא מביע לא רלוונטים לאתגרים איתם אתה נתקל במקום העבודה שלך ויותר לדברים שהוא קורא/שומע שאנשים אחרים (אמיתיים או לא) נתקלים במקומות העבודה שלהם. יש הבדל בין אנשים שמתמודדים עם אתגרים כאלה באמת לאנשים ששומעים על אנשים שמתמודדים עם אתגרים כאלה. "בהחלט סביר שהטרנד שמספר לך ולכולנו שהמילה פוגענית, ממש *גורם* למילה להיות פוגענית לאנשים רבים, ולכן הוא בעצמו גורם נזק מיותר." אני לא חושב שזה (1)סביר, (2)גורם נזק או (3)משנה. אני לא שולט על טרנדים, אני בקושי מודע להם. |
|
||||
|
||||
אני לא מפספס שום דבר. דעתי שונה מזו שלך. |
|
||||
|
||||
הבעיה שלי (והיא בהחלט קיימת) היא עקרונית. לא ספציפית. וזה בכלל לא משנה אם המילים הן "פרווה" או לא. הבעיה היא עם עצם הקונספט הנלעג של חשיבה מאגית, והמטא-אבסורד הנוסף של נוכחותו המורגשת בחיינו היום. בחשיבה מאגית אני מתכוון לייחוס כוח גדול ומיסתורי למילים עצמם, באופן שאינו תלוי בהקשר בו משתמשים בהן ובפונקציה הלשונית שהן ממלאות בו. לרוב היא באה לידי ביטוי באסופת טאבו ופוביות סביב מילים מסויימת ועניינים טכניים סביבן (כמו כתיבתן, מחיקתן או הגייתן). דוגמאות מפורסמות כוללות טאבו סביב אמירת שם האל או איסורים גורפים על מחיקה מכתבי קודש (גם כאשר מדובר שגיאות כתיב, טעויות העתקה או אפילו עריכה מכוונת). יש הבדל ברור וניכר בין חשיבה מאגית כזו (טירוף) לבין סתם ענייני נימוס, שמירה על לשון נקייה וה-euphemism treadmill (כולם שגרתיים). ומכיוון שאני לא סובל ממחלת הנפש הזו, לא תצליח למצוא שום דוגמא מקבילה "מהתרבות שלי" איתה אוכל להזדהות. בפרט, אין לי טאבו על מילים כפולות משמעות רק בגלל אחת ממשמעויותיה. כך למשל "לגמור" או "זין" (כמו ב-"כלי זין") הן כמובן מילים לגיטימיות לחלוטין. התכוונתי להנגיד זאת למילה master, אבל האמת היא שהמצב איתה מטופש אפילו יותר: שם לא ממש מדובר בכפל משמעות, אלא פשוט במשמעות הרגילה בהקשרים שונים. המילה במקרה מתארת מערכת יחסים עם מטענן שלילי בהקשר של בני אדם, אבל ניטרלי בהקשר של תהליכים במחשב1. אמנם מוסכם על כולנו שזה רע שאדם פלוני יהיה אדונו של עבד אלמוני, אבל ברור אפילו יותר שאין בעיה עם כך שמערכת א' תשמש כאדונה של מערכת ב'. ואגב, מישהו אולי יודע אם גם חלק מקהילת ה-BSDM עסוקה במרדף אחרי מונחים חלופיים? (פחות קואופרטיבים בוחשים בענייניהם לעומת מהנדסי תוכנה, אז אפשר לקוות שלא.) בנוסף אני לא מכיר אנלוגיות והיפרבולות שפסולות קטגורית. המשפט "הפקקים אתמול היו פשוט שואה" הוא סתם חסר טעם, לא איזו עבירה תרבותית חמורה. כנ"ל השימוש חסר-הרגישות שלי קודם בביטוי "מחלת נפש". ודוק: סתם חוסר רגישות, לא התרסה כלפי האלים ועלבון מטאפיזי כלפי היקום. כמו כן, כל אחד - גם גרמנים - יכול מבחינתי להשתמש במילה "יהודון" כאוות נפשו. גרמני שיאמר "הנאצי הזה קרא לשכן שלו 'הודון' בפני כולם" ישאיר עלי את אותו חותם ריגשי שהיה משאיר עלי דובר יהודי, וכלום לא ישתנה גם אם נחליף את המילה "יהודון" בכל מילה מקבילה אחרת. מן הסתם אני עשוי להפגע ממשמעות או מכוונה, ומן הסתם חוסר נימוס או וולגריות עלולים לצרום ולהעיק עלי - אבל לא אעלה על דעתי לייחס לעצם צירוף הברות מסויים מטען ריגשי טרנסצנדנטלי שחורג מעצם המשמעות המיוחסת לה כמילה בשפה בהקשר נתון. השווה זאת לכך שבמקומות מסויימים אסור לומר nigger אפילו אם הדובר רק שיר שמנוגן ברדיו ומילותיו כוללות אותה (מותר להגיד את המשפט כמובן - אין בעיה עם המשמעות - רק חייבים להחליף את המילה בצירוף צלילים אחר, כי... קסם). בקיצור הייתי שמח להשאיר חשיבה מאגית כזו בבמקומה הטבעי, בתחתית פח-האשפה של ההיסטוריה. |
|
||||
|
||||
חשיבה מאגית היא כנראה מאפיין של המין האנושי, שקובר את מתיו כבר עשרות אלפי שנים1. גם היום רוב האנושות מאמינה בישויות מאגיות. אני חושב שהחשיבה המאגית היא תוצאה של הצורך הבסיסי של האדם להסביר לעצמו את העולם. בהיעדר הסברים רציונליים שמתקבלים על דעתו הוא ממציא לעצמו הסברים לא רציונליים. הפופולריות של תאוריות הקונספירציה מוכיחה את הנקודה. השאיפה שלך שהמין האנושי ישתחרר מהחשיבה המאגית מנוגדת לטבעו. כמו לשאוף לכך שבני האדם לא יתארגנו בקבוצות עוינות זו לזו. ___________ 1 יש עדויות לכך שגם הניאנדרטלים קברו את מתיהם. |
|
||||
|
||||
(חסרה לך הערת רגל, אז יכול להיות שפספסתי את מה שהתכוונת אליו) למיטב הבנתי, לא מדובר בחשיבה מאגית1 או ב"מחלת נפש"2. או, כמו שאתה אמרת: "מן הסתם אני עשוי להפגע ממשמעות או מכוונה, ומן הסתם חוסר נימוס או וולגריות עלולים לצרום ולהעיק עלי". במילים אחרות, אם אני מבין נכון, אפילו לך יש רגשות שיכולות להפגע ממילים. למיטב הנבתי, רגשות, מעצם היותן לא רציונליות, יכולות להפגע גם אם אין לאף אחד כוונה לפגוע. אם אריק קרטמן אומר "יהודי" כמקום "גנב" בלי שום כוונה לפגוע, באופן שברור לגמרי מההקשר למה הוא התכוון, קשה לך לדמיין שיש מישהו3 שכן נפגע? ואם מישהו, עמית בעבודה, אומר לך במפורש: "זה פוגע בי - גנב הוא מונח חלופי לא ארוך יותר, לא מורכב יותר, לא מקובל פחות, לא מוכר פחות ופחות פוגעני" איזה סיבה בעולם יש לך לא להמנע מפגיעה בו? 1 חשיבה מאגית - אם נכתוב את השם המפורש יכא בנו ברק. חשיבה לא מאגית - אם כל העמיתים שלי והבוס שלי יתחילו לקלל אותי מחר אני ארגיש לא נעים בעבודה מחר ואתחיל לחפש עבודה חדשה יום אחרי זה. 2 ז"א, אולי כן - במובן שזה קשור לנפש ולא לפיזיולוגיה ובמובן שזה משפיע בצורות ובחומרה שונה על אנשים שונים. 3 הבנתי, לא אתה, אתה מעל זה. הבחירה בקרטמן לא נעשתה על מנת לנסות לסחות ממך אמפתיה, אלא על מנת להביא דוגמא קיצונית. |
|
||||
|
||||
אני מבין מההודעות שלך שבעיניך רגשות ורגישויות של אנשים משפיעים על תרבות הדיבור ולא להיפך. אולי אני לא מבין נכון את המגיבים שמתדיינים איתך, אבל לדעתי הם (גם) מנסים להדגיש את הכיוון ההפוך. בעיניי לפחות הוא חשוב. המטען השלילי שיש למילים מסויימות כרוך בשורשים היסטוריים, אבל זה לא מונע ממנו להיות תוצר תרבות. אני חושב1 שמתיחות בין גזעית בארצות הברית בעליה בעשורים האחרונים, ובאופן כללי לא פונקציה מונוטונית של המרחק בזמן מגורמים היסטוריים (עבדות כמובן אבל לא רק). אפשר להיות בעד או נגד התחזקות זהויות גזעיות2, אבל אני חושב שצריך להכיר בכך שמשטור מילים בקוד ובאופן כללי ניכוס גזעי למילים הוא חלק (קטן) מהתנועה הזאת, ויש לו השלכות חברתיות. אני חושב ש"הרגשות שלך לא נכונים" הם אישקש ל"הפגעות מהמונחים האלו זאת לא נורמה חברתית שאני רוצה לטפח". ראוי להתחשב ברגשות של אנשים, כמובן, אבל בו זמנית ראוי להחליט מה הנורמות החברתיות הרצויות גם במחיר מסויים של פגיעה ברגשות. התחלתי לכתוב רשימה של דוגמאות אבל זה הרגיש קצת מגוחך, אז באופן כללי אוסיף שלדעתי הרבה מקרים של התחשבות ברגשות שקשורים בקבוצות זהות נופלים בקטגוריות נורמות חברתיות פסולות. ----- 1. השקעתי דקה או שתיים בלנסות לאשש את זה אבל מילות החיפוש מעלות הרבה מוץ. 2. אני מאוד נגד. כנ"ל לגבי זהויות מגדריות, לאומיות, נטייטיות/קוויריות וכל המועדונים הסגורים שאליהם אנשים נולדים או גדלים. |
|
||||
|
||||
"לדעתי הרבה מקרים של התחשבות ברגשות שקשורים בקבוצות זהות נופלים בקטגוריות נורמות חברתיות פסולות" כשאתה כותב "הרבה מקרים" אתה רומז שיש גם מקרים אחרים? אם כן - מהם? מי מחליט מהם רגשות שראוי להתחשב בהם ומה לא? אם לא - האמנם? אני די משוכנע שמתיחות בין גזעית בארצות הברית בירידה, הייתי מוסיף אפילו ירידה דרסטית, בעשורים האחרונים. זה כמובן תלוי איך מודדים מתיחות בין גזעית1, וכמה אחרונים הם העשורים האחרונים2, אבל יפתיע אותי לגלות מדד שיהיה מקובל עלי שמראה עליה. אני לא חושב שאת המאבק לשנות נורמות חברתיות תוך כדי פגיעה ברגשות של אחרים ראוי לעשות במקום העבודה תוך כדי פגיעה ברגשות של קולגות. לדעתי, יש מקומות אחרים, מתאימים יותר לדברים האלה. 1 ז"א, אני מניח שאפשר לטעון שכשהשחורים "ידעו את מקומם" היתה פחות מתיחות בין גזעית. אני מניח שזה לא מה שאתה טוען. 2 רק לפני 5 עשורים ג'ורג' וואלאס היה מועמד לגיטימי לנשיאות ארה"ב. |
|
||||
|
||||
"מי מחליט מהם רגשות שראוי להתחשב בהם ומה לא?" - זאת שאלה אמיתית? אם כן, יש לי תשובה מפתיעה: מי שמחליט באילו רגשות אני מוכן להתחשב הוא אני. מובן שכמו בנושאים אחרים אני מוכן לשמוע את עמדת הנפגע או ה"נפגע" (כידוע "אתה פוגע בי" הפך להיות הג'וקר של ציבורים רבים) אלא ששאלת הניסוח לא נפרדת גם משאלת הדעות והעמדות שעומדות מאחריו, וגם כאן מי שטוען "העמדה שלך פוגעת בי" יזכה אצלי לשימוע קצר, אבל בחלק גדול מהמקרים התשובה שלי תהיה "צר לי, אבל אני לא גרושו מרקס". אפשר לטעון שיש הבדל מהותי בין העמדה לבין הניסוח של העמדה, ועל כך אני משיב שלפחות אלה שמייחסים חשיבות גדולה לענייני הלשון והשפעתה על התרבות (ח"כ מרב מיכאלי, למשל. אגב היא חטופה בעזה או משהו?) לא יכולים לאחוז את המקל הזה משני קצותיו, כי חוסר עקביות פוגע בי. |
|
||||
|
||||
כן, זאת שאלה אמיתית, ואני לא בטוח שהבנתי את התשובה. אם יש לך עמית דתי שמבקש ממך לא להשתמש בשם המפורש בקוד שאתה כותב בעבודה, איך יראה ה"שימוע" שלך? אם הוא לא יצליח לשכנע אותך שקיים אל, ושהאל שקיים הוא האל היהודי, ושלאל הזה באמת איכפת שאתה משתמש בשם המפורש (ואני מניח שהוא לא יצליח לשכנע אותך באף אחת מהטענות האלה בשימוע קצר1), מה תעשה? בכוונה תשתמש בשם המפורש ככל הניתן רק לעצבן אותו? ואם המנכ"ל של החברה יבקש ממך את אותה בקשה ("מספר עובדים התלננו שאתה משתמש בשם המפורש באופן שפוגע בהם בלי צורך אמיתי, אתה יכול בבקשה להפסיק עם זה?") האם לא תפסיק? ואם אי ההפסקה תכלול גם סיום העבודה, תבחר להתפטר? ואם אתה המנכ"ל, ומספר עובדים חיוניים לעסק באים עליך ומבקשים ממך לבקש מעובד אחר שיפסיק להשתמש בשם המפורש, ואם לא הם יתפטרו, לא תבקש? הרשה לי לפקפק. "כידוע "אתה פוגע בי" הפך להיות הג'וקר של ציבורים רבים" לא ידוע. על איזה ג'וקר אתה מדבר? בהקשר של הדיון הזה - מאיזה מטלה נחלצים הנפגעים (אם או בלי מרכאות) בעזרתו? "אפשר לטעון שיש הבדל מהותי בין העמדה לבין הניסוח של העמדה" לא בטוח שהבנתי. ברור שיש הבדל מהותי בין העמדה לבין הניסוח שלה, אבל ההבדל הזה לא כל כך מעניין, גם אם היית מחליף את העובד בשימוע שלך במנסח האופטימלי של העמדה שלו, ואת השימוע הקצר בדיון פילוסופי ארוך וממצא, זה לא באמת היה משנה לי. גם לאנשים שמאמינים בשטויות יש רגשות, ולדעתי מקום העבודה הוא לא המקום לפגוע בהם בשל זה (כל זמן שהמחיר של אי הפגיעה התבטא בהחלפה של מילה עם 6 אותיות במילה של 4 אותיות). "...לפחות אלה שמייחסים חשיבות גדולה לענייני הלשון..." שאני אבין, אתה מאשים אותי בצביעות בגלל שאתה משייך אותי לקבוצה של אנשים שמגיעה למסקנה דומה למסקנה שלי מסיבות אחרות לגמרי? את המשחק הזה גם אני יכול לשחק. 1 או ארוך. |
|
||||
|
||||
רציתי להגיב ששימוש בשם המפורש בקוד הוא כנראה בחירה רעה של שם משום שהוא לא קשור ללוגיקה או לתחום המערכת. אז נזכרתי בקיומו של God object [Wikipedia], אובייקט כל יכול. ההמלצות הטכניות הן לשכתב אובייקטים כאלו ולהוריד מכוחם. |
|
||||
|
||||
אתה לא באמת ממעיט ביכולת של מהנדסים למצוא ראשי תיבות שיאייתו את השם המפורש, נכון? |
|
||||
|
||||
תחילה אגיב על הסיום: אני לא מאשים אותך בצביעות או בכל דבר אחר. ההחלטה שלי אם להענות לבקשת העמית תלויה בפרטים. אין לי חשק להכנס לפירוט, ויש להניח שאם הייתי מסכן את המשך עבודתי במקום הייתי נענה ל"בקשה" (כמו שהייתי נענה לבקשת ההוא עם האקדח ברקה לתת לו את הארנק) אבל לא הייתי הופך את זה לסטנדרט הרצוי. כאשר אין חרב כזאת תלויה מעלי, יש להניח שהייתי מתעקש רק על אותם עניינים שחשובים לי, כפי שאכן עשיתי בעבר (היום כבר אין לי עמיתית לעבודה). כלומר כאשר בחור דתי ביקש ממני לא להגיד לידו "Jesus fucking christ" השתדלתי לזכור את זה, ואפילו התגברתי על הרצון לבקש ממנו שבתמורה הוא יפסיק עם ה"בעזרת השם" המעצבן שלו. אבל אם הוא היה דורש ממני לא לאכול שינקן בחדר שלי במשרד כי זה פוגע בו, הייתי שולח אותו להתאמן אצל דופלאנטיס. |
|
||||
|
||||
הימים שהיו לעובדים משרדים משלהם... בכל מקרה, אני לא בטוח איפה אתה לא מסכים איתי. זאת פחות או יותר הגישה שלי (ולהחליף את המילה master במילה main כשמדובר על ענפים במערכת ניהול גרסאות חדשה זה ממש לא עניין שחשוב לי ולא ברור לי איך זה יכול להיות עניין שחשוב למישהו אחר). |
|
||||
|
||||
זה לא חשוב לכשלעצמו, אבל כאשר העניין הופך לחלק מגישה קורבנית כללית יש לו, אולי, חשיבות מסוימת. ההתעקשות לדבר ל "Quantum supremacy" ולא להעתר לבקשה (על גבול הדרישה) להחליף אותו ב- "Quantum advantage" (עד הסיבוב הבא בו גם ה"יתרון" יפגע באלה שכל אי-שיוויון מזכיר להם משהו רע) נראית על פניה מטופשת, אבל היא בוודאי פחות מטופשת מהבקשה עצמה, לפחות לטעמי. הה, אולי באמת אפשר לדרוש להפסיק לדבר על "כוח עליון" ומעז ייצא מתוק. בקצרה: קרא את הכותרת. |
|
||||
|
||||
אתה יכול לדבר על מה שאתה רוצה בבית שלך. אתה יכול לדבר על מה שאתה רוצה ברחוב. אתה יכול לדבר על מה שאתה רוצה בהרצאת הטד שלך. למען האמת, אתה יכול לדבר איך שאתה רוצה גם במקום העבודה. למיטב ידיעתי, אף אחד לא מקים משטרת דיבורים. אנחנו מדברים על טקסטים כתובים (במקרה הזה, קוד, אבל אני מניח שזה תקף גם לחוזים אצל עורכי דין או אי מיילים אצל מנהלים) במקום עבודה שהם למעשה התוצר המקצועי שלך, וכשיש לך כלים שמיועדים במיוחד לעזור לך שלא לשכוח (ועל הכלים האלה מתרעמים פה). נראה לי שהמעבר שלך על איסור לדבר הוא מופרך. אנשים נוטים להפגע מדברים מטופשים. זה חדש בשבילך? אתה באמת רוצה לנסות להסביר להם שזה מטופש? ואתה חושב שתצליח? ושזה יקח לך פחות מאמץ מלהפסיק להתעקש על שטויות. למיטב ידיעתי, אנחנו לא משחקים במשחק החיים בגודמוד, יש דברים שאין לנו עליהם שליטה. חלקם מטופשים. לדעתי, וזאת אולי דעה חריגה בדיון הזה, לא כל כך מעניין לדון באיך היינו מסדרים את העלום אם היה לנו את הכח לשלוט בכל הפרמטרים. אין לנו (טוב, לי אין, אולי יש מגיבים אחרים בדיון שיש להם). |
|
||||
|
||||
יש לנו יותר כח לשלוט בפרמטרים ממה שנדמה לרבים. לפעמים צצות דרישות מלמעלה (או סתם מאופנות מטופשות בעולם התוכנה) במקום העבודה. אפשר להגיד להן לא (כשרוצים) ומהניסיון שלי לא נופלים השמים ולא קורה שום דבר לאף אחד. זה לא דורש הרבה אנרגיה בכלל ואין לי מושג מאיפה הגיעה ההנחה שמישהו ״יוצא למלחמות״. להציג את זה כלא חשוב ולמה להלחם על השטויות עובד לשני הכיוונים. אפשר להשאיר את המילה Blackbox בקוד או לשלוח הודעה בסלאק שיש בה את המושג red team ולא יקרה כלום. בטח כשסביבת הפיתוח שלך היא לא עמוק בעמק הסיליקון, איפה שלאופנות ה PC הללו יש יותר אחיזה. אני לא מבין מה ההתרגשות מכך שמישהו בוחר לא לזרום עם כל אופנה איזוטרית שמקובלת רק על פלח פוליטי מאוד מסוים במדינות מאוד מסוימות בארה״ב. קליפורניה היא לא מרכז העולם, גם אם נדמה לתושביה (ולחולמים על קלופרניקציה) שהם כן. |
|
||||
|
||||
אם מותר לי לצטט את עצמי - ״יש הבדל בין רפוסיטורי סגור עם מספר תורמים מצומצם (200 מפתחים) מתרבות אחת (או שלוש) לרפוסיטורי פתוח או רפוסיטורי עם אלפי תורמים מכל העולם״ - תגובה 771175. ברור שאם אתה עובד בחברה ישראלית (או ישראלית-הודית, או ישראלית-הודית-שוודית) אז רגישיות של מהנדסים אמריקאים לא צריכות לעניין אותך1, ואם ההנהלה מחליטה להטיל מגבלות מוזרות שלא שייכות לעניין זה מוזר. חשבתי שאנחנו מדברים על חברות שכוללות גם מפתחים אמריקאים. 1 אגב, בגלל שארה״ב היא מדינה של מהגרים, ההפך לא בהכרח נכון. |
|
||||
|
||||
אני לא בטוח שיש משהו שאנחנו לא מסכימים לגביו וההבדלים הם ניואנסים של מה כל אחד רוצה או מוכן להיות חלק ממנו. להיות אחד מ-200 מפתחים על אותו רפוזיטורי זה משהו שמאוד לא מעניין אותי בגלל אוסף גדול של סיבות1. ההתעסקות הזאת באי פגיעה ברגשות של מפתחים עדיני נפש שלא מצליחים לזהות את הכוונה האמיתית כשאומרים Red team (למשל) זו רק אחת מהן (ולא העיקרית). אי היכולת שלי לעבוד עם קבוצה של מפתחים שמתעסקת בשטויות הללו אני רואה כפיצ׳ר. אני אשמח לא לעבוד איתם והם ישמחו לא לעבוד איתי. כולם מרוצים ואני לא מבין איפה הבעיה. אנשים שונים רוצים דברים שונים ומוכנים להיות חלק מדברים שונים. ________ 1 מניסיוני ריפוזיטורים שכאלה, באופן טבעי, מכילים יותר טיפשות אנושית וקטעי קוד של מתכנתים שלא היה צריך לתת להם רישיון לגעת במקלדת. |
|
||||
|
||||
0. אם נוצר הרושם שיש לי עמדה החלטית ובינארית בסגנון "אסור להתחשב באנשים" או להפך, זה לא המצב. גם ספציפית לגבי מילים טעונות בקוד אין לי דעה נחרצת, הסיבה שבכל זאת הגבתי למעלה היא שהיה נראה לי שהעמדה שלך החלטית ובינארית, ולכן לדעתי לא מציאותית. 1. יכול להיות שכתבתי בצורה מבלבלת. ב"מקרים של התחשבות ברגשות ... נופלים בקטגוריות נורמות חברתיות פסולות" התכוונתי שההתחשבות עצמה היא הנורמה הפסולה. הנה דוגמאות (לדעתי): * אינפלציית הציונים באקדמיה האמריקאית, בין השאר כדי לא לפגוע ברגשות סטודנטים. * הדרה של נשים מאירוע עירוני או צבאי, גברים לבנים או ישראלים מאירוע אקדמי או חברתי בקמפוס וטרנסים משירותים ציבוריים כדי להגן על רגשותיהם של (מיעוט ה) דתיים, קווירס, סטודנטים ליברליים ונשים שנפגעים מכך. * אזהרות תוכן (trigger warnings). 2. לגבי מי מחליט מהם רגשות שראוי להתחשב בהם, כולנו :). ברצינות, כמו כל הנורמות החברתיות, יש פה איזון בין רגשות של הרבה אנשים, כמו גם חרויות והשפעות אחרות של התחשבות. דוגמה שבה קל (לי, מקווה שזה לא שנוי במחלוקת) לראות את האיזון בלי יותר מדי רגשות טעונים: הנגשה לנכים היא דבר חשוב וראוי, ועם הזמן אנחנו גם בוחרים להרחיב את ההגדרה (ממרחבים פיזיים לדיגיטליים, מנכויות פיזיות לבלתי נראות). עם זאת, הנגשה לוקחת כסף, זמן, מודעות ותשומת לב. אני לא יכול לדמיין מרחב ציבורי שבו נכים לא מרגישים שום מהמורה בדרכם, שלא לדבר על בתי מגורים, עסקים פרטיים וכו'. מה עושים? מתווכחים, מקימים ועדות, מקדמים חקיקה ונורמות חברתיות, ומקבלים איזשהו שיווי משקל ששוקלים מחדש כל הזמן. מה שנראה לי לא לגיטימי, ואני נתקל בו בטענות בתחומים יותר רגישים (כמו גזענות, סקסיזם, הומופוביה וכו'), הוא שבדיון כזה יכולים לקחת חלק רק משתתפים וקולות מייצגים לקבוצה ספציפית. 3. לגבי מתיחות בין גזעית בארה"ב, יכול להיות שגם פה לא כתבתי בבהירות. אני לא מתכוון לאפליה ממסדית וגזענות מכוונת (לחלוטין בירידה דרסטית לראשונה, וכנראה לשניה), אלא לזהות קבוצתית חזקה ולחוויית גזענות (שבמציאות קיימת פחות ופחות). זה הדבר שלטענתי הוא במידה רבה תוצר של תרבות, מתפתח במנותק מההקשרים ההיסטוריים ומשפיע על המטען השלילי שיש למילים מסויימות (כמו slave). זה באמת קשה למצוא נתונים טובים על דברים כאלה, אבל ניסיתי בכל זאת והנה קצת נתונים מ-Pew Research Center. ניסיתי בעיקר למצוא השוואות מול העבר, אבל לפעמים יש רק תמונת מצב סטטית: *שחורים ולבנים נוטים פחות לחשוב שמצב השחורים השתפר בחמשת השנים האחרונות, 1984-2013. *רוב השחורים מאמינים שהמשטרה, מערכת המשפט ומקום העבודה מפלה אותם ביחס ללבנים, 2013 (כמובן שזה לא מונע שכך באמת המצב). * רוב השחורים, האסיאתיים וההיספנים רואים בגזע שלהם מרכיב מרכזי בזהות, 2019. * רוב השחורים בארה"ב מאמינים שלא סביר מאוד שהם יגיעו לשיוויון זכויות אי פעם, 2019. * שמונה מתוך עשרה שחורים מאמינים שלא נעשה מספיק כדי להגיע לשויון שכויות אל מול לבנים, ביחס לארבעה מתוך עשרה לבנים, 2019. * חמישית מהשחורים מאמינים שרוב הלבנים מחזיקים בדעות קדומות לרעתם, 2019. * רוב האמריקאים מאמינים שיחסי הגזעים הם במצב רע (בין שאר הצהרות בקישור), 2019. נמנעתי משאלות ספציפיות לגבי הקדנציה של טראמפ, כי חששתי שהשאלות מובילות לתשובות לגבי העמדות שלו יותר מאשר לגבי המצב בשטח, ושהוא אולי1 תופעה נקודתית ולא מייצגת. כמו כן, בקישור הזה יש גרפים של מדדים לפי גזע לאורך השנים, שלא מציגים תמונה חד משמעית לגבי הטרנד בפערים בין שחורים ללבנים (הפער הצטמצם עקבית בתעודות בגרות, שיעורי עוני ותוחלת חיים, אבל לא בהכנסת משק בית, הון, בעלות על דירה ותואר ראשון). לא תומך בתזה שלי, אבל נראה לי מעניין מספיק לדיון. 4. אין לי שום ציפיות מחברות ציבוריות (למעט השמעות לחוק), אבל מעובדים בכל מקום ומבעלי חברות פרטיות (ובמיוחד עסקים קטנים) אני בהחלט מצפה להביא את הנורמות החברתיות לעבודה2, ביחד עם כל שאר המערכת המוסרית, הצרכים והרצונות שלהם. בהכרח ייפגעו אנשים, אבל ככה זה לחיות בחברה, עם ובלי שינוי נורמות חברתיות, ומקום העבודה3 הוא זירה חברתית כמו כל מקום אחר. מה גם שמה שבו התחיל הדיון, שינוי בנורמות חברתיות לגבי מילות קוד, הוא בדיוק דוגמה למאבק כזה, הגם שהפגיעה ברגשות קלה ביחס להרבה דברים אחרים שקורים במקום העבודה. ---- 1. אם ירצה השם, אני מוסיף באמונה חלושה. 2. בניגוד לסטריליזציה הסטראוטיפית של מקום העבודה בארה"ב, שאני מתנגד לה. 3. עד שיבוא ההב"ל ויפטור אותנו ממנו? האמונה כבר חלושה מכדי לבקש. |
|
||||
|
||||
0. יש לי דעה נחרצת (=אני חושב שראוי לעשות את הדבר הנכון) אבל לא בינארית (=לא תמיד פשוט לדעת מה הדבר הנכון לעשות). נראה לי שדווקא הדעות שהביעו כאן אחרים הן הרבה יותר בינאריות. 1. אני לא בטוח שהבנתי. אני לא מבין איך ההתחשבות יכולה להיות פסולה. יכול להיות שהתוצאה של ההתחשבות היא פסולה - אבל לדעתי זה לא אומר שלא צריך להתחשב ברגשות אלא שצריך להתחשב ברגשות בנוסף בדברים אחרים. 2. כן, באופן כללי אני מסכים, אבל בנוגע לנושא הספציפי הזה, אני לא רואה את הנזק שבהתחשבות ברגשות, להבדיל מהנגשה לנכים זה לא עולה כסף, לוקח זמן או דורש מאמץ. אני לא חושב שייצגתי כאן עמדה שאומרת שצריך להגביל את המתדיינים או ששוללת את ההתדיינות. שוב, נראה לי שזה משהו שאפשר למצוא דווקא אצל מגיבים אחרים בדיון. אני כן חושב שלהקים ועדה להחליט אם להשתמש ב-Whitelist און ב-AllowedList זה בזבוז זמן מובהק, ושמי שרואה בהחלפה של אחד בשני כסימן ל"חירפון עולמי" לוקה בחוסר הערכה של המציאות. 3. אני לא בטוח שהבנתי, ואם הבנתי, אני לא בטוח שזה נכון. אולי יש יותר מודעות? אבל גם לגבי זה, אני לא בטוח שזה נכון ואני לא בטוח אם זה טוב או רע (די תלוי בכמה המודעות מייצגת את המציאות). 4. "..בהכרח ייפגעו אנשים..." למה בהכרח? שוב, אנחנו לא מדברים על משהו אבסטרקטי, אנחנו מדברים על משהו מאד ספציפי, אני לא רואה שום הכרח שאנשים יפגעו אלא אם כן אתה רוצה לפגוע בהם בכוונה. |
|
||||
|
||||
אני מעורב בימים אלה במחקר על מחלת הכבד השומני [ויקיפדיה]. עד לאחרונה, המחלה (ביתר דיוק, סוג מאד נפוץ שלה) נקראה באנגלית Non-alcoholic fatty liver disease, אבל היות שלמילים alcoholic ו-fat יש קונוטציות שליליות, בהקשר של בני אדם, השם שונה ל-Metabolic dysfunction–associated steatotic liver disease. |
|
||||
|
||||
וואי, זה כזה euphemism treadmill, שכן steatos זה שומן... |
|
||||
|
||||
בתור שונא כבד אני דורש להוציא את המילה המצמררת הזאת מההגדרה. |
|
||||
|
||||
בתור לא-מחבב את המילה ''שונא'' אני דורש להוציא אותה מהלקסיקון. |
|
||||
|
||||
אגב כבד שומני, אצל חתולי בית מדובר במקרה ברור של הסתר פנים אבולוציוני. די בצום של יומיים, למשל עקב החלפת סוג מזון, כדי להביא אותם לדינמיקה סופנית תמוהה. |
|
||||
|
||||
מידע מעניין לגבי צמצום המין הפולש המעצבן הזה. |
|
||||
|
||||
לגמרי, וזו אינה האופציה היחידה. חובבי המזון המהיר והפתרונות האקולוגיים למשל עשויים לבחור במונגו שלי. באשר למתכונים, ניתן לצפות שגם כאן תסייע הבינה המלאכותית לכל אם בישראל בהכנת ארוחת השבת. |
|
||||
|
||||
ידעתי שזה שדה מוקשים, מבקש סליחה בדיעבד וכמובן שלא מעודד תזונה מבוססת ידידי מחמד. |
|
||||
|
||||
אין על מה להתנצל - זהו מין פולש, אנוכי ואלים. אהבתי אליהם אינה משנה עובדה זו. |
|
||||
|
||||
בעניין בני השטן הללו1, האם בדומה למצדה ולג'בדאיה ספרינגפילד, גם הסיפור על טיבלס, מי שבתוך שנה הכחיד לבדו מין שלם ובכך סימן את הדרך עבור דורות של חתולים אינו אלא מיתוס? 1 לדוגמא שולי שלי, באחת העבודות הראשונות שלה עם חומרים מתכלים. |
|
||||
|
||||
כבעל חתול ותיק אתה אמור לדעת שנייר טואלט צריך לשים במתקן עם הקצה החופשי בצד של הקיר. |
|
||||
|
||||
זה מה שעשיתי אחרי כמה פעמים כאלו (מדובר בנייר תלת שכבתי!). זה אומנם העביר את הפרץ היצירתי שלה אל חומרים אחרים שהתבררו כמתכלים, אבל זה איפשר לי להחזיר את הגלילים אל הכיוון המועדף עלי. בינתיים היא נרגעה. |
|
||||
|
||||
אני השארתי פעם גורת חתולים בדירת החדר שלי, עם גליל נייר טואלט על המיטה. כשחזרתי לקח לי זמן להבין מה זו ערמת השלג היפה על המיטה. |
|
||||
|
||||
יש מילים חלופיות כמו בלוטה אמפירקינית הומוטיפית. כמו במשפט: הניגוד בין הבלוטות האמפיריקניות ההומוטיפיות לבין רוטב סולונום הקנים יוצר סימפוניה אוראלית. בקטע טוב. |
|
||||
|
||||
אין לי מושג מה אתה אומר, אבל אני בהחלט בעד סימפוניה אוראלית. היא מעלה אצלי זכרונות נעימים, אם גם עמומים משהו. |
|
||||
|
||||
הולי שיט. אני התרשמתי עד כדי כך שהתחלתי לחשוב שזה מבויים, ובכל זאת, משום מה נמאס לי אחרי כמה דקות. |
|
||||
|
||||
זה לא צריך להיות מבוים (כי היכולות כן מגיעות לרמה המוצגת) אבל הם כן צילמו את זה בתנאים אידיאלים והחוויה של המשתמש הרגיל כן תהיה קצת פחות מרשימה. הם צילמו בתנאים אידיאלים מבחינת זמני רשת וזמני תגובה של צד שרת. המשתמש הרגיל כן ירגיש רגעים של המתנה. נראה גם שמאז יום ההשקה, הם הכניסו עוד ועוד כיולי Alignment שהופכים את ההתנהגות ליותר צפויה/רובוטית/פחות מרשימה, יחסית למה שרואים בהצגה שלהם. |
חזרה לעמוד הראשי |
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש | © כל הזכויות שמורות |