בתשובה לאביב, 31/12/23 14:00
כשל כפול ומכופל. 765556
תראה, בסה"כ הג'פטפוט לומד מתגובות של אנשים אמיתיים שבבסיס הנתונים שלו. אולי גם הוא חושש מתגובתם של המאמינים הרלוונטיים?
כשל כפול ומכופל. 765559
כמובן, וזה מציף בדיוק את הבעיה: OpenAI הולכת ומשתלטת על האוירה התרבותית, לפחות במערב, בלי שמישהו נתן לה רישיון ובלי שום פיקוח. כאילו מה שהרשתות החברתיות מפייס ועד טיקטוק עושות לחברה לא מספיק, עכשיו גם ג'פטו, שכוחו גדול מהן בהרבה, מצטרף לחגיגה.

אין לי שום רעיון איך להתמודד עם הבעיה, וגם בעיית ה- deep fake שבעתיד הקרוב תאיין את מה שעוד נשאר מאמינות הידיעות החדשותיות, היא בעיה עצומה.
כשל כפול ומכופל. 766754
אל תתנו לגשמים להטעות אתכם, הסנוניות מתרבות והולכות.
כשל כפול ומכופל. 765561
אני חושב שזה מאוד לא סביר שזאת תוצאה של לימוד או אינטראקציה עם משתמשים.

מאוד סביר להניח שהתוצאה הזאת קשורה לחוקים שהוכנסו באופן ידני על ידי אנשי OpenAI כדי להמנע מתוצאות ״לא רצויות״ עם פוטנציאל ליצירת טריגרינג ויראלי‏1 ו-PR לא נעים לחברה.

_________________
1 ל״תראו מה chatgpt אמר על מוסלמים״ יש פוטנציאל ויראליות הרבה יותר חזק מ״תראו איך ג׳פטו יצא פוליטיקלי קורקט״.
כשל כפול ומכופל. 765562
עכש"ז דובר על כך שה- reinforced learning פגע באיכות של חלק מתגובותיו של ג'פטו. קשה לי להאמין שמישהו ינסח ביודעין חוק שמתייחס לאיסלם באופן שונה מלדתות אחרות, אלא אם אותו מישהו חי בטהרן. לאפליה כזאת הרבה יותר קל להסתנן בחשאי.
כשל כפול ומכופל. 765563
לי זה נראה לגמרי טירביאלי שכן הכניסו, לחלוטין ביודעין וכוונה תחילה, חוק שמתייחס ספציפית לאיסלאם. לא צריך לחיות בטהרן כדי לחשוב בצורה הזאת. מספיק לגור בקליפורניה.
כשל כפול ומכופל. 765568
וכשאני אומר חוק, אני לא מתכוון לכתיבת שורת קוד עם "if" שמחפש משהו בטקסט. בטוח יש איפשהו קונפיגורציה עם רשימה של נושאים/מושגים רגישים ומשקלות עם פרמטרים כאלו או אחרים. אני די בטוח שחברות מסחריות (כמו openai) מבצעות גם כיול ידני של המוצר, מעבר לתהליכי הלמידה והפידבק של משתמשים. מערכות שמתבססות רק על למידה אוטומטית + פידבק משתמשים מתחרפנות מהמפגש עם המשתמשים מאוד מאוד מהר.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים