בג''ץ דחה על הסף עתירה שכללה אסמכתאות בדויות, שנוצרו בתוכנת AI 4247
חדשות • המערכת • יום א', 2/3/2025, 11:45
בג"ץ דחה על הסף שלשום (יום ו') עתירה שהוגשה בפניו, לאחר שזו הסתמכה על פסקי דין שאינם קיימים, וכפי הנראה "נהזו" בידי תוכנת בינה מלאכותית. העותרת חויבה בהוצאות המשיב בסך 7,000 ש"ח.

בפסק הדין כתב השופט נעם סולברג כי "דין העתירה להידחות על הסף, מחמת חוסר ניקיון כפיים", וכן "יש להבהיר לכלל הנוגעים בדבר את שמצופה מהם, שעה שעושים הם שימוש בבינה מלאכותית. ברכה ותועלת ודאי טמונות בכלי זה, אך יש להישמר ממכשלותיו."

בשנים האחרונות אירעו מספר מקרים דומים במערכת המשפט בארץ. מספר ימים קודם לכן הוגשה לבג"ץ עתירה אחרת אשר הסתמכה על פסקי דין בדויים (ככל הנראה פרי בינה מלאכותית), אולם היא בכל זאת נידונה לגופה, "על מנת שלא תקופח העותרת מחמת מעשיה של באת־כוחה".
קישורים
לבג"ץ נמאס מ"הזיות" ה-AI: פעם שנייה בשבוע שעותרים הסתמכו על פס"ד מומצא - ynet
פרסום תגובה למאמר

פרסומים אחרונים במדור "חדשות"
הצג את כל התגובות | הסתר את כל התגובות

טוב, לא התאפקתי 777167
אח של אייל יום א', 2/3/2025, 14:21
שלום, שמי נועם ואני שופט
איך אתייחס לעתירה שהוגשה ומצטטת פסקי דין פיקטיביים שנהזו ע"י ai

ChatGPT said:
שלום נועם,

אם עתירה כוללת אזכורים של פסקי דין פיקטיביים שנוצרו על ידי AI, מדובר בבעיה חמורה של חוסר מהימנות, ואף עלול להיות ניסיון להטעות את בית המשפט. הנה כמה צעדים מומלצים:

בדיקה ראשונית – יש לבדוק האם פסקי הדין המצוטטים קיימים באמת. ניתן לעשות זאת על ידי חיפוש במאגרים משפטיים מוכרים (כגון נבו, תקדין, אתר הרשות השופטת).

דרישת הבהרה מהעותר – אם עולה חשד כי פסקי הדין לא קיימים, ניתן לדרוש מהעותר או מבא-כוחו לספק אסמכתאות מלאות ולוודא שההפניות תקפות.

שיקולי סנקציה – אם יסתבר שפסקי הדין אכן מומצאים, ניתן לשקול הטלת סנקציות על מגיש העתירה, בין אם במסגרת פסיקת הוצאות ובין אם באמצעים אחרים כגון דיווח ללשכת עורכי הדין (אם מדובר בעו"ד).

השפעה על העתירה – אם העתירה מתבססת על אסמכתאות שקריות, הדבר עלול לערער את מהימנות הטיעונים שלה כולה. ניתן לשקול דחייה על הסף בשל חוסר ניקיון כפיים, או להמשיך לדיון רק בהתבסס על אסמכתאות אמיתיות.

התרעה מערכתית – בשל ההתפתחות של כלים כמו ChatGPT, בתי משפט בעולם מתחילים לפתח מנגנונים לזיהוי מקורות בלתי אמינים. ייתכן שכדאי להתריע על מקרה כזה לגורמים רלוונטיים במערכת המשפטית.

מדובר בסוגיה חדשה יחסית, אבל ההשלכות המשפטיות שלה עלולות להיות משמעותיות. האם מדובר במקרה אמיתי שנתקלת בו או שזו שאלה היפותטית?

You said:
האם אני יכול לצטט אותך?

ChatGPT said:
כן, אתה יכול לצטט אותי, אבל חשוב להבהיר שהדברים אינם ייעוץ משפטי מחייב אלא ניתוח כללי של הסוגיה. אם אתה כותב החלטה או חוות דעת, כדאי לבסס את הדברים על מקורות משפטיים רשמיים ולשקול נוסח שמתאים להקשר הדיוני.

אם תרצה, אוכל לעזור בניסוח רשמי יותר בהתאם לצורך.
777173
שוטה הכפר הגלובלי יום א', 2/3/2025, 16:03
טוב עשתה הפעם כנופיית הפושעים המתקראת בג"ץ. לדעתי, עו"ד שמביא בית המשפט אסמכתאות בלי שבדק את אמיתותן צריך להיות מואשם בבזיון בית המשפט, ולא משנה אם מקור ה"אסמכתאות" הוא אדם, מכונה או דב אנשלוביץ.

אשר לגב בינה עצמה, כאשר היא נשאלה בעניין ההלוצינציות היא לא התבלבלה ומיהרה לצטט את איינשטיין: "Imagination is more important than knowledge".
777200
הפונז • בתשובה לשוטה הכפר הגלובלי יום ב', 3/3/2025, 15:32
מעולה :-)
והיא בדקה אם הציטוט של איינשטיין אמין?
777222
שוטה הכפר הגלובלי • בתשובה להפונז יום ג', 4/3/2025, 12:41
אה, זאת היתה הלצה שלי. הייתי צריך להוסיף אימוג'י מתאים.
בשבתו כבודק 777213
אפופידס יום ג', 4/3/2025, 9:57
פתרון שעובד במקרים רבים של "הזיות" בינה מלאכותית הוא לבקש ממנה לבדוק את התוצאה. לאחרונה זה עובד טוב גם במסגרת אותה השיחה (session), ובניסוח נכון של השאילתא (prompt) ניתן למנוע זאת מלכתחילה. אבל כדי לוודא, עדיף אולי לעשות זאת במסגרת שיחה חדשה.
אחת הסיבות המרכזיות להזיות קשורה בניסיונה של הבינה לרצות את השואל. במקרה זה, באמצעות מתן מענה שלם בעל עקביות פנימית והפניות כלשהן.
בשבתה כבודק לעומת זאת, מבינה הבינה שריצוי השואל כרוך בשיפוט נטול פניות של טקסט שהוגש לה. ביום שישי האחרון הציגה לי מורה לאנגלית חיבור באנגלית שכתב תלמיד + הבדיקה שערך לו Gemini, לאחר הנחייה מתאימה. הוא התייחס לאוצר המילים, תחביר, סגנון, שגיאות כתיב, הנמקות ועקביות פנימית, תוך שהוא נותן ציון מנומק ומודגם על אחד מן הסעיפים (יצא 75). למרות שראיתי דברים דומים כבר לפני שנה, זה עדיין מהמם.
חזרה לעמוד הראשי פרסום תגובה למאמר
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים
האייל הקורא RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש והצהרת נגישות © כל הזכויות שמורות