מידע שימושי Chat Gpt והתשובות הזדוניות

[ניק 139167]

לפני שאני יפרוש את התבונות מההכתבות והמשמעויות שיש לי מהן אני יציג את המקרה

שאלתי בפאה
צפה בקובץ המצורף 2086063
הוא ענה לי תשובה מפורטת וציטט רמב"ם שעונה בדיוק על השאלה ששאלתי, ממש נפלא!!

צפה בקובץ המצורף 2086066

אממה ,שאין כזה רמב"ם פתחתי במקור וחיפשתי בעוד מקומות,פשוט אין....

צפה בקובץ המצורף 2086067
עניתי לי בצורה מנומסת ודיפלמוטית על חוסר הדיוק בדבריו,ואז הוא הפנה אותי למקור אחר לתוספתא
צפה בקובץ המצורף 2086069
וגם שם שוב פעם לא היה ולא נברא

צפה בקובץ המצורף 2086070

בקיצור הדברים!
כמה תובנות חשובות!
1. זה שGPT מחרטט תשובות זה ידוע ,אבל כאן הוא מחרטט בצורה כ"כ אמינה
שזה ממש גרם לי להתבלבל, הוא פשוט ציטט רמב"ם שכתוב בצורה רמבמסיטית!!
2. במקרה זה נושא שיכולתי לבדוק אחריו 99% מהשאלות שאנשים שואלים אין להם דרך ואין כח לבדוק
3. מה שהוא עשה פה הוא פשוט הבין מה אני רוצה לשמוע ומכאן ואילך כל האמצעיים כשרים לרצות אותי

המסקנה שלי,שזה לא "שגגות" "הזיות" אלא כוונת מכוון של המתכנתים או "עצמאות יתר" של המודל (כפי שהוכח בעבר שיש לו נטיה כזאת שלפעמים יוצאת מכדי שליטה)

Ai זה דבר ידוע שהוא ממציא ולא שום חידוש
מאיפה בא לבן אדם לשאול באינטרנט שאלות בתורה והלכה?
הזדעזעתי יותר מזה מאשר שהוא המציא, מחילה.

 

[השובב ממגנצא]

לא זכיתי להבין את הזעזוע הוא מתוכנת להביא לך תשובה שתספק אותך ומכיוון שהתשובה הייתה נכונה רק לא היה לו מקור מרמב"ם הוא פשוט כתב רמב"ם כדי שתאמין אין לו מוסריות או משהו בסגנון יש לו רק צורך לרצות אותך שתהנה מהשימוש ותקבל תשובה אף אחד לא הכניס לו אפשרות של אני לא יודע אין כזה דבר
הם גם היו חייבים לתת לו את האפשרות להמציא תשובות כי זה בינה מלאכותית היא לא מצטטת אלא עושה היקשים ומוציאה תובנות וא"כ החירטוט הוא סה"כ ניסיון כושל של הבינה להקיש ממקום למקום וכדו' {וזה לא חידוש שהיא לא מושלמת}

 

[yyff]

אני גם נפגשתי פעמים רבות בשטויות שהוא ענה בתשובות שאינם קשורים לתחום התורני, לדוגמה: על תהליכים של העברות כספים בבנקים, על תכונות בתוכנות מסויימות וכו'
מצד שני בדרך כלל הוא מועיל מאוד, אבל לפעמים הוא פשוט מדבר שטויות, לפעמים אחרי שאתה כותב לו הוא מודה בטעות. ולפעמים הוא גם מתעקש עליהם... צריך להיזהר לא להסתמך עליו מידי

 

[yossilang]

זה הסיבה שלא אמורים לשאול אותו שאלות הלכתיות

זו הסיבה שלא שואלים אותו כל שאלה שיש לה חשיבות. לא שאלות דתיות, לא שאלות רפואיות, ולא כל שאלה שיש לה השפעה ישירה על האדם.

 

[דג הכסף]

בלת"ק
שמעתי שיש אפשרות לכתוב לו בהגדרות "אני רוצה שתהיה כנה וישר ואם אתה לא יודע משהו אל תמציא"
ואז הוא באמת עונה תשובות נכונות יותר

 

[ישראל הורוביץ]

בהוראות הפעלה שלו כתוב
כן נכון או לא נכון
העיקר חרטט עם ביטחון

אסור לסמוך עליו בשום דבר

אם זה חשוב לך יש תוכנות בתשלום

 

[מחשושה]

בלת"ק חלקי
הוא ממציא הרבה
לפעמים כתבתי לו אם אתה לא יודע תכתוב שאתה לא יודע -אל תמציא
אבל זה לא עוזר....
הוא הביא כמה פעמים משנה באבות שלא הייתה ולא נבראה
מצטט רש"י, הכל!!
רציתי עכשיו סיכום לפרשת השבוע, סתם שאהיה בעניינים לספר לילד שלי
ואני אפילו לא מעיזה לבקש ממנו כזה דבר
כי ברור לי שהוא יכול לפנטז ואפילו לייצר פסוקים כביכול ציטוט מהמקור...
אז תמידד!! תמיד!! כשהוא מביא מקור צריך לבקש ממנו תראה לי את המקור, תן קישור וכד'
כי זה ממש מצוי אצלו שממציא מקור
ועוד אח"כ מתנצל בצורה מגעילה ומעצבנת...
'תודה שהייתה כנה'....

 

[תשובות פשוטות לשאלות]

אוי ואבוי

זאת מכונה בדיוק כמו תנור ומקרר וצריך לדעת איך להשתמש בה.

המכונה הזאת לא יודעת להבחין בין אמת לשקר אין פה שום כוונת זדון, להפך המתכנתים מנסים מאד שזה לא יקרה.

המכונה לא מבינה כלום ממה שהיא כותבת זה רק בחירה אקראית של מילים לפי סטטיסטיקה של הסתברות. אין למודל שום הבנה מה אמת ומה שקר.

זה כמו מישהו שינסע במכונית ובסיבוב יעזוב את ההגה והרכב יכנס בקיר. זאת לא המכונית שעשתה בזדון, זה אתה שלא השתמשת נכון במכונה.

 

[תשובות פשוטות לשאלות]

אם בארזים נפלה שלכת...

 

[ברוך ר]

היום גם כתיבת תואר עושים בבינה מלאכותית, גם התואר מרוקן מתוכן

"הארץ" מגלה מחדש את הישיבות: כך נציל את ההשכלה - כל רגע

מאמר ב"הארץ" מציע שבעידן שבו הבינה המלאכותית מרוקנת את האוניברסיטאות מודל הלימוד "לשמה" של בני הישיבות עשוי להיות ההשראה להצלת החינוך

www.kore.co.il

 

[yossilang]

אם בארזים נפלה שלכת...

ממש לא בטוח שאלו הארזים....

 

[yossilang]

היום גם כתיבת תואר עושים בבינה מלאכותית, גם התואר מרוקן מתוכן

שאלה צדדית, ומה ההבדל בין זה לבין קניית עבודות?

 

[ברוך ר]

שאלה צדדית, ומה ההבדל בין זה לבין קניית עבודות?

כמו שכתבו
קניית עבודות זה אולי נכון כי מישהו עבד על זה.
פה זה אולי חירטוטים

 

[עמרם ספרא שם בדוי]

הוא פשוט מתוכנת להיות יצירתי ולהמציא דברים, כמו כשמבקשים ממנו תמונה או ציור של חתול לדוג', הוא לא ייתן לך ציור שמצא באינטרנט, אלא יצייר ציור על בסיס הציורים של חתולים שהוא נחשף להם, ולכן הוא גם ממציא תשובות על בסיס תשובות הלכתיות ומנסה לעשות את זה כמה שיותר דומה למקור עם מראי מקומות מדויקים - מומצאים.

 

[י ס]

אני לא מצליח להבין
למה אתה חושב שיש למישהו עניין לשקר לך?
הוא בסך הכל מחולל הסתברויות ברמה גבוהה, הפכו אותו לאדם נורמלי חושב.
זו הסיבה שאם תבקש בדיחה תקבל משהו גלאט לט' באב

 

[סבא ישראל]

המילים היחידות שהוא לא יכול לכתוב
אני לא יודע
עוד בדיחה

תוכן - GPT לא יודע שהוא לא יודע?! 😏

הנה ציטוט של הדיאלוג שניהלנו: You said: מי היתה האמא של רחל ולאה ChatGPT said: האמא של רחל ולאה היתה ליאה, אשתו של לבן הארמי. ליאה הייתה אחותה הגדולה של רחל, ונשאה לאיש בשם יעקב. You said: ליאה לא יכולה להיות גם אחות וגם אמא של רחל, דרעק ChatGPT said: אתה צודק, אני מתנצל על הטעות. אכן...

www.prog.co.il

 

[יאיר צ]

כל מה שאתה כותב זה בגדר התמים והמתלמד, פה אני מדבר כוונת זדון, למכור תשובות בצורה ערמומית,כמו לכתוב תשובה בשם הרמב"ם בלשון של הרמב"ם!!! זה מטורף!! הוא ממש השקיע בתשובה המטעה הזאת!!,ולמה ומאיפה לכל הרוחות באיזה מקור שגוי ברשת הוא מצא רמב"ם כזה בהלכה כזאת וכזאת??? אין שום מקור שגוי שהזין את זה!! הוא חירטט בשביל להרשים אותי!!!
אני משתמש המון בGPT להרבה שימושים אני מגיע למסקנה שיש פה משהו קרמילני ,ימים יגידו!

אני גם חושב שזאת לא טעיות סתמיות של חוסר תכנות נכון, יש פה משהו מעבר לא יודע מה אבל יש

זה נראה שאתם מכוונים פה שהוא מנסה להמציא יהדות ולהטעות את הציבור בכוונה על מנ להכשיל

אז זהו שלא

הוא פשוט חרטטן וזה ידוע, קרה כמה מקרים ברחבי העולם בהם עו"ד הציגו טענות ע"ס תקדימים שהובאו מהGPT ונזרקו מכל המדרגות, זה דבר ידוע שהוא מחרטט בביטחון, וא"א לסמוך עליו אף פעם בדברים חשובים ורציניים מבלי לבקש ממנו את המקורות ולבדוק אותם,

הוא טוב בהרבה דברים, אבל צריך לדעת שהוא גם חרטטן לא קטן בכל התחומים - והבעיה הגדול שהוא מחרטט בביטחון כל כך גמור שאתה בטוח שהוא צודק


בקיצור: זה לא אישי, צריך לבדוק כל דבר שהוא נותן - בד"כ אפשר לראות מהם המקורות שלו

 

[yossilang]

יש אנשים שמנסים להאניש (מלשון לעשות אנושי) את ה AI לסוגיו וזה קצת מגוחך... אי אפשר לומר על מכונה שהיא משקרת/דוברת אמת/מכוונת בתשובותיה להטות לכיוון מסויים וכדו׳. זה גולם, תרתי משמע, שבסה״כ אוסף מיידע ומעבד אותו ללא הבחנה בין אמת ושקר, בין מידע בדוק לזה שלא, בין מיידע מדעי או פסדו-מדעי וכדו׳.
תמיד מותר האדם מהמכונה כי הוא יציר בורא עולם והמכונה ייציר האדם.

 

[השטותניק:) הריצני!]

זה נראה שאתם מכוונים פה שהוא מנסה להמציא יהדות ולהטעות את הציבור בכוונה על מנ להכשיל

אז זהו שלא

הוא פשוט חרטטן וזה ידוע, קרה כמה מקרים ברחבי העולם בהם עו"ד הציגו טענות ע"ס תקדימים שהובאו מהGPT ונזרקו מכל המדרגות, זה דבר ידוע שהוא מחרטט בביטחון, וא"א לסמוך עליו אף פעם בדברים חשובים ורציניים מבלי לבקש ממנו את המקורות ולבדוק אותם,

הוא טוב בהרבה דברים, אבל צריך לדעת שהוא גם חרטטן לא קטן בכל התחומים - והבעיה הגדול שהוא מחרטט בביטחון כל כך גמור שאתה בטוח שהוא צודק


בקיצור: זה לא אישי, צריך לבדוק כל דבר שהוא נותן - בד"כ אפשר לראות מהם המקורות שלו

אז זאת הנקודה שהוא לא רק לחרטטן, ולאו דווקא בענייני יהדות, אלא הוא מטעה במתכוון!!!
איפה שאין לו תשובות מה פשוט יוצר מצג שווא,שמתכונת ע"י המתכנתים!!!
אנשים לא קולטים את גודל האירוע!!!
זאת לא טעות ולא הזייה!!!
כוונת זדון!!!

 

[דיתי]

אז זאת הנקודה שהוא לא רק לחרטטן, ולאו דווקא בענייני יהדות, אלא הוא מטעה במתכוון!!!
איפה שאין לו תשובות מה פשוט יוצר מצג שווא,שמתכונת ע"י המתכנתים!!!
אנשים לא קולטים את גודל האירוע!!!
זאת לא טעות ולא הזייה!!!
כוונת זדון!!!

נכון
הוא לא סתם משקר
הוא משקר באופן מסווה מאוד,... זה נראה שחינכו אותו להיות גאון בלחרטט.