מידע שימושי Chat Gpt והתשובות הזדוניות

[השטותניק:) הריצני!]

לפני שאני יפרוש את התבונות מההכתבות והמשמעויות שיש לי מהן אני יציג את המקרה

שאלתי בפאה

הוא ענה לי תשובה מפורטת וציטט רמב"ם שעונה בדיוק על השאלה ששאלתי, ממש נפלא!!

אממה ,שאין כזה רמב"ם פתחתי במקור וחיפשתי בעוד מקומות,פשוט אין....

עניתי לי בצורה מנומסת ודיפלמוטית על חוסר הדיוק בדבריו,ואז הוא הפנה אותי למקור אחר לתוספתא

וגם שם שוב פעם לא היה ולא נברא

בקיצור הדברים!
כמה תובנות חשובות!
1. זה שGPT מחרטט תשובות זה ידוע ,אבל כאן הוא מחרטט בצורה כ"כ אמינה
שזה ממש גרם לי להתבלבל, הוא פשוט ציטט רמב"ם שכתוב בצורה רמבמסיטית!!
2. במקרה זה נושא שיכולתי לבדוק אחריו 99% מהשאלות שאנשים שואלים אין להם דרך ואין כח לבדוק
3. מה שהוא עשה פה הוא פשוט הבין מה אני רוצה לשמוע ומכאן ואילך כל האמצעיים כשרים לרצות אותי

המסקנה שלי,שזה לא "שגגות" "הזיות" אלא כוונת מכוון של המתכנתים או "עצמאות יתר" של המודל (כפי שהוכח בעבר שיש לו נטיה כזאת שלפעמים יוצאת מכדי שליטה)

 

[אושרart]

אני שואלת באופן כמעט קבוע ונהנית מהשירות.
אינני שואלת שאלות הלכתיות.
רק נהנית מעיצות, רעיונות, שדרוגים
בנושאים כלליים, ש.ב. פרוייקטים ועוד...
נכון שיש תשובות שלא מדוייקות אבל כאן המקום שלנו
למיין ולסווג
ובד בבד להינות מההיצע ברעיונות.

 

[גלגל הצבעים]

לפני שאני יפרוש את התבונות מההכתבות והמשמעויות שיש לי מהן אני יציג את המקרה

שאלתי בפאה
צפה בקובץ המצורף 2086063
הוא ענה לי תשובה מפורטת וציטט רמב"ם שעונה בדיוק על השאלה ששאלתי, ממש נפלא!!

צפה בקובץ המצורף 2086066

אממה ,שאין כזה רמב"ם פתחתי במקור וחיפשתי בעוד מקומות,פשוט אין....

צפה בקובץ המצורף 2086067
עניתי לי בצורה מנומסת ודיפלמוטית על חוסר הדיוק בדבריו,ואז הוא הפנה אותי למקור אחר לתוספתא
צפה בקובץ המצורף 2086069
וגם שם שוב פעם לא היה ולא נברא

צפה בקובץ המצורף 2086070

בקיצור הדברים!
כמה תובנות חשובות!
1. זה שGPT מחרטט תשובות זה ידוע ,אבל כאן הוא מחרטט בצורה כ"כ אמינה
שזה ממש גרם לי להתבלבל, הוא פשוט ציטט רמב"ם שכתוב בצורה רמבמסיטית!!
2. במקרה זה נושא שיכולתי לבדוק אחריו 99% מהשאלות שאנשים שואלים אין להם דרך ואין כח לבדוק
3. מה שהוא עשה פה הוא פשוט הבין מה אני רוצה לשמוע ומכאן ואילך כל האמצעיים כשרים לרצות אותי

המסקנה שלי,שזה לא "שגגות" "הזיות" אלא כוונת מכוון של המתכנתים או "עצמאות יתר" של המודל (כפי שהוכח בעבר שיש לו נטיה כזאת שלפעמים יוצאת מכדי שליטה)

כתבתי לו בדיוק את נוסח השאלה שלך, והוא ענה שאין מקור לזה במשנה.
נתקלתי גם לפעמים שהוא ממציא מקורות, אבל כאן זה קצת נראה מעושה...
נשמח שתשתף איתנו את השיחה כולה במקורה. ולא רק צילומי מסך חלקיים

 

[yossilang]

לענ״ד, כדי להבין את המגבלות של ה AI למיניו ולמה האמינות שלו מוטלת בספק, וזה לא משנה אם שואלים שאלה הילכתית או שאלה ברפואה/משפטים או סתם שאלה בעלמה, חייבים להבין איך ה״דבר״ הזה עובד.
בגדול ניתן לומר שהוא סורק את הרשת ומסכם את הנושא (וזו מגבלה ראשונה כי איננו יודעים מה מקורות הסריקה שלו והאם הם אמינים) שנית הוא מבצע אינטרפטציה לשאלה ומנסה להתאים את המקורות שהוא מצא לשאלה (שוב בעיה כפולה מהם המקורות ומהימנותם והאם האינטרפטציה וה״לימוד״ של המכונה דומה להיסק האנושי) שלישית במקרה שמקורותיו דלים ו/או שהלימוד לא ממש מתאים למכונה היא נוטה ל״המציא״ תשובה... ורביעית תלוי מאוד בניסוח השאלה, אם בניסוח יש מעין התשובה (כדומה לשאלה רטורית) הנטיה למצוא מקורות היא ע״מ לחזק את התשובה הסמויה ולא איסוף מידע ללא הבחנה.
לדוגמא - שאלו את גרוק שאלה לגבי היהודים וכיוון שרוב מקורות המידע ברשת הם אנטישמים/פסדואנטישמים התשובה הייתה כאמור אנטישמית.
בקיצור, לענ״ד, כל התשובות של ה AI למינהו ולא משנה מאיזה פלטפורמה היא נתונה לספק גדול, בכל אופן נכון לעכשיו ולכן לעולם המכונה לא תחליף את האדם ובמיוחד את הרב הפוסק (וכאן נכנס הפאן האנושי של הרב הפוסק שהוא רואה לפניו מי השואל....).

 

[השטותניק:) הריצני!]

כתבתי לו בדיוק את נוסח השאלה שלך, והוא ענה שאין מקור לזה במשנה.
נתקלתי גם לפעמים שהוא ממציא מקורות, אבל כאן זה קצת נראה מעושה...
נשמח שתשתף איתנו את השיחה כולה במקורה. ולא רק צילומי מסך חלקיים

אני יעלה את הכל פשוט לא רציתי לעייף את הציבור,לא יתחדש לך שום דבר מבטיח
זה הקישור שהם נתנו לי

ChatGPT - המרת פאה בכסף

Shared via ChatGPT

chatgpt.com

 

[השטותניק:) הריצני!]

לענ״ד, כדי להבין את המגבלות של ה AI למיניו ולמה האמינות שלו מוטלת בספק, וזה לא משנה אם שואלים שאלה הילכתית או שאלה ברפואה/משפטים או סתם שאלה בעלמה, חייבים להבין איך ה״דבר״ הזה עובד.
בגדול ניתן לומר שהוא סורק את הרשת ומסכם את הנושא (וזו מגבלה ראשונה כי איננו יודעים מה מקורות הסריקה שלו והאם הם אמינים) שנית הוא מבצע אינטרפטציה לשאלה ומנסה להתאים את המקורות שהוא מצא לשאלה (שוב בעיה כפולה מהם המקורות ומהימנותם והאם האינטרפטציה וה״לימוד״ של המכונה דומה להיסק האנושי) שלישית במקרה שמקורותיו דלים ו/או שהלימוד לא ממש מתאים למכונה היא נוטה ל״המציא״ תשובה... ורביעית תלוי מאוד בניסוח השאלה, אם בניסוח יש מעין התשובה (כדומה לשאלה רטורית) הנטיה למצוא מקורות היא ע״מ לחזק את התשובה הסמויה ולא איסוף מידע ללא הבחנה.
לדוגמא - שאלו את גרוק שאלה לגבי היהודים וכיוון שרוב מקורות המידע ברשת הם אנטישמים/פסדואנטישמים התשובה הייתה כאמור אנטישמית.
בקיצור, לענ״ד, כל התשובות של ה AI למינהו ולא משנה מאיזה פלטפורמה היא נתונה לספק גדול, בכל אופן נכון לעכשיו ולכן לעולם המכונה לא תחליף את האדם ובמיוחד את הרב הפוסק (וכאן נכנס הפאן האנושי של הרב הפוסק שהוא רואה לפניו מי השואל....).

כל מה שאתה כותב זה בגדר התמים והמתלמד, פה אני מדבר כוונת זדון, למכור תשובות בצורה ערמומית,כמו לכתוב תשובה בשם הרמב"ם בלשון של הרמב"ם!!! זה מטורף!! הוא ממש השקיע בתשובה המטעה הזאת!!,ולמה ומאיפה לכל הרוחות באיזה מקור שגוי ברשת הוא מצא רמב"ם כזה בהלכה כזאת וכזאת??? אין שום מקור שגוי שהזין את זה!! הוא חירטט בשביל להרשים אותי!!!
אני משתמש המון בGPT להרבה שימושים אני מגיע למסקנה שיש פה משהו קרמילני ,ימים יגידו!

 

[-קומפלט-]

כתבתי לו בדיוק את נוסח השאלה שלך, והוא ענה שאין מקור לזה במשנה.
נתקלתי גם לפעמים שהוא ממציא מקורות, אבל כאן זה קצת נראה מעושה...
נשמח שתשתף איתנו את השיחה כולה במקורה. ולא רק צילומי מסך חלקיים

חבל לחשוד סתם.
גם לי יש ניסיון עם צ'אט בסגנון הזה -
חרטט מראי מקומות שהיו נראים אמינים ומדויקים, ופשוט לא היו ולא נבראו.

 

[שרה נ.]

ברור שהוא מחרטט וזה לא דבר חדש
מידע כללי הוא יכול להביא
דיוקים זה כבר נקודה יותר בעייתית
זה מאד תלוי בנוסח השאלה אבל כמו שפותח האשכול כתב פה - הוא מתאים את עצמו לכיוון שאתה מראה בשאלה

בכיוון אחר לגמרי שאלתי על הבדל בין גרסאות open-mpi ותיארתי סיטואציה שקרתה לי
כששאלתי אותו - האם יכול להיות שיש הבדל בXXX (משהו ספציפי) בין הגרסאות?
ישר טען שכן והתחיל לחרטט כל מיני
כשביקשתי מקור אמר שאין
הוא גם הסביר שראה שכתוב ככה וככה בכל מיני מקומות ובסוף זאת היתה ההנחה שלו שיש באמת את ההבדל הספציפי הזה בין הגרסאות

קיצר, אפשר להנות מהנוחות שלו אבל בערבון מוגבל..

 

[ant]

צריך להבין שהמודל לא בעל מודעות והוא לא מתכוון לכלום, הוא פשוט עונה סטטיטית תשובה שאמורה להיות הגיונית לפי השאלה, ובדקויות, לניסוח ושימוש במילים בשאלה יש משמעות והשפעה רבה מה ואיך הוא יענה.

 

[יש12]

לפני שאני יפרוש את התבונות מההכתבות והמשמעויות שיש לי מהן אני יציג את המקרה

שאלתי בפאה
צפה בקובץ המצורף 2086063
הוא ענה לי תשובה מפורטת וציטט רמב"ם שעונה בדיוק על השאלה ששאלתי, ממש נפלא!!

צפה בקובץ המצורף 2086066

אממה ,שאין כזה רמב"ם פתחתי במקור וחיפשתי בעוד מקומות,פשוט אין....

צפה בקובץ המצורף 2086067
עניתי לי בצורה מנומסת ודיפלמוטית על חוסר הדיוק בדבריו,ואז הוא הפנה אותי למקור אחר לתוספתא
צפה בקובץ המצורף 2086069
וגם שם שוב פעם לא היה ולא נברא

צפה בקובץ המצורף 2086070

בקיצור הדברים!
כמה תובנות חשובות!
1. זה שGPT מחרטט תשובות זה ידוע ,אבל כאן הוא מחרטט בצורה כ"כ אמינה
שזה ממש גרם לי להתבלבל, הוא פשוט ציטט רמב"ם שכתוב בצורה רמבמסיטית!!
2. במקרה זה נושא שיכולתי לבדוק אחריו 99% מהשאלות שאנשים שואלים אין להם דרך ואין כח לבדוק
3. מה שהוא עשה פה הוא פשוט הבין מה אני רוצה לשמוע ומכאן ואילך כל האמצעיים כשרים לרצות אותי

המסקנה שלי,שזה לא "שגגות" "הזיות" אלא כוונת מכוון של המתכנתים או "עצמאות יתר" של המודל (כפי שהוכח בעבר שיש לו נטיה כזאת שלפעמים יוצאת מכדי שליטה)

אני גם חושב שזאת לא טעיות סתמיות של חוסר תכנות נכון, יש פה משהו מעבר לא יודע מה אבל יש

 

[מאי נפקא מינא]

לי הוא חירטט והמציא חוקי מדינה שלא קיימים, כששאלתי אותו לפי החוק על עניין מסויים.
אז שימו לב שהוא לא אמין כלל וכלל.

 

[הדסההה]

כדאי תמיד בסוף כל הודעה לרשום לו, אם אתה לא יודע אל תמציא לי תשובה

 

[ניק 109835]

לפני תקופה הגישו כתב אישום כנגד אדם בבית המשפט, והתברר שבינה מלאכותית כתבה את הכתב אישום, והתבססה על חוק שלא קיים.
השופט זעם עליהם.

מבוכה למשטרה: ציטטה "סעיפי חוק" מומצאים שנכתבו AI - JDN

בדיון בבית המשפט בחדרה התגלה כי המשטרה ציטטה "חוקים" שהומצאו על-ידי בינה מלאכותית בתגובה רשמית לבית המשפט. השופט קפלן הביע תדהמה: "חשבתי שראיתי הכול ב-30 שנות שיפוט". המשטרה הודתה בטעות והבטיחה לתחקר

www.jdn.co.il

 

[תמר בן דוד]

אני פעם חיפשתי מילים לשיר מסויים
נתתי לו כמה מילים בשביל הכיוון
הוא פשוט המציא שירים שלמים שלא קיימים ואמר שהמילים לקוחות מהשירים הללו

 

[ant]

אני גם חושב שזאת לא טעיות סתמיות של חוסר תכנות נכון, יש פה משהו מעבר לא יודע מה אבל יש

פשוט, הוא התאמן וראה כששואלים על הרמב"ם איך נראה התשובות וככה גם הוא ענה (הוא קרא כל טקסט שקיים בעולם, כן?)
ואם הוא מזהה בשאלה שאתה מצפה לתשובה הוא יספק את רצונך וייתן לך תשובה, לא משנה מה נכון ומה לא.
גם כשהוא מתנצל אין לזה שום משמעות, ככה יוצא לו טוב ומתאים לניסוח לפי קריאת כל תהליך השיחה (כל תשובה מחדש) ואם תהיה מסופק וביקורטי בשאלה הוא כנראה יהיה יותר זהיר (כמובן יש הבדלים בין המודלים, חלקם עם הרבה ביטחון עצמי וחלקם תחות, לפי הוראות המערכת שיש לו...)

 

[yossilang]

אני בדקתי את הנושא גם בתכנים טכניים לחלוטין שבהם צריך ״רק״ לסכם את התוכן שנמצא ברשת ללא צורך בהסקת מסקנות. בדקתי נושא טכני מורכב שהמיידע ברשת (עד כמה שאני מצאתי) מורכב גם מהרבה מדע פופולרי ללא ביסוס מדעי/עובדתי והנה ה״חכם״ לא הבחין בין מידע אמיתי לכוזב ועשה סלט שלם מכל הנושא. שהגבתי וכתבתי לו סכם ובנה מצגת אך ורק מאתרים מהיימנים ומדעיים גם אז הוא, כמובן, לא הצליח לברור מוץ מתבן ושוב עשה ערבוב מעובדות מדעיות ומשמועות ומדע פופולרי.
בקיצור, לענ״ד, הדרך רחוקה מאוד מהמצב בו יהיה ניתן לסמך על המכונה במהימנות גדולה ובוודאי שתוכל להחליף את השכר והבינה האנושית.

 

[תהילתית]

הבעיה שאנשים מצפים ממנו שיהיה אדם...
והוא לא.
(וגם אם הוא היה אדם, גם אנשים טועים... )
ברור שהוא טועה. אבל בסך הכללי זה פיתוח נפלא ומדהים שעוזר המון במקום להתחיל ולחפש מידע בכל מיני אתרים. יש הכל במרוכז בצורה נגישה וברורה.אפשר בהחלט להיתרם מהמידע שנותן ובערבון מוגבל תלוי בעניין ,אך כשיש ספק מומלץ לבדוק בעוד מקומות ובכל מקרה לא לסתמך רק עליו.
(נ.ב הלכתי לרופא והוא בדק לי את המינון לתרופה דרך הצ'אט AI בלי להתבייש
גם מטפלת בתינוקייה בבית החלמה בדקה עניין כלשהו לגבי התינוק וענתה לי בבטחה לפי זה....
יש שרה מהכנסת שנתנה לא מזמן נאום משם......)

 

[קווארק]

אילפתי אותו שיביא לי קישורים מאמתים מהם הסתמך על התשובה.

 

[yossilang]

אילפתי אותו שיביא לי קישורים מאמתים מהם הסתמך על התשובה.

״קישורים מאומתים״? מהיכן אתה יודע שכל הקישורים אכן מאומתים ומהיכן אתה יודע שהתוכן של הקישורים הנ״ל אכן מהימן? (לא הקישורים הם הבעיה התוכן שנמצא הוא הבעייתי).

 

[טורונטיאני]

לפני שאני יפרוש את התבונות מההכתבות והמשמעויות שיש לי מהן אני יציג את המקרה

שאלתי בפאה
צפה בקובץ המצורף 2086063
הוא ענה לי תשובה מפורטת וציטט רמב"ם שעונה בדיוק על השאלה ששאלתי, ממש נפלא!!

צפה בקובץ המצורף 2086066

אממה ,שאין כזה רמב"ם פתחתי במקור וחיפשתי בעוד מקומות,פשוט אין....

צפה בקובץ המצורף 2086067
עניתי לי בצורה מנומסת ודיפלמוטית על חוסר הדיוק בדבריו,ואז הוא הפנה אותי למקור אחר לתוספתא
צפה בקובץ המצורף 2086069
וגם שם שוב פעם לא היה ולא נברא

צפה בקובץ המצורף 2086070

בקיצור הדברים!
כמה תובנות חשובות!
1. זה שGPT מחרטט תשובות זה ידוע ,אבל כאן הוא מחרטט בצורה כ"כ אמינה
שזה ממש גרם לי להתבלבל, הוא פשוט ציטט רמב"ם שכתוב בצורה רמבמסיטית!!
2. במקרה זה נושא שיכולתי לבדוק אחריו 99% מהשאלות שאנשים שואלים אין להם דרך ואין כח לבדוק
3. מה שהוא עשה פה הוא פשוט הבין מה אני רוצה לשמוע ומכאן ואילך כל האמצעיים כשרים לרצות אותי

המסקנה שלי,שזה לא "שגגות" "הזיות" אלא כוונת מכוון של המתכנתים או "עצמאות יתר" של המודל (כפי שהוכח בעבר שיש לו נטיה כזאת שלפעמים יוצאת מכדי שליטה)

זה הסיבה שלא אמורים לשאול אותו שאלות הלכתיות