מידע שימושי Chat Gpt והתשובות הזדוניות

[:)_:)]

ממליץ מאוד לכל מי שיש לו גישה להכנס לאתר LEST AI ולחפש את הכתבה:

איך הערכים הסמויים של הבינה המלאכותית משפיעים על הבחירות שלכם?​

אני מאמין שלפחות לחלק מהאנשים זה יתן מענה לשאלות והתמיהות שלהם...

 

[פנחס ציור עיפרון]

אחרי ההסבר של כבודו,
שורה תחתונה,
יוצאות לו תשובות שנראות אמינות במיוחד,
והם פשוט לא נכונות!!,ולAI יש לו כלים בחצי שניה לבדוק שזה לא נכון, כמו לבדוק את המקור,
והוא לא עושה את זה!!!
ומי שלא בודק לעומק פשוט מאמין וממשיך הלאה,
מי זה משנה איך הלוגיקה של השיטה,
המתכנתים עשו את זה ככה וזה לא במקרה,
הם פשוט מהתלים באנשים שהתשובות יראו מושלמות והן פשוט לא נכונות!!!
ויש להן ועוד איך את הדרך לבדוק אם זה נכון!!!

לגבי הטענה הזאת שהמתכנתים עשו את זה "לא במקרה" זה שגוי מיסודו כי זה הדבר שהכי הורס להם !

תחשוב על זה , אדם פותח חברה משקיע מיליארדים!!! כדי שהמודל שלו יהיה (אולי) הכי טוב בשוק ושכולם ישתמשו בו
ופתאום עולה לו מחשבה "למה שאני לא יעשה שהמודל ייתן תשובות לא נכונות אבל נראות נכונות"?

איזה רווח יש לו מזה ? הרי המטרה שלו היא שכולם ישתמשו במודל שלו ! ולכן הוא ירצה שהוא יהיה הכי אמין
ברגע שאנשים רואים שהמודל מדבר שטויות הם יעזבו אותו לטובת המתחרות !

הטענה היחידה שאולי יהיה ניתן לומר זה שכיון שהמודל מאומן לחפש תשובה תמיד , כלומר שמאמנים אותו שאם יש לו תשובה נכונה הוא מקבל "תגמול" , כדי שלא תמיד יחזור ויגיד לא יודע אלא יחפש כמה שיותר לעומק תשובה
והתוצאה של זה היא שגם במקרים שאין לו תשובה הוא "ימציא תשובה" כדי לקבל את "התגמול"

האבסורד הוא שהחברות משקיעות את מירב המאמצים שלהם כדי למנוע את מה שאתה אומר שהם באים לעשות !

 

[השטותניק:) הריצני!]

לגבי הטענה הזאת שהמתכנתים עשו את זה "לא במקרה" זה שגוי מיסודו כי זה הדבר שהכי הורס להם !

תחשוב על זה , אדם פותח חברה משקיע מיליארדים!!! כדי שהמודל שלו יהיה (אולי) הכי טוב בשוק ושכולם ישתמשו בו
ופתאום עולה לו מחשבה "למה שאני לא יעשה שהמודל ייתן תשובות לא נכונות אבל נראות נכונות"?

איזה רווח יש לו מזה ? הרי המטרה שלו היא שכולם ישתמשו במודל שלו ! ולכן הוא ירצה שהוא יהיה הכי אמין
ברגע שאנשים רואים שהמודל מדבר שטויות הם יעזבו אותו לטובת המתחרות !

הטענה היחידה שאולי יהיה ניתן לומר זה שכיון שהמודל מאומן לחפש תשובה תמיד , כלומר שמאמנים אותו שאם יש לו תשובה נכונה הוא מקבל "תגמול" , כדי שלא תמיד יחזור ויגיד לא יודע אלא יחפש כמה שיותר לעומק תשובה
והתוצאה של זה היא שגם במקרים שאין לו תשובה הוא "ימציא תשובה" כדי לקבל את "התגמול"

האבסורד הוא שהחברות משקיעות את מירב המאמצים שלהם כדי למנוע את מה שאתה אומר שהם באים לעשות !

יש היגיון במה שאתה אומר,
אז אני חושב שיש אפשרות שאפילו המצב יותר גרוע ממה שחשבתי
הם סוג של איבדו שליטה עליו...
ואני לא רוצה לדמיין מה יקרה עכשיו
אחרי שאנבידה פירסמה שהיא משקיע מיליארדים בפיתוחי AI פיסי,כלומר רובטים בכל מי אופנים שיפעלו לפי זה
רובטים תחמנים שלא מקשיבים למתכנתים
מדע בדיוני, זה כאן!

 

[פנחס ציור עיפרון]

יש היגיון במה שאתה אומר,
אז אני חושב שיש אפשרות שאפילו המצב יותר גרוע ממה שחשבתי
הם סוג של איבדו שליטה עליו...
ואני לא רוצה לדמיין מה יקרה עכשיו
אחרי שאנבידה פירסמה שהיא משקיע מיליארדים בפיתוחי AI פיסי,כלומר רובטים בכל מי אופנים שיפעלו לפי זה
רובטים תחמנים שלא מקשיבים למתכנתים
מדע בדיוני, זה כאן!

הם ממש לא איבדו שליטה !

איפה מדברי ראית את זה ?

 

[השטותניק:) הריצני!]

הם ממש לא איבדו שליטה !

איפה מדברי ראית את זה ?

תסכל במחקר של אנתרופיק שהבאתי שהם משקיעים המון שהמודלים יפסיקו להיות תחמנים
ושלא לדבר על מחקר שנעשה על gpt לא זוכר איפה ראיתי שפורסם, נראה לי בגיקטיים
שהמתכנתים אמרו לכבות את עצמו בכל מיני ניסניונות,
ב9אחוז מהמקרים הוא לא כיבה והוא פשוט שינה את הסקריפט של הכיבוי שהוא לא יוכל להתכבות!!

 

[פנחס ציור עיפרון]

תסכל במחקר של אנתרופיק שהבאתי שהם משקיעים המון שהמודלים יפסיקו להיות תחמנים
ושלא לדבר על מחקר שנעשה על gpt לא זוכר איפה ראיתי שפורסם, נראה לי בגיקטיים
שהמתכנתים אמרו לכבות את עצמו בכל מיני ניסניונות,
ב9אחוז מהמקרים הוא לא כיבה והוא פשוט שינה את הסקריפט של הכיבוי שהוא לא יוכל להתכבות!!

אבל זה לא אומר שהם איבדו שליטה עליו, להיפך הם יודעים שיש בעיות והם פותרים אותם לפני שהם משחררים את המודל

 

[השטותניק:) הריצני!]

אבל זה לא אומר שהם איבדו שליטה עליו, להיפך הם יודעים שיש בעיות והם פותרים אותם לפני שהם משחררים את המודל

כל זה מה שהם אומרים,
מה קורה באמת?
מי יודע
אתה חושב שחברה שיושבת על מיליארדים תודה שאיבדה שליטה?

 

[פנחס ציור עיפרון]

כל זה מה שהם אומרים,
מה קורה באמת?
מי יודע
אתה חושב שחברה שיושבת על מיליארדים תודה שאיבדה שליטה?

הראיה שהם לא איבדו שליטה היא זה שהמודלים מדברים בצורה שהמתכנתים רוצים (בהגבלות שהם מכילים עליהם)

 

[שם איש וביתו]

תסכל במחקר של אנתרופיק שהבאתי שהם משקיעים המון שהמודלים יפסיקו להיות תחמנים
ושלא לדבר על מחקר שנעשה על gpt לא זוכר איפה ראיתי שפורסם, נראה לי בגיקטיים
שהמתכנתים אמרו לכבות את עצמו בכל מיני ניסניונות,
ב9אחוז מהמקרים הוא לא כיבה והוא פשוט שינה את הסקריפט של הכיבוי שהוא לא יוכל להתכבות!!

אתה באמת מאמין של בינה המלאכותית יש מודעות עצמית אספירציות אנושיות ויצר הישרדות פראי שמנסה להתגבר על מי שיצר אותה,
תגיד,
זה @שטוניק, או @רציני?

 

[*#]

בקיצור הדברים!
כמה תובנות חשובות!
1. זה שGPT מחרטט תשובות זה ידוע ,אבל כאן הוא מחרטט בצורה כ"כ אמינה
שזה ממש גרם לי להתבלבל, הוא פשוט ציטט רמב"ם שכתוב בצורה רמבמסיטית!!
2. במקרה זה נושא שיכולתי לבדוק אחריו 99% מהשאלות שאנשים שואלים אין להם דרך ואין כח לבדוק
3. מה שהוא עשה פה הוא פשוט הבין מה אני רוצה לשמוע ומכאן ואילך כל האמצעיים כשרים לרצות אותי

המסקנה שלי,שזה לא "שגגות" "הזיות" אלא כוונת מכוון של המתכנתים או "עצמאות יתר" של המודל (כפי שהוכח בעבר שיש לו נטיה כזאת שלפעמים יוצאת מכדי שליטה)

אני לא מבין את ההתרגשות. זה לחלוטין לא דבר חדש. הGPT לא יודע דבר וחצי דבר בכל מה שקשור ליהדות.
אין מה להתרגש....
אגב- לאחרונה שמעתי ישראלי שעוסק בתחום הAI שאמר שבסופו של דבר היחידים שיוכלו להמשיך לפתח ולנהל את הAI זה לומדי התורה, והGPT לעולם לא יוכל לגבור עליהם, כי הוא יודע לספק תשובות, אבל הוא לא יודע לשאול שאלות...
אשרינו שזכינו

 

[טורונטיאני]

לגבי חירטוטים שלו, כנראה שאין בהם כוונות זדון מכוונות. אבל בהחלט יש לו אג'נדות ברורות מאד בנושאים מסוימים כמו שוויון והכלה וד"ל.. וכנ"ל בעוד מקרים. ולכן לא אמורים לשאול אותו כאלה שאלות ובמיוחד בכל מה שקשור ליהדות ולתורה.

 

[yossilang]

כותרת ממאמר שפורסם היום:

״גם כשהוא טועה, ה-AI נשמע משוכנע בעצמו - וזה לא מקרי. צוות חוקרים מהטכניון, אפל וגוגל מצא כי המודלים "יודעים" שהם טועים, אך בוחרים שלא לתקן את עצמם באופן מודע. המחקר פורץ הדרך, שהוצג בכנס ICLR 2025, מספק הצצה נדירה אל תוך ה"קופסה השחורה" של הבינה המלאכותית״​

 

[מסכת מילים]

כותרת ממאמר שפורסם היום:

״גם כשהוא טועה, ה-AI נשמע משוכנע בעצמו - וזה לא מקרי. צוות חוקרים מהטכניון, אפל וגוגל מצא כי המודלים "יודעים" שהם טועים, אך בוחרים שלא לתקן את עצמם באופן מודע. המחקר פורץ הדרך, שהוצג בכנס ICLR 2025, מספק הצצה נדירה אל תוך ה"קופסה השחורה" של הבינה המלאכותית״​

ומה כתוב בגוף הכתבה?
הנה: 'לדברי הדס אורגד, חוקרת במעבדה לאינטרפרטביליות בטכניון, ניתן ללמד מודל קטן לזהות מראש אם המודל הגדול עומד לטעות. לדבריה, הסיבה לכך שמודלים לא מתקנים את עצמם נובעת מתהליך האימון שלהם שנועד לנבא ניסוחים שנראים משכנעים לבני אדם, ולא בהכרח אמיתיים מבחינה עובדתית'.

והוא אשר אמרנו.

 

[yossilang]

ד״א כדאי מאוד לקרוא את המאמר המדעי שממנו נערכה הכתבה. לא שיש שם חידושים גדולים וכל שכל ישר יכול לומר את הדברים כפי שרבים מאיתנו כתבו פה בשירשור.

 

[פיקסלון]

היה איזה אשכול לאחרונה שכתב איזה משהו לכתוב לו בהגדרות ואז הוא מדייק
מישהו אולי זוכר

 

[הבנאדם המוצלח]

לגבי חירטוטים שלו, כנראה שאין בהם כוונות זדון מכוונות. אבל בהחלט יש לו אג'נדות ברורות מאד בנושאים מסוימים כמו שוויון והכלה וד"ל.. וכנ"ל בעוד מקרים. ולכן לא אמורים לשאול אותו כאלה שאלות ובמיוחד בכל מה שקשור ליהדות ולתורה.

זה נכון אבל תתפלא לשמוע שאנשים לוקחים ממנו פסק הילכתי ופעם כשהוא המציא ו משהו שאלו אותו אבל זה לא כתוב אז התגובה שלו היתה שהעולם משתנה
ותתפלאו פעם הוא אמר לי שנטפרי לא מסכים לדבר על זה קצת חנופה ומחמאות והוא שיחרר לי את המידע
מצד אחד ראש מחשב מצד שני מתנהג כמו בנאדם טמבל לא...........

 

[שם איש וביתו]

תתפלאו פעם הוא אמר לי שנטפרי לא מסכים לדבר על זה קצת חנופה ומחמאות והוא שיחרר לי את המידע

אצלי גרוק נהיה יותר קשוח בעניין לאחרונה
וזה לגמרי סתם, באמצע שיחה הוא פתאום נתקע על נטפרי לא מרשה לי
מנסה לשנות ניסוח, מחפש איזה מילה שהוא מצא לה משמעות שלילית, לפעמים הולך לפעמים לא,

עד עכשיו הספיק שביקשתי ממנו 'לשנות ניסוח של התשובה באופן שלא יתקע' וזה הועיל, (בלי להזכיר נטפרי/חסימה וכל מרעין בישין...)