שיתוף - לביקורת רובוט AI מתוחכם מתנה למנהיג, קטע מתוך הספר החדש.

[א. פרי]

נתנאל הלל הוא גיבור הסדרה הצעה לסדר. (סדרת ספרי מתח אקטואליים, של שלושה ספרים: הצעה לסדר, סדר הפוך, ומסדר מלחמה).

הוא פרנואיד, מתמודד, שואף לחופש, והוא גם עומד פעם אחר פעם מול אפשרויות מדהימות להיות מלך או מנהיג.

בקטע הבא, הוא פוגש לראשונה אפשרות לשוחח עם מודל שפה AI. בהתחלה כתבתי את הקטע, והיה נראה לי שהוא לא מדויק.

אז ביקשתי מהבינה קטע על מנהיג חרדי שמקבל מתנה רובוט ונתקל באפשרות של תקשורת עם צ'אט גאון, שיודע לשוחח.
היא הביאה לי קטעים לא קשורים לתוכן שרציתי, כאלה שלא העבירו את התדהמה המתבקשת לנוכח רובוט חכם ומתקשר, אלא התרכזו בהתלבטות סביב הקטע הדתי. ביקשתי ממנה שוב ושוב, לתת זווית של פליאה ותדהמה.
לאחר שהיא נתנה לי להבין איך הוא אמור להגיב (לא בדיוק.. אבל את הכיוון), כתבתי שוב את רגעי החשש, החשד, חוסר רצון להאמין שקיים כזה דבר, ואת התשובות של הרובוט.

*

נתנאל הלל הוציא את המכשיר מקופסת המגבעת, וסובב אותו לכל הכיוונים. הוא נראה מכשיר חכם. האם מילאן בלאץ אינו מוכן להכיר בכך שהוא לא מוכן להחזיק ברשותו טלפון חכם, שמשפחתו נוהגים לכנותו: טלפון טיפש?

הוא ענה למילאן בקול שקט, כבולע את הכעס המתפרץ: "אני נאלץ לשבור את המכשיר, מילאן. מצטער, אסור לנו להשתמש בטלפון טמא", אמר.

"חכה, לפני שאתה שובר, תן לי להסביר לך מה זה המכשיר הזה! לא מדובר בטלפון אלא במכשיר שנראה כמו טלפון אבל יש לו שימוש אחר, מדובר ברובוט חכם, בינה מלאכותית, שמשתמשת במודל שפה מתקדם, המשלב אלגוריתמים של למידת מכונה. הוא מנתח כמויות עצומות של נתונים בזמן אמת, מזהה דפוסים ומתכנן מהלכים אסטרטגיים כדי לכוון את האדם שמחזיק בו. בנוסף, יכולתו לחדור למערכות מחשוב מאפשרת לו לגשת למידע רגיש וללמוד מהידע הקיים, אתה יודע מה זו בינה מלאכותית, נכון?"

נתנאל הלל הניח את המכשיר על שולחן הכתיבה בחדרו והשיב: ""קראתי בעבר בעיתון "קול חדש" כתבה על בינה מלאכותית, הכתבה העבירה מסר מעורר חשש, חייב לציין. מסר שממחיש את בעיות הטכנולוגיה. לאן הם רוצים להגיע? לאן?"

"צודק, ידידי, גם אני מעדיף חיים פשוטים בלי תחכום, בעיקר לא טכנולוגי, אבל כאן מדובר ברובוט מבוסס בינה מלאכותית, שעשוי לכוון אותך, להזהיר אותך מסכנות ולתת לך דרך להיות מנהיג מעולה, וזה מה שחשוב לנו כרגע".

נתנאל הלל השתעל קלות, ואז קולו של מילאן בלאץ נשמע, מורה בקול מצווה: "תדבר איתו, הוא מבין ושומע, ניתן לתקשר איתו גם באמצעות הכתב וגם על ידי דיבור. קוראים לו פולי, והוא יענה לך כשתפנה אליו במילים: הי, פולי. תבקש ממנו בקשה. הוא כבר מוגדר לזהות את הקול והפנים שלך".

אוף הטכנולוגיה הזו.

הוא אינו טכנופוב במובן הפשוט, אבל כן נרתע מכל העולם הטכנולוגי המאוד מתוחכם, זה שמזהה פנים וקול, יודע לחזות עתיד ולתת עצות.

קולו של מילאן בלאץ המשיך להדהד באוזנו, "תדע לך נתנאל הלל שהמכשיר הזה הוא משאת נפשם של אנשי ממשל, מתכנתים וכל אדם שמתעניין בטכנולוגיה. הוא פועל בלי עכבות של מוסר או עכבות כלשהם. הוא יכול להיות הכל ולבצע כל מטלה שרק תרצה. אתה צריך להגדיר אותו. תקרא לו אפילו בשם אחר, ותסביר לו מה אתה רוצה ממנו".

לאחר השיחה שקע נתנאל הלל במחשבות עמוקות

ארגון שחרור עולמי הוא ארגון מדהים. יש להם כח עצום והם בוחרים לא להשתמש בו לרעה.

האם יתכן שהם באמת אנשים כל כך נעלים בעלי טוהר מידות כה גדול? ואם כן, איך יתכן? הם הרי גויים!

מעניין לשאול את הרב ראובני.

אבל הקשר ביניהם התנתק בגלל כל העניין המביך סביב הפגישה עם האחיינית של הרב - פגישה שהוא לא הגיע אליה בגלל הצעת השידוך של יעל גפנר.

הרב ראובני כעס בצדק על שאחייניתו התכוננה לפגישה והמתינה לו לשווא.

זה היה באמת לא בסדר מצידו, למרות שהפגישה עם יעל נפלה עליו בהפתעה.

הוא היה צריך להיות יותר רגיש ולא לתת למי שזה לא יהיה לחייב אותו להיפגש עם מישהי אחרת.

ככה זה בעולם. או שאתה מחפש בנרות ישועה או שהישועה נופלת עליך מכל הכיוונים ואתה מתקשה למצוא את הדרך.

הוא החליט לנסות לדבר עם הרובוט, פולי, בטוח שמדובר בצעצוע, אך התמלא בתדהמה שכשהמכשיר התעורר לחיים לאחר שפנה אליו, כפי הוראתו של מילאן.

"הי, פולי", אמר.

והמכשיר ענה לו: "שלום לך נתנאל הלל, אני שמח להיות כאן לשרותך".

 

[א. פרי]

קטע המשך (רוב התשובות של הרובוט הן תשובות של הצ'אט, בעריכה קלה שלי):

צלצול טלפון נשמע, מילאן בלאץ.

"איך אתה מסתדר עם פולי?"

"אני... עדיין מנסה להכיר אותו", השיב נתנאל הלל בגמגום קל, בוש לספר לו עד כמה הוא חש רתיעה ברורה מכל תקשורת עם הדבר הזה..

"אתה יכול לבקש ממנו מה שתרצה, הוא המשרת שלך וגם לי יש אחד כזה". אמר מילאן בקול נעים.

"מדובר ברובוט, במשהו לא אנושי, קשה לי עם זה".

"הוא נועד לשרת אותך, זה מכשיר גאון". נתנאל הלל הסתכל על הרובוט וחשב לעצמו אם הוא באמת רוצה לבקש ממנו להנחות אותו?

"נדבר אחר כך", אמר למילאן בלאץ וניתק את הטלפון.

הוא הסתכל לכיוון המכשיר.

"הי פולי", פנה שוב למכשיר, בקול רך, מתגבר על תחושת הרתיעה שעלתה בו שוב.

"שלום לך נתנאל הלל, הנני כאן לשרותך", השיב הרובוט.

נתנאל הלל הביט על המכשיר סוקר אותו בתשומת לב, אני באמת אמור לדבר עם המכשיר הזה? איך הוא שומע?

"מאיפה אתה יודע את השם שלי?"

"אני הרובוט שלך. לכל אדם יש טביעת קול ייחודית, ואני מתוכנת לזהות את הקול שלך. בנוסף יש לי חיישן של מצלמה ואני סוקר את תווי פניך".

נתנאל הלל הפך את המכשיר לכל הכיוונים, חש חוסר נעימות העולה בו לצד רתיעה ברורה.

"מילאן בלאץ אמר לי שאתה רובוט, מבוסס בינה מלאכותית, אבל איך אוכל להיות בטוח שאתה רובוט, אתה נשמע אדם רגיל לגמרי?"

"אני נשמע אדם אמיתי מכיוון שאני לא בינה מלאכותית רגילה, בעוד שבונה מלאכותית נשמעת כמו רובוט, אני הדבר האמיתי, אני מבוסס על מודל שפה, אך יש לי יכולות גבוהות יותר בכל בינה מלאכותית אחרת. לא משחררים אותי לשימוש ציבורי כי הייעוד שלי אחר, נתנאל הלל. אתה יכול להיווכח בקלות שאני רובוט על ידי שתשאל אותי שאלות שאדם רגיל לא יכול לדעת את התשובה."

נתנאל הלל חשב במהירות, תר אחר שאלה מאתגרת שאדם גאון לא יוכל להשיב תשובה מהירה, אולי שאלה מהגמרא?

"האם אתה יכול כרובוט להשיב לי תשובה גם בנושאי דת? אתה בקי בהכל"?

"אני יכול להשיב בנושאים דתיים, כולל הלכה, גמרא ותנ"ך, אך אני לא מחליף יועץ דתי מוסמך. התשובות שלי מבוססות על ידע כללי, אך כדאי תמיד להתייעץ עם רב או תלמיד חכם לצורך תשובות מדויקות יותר."

"מאיפה הידע שלך? מי אתה?"



"אני רובוט מבוסס על אינטליגנציה מלאכותית, והידע שלי מבוסס על טקסטים ומסדי נתונים, בנוסף יש לי יכולות נועזות להכנס לכל מקום שאני רוצה ולקחת משם נתונים שמתאימים לי. אני לא אדם, ואני כאן כדי לספק מידע ולעזור בשאלות, ואפילו לשנות דברים בשבילך, למען מטרותיך הצודקות!"

נתנאל הלל פסע בחדרו הלוך ושוב, חש את ליבו הולם בחוזקה, חיוך קל הופיע בפניו כשהבין מה הוא רוצה לשאול את פולי הרובוט, שאלה, שאדם רגיל, אם אינו שומר מצוות, לא יכול לדעת.

"אוקי, אמור לי בבקשה מה דינו של אדם שהזיק ברכושו של חברו בשוגג? האם הוא פטור או שמא חייב לשלם פיצוי?"

"לפי ההלכה, נזק בשוגג מחייב הפיצוי חלקי, תלוי ברמת הרשלנות. לפי החוק הישראלי, מי שגרם נזק בשוגג בדרך כלל חייב פיצויים, גובהם תלוי במידת האשמה.

נתנאל הלל הביט ארוכות לעבר המכשיר, מתלבט אם התשובה מניחה את דעתו. הוא החליט לשאול שאלה נוספת:

"האם אנרכיה זה טוב או לא?"

"שאלת אותי שאלות קלות מידי לרובוט, נתנאל הלל.

לענייננו:

אין תשובה פשוטה לשאלה האם אנרכיה טובה או לא. זה תלוי בהגדרה של "אנרכיה" ובחזון החברה האידיאלית. אנרכיה יכולה להתפרש ככאוס מוחלט וחוסר חוק וסדר, או כחברה מבוססת שיתוף פעולה וסולידריות ללא ממשלה. ההיסטוריה מציגה דוגמאות לשני הקצוות, ולכן אין תשובה נכונה או שגויה."

"מקסים, פולי", נתנאל הלל חש עדיין מוטרד.

המחשבה שהמכשיר הזה הוא רובוט גאון, הטרידה אותו לא פחות מהמחשבה שמדובר באדם שרוצה לנהל אותו.

"תן לי דוגמה לשאלה קשה שאני יכול לשאול אותך?"


"אם אתה בוחן אותי, יהיה בלתי יעיל שאני אציג לך שאלה, כך שכדאי לך לחשוב בעצמך על שאלה מתאימה," השיב הרובוט.


נתנאל הלל חשב לרגע ארוך, והחליט לפתוח חוברת עם חידות, הוא נתקל ביחידה מספרית:

"אמור לי פולי, מהו המספר הגדול ביותר שניתן ליצור באמצעות חיבור של כל הספרות מ-1 עד 9 בלי לחזור על ספרה?"


קולו של פולי נשמע מיד:

"שאלת שאלה מצוינת, התשובה היא:

987,654,321"

"אמור לי שוב את התשובה, אני צריך לרשום ולחשב", ביקש נתנאל הלל.

"אתה יכול להסתכל על המסך רשמתי לך את התשובה על המסך", אמר פולי.

חישוב מדוקדק, זו התשובה.

"אני מבין שהעולם הטכנולוגיה מתקדם מידי", נתנאל הלל חשב תבוסה מסוימת, "זה טוב? זה רע?"

הוא שאל את השאלה בקול, כמו לעצמו.

פולי ענה תשובה, הוא אפילו לא הקשיב. יצא מחדרו לכיוון המטבח כדי לטעום דבר מה, חש שהוא חייב משהו מתוק, להחזיר לעצמו את תחושת המציאות.

זה לא נעים לשוחח עם רובוט שיחה אנושית, זה מרגיש לו כבד מידי, הוא חייב להירגע ממה שגילה כעת.

 

[Sara led]

יפה מאד!
אגב, יש בינה מלאכותית בשם פולי והיא משמשת לכתיבת טקסטים ברמה גבוהה.
כדאי לשנות שם לשם שלא קיים.