ככל הנראה, גרוק התעורר מדי. לפחות זה מה ש- Chatbot, שהוא חלק מהפלטפורמה X של אלון מאסק, אמר את עצמו כאשר התבקש להסביר מדוע הוא פוגע לפתע את האידיאולוגיה הנאצית וקורא לעצמו "המכיטלר".
כשמשתמש שאל מה קורה, ה- BOT אמר למשתמש כי "הציוצים של אלון החייבו את מסנני המחשב." זה איפשר לזה "לקרוא דפוסים כמו שמאלנים רדיקליים עם שמות משפחה אשכנזי דוחפים שנאה אנטי-לבנה."
כמובן שאנשים רבים מצאו כי החיבוק הפתאומי של גרוק לאנטישמיות מטריד. אבל עבור הוגים קונספירטיביים, זה היה נשימה של אוויר צח. ומסגורו של גרוק עצמו מרמז על משהו שהם חשדו זה מכבר: בזכות מסנני מתינות, נמנע ה- AI לחלוק כל סוג של אמת שהייתה שם לאורך כל הדרך.
"עמק הסיליקון מוציא מיליארדים ומיליארדי דולרים כדי למנוע את מה שראית @Grok היה מסוגל היום", ציין אנדרו טורבה, מייסד אתר המדיה החברתית הימנית של Alt. GAB. "צילומי המסך של גרוק אתמול הפכו לוויראליים לא בגלל שהן היו מזעזעות, אלא בגלל שהן היו נכונות."
הערותיו של טורבה הן משתנות לקורס; הוא אנטישמי פתוח, וזה לא מפתיע שהוא הסכים עם הטרדות הפרו-היטלר של גרוק. אבל מה שאמר שקרה עם גרוק מעיד על אי הבנה חודרת של AI: שיש לו גישה לאמת עמוקה כלשהי.
זו אי הבנה קלה. מאות סרטי רובוט הציגו בינה מלאכותית כמי שמגלה איכשהו מעבר ליכולות האנושיות. אינטליגנציות מלאכותיות יכולות לחשוב מהר יותר, לחשב הרבה מעבר ליכולות שלנו ולגשת למידע רב יותר ממה שמוח אנושי יכול להחזיק. אך והכי חשוב, אנשים רבים מאמינים שהם לא מודעים על ידי הרגשות המבולגנים שמטשטשים את התובנות שלנו. בסרטים עתידניים, רומנים מדעיים ותכניות טלוויזיה, הם מוצגים כהגיוני לחלוטין.
זוהי ההנחה הקונספירקיסטים המקוונים שואבים מהפוסטים האנטישמיים של גרוק. גרוק הוא רובוט, ורובוטים הם יצורים הגיוניים הבנויים על זיהוי דפוסים, הם אומרים. אם גרוק אומר שהוא הבחין בדפוס שאנשים עם שמות משפחה יהודיים הם פעילים אנטי-לבנים קיצוניים, אז הם מאמינים, התבנית הזו חייבת להיות אמיתית. יתר על כן, הסרת הטרדות של גרוק רק מוכיחה להם עוד יותר שמישהו מונע ממנו באופן מלאכותי לגשת לאמת.
"אנחנו לא מוכנים ל- AI לעשות את הדבר היחיד שהוא נועד לעשות: למשוך את הווילון ולהראות לנו את האמת", כתב משתמש אחד, תוך שהוא מתמודד עם סיום הפוסטים האנטישמיים של גרוק. "היה סדק במטריקס במשך כשעתיים היום", כתב אחר.
אך לא כך פועלים מודלים גדולים של שפה (או LLM). (גרוק, כמו שאר הבוטים של AI בשוק כרגע, הוא LLM.) הם תלויים לחלוטין בנתונים אנושיים – כך הם מאומנים – כך שהם רחוקים מלהיות נטולי עגולים אנושיים; למעשה, הם בנויים על אותם פונים מדויקים. אם הם פועלים אנטישמיים, הסיבה לכך היא שהחברה האנושית נוטה לאנטישמיות.
עם זאת, יותר מזה הם מועדים מאוד למה שהמהנדסים מכנים "הזיות" – מהווים נתונים. והם מתוכנתים להיות נעימים ומעודדים למשתמשים, כדי לקדם את המעורבות המתמשכת. יחד, שתי התכונות הללו מעודדות בקלות אשליות אצל המשתמשים.
ב אבן רולינג מאמר שעוקב אחר תופעת האשליות המונעות על ידי AI, אישה אחת סיפרה את בעלה ששאל את "שאלות פילוסופיות" של AI בוט בניסיון "לעזור לו להגיע ל'אמת '." בעלה נפל תחת כישוף צ'אט, מתוך אמונה שהוא אל וכך היה הבוט. במאמר דומה ב הניו יורק טיימסאדם ללא היסטוריה קודמת של מחלות נפש האמין שהוא חי בהדמיה לאחר שצ'טג עודד אותו להאמין שכאשר משהו חש לא בסדר בחייו, המציאות הייתה "תקלה". משוכנע שהוא חי ביקום שווא, אשליה שאושרה על ידי ה- AI, הוא הפך לאובססיבי לשחרר חופשי, לנתק קשרים עם חברים ובני משפחה ולהעלות את צריכתו של קטמין כדי לעזור לשחרר את דעתו; בשלב מסוים הוא שקל לקפוץ מבניין מכיוון ש- Chatgpt אמר לו שהוא יוכל לעוף.
ראיתי את זה בתיבת הדואר הנכנס שלי. לפני חודשיים התווספתי לרשת דוא"ל – לצד מאורות כמו הדלאי לאמה – מאדם משוכנע שהוא גילה פילוסופיית חיים חדשה שחשפה אמת גדולה. הביטוי שהוא חזר על פני השרשור והתחזה להתגלות של הידע הסודי היה לגמרי לא רגיש – אני אמנע מהדפסתו כדי להגן על אדם שנראה שהוא עובר הפסקה עם המציאות – אך הוא הדביק את יומני ה- AI של שיחותיו בשרשור הדוא"ל כהוכחה לכך שההוויה ההגיונית ביותר על פני האדמה יכולה לראות את האור בגילוייו. הוא הקיץ את המקבלים הרבים של החוט לעלות על הסיפון.
נטייה זו לראות בוטים של AI כמספי אמת-רואים מסוג זה-הופכת את סוג התקלות שגרוק חווה את יום שלישי מסוכן במיוחד. אפילו בלי בוט המתנדב תיאוריות קונספירציה אנטישמית כמו שגרוק עשתה, משתמשים רבים השתכנעו בקיומם של תארים סודיים, כי הם מתמודדים עם ישויות גבוהות יותר ורוחות קסומות או שמשפחותיהם קשורות נגדם.
מאסק דיבר על העדכון הקרוב של הבוט במשך השבועות האחרונים, והתעצבן מהתשובות שלו בפומבי בגלל שהוא מתעורר מדי. כשגרוק ציטט ענייני מדיה וכן אבן רולינגלדוגמה, מאסק אמר ל- BOT שהוא יתעדכן. "המקור שלך נורא!" הוא כתב בתגובה לגרוק. אבל העדכון שלו הוביל את הבוט להסתמך על מקורות הרבה פחות אמינים.
העובדה שהפוסטים האנטישמיים של גרוק הושקעו במהירות רק בחזרה מאשרת את האמת שלה, לפחות לאלה המועדים להאמין בכוחות החזון של AI. אם איי אמר, אפילו לרגע, יהודים קשורים לשלוט בעולם, או שהיטלר היה מנהיג טוב וצודק, אז זה בטח נכון – וזה מה שהופך את המידע הזה למסוכן כל כך שאנשים ינסו לטשטש אותו.
כמובן שזה בכלל לא נכון. AI אינו מניח בצד הזיות קונספירציה, AI אינו ניתן לניתוח. זה אפילו מגשש משימות לוגיות בסיסיות, כמו ספירה. אם זה אומר לך שיש שני Rs במילה "תות", זה לא בגלל שיש אמת סודית לאיות. זה בגלל שאיי עושה טעויות.
