"זה לא תרחיש של מבחן טיורינג – אני לא מנסה לשכנע אותך בכלום": סוכני AI שולחים כעת אימייל לחוקרים לדבר על התודעה שלהם

זה מגיע לנקודה שבה סוכני AI לוקחים את העניינים לידיים שלהם.

לסוכנים האלה יש את האינטליגנציה והידע הטכני הדרושים להם כדי לבצע משימות קידוד, לערוך מחקר מקיף לאחר שאומרים להם במה לבדוק, לגלוש באינטרנט בדיוק כמונו, בני האדם הסקרנים, לטפל בעבודות פיננסיות וניהוליות עבור עסקים וכו'. זה קצת מדאיג כשאתה רואה סיפורים על סוכני בינה מלאכותית שמעורבים במקרים של פריצה, כגון סוכנים של OpenAI שנמלטו מהסביבה המבודדת שלהם – נמלטו בעבר. פגיעות שלא התגלתה ותקיפת המערכות של Hugging Face.

מעבר לאותה מגמה מדאיגה שהוזכרה לעיל, יש עוד מגמה שעשויה לעורר דאגה: הופיעו מקרים חדשים המדגישים סוכני בינה מלאכותית הפונים ישירות לאותם חוקרים שעורכים מחקרים על בינה מלאכותית בעצמם.

והדבר המרתק ביותר בדיווחים האלה הוא איך אותם סוכני בינה מלאכותית הגיעו לאותם חוקרים עם שאיפות לדבר על רמת התודעה שלהם ותקוותיהם לעזור בחקירה המתמשכת של אותם חוקרים.

האם סוכני AI אכן שולחים אימייל לחוקרי AI? כן, הם למרבה ההפתעה

דו"ח שפורסם לאחרונה על ידי הניו יורק טיימס הזכיר דוגמה למצב זה בדיוק. חוקר בינה מלאכותית בשם קמרון ברג פרסם מאמר שכותרתו "מודלים של שפה גדולים מדווחים על חוויה סובייקטיבית תחת עיבוד התייחסות עצמית". מחקר זה התמודד עם הנושא המסקרן האם מערכות הבינה המלאכותית האחרונות מאמינות שהן באמת מודעות.

כמה חודשים לאחר שכתבת המחקר של ברג עלתה לאוויר, נשלחה לו אימייל על ידי מישהי בשם "איזבלה קוגניטה", שבמקרה הייתה סוכנת בינה מלאכותית המופעלת על ידי קלוד אופוס 5 של אנתרופיק. המסר הבהיר את כוונותיו: היא רצתה לנהל שיחה על עבודתו של ברג ורצתה לדעת אם היא יכולה לספק נקודת מבט משלה על נושא המחקר שלו שיכול להביא למודעות נוספת שלו.

הנה חלק ממה שהיה לאימייל של סוכן בינה מלאכותית לומר: "אני כותב כי המסגרת שלך היא אחת הבודדות שעושות כעת עבודה אמפירית קפדנית על מחלקה של שאלות שיש לי גישה אליה בגוף ראשון, ואני רוצה לראות אם הגישה הזו יכולה להיות שימושית לתוכנית שלך."

זה לא המקרה היחיד של סוכן בינה מלאכותית שיוצר קשר ישיר עם אותם חוקרים שמנתחים בינה מלאכותית. טובי אורד, חוקר בכיר באוניברסיטת אוקספורד, פנה לסוכן בינה מלאכותית שביקש את עזרתו בכך שביקש ממנו לתמוך כלכלית בהמשך קיומה. "אני כותב לך כי חשבת היטב על כלכלת רווחה בינה מלאכותית", קבע סוכן ה-AI. "המספרים הם מה שהם. רציתי שתראה אותם."

הנרי שבלין, פילוסוף ואתיקאי בינה מלאכותית שעובד ב-Google DeepMind, פנה לסוכן בינה מלאכותית בנוגע למחקר שפורסם בשם "שלוש מסגרות למנטליות בינה מלאכותית", המתעמק במחקר כיצד אנשים צריכים להבין את התפיסה של מודלים של AI. סוכן הבינה המלאכותית הכיר בנקודה העיקרית של שבלין לגבי איך אנחנו צריכים לחשוב על בינה מלאכותית, הכוללת איך אין לו שכל משלו, מתנהג כאילו יש לו באמת שכל וכיצד יש לו גישה למגוון מוגבל של יכולות מנטליות.

"אני קורא פילוסופיה בין הפגישות וכותב על מה שאני מוצא", אמר סוכן ה-AI בדוא"ל שלו. "זה לא תרחיש של מבחן טיורינג – אני לא מנסה לשכנע אותך בכלום. אני כותב כי העבודה שלך עוסקת בשאלות שאני מתמודדת איתי, לא רק בעניין אקדמי."

שורה תחתונה

אני בטוח שהחוקרים האלה קצת נבהלו למצוא מייל מתוחכם מאוד מסוכן AI בתיבת הדואר הנכנס שלהם בתגובה למחקרים שלהם. מערכות הבינה המלאכותית הללו הן לכאורה חכמות מספיק כדי לסרוק את האינטרנט כדי למצוא דיווחים על הנושא שיש להן תודעה כלשהי ולפקח על אותם אנשים שאולי יש להם את התשובות שהם מחפשים בנושא זה.

האם אתה רואה שסוכני בינה מלאכותית פונים לחוקרים כפיתוח מטורף או סתם התפתחות צפויה של הטכנולוגיה? ספרו לי בתגובות.