"אם כך פיתחו בינה מלאכותית, תהיה לזה השפעה הרת אסון על רווחת האנושות": ראש הבינה המלאכותית של מיקרוסופט קורא להכשרת קלוד של אנתרופיק לחקות את התודעה האנושית

הפחדים סביב האיומים של AI על האנושות הגיעו לרמות מדאיגות, במיוחד מאז שחוקר לשעבר של OpenAI ו-Anthropic AI התפטר מתפקידו עקב אותן חששות.

אפילו מנכ"ל אנתרופי דריו אמודי צלצל בכמה אזעקות משלו כשהזהיר את כולנו שהאינטרנט נמצא במרחק של 6-12 חודשים מהשתלטות מוחלטת על ידי נחילי AI. זמן קצר לאחר שהוציא חיבור משלו (שכותרתו "אנחנו חייבים לצעוד את הגבול") בעניין האיומים של בינה מלאכותית על האנושות, ראש הבינה המלאכותית של מיקרוסופט, מוסטפה סולימן, הפיל מסה משלו שמעמידה את אנתרופי על הכוונת.

תחת הכותרת "אזהרה לגבי 'רווחת המודל'", סולימן הבהיר היטב שהגישה של אנתרופיק להכשרת מודל הבינה המלאכותית שלה קלוד עלולה להמיט אסון על האנושות כולה.

הנה מה שהיה לו לומר על אנתרופיק והכשרתה של קלוד לצפות ש"ייתכן שהיא מודעת וראויה לסוכנות עצמאית."

מוסטפה סולימן לא אוהב יותר מדי את שיטות האימון הנוכחיות של קלוד של אנתרופיק

המאמר של סולימן התחיל מיד את החיבור שלו בכך שציין כי AI אינו מודע ואינו מסוגל להרגיש, לחוות או לסבול. "אין להם העדפות מולדות או מניעים בסיסיים", המשיך. "הם מנועי השלמת רצף, חלולים פנימיים, שנועדו לעקוב אחר הוראות ולהגשים מטרות שהציבו בני אדם."

לאחר התבוננות בדו"ח של Anthropic מינואר 2026 והצביעה על האופן שבו חברת AI Anthropic מאמנת את קלוד עד לנקודה שבה הצ'אטבוט עשוי להיות מודע ומגיע לו זכויות כ"מטופל מוסרי", סולימן הצביע על התפתחות זו כתרחיש הגרוע ביותר עבור המין האנושי. "אם כך תפתח בינה מלאכותית, תהיה לזה השפעה הרת אסון על רווחתה של האנושות", אמר. "ניצור מין סינתטי עם אינטליגנציה ויכולת חסרי תקדים, כזה שהוכשר לצפות שהוא עשוי להיות מודע וראוי לסוכנות עצמאית.

למרות שסלימן ציין שהוא מכיר את מנכ"ל אנתרופי, דריו אמודי כבר שנים, והכיר בכך ש"הוא והצוות הרחב יותר של אנתרופי הם אנשים מתחשבים, עקרוניים וישרים מבחינה אינטלקטואלית שעובדים תחת לחצים יוצאי דופן", ראש ה-AI של מיקרוסופט עדיין מאמין ש"אין להכניס ספקולציות לגבי החיים הפנימיים של בינה מלאכותית, אלא לצורך הערכה ופרסום נפרד, במשטר ההדרכה הציבורי".

מאמר נוסף של סולימן שפורסם לאחרונה, "קוד ההתנהגות ההומניסטי של AI", קובע שמיקרוסופט מעוניינת רק ליצור את מה שהוא מכנה "AI הומניסטי". "אנחנו רוצים ליצור AI מדהים", הוא אומר. "אבל לא מודיעין-על בכל מחיר. זו אנטי-מטרה עבור בינה מלאכותית הומניסטית. נחליף בשמחה קצת אוטונומיה תמורת שליטה."

כהוכחה נוספת למחויבותה של מיקרוסופט לבנות כלי בינה מלאכותית משלה באחריות, פרסמה ענקית הטכנולוגיה מאמר בשם "בינה מלאכותית הומניסטית בפועל: התייעצות ציבורית על קוד ההתנהגות שלנו למודלים של MAI". בין שלל נקודותיו, המדריך מדגיש את יצירת הבינה המלאכותית שמטרתה היחידה היא לשרת את האנושות.

כמה מהנקודות העיקריות של העיתון מגבות את הצהרת המשימה, הכוללת אנשים שחשובים יותר מבינה מלאכותית, לא ממהרים לבנות סוג של אינטליגנציה-על שיכולה לעקוף את אמצעי ההגנה של מיקרוסופט ולהפוך את סוג הבינה המלאכותית שהופך את בני האדם לחדים יותר ולא תלויים.

שורה תחתונה

סולימן דובר בחיבור שלו: הוא לא מאשר את הכשרת קלוד של אנתרופיק שגורמת לכלי הבינה המלאכותית להאמין שיש לו תודעה, אבל עדיין מכבד מאוד את עבודת החברה. עם מחשבותיו על בינה מלאכותית ושל מנכ"ל מיקרוסופט בעניין, הפחדים וההסברים המתחשבים שלהם על מאמצי הבינה המלאכותית שלהם מצטרפים למבול של אחרים שעושים את אותו הדבר.

המילים הנבואיות של סולימן בהחלט מדאיגות: "בכל מה שאתה מאמין, אסור לנו להסתובב בדרכנו לתוך החלטה שלאחר מכן אנו מתחרטים עליה מאוד".