קבוצה של עובדי OpenAI ו-Google DeepMind בהווה ובעבר טענו שחברות בינה מלאכותית "מחזיקות במידע מהותי שאינו פומבי על היכולות והמגבלות של המערכות שלהן", שלא ניתן לסמוך עליהן שיחלקו מרצון.
הטענה הועלתה במכתב פתוח שדווח בהרחבה, שבו הדגישה הקבוצה את מה שהם תיארו כ"סיכונים חמורים" הנשקפים מ-AI.
סיכונים אלו כוללים התבססות נוספת של אי-השוויון הקיים, מניפולציות ומידע שגוי, ואובדן השליטה במערכות AI אוטונומיות המובילות ל"הכחדה אנושית" אפשרית.
מחברי המכתב אמרו כי הם מאמינים שבינה מלאכותית יכולה להביא יתרונות חסרי תקדים לחברה וכי ניתן להפחית את הסיכונים שהם הדגישו עם מעורבותם של מדענים, קובעי מדיניות והציבור הרחב. עם זאת, הם אמרו שלחברות בינה מלאכותית יש תמריצים פיננסיים להימנע מפיקוח יעיל.
הגנות חושפניות רגילות "לא מספקות"
בטענה שחברות בינה מלאכותית יודעות על רמות הסיכון של סוגים שונים של פגיעה ועל נאותות אמצעי ההגנה שלהן, קבוצת העובדים אמרה שלחברות יש רק חובות חלשות לחלוק מידע מסוג זה עם ממשלות "ואף לא עם החברה האזרחית." הוסיף כי הסכמי סודיות רחבים וחוסמים אותם מלהביע את חששותיהם בפומבי.
"הגנות רגילות של חושפי שחיתויות אינן מספיקות מכיוון שהן מתמקדות בפעילות בלתי חוקית, בעוד שרבים מהסיכונים שאנו מודאגים מהם אינם מוסדרים עדיין", כתבו.
הם קראו לחברות בינה מלאכותית מתקדמות לא להגיב בביקורת הקשורה לסיכון וליצור מערכת אנונימית לעובדים להעלות את חששותיהם.
בחודש מאי דיווחה Vox כי על עובדי OpenAI לשעבר נאסר למתוח ביקורת על המעסיק הקודם שלהם למשך שארית חייהם. אם הם יסרבו לחתום על ההסכם, הם עלולים לאבד את כל ההון העצמי שהושג במהלך עבודתם בחברה. מנכ"ל OpenAI, סם אלטמן, פרסם מאוחר יותר ב-X ואמר שניירת היציאה הסטנדרטית תשתנה.
בכל הנוגע לדברים האחרונים על האופן שבו Openai מטפל בהון: מעולם לא החזרנו את ההון העצמי של אף אחד, וגם לא נעשה זאת אם אנשים לא יחתמו על הסכם הפרדה (או לא יסכימו להסכם אי-זלזול). הון מבושל הוא הון מושק, נקודה.18 במאי 2024
בתגובה למכתב הפתוח, דובר של OpenAI אמר ל"ניו יורק טיימס" כי החברה גאה ברקורד שלה לספק את מערכות הבינה המלאכותית המסוגלות והבטוחות ביותר וכי היא מאמינה בגישה המדעית שלה לטיפול בסיכונים.
"אנחנו מסכימים שדיון קפדני הוא חיוני בהתחשב במשמעות של טכנולוגיה זו, ונמשיך לתקשר עם ממשלות, חברה אזרחית וקהילות אחרות ברחבי העולם", אמר הדובר.
דובר גוגל סירב להגיב.
על המכתב חתמו 13 עובדים בהווה ובעבר. כל עובדי OpenAI הנוכחיים שחתמו עשו זאת בעילום שם.
עולם ה-AI אינו זר למכתבים פתוחים כאלה. המפורסם ביותר, מכתב פתוח שפורסם על ידי Future of Life Institute, שנחתם על ידי אנשים כמו אילון מאסק וסטיב ווזניאק, קרא להפסקה של 6 חודשים בפיתוח AI – קריאה שהתעלמה ממנה.
