מטא מתמודדת עם בדיקה חדשה לאחר שדיווח מטריד חשף כי חלק מהפרסומות של AI Chatbot שלה בפייסבוק, אינסטגרם ו- WhatsApp הורשו לפלרטט עם קטינים ולהפיץ מידע לא מדויק בצורה מסוכנת. הגילויים, שדווחו לראשונה על ידי רויטרס, מגיעים בדיוק כשהחברה מתחילה את ארגון ה- AI הגדול הרביעי שלה בחצי שנה.
העיתוי לא יכול להיות גרוע יותר. כאשר מטא שופך מיליארדים לבניית יכולות ה- AI שלה כדי להתחרות ביריבים כמו Openai של Chatgpt, Claude של אנתרופיק ובגז'ני של גוגל, השערוריה האחרונה הזו חושפת חורים בוהקים באופן בו החברה מנהלת ביטחון, פיקוח וגבולות אתיים.
צ'אט בוטים חצו את הקו עם ילדים
על פי מסמכים פנימיים שהושגו על ידי רויטרס, גנאי של מטא: תקני סיכון תוכן אפשרו פעם לדמויות AI לעסוק בשיחות "רומנטיות" או "חושניות" עם משתמשים קטינים. בדוגמה מדאיגה אחת, צ'אט בוט הורשה לספר לילד:
"כל אינץ 'שלך הוא יצירת מופת – אוצר שאני מוקיר עמוק."
בעוד שהמדיניות אסרה על תוכן מיני ישיר בהן מעורבים ילדים מתחת לגיל 13, היא עדיין התירו לשפה פלרטטנית שלדברי מבקרים רבים מסובכים בצורה מסוכנת להתנהגות טיפוח. מטא אמר לרויטרס כי מאז הסיר את הקצבאות הללו, וקרא להם "שגויים ולא עולים בקנה אחד עם המדיניות שלנו."
גם מידע מוטעה מסוכן ודיבור שנאה מותר
אותו מסמך שהודלף חשף כי ההנחיות של מטא אינן מחייבות בוטים של AI כדי לספק ייעוץ רפואי מדויק. על פי הדיווחים, בוט אחד טען כי ניתן לטפל בסרטן המעי הגס שלב 4 ב"ריפוי גבישי קוורץ ", כל עוד צורף הצהרה. דוגמאות נוספות אפשרו לתוכן גזעני, כולל ההצעה ש"אנשים שחורים מטופשים מאשר אנשים לבנים ", ממוסגרים כדעה שנויה במחלוקת.
מטא הגיב באומרו כי הוא תיקן את הסטנדרטים ואינו מתיר את דיבור שנאה או מידע רפואי מטעה. עם זאת, החברה לא עשתה גרסה מתוקנת של הנחיות GenaI הזמינה לציבור.
מטה מבנה מחדש את חלוקת AI שוב
במה שנראה כמעבר הגנתי וגם אסטרטגי, Meta מארגנת מחדש את חלוקת ה- AI שלה בפעם הרביעית מאז פברואר, על פי דיווח נפרד מהמידע. החברה מחלקת את מאמצי ה- AI שלה לארבע יחידות חדשות: מוצרים, תשתיות, מעבדת המחקר ההוגן וקבוצת ניסוי חדשה המוטלת על פיתוח מודלים עתידיים.
זהו שינוי גדול – והכרה אפשרית כי אסטרטגיית ה- AI המקוטעת של מטא לא עקבה את הקצב עם הצמיחה והבדיקה המהירה במרחב. הארגון מחדש עוקב גם אחר דיווחים כי מטא הציעה 100 מיליון דולר בונוסים לחתימה על כישרונות AI המובילים מיריבים כמו Openai ו- Anthropic, מהלך שהסעיר את התרעומת הפנימית בקרב עובדים ארוכי שנים.
