מרוץ החימוש בין חברות טכנולוגיה בנוגע לדגמי AI התחמם משמעותית בשבועיים האחרונים. OpenAI חשפה את GPT-4o מיד לפני שגוגל הכריזה על מספר שיפורים של Gemini. לאחר מכן, מיקרוסופט הכריזה על חבורה של מחשבי Copilot+ יחד עם שיפורים בינה מלאכותית משלה.
אבל בזמן שכל זה קרה, Meta טיפלה לעסקים בינה מלאכותית בעצמה. החברה פרסמה בשקט מאמר מחקר על מאמציה בתחום ה-AI הרב-מודאלי. העיתון, שזוהה על ידי Venture Beat, מראה כי Meta עובדת על מודל שפה רב-מודאלי בשם Chameleon.
אין לבלבל את זה עם דגם הבינה המלאכותית הגנרטיבי CM3leon (מבוטא Chameleon) ש-Meta AI חשפה בקיץ שעבר. Meta AI אכן אמרה בפוסט בבלוג שלה שמודל CM3leon יוביל לשיפורים ב-LLMs עתידיים.
מאמר המחקר טוען שזיקית היא חדישה ומנצחת או מתחרה באופן שווה בדגמים אחרים כמו Gemini, GPT-4 ו-Llama-2 של Meta עצמה.
בדומה ל-Gemini של גוגל, Chameleon בנויה על ארכיטקטורת "מיקס-modal המבוססת על פיוז'ן מוקדם". המשמעות היא שהמודל נבנה כדי ללמוד מההתחלה משילוב של תמונות, קוד, טקסט וכניסות אחרות, והוא משתמש בתוכן הזה כדי ליצור רצפים.
הדרך האחרת לבנות ארכיטקטורה רב-מודאלית היא לתפור יחד מספר דגמים שהוכשרו על מודאליות אחת. זה נקרא "איחוי מאוחר". למעשה, מערכת הבינה המלאכותית לוקחת מודלים בודדים וממזגת אותם יחד כדי להסיק מסקנות. היתוך מאוחר ככל הנראה עובד היטב אך יכול להגביל את היכולת של ה-AI לשלב מידע.
בעיתון אומרים המחברים שזיקית דומה ביותר לג'מיני של גוגל שנבנתה בצורה דומה. לעומת זאת, בניגוד לתאומים, החוקרים אומרים שזיקית היא מודל מקצה לקצה.
אם הטענות והבדיקות של העיתון נכונות וניתן לשכפל אותן, נראה שדגם הזיקית תואם או עולה על רבים מדגמי הבינה המלאכותית הזמינים כיום.
קמט מעניין בטענות שהועלו על זיקית, הוא שמארק צוקרברג ומטה דחפו את הקוד הפתוח כעתיד במשך רוב השנה הזו. ה-Llama 3 שכבר קיים הוא קוד פתוח וצפוי לקבל עדכון גדול ביולי. Meta גם פתחה את מערכת ההפעלה של אוזניות Quest ליצרני החומרה.
העיתון אינו מציין אם ומתי Meta עשויה לשחרר את הדגם החדש הזה. באופן פומבי, Meta עבדה קשה על האיטרציה האחרונה של עוזרת הלאמה. Lama 3 עלה לאוויר בפייסבוק, באינסטגרם ובוואטסאפ בסוף אפריל.
