Meta פרסמה זה עתה את הגרסה העדכנית ביותר של משפחת ה-Llama של דגמי הבינה המלאכותית שלה, כולל הגרסה הגדולה ביותר עד כה, מגיעה בנפח של 820GB.
החברה טוענת שזהו שדרוג חדש בכל המשפחה, וקורא להם Lama 3.1, כולל שיפורי הגיון לגרסאות הקטנות והבינוניות.
אלה גם עדיין יהיו בקוד פתוח, כלומר כל חברה או ארגון יכולים להוריד, לכוונן ולהריץ את המודל על החומרה שלו.
Meta אומר ש-Llama 3.1 405b, הגדול במשפחה, יכול להתאים לדגמים של OpenAI ו-Google. זה כולל יכולות נימוק וקידוד.
הוא זמין לשימוש בפלטפורמת ההסקה של Groq Cloud, בצ'אטבוט MetaAI משלה של Meta ובענני מפתחים כמו AWS, IBM ו-Azure.
מה שונה בלמה 3.1?
החל מהיום, הקוד הפתוח מוביל את הדרך. הכירו את Llama 3.1: הדגמים המסוגלים ביותר שלנו עד כה. היום אנו מוציאים אוסף של דגמי Llama 3.1 חדשים, כולל ה-405B המיוחל שלנו. מודלים אלה מספקים יכולות חשיבה משופרות, הקשר גדול יותר של 128K אסימון… pic.twitter.com/1iKpBJuReD23 ביולי 2024
Llama 3.1 405b, שמשמעותו 405 מיליארד פרמטרים, הוא השינוי הגדול הן עבור Meta והן עבור קהילת ה-AI הפתוח, כאשר החברה טוענת שהוא מנצח את קלוד 3.5 Sonnet ו- GPT-4o במספר אמות מידה מרכזיות.
בעוד Meta תשתמש בזה בצ'אטבוט MetaAI משלה, המודל יביא מודיעין מתקדם בדרגת גבול לחברות להתקין על החומרה שלהן, להתאים לצרכים שלהן ולהשתמש מבלי לשלם חיובים לפי אסימון ל-OpenAI.
במהלך האימון והכוונון העדין שלאחר מכן, Meta אומרת שהיא התמקדה ב"עזרה" של הצ'אטבוט שלה. הסבר בהצהרה: "עם Llama 3.1 405B, שאפנו לשפר את היעילות, האיכות ויכולת ביצוע ההוראות המפורטות של הדגם בתגובה להוראות המשתמש תוך הבטחת רמות גבוהות של בטיחות."
הוא מגיע עם חלון הקשר גדול בהרבה של 128,000 טוקנים, מה שאומר שהוא תואם אותו בערך לתקן התעשייה.
מהן גרסאות ה-Llama 3.1?
Llama 3.1 מגיע בשלושה גדלים. הראשון הוא 8B, שהוא קל משקל ומהיר במיוחד, המסוגל לרוץ בכל מקום כולל בסמארטפון.
אז יש לך 70B, שהוא המודל בעל הביצועים הגבוהים אך החסכוני, המופעל בעיקר במרכז נתונים אך יכול לפעול על מחשב גיימינג טוב.
לבסוף, ישנו את דגם הבסיס החדש 405B, שמתקרב לאותן איכות ויכולות כמו הדגמים הפרטיים הגדולים של OpenAI, Google ו-Anthropic.
איך אתה ניגש ל-Llama 3.1?
Llama 3.1, כולל גרסת 405b החדשה, זמינה בצ'אטבוט MetaAI אך יש לו מהדורה מוגבלת ברחבי העולם. באופן נרחב יותר, אתה יכול לגשת אליו באמצעות Groq Cloud או אפילו ממשק הצ'אטבוט המהיר מאוד של Groq.
פלטפורמות אחרות ממוקדות מפתחים מבית מיקרוסופט, גוגל, אמזון, DataBricks ועוד טוענות גם הן את הדגמים החדשים ואם יש לכם מרכז נתונים משלכם תוכלו להוריד את כל שלוש הגרסאות מ-GitHub ולהפעיל אותן בעצמכם.
שתי הגרסאות הקטנות יותר – 8b ו-70B – זמינות ב-Ollama, מתקין קל לדגמי AI מקומיים ב-Windows, Mac ו-Linux.
מנכ"ל Meta, מארק צוקרברג, צופה כי MetaAI תהיה העוזרת הנפוצה ביותר עד סוף השנה הנוכחית, וגברה על ChatGPT כדרך מספר אחת לגישה לבינה מלאכותית.
הוא אומר שזה יהיה הודות לגישה מורחבת לעוזרת דרך WhatsApp, אינסטגרם, המשקפיים החכמים של Ray-Ban והצ'אטבוט העצמאי MetaAI. זה גם מגיע לאוזניות המציאות המעורבת של Quest כדי להחליף את הפקודות הקוליות הנוכחיות.
