לבינה מלאכותית כבר הייתה שנה גדולה עם שחרורו של GPT-4o מ-OpenAI, קלוד 3.5 Sonnet מאנתרופיק ומשפחת Gemini 1.5 מגוגל, אבל השחרור של Meta של פרמטר ענק של 405 מיליארד Lama 3.1 נמצא שם עבור "החשוב ביותר "כתר.
Meta הוציאה אתמול את גרסה 3.1 של משפחת דגמי ה-Llama AI שלה בקוד פתוח, וצברה במהירות מוניטין של אחד הדגמים החזקים והשימושיים ביותר הזמינים, כשהיא ניצחה את ה-AI הקניינית של OpenAI ו-Anthropic בנקודות מידה מרכזיות רבות.
בסך הכל, הביצועים הם בערך בשווי של GPT-4o או Sonnet, מעט גרועים בחלק מהדברים ומעט טובים יותר באחרים. אבל זה לא הביצועים שהופכים אותו למשמעותי: זו העובדה שהוא קוד פתוח, זמין באופן נרחב ואפילו ניתן להוריד ולהשתמש בו במחשבים שלך.
רמה זו של גישה ושליטה על מודל AI ברמה גבולית היא פורצת דרך מכיוון שהיא תוביל למחקר חדש, סוגים חדשים של מודלים והתקדמות בתחומים שאולי לא כדאי להשקיע את העלות הסמלית של השימוש ב-GPT-4o או Claude Sonnet 3.5 .
אם אין לך מרכז נתונים משלך, הדגמים הקטנים יותר יכולים לרוץ על מחשב נייד גיימינג טוב או שיש מגוון רחב של פלטפורמות ושירותים בענן המציעים גישה כולל Groq, Perplexity ואם אתה בארה"ב זה זמין ב-WhatsApp. והצ'אטבוט Meta.ai.
מדוע Llama 3.1 405b כל כך משמעותי?
אימון מודל שפה גדול הוא יקר להפליא. לאחרונה הייתה התמקדות בבניית יעילות בקנה מידה ואפילו OpenAI הוציאה דגם קטן יותר ב-GPT-4o mini.
עם זאת, ככל שהדגמים הקטנים יותר הופכים להיות טובים, הגודל משנה בכל הנוגע למודיעין ברמת הגבול ועם Llama 3.1 405b Meta מצאה פשרה והצליחה לארוז מודל איכותי של טריליון פרמטרים לחצי מהגודל.
אופי הקוד הפתוח של Llama 3.1 405b מייצג צעד משמעותי קדימה בדמוקרטיזציה של גישה לטכנולוגיית AI"
זהו המודל הראשון בדרגת גבולות שהפך לזמין בקוד פתוח, ומטה הלכה צעד קדימה ואפשרה לחברות, ארגונים או יחידים להשתמש בנתונים שנוצרו ב-405b כדי לכוונן או אפילו לאמן לחלוטין את המודלים שלהם.
Meta גם לא רק משחררת את משפחת הדגמים אלא מערכת אקולוגית מלאה עם יישומים לדוגמה, שומרים מתונים ומעקות בטיחות והציעה תקן ממשק API חדש שיקל על בניית יישומים באמצעות AI.
מלבד היותו קוד פתוח, המציע יכולות מתקדמות ומערכת אקולוגית מלאה עם דגמים קטנים יותר ותכונות מותאמות אישית, נראה ש-Llama 3.1 405b מצטיין בתרגום רב לשוני, ידע כללי ומתמטיקה. זה גם נהדר מבחינת התאמה אישית לצרכים ספציפיים.
ויקטור בוטב, CTO של חברת המחקר Iris.ai תיאר את Llama 3.1 405b כ"צעד משמעותי קדימה בדמוקרטיזציה של גישה לטכנולוגיית AI". הסיבה לכך היא היותו פתוח ונגיש מקל על חוקרים ומפתחים "להתבסס על AI בשפה מתקדמת ללא החסמים של ממשקי API קנייניים או דמי רישוי יקרים".
איפה אני יכול לנסות את Llama 3.1 405b?
החל מהיום, הקוד הפתוח מוביל את הדרך. הכירו את Llama 3.1: הדגמים המסוגלים ביותר שלנו עד כה. היום אנו מוציאים אוסף של דגמי Llama 3.1 חדשים, כולל ה-405B המיוחל שלנו. מודלים אלה מספקים יכולות חשיבה משופרות, הקשר גדול יותר של 128K אסימון… pic.twitter.com/1iKpBJuReD23 ביולי 2024
Llama 3.1 405b עשוי להיות כבר אחד מדגמי הבינה המלאכותית הזמינים ביותר, למרות שהביקוש כה גבוה שאפילו פלטפורמות ללא תקלות בדרך כלל כמו Groq נאבקות בעומס יתר.
1. Meta.ai/WhatsApp
המקום הטוב ביותר לנסות את זה בפועל הוא בצ'אטבוט meta.ai של Meta עצמו או בפלטפורמת ההודעות WhatsApp. שניהם נותנים דרך "על פי הכוונה" להציג ולהשתמש במודל וב-Meta.ai הוא מגיע עם גישה ליצירת תמונות ותכונות אחרות.
החיסרון של אפשרות זו הוא שהיא זמינה רק בארה"ב ומטה עשתה עבודה טובה בחסימת VPNs, מכיוון שהיא דורשת גם חשבון פייסבוק או אינסטגרם.
2. מנוע מסקנות גרוק
מזמן העליתי לשבח את הזוהר של Groq, סטארט-אפ הבינה המלאכותית בונה שבבים שנועדו להריץ דגמי בינה מלאכותית במהירות רבה. הוא סיפק גישה נוחה לכל דגמי הקוד הפתוח כולל גרסאות קודמות של משפחת Lllama וכעת יש לו את כל שלושת דגמי ה-Llama 3.1.
יש לו גישה ל-405b אבל הביקוש היה כל כך גבוה שהוא היה מוגבל ולכן אולי לא יופיע אם תבקר. זה כולל דרך הצ'אטבוט ודרך GroqCloud – אבל זו דרך מצוינת לנסות את דגמי 70b ו-8b שקיבלו שדרוג גם ב-Llama 3.1.
3. חיפוש תמיהה
Perplexity הוא כלי מדהים לחיפוש באינטרנט, תוך שימוש במגוון מודלים מותאמים אישית וציבוריים של AI כדי לשפר את התוצאות המוחזרות על ידי סורקי אינטרנט מסורתיים. זה יכול גם ליצור דפים מותאמים אישית המציעים מדריכים בסגנון ויקיפדיה לנושא.
אחד הדגמים החדשים ביותר שזמינים עם Perplexity הוא Llama 3.1 405b אבל יש לו מלכוד – הוא זמין רק אם יש לך תוכנית 'מקצוענית' שעולה 20 $ לחודש, אם כי זו בחירה טובה אם אתה מחפש דרך לחפש באינטרנט ולעבוד עם מגוון דגמי AI.
4. חיבוק פנים צ'אט
HuggingChat הוא פנינה נסתרת במרחב הצ'אטבוט של הבינה המלאכותית, ומציע גישה למגוון רחב של דגמים, כולל כמה שאינם זמינים בשום מקום אחר וכלים כגון חיפוש באינטרנט ויצירת תמונות. אתה צריך חשבון HuggingFace אבל קל להגדיר ולהתחיל.
זה לגמרי בחינם לשימוש ולאחר שנכנסת פשוט עבור להגדרות ובחר Llama 3.1 405b. החיסרון בפלטפורמה הזו הוא שיש עקומת למידה והיא לא נרתעת משימוש בשמות ובתיאורי מודל מלאים. זה לא ידידותי למתחילים.
5. Poe chat marketplace
Poe, שוק הצ'אטבוטים הנתמך על ידי Quora עובד קצת כמו HuggingChat בכך שהוא נותן לך גישה למגוון דגמים ומאפשר לך להתאים אישית את האופן שבו הם מתקשרים איתך, אך עם גישה ידידותית יותר למשתמש וממוקדת צרכנים.
שלא כמו HuggingChat שנראה פתוח יחסית ובמידה רבה חופשי לשימוש, Poe גובה "נקודות חישוב" לכל הודעה שנשלחה. אתה מקבל סכום נדיב יחסית ליום בחינם אבל 405b הוא דגם יקר, שעולה 485 נקודות חישוב להודעה – כך שתקבל רק חצי תריסר או משהו כזה מבלי לשלם 17 דולר לחודש עבור חשבון פרימיום.
האם יש חלופות אחרות?
אם אף אחד מאלה לא עובד, אתה רוצה יותר שליטה על האופן שבו אתה מתכנן להשתמש ב-Llama 3.1 405b ואין לך מרכז נתונים משלך, אז כדאי להסתכל באחת משלל פלטפורמות מחשוב הענן ולא רק ב-AWS מאמזון, Google Cloud או Microsoft Azure; למרות שלכולם יש גישה לדגם החדש.
Snowflake, Cloudflare, DataBricks Nvidia AI Foundry ו-IBM Cloud הם רק כמה מהמקומות שבהם תוכלו להירשם לחשבון מפתח ולקבל גישה למודל הקוד הפתוח.
