Reflection הוא דגם AI חדש שיכול לרוץ על מחשב נייד טוב ועדיין לנצח את GPT-4o במבחנים

יש מתמודד חדש במשקל כבד בעולם של דגמי AI בקוד פתוח. Reflection 70B, שפותח על ידי הסטארט-אפ HyperWrite, עושה גלים עם מנגנון ה"השתקפות" החדשני שלו שמטרתו לתקן בעיית ליבה במודלים של שפות גדולות – הזיה.

במדדים מוקדמים, הגרסה המושחתת הזו של ארכיטקטורת ה-Llama 3.1-70B Instruct של Meta כבר עולה על ה-GPT-4o של OpenAI.

Reflection 70B מציגה גישה חדשה לשיפור יכולות החשיבה והדיוק של מודלים של שפה. על ידי הערכת התפוקות שלו לפני מתן תגובה סופית, Reflection 70B יכול לזהות שגיאות בהנמקה שלו ולתקן אותן תוך כדי תנועה. התוצאה היא מודל קוד פתוח רב עוצמה שדוחף את הגבולות של מה שאפשר עם AI היום.

מה זה Reflection 70B?

Reflection 70B הוא מודל שפת קוד פתוח פורץ דרך שפותח על ידי מאט שומר וצוותו ב-HyperWrite. השם המלא הוא Reflection Llama 70B שכן הוא מבוסס על ארכיטקטורת Meta Llama.

שמו של הדגם נגזר משני דברים, גודלו של 70 מיליארד פרמטרים, והיכולת שלו "להשתקף" על התפוקות שלו לפני מתן תשובה סופית. תהליך השתקפות זה נועד לשפר את יכולות החשיבה של המודל ולשפר את הדיוק הכולל של התגובות שלו.

Reflection 70B בולט מדגמי AI גנרטיביים אחרים בשל יכולות זיהוי ותיקון השגיאות הייחודיות שלו. מנגנון ההשתקפות של המודל מאפשר לו להעריך את הדיוק של הטקסט שנוצר לפני העברת פלטים למשתמש. זה מושג.

0 באמצעות טכניקה הנקראת כוונון השתקפות, המאפשרת למודל לזהות שגיאות בהיגיון שלו ולתקן אותן בזמן אמת.

יתרה מכך, Reflection 70B הפגין ביצועים יוצאי דופן על פני אמות מידה שונות, כולל MMLU ו-HumanEval, ביצועים טובים יותר מדגמים מסדרת Llama של Meta ומתחרים מקרוב עם דגמים מסחריים מובילים כמו GPT-4o. המודל רשם דיוק מרשים של 99.2% במדד GSM8k, שמעריך כישורי מתמטיקה והיגיון.

על HyperWrite, יוצרי Reflection

HyperWrite, החברה מאחורי Reflection 70B, היא סטארט-אפ לכתיבת בינה מלאכותית בראשות מאט שומר. החברה מציעה תוסף Chrome המשתמש ב-AI כדי להפוך את תהליך הכתיבה לאוטומטי ולהאיץ, ומספקת שירותים כמו השלמה אוטומטית, יצירת טקסט וניסוח מחדש של משפטים.

HyperWrite גייסה סך של 5.4 מיליון דולר מימון מ-10 משקיעים, כולל Madrona Venture Group ו-Active Capital. ההתמקדות של החברה בפיתוח כלי כתיבה בינה מלאכותית מיקמה אותה בחזית תעשיית הבינה המלאכותית.

בהמשך, העתיד נראה מזהיר עבור Reflection 70B ו-HyperWrite. שומר כבר חשפה תוכניות לדגם גדול עוד יותר, Reflection 405B, שיושק בעתיד הקרוב. המודל החזק יותר הזה צפוי לדחוף את הגבולות של AI בקוד פתוח עוד יותר.

בנוסף, HyperWrite עובדת על שילוב מודל Reflection 70B במוצר עוזר הכתיבה העיקרי שלה בינה מלאכותית. אינטגרציה זו תספק למשתמשים גישה ליכולות המתקדמות של הדגם, ותשפר את חווית הכתיבה והפרודוקטיביות שלהם.

רוצה לקחת את Reflection 70B לסיבוב כבר עכשיו? בעקבות הכרזה ב-X, מודל הבינה המלאכותית זמין כהדגמה מקוונת בחינם ב-Railway. אם יש לך מחשב נייד למשחקים הגון, אתה יכול גם להוריד את הדגם לשימוש לא מקוון דרך Hugging Face.