Google DeepMind השיקה זה עתה דגם AI חדש לגמרי, Gemma 2 2B. זהו דגם של 2 מיליארד פרמטרים שהוא קטן מספיק כדי להתאים לסמארטפון ועדיין מציע רמות GPT 3.5 של ביצועים.
ההשקה באה בהמשך להכרזה ביוני על דגמי Gemma 2 9B ו-27B, שכולם מייצגים את המאבק החוזר של גוגל נגד יריבות בתחום AI LLM, במיוחד נגד Meta ומשפחת ה-Llama 3.1 שלה.
הדגם החדש של Gemma 2B הוא עדות רבה יותר למעבר מכוון לעבר דגמים קטנים וקלים יותר שיכולים לפעול על מגוון רחב יותר של מכשירים, לא רק במחשבים חזקים.
למרות שה-LLM החדש הוא חלק מהגודל הפיזי של דגמים קודמים כמו GPT-3.5 ו-GPT-4 של OpenAI, הביצועים שלו במבחנים משקפים את השיפור המאסיבי בהדרכה ובאריזה המוצעים כעת.
לפי גוגל, הדגם החדש מציע 'ביצועים הטובים ביותר בקטגוריית הגודל שלו, מעל לדגמים פתוחים אחרים בקטגוריה שלו', וטבלאות LYMSYS בהחלט מציגות כמה נתונים סטטיסטיים מרשימים.
המודל משיג ככל הנראה את העלאת הביצועים הזו 'על ידי למידה ממודלים גדולים יותר באמצעות זיקוק'. הטכניקה הוצגה בשנת 2015 במאמר של ג'פרי הינטון, ומשתמשת בשיטת אימון מתוחכמת של תלמיד-מורה המאפשרת מודלים קטנים יותר ודחוסים יותר.
אז עבור רוב האנשים, אל מבוססת הענן צפויה להמשיך לשלוט, לפחות בטווח הקצר. אבל באופן בלתי נמנע, ככל שהטכנולוגיה מתבגרת, AI במכשיר הולך לקחת חלק גדול יותר מעוגת הצ'טבוט.
השוק של Al mobile ומבוסס-קצה, לשימוש במכשירים ניידים וסטטיים קטנים כגון חיישנים, צפוי לגדול באופן אקספוננציאלי במהלך השנים הקרובות. זה נכון במיוחד לגבי יישומי AI מולטי-מודאליים שישתמשו בראייה ובסאונד כדי ליצור יקום אינטראקטיבי עשיר עבור המשתמש. מכאן המירוץ לשכלל מערכות קטנות וחזקות יותר במהירות האפשרית.
עם זאת, למרות כל הדיבורים על הפעלת סוג זה של בינה מלאכותית באופן מקומי בסמארטפונים (הידוע בשם 'במכשיר'), המציאות היא שעדיין יש מעט מאוד מכשירים ניידים שיכולים להתמודד עם דרישות העיבוד של LLMs נוכחיים.
מכשירי אייפון מודרניים שמריצים לפחות IOS 14, ומאוחר יותר טלפונים אנדרואיד המשתמשים במעבדי Snapdragon כמו ה-Galaxy S23 Ultra, הם כאלה שיכולים. אבל גם אז הביצועים צנועים בהשוואה למערכות מבוססות מחשב ו-Apple Intelligence של אפל שנמצאת בעיקר במכשיר דורשת לפחות אייפון 15.
אז עבור רוב האנשים, אל מבוססת הענן צפויה להמשיך לשלוט, לפחות בטווח הקצר. אבל באופן בלתי נמנע, ככל שהטכנולוגיה מתבגרת, AI במכשיר הולך לקחת חלק גדול יותר מעוגת הצ'טבוט. במיוחד כשהמשתמשים מתחילים להתמקד יותר ויותר בפרטיות, אבטחה ואמינות.
קוראים מתעניינים יכולים לשחק עם הדגם החדש של Gemma 2 2B במגרש המשחקים של Google AI Studio והוא זמין דרך Ollama להפעלה במכשיר.
