בחודש דצמבר השיקה Openai מודל נימוק המכונה 'O3'. זה חכם ויסודי יותר בתהליך ההחלטה שלו, זה הראה את קידומו של Openai לגרסה מכוונת יותר של AI. אבל יש רק בעיה אחת.
כאשר הושק הדגם לראשונה, Openai התחברה עם קרן פרס ARC. קבוצה זו מנהלת את ה- ARC-AGI, בחינת אמת מידה לבדיקת דגמי AI בעלי יכולת מאוד. בדיקות אלה קלות להפליא לאדם לפתור עם חידות פשוטות שרוב הציבור יכול היה בקלות לעשות. אבל זה לא המקרה של AI.
הקרן האמינה במקור שזה עלה בסביבות 3,000 $ עבור O3 כדי לפתור בעיה מורכבת. זה כבר לא המקרה, עם הערכה מחודשת שמקרב אותו ל -30,000 דולר למשימה.
לכן, בעוד שפתאי קלע מאוד במבחן, היא עשתה זאת בעלות גבוהה מהממוצע. למעשה, זו עלות אסטרונומית שמראה עד כמה דגמי AI מתקדמים יקרים אמורים לרוץ.
מה המשמעות של כל זה?
O3 של Openai נפרד מהדגמים שמפעילים את Chatgpt.
באופן ספציפי, O3 מהורהר. זה מיועד לפיתרון בעיות והנמקה מורכבות ולכן משמש למשימות הדורשות רמה גבוהה יותר של כוח מחשוב.
על פי קרן פרס ARC, O3 (גבוה) השתמשו ב -172 פעמים יותר כוח מחשוב מאשר O3 (נמוך)
כאשר מפתחים משתמשים במודל זה, הם יכולים לבחור משלושה סוגים של מאמצי הנמקה: נמוך, בינוני וגבוה. זה בעצם מבקש מהמודל לחשוב קשה יותר. הגדל את מאמץ ההנמקה ותקבל תוצאה טובה יותר, אך זה מגיע עם עלייה בכוח המחשוב והעלות.
במבחן ARC-AGI היה זה O3 (גבוה) שהגיע עם תג מחיר כה מאסיבי. במילים אחרות, זהו המודל המפורט ביותר של Openai, שנדחף לגבולות המוחלטים שלו של כוח המחשוב.
ניתן לטעון שבמבחן כזה, הדגם הגדיל אותו. טובי אורד, חוקר בכיר באוניברסיטת אוקספורד הדגיש ב- X כי נדרש O3 (גבוה) 1,024 ניסיונות בכל משימה, וכתב בערך 137 עמודים של טקסט לכל ניסיון, או בסביבות 43 מיליון מילים בסך הכל.
לבסוף, אני רוצה לציין עד כמה הניסיון היה מגוחך בגובה O3. נדרשו 1,024 ניסיונות לכל משימה, וכתבו על 137 עמודי טקסט לכל ניסיון, או כ 43 מיליון מילים בסך הכל. זה כותב אנציקלופדיה בריטניקה (44 מיליון מילים) לכל משימה! 7/n2 באפריל 2025
על פי קרן פרס ARC, O3 (High) השתמשו ב -172 פעמים יותר כוח מחשוב מאשר O3 (נמוך). אמנם גרסת המסירה הנמוכה לא ציגה מאוד, אך היא יכולה בסופו של דבר להיות גרסה חסכונית יותר.
לעת עתה, OpenAI לא פרסמה שום הודעות על כמה O3 יעלה למפתחים להשתמש. קיימת גרסה חסכונית יותר המכונה O3-MINI. זה, למרות שהוא זול יותר, אינו קרוב לעוצמתי.
עבור האדם הממוצע, לתמחור זה לא ישפיע. CHATGPT הוא אחד הדגמים החסכוניים יותר עבור OpenAI ו- O3, כאשר הם זמינים, ישמשו רק את אלה בחוד החנית של AI.
עם זאת, כמו שאוהבי דיפקי וקלוד מתחילים לקצץ בעלויות ולפתח דגמים מורכבים נוחים יותר, Openai יכלו למצוא את עצמה במהירות כספקית היקרה ביותר של החבורה.
