Search
Adobe Firefly image of superintelligence

מייסד שותף של OpenAI מקים חברה חדשה לבניית 'מודיעין על בטוח' – הנה מה שזה אומר

אחד ממייסדי OpenAI, ששימש גם כמדען הראשי שלה עד החודש שעבר, הקים חברה חדשה שמטרתה היחידה היא לבנות 'מודיעין על בטוח'.

Ilya Sutskever הוא אחת הדמויות החשובות בעולם ה-AI הגנרטיבי, כולל בפיתוח המודלים שהובילו ל-ChatGPT.

בשנים האחרונות ההתמקדות שלו הייתה ביישור-על, ובמיוחד מנסה להבטיח שבינה מלאכותית סופר אינטליגנטית תעשה את הצעתנו לא את שלה. הוא היה אחד מחברי ההנהלה שפיטרו את סם אלטמן מוקדם יותר השנה לפני שהתפטר כשאלטמן חזר.

זה מה שהוא מקווה להמשיך עם החברה החדשה שלו SSI Inc. זוהי מעבדת הבינה המלאכותית הראשונה שמדלגת על בינה כללית מלאכותית (AGI) והולכת ישר למוח העל בהשראת המדע הבדיוני. "הצוות, המשקיעים והמודל העסקי שלנו כולם מיושרים להשגת SSI", כתבה החברה ב-X.

המייסדים הם Sutskever, דניאל גרוס, לשעבר מוביל בינה מלאכותית של אפל שהפך למשקיע במוצרי בינה מלאכותית ודניאל לוי מוביל לשעבר באופטימיזציה של OpenAI ומומחה בפרטיות בינה מלאכותית.

מה זה מודיעין על?

בינה על מלאכותית (ASI) היא בינה מלאכותית עם רמות אינטליגנציה אנושיות מעבר לרמות. "ברמה הבסיסית ביותר, הבינה המלאכותית הסופר-אינטליגנטית הזו היא בעלת פונקציות קוגניטיביות מתקדמות וכישורי חשיבה מפותחים יותר מכל אדם", לפי IBM.

שלא כמו AGI, שהיא בדרך כלל אינטליגנטית או יותר אינטליגנטית מבני אדם, ASI תצטרך להיות אינטליגנטית משמעותית בכל התחומים, כולל חשיבה וקוגניציה.

אין הגדרה קפדנית של מודיעין על ולכל חברה שניגשת לבינה מלאכותית מתקדמת יש פרשנויות שונות. יש גם מחלוקת לגבי כמה זמן ייקח להגיע לרמה זו של טכנולוגיה, כאשר כמה מומחים חוזים עשרות שנים.

היבט אחד של מודיעין-על יהיה בינה מלאכותית המסוגלת לשפר את האינטליגנציה והיכולות שלה, מה שיוביל למרחק עוד יותר בין יכולות אנושיות ליכולות AI.

איך מבטיחים שמודיעין על בטוח?

הבעיה ביצירת מודל AI אינטליגנטי יותר מהאנושות היא שיכול להיות קשה לשמור עליו בשליטה או למנוע ממנו להערים עלינו. היא עלולה לבחור להרוס את האנושות אם היא לא מותאמת כראוי לערכים ולאינטרסים האנושיים.

כדי לפתור זאת כל חברה שעובדת על AI מתקדם מפתחת גם טכניקות יישור. אלו גישות שונות ממערכות שעובדות על גבי מודל הבינה המלאכותית ואחרות שהוכשרו לצדו. זוהי גישת SSI Inc.

SSI אומרת שהתמקדות בלעדית במודיעין העל תאפשר להם להבטיח שהיא תפתח לצד יישור ובטיחות. "SSI הוא המשימה שלנו, השם שלנו וכל מפת הדרכים של המוצר שלנו, כי זה הפוקוס הבלעדי שלנו", הם כתבו ב-X.

"אנו ניגשים לבטיחות וליכולות במקביל, כבעיות טכניות שיש לפתור באמצעות פריצות דרך הנדסיות ומדעיות מהפכניות", הוסיפה החברה. "אנחנו מתכננים לקדם את היכולות מהר ככל האפשר תוך הקפדה על הבטיחות שלנו תמיד קדימה."

דילוג לתוכן