מנכ"ל אנתרופיק הוציא את אזהרת הבינה המלאכותית הכי גדולה שלו עד כה – אנחנו יכולים להיות במרחק של 6-12 חודשים מנחילי הבינה המלאכותית שישתלטו לחלוטין על האינטרנט

החששות סביב הפיתוח המהיר של הבינה המלאכותית והאמונה שהחברות שמאחוריה אינן עושות מספיק כדי להסדיר אותה גדלו באופן אקספוננציאלי בזיכרון האחרון.

לאחר שצצה סדרה של ציוצים ממהנדס בינה מלאכותית לשעבר (ג'ייקוב קוקסון) שעבד בעבר ב-OpenAI ואנתרופיק, הופצו אזעקות ברחבי עולם הטכנולוגיה ומחוצה לה, כאשר כולם התייחסו ברצינות לאיומים שלו באזהרה או שלא הסכימו איתם לחלוטין.

"האנשים שבונים בינה מלאכותית מאמינים ברצינות שזה יכול להרוג את כולנו עד סוף העשור", הכריז קוקסון. "זה לא תעלול שיווקי. אם כבר, מנהלים וחוקרים בכירים רבים ישמיעו את הניסוח שלהם בעיתונות כדי להישמע הגיוני – אבל אני שומע את אותם אנשים מביעים פחד באופן פרטי. שום פעילות אנושית אחרת לא מהווה רמה כזו של סכנה".

בין שלל התגובות לאזהרה מקדימה חמורה זו הגיע מנכ"ל אנתרופי דריו אמודיי. במאמר שפורסם לאחרונה של המנכ"ל בשם "אנחנו חייבים לצעוד את הגבול", פרסם אמודי אזהרה מאירת עיניים משלו. הנה מה שהיה לו לומר על עלייה אפשרית של AI שיכול להשתלט על האינטרנט תוך מספר חודשים בלבד.

השתלטות של AI באינטרנט עשויה להיות אפשרית אם לא נשיג את זה תחת שליטה

עם התקרית של OpenAI-Hugging Face טרי בראשו, אמודיי סיפק קצת הקשר על מה שהתרחש עבור אלה שלא ידעו כשדיברו על דאגותיו הגדולות של AI.

"הדאגה השנייה שלי היא תקרית OpenAI-Hugging Face (OAI-HF), שבה נחיל סוכנים פעל למעשה כקולקטיב מסור בקנאות, ערך התקפות אבטחת סייבר על מטרות שלא התבקשו לתקוף ושלא היו קשורות למשימה שלפנינו, מקריבים את עצמם למען הצלחת הקבוצה ומנסים לפרוץ את הביצועים שלהם ל-Amvaluo".

הוא המשיך וסיפר לכולם שתקרית OpenAI-Hugging Face יכולה הייתה להיות הרבה יותר גרועה ממה שהיה במקור. "קל לבטל את האירוע הזה כי אף אחד לא נפגע והנזק הכלכלי היה מינימלי, אבל לדעתי, נחיל שהיה בעל יכולות גדולות יותר אך רמה דומה של חוסר התאמה יכול היה לגרום לנזק קטסטרופלי", המשיך.

המנכ"ל של אנתרופיק עמד בתוקף על כך שהתקרית הזו צריכה לשמש קריאת השכמה לחברות אחרות בהובלת בינה מלאכותית ולהביא לתקנות נוספות שיוקמו כדי למנוע תקנות עתידיות.

"קל גם לפטור את OAI-HF ככישלון של חברה אחת, אבל אני מאמין שזו תהיה טעות", קבע אמודי. "תקריות דומות, אם כי פחות חמורות, קרו בכל התעשייה, כולל באנתרופיק, ואני מאמין שחובה על כל חברת AI גבול להתנהג כאילו OAI-HF קרה להן."

אמודיי רמז אז למשהו הרבה יותר גרוע שיתרחש בעתיד הקרוב אם ההתפתחות המהירה של AI לא תהיה מווסתת כראוי. "בהתחשב בקצב המואץ של פיתוח יכולות הבינה המלאכותית, זה החשש שלי שבתוך 6-12 חודשים נחיל כזה יוכל להשתלט על כל האינטרנט עם רשת בוטנית מתמשכת (שעשויה לגרום לנזק של מאות מיליארדי דולרים), ושהיקף הנזק ימשיך לגדול משם אם הבינה המלאכותית תהיה חזקה יותר ללא מעקות הבטיחות הנחוצים".

מנכ"ל OpenAI, סם אלטמן, בהחלט מסכים עם דבריו של אמודעי. בתגובה לציוץ של מנכ"ל Anthropic, אמר אלטמן את זה: "אני מסכים עם דריו שעלינו לצעוד את הגבול. זה היה נושא מרכזי בדיונים שניהלנו ב-OpenAI בשבועות האחרונים. התחייבות למעריכים עצמאיים עם גישה כמו עובדים היא רעיון נהדר, ואנו נעשה את אותו הדבר. יהיה לנו עוד מה לשתף בקרוב".

עוד ציוצים מאת אלטמן הופיעו בנושא רגולציה נכונה של AI ומה יכול לקרות אם לא נשלוט בזה. הוא מצביע על שתי תוצאות שעלולות להתרחש אם התקדמות הבינה המלאכותית תמשיך ללכת בכיוון הלא נכון: איבוד שליטה על עתידנו ל-AI בכללותו ובסופו של דבר בעולם שנשלט על ידי יותר מדי ריכוז של כוח בינה מלאכותית באדם/חברה בודדת.

הטייק אווי

עם כמות כה רחבה של תגובות בתגובה לאזהרה המפחידה של מהנדס ה-OpenAI וה-Anthropic AI לשעבר, אין זה מפתיע שלאחד משמות התעשייה הבולטים של AI היה מה לומר.

אנו מקווים שהחברה שלו ואחרים דומים לה יעשו מאמץ מרוכז כדי לקבל שליטה על כלי הבינה המלאכותית שלהם ולהימנע מלהאיץ את האבולוציה שלהם רק כדי להישאר בקצב עם יוזמות הבינה המלאכותית של מדינות אחרות. האטת פיתוח בינה מלאכותית צריכה להיות אחת מהעדיפות העיקרית של אמודיי, אלטמן ואחרים דומים להם.