בינה מלאכותית איום על סוף העולם – שעון יום הדין נשאר על 90 שניות עד חצות

שעון יום הדין נשמר על 90 שניות עד חצות זו השנה השנייה ברציפות, מה שמרמז שהאנושות קרובה לסף הרס עצמי ויכול להיות שה-AI אשמה.

Bulletin of Atomic Scientists היא קבוצת המומחים מכל העולם שעומדת מאחורי קביעת השעון, אשר שימשה כדי לסמן את הפוטנציאל להרס אנושי במשך 75 שנים.

לדברי הקבוצה, האיום של מידע מוטעה והפרעה מ-AI, שימוש צבאי מוגבר בטכנולוגיה והיכולת שלה להגדיל איומים אחרים הציבו אותה ברשימת גורמי הסיכון הגדולים ביותר.

האיומים הגדולים ביותר נובעים מחששות גוברים מהשימוש הפוטנציאלי בנשק גרעיני, לוחמה ביולוגית והשפעת שינויי האקלים המתחוללים.

זה לא היה רק ​​חדשות רעות שכן מומחי שעון הדין אומרים גם שאם מוסדרים ומשתמשים בו כראוי, ל-AI עשויה להיות השפעה חיובית משמעותית על בטיחות האנושות.

מהו שעון יום הדין ומדוע הוא קרוב לחצות?

שעון יום הדין היה יצירתם של מדענים המעורבים בפרויקט מנהטן, קבוצת המחקר האמריקאית שהובילה לפצצת האטום הראשונה.

על שער מגזין משנת 1947 בשם עלון מדעני האטום, שעון יום הדין הראשון נקבע לשבע דקות עד חצות. הוא זז 25 פעמים ב-77 השנים האחרונות ובשנה שעברה נקבע ל-90 שניות עד חצות בפעם הראשונה.

ישנן סיבות מרובות מאחורי ההחלטה להשאיר את השעון על פחות משתי דקות עד להשמדה, ביניהן מלחמות בעזה ואוקראינה, הגדלת המימון מהמעצמות הגרעיניות לתוכניות הנשק הגרעיני שלהן והסיכון לשינויי אקלים.

רייצ'ל ברונסון, דוקטורט, נשיאה ומנכ"לית העיתון, אמרה: "אל תטעו: איפוס השעון על 90 שניות עד חצות אינו אינדיקציה לכך שהעולם יציב. די ההפך."

"זה דחוף לממשלות וקהילות ברחבי העולם לפעול. והעלון נשאר מלא תקווה – ומעורר השראה – לראות את הדורות הצעירים מובילים את הממונה", הוסיפה.

מה הופך בינה מלאכותית לאיום כה גדול על האנושות?

כמו כל טכנולוגיה AI מסוכן רק כמו האנשים המשתמשים בו. עם זאת, היא אחת ההתפתחויות הטכנולוגיות המשמעותיות ביותר בשנה האחרונה ואומצה באופן נרחב בממשלות, בתעשייה ובחינוך לפני שניתן היה להנהיג רגולציה משמעותית כלשהי.

מומחי Bulletin מזהירים כי ל-AI יש פוטנציאל גדול "להגדיל את דיסאינפורמציה ולהשחית את סביבת המידע הנדרשת לפתרון בעיות גלובליות גדולות והדמוקרטיה תלויה בהן". הצעה זו עלולה להקשות על ההתמודדות עם סיכונים גרעיניים, ביולוגיים או אחרים.

אנו רואים גם שימושים צבאיים מוגברים של AI למודיעין, מעקב, סיור, סימולציה ואימונים. הוא גם מוצב בכלי נשק שיכולים לזהות מטרות ללא התערבות או שליטה אנושית.

זה המקום שבו מדעני הבולטין רואים את הסיכון הגדול ביותר. "החלטות להטיל שליטה בבינה מלאכותית על מערכות פיזיות חשובות – בפרט, נשק גרעיני – אכן עלולות להוות איום קיומי ישיר על האנושות", הם מזהירים.

האם כל אלה חדשות רעות עבור מפתחי האנושות ומפתחי בינה מלאכותית?

בעוד שבינה מלאכותית הייתה רשומה כאיום על האנושות, היא גם הייתה רשומה כהזדמנות לאנושות למשוך את עצמה מהבא ולהביא את השעון רחוק יותר מחצות.

מדינות וחברות מתחילות לראות את הצורך להסדיר AI ונוקטים בצעדים להפחתת הסיכון לנזק. זה כולל מסגרות חדשות לשימוש בטוח מהאיחוד האירופי ומממשל ביידן בארה"ב

צוות ה- Bulletin מציע גם שכאשר מדינות משתפות פעולה בהתמודדות עם האיום מ-AI באמצעות אמנות בינלאומיות וגופים חדשים של האו"ם, זה מוריד גורמי סיכון אחרים ככל שהוא מביא את העולם לדבר.

ביל ניי, שהשתתף בהודעת שעון יום הדין ב-2024, אמר: "במשך עשרות שנים, מדענים מזהירים אותנו מפני הסכנות העומדות בפני המין האנושי. אנו עלולים לעמוד בפני קטסטרופה אלא אם כן ננהל טוב יותר את הטכנולוגיות שיצרנו. הגיע הזמן לפעול".