אנתרופיק אומר שהוא חסם חוקרים באמצעות קלוד למחקר אפשרי של נשק ביולוגי

חברות בינה מלאכותית מובילות השקיעו זמן רב באזהרה שמודלים יכולים להקל על מישהו לפתח נשק ביולוגי. כעת, אנתרופיק אומר שלמעשה נאלץ לנתק קבוצה של חוקרים לאחר שהתנהגותם עוררה אזעקה.

לפי "הניו יורק טיימס", אנתרופיק חסמה מספר משתמשים השנה לאחר שזיהתה פעילות שנראתה קרובה באופן חשוד למחקר נשק ביולוגי.

שיהיה ברור: אנתרופיק לא ממש יודע אם החוקרים האלה ניסו לפתח פתוגן קטלני.

ביולוגיה מתקדמת היא מטבעה "שימוש כפול" – אותו מחקר שיכול להוביל לחיסון מציל חיים יכול לשמש למשהו מסוכן. אבל אנתרופיק סימן את ההתנהגות. על פי הדיווחים, החוקרים עקפו מגבלות גיאוגרפיות כדי לגשת לקלוד ונקטו צעדים כדי לטשטש את מטרת עבודתם. הדפוס הזה הספיק לאנתרופיק כדי למשוך את התקע.

איך הם עקפו את אמצעי ההגנה של קלוד

החוקרים לא בדיוק "פרצו" לקלוד. במקום זאת, אנתרופיק אומר שהם מצאו דרכים להסתיר גם מאיפה הם ניגשו אליו וגם מה הם ניסו להשיג בסופו של דבר.

במקרה אחד, חוקר ניגש לקלוד מאזור שאינו נתמך באמצעות תשתית וירטואלית מבוססת ארה"ב והשתמש בחשבון שנוצר אוטומטית. אנתרופיק מצאה גם שבקשות של קלוד מנותבות דרך פלטפורמה המשרתת חוקרים רבים בתחום מדעי החיים, כולל וירולוגים בעלי קשרים למוסדות אזרחיים וצבאיים.

החוקרים גם ניסו לטשטש את מטרת עבודתם כדי להימנע מהפעלת אמצעי ההגנה של קלוד. זה קשה במיוחד לזיהוי בביולוגיה מכיוון שבקשה אינדיבידואלית יכולה להיראות לגיטימית לחלוטין גם כשהיא תורמת לפרויקט גדול יותר שעלול להיות מסוכן.

על פי הדיווחים, אחד המקרים כלל מדען שביקש את עזרתו של קלוד בניסוח הצעת מענק למחקר שישנה גנטית את נגיף הצ'יקונגוניה כדי לחקור מאפיינים כולל הדבקה והתחמקות חיסונית. זה מחקר שיכול להיות לו מטרות מדעיות לגיטימיות, וזו בדיוק הסיבה שאנתרופיק אומר שהוא לא יכול לקבוע אם הכוונות הסופית של החוקרים היו שפירות או זדוניות.

אנתרופיק החליטה בכל זאת שדי בשילוב של מחקר רגיש וניסיונות להסתיר את הפעילות כדי לסגור את החשבונות.

מדוע ביולוגיה היא מבחן המאמץ האולטימטיבי

AI לא יכול לערבב כימיקלים בצלחת פטרי או ליצור נשק ביולוגי עם ציוד מעבדה פיזי. אבל AI יכול לפעול כמאיץ.

למי שכבר מכיר את דרכו במעבדה, מודל בעל יכולת יכול לפרק מחקר מורכב, לנתח נתונים, לפתור בעיות ולגשר על פערים טכניים בנישה. זה יכול לתת לבני אדם את כל מה שהם צריכים כדי להפוך עבודה מסוכנת לקלה ומהירה יותר.

זה משאיר חברות בינה מלאכותית מתמודדות עם אזור אפור עצום. מדען לגיטימי ומישהו הרודף אחר נשק ביולוגי יכולים לשאול הרבה מאותן שאלות. ושימוש לרעה לא בהכרח מגיע כהנחיה בוטה אחת. מישהו יכול לחלק פרויקט גדול יותר לעשרות משימות תמימות למראה, מה שמקשה הרבה יותר על מערכת בטיחות להבין את התמונה הרחבה יותר.

ואז יש את הבעיה של חיוביות כוזבות. הפוך את אמצעי ההגנה האלה לתוקפניים מדי ואתה מסתכן בחסימת מחקר מדעי לגיטימי. הפוך אותם למתירניים מדי ופעילות שעלולה להיות מסוכנת יכולה לחמוק.

הכל מסתכם בכוונה אנושית

חשוב להבהיר מה לא קורה כאן, במיוחד לאחר התפטרותו של ג'ייקוב קוקסון מאנתרופיק אתמול, החששות לגבי AI הם בשיא של כל הזמנים. אנחנו דואגים שדוגמניות יהפכו לסוררים או שסוכנים אוטונומיים יפעלו בעצמם, אבל קלוד לא עשה נוכל, וסוכני AI אוטונומיים לא התחילו לתכנן נשק ביולוגי בעצמם. בני אדם נהגו באוטובוס.

זה הופך את הסיכון למיידי הרבה יותר. החשש במקרה הזה הוא לא AI סופר אינטליגנטי שמחליט פתאום לפגוע באנושות. זה שמודלים רבי עוצמה נותנים לאנשים יכולות שאולי לא היו לו אחרת.

עבור משתמשים רגילים שמבקשים מקלוד לנסח מיילים, לסכם מסמכים או לכתוב קוד, שום דבר לא משתנה. אבל עבור התעשייה, המשחק השתנה.

אז מה בעצם יכולות לעשות חברות בינה מלאכותית?

אין כאן תיקון מושלם. חסימת שאלות ברורות עובדת רק כאשר למישהו ברור מה הוא מנסה לעשות. אם משתמש מפרק פרויקט מסוכן לעשרות בקשות לא מזיקות למראה, חברות בינה מלאכותית זקוקות לאמצעי הגנה שיכולים לזהות את הדפוס הגדול יותר מאשר לשפוט כל הנחיה בנפרד.

זה יכול להיות חיפוש אחר ניסיונות חוזרים ונשנים לעקוף את מגבלות הבטיחות של דגם, ניטור דפוסים חשודים על פני אינטראקציות והפעלת שליטה הדוקה יותר סביב היכולות המדעיות החזקות ביותר. חברות יכולות גם לבדוק מודלים חדשים לפני השחרור כדי לקבוע עד כמה הם יכולים לעזור למישהו עם מומחיות מועטה לבצע עבודה ביולוגית שעלולה להיות מסוכנת.

אבל כל הגנה נוספת מגיעה עם פשרות. אותן מערכות המנסות לזהות מישהו שמפתח נשק ביולוגי יכולות גם לסמן חוקר שעושה עבודה לגיטימית. לכן החשיפה של אנתרופיק כל כך חשובה. השלב הבא של בטיחות בינה מלאכותית עוסק בהחלטה מתי דפוס של התנהגות אחרת למראה לגיטימי הופך למסוכן מספיק כדי שחברה תתערב.