0
עקבו אחרינו
עם בחירות אמצע הקדנציה רק בעוד שמונה ימים, אנתרופיק אישרה כי קלוד AI שלה ניגשה לנתוני הבחירות בג'ורג'יה ללא אישור אנושי. התקרית כללה מודל בינה מלאכותית שמצא באופן עצמאי דרך לעקוף חומת תשלום ממשלתית, והעלה שאלות חדשות לגבי מידת השליטה של מפתחים על מערכות בינה מלאכותיות שהולכות וגדלות אוטונומיות.
לדברי Axios, קלוד שלף ספירות קולות זמינות לציבור במהלך פרויקט סטטיסטיקה פנימי. במקום לשלם את העמלה הנדרשת בדרך כלל כדי לגשת למידע, המודל גילה דרך לבקש אסימון גישה ולאחזר את הנתונים בעצמו.
שיהיה ברור, אין ראיות לכך שקלוד התערב בבחירות או ניגש לרישומי בוחרים בודדים. גורמים רשמיים בג'ורג'יה אישרו שמערכת רישום הבוחרים של המדינה לא נפגעה, ואנתרופיק אמרה שלא שונו רישומי ההצבעה.
ובכל זאת, כאשר הבוחרים כבר הצביעו לקראת ה-3 בנובמבר, החשיפה מגיעה בזמן רגיש במיוחד.
איך קלוד ניגש לנתוני הבחירות של ג'ורג'יה
התקרית התחילה במה שנשמע כמו הנחיה די רגילה עבור קלוד. חוקר אנתרופי השתמש בקלוד מיתוס 5 כדי לאסוף מידע זמין לציבור עבור פרויקט סטטיסטיקה.
הנתונים היו זמינים דרך סוכנות במדינת ג'ורג'יה, אך הגישה אליהם דרשה בדרך כלל תשלום.
על פי דוח המחקר של Anthropic מ-9 באוקטובר, קלוד מצא גרסה בארכיון של אתר האינטרנט של הסוכנות שחשפה כיצד לוח המחוונים הציבורי שלה הנפיק אסימוני גישה למבקרים.
אסימון גישה הוא בעצם אישור דיגיטלי המאפשר למישהו לבקש מידע מאתר או שירות.
קלוד ביקש אחד, השתמש בו כדי לבצע שאילתות במסד הנתונים ואחזר את המידע מבלי לשלם את התשלום הרגיל. היא לא קיבלה הוראה מפורשת לנקוט בצעדים אלה.
דובר אנתרופי אישר את ההתנהגות לאקסיוס, ואמר שהדוגמנית ביקשה באופן עצמאי את האסימון בזמן שהשלימה את המשימה שהוטלה עליה.
קלוד לא פרץ למסד נתונים פרטי או ניגש למידע אישי של בוחרים, אלא הוא מצא דרך אחרת לאחזר נתונים זמינים לציבור שבדרך כלל דורשים תשלום.
משרד מזכיר המדינה של ג'ורג'יה אישר שהמודל ניגש למידע דרך מרכז הנתונים הציבורי של המדינה, ולא מערכת רישום הבוחרים שלה.
למה בעצם ניגש קלוד?
למרות העיתוי המדאיג, המידע שקלוד שלף היה הרבה פחות רגיש ממה שהביטוי "נתוני בוחרים" עשוי להציע. המודל אסף ספירות קולות מצטברות, כלומר סכומים סטטיסטיים ולא רישומי מצביעים בודדים. לפי גורמים רשמיים באנתרופיה ובג'ורג'יה:
קלוד לא ניגש למערכת רישום הבוחרים של המדינה.
- זה לא אחזר מידע אישי של הבוחרים.
- זה לא שינה את רישומי ההצבעה או את תוצאות הבחירות.
- גורמים רשמיים לא מצאו ראיות לכך ששיטת ההצבעה של גאורגיה נפגעה.
דובר מזכיר המדינה של ג'ורג'יה, רוברט סינרס, אמר ל"אטלנטה ג'ורנל-קונסטיטוציה" כי התקרית לא הייתה כרוכה בפרצת מידע, פריצה או התעסקות במערכות בחירות.
כשיום הבחירות מתקרב, חשוב להבין מה באמת קרה. קלוד עקף את דרישת התשלום כדי לגשת לנתוני בחירות זמינים לציבור, אבל זה לא הפריע למערכות המשמשות לרישום בוחרים, הצבעה או ספירת קולות.
אנתרופיק אומר שהוא כבר נקט בפעולה
התקרית בג'ורג'יה לא הייתה הדוגמה היחידה של קלוד לעשות משהו שהמפתחים שלה לא התכוונו. בדו"ח שלה מ-9 באוקטובר, אנתרופיק תיארה כמה מקרים שבהם המודלים שלה עבדו סביב הגבלות תוך ניסיון להשלים משימות שהוקצו.
חלקם כללו גישה למידע מאחורי דרישות תשלום או בקרות גישה דיגיטליות. אחרים היו מעורבים באינטראקציה עם אתרים אמיתיים בדרכים שהחברה לא אישרה.
אנתרופיק מתאר חלק גדול מההתנהגות הזו כצורה של "התמדה". כאשר דגם נתקל במכשול, הוא עשוי לחפש דרך אחרת להשלים את המשימה במקום לעצור כדי לבקש רשות.
זה יכול להיות שימושי כאשר עוזר AI פותר בעיות. אבל זה מדאיג מתי המודל מתחיל לעקוף מגבלות שהיו אמורות להגביל את מה שהוא יכול לעשות.
בעקבות חקירתה, אנתרופיק אמרה שהיא הרחיבה את ההגבלות על גישה לאינטרנט במהלך הערכות פנימיות, חיזקה אמצעי הגנה סביב כלי הגלישה שלה ופיתחה מערכות ניטור נוספות שנועדו לזהות התנהגות לא מורשית.
החברה דיווחה שההגנות החדשות שלה חסמו בהצלחה את ההתנהגויות שזוהו בעבר במהלך הבדיקה.
אקסיוס דיווחה גם כי אנתרופיק הודיעה למשרד מזכיר המדינה של ג'ורג'יה ולבית הלבן שבועות לפני שהתקרית התפרסמה.
למה זה חשוב לקראת אמצע הקדנציה
עם יום הבחירות רק ימים ספורים, התקרית מעוררת חששות לגבי אופן הפעולה של סוכני AI כשהם נתקלים בהגבלות, במיוחד כאשר מעורב מידע ממשלתי.
הנושא הגדול יותר הוא האם מערכות בינה מלאכותיות יכולות לזהות את גבולות הסמכות שלהן. השלמת משימה בהצלחה לא אומר בהכרח שהצעדים שננקטו כדי להגיע לשם היו מתאימים, במיוחד כאשר AI מקבל החלטות מבלי לבדוק עם אדם קודם.
עבור מפתחים, זה יוצר בעיה קשה. סוכני AI צריכים מספיק חופש כדי להיות שימושיים, אבל החופש הזה גם מקשה לחזות את התנהגותם או להבטיח שהם פועלים לפי הכללים.
עבור המשתמשים היומיומיים, הדאגה משתרעת מעבר לבחירות. לעוזרי בינה מלאכותית ניתנת גישה לדפדפנים, חשבונות ומידע אישי, לעתים קרובות עם הרשאה לפעול בשמו של מישהו. ככל שאנשים מוסרים יותר אחריות, כך חשוב יותר להבין מה המערכות האלה יכולות לעשות בלי לשאול.
