OpenAI הסירו מספר חשבונות משתמשים ברחבי העולם לאחר שחשדה בכלי הבינה המלאכותית שלו, CHATGPT, שימשה למטרות זדוניות, על פי דיווח חדש.
הרמאים השתמשו ב- AI כדי לשפר את ההתקפות שלהם, הערות Openai בדו"ח חדש המתווה את מגמות ה- AI ותכונות שהשחקנים זדוניים מעסיקים, כולל מקרה מחקרי התקפות שהחברה סיכה. Chatgpt הוא עולה על למעלה מ -400 מיליון משתמשים פעילים שבועיים, נגיש באופן חופשי באופן גלובלי.
בדו"ח, Openai אומר כי הוא שוב ושוב "ראה שחקני איום המשתמשים ב- AI למשימות מרובות בבת אחת, מקוד ניפוי באגים ועד ליצירת תוכן לפרסום בפלטפורמות הפצה שונות."
"אמנם לאף אחד לא יש למונופול על הגילוי, אך בחיבור חשבונות ודפוסי התנהגות איפשרו לנו במקרים מסוימים לזהות קשרים שלא היו מדווחים בעבר בין קבוצות פעילות שלא קשורות לכאורה על פני פלטפורמות", כתב.
בין המקרים שיבשו את Openai, החברה אסרה לאחרונה על חשבון Chatgpt שהניב מאמרים חדשותיים שהפכו את ארה"ב ופורסמו בכלי חדשות מיינסטרים באמריקה הלטינית תחת קו של חברה סינית.
יתר על כן, החברה אסרה גם על חשבונות, שמקורם כביכול מצפון קוריאה, שהשתמשו ב- AI כדי לייצר קורות חיים ופרופילים מקוונים עבור מועמדים לעבודה פיקטיבית. החברה העלתה השערה כי פרופילים אלה נוצרו בתקווה לקבל משרות בחברות מערביות.
במקרה אחר, Openai זיהה קבוצת חשבונות שעלולה להיות מקושרת לקמבודיה, תוך שימוש ב- ChatBot כאמצעי לתרגום וליצור הערות לרשת הונאות "פיתיון רומנטיקה" ברחבי מדיה חברתית ותקשורת, כולל X, פייסבוק ואינסטגרם.
הדו"ח עצמו מתאר כמה מקרים אחרים שנחסמו על ידי החברה; עם זאת, זה לא מפרט כמה "עשרות" של חשבונות בסך הכל הוסרו, או את מסגרת הזמן בה הם התרחשו.
השקפתו של Openai על הונאות ושימושים הונאה בצ'אט
בעוד ש- Openai הייתה ברגל הקדמית בהפסקת השימושים הזדוניים הללו ב- CHATGPT, החברה גם חזרה על כך שהיא לא תסבול את השימוש לרעה בטכנולוגיה שלה.
"המדיניות של OpenAI אוסרת בקפדנות שימוש בתפוקה מכלים שלנו להונאה או הונאות. באמצעות חקירתנו על תוכניות תעסוקה מטעות, זיהינו ואסרו על עשרות חשבונות", כתב.
באמצעות שיתוף תובנות עם עמיתים בתעשייה כמו מטא, החברה מקווה לשפר את "היכולת הקולקטיבית שלנו לאתר, למנוע ולהגיב לאיומים כאלה תוך קידום הבטיחות המשותפת שלנו".
