OpenAI שילמה לקבלנים כדי לקרוא שיחות ChatGPT – הנה איך להגן על עצמך

אם אתה משתמש ב-ChatGPT כלוח תהודה פרטי, מטפל, שותף לקידוד או מקום לעבוד בו דרך מחשבות אישיות, אולי כדאי שתחשוב פעמיים לפני שתלחץ על שלח.

דיווח מ-404 Media חושף כי OpenAI מעסיקה מאות קבלנים אנושיים כדי לקרוא, לסכם ולבקר שיחות משתמשים אמיתיות. בעוד ש-OpenAI מדגישה שחשבונות נשארים אנונימיים, מסמכים פנימיים מראים שבודקים רואים שיחות שלמות, ושפרטים אישיים רגישים עוקפים באופן שגרתי את אמצעי ההגנה האוטומטיים של החברה.

החדשות הטובות הן שאתה יכול למנוע מהצ'אטים העתידיים שלך להיות מועברים לקבלנים אנושיים. הנה מה שקורה מאחורי הקלעים, סיכוני הפרטיות האמיתיים וכיצד לבטל הסכמה.

פרויקט לילי: איך בני אדם מאמנים את ChatGPT

מסמכים פנימיים מגלים כי יוזמת הביקורת פועלת תחת שם הקוד הפנימי "פרויקט לילי".

OpenAI משלמת לקבלנים חיצוניים, לרוב מעל 50 דולר לשעה באמצעות חברות כוח אדם של צד שלישי, כדי לאמן באופן ידני את הצ'אט בוט להישמע פחות רובוטי. קבלנים קוראים את ההנחיה של המשתמש, מסכמים את כוונת המשתמש ומעריכים ארבע תגובות AI פוטנציאליות בקנה מידה של 1 עד 7.

על פי מדריכי הדרכה שהודלפו, סוקרים אלה מקבלים הוראה ספציפית:

הסר את 'דיבור AI': להעניש אימוג'י מיותרים של סימני ביקורת, סיומות של פיתיון מעורבות ועיצוב עמוס.

תפסיקו לאנתרופומורפיזציה: ודא ש-ChatGPT לעולם אינו טוען לחוויות חיים של בני אדם (למשל, טענה "כשף, אני אוהב ל…" אסור בהחלט).

צמצם את הסיקופנטיות: סגל תשובות כאשר הבוט מחמיא יתר על המידה למשתמשים, מאמת מחשבות לא רציונליות או מגביר את התסכול האישי. זוהי בעיה ידועה שהביאה בעבר בדיקה משפטית על בטיחות המשתמש.

מדוע ההנחיות אינן אנונימיות

OpenAI מצהירה שהיא לא מספקת שמות משתמש לבודקים ושכל השיחות עוברות דרך "מסנן פרטיות" אוטומטי שנועד לבטל פרטים מזהים. עם זאת, למערכת יש נקודות תורפה גדולות.

OpenAI מודה בגלוי באתר שלה שהמסנן יכול לעשות טעויות, חסרים מזהים לא שכיחים או הקשר אישי מעורפל. אפילו יותר מדאיג, 404 Media גילתה שלוח המחוונים המוצג לקבלנים כולל לעתים קרובות "סיכום זיכרונות משתמש". בלוק זה מספק סקירה כללית של האינטראקציות הקודמות של המשתמש, שעלולות לחשוף בשוגג את מיקומו הכללי, המקצוע או הקשר חייו האישיים.

שלא כמו עדכונים ציבוריים של מדיה חברתית, חלון צ'טבוט נקי וריק יוצר תחושה שקרית של אינטימיות פרטית. כמה הנחיות שראו קבלנים אפילו הראו משתמשים שמבקשים מ-ChatGPT לעשות זאת "שמור את זה בינינו" – לא מודע לכך שהוראה מהירה אינה עוקפת את איסוף הנתונים האחורי של הפלטפורמה.

OpenAI היא לא ענקית הטכנולוגיה היחידה שעושה את זה. Anthropic אישרה כי היא משתמשת בבודקים אנושיים עבור קלוד כאשר משתמשים עוזבים את ההדרכה מופעלת, בעוד ש-Google של Gemini מפרסם בבירור כתב ויתור שסוקרים אנושיים קוראים צ'אטים שנשמרו נבחרים.

כיצד למנוע מ-OpenAI להשתמש בצ'אטים שלך

אם יש לך חשבון אישי (חינם, פלוס או פרו), OpenAI מאפשר שיפור מודל כברירת מחדל. (חשבונות Enterprise, Business ו-Edu מכבים אותו באופן אוטומטי.)

כדי למנוע מהשיחות העתידיות שלך להיות מנותבות למאמנים אנושיים:

לִפְתוֹחַ ChatGPT בדפדפן או באפליקציה לנייד.

לחץ על שלך סמל פרופיל בפינה התחתונה ובחר הגדרות.

לִבחוֹר בקרות נתונים.

מצא את המתג עבור "לשפר את המודל לכולם" ולהחליף אותו כבוי.

מחשבות אחרונות

זכור שהביטול אינו רטרואקטיבי. זה רק מגן חָדָשׁ שיחות מתקדמים; הודעות שכבר בוטלו והוצבו בתור בתוך המערכת נשארות חלק ממחזור האימון.

בנוסף, כיבוי זה אינו מונע סריקות אוטומטיות לאיתור תנאים והגבלות או הפרות בטיחות.

בהמשך, כלל הזהב של AI נשאר פשוט: אם לא תרגיש בנוח שאדם זר יקרא אותו, אל תקליד אותו בהנחיית צ'אטבוט.