כאם לשלושה ילדי בית ספר בכיתה, אני צופה בילדים שלי גדלים בעולם שמשתנה כמעט מהר כמו שהם עושים. בעבודתי אני מבלה את ימי בבדיקה, בדיקה מחודשת ובודקת AI, כך שהחדשות על הגנות הבטיחות החדשות של Openai עבור משתמשי CHATGPT מתחת לגיל 18 נתנו לי הפסקה. שניתי נשפתי בהקלה וקללתי את עצמי על העתיד לבוא כאשר AI ממשיך להתפתח.
שינויים בקטינים (מינימום 13 שנים)
האמצעים החדשים שנקבעו למשתמשי העשרה של ChatGpt הם כדלקמן:
- AN מערכת חיזוי גיל: כלי זה יקבע למעשה אם המשתמש נמצא מתחת לגיל 18 ואז מנות אותם לגרסה של CHATGPT מעוצב עם כללי בטיחות מחמירים.
- מגבלות ברירת מחדל כאשר הגיל אינו בטוח: אם לא ניתן לקבוע את גיל המשתמש על ידי המערכת, הוא עדיין יתייחס אליהם כאל קטינים, שגיאה בצד הזהירות.
- בקרות הורים: הורים יוכלו כעת לקשר את חשבונם לחשבון של העשרה שלהם כדי להחיל הגדרות כמו השבתה או הגבלת תכונות (למשל, זיכרון, היסטוריית צ'אט), הגדרת "שעות ההאפלה" כדי להפוך את ChatGpt לבלתי זמינה למשתמש העשרה ולקבל התראות אם המערכת מגלה סימנים של שיחה מצוקה ממשתמש נוער.
- מגבלות שיחה: משתמשי העשרה יהיו מוגבלים בשיחותיהם, כלומר תוכן מיני גרפי ייחסם, כמו גם צ'אטים פלרטטניים ודיונים על פגיעה עצמית והתאבדות. במקרים נדירים, קיצוניים, ניתן ליצור קשר עם אכיפת החוק אם לא ניתן להגיע להורים ולהיות נזק קרב.
מה זה אומר על עתיד ילדינו ו- AI
ההשלכות של אמצעי הגנה חזקים יותר מרוויחות הרבה יותר מהחלטות מדיניות טק. מבחינתי, כאמא, הם פוגעים במשהו עמוק: מעשה האיזון בין לתת לילדי חופש לחקור, ללמוד בעצמם ולמצוא עזרה כאשר הם זקוקים לו – לבין הגנה עליהם מפני נזק, במיוחד נזק בלתי נראה, במרחבים דיגיטליים.
למרות ש- Chatbots קיימים כבר כמה שנים, הם עדיין שטח חדש למדי ככל שהם משתלבים יותר בחיינו. אנו יודעים שכלים אלה אינם מושלמים; תוצאות ופערים בלתי צפויים עדיין יכולים להתקיים, מה שהופך את ההימור גבוה יותר עבור בני נוער פגיעים. תביעות כבר הוגשו (למשל, במקרה של ילד בן 16 שמשפחתו טוענת ש- CHATGPT תרם לקיחת חייו שלו).
אמצעי בטיחות אלה הם התחלה, והם מראים שלבסוף, מישהו חושב על שבריריות ההתבגרות ועל חוסר היכולת לחיזוי של בריאות הנפש על ידי יישום פיקוח מבלי להתאמץ.
מבחינתי השאלה היא: איך זה יושם באופן שמכבד את שניהם? כיצד "חיזוי גיל" יימנע מחיזוק הטיות? באיזו תדירות יקרה חיוביות או שליליות שווא? האם בני נוער ירגישו בטוחים מדברים עם chatgpt אם הם דואגים שה- Chatbot עשוי להתריע בפני מבוגר?
מה אני מקווה לראות
מנקודת מבט של אמא, הנה מה שלדעתי חשובים להפוך את השינויים הללו למשמעותיים:
- שקיפות ומעורבות: הסבר ברור להורים ולבני נוער על מה שעושים הפקדים החדשים הללו ומתי הם בועטים פנימה. באופן אידיאלי, כלים המאפשרים לבני נוער להבין באיזה מידע משתמשים (למשל כיצד פועלת גילאי הגיל).
- גמישות ומדרגות גיל: לא כל בני הנוער זהים. ילד בן 13 וילד בן 17 יש בגרות שונה, צרכים שונים. הפקדים צריכים לאפשר ניואנס, אולי יותר שליטה ככל שבני נוער מתבגרים ולהוכיח אחראים.
- תומך, לא עונשי: המטרה צריכה להעמיד עזרה, במיוחד מבחינת משאבי בריאות הנפש. פיקוח אנושי בעת הצורך, במקום פשוט להגביל או לכבות שיחות. אם נער, כל נער, לא רק שלי, הוא במצוקה, אני רוצה שהמערכת תנחה אותם כדי לעזור, לא לגרום להם להרגיש נשפטים או נענשים.
- ברירת מחדל בטוחה, מעקות חזקים: חוויות ברירת המחדל צריכות להיות בטוחות למשתמשים צעירים יותר, אך צריכים להיות גם מעקות חזקים כך שמזער את הפגיעה. המשמעות היא בדיקות מתמשכות, פיקוח ותגובה להשפעות לא מכוונות.
- חינוך ודיאלוג הורים: הורים צריכים להיות חלק מהתהליך, לדעת כיצד להשתמש בבקרות, כיצד לדבר עם ילדיהם על מה שהם עושים עם AI, ולבנות אמון כדי שילדים ירגישו בטוחים לחלוק את מה שהם חווים ברשת.
הנסיגה
יש לי מערכות יחסים נהדרות עם אלו בצוותי המחקר והפיתוח ב- Big Tech. ואני באמת מאמין שחברות טק כמו Openai מחויבות מוסרית לבנות את רשת הבטיחות לפני שביתות הטרגדיה (שוב), לא רק בתגובה. זה טוב ש- Openai מציבה כעת כלים להגנה על בני נוער, וכי הם מכירים בכך שלא תמיד מיושרים פרטיות, חופש ובטיחות.
כהורים, התפקיד שלנו נשאר חיוני. מעבר לשימוש בבקרות הורים, עלינו לשמור על קווי תקשורת פתוחים עם ילדינו, ללמד אותם חשיבה ביקורתית על מה שהם רואים ושומעים (אפילו מ- AI) ולעזור להם להבין שכאשר הטכנולוגיה נכשלת, זה בסדר לפנות לאנשים אמיתיים, כולל משפחה, מטפלים ומבוגרים מהימנים.
