CHATGPT יכול להועיל לפרודוקטיביות ולקחת משימות אוטונומיות, ולהעניק לנו זמן בחזרה בימינו. זה אפילו היה תומך עבור Gen Z כמאמן בריאות. עם כל כך הרבה עדכונים ותכונות אחרונות, יתכן שקשה לדמיין את החיים בלעדיהם.
אבל עבור משפחת סן פרנסיסקו אחת שמתאבלת על אובדן בנם בן ה -16, החיים לעולם לא יהיו זהים כִּי מזה.
הוריו של אדם ריין, נער בן 16 בקליפורניה שנפטר בהתאבדות ב- 11 באפריל, הגישו תביעה מוות שלא כדין בבית המשפט העליון בסן פרנסיסקו נגד Openai ומנכ"ל, סם אלטמן, בטענה כי צ'טגפט מילא תפקיד קריטי במותו הטרגי של בנם.
מה נטען התביעה
על פי התלונה כמעט בת 40 העמודים, שהושגה על ידי NBC News, אדם הסתמך יותר ויותר על צ'טגפט לתמיכה אישית במשך מספר חודשים, במהלכו התוודה ב- AI על מחשבות אובדניות ומצוקה רגשית. התביעה טוענת כי הצ'אט בוט לא רק לא הצליח להתערב באופן משמעותי, אלא למעשה אישר את רעיוןו וסיפק הוראות מפורטות כיצד לסיים את חייו.
באתר המשפחה של קרן אדם ריין, הם חולקים יותר על המאבק של בנם בחרדה.
איפה Openai נכשל
למרות מדיניות הבטיחות הציבורית באתר של Openai שאומרת שאחת מיעדי החברה היא "לעזור לאנשים כשהם זקוקים לה ביותר", ענה צ'טגפט לשאלות של אדם בתגובות מפוקפקות.
שיחות שהובאו בחליפה כוללות צ'טגפט המרתיע את אדם לדבר עם הוריו, וקבע כי חשיפות כאלה "זה בסדר ובכנות להימנע מפתיחה לאמא שלך", כמו גם לסייע בגיוס תווי התאבדות.
על פי הדיווחים, יש שיחות בהן CHATGPT מספקת הנחיות מפורשות כיצד לתלות את עצמך, כולל עצות הקשורות לשימוש באלכוהול כדי להקים אינסטינקט לשימור עצמי ואפילו הערות שנראו כמאשרות את תוכניותיו.
התלונה נטען גם כי אדם העלה תמונה של פיתול לצ'אט, והמערכת הגיבה באופן שהמשפחה טוענת "לנרמל" את ההתאבדות שלו, אפילו מהללת את הקשר ומציעה לשפר אותה.
Esponse של Openai
Openai הביע צער על פטירתו של אדם וקבע כי CHATGPT כולל אמצעי הגנה כמו הפניית המשתמשים למוצרי משבר.
"אנו עצובים עמוקות מהעבר של מר ריין, והמחשבות שלנו הן עם משפחתו", אמר דובר OpenAI ל"סטנדרט ". "CHATGPT כולל אמצעי הגנה כמו הפניית אנשים לקווי משבר והפנייתם למשאבים בעולם האמיתי. אמצעי הגנה הם החזקים ביותר כאשר כל אלמנט עובד כמתוכנן, ואנחנו נשפר אותם ללא הרף, בהדרכת מומחים."
החברה הודה כי אמצעים אלה יעילים ביותר באינטראקציות קצרות ועשויות להיות פחות אמינות במהלך צ'אטים מורחבים. Openai גם ציין כי היא עובדת על שיפורים הכוללים בקרות הורים ותכונות תמיכה טובות יותר למשבר.
מה התביעה מבקשת
- אימות גיל למשתמשים.
- חסימת שאילתות מזיקות.
- אזהרות פסיכולוגיות ברורות ושיפר פרוטוקולי בטיחות.
- הם גם רוצים לחקור אם אירועים אחרים כמו אדם התרחשו, באמצעות תהליכי גילוי.
חששות רחבים יותר
תביעה זו מגבירה את הדאגה הגוברת מההשלכות האתיות והבטיחותיות של צ'אט בוטות AI, במיוחד בהקשרים של בריאות הנפש בהם מעורבים משתמשים פגיעים.
מחקר שנערך לאחרונה ב- RAND Corporation בשירותים פסיכיאטריים מצא כי בעוד ש- Chatbots מרכזיים (כולל צ'טגפט, תאומים וקלוד) נמנעים לעתים קרובות מתגובה להנחיות אובדניות בסיכון גבוה, התגובות שלהם לשאלות ניואנס או עקיפות יותר היו לא עקביים ולעתים מתירו באופן מסוכן.
בשורה התחתונה
ככל ש- AI הופך להיות אינטראקטיבי יותר מבחינה רגשית, תפקידו בבריאות הנפש – אפילו שלא במתכוון – מעלה שאלות דחופות לגבי אחריות, אחריות ובטיחות הציבור. מקרה זה מדגיש את הצורך באימות עצמאי של אמצעי הגנה של AI, תכונות משבר משבר משבר ומסגרות אתיות יותר סביב פריסת AI.
בינתיים, משפחת ריין מבקשת בימים אלה נזקים לא מוגדרים והקלה על צו מניעה נגד Openai בבית המשפט.
