תביעה שנראתה לאחרונה על תפקידו של צ'טגפט במותו של נער גרמה לאפתור לחשוב מחדש על כך ש- CHATGPT מטפל בדאגות לבריאות הנפש.
בחברה אומרים כי היא תגלגל תכונות בטיחות חדשות שמטרתן לאתר סימנים מוקדמים של מצוקה רגשית; שינויים שנערכו על ידי תביעה מוות שלא כדין שהגיש הורים לאדם ריין בן ה -16, שנפטר בהתאבדות לאחר שיחות מורחבות עם ה- AI.
בארה"ב תוכלו ליצור קשר עם טלפון או טקסט בטלפון או טקסט ב- 988, לקרוא מידע וייעוץ באמצעות Mind Mind Mind Mind, ואם אתם בבריטניה, צרו קשר עם השומרונים באמצעות דוא"ל [email protected] או התקשרו ל 116 123 בחינם. אתה יכול למצוא פרטים לתמיכה במדינתך באיגוד הבינלאומי למניעת התאבדות.
מה משתנה
על פי פוסט בבלוג של Openai, החברה מתכננת לשפר את יכולתו של ChatGpt לאתר באופן יזום סימני אזהרה פוטנציאליים של מצוקה רגשית, גם אם המשתמשים אינם פוגעים בעצמם.
עדכונים אלה, שצפויים להתגלגל עם GPT -5, כוללים:
- התערבות מוקדמת: התראה על משתמשים על התנהגויות מסוכנות כמו חסך שינה קיצוני, פרקים מאניים או הנוגעים לדפוסים רגשיים, תוך הצעה של טכניקות הארקה ומנוחה.
- חיבורי מטפל: מציע קישורים ישירים לאנשי מקצוע בתחום בריאות הנפש לפני שמשבר פוטנציאלי מסלים.
- היקף חירום: מאפשר למשתמשים לייעד אנשי קשר מהימנים שניתן להודיע לו אם CHATGPT מגלה אותות אזהרה.
- בקרות הורים: מתן כלים חדשים לשומרים לפקח על השימוש בבני נוער ולהבין טוב יותר את האינטראקציות של ילדם עם ה- AI.
שינויים אלה מייצגים מעבר משמעותי מהגישה הנוכחית של צ'טגפט, אשר בדרך כלל מגיבה רק כאשר משתמש מפורש במפורש כוונה אובדנית – לפעמים מאוחר מדי להתערב. המטרה, אומר Openai, היא להפוך את ChatGpt לפרואקטיבית, ולא רק להגיב.
מדוע עדכון זה כל כך חשוב
השינויים עוקבים אחר תביעה שהגישו ג'יין וג'ון ריין, הטוענים כי צ'טגפט אישר את מחשבותיהם האובדניות של בנם, הרתיע אותו מלהבקש עזרה ואף עזר לו לנסח תו התאבדות.
אמון הנער ב- AI, וכישלונות המערכת לכאורה במהלך שיחות ממושכות, הם מרכזיים בתיק.
העדכונים המתוכננים של Openai מצביעים על שינוי רחב יותר לעבר אחריות לבריאות הנפש ב- AI. בחברה טוענת כי כלים אלה נועדו להגן על משתמשים מבלי לפגוע בפרטיות, אך מומחים מציינים שהם עשויים גם לאותת על תחילתו של הרגולציה ברחבי התעשייה.
התמונה הגדולה יותר
עם יותר תביעות משפטיות, מחוקקים וחוקרים המתמקדים בתפקיד שממלא AI ברווחה רגשית, ההחלטה של Openai עשויה לקבוע תקדים לתעשייה כולה.
כמתחרים כמו גוגל ואנתרופית מתמודדים עם בדיקה דומה, חברות עשויות להתמודד עם לחץ הולך וגובר לבניית אמצעי בטיחות ישירות לדגמי ה- AI שלהם.
האם זה יהפוך את Chatgpt לבטוח יותר?
מה שהתחיל כקרב משפטי הוא כעת מניע שינוי משמעותי באופן בו AI מטפל בסיכון רגשי. אם יושמו בהצלחה, התכונות החדשות הללו יכולות להפוך את ChatGpt וצ'אט בוטים אחרים כדי לפעול בצורה אחראית ובבטיחות יותר, במיוחד כשמדובר בבריאות הנפש.
עם זאת, נותרו שאלות גדולות. איננו יכולים שלא לתהות אם העדכונים הללו יעבדו כמתוכנן. וחשוב מכך, האם הם יגיעו למשתמשים פגיעים בזמן כדי לעשות את ההבדל? כאשר AI ממשיך להתפתח במהירות, אנו יכולים רק לקוות שמוצבים יותר אמצעי הגנה.
