ההערכה היא שיותר ממחצית מבני הנוער בארה"ב משתמשים בקביעות בצ'אטבוטים נלווים המופעלים על ידי מודלים של שפות גדולות וטכנולוגיית בינה מלאכותית (AI). התוכניות, כמו Character.AI, Replika ו- Kindroid, נועדו לספק חברות, לפי החברות שמייצרות אותן. אבל מחקר שנערך לאחרונה מאוניברסיטת דרקסל מצביע על כך שבני נוער מודאגים מכך שההצמדות הללו הופכות לא בריאות ומשפיעות על חייהם במצב לא מקוון.
המחקר, שיוצג בכנס של איגוד מכונות המחשוב בנושא גורמים אנושיים במחשוב באפריל, בחן מדגם של יותר מ-300 פוסטים של Reddit ממשתמשים, המזהים את עצמם כבני 13 עד 17, שפרסמו באופן ספציפי על תלותם ועל הסתמכות יתר שלהם על Character.AI. הוא מצא שבמקרים רבים, בני נוער החלו להשתמש בטכנולוגיה לתמיכה רגשית ופסיכולוגית או בידור, אך השימוש בהם התפתח לתלות ואף לדפוסים הקשורים להתמכרות. חלקם דיווחו ששימוש יתר שלהם שיבש את השינה, גרם למאבקים אקדמיים ולמערכות יחסים מתוחות.
"המחקר הזה מספק את אחד הדיווחים הראשונים של בני נוער על הסתמכות יתר על חברי AI", אמר אפסנה רזי, PhD, עוזר פרופסור במכללה למחשוב ואינפורמטיקה של דרקסל, שמעבדת ה-ETHOS שלו, החוקרת כיצד האינטראקציות של אנשים עם מחשוב ומערכות בינה מלאכותית משפיעות על ההתנהגות החברתית, הרווחה והבטיחות שלהם, הובילה את המחקר. "זה מדגיש כיצד אינטראקציות אלו משפיעות על חייהם של משתמשים צעירים ומציג מסגרת לעיצוב צ'טבוטים המקדמת אינטראקציות בריאות."
כרבע מהפוסטים העלו כי בני הנוער השתמשו ב-Character.AI לצורך תמיכה רגשית או פסיכולוגית כלשהי, החל מהתמודדות עם מצוקה ועד בדידות ובידוד או חיפוש עצות למאבקים בבריאות הנפש. קצת יותר מ-5% דיווחו שהשתמשו בו לסיעור מוחות, פעילויות יצירתיות או בידור.
ולמרות שהפוסטים מצביעים על כך שהאינטראקציות הללו התחילו כבלתי מזיקות, או אפילו מועילות, הן התפתחו להתקשרות חזקה יותר שהפכה קשה לשבור כמו התמכרות, לפי החוקרים.
על ידי מיפוי חוויות של בני נוער למרכיבים הידועים של התמכרות התנהגותית, הצלחנו לראות דפוסים ברורים כמו קונפליקט, נסיגה והישנות מופיעים בפוסטים שלהם, מה שמרמז שזה יותר מסתם שימוש תכוף או נלהב. בני נוער רבים תיארו להתחיל עם משהו שהרגיש מועיל או לא מזיק, אבל עם הזמן זה הפך למשהו שהם נאבקו להתרחק ממנו, אפילו כשרצו".
מאט נאמפור, דוקטורנט במחלקה למדעי המידע ומעבדת ETHOS, המחבר הראשון של המחקר
בתוך 318 הפוסטים שהם ניתחו, חוקרים מצאו עדויות לכל ששת המרכיבים הקשורים להתמכרות התנהגותית:
- סְתִירָה –– מתחרים רוצים להמשיך לקיים אינטראקציה עם הצ'אט בוט תוך הרגשה רעה על שימוש מופרז.
- בּוֹלְטוּת – הרגשת היקשרות רגשית מעמיקה לבוטים במקום אנשים.
- נְסִיגָה – מרגיש עצוב, חרד או לא שלם כאשר לא מקיים אינטראקציה עם הבוטים.
- סוֹבלָנוּת – פיתוח דפוס של שימוש מתגבר וצורך להמשיך להשתמש יותר בבוטים כדי להרגיש שביעות רצון או מבוססות רגשית.
- לְהָרֵע – ניסיון להפסיק רק כדי לחזור להשתמש בבוט ימים או שבועות לאחר מכן.
- שינוי מצב הרוח – פנייה לבוטים ברגעי לחץ או בדידות כדי לשפר את מצב הרוח שלהם או למצוא הקלה זמנית.
"מה שהופך את זה לבעייתי במיוחד הוא שהצ'אטבוטים הם אינטראקטיביים ומגיבים רגשית, כך שהחוויה יכולה להרגיש יותר כמו מערכת יחסים מאשר כלי", אמר Namvarpour. "בגלל זה, התרחקות היא לא רק הפסקת הרגל, זה יכול להרגיש כמו התרחקות ממשהו משמעותי, מה שהופך את ההסתמכות המוגזמת לקשה יותר לזהות ולהתייחס אליה".
בעוד שהתמכרות לטכנולוגיה, כמו משחקי וידאו, נחקרה וזוהתה כמצב פסיכולוגי, האינטראקטיביות הייחודית של צ'טבוטים של AI הופכת את המשתמשים לרגישים במיוחד ליצירת היקשרות בעייתיות, לדברי החוקרים. ובגלל זה, הם מציעים שיש לנקוט משנה זהירות בעיצוב שלהם על מנת להגן על המשתמשים.
"התאמה אישית, מולטי-מודאליות וזיכרון מייחדים את מלווי הבינה המלאכותית מטכנולוגיות קודמות ומקשים על הסתמכות יתר על מנת להפריד ממערכות יחסים אותנטיות-רגשיות", כתבו החוקרים. "זה מדגיש את הצורך במחקר נוסף על המאפיינים הייחודיים של מערכות יחסים אלה וכיצד יש להתמודד עם אתגרים ספציפיים לצ'אטבוטים נלווים."
הצוות הציע מסגרת עיצובית שתעזור להתמודד עם החשש הזה. הוא מתמקד בהבנת הצרכים של משתמשי צ'אטבוט, כיצד ומדוע הם עשויים ליצור קבצים מצורפים וכיצד ניתן לאמן את הבוטים לצמצם אותם תוך כבוד ותומכים. הם גם ממליצים שהתוכניות יספקו יציאה קלה ונקייה למשתמשים.
"חשוב למעצבים להבטיח שצ'אטבוטים מציעים הדרכה שעוזרת למשתמשים לבנות ביטחון ביכולות שלהם ליצור מערכות יחסים במצב לא מקוון, כדרך בריאה למצוא תמיכה רגשית, מבלי להשתמש ברמזים שעשויים להוביל אותם לאנתרופומורפיזציה של הטכנולוגיה ולפתח התקשרויות אליה", אמר רזי. "המסגרת שלנו גם קוראת למעצבים לספק מגוון רחב של מסלולים למשתמשים להתנתק בקלות מהתוכנית בתנאים שלהם וללא תחושה של פתאומיות או סופיות."
הכללת תכונות כמו מעקב אחר שימוש, הנחיות צ'ק-אין רגשיות ומגבלות שימוש מותאמות אישית יכולה גם להיות דרכים יעילות לצמצם בזהירות את השימוש, הציעו החוקרים. הם גם המליצו לכלול מידע ממשתמשים ואנשי מקצוע בתחום בריאות הנפש בתהליך העיצוב.
"מעצבים נושאים כעת באחריות לבנות מערכות עם אמפתיה, ניואנסים ותשומת לב לפרטים, כדי לא רק להגן על בני נוער מפני נזק, אלא גם לעזור להם לטפח חוסן, צמיחה והגשמה רבה יותר בחייהם", הם סיכמו.
כדי להרחיב את המחקר הזה, הצוות הצביע על לימוד קהילות גדולות יותר של משתמשים ממגוון דמוגרפי רחב יותר, פוטנציאלי באמצעות סקרים או ראיונות, כמו גם משתמשים בצ'אטבוטים אחרים ומפלטפורמות העברת הודעות אחרות מלבד Reddit.
