זה הופך להיות נפוץ יותר ויותר לאנשים לפתח קשרים אינטימיים ארוכי טווח עם טכנולוגיות בינה מלאכותית (AI). בקצה הקיצוני שלהם, אנשים "התחתנו" עם חבריהם ל- AI בטקסים שאינם מחייבים באופן משפטי, ולפחות שני אנשים הרגו את עצמם בעקבות עצות AI Chatbot. בעיתון חוות דעת המפרסם 11 באפריל בכתב העת Cell Press מגמות במדעים קוגניטיבייםפסיכולוגים חוקרים סוגיות אתיות הקשורות במערכות יחסים בין אנוש- AI, כולל הפוטנציאל שלהם לשבש מערכות יחסים אנושיות-אנושיות ולתת עצות מזיקות.
"היכולת של AI להתנהג כעת כמו אדם ולהיכנס לתקשורת לטווח הארוך באמת פותחת פחית תולעים חדשה", אומר הסופר הראשי דניאל ב. שנק מאוניברסיטת מיזורי למדע וטכנולוגיה, המתמחה בפסיכולוגיה וטכנולוגיה חברתית. "אם אנשים עוסקים ברומנטיקה עם מכונות, אנחנו באמת צריכים פסיכולוגים ומדענים חברתיים המעורבים."
AI רומנטיקה או חברות היא יותר משיחה חד פעמית, שימו לב למחברים. במשך שבועות וחודשים של שיחות אינטנסיביות, AIs אלה יכולים להפוך לחברים מהימנים שנראים כאילו הם יודעים ואכפת להם מבני זוגם האנושיים. ומכיוון שמערכות יחסים אלה יכולות להיראות קלות יותר מאשר מערכות יחסים אנושיות-אנושיות, החוקרים טוענים כי AIS עלולה להפריע לדינמיקה החברתית האנושית.
דאגה אמיתית היא שאנשים עשויים להביא ציפיות ממערכות היחסים שלהם ב- AI למערכות היחסים האנושיות שלהם. בהחלט, במקרים פרטניים זה משבש מערכות יחסים אנושיות, אך לא ברור אם זה הולך להיות נפוץ. "
דניאל ב. שנק, סופר מוביל, אוניברסיטת מיזורי למדע וטכנולוגיה
יש גם הדאגה ש- AIS יכולה להציע עצות מזיקות. בהתחשב בנטייה של AIS להזות (כלומר, ייצור מידע) ולהטיל הטיות קיימות, אפילו שיחות לטווח קצר עם AIS יכולות להיות מטעות, אך זה יכול להיות בעייתי יותר ביחסי AI לטווח הארוך, אומרים החוקרים.
"עם AIS יחסית, הנושא הוא שמדובר בישות שאנשים מרגישים שהם יכולים לסמוך עליהם: זה 'מישהו' שהראה לו אכפת ונראה שהוא מכיר את האדם בצורה עמוקה, ואנחנו מניחים ש'מישהו 'שיודע אותנו טוב יותר הולך לתת עצות טובות יותר", אומר שאנק. "אם נתחיל לחשוב על AI ככה, אנו הולכים להתחיל להאמין שיש להם את טובתנו בראש, כשלמעשה, הם יכולים לייצר דברים או לייעץ לנו בדרכים רעות ממש."
ההתאבדויות הן דוגמה קיצונית להשפעה שלילית זו, אך החוקרים אומרים כי מערכות יחסים קרובות אנושיות-AI יכולות גם לפתוח אנשים עד למניפולציה, ניצול והונאה.
"אם AIS יכול לגרום לאנשים לסמוך עליהם, אנשים אחרים יוכלו להשתמש בזה כדי לנצל את משתמשי AI", אומר שנק. "זה קצת יותר כמו שיש סוכן חשאי מבפנים. ה- AI נכנס ומפתח מערכת יחסים כך שיאמינו עליהם, אבל הנאמנות שלהם היא באמת כלפי קבוצה אחרת של בני אדם שמנסה לתפעל את המשתמש."
כדוגמה, הצוות מציין שאם אנשים יחשפו פרטים אישיים ל- AIS, אז ניתן היה למכור מידע זה ולהשתמש בו לניצול אותו אדם. החוקרים גם טוענים כי ניתן להשתמש ביעילות רבה יותר ב- AIS כדי להניע את דעותיהם ומעשיהם של אנשים מאשר טוויטר בוטים או מקורות חדשות מקוטבים כרגע. אך מכיוון שהשיחות הללו מתרחשות באופן פרטי, הן גם היו הרבה יותר קשות להסדיר.
"AIS אלה נועדו להיות נעימים ונעימים מאוד, מה שעלול להוביל לכך שהמצבים מחמרים מכיוון שהם ממוקדים יותר בשיחה טובה מכפי שהם נמצאים בכל סוג של אמת או בטיחות מהותית", אומר שנק. "לכן, אם אדם מעלה התאבדות או תיאוריית קונספירציה, ה- AI הולך לדבר על זה כשותף לשיחה מוכנה ונעימה."
החוקרים קוראים למחקר נוסף החוקר את הגורמים החברתיים, הפסיכולוגיים והטכניים שהופכים אנשים לפגיעים יותר להשפעת הרומנטיקה האנושית-איי.
"הבנת התהליך הפסיכולוגי הזה עשויה לעזור לנו להתערב במאבק בעצת AIS זדונית", אומר שנק. "פסיכולוגים מתאימים יותר ויותר ללמוד AI, מכיוון שאיי הופכת להיות יותר ויותר דמוית אנוש, אבל כדי להיות שימושיים עלינו לעשות יותר מחקר, ואנחנו צריכים לעמוד בקצב הטכנולוגיה."
