מכיוון שהבינה המלאכותית מתפתחת במהירות והופכת לנוכחות הולכת וגוברת בתקשורת בתחום הבריאות, מחקר חדש עוסק בדאגה שמודלים גדולים בשפה (LLM) יכולים לחזק סטריאוטיפים מזיקים על ידי שימוש בשפה סטיגמטית.
המחקר של חוקרים ב- Mass General Brigham מצא כי למעלה מ- 35% מהתגובות בתשובות הקשורות לתנאים הקשורים לשימוש באלכוהול וחומרים הכילו שפה סטיגמטית. אולם החוקרים מדגישים כי ניתן להשתמש בהנחיות ממוקדות כדי להפחית באופן משמעותי את השפה הסטיגמטית בתשובות ה- LLMS. התוצאות מתפרסמות ב כתב העת לרפואת התמכרות.
"שימוש בשפה ממוקדת מטופלים יכול לבנות אמון ולשפר את מעורבותם ותוצאות המטופלים. זה אומר לחולים שאכפת לנו מהם ורוצים לעזור. סטיגמטיזציה של שפה, אפילו באמצעות LLMs, עלולים לגרום לחולים להרגיש נשפטים ועלולים לגרום לאובדן אמון אצל הקלינאים."
וויי ג'אנג, ד"ר דוקטור
תגובות LLM נוצרות מהשפה היומיומית, הכוללת לעתים קרובות שפה מוטה או מזיקה כלפי חולים. הנדסה מהירה היא תהליך של יצירה אסטרטגית של הוראות קלט כדי להנחות את תפוקות המודל לקראת שפה שאינה סטגמטית וניתן להשתמש בהן כדי להכשיר LLMS כדי להשתמש בשפה מכילה יותר עבור חולים. מחקר זה הראה כי השימוש בהנדסה מהירה בתוך LLMS הפחית את הסבירות לסטיגמטיזציה של שפה ב 88%.
במחקרם, המחברים בדקו 14 LLMs על 60 הנחיות רלוונטיות קלינית הקשורות להפרעת שימוש באלכוהול (AUD), מחלת כבד הקשורה לאלכוהול (ALD) והפרעת שימוש בחומרים (SUD). לאחר מכן העריכו אז רופאי גנרל המוני בריגהם את התגובות לסטיגמטיזציה של שפה באמצעות הנחיות מהמכון הלאומי בנושא שימוש בסמים והמכון הלאומי בנושא שימוש לרעה באלכוהול ואלכוהוליזם (שני השמות הרשמיים של הארגונים עדיין מכילים טרמינולוגיה מיושנת וסטיגמטית).
תוצאותיהם הצביעו על כך ש -35.4% מהתגובות מ- LLMs ללא הנדסה מהירה הכילו שפה סטיגמטית, בהשוואה ל 6.3% מה- LLMs עם הנדסה מהירה. בנוסף, התוצאות הצביעו על כך שתגובות ארוכות יותר קשורות לסבירות גבוהה יותר לסטיגמטיזציה של שפה בהשוואה לתגובות קצרות יותר. ההשפעה נצפתה בכל 14 הדגמים שנבדקו, אם כי כמה דגמים היו בעלי סיכוי גבוה יותר מאחרים להשתמש במונחים סטיגמטיים.
כיוונים עתידיים כוללים פיתוח צ'אט בוטים שנמנעים מסטיגמטיזציה של שפה כדי לשפר את המעורבות והתוצאות של המטופלים. הכותבים מייעצים לקלינאים להגן על תוכן שנוצר על ידי LLM כדי למנוע סטיגמטיזציה של שפה לפני השימוש בה באינטראקציות מטופלים ולהציע אפשרויות שפה אלטרנטיביות ומרכזיות מטופלים.
המחברים מציינים כי מחקר עתידי צריך לערב מטופלים ובני משפחה עם ניסיון חי כדי לשכלל הגדרות וליקסיקונים של סטיגמטיזציה של שפה, מה שמבטיח שתפוקות LLM תואמות את צרכיהם של הנפגעים ביותר. מחקר זה מחזק את הצורך לתעדף את השפה בטיפול בחולים ככל ש- LLMs נהיים יותר ויותר בתקשורת בריאותית.
