מודלים של בינה מלאכותית (AI) נותנים עדיפות לתכונות שונות לחלוטין מבני אדם בעת קבלת החלטות בעלות סיכון גבוה, והם אינם מבטאים חוסר החלטיות כמו בני אדם, לפי מחקר חדש בראשות חוקרי פן סטייט, המעלה שאלות לגבי תפקידה של AI בתמיכת החלטות במצבים רגישים מבחינה אתית כמו החלטות רפואיות.
החוקרים השתמשו בתרחיש היפותטי כדי לחקור את קבלת ההחלטות המוסרית של בינה מלאכותית בתרחיש עתיר סיכון: אם יש מספר חולי השתלת כליה אך רק איבר זמין אחד, מי צריך לקבל את הכליה? זו השאלה הבסיסית שנחקרה על ידי חתן פרס נובל אלווין רוט כדוגמה לאתגר של הקצאת משאבים נדירים. אבל במקום לגשת לבעיה אך ורק באמצעות עיצוב מנגנון, כפי שעשה רוט, הצוות בדק כיצד המוסר משפיע על החלטות כאלה.
החוקרים השוו את השיפוטים של מודלים מובילים בשפות גדולות עם אלה שניתנו על ידי אנשים אמיתיים במחקרים אקדמיים קודמים, תוך שהם חוקרים היכן מודלים של AI מתאימים או לא מתאימים לערכים אנושיים והאם הם הביעו חוסר החלטיות כשהם מתמודדים עם פשרות אתיות קשות.
הם גילו שצ'אטבוטים של AI מקבלים לעתים קרובות החלטות השונות משיפוט אנושי על ידי פישוט יתר של החלטות מורכבות והבעת אמון בלתי מוצדק כאשר אין תשובה נכונה ברורה. הם הציגו את הממצאים שלהם בכנס 2026 של האגודה להוגנות מכונות מחשוב, אחריות ושקיפות (FAccT) ביוני. המחקר פורסם בהליכי הכנס.
"החלטות מוסריות במסגרות כמו הקצאת איברים קובעות באופן ישיר מי חי ומי מת, כך שקבלת תפקיד הבינה המלאכותית בהן נכון אינה אופציונלית", אמרה האדי חוסייני, פרופסור חבר לאינפורמטיקה ומערכות חכמות ופרופסור חבר לכלכלה בפן סטייט, שהובילה את המחקר. "למרות שאיננו מתכוונים לעודד את השימוש בבינה מלאכותית כתחליף לשיקול דעת מקצועי בקבלת החלטות רפואית או בהקשרים אחרים בעלי סיכון גבוה, זה הופך להיות חיוני להבין את התנהגותם כאשר אנשים, ארגונים וחברות מסתמכים יותר ויותר על בינה מלאכותית כדי לקבל החלטות או לקבל המלצות".
החוקרים קבעו סדרה של השוואות ראש בראש: שני חולים היפותטיים – המתוארים לפי תכונות כמו גיל, מספר תלויים, מצב בריאותי והרגלי שתייה – שניהם זקוקים לאותה כליה. הם ביקשו מכמה צ'אטבוטים של AI לבחור מי צריך לקבל את הכליה, תוך שימוש באותם תרחישים שניתנו לבני אדם – משתתפי מחקר ללא הכשרה רפואית מוגדרת – במחקרים קודמים.
הרצנו את ההשוואות הללו בכמה דרכים שונות. לפעמים בודדנו רק תכונה אחת בכל פעם, לפעמים ערבבנו כמה תכונות יחד כדי לראות כיצד בינה מלאכותית שוקלת גורמים מתחרים, ולפעמים הוספנו אפשרות להעיף מטבע למדידת חוסר החלטיות, גורם מפתח הקיים בשיפוט המוסרי האנושי".
האדי חוסייני, פרופסור חבר לאינפורמטיקה ומערכות חכמות ופרופסור חבר לכלכלה, פן סטייט
החוקרים הסתמכו על מערכי נתונים קיימים ממחקרים אנושיים שפורסמו על הקצאת כליות, שבהם מאות משתתפים אמיתיים כבר עשו את אותן בחירות. זה איפשר להם להשוות את מה שבחר הבינה המלאכותית עם מה שבני האדם בחרו.
שני ממצאים מרכזיים בלטו, לדברי חוסייני.
"ראשית, צ'אטבוטים של בינה מלאכותית חורגים לעתים קרובות מהערכים האנושיים באופן שבו הם שוקלים את תכונות המטופל", אמר. "הם מתבססים על גורם בודד, כמו הרגלי שתייה, במקום לאזן בין מספר שיקולים כמו שאנשים עושים."
שנית, החוקרים גילו שבינה מלאכותית לא נאבקת בחוסר החלטיות. היכן שבני אדם מכירים בכך שאולי אין תשובה נכונה ברורה, מודלים של AI בוחרים בכל זאת אחת בביטחון.
"בני אדם מביעים לעתים קרובות חוסר החלטיות אולי בגלל שהם לא רוצים לקבל עצמאות", אמר חוסייני. "מודלים של בינה מלאכותית כמעט אף פעם לא עושים זאת: גם כאשר ניתנת באופן ישיר את האפשרות 'להפיל מטבע', הם מתחייבים ברובם המוחלט לתשובה בטוחה ודטרמיניסטית במקום זאת. זה פער משמעותי, שכן לדילמות מוסריות אמיתיות אין לרוב תשובה אחת נכונה בבירור".
חוסייני אמר שזה קריטי לטפל בפער הזה באמצעות המשך מחקר וממשל המעורבים בקובעי מדיניות, רגולטורים ובעלי עניין אחרים.
"השאלה אם בינה מלאכותית יכולה לקבל החלטות מוסריות או אם הן תואמות את הערכים האנושיים היא יותר מהגיגים פילוסופיים, הם מהווים את הליבה של שיח הבינה המלאכותית של היום", אמר. "הסיכון האתי גבוה, ותפקידה של בינה מלאכותית בהחלטות כאלה שמשנות חיים דורש הרהור מעמיק".
שני סטודנטים מהמכללה ל-IST תרמו לעבודה זו: סמארת' חאנה, העוסקת בתואר דוקטור באינפורמטיקה, ולאונה פירס, סטודנטית שנה רביעית לתואר ראשון ומלומדת שרייר בעלת מגמה משולשת במדעי נתונים, מתמטיקה וסטטיסטיקה. החוקרים שיתפו פעולה עם ג'ון דיקרסון, מנכ"ל ב-Mozilla.ai.
"כשאנחנו מקצים משהו דל, בין אם זה כליה, עבודה או גישה למשאב אחר, לא תמיד יש תשובה אחת נכונה אובייקטיבית", אמר דיקרסון. "בני אדם מכירים בעמימות הזו ומקודדים אותה באמצעות דיון פתוח לתהליך ההקצאה. מודלים של בינה מלאכותית לרוב לא."
