בעוד שבינה מלאכותית (AI) יכולה להיות כלי רב עוצמה שרופאים יכולים להשתמש בו כדי לסייע באבחון המטופלים שלהם ויש לה פוטנציאל גדול לשפר את הדיוק, היעילות ובטיחות המטופל, יש לה חסרונות. זה עלול להסיח את דעתם של הרופאים, לתת להם יותר מדי אמון בתשובות שהוא מספק, ואפילו להוביל אותם לאבד אמון בשיקול הדעת האבחנתי שלהם.
כדי להבטיח שבינה מלאכותית משולבת כהלכה בפרקטיקה של שירותי הבריאות, צוות מחקר סיפק מסגרת הכוללת חמש שאלות מנחות שמטרתן לתמוך ברופאים בטיפול בחולים שלהם מבלי לערער את המומחיות שלהם באמצעות הסתמכות יתר על בינה מלאכותית. המסגרת פורסמה לאחרונה בביקורת עמיתים כתב העת של האיגוד האמריקאי לאינפורמטיקה רפואית.
מאמר זה מעביר את הדיון ממידת הביצועים של אלגוריתם ה-AI לאופן שבו רופאים מקיימים אינטראקציה עם AI במהלך האבחון. מאמר זה מספק מסגרת שדוחפת את התחום מעבר ל'האם בינה מלאכותית יכולה לזהות מחלות?' ל'כיצד בינה מלאכותית צריכה לתמוך ברופאים מבלי לערער את המומחיות שלהם?' מסגור מחדש זה הוא צעד חיוני לקראת אימוץ בטוח ויעיל יותר של AI בפרקטיקה הקלינית".
ד"ר ג'ואן ג'י אלמור, סופרת בכירה, פרופסור לרפואה בחטיבה לרפואה פנימית כללית ומחקר שירותי בריאות ומנהלת התוכנית הלאומית לקלינאים בבית הספר לרפואה של דיוויד גפן ב-UCLA
בעוד שגיאות הקשורות לבינה מלאכותית קורות, אף אחד לא באמת יודע מדוע הכלים האלה לא יכולים לשפר את קבלת ההחלטות האבחנתיות כשהם מיושמים בפרקטיקה הקלינית.
כדי לגלות מדוע, החוקרים מציעים חמש שאלות להנחות מחקר ופיתוח למניעת שגיאות אבחון הקשורות ל-AI. השאלות שיש לשאול הן: איזה סוג ופורמט של מידע צריך להציג בינה מלאכותית? האם הוא צריך לספק מידע זה מיד, לאחר סקירה ראשונית, או להפעיל ולכבות אותו על ידי הרופא? כיצד מראה מערכת הבינה המלאכותית כיצד היא מגיעה להחלטותיה? איך זה משפיע על הטיה ושאננות? ולבסוף, מהם הסיכונים בהסתמכות ארוכת טווח עליו?
את השאלות האלה חשוב לשאול כי:
- הפורמט משפיע על תשומת הלב של הרופאים, על דיוק האבחון ועל הטיות פרשניות אפשריות
- מידע מיידי יכול להוביל לפרשנות מוטה בעוד רמזים מושהים עשויים לסייע בשמירה על מיומנויות אבחון בכך שהם מאפשרים לרופאים לעסוק באופן מלא יותר באבחון
- האופן שבו מערכת הבינה המלאכותית מגיעה להחלטה יכולה להדגיש תכונות שנפסלו או בוטלו, לספק הסברים מסוג "מה אם" ולהתאים בצורה יעילה יותר עם ההיגיון הקליני של הרופאים
- כאשר רופאים נשענים יותר מדי על בינה מלאכותית, הם עלולים להסתמך פחות על החשיבה הביקורתית שלהם, ולאפשר לאבחנה מדויקת לעבור
- הסתמכות ארוכת טווח על AI עלולה לשחוק את יכולות האבחון הנלמדות של הרופא
הצעדים הבאים לקראת שיפור בינה מלאכותית למטרות אבחון הם להעריך עיצובים שונים במסגרות קליניות, ללמוד כיצד AI משפיע על אמון וקבלת החלטות, לצפות בפיתוח המיומנויות של הרופאים כאשר נעשה שימוש בבינה מלאכותית בהדרכה ובתרגול קליני, ולפתח מערכות שמכוונות את האופן שבו הן מסייעות לרופאים.
"ל-AI יש פוטנציאל עצום לשפר את דיוק האבחון, היעילות ובטיחות המטופל, אבל אינטגרציה לקויה עלולה להחמיר את שירותי הבריאות במקום לטובים יותר", אמר אלמור. "על ידי הדגשת הגורמים האנושיים כמו תזמון, אמון, הסתמכות יתר ושחיקת מיומנויות, העבודה שלנו מדגישה ש-AI חייב להיות מתוכנן לעבוד עם רופאים, לא להחליף אותם. האיזון הזה הוא חיוני אם אנחנו רוצים ש-AI ישפר את הטיפול מבלי להכניס סיכונים חדשים".
מחברים שותפים הם טד ברוניה מאוניברסיטת טאפטס וסטיבן מיטרוף מאוניברסיטת ג'ורג' וושינגטון.
המחקר נתמך על ידי המכון הלאומי לסרטן של המכונים הלאומיים לבריאות (R01 CA288824, R01 CA225585, R01 CA172343 ו-R01 CA140560).
