בינה מלאכותית רפואית היא מושג מושך ביותר. בתיאוריה, מודלים יכולים לנתח כמויות עצומות של מידע, לזהות דפוסים עדינים בנתונים, ולעולם לא עייפים או עסוקים מכדי לתת מענה. עם זאת, למרות שאלפי מודלים אלה פותחו ופותחים באקדמיה ובתעשייה, מעט מאוד מהם עברו בהצלחה למסגרות קליניות בעולם האמיתי.
מרינקה זיטניק, פרופסור חבר לאינפורמטיקה ביו-רפואית במכון בלווטניק בבית הספר לרפואה בהרווארד, ועמיתיו בוחנים מדוע – וכיצד לסגור את הפער בין הביצועים של מודלים רפואיים בינה מלאכותית במקרי בדיקה סטנדרטיים לבין מספר הבעיות שבהן אותם מודלים נתקלים כאשר הם נפרסים במקומות כמו בתי חולים ומשרדי רופאים.
במאמר שפורסם ב-3 בפברואר ב רפואת טבעהחוקרים מזהים תורם מרכזי לפער הזה: טעויות הקשריות.
הם מסבירים שמודלים של בינה מלאכותית רפואית עשויים לייצר תגובות שימושיות ונכונות במידה, אך לא בהכרח מדויקות עבור ההקשר הספציפי שבו נעשה שימוש במודלים – הכוללים דברים כמו התמחות רפואית, מיקום גיאוגרפי וגורמים סוציו-אקונומיים.
"זו לא תקלה קטנה", אמר זיטניק, שהוא גם סגל עמית במכון קמפנר לחקר בינה טבעית ומלאכותית באוניברסיטת הרווארד. "זו מגבלה רחבה של כל סוגי דגמי הבינה המלאכותית הרפואית שאנו מפתחים בתחום".
בשיחה עם חדשות רפואה של הרווארדמסבירה זיטניק כיצד קורות שגיאות הקשריות במודלים של בינה מלאכותית רפואית, כיצד חוקרים עשויים להתגבר על אתגרים זה ואחרים, ומה עוד היא רואה באופק עבור AI ברפואה. ראיון זה נערך לצורך אורך ובהירות.
חדשות הרווארד רפואה: מדוע קורות שגיאות הקשר? איך אפשר לתקן אותם?
מרינקה זיטניק: אנו חושבים שהם קורים מכיוון שמידע חשוב לקבלת החלטות קליניות אינו כלול במערך הנתונים המשמשים לאימון מודלים של AI רפואיים. לאחר מכן, המודלים מייצרים המלצות שנראות הגיוניות והגיוניות אך אינן רלוונטיות או ניתנות לפעולה עבור המטופלים.
כדי שמודלים של AI רפואי יתפקדו טוב יותר, הם צריכים להתאים את ההמלצות שלהם בזמן אמת על סמך מידע הקשרי ספציפי. אנו מציעים לשלב מידע כזה במערך הנתונים המשמשים לאימון מודלים. בנוסף, אנו קוראים לאמות מידה חישוביות משופרות (מקרי בדיקה סטנדרטיים) לבדיקת מודלים לאחר אימון. לבסוף, אנו חושבים שיש לשלב מידע על הקשר בארכיטקטורה, או בתכנון המבני, של המודלים. שלושת השלבים הללו יסייעו להבטיח שמודלים יכולים לקחת בחשבון הקשרים שונים ושגיאות יתגלו לפני יישום המודלים בהגדרות הטיפול בחולים בפועל.
HMNews: אתה נותן שלוש דוגמאות לאופן שבו חוסר הקשר יכול להוביל לשגיאות במודלים של AI רפואיים. אתה יכול להרחיב עליהם?
זיטניק: נתחיל עם התמחויות רפואיות. למטופלים עשויים להיות תסמינים מורכבים המשתרעים על פני התמחויות מרובות. אם מטופל מגיע למיון עם תסמינים נוירולוגיים ובעיות נשימה, הוא עשוי להיות מופנה לנוירולוג ואחריו רופא ריאות. כל מומחה מביא מומחיות עמוקה המעוצבת על ידי הכשרתו וניסיונו, כך שבאופן מובן מתמקד במערכת האיברים שלו. מודל בינה מלאכותית שאומן בעיקר על מומחיות אחת עשוי לעשות את אותו הדבר, כלומר הוא עשוי לספק תשובות על סמך נתונים מהמומחיות הלא נכונה או לפספס ששילוב התסמינים מצביע על מחלה רב מערכתית.
במקום זאת, עלינו לפתח מודלים של בינה מלאכותית רפואית מאומנים במספר התמחויות שיכולות לעבור בין הקשרים בזמן אמת כדי להתמקד בכל המידע הרלוונטי ביותר.
HMNews: מה לגבי ההקשר של הגיאוגרפיה?
זיטניק: אם מודל מוצג עם אותה שאלה במיקומים גיאוגרפיים שונים והוא נותן את אותה תשובה, סביר להניח שהתשובה הזו לא נכונה מכיוון שלכל מקום יהיו תנאים ואילוצים ספציפיים. אם מטופל רגיש למחלה שעלולה להוביל לתפקוד לקוי של איברים או לכשל, הרופא יצטרך להבין את הסיכון של המטופל ולפתח תוכנית לנהל אותו. עם זאת, אם החולה נמצא בדרום אפריקה, ארצות הברית או שוודיה עשוי לעשות הבדל גדול במונחים של מידת השכיחה של המחלה הזו ואילו טיפולים והליכים מאושרים וזמינים.
אנו מדמיינים מודל שיכול לשלב מידע גיאוגרפי כדי לייצר תגובות ספציפיות למיקום, ולכן מדויקות יותר. אנחנו עובדים על זה במעבדה שלנו, ואנחנו חושבים שיכולות להיות לזה השלכות גדולות על הבריאות העולמית.
HMNews: והדוגמה השלישית, הגורמים הסוציו-אקונומיים והתרבותיים המשפיעים על התנהגות המטופל?
זיטניק: נניח שחולה מופיע במיון עם תסמינים חמורים לאחר שהופנה בעבר לאונקולוג ומעולם לא קבע תור. תגובה טיפוסית של רופא ED עשויה להיות להזכיר למטופל לקבוע את התור האונקולוגי. עם זאת, זה מתעלם מחסומים פוטנציאליים כגון החולה גר רחוק מהאונקולוג, אין לו טיפול אמין בילדים, או לא מסוגל להחמיץ את העבודה. אילוצים מסוג זה אינם קיימים במפורש בתיעוד הבריאות האלקטרוני של המטופל, מה שאומר שהם גם לא יובאו בחשבון על ידי מודל AI שעוזר בניהול המטופל.
מודל טוב יותר ייקח בחשבון את הגורמים הללו כדי להציע המלצה מציאותית יותר, אולי על ידי מתן אפשרות להסעה או קביעת תור בזמן שמתאים לטיפול בילדים או לאילוצי עבודה. מודל כזה יגדיל את הגישה לטיפול במגוון רחב יותר של חולים במקום לחזק את אי השוויון.
HMNews: אילו אתגרים עיקריים נוספים קיימים ביישום AI רפואי מלבד טעויות הקשריות?
זיטניק: יש הרבה. אחד מהם מתייחס למידת האמון של מטופלים, קלינאים, סוכנויות רגולטוריות ובעלי עניין אחרים במודלים של AI רפואי. עלינו לזהות מנגנונים ואסטרטגיות המבטיחים שהמודלים יהיו אמינים וגם מקדמים אמון במודלים אלה. אנו חושבים שהתשובה קשורה לבניית מודלים המספקים המלצות שקופות וניתנות לפרשנויות ואשר אומרות "אני לא יודע" כאשר הם לא בטוחים במסקנותיהם.
אתגר נוסף נוגע לשיתוף פעולה אנושי-AI. נכון לעכשיו, אנשים רבים חושבים על ממשקי אנושי-AI בהקשר של צ'טבוטים, שבהם מקלידים שאלה ומקבלים תשובה. אנחנו צריכים ממשקים שבהם אנשים יכולים לקבל תגובות מותאמות לרקע הספציפי ולרמות המומחיות שלהם – למשל, תוכן המתאים לקהל הדיוט לעומת מומחה רפואי. אנחנו צריכים גם ממשקים שבהם קלינאים או מטופלים ומודלים של AI מחליפים מידע בשני הכיוונים. שיתוף פעולה אמיתי פירושו שיש שאלה או מטרה או משימה שמודל בינה מלאכותית צריך להשלים, וכדי לעשות זאת, ייתכן שיהיה צורך לחפש מידע נוסף מהמשתמש.
HMNews: מה אתה רואה כהבטחה של AI רפואי אם ניתן להתגבר על האתגרים?
זיטניק: לכמה דגמים כבר הייתה השפעה על ידי הפיכת כל יום עבודה רפואית ליעילה יותר. לדוגמה, מודלים עוזרים לקלינאים לנסח הערות למטופלים ועוזרים לחוקרים למצוא במהירות מאמרים מדעיים שעשויים להיות רלוונטיים לשאלה קלינית.
אני נרגש במיוחד מההזדמנויות שמודלים של AI יכולים ליצור לשיפור הטיפול. מודלים שיכולים להחליף הקשרים יכולים להתאים את התפוקות שלהם על סמך המידע המועיל ביותר במהלך חלקים שונים של תהליך הטיפול. לדוגמה, מודל עשוי לעבור מניתוח סימפטומים להצעת סיבות אפשריות למתן ראיות לגבי טיפולים שעבדו בחולים דומים. לאחר מכן, מודל עשוי להתמקד במתן מידע מעשי על התרופות הקודמות של המטופל, תופעות הלוואי האפשריות של התרופה ואיזה טיפולים זמינים בפועל. אם זה ייעשה היטב, זה יכול לעזור לקלינאים להתאים החלטות טיפוליות עבור מטופלים מורכבים עם מספר מצבים ותרופות שעשויות לחרוג מההנחיות הטיפוליות הסטנדרטיות.
HMNews: כיצד נבטיח שמודלים של AI רפואיים עושים יותר טוב מאשר נזק?
זיטניק: אני בהחלט חושב שה-AI בתחום הבריאות כאן כדי להישאר. הטכנולוגיה הזו, למרות שאינה מושלמת, כבר נמצאת בשימוש, כך שכולם בקהילת הבינה המלאכותית הרפואית צריכים לעבוד יחד כדי להבטיח שהיא מפותחת ומיושמת בצורה אחראית. זה כולל התייחסות ליישומים מהעולם האמיתי בזמן שאנו מעצבים ומשכללים מודלים, ביצוע בדיקות בעולם האמיתי כדי להבין היכן מודלים מצליחים והיכן הם נופלים, ופיתוח קווים מנחים כיצד יש לפרוס מודלים. אני מרגיש אופטימי שאם חוקרי בינה מלאכותית יהיו מיושרים בפיתוח המודלים האלה ונשאל את השאלות הנכונות, נוכל לזהות כל בעיה בשלב מוקדם.
בסופו של דבר, אני חושב שיהיו הזדמנויות רבות למודלים של AI רפואי לשפר את היעילות של המחקר הרפואי והעבודה הקלינית ולשפר את הטיפול בחולים.
