צוות חוקרים בבית הספר לרפואה של ICAHN בהר סיני פיתח שיטה חדשה לזיהוי והפחתת הטיות במערכי נתונים המשמשים לאימון אלגוריתמים ללימוד מכונות-כתובת סוגיה קריטית שיכולה להשפיע על דיוק האבחון והחלטות הטיפול. הממצאים פורסמו בגיליון המקוון של ה- 4 בספטמבר של כתב העת למחקר אינטרנט רפואי (Doi: 10.2196/71757).
כדי להתמודד עם הבעיה, החוקרים פיתחו שוויון, כלי המסייע באיתור ותיקון של הטיה במערכי נתונים בתחום הבריאות לפני שהם משמשים להכשרת בינה מלאכותית (AI) ומודלים למידה במכונה. החוקרים בדקו את השוויון על סוגים שונים של נתוני בריאות, כולל תמונות רפואיות, רישומי חולים וסקר מרכזי בבריאות הציבור, סקר בדיקות הבריאות והתזונה הלאומי, תוך שימוש במגוון מודלים ללימוד מכונות. הכלי הצליח להבחין בהטיות ידועות וגם בעבר התעלמו על פני מערכי נתונים אלה.
כלים AI משמשים יותר ויותר בתחום הבריאות כדי לתמוך בהחלטות, החל מאבחון לחיזוי עלות. אך כלים אלה מדויקים רק כמו הנתונים המשמשים לאימוןם. קבוצות דמוגרפיות מסוימות עשויות שלא להיות מיוצגות באופן יחסי במערך נתונים. בנוסף, תנאים רבים עשויים להציג באופן שונה או להיות מאובחנים יתר על המידה בין קבוצות, אומרים החוקרים. מערכות למידת מכונה שהוכשרו על נתונים כאלה יכולות להנציח ולהגביר אי דיוקים, ויוצרות לולאת משוב של טיפול תת-אופטימלי, כגון אבחנות שלא נענו ותוצאות לא מכוונות.
מטרתנו הייתה ליצור כלי מעשי שיכול לעזור למפתחים ומערכות בריאות לזהות אם קיים הטיה בנתונים שלהם-ואז לנקוט בצעדים להפחתתם. אנו רוצים לעזור להבטיח שכלים אלה יעבדו היטב עבור כולם, ולא רק לקבוצות המיוצגות ביותר בנתונים. "
פריס גולמאלי, MD, מחבר ראשון
צוות המחקר דיווח כי השוויון ניתן להתאמה למגוון רחב של מודלים ללימוד מכונות, החל מגישות פשוטות יותר למערכות מתקדמות כמו אלה המפעילים דגמי שפה גדולים. ניתן ליישם אותו על מערכי נתונים קטנים ומורכבים כאחד ויכול להעריך לא רק את נתוני הקלט, כגון תוצאות מעבדה או תמונות רפואיות, אלא גם את התפוקות, כולל אבחנות חזויות וציוני סיכון.
תוצאות המחקר מראות עוד כי השוויון יכול להיות בעל ערך עבור מפתחים, חוקרים ורגולטורים כאחד. ניתן להשתמש בו במהלך פיתוח אלגוריתמים, בביקורות לפני הפריסה, או כחלק מהמאמצים הרחבים יותר לשיפור ההגינות בתחום הבריאות AI.
"כלים כמו שוויון הם צעד חשוב לקראת בניית מערכות AI שוויוניות יותר, אך הם רק חלק מהפתרון", אומר הסופר הבכיר המתאים, ג'יריש נ. נדקרני, MD, MPH, יו"ר המחלקה לווינדרייך לבינה מלאכותית ובריאות האדם, מנהל המנהלים של מכון הרפואה של האסו, ואירן וד"ר ארתור מ. מערכת הבריאות של הר סיני. "אם אנו רוצים שהטכנולוגיות הללו ישמשו באמת את כל החולים, עלינו להתאים להתקדמות טכנית עם שינויים רחבים יותר כיצד נאספים, פירושם ומיושמים בתחום הבריאות. הקרן חשובה וזה מתחיל בנתונים."
"מחקר זה משקף התפתחות חיונית באופן בו אנו חושבים על AI בתחום הבריאות-לא בדיוק ככלי קבלת החלטות, אך כמנוע המשפר את הבריאות בכל הקהילות הרבות שאנו משרתים", אומר דייוויד ל. רייך, המנהל הקליני הראשי של מערכת הבריאות בהר סיני ונשיא בית החולים הר סיני. "על ידי זיהוי ותיקון של הטיה מובנית ברמת מערך הנתונים, אנו מטפלים בשורש הבעיה לפני שהיא משפיעה על הטיפול בחולים. כך אנו בונים אמון קהילתי רחב יותר ב- AI ומבטיחים כי חידושים כתוצאה מכך ישפרו את התוצאות עבור כל החולים, ולא רק אלה המיוצגים בצורה הטובה ביותר בנתונים. זה צעד קריטי בהפיכת מערכת הבריאות הלמידה שמעידה באופן רציף ומעודדים כדי לשפר את" הבריאות לכולם. "
העיתון נקרא "גילוי, אפיון ומקלה הטיות גזעיות מרומזות ומפורשות במערכי נתונים בתחום הבריאות עם לימוד תת -קבוצתי: פיתוח אלגוריתם ותיקוף."
מחברי המחקר, כמפורט בכתב העת, הם פריס גולמאלי, אשווין שרקנט סוונט, לורה ליהרסקה, קרול הורוביץ, לילי צ'אן, פטרישיה קובאץ ', אירה הופר, קארנדאפ סינג, לין ריצ'רדסון, אמנואל מאנס, אלכסנדר צ'רני, דייוויד רייץ', ג'יריש, נדן.
המחקר מומן על ידי המרכז הלאומי לקידום מדעי התרגום והמכונים הלאומיים לבריאות.
