אי הדיוק של נתוני גזע ואתניות שנמצאים ברשומות בריאות אלקטרוניות (EHR) יכול להשפיע לרעה על הטיפול בחולים כבינה מלאכותית (AI) משולב יותר ויותר בתחום הבריאות. מכיוון שבתי חולים וספקים אוספים באופן לא עקבי נתונים כאלה ונאבקים לסיווג מדויק של חולים בודדים, מערכות AI שהוכשרו על מערכי נתונים אלה יכולים לרשת ולהנציח את ההטיה הגזעית.
בפרסום חדש בתחום הבריאות הדיגיטלית של PLOS, מומחים בביו -אתיקה ומשפט קוראים לתקינה מיידית של שיטות לאיסוף נתוני גזע ואתניות, ולמפתחים לאחריות איכות נתוני גזע ואתניות במערכות AI רפואיות. המחקר מסנתז את החששות מדוע נתוני גזע המטופלים ב- EHRs עשויים שלא להיות מדויקים, מזהה שיטות עבודה מומלצות עבור מערכות בריאות וחוקרי AI רפואיים לשיפור דיוק הנתונים ומספק תבנית חדשה למפתחי AI רפואיים להצדיק בשקיפות את איכות הגזע והנתוני האתניות שלהם
הסופרת הראשית אלכסנדרה צלידיס, MBE, מציינת כי "אם מפתחי AI יימכרו בהמלצתנו לחשוף כיצד נאספו נתוני הגזע והאתניות שלהם, הם לא רק יקדמו את השקיפות ב- AI רפואי, אלא גם יעזרו לחולים ולרגולטורים להעריך באופן ביקורתי את הבטיחות של המכשירים שלהם על ידי המבטאים. כלי טיפול. "
הטיה של גזע במודלים של AI מהווה דאגה עצומה מכיוון שהטכנולוגיה משולבת יותר ויותר בתחום הבריאות. מאמר זה מספק שיטה קונקרטית הניתנת ליישום כדי לסייע בטיפול בדאגות אלה. "
פרנסיס שן, ג'יי.די, דוקטורט, סופר בכיר
אמנם יש לעשות יותר עבודה, אך המאמר מציע נקודת מוצא מציעה כי המחבר המשותף לקשמי בהארדוואג ', MBE. "דיאלוג פתוח בנוגע לשיטות עבודה מומלצות הוא צעד חיוני, והגישות שאנו מציעים יכולות לייצר שיפורים משמעותיים."
המחקר נתמך על ידי תוכנית NIH Bridge to Lantial Intelligence (Bridge2AI), ועל ידי מענק Nih Neuroethics במוח NIH (R01MH134144).
