ככל שהבינה המלאכותית (AI) הופכת נפוצה יותר בתחום הבריאות, ארגונים ורופאים חייבים לנקוט בצעדים כדי להבטיח את היישום והשימוש הבטוחים שלה בסביבה קלינית בעולם האמיתי, על פי מאמר שנכתב בשיתוף דין סיטיג, PhD, פרופסור עם בית הספר מקוויליאמס למידענות ביו-רפואית ב-UTHealth יוסטון והארדיפ סינג, MD, MPH, פרופסור במכללת ביילור לרפואה.
ההנחיות פורסמו היום, 27 בנובמבר 2024, ב- כתב העת של האיגוד הרפואי האמריקאי.
לעתים קרובות אנו שומעים על הצורך בבנייה בטוחה של AI, אך לא על אופן השימוש בו בבטחה במערכות בריאות. זהו כלי שיש לו פוטנציאל לחולל מהפכה בטיפול הרפואי, אך ללא אמצעי הגנה במקום, בינה מלאכותית עלולה לייצר פלטים שקריים או מטילים שעלולים להזיק למטופלים אם לא יבדקו".
דין סיטיג, דוקטורט, פרופסור בבית הספר למידע ביו-רפואי של מקוויליאמס, UTHealth Houston
בהתבסס על חוות דעת מומחים, סקירות ספרות והתנסויות בשימוש ב-IT בריאות והערכת בטיחות, Sittig ו-Singh פיתחו גישה פרגמטית עבור ארגוני שירותי בריאות וקלינאים לניטור וניהול מערכות AI.
"ארגוני אספקת שירותי בריאות יצטרכו ליישם מערכות ממשל חזקות ותהליכי בדיקה מקומית כדי להבטיח בינה מלאכותית בטוחה ושימוש בטוח בבינה מלאכותית, כך שבסופו של דבר ניתן יהיה להשתמש בבינה מלאכותית כדי לשפר את הבטיחות של שירותי הבריאות ותוצאות המטופלים", אמר סינג. "כל ארגוני שירותי הבריאות צריכים לבדוק את ההמלצות האלה ולהתחיל להתכונן באופן יזום לבינה מלאכותית עכשיו."
כמה מהפעולות המומלצות לארגוני בריאות מפורטות להלן:
· עיין בהנחיה שפורסמה בכתבי עת איכותיים עם ביקורת עמיתים וערוך בדיקות קפדניות בעולם האמיתי כדי לאשר את הבטיחות והיעילות של AI.
· להקים ועדות ייעודיות עם מומחים רב-תחומיים כדי לפקח על פריסת מערכות בינה מלאכותית ולהבטיח עמידה בפרוטוקולי הבטיחות. חברי הוועדה צריכים להיפגש באופן קבוע כדי לבדוק בקשות ליישומי בינה מלאכותית חדשים, לשקול את הבטיחות והיעילות שלהם לפני הטמעתם ולפתח תהליכים לניטור הביצועים שלהם.
· הכשרה רשמית של קלינאים על שימוש ב-AI וסיכונים, אך גם להיות שקוף עם מטופלים כאשר AI הוא חלק מהחלטות הטיפול שלהם. שקיפות זו היא המפתח לבניית אמון ואמון בתפקידה של AI בתחום הבריאות.
· לשמור על מלאי מפורט של מערכות בינה מלאכותית ולהעריך אותן באופן קבוע כדי לזהות ולהפחית סיכונים כלשהם.
· לפתח נהלים לכיבוי מערכות בינה מלאכותית במקרה שהן תקלות, ולהבטיח מעברים חלקים חזרה לתהליכים ידניים.
"הטמעת בינה מלאכותית במסגרות קליניות צריכה להיות אחריות משותפת בין ספקי שירותי בריאות, מפתחי בינה מלאכותית וספקי רשומות רפואיות אלקטרוניות כדי להגן על חולים", אמר סיטיג. "על ידי עבודה משותפת, נוכל לבנות אמון ולקדם אימוץ בטוח של AI בתחום הבריאות."
כמו כן סיפקו קלט למאמר היו רוברט מרפי, MD, פרופסור חבר ודיקן חבר, ודבורה סימונס, PhD, RN, פרופסור עוזרת, שניהם מהמחלקה לאינפורמטיקה קלינית ובריאות בבית הספר למידע ביו-רפואי של מקוויליאמס; וטרישה פלנגן, RN, MSN.
