קבוצה חדשה של הנחיות הושקה ליצירת מערכות AI אמינות בתחום הבריאות. הראשון מסוגו, ההנחיה העתידית-AI מספקת המלצות המכסה את מחזור החיים כולו של AI רפואי, מתכנון, פיתוח ואימות ועד ויסות, פריסה ומעקב.
בשנים האחרונות בינה מלאכותית (AI) עשתה צעדים משמעותיים בתחום הבריאות, ועזרה במשימות כמו אבחון מחלות וחיזוי תוצאות הטיפול. עם זאת, למרות ההתקדמות הללו, אנשי מקצוע ומטופלים רבים בתחום הבריאות עדיין מהססים לאמץ באופן מלא טכנולוגיות AI. היסוס זה נובע ברובו מדאגות מפני אמון, בטיחות ואתיקה.
בפרט, מחקרים קיימים הראו כי כלי AI בתחום הבריאות יכולים להיות מועדים לטעויות ולפגיעה בחולים, הטיות וחוסר שוויון בריאותי מוגבר, חוסר שקיפות ואחריות, כמו גם הפרות פרטיות נתונים ואבטחה.
כדי להתגבר על אתגרים אלה, קונסורציום ה- AI העתידי פיתח מערך מקיף של הנחיות שפורסמו ב- BMJ. פותח על ידי קונסורציום בינלאומי של 117 מומחים מ -50 מדינות, ההנחיות החדשות הנקראות עתיד-איי מספקות מפת דרכים ליצירת כלי AI אמינים ואחראיים לבריאות.
ההנחיות העתידיות- AI בנויות סביב שישה עקרונות מנחים:
- הוגנות: AI צריכה לטפל בכל החולים באופן שווה וללא הטיה.
- אוניברסליות: פתרונות AI צריכים להיות חלים על פני ההקשרים והאוכלוסיות הבריאותיות השונות.
- עקיבות: צריך להיות אפשרי לעקוב אחר אופן ההחלטות של מערכות AI.
- שימושיות: כלי AI חייבים להיות ידידותיים למשתמש עבור אנשי מקצוע בתחום הבריאות וחולים כאחד.
- איתנות: מערכות AI צריכות לבצע באופן אמין בתנאים שונים.
- יכולת הסבר: חולים וקלינאים זקוקים להסברים ברורים כיצד AI מגיעה למסקנותיה.
הנחיות אלה ממלאות פער חשוב בתחום ה- AI בתחום הבריאות כדי לתת לקלינאים, מטופלים ורשויות הבריאות את האמון לאמץ כלים AI בידיעה שהם צלילים טכנית, בטוחים קלינית ומיושרים אתית. המסגרת העתידית-AI נועדה להתפתח לאורך זמן, תוך התאמה לטכנולוגיות חדשות, אתגרים ומשוב בעלי עניין. גישה דינאמית זו מבטיחה שההנחיות יישארו רלוונטיות ושימושיות שכן תחום ה- AI בתחום הבריאות ממשיך להתקדם במהירות. "
גארי קולינס, פרופסור לסטטיסטיקה רפואית במחלקה לאורטופדיה של נופילד, ראומטולוגיה ומדעי השלד (NDORMS), אוניברסיטת אוקספורד, ומחבר העתיד-AI
הנחיות AI לבריאות
