ה-FDA מחזק את רגולציית הבינה המלאכותית כדי להבטיח את בטיחות המטופלים וחדשנות בתחום הבריאות

ככל שטכנולוגיית AI מתפתחת במהירות, ה-FDA מתמודד עם האתגר של איזון בין חדשנות לבטיחות המטופל, ומעצב תקנות המבטיחות שכלי AI יישארו יעילים לאורך כל מחזור החיים שלהם.

תקשורת מיוחדת: פרספקטיבה של ה-FDA על הרגולציה של בינה מלאכותית בבריאות וביורפואה. קרדיט תמונה: Sansoen Saengsakaorat / Shutterstock

הודעה מיוחדת שפורסמה ב- כתב העת של האיגוד הרפואי האמריקאי (JAMA) בדק את הרגולציה של בינה מלאכותית (AI) בתחום הבריאות על ידי מינהל המזון והתרופות של ארצות הברית (ארה"ב) (FDA). הוא גם חקר את הפוטנציאל של בינה מלאכותית במחקר קליני, פיתוח מוצרים רפואיים וטיפול בחולים תוך הדגשת תחומי המפתח שיש לטפל בהם כאשר התקנות מותאמות לכמה מהאתגרים הייחודיים של בינה מלאכותית בביו-רפואה ובריאות.

רֶקַע

להתקדמות ב-AI יש פוטנציאל עצום לשנות את הביו-רפואה והבריאות. הציפיות מבינה מלאכותית עולות לרוב על אלו מטכנולוגיות רפואיות קודמות כמו רפואה טלפונית, כלי בריאות דיגיטליים ורשומות בריאות אלקטרוניות. בעוד שרבות מהטכנולוגיות הללו היו פריצות דרך, היכולת של כלי AI בניתוח נתונים, אבחון וטיפול מותאם אישית היא מהפכנית.

עם זאת, השימוש בבינה מלאכותית ברפואה ובבריאות מעלה גם חששות משמעותיים הנוגעים לפיקוח ורגולציה. ה-FDA האמריקאי מגבש זה מכבר תקנות לשילוב AI בפיתוח מוצרים רפואיים ושירותי בריאות. עם זאת, האופי הדינמי של טכנולוגיית AI מציג כמה אתגרים רגולטוריים ייחודיים, במיוחד בתחומי האפקטיביות, הבטיחות, הביצועים לאחר השוק ואחריות. יתר על כן, הקצב המהיר שבו מתפתחת טכנולוגיית AI דורש מסגרות רגולטוריות שניתן להתאים במהירות.

תקנות ה-FDA עבור AI ברפואה

על פי הסקירה, רגולציה של ה-FDA של מוצרים רפואיים התומכים בבינה מלאכותית החלה בשנת 1995 עם אישור PAPNET, כלי מבוסס בינה מלאכותית שפתולוגים יכולים להשתמש בו לאבחון סרטן צוואר הרחם. למרות ש-PAPNET לא אומצה באופן נרחב בשל העלויות הגבוהות שלה, ה-FDA אישר מאז קרוב ל-1,000 מכשירים ומוצרים רפואיים מבוססי בינה מלאכותית, עם יישומים בעיקר ברדיולוגיה וקרדיולוגיה.

AI נמצא גם בשימוש נרחב בפיתוח תרופות, כולל גילוי תרופות, ניסויים קליניים ואופטימיזציה של מינון. יתר על כן, בעוד יישומים מבוססי בינה מלאכותית הפכו נפוצים יותר בתחום האונקולוגיה, יש עניין גובר ביישום בינה מלאכותית לבריאות הנפש, שם לטכנולוגיות דיגיטליות יש פוטנציאל להשפעה משמעותית.

מספר ההגשות הרגולטוריות לשימוש ב-AI בפיתוח תרופות שהתקבלו על ידי ה-FDA גדל פי עשרה בשנה אחת, ובהתחשב במגוון הרחב של יישומים ומורכבות של AI, ה-FDA גם התאים את המסגרת הרגולטורית להיות מבוססת סיכונים, אך גם מודעים לאבולוציה של AI במסגרות קליניות בעולם האמיתי.

תוכנית פעולה בת חמש נקודות שהציג ה-FDA בשנת 2021 לרגולציה של למידת מכונה ומכשירים רפואיים מבוססי בינה מלאכותית שואפת לטפח חדשנות תוך הבטחת היעילות והבטיחות של מוצרים אלה. תוכנית פעולה זו היא גם בהתאם להנחיות הקונגרס המעודדות את ה-FDA ליצור תקנות גמישות מספיק כדי לאפשר למפתחים לעדכן מוצרי AI מבלי לבקש אישורים מתמשכים ורציפים מה-FDA.

עם זאת, המאמר מדגיש שהתקנות הללו חייבות לתת את הדעת על הצורך בניהול מוצרי AI לאורך כל מחזור החיים שלהם, במיוחד באמצעות ניטור רציף של הביצועים שלהם לאחר פריסה בסביבה קלינית.

מרכז המוצרים הרפואיים של ה-FDA זיהה גם ארבעה תחומי מיקוד לפיתוח בינה מלאכותית, הכוללים שיפור בטיחות בריאות הציבור, תמיכה בחדשנות רגולטורית, קידום שיטות עבודה מומלצות ותקנים מותאמים, וקידום מחקר להערכת ביצועי בינה מלאכותית.

מושגי מפתח לרגולציה של ה-FDA של AI

ה-FDA שואף לעצב את הרגולציה של מוצרים רפואיים התומכים בבינה מלאכותית על ידי שימוש בחוקי ארה"ב כמו גם בתקנים גלובליים כבסיס. שיתופי פעולה עם גופים כמו הפורום הבינלאומי לרגולטורים של מכשירים רפואיים מאפשרים ל-FDA לקדם תקני AI מותאמים ברחבי העולם, כולל ניהול תפקידה של AI בפיתוח תרופות ומודרניזציה של ניסויים קליניים באמצעות שיתוף פעולה בינלאומי.

עם ההתפתחות המהירה של טכנולוגיית בינה מלאכותית, אחד האתגרים העיקריים של ה-FDA הוא עיבוד יעיל של כמויות גדולות של הגשות בינה מלאכותית תוך הבטחה שהחדשנות לא תופרע ולא תיפגע בבטיחות. יתרה מכך, מעקב רציף לאחר השוק של מערכות בינה מלאכותיות הוא חיוני כדי להבטיח שהן פועלות כמתוכנן לאורך זמן, במיוחד בסביבות קליניות מגוונות ומתפתחות. זה דורש מסגרת רגולטורית גמישה, מבוססת מדע, כמו פיילוט תוכנה מראש, המאפשר הערכה רציפה של מוצרי בינה מלאכותית.

הגישה מבוססת הסיכון לוויסות מכשירים רפואיים התומכים בבינה מלאכותית מאפשרת גם גישות גמישות במגוון רחב של דגמי בינה מלאכותית. לדוגמה, מודלים פשוטים של בינה מלאכותית המשמשים לתפקודים אדמיניסטרטיביים פחות מוסדרים, בעוד שמודלים של בינה מלאכותית מורכבת, כמו אלו המוטמעים בדפיברילטור לב, כפופים לתקנות מחמירות יותר.

דוגמה נוספת שסיפקו הסוקרים הייתה הכלי המבוסס על בינה מלאכותית לאיתור אלח דם – Sepsis ImmunoScore – אשר סווג כמכשיר Class II הדורש אמצעי בטיחות מיוחדים כדי לקחת בחשבון את הסיכונים הפוטנציאליים של הטיה או כשל באלגוריתמים.

הסקירה מדגישה כי יש צורך בכלים רגולטוריים מיוחדים כדי להעריך את המספר ההולך וגדל של מודלים של AI, כולל AI גנרטיבי ומודלים של שפות גדולות. זה חשוב במיוחד בגלל הסיכונים הכרוכים בתפוקות בלתי צפויות, כגון אבחנות שגויות, אשר יזדקקו להערכה יסודית הן לפני והן לאחר פריסה בתהליכי עבודה קליניים.

מסקנות

לסיכום, הסקירה ציינה כי גישות רגולטוריות גמישות ומאמצים מתואמים בין תעשיות, ארגונים בינלאומיים וממשלות, יחד עם רגולציה קפדנית של ה-FDA, חיוניים לעמידה בקצב ההתפתחות המהירה של טכנולוגיית AI ברפואה ולהבטחת היעילות והבטיחות של AI כְּלֵי עֲבוֹדָה.

המחברים טוענים כי התמקדות קפדנית בניטור לאחר השוק ובכל מחזור החיים של כלי בינה מלאכותית חיונית כדי להבטיח שהם ימשיכו לפעול בצורה בטוחה ויעילה בפרקטיקה הקלינית. הם מאמינים שהתמקדות בתוצאות הבריאותיות של חולים ולא באופטימיזציה פיננסית צריכה להנחות את השילוב של AI בשירותי הבריאות. הם גם מזהירים שאיזון בין חדשנות לטיפול בחולים חייב להישאר בראש סדר העדיפויות כדי למנוע מ-AI להיות מונע בעיקר על ידי תמריצים כספיים.