פרשנות חדשה שפורסמה בכתב העת של האגודה המלכותית לרפואה מזהירה כי הגישות הרגולטוריות הנוכחיות המבוססות על סיכונים לבינה מלאכותית (AI) בשירותי הבריאות לא מצליחות להגן על חולים, מה שעלול להוביל לטיפול יתר ומתת, כמו גם לאפליה של קבוצות חולים.
המחברים מצאו שבעוד מערכות בינה מלאכותית ולמידת מכונה יכולות לשפר את הדיוק הקליני, נותרו דאגות לגבי חוסר הדיוק, האטימות והפוטנציאל להטיה המובנה שלהן, אשר לא מטופלים כראוי על ידי מאמצי הרגולציה הנוכחיים שהוכנסו על ידי חוק הבינה המלאכותית של האיחוד האירופי.
חוק הבינה המלאכותית, שעבר ב-2025, מקטלג בינה מלאכותית רפואית כ"סיכון גבוה" ומכניס בקרות קפדניות על ספקים ומפרסים. אבל המחברים טוענים שמסגרת מבוססת סיכונים זו מתעלמת משלוש נושאים קריטיים: העדפות מטופלים אינדיבידואליים, השפעות מערכתיות וארוכות טווח של יישום AI, וביטול העצמה של מטופלים בתהליכי רגולציה.
למטופלים יש ערכים שונים בכל הנוגע לדיוק, הטיה או התפקיד של AI בטיפול בהם. הרגולציה חייבת לעבור מעבר לבטיחות ברמת המערכת ולהתחשב בזכויות והשתתפות של הפרט".
תומס פלוג, מחבר ראשי, פרופסור לאתיקה של נתונים ו-AI, אוניברסיטת אלבורג, דנמרק
המחברים קוראים להכנסת זכויות המטופל הנוגעות לאבחון או תכנון טיפול שנוצר בינה מלאכותית, לרבות הזכות ל:
- לבקש הסבר;
- לתת או לבטל הסכמה;
- לבקש חוות דעת שנייה; ו
- לסרב לאבחון או להקרנה על סמך נתונים זמינים לציבור ללא הסכמה.
הם מזהירים שללא מעורבות דחופה של בעלי עניין בתחום הבריאות – כולל קלינאים, רגולטורים וקבוצות חולים – זכויות אלה מסתכנות בהשארת מאחור בהתפתחות המהירה של AI בתחום הבריאות.
"AI משנה את שירותי הבריאות, אבל אסור לעשות זאת על חשבון האוטונומיה והאמון של המטופל", אמר פרופסור פלוג. "הגיע הזמן להגדיר את הזכויות שיגנו ויעצימו את המטופלים במערכת בריאות מונעת בינה מלאכותית".
אין די בצורך בזכויות המטופלים בשירותי בריאות מונעי בינה מלאכותית – רגולציה מבוססת סיכונים (DOI: 10.1177/01410768251344707) הוא מאת ד"ר תומס פלוג, ריקה פרנק יורגנסן, האנה מארי מוצפלדט, נעמי פלוג וסורן הולם.
