מחוקקים ורגולטורים בוושינגטון מתחילים להתלבט כיצד להסדיר בינה מלאכותית בתחום הבריאות – ותעשיית הבינה המלאכותית חושבת שיש סיכוי טוב שהם יבלבלו את זה.
"זו בעיה מרתיעה להפליא", אמר בוב ווכטר, יו"ר המחלקה לרפואה באוניברסיטת קליפורניה-סן פרנסיסקו. "יש סיכון שאנחנו מגיעים עם אקדחים בוערים ומוסרים יתר על המידה".
כבר עכשיו, ההשפעה של AI על שירותי הבריאות היא נרחבת. מינהל המזון והתרופות אישר כ-692 מוצרי AI. אלגוריתמים עוזרים לתזמן מטופלים, לקבוע את רמות כוח האדם בחדרי מיון, ואפילו לתמלל ולסכם ביקורים קליניים כדי לחסוך זמן לרופאים. הם מתחילים לעזור לרדיולוגים לקרוא MRI וצילומי רנטגן. וכטר אמר שלפעמים הוא מתייעץ באופן לא רשמי בגרסה של GPT-4, מודל שפה גדול של חברת OpenAI, למקרים מורכבים.
היקף ההשפעה של הבינה המלאכותית – והפוטנציאל לשינויים עתידיים – פירושו שהממשלה כבר משחקת בהישג יד.
"קובעי המדיניות נמצאים בפיגור נוראי בזמנים", אמר במייל מייקל יאנג, שותף מנהל בכיר בחברת OMERS Ventures, חברת הון סיכון. עמיתיו של יאנג ביצעו השקעות עצומות במגזר. Rock Health, חברת הון סיכון, אומרת שאנשי כספים השקיעו כמעט 28 מיליארד דולר בחברות בריאות דיגיטליות המתמחות בבינה מלאכותית.
נושא אחד איתה מתמודדים הרגולטורים, אמר וכטר, הוא שבניגוד לתרופות, שתהיה להן כימיה זהה בעוד חמש שנים כמו היום, AI משתנה עם הזמן. אבל הממשל מתגבש, כשהבית הלבן וסוכנויות רבות ממוקדות בריאות מפתחות כללים כדי להבטיח שקיפות ופרטיות. גם הקונגרס מאיר עניין. ועדת הכספים של הסנאט קיימה דיון ב-8 בפברואר בנושא בינה מלאכותית בבריאות.
יחד עם רגולציה וחקיקה מגיעה לובינג מוגבר. CNBC ספרה עלייה של 185% במספר הארגונים שחשפו פעילויות לובי בינה מלאכותית בשנת 2023. קבוצת הסחר TechNet השיקה יוזמה של 25 מיליון דולר, כולל קניות של מודעות טלוויזיה, כדי לחנך את הצופים על היתרונות של בינה מלאכותית.
"קשה מאוד לדעת כיצד להסדיר את הבינה המלאכותית בצורה חכמה מכיוון שאנו כה מוקדמים בשלב ההמצאה של הטכנולוגיה", אמר בוב קוצ'ר, שותף בחברת ההון סיכון Venrock, ששירת בעבר בממשל אובמה, באימייל.
קוצ'ר שוחח עם סנאטורים על רגולציה של AI. הוא מדגיש חלק מהקשיים שעמם תתמודד מערכת הבריאות באימוץ המוצרים. רופאים – העומדים בפני סיכוני רשלנות – עלולים לחשוש משימוש בטכנולוגיה שהם לא מבינים כדי לקבל החלטות קליניות.
ניתוח של נתוני לשכת המפקד מינואר על ידי חברת הייעוץ Capital Economics מצא כי 6.1% מעסקי שירותי הבריאות מתכננים להשתמש בבינה מלאכותית בששת החודשים הבאים, בערך באמצע 14 המגזרים שנסקרו.
כמו כל מוצר רפואי, מערכות בינה מלאכותיות יכולות להוות סיכונים למטופלים, לפעמים בצורה חדשה. דוגמה אחת: הם עשויים להמציא דברים.
וכטר נזכר בעמית, כבדיקה, שהקצה את ה-GPT-3 של OpenAI לכתוב מכתב אישור מוקדם למבטח עבור מרשם "מטורף" במכוון: מדלל דם לטיפול בנדודי שינה של חולה.
אבל הבינה המלאכותית "כתבה פתק יפה", אמר. המערכת ציטטה בצורה כה משכנעת "ספרות עדכנית", עד שעמיתה של וכטר תהתה לרגע אם היא פספסה קו מחקר חדש. התברר שהצ'טבוט המציא את זה.
קיים סיכון להטיה מגדלת בינה מלאכותית שכבר קיימת במערכת הבריאות. מבחינה היסטורית, אנשים צבעוניים קיבלו פחות טיפול מאשר חולים לבנים. מחקרים מראים, למשל, שחולים שחורים עם שברים נוטים פחות לקבל תרופות נגד כאבים מאשר לבנים. הטיה זו עלולה להיטבע באבן כאשר בינה מלאכותית מאומנת על הנתונים הללו ולאחר מכן פועלת.
מחקר על AI שנפרס על ידי חברות ביטוח גדולות אישר שזה קרה. אבל הבעיה נפוצה יותר. וכטר אמר כי UCSF בדקה מוצר כדי לחזות אי-הופעה עבור פגישות קליניות. מטופלים שנחשבים לא צפויים להופיע לביקור נוטים יותר לקבל הזמנה כפולה.
הבדיקה הראתה שאנשים צבעוניים נוטים יותר לא להראות. בין אם הממצא היה מדויק ובין אם לאו, "התגובה האתית היא לשאול, למה זה, והאם יש משהו שאתה יכול לעשות", אמר וכטר.
בצד ההייפ, הסיכונים האלה כנראה ימשיכו למשוך תשומת לב לאורך זמן. מומחי בינה מלאכותית ופקידי FDA הדגישו את הצורך באלגוריתמים שקופים, המנוטרים לטווח ארוך על ידי בני אדם – רגולטורים וחוקרים חיצוניים. מוצרי AI מסתגלים ומשתנים עם שילוב נתונים חדשים. ומדענים יפתחו מוצרים חדשים.
קובעי המדיניות יצטרכו להשקיע במערכות חדשות כדי לעקוב אחר בינה מלאכותית לאורך זמן, אמרה הפרווסטית של אוניברסיטת שיקגו קתרין בייקר, שהעידה בדיון בוועדת הכספים. "ההתקדמות הגדולה ביותר היא משהו שעדיין לא חשבנו עליו", אמרה בראיון.
|
מאמר זה נדפס מחדש מ-khn.org, חדר חדשות ארצי המייצר עיתונאות מעמיקה בנושאי בריאות ומהווה אחת מתוכניות הליבה הפועלות ב-KFF – המקור העצמאי למחקר מדיניות בריאות, סקרים ועיתונאות. |
