במאמר שפורסם לאחרונה בכתב העת דוחות מדעיים, חוקרים ערכו מספר מפגשים של קבוצות מיקוד עם מפתחים של שתלים עצביים מונעי בינה מלאכותית (AI). בעוד שטכנולוגיות אלו מייצגות כמה מהמחקרים הרפואיים המלהיבים, השימושיים והמתקדמים ביותר של העשור הנוכחי, התועלת שלהן מעוררת אתגרים אתיים שיש להתגבר עליהם לפני שהיישום שלהם יהפוך ל'מיינסטרים'. המחקר מתמקד בהיבטי עיצוב, באתגרים הנוכחיים העומדים בפניהם במהלך ניסויים קליניים, וההשפעות הכוללות של טכנולוגיות אלו על המשתמשים (המטופלים) והחברה שלהן.
מחקר: נקודות מבט של מפתחים על האתיקה של שתלים עצביים מונעי בינה מלאכותית: מחקר איכותי. קרדיט תמונה: metamorworks / Shutterstock
המחקר הנוכחי מזהה שלושה תחומים עיקריים של ספרות אמפירית שבהם יש צורך להתקדם מהותי: 1. הגדרה תמציתית של המטרות, אי הוודאות ומכשולי הפריסה העומדים בפני היישום הנדון; 2. שיפורים ברמת דיוק ואמינות המודל, ו-3. פרטיות המשתמש. לבסוף, המאמר דן באמצעי הפחתה פוטנציאליים שעשויים לזרז תהליך זה ולאפשר ליישם תחום מבטיח זה במוקדם ולא במאוחר.
שתלים עצביים מונעי בינה מלאכותית
שתלים עצביים, הידועים בכינויים 'שתלים מוחיים', ממוקמים בניתוח בתוך גופו של המטופל. ממשקי מוח-מחשב (BCI) אלו מתוכנתים לתקשר עם או לפרוץ את הנוירונים של המוח עם מעט או ללא תופעות לוואי. הם נועדו לשקם חולים הסובלים מליקויים נוירולוגיים (ראייה, דיבור ושמיעה).
למרות החידוש היחסי שלהם, שתלים עצביים לשיפור או שיקום קוגניטיבי ושיקום חולים הם חלק מהתחומים הצומחים ביותר של מחקר קליני בעולם כיום ומהווים את המפגש האידיאלי בין מדעי הנוירולוגיה לננוטכנולוגיה. ההתקדמות האחרונה בתחום למידת מכונה (ML) וטכנולוגיות עיבוד אותות חיזקה עוד יותר את המחקר בתחום, והדגישה את השיפורים המשמעותיים באיכות החיים (QoL) לטווח ארוך שההתקדמות המדעית הזו יכולה לספק. כבר עכשיו, מדענים ומפתחי בינה מלאכותית מעורבים בתכנון ובדיקה של שתלי שבלול מונעי בינה מלאכותית (AI-CI), שתלי עצב חזותיים מונעי בינה מלאכותית (AI-VNI), וממשק דיבור-מוח-מחשב מושתלים מונעי בינה מלאכותית (AI- speech-BCI) כדי להקל על מוגבלות שמיעה, ראייה ודיבור, בהתאמה.
למרבה הצער, קצב ההתקדמות הטכנולוגית הללו עלה בהרבה על זה של דיון לא-רפואי אתי וממוקד המשתמש, מה שמעלה חששות עזים לגבי בטיחות הבינה המלאכותית והתכנון והיישום המגנים על פרטיות המשתמש. מכיוון שחוקרים המעורבים בתכנון, בניסוי ובסקירה של הכלים מציגים את קבוצת המוקד הטובה ביותר שבתוכה ניתן לדון באתגרים הללו ובאמצעים להפחתת סיעור מוחות, המחקר הנוכחי מספק פלטפורמה לשיח זה. הוא מאגד את התוצאות הללו להמלצות הפחתה שעלולות להיות ניתנות לפריסה.
לגבי המחקר
המחקר הנוכחי הוא ניתוח איכותני שמטרתו לחקור נקודות מבט מגוונות ממומחים בהווה ובעבר בנוירוטכנולוגיה, במיוחד אלה המעורבים כיום בפיתוח של Cis, VNIs ו-BCIs של דיבור. המשתתפים למחקר נבחרו על סמך מומחיותם במחקר אקדמי הקשור לנוירולוגי, שיקום, עיצוב ושיווק מוצרים ומומחים חברתיים ופסיכולוגיים. משתתפים נבחרים שסיפקו הסכמה בכתב (N=22) נרשמו למחקר, מתוכם 19 סיפקו מידע מלא (נוכחות בכל מפגשי ה-FG הנדרשים) ונכללו בסינתזה האיכותנית.
"בגלל המגוון הרחב של דיסציפלינות הרלוונטיות לפיתוח ה-VNI, ארגנו שתי קבוצות מיקוד כולל מפתחי VNIs (FG2 ו-FG3). FG2 כללה משיבים המעורבים בשלבים מוקדמים של פיתוח (כלומר, פיתוח חומרה ותוכנה ופרה קליני ניסויים). FG3 כללה נשאלים שהיו מעורבים ביישום קליני של שתל רשתית ואשר צפויים להיות מעורבים בניסויים הקליניים העתידיים של ה-VNI."
כל קבוצת מוקד (FG) הייתה מובנית למחצה, כללה 9-12 משתתפים, ונערכה במשך 88 דקות בממוצע. למרות שהוצגו בקצרה, נושאי הדיון לא הוגדרו בצורה נוקשה, מה שמאפשר למפתחים לספק את נקודות המבט המבוססות על הניסיון שלהם על אתגרי התחום ואמצעי הפחתה פוטנציאליים. ניתוחי נתונים בוצעו באופן נושאי עבור כל אחת משלושת הנושאים הרחבים שזוהו במהלך ה-FGs.
מחקר ממצאים ומסקנות
המחקר הנוכחי זיהה שלושה נושאים עיקריים במהלך שלושת ה-FGs – 1. היבטי עיצוב, 2. אתגרים שיש לזכור במהלך ניסויים קליניים, 3. השפעות כוללות (במיוחד פרטיות ומוסר) על המשתמשים והחברה.
המשיבים הדגישו את הצורך בטכנולוגיות עתידיות מונעות בינה מלאכותית כדי לעלות באופן משמעותי על "סטנדרטי הזהב" של יישומי השיקום הנוירולוגי של ימינו (למשל, מכשירי שמיעה). זה כרוך בשיפורים בנוחות המשתמש (קלות השימוש) ובביצועים לפני שטכנולוגיות אלו מספקות יתרונות הניתנים לתפיסה בחברה, ובתורם מחזקות את אימוץן. המהימנות והדיוק של הטכנולוגיות החדשות הללו הובאו עוד יותר לדיון, כאשר המשיבים הסכימו שהמכשירים הללו חייבים להיות מתוכננים מהיסוד תוך מחשבה על בטיחות המשתמש ואמינות המכשיר.
רוב האתגרים הללו דורשים ניסויים קליניים נוספים כדי לענות ולהתייחס אליהם. למרבה הצער, ניסויים קליניים הכוללים מכשירים פולשניים מושתלים כירורגית מציגים אתגרים משלהם – 1. סיכונים כירורגיים חייבים להסביר את ניתוחי המוח הפולשניים ואת הפערים בין דיוק להכללה. 2. יש לבחור בקפידה את המשתתפים לאחר הסכמה מפורשת מדעת על סמך הניתוח הקליני שלהם. תסמינים, היסטוריה סוציו-דמוגרפית ורפואה, ו-3. נטישה לאחר השביל עשויה להזיק הרבה יותר עבור המטופל בהפסקה מוקדמת של ניסוי עקב האופי החצי/קבוע של השתלים ומיקומם של התקנתם (מוחו של המטופל).
לבסוף, נתונים חברתיים חשפו כי המשיבים מודאגים לא רק משיקולים אתיים ומוסריים של טכנולוגיות אלו למשתמשים שלהם אלא גם לחברה כולה – יישום שתלים משפרי אודיו עלול לאפשר למטופלים לצותת ללא כוונה ליחידים בסביבתם, ובכך. פגיעה בפרטיות של שכניהם, ובהרחבה בחברה. בהתחשב בתפקיד שאין לו תחליף של אישור החברה בהצלחת המיזם החדשני הזה (והכל), הבטחה שאנשים (הן המשתמשים והן שכניהם) ישמרו על תפיסת הבטיחות והפרטיות שלהם היא חיונית.
"המחקר שלנו הראה כי נוצר מתח בין היתרונות הפוטנציאליים של AI במכשירים אלה במונחים של יעילות ואפשרויות משופרות לפרשנות של קלט נתונים מורכבים, לבין ההשפעות השליליות הפוטנציאליות על בטיחות המשתמש, האותנטיות והפרטיות הנפשית. מכשיר מתפקד יגביר את העצמאות ולכן יקדם את האוטונומיה של המשתמשים, ההשפעות השליליות הפוטנציאליות עלולות לפגוע בו זמנית באוטונומיה של המשתמשים. למרות שהועלו הצעות חשובות למתן בעיות אלו, כולל המלצות לפיתוח זכויות עצביות ומנגנונים לשיפור השליטה על המשתמש, נדרש ניתוח אתי כדי לחקור עוד יותר את המתח הזה".
