חוקרים העמידו שתל קליפת המוח בודד במבחן, ושאלו האם ניתן לפענח ניסיון דיבור ותנועות גוף יחדיו ולתרגם לאוואטר מותאם אישית לכל הגוף.
מחקר: פענוח דיבור ומחוות סימולטני לתקשורת רב-מודאלית בשיתוק. קרדיט תמונה: קיטיפליי
במחקר שפורסם לאחרונה בכתב העת מדעי המוח בטבעקבוצת חוקרים חקרה אם אלקטרוקורטיקוגרפיה אחת בצפיפות גבוהה (ECoG) השתל יכול לפענח בו-זמנית ניסיון דיבור ומחוות ולתמוך בתקשורת אקספרסיבית בזמן אמת באמצעות אווטאר וירטואלי מותאם אישית אצל אנשים עם שיתוק חמור.
רֶקַע
כיצד פעילות מוחית יכולה לחשוף ניסיונות לדבר או מחוות כאשר שיתוק חמור מגביל את התנועה? שבץ מוחי ומחלות ניווניות עלולות לפגוע בדיבור ובתנועות הגוף, להגביל את ההשתתפות החברתית ואיכות החיים.
ממשקי מוח-מחשב (BCIs) שואפים לשחזר פונקציות שאבדו על ידי תרגום פעילות עצבית לפקודות עבור מכשירים חיצוניים. מחקר BCI קודם פענח דיבור ותנועות אחרות בנפרד. תקשורת טבעית משלבת לרוב שפה מדוברת עם מחוות. הקורטקס הסנסומוטורי (SMC) מכיל ייצוגים של אזורי גוף מרובים, בעוד ECoG יכול לתעד פעילות עצבית על פני שטח זה.
לגבי המחקר
שלושה משתתפים עם ליקויי דיבור ומוטוריים חמורים נרשמו ל-BCI Restoration of Arm and Voice (בראבו) ניסוי קליני. לשניים היה שבץ גזע מוח, ולאחד היה טרשת צדדית אמיוטרופית (ALS). כל אחד מהם קיבל מערך ECoG בעל צפיפות גבוהה של 253 אלקטרודות שהושתל באופן תת-דורי על פני ההמיספרה השמאלית, ומכוון לאזורי דיבור ומוטוריים.
פעילות עצבית נרשמה במהלך תנועות גוף מרובות ושימשה למיפוי ראשוני ופענוח רב אפקטורים בכל שלושת המשתתפים; לאחר פרישתו של Bravo-3, ניסויי הדיבור והמחוות והאווטאר העיקריים במקביל כללו את Bravo-1r ו-Bravo-6. אסטרטגיות ניסיון שיקפו יכולות שיוריות: Bravo-1r ו-Bravo-3 ניסו דיבור בשקט, ואילו Bravo-6 ניסו דיבור עם קול; תנועות גוף נוסו, ניסיונות מינימליים או דמיינו בהתאם ליכולת המשתתף.
במשימת ההעתקה, מטרות הוצגו כטקסט, אנימציות תנועה, או שניהם, ולאחר מכן רמז ל- go ומרווח בין ניסוי של 2 שניות. נעשה שימוש גם בפרדיגמת שיחה רמז עם Bravo-1r ו-Bravo-6.
אותות עובדו כדי לחלץ פעילות גמא גבוהה (HGA; 70–150 הרץ) ואותות בתדר נמוך (LFSs; 1-100 הרץ). מפענחי רשתות עצביות חוזרות קונבולוציוניות ספציפיות למשתתפים אומנו בניסויים מבודדים, ניסויים בו-זמניים או שניהם. שיעור מנוחה השתמש בניסויים במנוחה אמיתית ובאופן הפוך. הביצועים הוערכו במצב לא מקוון עם אימות צולב והשוואות סטטיסטיות בין תנאי פענוח. מפענחים מקבילים בזמן אמת שלטו באווטאר וירטואלי מותאם אישית לכל הגוף. המשתתפים סיפקו הסכמה מדעת, והתקבל אישור ממוסד.

אמבנה ניסיון לשלוש פרדיגמות משימות – S-בלבד (גירוי טקסט), G-בלבד (גירוי אווטאר מונפש) ו-S + G בו-זמני (גירוי טקסט ואווטאר מונפש). הצגת גירוי מלווה בספירה לאחור ל-go-cue, כאשר המשתתף מקבל הוראה לנסות את המטרה. באלקטרודות מודגשות (e58, e151 ו-e164) מונחת על המוח של Bravo-6. גHGA (ממוצע ± sem) עבור אותן שלוש אלקטרודות לדוגמה במהלך ניסויים של S בלבד (כחול), ניסויים ב-G בלבד (כתום) וניסויים S + G (ירוק) מיושרים ל-go-cue. דמפות מרחביות של HGA יחסית במהלך ניסויי S-only, G-only ו-S+G עבור Bravo-6. אלקטרודות מעוגלות מתאימות לאלו המסומנות ב ב וזמם פנימה ג. הדיאגרמות Venn של החפיפה בין אלקטרודות עם פעילות עצבית משמעותית במהלך ניסויי S בלבד וניסויים G בלבד (Bravo-6, למעלה; Bravo-1r, למטה). ומפת החפיפה מדגישה אלקטרודות פעילות באופן משמעותי הן בתנאי דיבור והן במחוות עבור Bravo-6. ציוני חפיפה גבוהים יותר מצביעים על אלקטרודות עם אפנון HGA יחסי חזק יותר במהלך שתי ההתנהגויות, ואילו ציוני חפיפה נמוכים יותר מצביעים על אפנון חלש יותר באחד התנאים או בשניהם. אלקטרודות לא משמעותיות מוצגות כמעגלים ריקים מתוארים.
תוצאות המחקר
מערך ECoG יחיד תפס ייצוגים עצביים של אפקטורים מרובים. HGA הקשורים לתנועות אור-פנים הקשורות ביד, זרוע, ראש, עיניים ודיבור הראו ארגון סומטוטי רחב ברחבי ה-SMC, כאשר מידת ההפרדה משתנה בין המשתתפים. פעילות הקשורה לדיבור ומחוות הייתה החזקה ביותר ב-gyrus הקדם-מרכזי, כאשר פעילות הדיבור הייתה יותר גחונית ופעילות המחוות יותר הגבית.
ביצועי המפענח היו תלויים בהקשר התנהגותי. מודלים שהוכשרו רק על ניסויים בודדים של דיבור או מחוות לא הכלילו באופן מלא לניסיונות דיבור ומחוות במקביל. בגודל האימון המשותף הגדול ביותר, מודלים שהוכשרו בניסויים בו-זמניים הצליחו טוב יותר במבחנים בו-זמניים, בעוד שמודלים שהוכשרו בבידוד הצליחו טוב יותר במבחנים מבודדים.
מודלים היברידיים שהוכשרו הן על נתונים מבודדים והן על נתונים מקבילים שמרו על דיוק גבוה בהקשרים וביצועים טובים יותר ממודלים שהוכשרו בהקשר אחד בלבד. דפוסי תרומת האלקטרודות השתנו עם הקשר האימון, כאשר מודלים בדרך כלל מעבירים את ההסתמכות על אלקטרודות המראות חפיפה נמוכה יותר של תנועות דיבור.
בניתוח Bravo-6 leave-one-out, דיוק המחוות החציוני היה 65.8% עבור זוגות שנראו ו-66.7% עבור זוגות בלתי נראים; דיוק הדיבור היה 79.3% ו-80.0%, בהתאמה. במסגרת ניתוח זה, לא דיוק הדיבור או המחוות נבדלו באופן משמעותי בין זיווגים שנחשבו טבעיים או לא טבעיים בשיחה. במהלך בדיקות אורך, הדיוק נשאר מעל המקרה על פני ימים עד חודשים, עם יציבות משתנה בין המשתתפים והדרכים; נתוני אימון חדשים יותר שיפרו בדרך כלל את הביצועים הבאים.
לפני אימון חוצה אופנים, שיעורי חיובי שגויים חציוניים במתכונת הפוכה (FPRs) היו 30.6% עבור Bravo-6 ו-76.0% עבור Bravo-1r. אימון צולב-מודאליות הפחית את שניהם ל-0.0% תוך שמירה על FPR נמוך במהלך מנוחה אמיתית. מודלים שהוכשרו הן על התנהגויות מבודדות והן על התנהגויות במקביל שמרו גם על שיעורי שלילי כוזבים נמוכים (FNRs) בשני ההקשרים, הפחתת הנטייה לסיווג שגוי של ניסיון דיבור או מחוות כמנוחה.
שימוש במערך הנתונים המלא הזמינים עם אימון בין-מודאליות, פירוש הדבר שדיוק פענוח בו-זמנית לא מקוון עבור Bravo-6 היה 68.8% עבור מחוות ו-77.5% עבור דיבור. עבור Bravo-1r, הדיוקים המקבילים היו 88.3% ו-84.0%. במשימת ההעתקה של מחוות בלבד, הדיוק היה 81.8% עבור Bravo-6 ו-61.7% עבור Bravo-1r.
במהלך פענוח בו-זמנית בזמן אמת ב-Bravo-6, הדיוק היה 66.0% עבור מחוות ו-70.0% עבור דיבור. בפרדיגמת השיחה, Bravo-6 השיג דיוק ממוצע של 85.0% עבור מחוות ו-75.0% עבור דיבור, בעוד Bravo-1r השיג דיוק חציוני של 100.0% עבור שניהם.
מבחן השיחה הזה של הוכחת מושג הוגבל לחמישה בלוקים של ארבעה ניסויים עבור Bravo-6 ושלושה בלוקים של שלושה ניסויים עבור Bravo-1r. דיבור מפוענח הופיע כטקסט, בעוד שמחוות מפוענחות הנפשו את האווטאר, ואיפשרו דיבור לבד, מחוות לבד, או שניהם במהלך אינטראקציה וירטואלית.
מסקנות
הממצאים מספקים ראיות מוכחות לכך ששתל ECoG יחיד בצפיפות גבוהה יכול לפענח דיבור ומחוות במקביל בשני אנשים עם שיתוק חמור. המערך תפס ייצוגים עצביים ברורים אך חופפים חלקית על פני דיבור ותנועות גוף.
מודלים של אימון עם התנהגויות מבודדות וגם בו-זמנית שיפרו את ההכללה בין הקשרים, בעוד אימון צולב-מודאליות הפחית הפעלת שווא. המערכת גם תמכה בשליטה בזמן אמת על אווטאר מותאם אישית לכל הגוף במהלך משימות העתקה ושיחה.
תוצאות אלו מספקות הוכחה לקונספט עבור BCIs מרובי אפקטים התומכים בתקשורת אקספרסיבית יותר. מחקר ההיתכנות המוקדם כלל שלושה משתתפים בסך הכל, כאשר פענוח דיבור ומחוות בו זמנית נבדק בשניים באמצעות אוצר מילים מוגבל ומשימות מובנות, ובדיקות שיחה מוגבלות למספר קטן של ניסויים.
יש צורך במחקר נוסף כדי לקבוע אם ניתן לפענח באופן אמין דיבור ומחוות כאשר משתמשים בהם יחד.