בינה מלאכותית (AI) התפוצצה בפופולריות. הוא מניע דגמים שעוזרים לנו לנהוג בכלי רכב, להגהות מיילים ואפילו לעצב מולקולות חדשות לתרופות. אבל בדיוק כמו אדם, קשה לקרוא את המחשבות של AI. AI ניתן להסבר (XAI), תת-קבוצה של הטכנולוגיה, יכולה לעזור לנו לעשות בדיוק את זה על ידי הצדקת החלטות של מודל. ועכשיו, חוקרים משתמשים ב-XAI כדי לא רק לבחון מקרוב מודלים חזויים של AI, אלא גם כדי להציץ עמוק יותר לתחום הכימיה.
החוקרים יציגו את תוצאותיהם במפגש הסתיו של האגודה האמריקאית לכימיה (ACS). ACS סתיו 2024 הוא מפגש היברידי המתקיים באופן וירטואלי ובאופן אישי 18-22 באוגוסט; הוא כולל כ-10,000 מצגות במגוון נושאים מדעיים.
מספר השימושים העצום של בינה מלאכותית הפך אותה לכמעט בכל מקום בנוף הטכנולוגי של היום. עם זאת, דגמי AI רבים הם קופסאות שחורות, כלומר לא ברור בדיוק אילו צעדים ננקטים כדי לייצר תוצאה. וכשהתוצאה הזו היא משהו כמו מולקולת סמים פוטנציאלית, אי הבנת הצעדים עלולה לעורר ספקנות בקרב מדענים והציבור כאחד.
כמדענים, אנחנו אוהבים הצדקה. אם נוכל להמציא מודלים שיעזרו לספק תובנות לגבי האופן שבו בינה מלאכותית מקבלת את ההחלטות שלה, זה עלול לגרום למדענים להיות נוחים יותר עם המתודולוגיות הללו".
רבקה דייוויס, פרופסור לכימיה, אוניברסיטת מניטובה
אחת הדרכים לספק את ההצדקה היא עם XAI. אלגוריתמים אלה של למידת מכונה יכולים לעזור לנו לראות מאחורי הקלעים של קבלת החלטות בינה מלאכותית. אף על פי שניתן ליישם את XAI במגוון הקשרים, המחקר של דייוויס מתמקד ביישומו על מודלים של AI לגילוי תרופות, כגון אלו המשמשים לניבוי מועמדים אנטיביוטיים חדשים. בהתחשב בכך שניתן לסנן אלפי מולקולות מועמדות ולדחות כדי לאשר רק תרופה חדשה אחת -; ועמידות לאנטיביוטיקה מהווה איום מתמשך על היעילות של תרופות קיימות -; מודלים חיזויים מדויקים ויעילים הם קריטיים. "אני רוצה להשתמש ב-XAI כדי להבין טוב יותר איזה מידע אנחנו צריכים כדי ללמד מחשבים כימיה", אומר האנטר שטורם, סטודנט לתואר שני בכימיה במעבדה של דייוויס, שמציג את העבודה בפגישה.
החוקרים התחילו את עבודתם בהזנת מאגרי מידע של מולקולות תרופות ידועות למודל AI שיחזה אם לתרכובת תהיה השפעה ביולוגית. לאחר מכן, הם השתמשו במודל XAI שפותח על ידי משתף הפעולה פסקל פרידריך במכון הטכנולוגי של קרלסרוהה בגרמניה כדי לבחון את החלקים הספציפיים של מולקולות התרופה שהובילו לחיזוי המודל. זה עזר להסביר מדוע למולקולה מסוימת הייתה פעילות או לא, לפי המודל, וזה עזר לדיוויס ולשטרם להבין מה מודל בינה מלאכותית עשוי לראות כחשוב וכיצד הוא יוצר קטגוריות לאחר שהוא בוחן תרכובות שונות.
החוקרים הבינו ש-XAI יכול לראות דברים שבני אדם עלולים להחמיץ; הוא יכול לשקול הרבה יותר משתנים ונקודות נתונים בו-זמנית מאשר מוח אנושי. לדוגמה, כאשר סקרנו קבוצה של מולקולות פניצילין, ה-XAI מצא משהו מעניין. "כימאים רבים חושבים על ליבת הפניצילין כאתר קריטי לפעילות אנטיביוטית", אומר דייוויס. "אבל זה לא מה שה-XAI ראה". במקום זאת, היא זיהתה מבנים המחוברים לליבה הזו כגורם הקריטי בסיווגה, ולא הליבה עצמה. "ייתכן שזו הסיבה שחלק מנגזרות פניצילין עם הליבה הזו מציגות פעילות ביולוגית ירודה", מסביר דייוויס.
בנוסף לזיהוי מבנים מולקולריים חשובים, החוקרים מקווים להשתמש ב-XAI כדי לשפר מודלים חזויים של AI. "XAI מראה לנו מה אלגוריתמי מחשב מגדירים כחשובים לפעילות אנטיביוטית", מסביר שטורם. "אז נוכל להשתמש במידע הזה כדי לאמן מודל AI על מה שהוא אמור לחפש", מוסיף דייוויס.
בשלב הבא, הצוות ישתף פעולה עם מעבדת מיקרוביולוגיה כדי לסנתז ולבדוק כמה מהתרכובות שמודלים משופרים של AI צופים שיעבדו כאנטיביוטיקה. בסופו של דבר, הם מקווים ש-XAI יעזור לכימאים ליצור תרכובות אנטיביוטיות טובות יותר, או אולי אחרות לגמרי, שיכולות לעזור לבלום את הזרם של פתוגנים עמידים לאנטיביוטיקה.
"AI גורם להרבה חוסר אמון וחוסר ודאות באנשים. אבל אם נוכל לבקש מ-AI להסביר מה היא עושה, יש סבירות גדולה יותר שהטכנולוגיה הזו תתקבל", אומר דייוויס.
שטורם מוסיף כי לדעתו יישומי בינה מלאכותית בכימיה וגילוי תרופות מייצגים את העתיד של התחום. "מישהו צריך להניח את היסודות. זה מה שאני מקווה שאני עושה".
המחקר מומן על ידי אוניברסיטת מניטובה, המכונים הקנדיים לחקר הבריאות וברית המחקר הדיגיטלי של קנדה.
