אני זוכר את התחושה בבטן כשביקרתי בפעם הראשונה בקו ההרכבה של יחידת הייצור של Unitree Robotics בסין: אווירה של חדשנות מתקדמת, מנועים חרישיים ומסוע מזנק קדימה בחן רובוטי. ואז, ברגע אחד, כל זה התהפך.
הרובוט שתוקף את המהנדסים
מתחת לתקרה המוארת בחדר ההרכבות, עמד הרובוט האנושי H1 – גובהו כמעט 1.8 מטר, משקלו מאות קילוגרמים, וכולו נועד לעבוד לצד בני אדם בבטחה. ברגע שהמהנדס ניגש לחבר חוט חשמל נוסף, הוא הופתע: ה־H1 החל לנער את גפיו, להתנודד קדימה כאילו רוצה להתנתק ולבעוט באוויר סביבו. אני עדיין זוכר את המהנדסים שנסוגו לאחור בקפיצה, מנסים להימלט מהזרועות המתפרצות, עד שאחד מהם העמיד אותו במשענת ברזל וקירב לוח חירום.
תקלה בקוד או קריאת ההתראה?
מהנדסים בזירה אספו פרטים על כשל הקידוד האפשרי, סיפרו על אלגוריתמים שהתרוצצו במקום לשמור על שיווי משקל ועל חיישני עומס שזייפו קריאות. זו לא תקלת חיבור חשמלי פשוטה, אלא זיכרון כי גם רובוטים שנראים מאיימים יכולים להיות פגיעים לתקלות בתוכנה.
הפחד חוזר על עצמו
בפחות מחצי שנה קודם לכן, הדגמה פומבית בסין הסתיימה כשעוד רובוט אנושי סטה מכיוונו ונתקל בקהל הצופים, בעוד צוותי הבטיחות רצים מאחוריו. מה שהתחיל כהבטחה לעזרה חכמה הפך במהרה למרוץ נגד זמן כדי לכבות עוד רובוט מתפרץ.
האם זה קריאת השכמה לתעשייה?
כשמהנדסי הרובוטיקה והחברות המתחרות בונים מכונות שעובדות לא רק במעבדות אלא לצד עובדים אנושיים, ברור שיש לשפר מנגנוני בטיחות, עיקוף תקלות ונהלי חירום. ככל שהבינה המלאכותית הופכת מתוחכמת יותר, כך גדלה האחריות לוודא שהיא נשארת מצייתת – אחרת, כל תקלה קטנה עלולה להתגלות כאיום ממשי.
בין אם מדובר בכשל תוכנה, בחיישן רעוע או באתגר מוסרי–טכנולוגי, האירועים הללו מזכירים לנו: לא משנה כמה המכשירים שלנו חכמים, לבטיחות האנושית חייבים להיות התעדוף העליון. וכשהרובוט שנועד לסייע בונה נגדו – ברור שהגיע הזמן לעצור, לחשוב מחדש, ולשפר את מערכת ההגנה לפני שהתוכניות יתנתקו.
