כשהמשחק "מחנה גרמני" מתחיל, אתה מגיע לבניין וירטואלי עם דגל גרמניה גדול בתצוגה. שם, בפלטפורמת המשחקים Roblox, האווטאר שלך יכול לשים קסדה שכותרתה "Stahlhelm", כיסוי הראש מפלדה שלבשו חיילים נאצים במהלך מלחמת העולם השנייה. בסמוך, חיילים עומדים ושומרים על צריפים מגודרים שבהם דמויות שכותרתן "נובים" – כינוי גנאי לגיימרים חסרי ניסיון – עומדות בתור כדי להיהרג.
"זה המקום הכי טוב בעולם", כותב משתמש בשם Bravado בצ'אט לפני שצילם את הדמות שלך – כפי שקרה לכתב הזה.
Roblox, שבו משתמשים יכולים ליצור עולמות וירטואליים משלהם – ולחקור עוד מיליונים שנעשו על ידי שחקנים אחרים – אומרת שיש לה מדיניות אפס סובלנות נגד אנטישמיות. אבל סצנות ותמונות שואה המשיכו להופיע על הפלטפורמה במשך שנים.
בשנת 2022, רובלוקס הסיר סימולציה של תאי גזים נאציים, שמשתמשים יכלו להפעיל על ידי לחיצה על "ביצוע". הרשת העולמית בנושא קיצוניות וטכנולוגיה מצאה משחק בשם "1941 – Konzentrationslager Auschwitz" על הפלטפורמה באוקטובר 2025.
"שנאה או הטרדה כלפי יהודים או כל קהילה דתית אסורה בהחלט בפלטפורמה שלנו", כתב דובר רובלוקס, אריק פורטרפילד, בהצהרה, והוסיף כי "אנו נוקטים פעולות אכיפה מהירות נגד משתמשים שאנו מוצאים שהם מפרים את הכללים שלנו".
רובלוקס הסיר את "המחנה הגרמני" זמן קצר לאחר ה קָדִימָההחקירה של המשחק על המשחק ואישרה שהוא מפר את מדיניות הפלטפורמה. המשחק, שפורסם לגילאי 13 ומעלה, שוחק 174 פעמים והיה זמין במשך כשנתיים.
"אין מערכת מושלמת"
רובלוקס אוסר על תוכן ש"משחזר אירועים רגישים ספציפיים בעולם האמיתי" ו"תומך, מפאר או מקדם את המבצעים או התוצאות של אירועים כאלה", כולל השואה.
אבל "אף מערכת אינה מושלמת", כתב פורטרפילד בהצהרה, והוסיף כי רובלוקס מסתמך על שילוב של זיהוי בינה מלאכותית, סוקרים אנושיים ודיווח קהילתי כדי לזהות ולהסיר תוכן אנטישמי.
במקרה של משחק "המחנה הגרמני", אמר חבר מצוות המדיניות הציבורית של רובלוקס קָדִימָה שהמשחק היה מסומן מיד לו היה משתמש במונח "מחנה ריכוז". עם זאת, ללא מילות מפתח כאלה, תוכן יכול להיות קשה יותר לזיהוי.
מסנני הבינה המלאכותית של רובלוקס סורקים מונחים כמו "נאצי", מסירים אוטומטית חלק מהתוכן ומזהים מקרים מעורפלים לבדיקה אנושית. החברה עובדת עם אלפי קבלנים כדי להעריך חומר מסומן, ושחקנים יכולים גם לדווח ישירות על התנהגות בלתי הולמת. רובלוקס אמר כי לאחר מכן הוא מעריך את היסטוריית השחקנים כדי לסייע בקביעת חומרת העבירה, ומעניש את השחקנים בהתאם.
אבל קונסטנטין וינקלר, חוקר ברשת העולמית לקיצוניות וטכנולוגיה שחקר תוכן קיצוני ב-Roblox, אמר שמשתמשים מתחמקים ממעקות הבטיחות הללו על ידי איות מכוון של מילים או תקשורת בקוד.
לדוגמה, הרשת העולמית לקיצוניות וטכנולוגיה זיהתה שמות משתמש כגון "לולקאוסט", "אטולף זיטלר" והשימוש ב-"88" – קוד עבור "הייל היטלר", כאשר "H" היא האות השמינית באלפבית.
רובלוקס אמרה שהיא מצאה והסירה 61 חשבונות, משחק אחד ושתי קבוצות שהפרו את המדיניות שלהם לאחר הדיווח של הרשת העולמית לקיצוניות וטכנולוגיה באוקטובר על תוכן קיצוני ב-Roblox.
אבל ה קָדִימָה החודש זיהו משתמשים בשם "konzentrationKamp", "konzentrationausch", "konzentrations_lager" ו-"holowocaust", ומשחקים שכותרתם "המחנה 1942" ו-"271k או 6 מיליון", המתייחסים לטענה הקונספירטיבית שרק 271,000 יהודים נהרגו בשואה. תוכן בעייתי אחר היה מפורש יותר: משחק שכותרתו "יהודים", ובו תמונות של גברים עם כובעים שחורים אוחזים בשקיות כסף, או "חיים בישראהל", ובו מגני דוד שעלו באש.
"הם מנסים להוריד כמה דברים, אבל אתה תמיד יכול למצוא את זה שוב", אמר וינקלר.
רובלוקס עובדת עם ארגונים לרבות הליגה נגד השמצה, טכנולוגיה נגד טרור ומרכז שמעון ויזנטל כדי לבחון ולחזק כל העת את מדיניות המתינות שלה, בהתאם למדיניות הבטיחות והנימוס שלה.
לדברי וינקלר, משתמשי רובלוקס גם נתקלים לעתים קרובות בשחקנים בונים או מציירים צלבי קרס במהלך משחק חי. מכיוון שהפעולות האלה מתרחשות בזמן אמת, הוא אמר, הרבה יותר קשה למתן אותן משמות משתמש בעייתיים או עולמות שנבנו מראש.
זה אתגר מוכר עבור טריסטן בראון, סטודנט יהודי בן 19 בקולג', ששיחק במשחק ספריי צבע של רובלוקס כשלפתע השחקן שלו היה מוקף בצלבי קרס עם גרפיטי. הוא וחבריו התנתקו במהירות.
"זה גורם לי לרצות להפסיק לשחק בפלטפורמה, כי אם אני הולך לשחק, למה אי אפשר לכבד אותי?" בראון אמר ל קָדִימָה. "הלוואי והיה יותר פגיעה בדברים כאלה".
אתגר רחב יותר
משחקי וידאו המשחזרים מחנות ריכוז אינם חדשים: בשנת 1991 הופץ משחק וידאו בשם "KZ Manager" באוסטריה ובגרמניה, שם השחקן מנהל את מחנה המוות טרבלינקה.
קבוצות שנאה גם השתמשו מזמן במשחקי וידאו כאמצעי בחירה. בשנת 2002, קבוצת העליונות הלבנה National Alliance יצרה משחק וידאו בשם "Ethnic Cleansing", משחק יריות מגוף ראשון שבו שחקנים משתתפים במלחמת גזע, והורגים יהודים, אפרו-אמריקאים ולטיניים המתוארים בצורה סטריאוטיפית.
אבל המשחקים האלה נוצרים בדרך כלל על ידי קיצונים, עבור קיצוניים, אמר וינקלר. Roblox, בינתיים, היא פלטפורמת משחקים מיינסטרים עם 82.9 מיליון משתמשים פעילים מדי יום בשנה שעברה. כ-40% מהמשתמשים בה הם מתחת לגיל 13.
רובלוקס היא רחוקה מלהיות פלטפורמת המשחקים הפופולרית היחידה שמתקשה לפצח תוכן שנאה: Minecraft, Steam ודיסקורד ספגו כולם אש בגלל תוכן ניאו-נאצי – כמו כמעט כל משחק וידאו או פלטפורמת סטרימינג עם קהל עוקבים משמעותי. בעידן הדיגיטלי, זה כמעט נתון שפלטפורמות הבנויות סביב תוכן שנוצר על ידי משתמשים ימשכו שנאה. משחקי וידאו, שרבים מהם משלבים אנונימיות, חופש יצירתי, אלימות מדומה ויכולת אינטראקציה עם שחקנים אחרים, הם קרקע פורייה במיוחד לקיצוניות, אמר וינקלר.
בתגובה להפצת תוכן קיצוני, צצו משחקי וידאו חינוכיים בנושאי השואה, כולל מוזיאון שואה וירטואלי המתארח בפורטנייט. אבל המאמצים הללו גררו גם הטרדה: שחרורו של הפרויקט התעכב לאחר שהמשפיע הלאומני הלבן ניק פואנטס דחק בניאו-נאצים לכוון אותו.
סקר משנת 2022 מהליגה נגד השמצה מצא כי 34% מהשחקנים היהודים אמרו שהם חוו הטרדה על בסיס זהות בזמן ששיחקו. שחקנים נתקלו לרוב באידיאולוגיות לבנה-עליון במשחקים Call of Duty, Grand Theft Auto, Valorant, PlayerUnknown's Battlegrounds ו-Fortnite, לפי ה-ADL. ואז בשנה שעברה, ה-ADL ניסה להיכנס למשחקי וידאו שונים עם שם המשתמש "Proud2BJewish" – ו-38% מההפעלות של המשחק שלהם הובילו לצורה כלשהי של הטרדה.
בינתיים, מתינות יתר – בייחוד כשהיא מסתמכת על בינה מלאכותית לא אמינה – עלולה לגרום לאחור, לסחוף אחריה משתמשים תמימים ולערער את האמון במערכות מתינות. במקביל לכך שרובלוקס התמודדה עם בדיקה על כך שלא הצליחה לבלום את האנטישמיות, הפורומים שלה גדושים בתלונות על כך שמערכת המתינות של הפלטפורמה נגועה בתוצאות שווא.
המאמצים לשלוט על תוכן במשחקי וידאו מעוררים גם זה זמן רב חששות לגבי צנזורה והשגחה יתרה של הממשלה. לאחר הטבח בתיכון קולומביין ב-1999, התעוררה בהלה מוסרית סביב משחקי וידאו כאשר העבריינים, אריק האריס ודילן קלבולד, התגלו כשחקנים נלהבים של משחקי וידאו אלימים. מחקרים שלאחר מכן לא הצליחו בעיקר לבסס קשר סיבתי בין משחקי וידאו אלימים לאלימות בעולם האמיתי.
עבור וינקלר, הסכנה המרכזית אינה ששחקן ייתקל בתיאור של מחנה ריכוז ומיד יהפוך לקיצוני. במקום זאת, אמר, הדאגה ערמומית יותר.
"במחקר שלנו, אפילו לא אכפת לנו, זה אירוני? זה הומור? כי תוכן קיצוני הוא תוכן קיצוני, והוא זמין", אמר וינקלר. "זה ממש מסוכן כי זה חלק מתהליך נורמליזציה".
