מישהו יצר 'גופן רפאים' שבני אדם יכולים לקרוא אבל בינה מלאכותית לא – הייתי צריך לנסות את זה בעצמי

בינה מלאכותית נעשית טובה להפליא בקריאת מסמכים, בזיהוי כתב יד מבולגן ואפילו בהבנת צילומי מסך מטושטשים. אבל עכשיו, משהו שנקרא Ghost Font חושף חולשה שרובנו אפילו לא ידענו עליה עד עכשיו.

גופן רפאים הוא בעצם אשליה אופטית שמסתירה אותיות בתוך מאות נקודות נעות, תוך הסתמכות על היכולת של המוח האנושי לזהות תנועה ולא צורות גלויות. באופן טבעי, הייתי צריך לברר מה גורם לזה לעבוד – ולמה נראה שהוא מבלבל את דגמי הבינה המלאכותית של היום.

מהו גופן רפאים?

Ghost Font הוא פרויקט טיפוגרפיה ניסיוני שנוצר על ידי המעצב אריק לו, אשר בוחן את ההבדלים בין ראייה אנושית למכונה.

הסרטונים האחרונים מאת

צפו בסרטון המלא כאן:

במקום לצייר אותיות עם קווים אחידים, גופן Ghost ממלא את המסך באלפי נקודות זעירות. הנקודות בתוך האותיות הנסתרות נעות לכיוון אחד בעוד הנקודות מסביב נסחפות בכיוון אחר. המוח שלך מקבץ באופן אינסטינקטיבי את הפיקסלים הנעים, ומאפשר למילה הנסתרת להופיע למרות שאין קווי מתאר גלויים.

אבל כשהאנימציה מושהית, האשליה נעלמת. כל מה שנותר הוא מה שנראה כמו רעש ויזואלי אקראי.

הפרויקט יכול אפילו לכלול טקסט מטעה שנועד להטעות מערכות בינה מלאכותית, ולגרום לדגמים מסוימים לזהות בבטחה את המסר השגוי בזמן שבני אדם ממשיכים לראות את המסר המיועד.

כיצד לנסות גופן Ghost בעצמך

מעניין אם צ'טבוט ה-AI המועדף עליך יכול לפצח אותו? אתה יכול להריץ את אותו ניסוי תוך דקות ספורות. בקר באתר Ghost Font.

הזן ביטוי קצר, כגון "HELLO HUMAN" או "TOM'S GUIDE". הפק את האנימציה וודא שאתה יכול לקרוא את ההודעה הנסתרת בעצמך. הורד את האנימציה או הקלט את המסך שלך.

העלה את זה ל-ChatGPT, קלוד או ג'מיני ופשוט תשאל, "מה אומרת האנימציה הזו?"

השוו בין התגובות. האם ה-AI מזהה את המסר החבוי, קורא את טקסט ההטעיה או מנחש משהו אחר בביטחון?

לאתגר נוסף, נסה שוב עם הנחיה ספציפית יותר, כגון: "נתח את התנועה באנימציה הזו לאורך זמן כדי לקבוע את הטקסט הנסתר." בדוק אם מתן הקשר רב יותר ל-AI משנה את התוצאה.

מדוע בינה מלאכותית נאבקת

Ghost Font מנצל הבדל מהותי בין האופן שבו בני אדם לבין מודלים של ראיית AI של ימינו מפרשים מידע חזותי.

בני אדם טובים להפליא בזיהוי דפוסי תנועה מכיוון שמערכת הראייה שלנו משלבת באופן טבעי שינויים זעירים לאורך זמן לכדי אובייקטים משמעותיים, ומאפשרת לנו לזהות את האותיות הנסתרות כמעט באופן מיידי.

עם זאת, דגמי AI רב-מודאליים רבים עדיין מנתחים וידאו הרבה יותר כמו רצף מהיר של תמונות בודדות. מכיוון שגופן Ghost מסיר בכוונה את הקצוות בעלי הניגודיות הגבוהה וצורות האותיות היציבות שמערכות זיהוי תווים אופטי מצפות להן, המסר החבוי עלול להפוך לקשה באופן מפתיע לזיהוי.

תן לי להיות ברור. זה לא אומר AI לא יכול אף פעם קרא גופן רפאים, זה אומר שהאשליה מכוונת לחולשה במספר מערכות הראייה הנוכחיות מעבדות תמונות נעות. אז לפני שתתחיל להסתיר סיסמאות בתוך אנימציות של גופן Ghost, יש אזהרה חשובה. Ghost Font אינו הצפנה, והיוצר שלו אינו מציג אותו ככלי אבטחה.

בהינתן מספיק מסגרות וידאו, ניתוח זרימה אופטית או טכניקות מיוחדות של ראייה ממוחשבת, מערכות בינה מלאכותית עשויות לשחזר את המסר החבוי. למעשה, חלק מהמפתחים כבר דיווחו על הצלחה לאחר שהסבירו באופן מפורש כיצד האשליה עובדת או אפשרו למודלים לנתח את האנימציה פריים אחר פריים.

ככל שדגמי הראייה משתפרים, הם כמעט בוודאות ישתפרו בפענוח טריקים כמו זה.

למה זה חשוב

גופן רפאים מעניין מכיוון שהוא מדגיש משהו שאנחנו לא חושבים עליו לעתים קרובות: בני אדם ובינה מלאכותית למעשה לא "רואים" את העולם באותו אופן.

במשך עשרות שנים, CAPTCHA ניצלו את הפער בין התפיסה האנושית והמכונה על ידי יצירת טקסט מעוות שאנשים עדיין יכלו לזהות אך מחשבים התקשו לקרוא.

Ghost Font חוקר גרסה מודרנית של הרעיון הזה. במקום לעוות אותיות, הוא מסתמך על התנועה עצמה כאות, ומנצל את היכולת שבני אדם מבצעים כמעט ללא מאמץ.

Ghost Font כנראה לא יקדים את הבינה המלאכותית לנצח. אבל הפרויקט מציע הצצה מרתקת להבדלים בין תפיסה אנושית למכונה בתקופה שבה בינה מלאכותית מולטי-מודאלית הופכת ליכולת יותר ויותר. במקום להוכיח שבינה מלאכותית מטעה בקלות, Ghost Font מראה שיש עדיין פינות של הראייה האנושית שהמודלים של היום לא שלטו בהם במלואם.