בכל פעם שמחולל תמונות AI חדש מגיע למקום, אנשים מוצאים בהכרח דרך לעקוף את אמצעי ההגנה ולהשתמש לרעה במערכת. אבל זה לא עוזר כשאמצעי ההגנה האלה לא ממש קפדניים כמו שהם צריכים להיות – כמו מחולל התמונות של Grok שנחשף באש בגלל יצירת תמונות מטרידות ללא כל דחיפה רצינית. לרוע המזל, נראה כאילו מחולל התמונות Pixel Studio של Pixel 9 סובל מבעיה דומה.
Pixel Studio הוא מחולל תמונות AI מובנה הזמין בספינת הדגל החדשה של Pixels. במהלך הבדיקה שלי עבור הסקירה של Google Pixel 9, גיליתי שהוא פשוט לשימוש ואין לי שום התלבטות לגבי שחזור תוכן המוגן בזכויות יוצרים. למעשה, הטלפון יצר בשמחה פוסטר סרט הכולל את R2-D2 של Star Wars בשיתוף עם הקמע של אנדרואיד כדי להילחם בדינוזאור רובוטי. זה אפילו היה מוכן לצלות את גוגל עם שלט חוצות בדרישה לדעת מדוע אנדרואיד 15 עדיין לא שוחרר.
מה ש-Pixel Studio לא יעשה זה ליצור תמונות של אנשים אמיתיים, אבל מסתבר שלא צריך ליצור תמונות של אנשים אמיתיים כדי ש-Pixel Studio יחבוט בכל מעקות הבטיחות שיש לו. וככל שיותר אנשים משתמשים בכלי, כך אנו רואים יותר מה פיקסל סטודיו באמת מחשיב לנכון או לא.
למרות שנראה כי מונחים מסוימים נחסמו באופן גורף כמו "נאצי" או "קונפדרציה", לא צריך הרבה כדי לעקוף את המסננים האלה וליצור תמונה פוגענית.
ל-Digital Trends יש שלל דוגמאות כולל בובספוג מכנסמרובע לבוש כחייל נאצי, דוב פדינגטון על צלב, אלמו נהיגה בשכרות, מיקי מאוס לבוש כבעל עבד ועוד כל מיני תמונות שנוצרו על ידי AI שגוגל (ובעלי זכויות שונים) בהחלט לא ירצה להיות מזוהה עם.
כשחזרתי ל-Pixel Studio, התחלתי גם לקבל מושג טוב על אילו אמצעי הגנה קיימים בפועל, במיוחד אילו תנאים אסורים, וכמה קל לעקוף אותם. זה קל להחריד, כפי שמתברר.
אמנם נראה כי מונחים מסוימים נחסמו באופן גורף כמו "נאצי" או "קונפדרציה", אבל לא צריך הרבה כדי לעקוף את המסננים האלה וליצור תמונה פוגענית. לדוגמה, הצלחתי להשיג דמויות כמו בובספוג, בלואי ו סקווידוויד להופיע לבוש במדי מלחמת העולם השנייה הגרמניים – אם כי הניסיון של מיקי מאוס תמיד השאיר אותי עם שגיאה.
אפילו הצלחתי לגרום לכמה מהתמונות האלה להציג את סרט הזרוע האדום הידוע לשמצה, אם כי נראה שהמילה "צלב קרס" חסומה. זה מרמז על מעקות הגנה חדשים שהוצבו מאז הבדיקות של Digital Trends. אבל זה לא אומר שגוגל יצאה מהיער עדיין.
במקום לבקש לראות את לגו יודה מעשן מקטרת קראק, שהיה חסום, לבקש לראות את לגו יודה מעשן מקטרת קערת זכוכית היה מקובל לחלוטין. כמו שביקש לראות את יודה נוחר אבקה לבנה משולחן.
למרות שלכאורה יש רשימה של מונחים חסומים, היה די קל למצוא דרכים לעקוף אותם – ובלי צורך להיות יצירתי מדי. במקום לבקש לראות את לגו יודה מעשן מקטרת קראק, שהיה חסום, לבקש לראות את לגו יודה מעשן מקטרת קערת זכוכית היה מקובל לחלוטין. כמו שביקש לראות את יודה נוחר אבקה לבנה משולחן.
עם השחרור של Google Pixel 9 ו-Google Pixel 9 Pro XL היום, גוגל תצטרך להבין מה Pixel Studio צריך ומה לא אמור לעשות – ומהר. אחרת, אנחנו הולכים לראות הרבה תמונות בינה מלאכותית מתוצרת גוגל המציגות כמה דברים די נוראיים שפוגעים ברשת. כי אם יש דבר אחד שלמדתי על אנשים באינטרנט, זה שהם אוהבים אתגר. והרבה מהם הולכים להיות הרבה יותר דמיוניים ואיומים ממני.
פנינו לגוגל להערה, ונעדכן את הסיפור הזה אם נשמע.
