OpenAI הודיעה היום שהיא משהה סרטונים שנוצרו על ידי בינה מלאכותית של מרטין לותר קינג ג'וניור באפליקציית Sora שלה, בעקבות ביקורת חריפה על תוכן מזויף עמוק "לא מכבד" שמציג את אייקון זכויות האזרח.
הסרטונים של MLK ג'וניור כללו הכל, החל מדברים על חלום על עוגיות נתחי שוקולד וסם אלטמן ועד דורות סרטונים הרבה יותר מרושעים.
בעוד שהמהלך מנוסח כוויתור לאחוזתו של קינג, הוא מסמן מתחים עמוקים יותר באופן שבו פלטפורמות בינה מלאכותית מנווטות בהיסטוריה, בהסכמה ובאתיקה של תחייה של אישי ציבור. מייקל ג'קסון, קובי בראיינט ו-JFK הם בין הסרטונים המתים והחסרי כבוד שמסתובבים כעת.
OpenAI חוזרת לאחור
OpenAI עושה מה שהיה צריך לעשות מההתחלה: לא לאפשר לאישים ציבוריים שנפטרו לשמש בסרטוני AI שנוצרו. מאז שהושק סורה, משתמשים פרסמו סרטוני AI עם עיוותים מזעזעים של ד"ר קינג בין דמויות בולטות אחרות – כולל תיאורים שמשפחתו ותומכיו כינו פוגעניים ומשפילים.
ברניס א. קינג, בתו של מרטין לותר קינג ג'וניור, דרשה בפומבי באינסטגרם להפסיק את הסרטונים שנוצרו, מה שגרם להצהרה משותפת עם OpenAI על מעקות בטיחות חזקים יותר ומנגנוני ביטול של עזבונות.
OpenAI הגדירה את ההחלטה כאיזון בין חופש הביטוי לבין כיבוד מורשת ושליטה: החברה אמרה שאנשי ציבור (ובני משפחותיהם) צריכים להשפיע על אופן השימוש בדמותם במדיה בינה מלאכותית.
הגבול הפרוע של AI
כלי AI כמו Sora מאפשרים למשתמשים לדמיין או להתחזות לסמלים תרבותיים שנפטרו מזמן, אבל האתיקה של זה עכורה במהירות. האם זה מחווה, סאטירה או חילול קודש? ההפסקה מדגישה עד כמה הויכוח הזה גולמי ובלתי פתיר.
עוד לפני ש- Sora 2 שוחרר, במהלך תדרוך עם OpenAI שכלל את סם אלטמן, אני ועיתונאים אחרים הטילו ספק באפשרויות השליליות של מתן כלים כה חזקים של AI. עם זאת, נדרשת תגובה ציבורית כדי לגרום ל-OpenAI לבצע כל סוג של התאמה.
בניגוד לחוק זכויות יוצרים, החוק האמריקאי אינו מגן באופן אוניברסלי על אופן השימוש בתמונות של נפטרים – אם כי קומץ מדינות מכירות בזכויות פרסום לאחר המוות.
מדיניות "הצטרפות לעיזבונות" של OpenAI אינה מבטיחה הרבה עד שבתי המשפט או המדינות יגדירו גבולות חזקים יותר. כמה מומחים משפטיים מכנים את הגישה שלהם חתיכה ותגובתית.
OpenAI משחקת בהישג יד
OpenAI התירה במקור תיאורים נרחבים של אנשים שנפטרו כברירת מחדל, אלא אם כן עזבונות התנגדו. המדיניות החדשה הזו מנוסחת כחלק ממשמרת – אבל רבים מאמינים שהחברה עדיין משחקת בהישג יד. המבקרים מציינים כי איסור על MLK עשוי להיות חד פעמי; שליטה בשאר תא ההד של AI היא בעיה הרבה יותר קשה.
כאשר סרטים, ספרי לימוד וארכיונים כבר מתווכים כיצד אנו זוכרים את ההיסטוריה, זיופים עמוקים של AI מסתכנים להפוך לעדשה נוספת; כזה שלא ניתן לתת דין וחשבון. אם משתמשים יכולים "לדמיין מחדש" את קינג אומר או עושה משהו, מה עוצר את העיוות במשך עשרות שנים? ברור שאנחנו בטריטוריה לא ידועה.
בגלל תגובת הנגד, אחוזות או נציגים של דמויות היסטוריות אחרות יכולים לבקש ביטולי הסכמה מהכללה ביצירת סרטוני סורה.
בעוד ש-OpenAI הכירה באינטרסים חזקים של חופש הביטוי, היא בחרה להשהות תחילה את תיאורי MLK. אבל, אולי זה רק מקרה מבחן.
מחשבות אחרונות
כדאי לשקול מדוע וכיצד אנו משתמשים בכלי AI כל כך חזקים. זה פותח שאלות לגבי האופן שבו OpenAI יטפל במקרים הבאים. האם החברה תחסום באופן יזום נתונים מסוימים. עם מיליארדי סרטונים שנוצרו, איך הם יכולים לשלוט על הכל. האם התשובה היא ליצור מסד נתונים של דמויות אסורות או שהם צריכים להסתמך על בקשות ידניות?
