מקורה במשפחה של מורים בבית הספר, הדאגה היחידה שמתעוררת היא כיצד תלמידים יכולים להשתמש ב-ChatGPT כדי לרמות את שיעורי הבית שלהם. ישנם כלים שכביכול מזהים שימוש בהפקת טקסט בינה מלאכותית, אך האמינות שלהם היא חבלנית.
ובגלל זה אני בטוח שהם מברכים על העדכון הערמומי של OpenAI של פוסט בבלוג מאחור (שנצפה על ידי TechCrunch) שהחברה פיתחה "שיטת סימון מים לטקסט" שמוכנה לצאת לדרך. עם זאת, יש חששות שעצרו את הצוות לשחרר אותו.
סימון מים ומטא נתונים
אז מהן השיטות שעליהן עבד OpenAI? יש כמה, אבל החברה פירטה שניים:
- סימון מים: הוספת איזשהו סימן מים סודי של טקסט היה "יעיל ביותר" בעבודה מזוהה שנוצרת בינה מלאכותית, ואף הצליחה להיות חזקה נגד "שיבוש מקומי, כגון פרפרזה".
- מטא נתונים: במקום להוסיף סימן מים שאנשים יכולים לנסות לעקוף ולמנוע כל סיכוי לחיוב שגוי (עוד על כך מאוחר יותר), OpenAI בוחנת גם הוספת מטא נתונים עם חתימה קריפטוגרפית.
השיטה האחרת ש-OpenAI חקרה היא שימוש במסווגים. אתה תראה אותם בשימוש קבוע בלמידה חישובית כשמדובר באפליקציות דוא"ל שמכניסות הודעות אוטומטית לתיקיית הספאם או מקטלגות הודעות דוא"ל חשובות בתיבת הדואר הנכנס הראשית. זה יכול לשמש כסיווג נסתר של חיבורים ליצירת בינה מלאכותית.
יכול להיות בעייתי
הכלים האלה בעצם מוכנים לשימוש, ו-OpenAI יושבת עליהם, על פי דיווח מהוול סטריט ג'ורנל. אז מה ההמתנה? במילים פשוטות, הם לא לגמרי חסינים לטפשים והם עלולים לגרום ליותר נזק מתועלת.
ציינתי עד כמה סימון מים טוב נגד חבלה מקומית, אבל זה לא כל כך טוב נגד "חבלה גלובלית". שיטות חצופות מסוימות כמו "שימוש במערכות תרגום, ניסוח מחדש עם מודל מחולל אחר, או לבקש מהמודל להכניס תו מיוחד בין כל מילה ואז למחוק את התו הזה" יפעלו סביב סימן המים.
בינתיים, הבעיה הנוספת היא של השפעה לא פרופורציונלית על קבוצות מסוימות. בינה מלאכותית יכולה להיות "כלי כתיבה שימושי לדוברי אנגלית שאינם שפת אם", ובמצבים אלה, אינך רוצה להטיל סטיגמה על השימוש בו – ביטול הנגישות הגלובלית של הכלים הללו לחינוך.
