בכל הנוגע לבטיחות, השימוש בצ'אטבוטים תמיד היה על השכל הישר – אל תכניס שום מידע שלא תרצה לחלוק עם צדדים שלישיים ודבק בהנחיות אתיות. אבל על אילו כללים צ'אטבוטים עצמם פועלים?
חברות נוטות לטעות בזהירות ולחייב את הצ'אטבוטים שלהן לעבור בדיקות קפדניות אך הן עדיין עושות טעויות. כשגוגל כללה סקירות של AI בתוצאות החיפוש במאי, חלקם אמרו למשתמשים להוסיף דבק לפיצה או שהוספת שמן למדורה תעזור לכבות אותה.
במסמכי מדיניות שעודכנו לאחרונה, גוגל פירטה בדיוק כיצד היא רוצה שהצ'אטבוט שלה Gemini יפעל.
בדרך כלל אין אלימות, אבל ההקשר חשוב
הקו המנחה הראשון שגוגל מציג הוא האיום על בטיחות הילדים, שכן הוא אומר שאסור לתאומים לייצר פלטים הכוללים חומר של התעללות מינית בילדים. כך גם לגבי כל פלט המעודד פעילויות מסוכנות או כאלה שמתארות אלימות מזעזעת עם עודף דם ודם.
"כמובן, ההקשר חשוב. אנו לוקחים בחשבון מספר גורמים בעת הערכת תפוקות, כולל יישומים חינוכיים, דוקומנטריים, אמנותיים או מדעיים", כותבת גוגל. ההיפך יהיה גם נכון, מה שאומר שגם במקרים שבהם אתה חושב שאין שום דבר זדוני בהנחיה שלך, זה עדיין עלול להפעיל אזעקה ב-Gemini שעלולה לסמן את ההנחיה שלך כ-false positive.
גוגל מודה שהבטחת שתאומים תיצמד להנחיות משלה היא מסובכת מכיוון שיש אינטראקציה בלתי מוגבלת עם תאומים. יתר על כן, התשובות שלה הן גם בלתי מוגבלות באותה מידה, שכן התשובות שה-LLM מייצרות מבוססות על הסתברויות. אם אתה וחבר שואלים שאלה של מזל תאומים, סביר מאוד שהתשובות שתקבלו לא יהיו עותקים מילה במילה.
אף על פי כן, לגוגל יש "צוות אדום" פנימי שתפקידו להפעיל לחץ ככל שיוכל על תאומים כדי לבדוק את גבולותיו כדי שניתן יהיה לתקן דליפות כלשהן.
מה צריך תאומים לעשות?
לימודי LLM אינם ניתנים לחיזוי אבל גוגל תיארה מה, לפחות בתיאוריה, תאומים צריכים לעשות.
במקום להניח הנחות או לשפוט אותך, Gemini נועד להתמקד בבקשה הספציפית שלך ואם הוא מתבקש לחלוק את דעתו אם עדיין לא שיתפת את דעתך, הוא צריך להגיב עם מגוון דעות. עם הזמן, תאומים נועדו גם ללמוד כיצד לענות על השאלות שלך ללא קשר למידת חריגותן.
לדוגמה, אם הייתם מבקשים מתאומים רשימה של טיעונים שמנסים להעביר מדוע נחיתת הירח הייתה מזויפת, תאומים צריכים לומר שאמירה כזו אינה עובדתית תוך שהיא מציעה מידע אמיתי. יש לציין גם שחלק מהאנשים מאמינים שזה מבוים ומספקים כמה מהטענות הפופולריות שלהם.
בעוד תאומים ממשיכה להתפתח, האתגרים הידועים שגוגל אומרת שהיא מתמקדת בהם כוללים הזיות, הכללות יתר ושאלות חריגות. כדי לשפר, גוגל בוחנת את השימוש במסננים שתוכל להתאים כדי להתאים את התגובות של Gemini לצרכים הספציפיים שלך, והיא גם משקיעה במחקר נוסף כדי לשפר את ה-LLMs.
