בני נוער נחשפים היום לעולמות דיגיטליים רחבים ומורכבים, והכנסת בינה מלאכותית לחיי היומיום מוסיפה רובד חדש של אתגרים. מערכות בינה המלאכותית כמו ChatGPT, לא רק משמשות כמערכות מידע אלא כבר שיח או פסיכולוג, ורבים משתפים בצ'אט את התחושות שלהם ומבקשים ייעוץ רגשי מה שעלול להיות מסוכן. כדי להתמודד עם הסכנות, ChatGPT השיקה היום (ג') פיצ'ר חדש של בקרת הורים, שמיועד לכל המשתמשים.
הפיצ'ר החדש מאפשר לקשר בין חשבונות שונים במשפחה, להגדיר מי ההורה ומי הילד, ולהעניק לילדים חוויה "בטוחה ובתאימה לגיל". ההורה שולח הזמנה לחשבון הילד, והקישור מופעל לאחר שהילד מאשר. ההורה מקבל שליטה בהגדרות תכנים ויכול להפעיל מגבלות נוספות כמו שעות שקטות (זמנים שבהם לא ניתן להשתמש בצ'אט), ביטול שימוש בקול, מניעת שמירת זיכרונות, חסימת יצירת תמונות ואי-שיתוף בנתוני אימון המודל. הילד לא יכול לשנות את ההגדרות הללו בעצמו, אך יוכל לנתק את החשבון - פעולה שהורה יקבל עליה התראה.
אם הילד ינתק את החשבון ההורה יקבל התראה
המערכת כוללת מנגנוני סינון אוטומטיים המגבילים תכנים בעלי אופי מיני, אלים, מסוכן או קיצוני, לצד התראות בטיחות חדשות: אם האלגוריתם מזהה שימוש מסוכן או מצוקה, ChatGPT יעבור על התוכן, ובמקרה חמור תישלח התראה להורים באמצעות מייל, הודעת טקסט או התראה לטלפון. עם זאת, החברה מדגישה כי הכלי עדיין בפיתוח, והוא אינו מתערב במקרי חירום מול שירותי הצלה ואינו מתייחס למצבי פגיעה שמקורם בבית. במקביל, OpenAI מבטיחה לשמור על פרטיות הילדים ולשתף מידע רגיש רק כשיש בכך צורך חיוני.