הרקע להכרזה של OpenAI מתחיל באירוע מצמרר: נער אמריקאי שהרבה לשוחח עם ChatGPT שם קץ לחייו, והוריו תבעו את החברה בטענה שלא זיהתה סימני מצוקה ולא פעלה למנוע את ההידרדרות. המקרה עורר גל תגובות בינלאומי, לחץ רגולטורי וקריאות מחוקקים ומומחים לבריאות הנפש להגביר את ההגנות סביב שימוש נוער במערכות AI.
-
עוד באותו נושאגוגל תעשה הכל: אם הכל יילך כמתוכנן, עולם האינטרנט לר יראה אותו דבר
02/09/25 14:47
השינויים שיתרחשו בשלושת החודשים הקרובים
ההחלטה של OpenAI אינה נקודתית אלא חלק מתוכנית אסטרטגית רחבה ל-120 הימים הקרובים. במרכז התוכנית עומדת מערכת בקרות הורים חדשה, שתאפשר את הצעדים הבאים:
- קישור חשבונות בין הורה לילד (מגיל 13 ומעלה) לניטור וניהול השימוש.
- התראות אוטומטיות להורים אם השיחות של הילד מצביעות על מצוקה רגשית חריפה.
- ניהול חוויית השימוש - שליטה בהיסטוריית השיחות, מחיקת זיכרון המערכת, וקביעת כללי התנהגות מותאמי גיל.
- שיחות רגישות שינותבו אוטומטית למודל GPT-5-thinking, שנבנה כדי להגיב בצורה זהירה, מבוססת הקשרים וכללי בטיחות.
לצד הבשורה קיימת גם ביקורת: חלק מהחוקרים סבורים שמדובר בצעדים ראשוניים בלבד, שלא מבטיחים מנגנוני הגנה מספקים ושעלולים להשאיר ילדים חשופים. מנגד, יש קולות שמדגישים שהפנייה למומחים רפואיים והקמת מועצות ייעוץ בינלאומיות בתחום בריאות הנפש מצביעות על ניסיון כנה של החברה לבסס את ההגנות על ידע קליני ולא רק על טכנולוגיה.
ChatGPT | , צילום: Primakov,Shutterstock
לאפשר להורים שליטה ממשית
מועד ההשקה כבר נקבע. על פי OpenAI, הכלים הראשונים יהיו זמינים בתוך חודש, עם פריסה מלאה בהמשך השנה. החברה מבהירה שהכוונה היא לאפשר להורים שליטה ממשית, מבלי לפגוע לחלוטין בחוויית השימוש של בני נוער, ולבנות סטנדרט חדש לאחריות תאגידית בעידן הבינה המלאכותית.
ההכרזה של OpenAI מסמנת מפנה מהותי: מעבר מהתמקדות בחדשנות טכנולוגית טהורה לאחריות חברתית גלובלית. גם אם המהלך נולד מתוך טרגדיה, הוא עשוי להפוך לנקודת ציון חשובה בהיסטוריה של בינה מלאכותית - רגע שבו החברות המובילות הבינו שאין די בחכמה מלאכותית, אלא נדרשת גם חכמה אנושית.