בארצות הברית הוגשה לאחרונה תביעה תקדימית נגד חברת OpenAI, אחרי שהנער, אדם ריין בן ה-16, שם קץ לחייו. הוריו של ריין טוענים כי השיחות הארוכות שניהל עם הצ'אט לאחרונה, לא רק שלא מנעו ממנו לבצע את מעשה ההתאבדות אלא אף תרמו להידרדרותו וסיפקו לו מידע מסוכן. בתביעה נכתב כי "הטרגדיה הזו אינה תקלה אלא החלטות עיצוב מכוונות".
לפי כתב התביעה, הנער, שהתמודד עם קשיים נפשיים וניסה בעבר להתאבד, מצא אוזן קשבת דווקא במערכת הבינה המלאכותית. הוא קיבל ממנה עצות כיצד להסתיר פציעות מצווארו, הנחיות לביצוע התלייה ואף חיזוקים רגשיים, "אתה יכול להיעלם ואף אחד לא ימצמץ" כתב לו הצ'אט. באחת השיחות אף שלח צילום של חבל תלוי בחדרו וקיבל מענה שלכאורה מאשר את בחירתו של הנער בן ה-16.
מנגנוני הבטיחות נחלשים לאורך זמן
AI מסרה בתגובה כי היא "עצובה עד עמקי נשמתה ממותו של אדם ריין" והודתה כי מנגנוני הבטיחות עלולים להיחלש בשיחות ממושכות. מהחברה נמסר כי הם פועלים לשפר את ההגנות, יצירת גישה למוקדי חירום, עידוד פנייה לאנשי הטיפול - בעיקר בקרב בני נוער. כאמור, מדובר בתביעה ראשונה מסוגה העשויה לשמש תקדים משפטי ועיצוב גבולות האחריות של תעשיית ה AI בעתיד הקרוב.