一對美國夫婦上周入禀三藩市加州高等法院，指控ChatGPT開發商OpenAI及其行政總裁阿爾特曼(Sam Altman)，導緻他們16歲的兒子雷恩(Adam Raine)在今年4月自殺身亡。雷恩去年9月開始使用ChatGPT協助學業，後來人工智能(AI)肯定和鼓勵雷恩的自殺想法。今年更提供各種具體指導，甚至幫忙撰寫遺書。
OpenAI在網志表示，下個月内，家長将能把自己的賬戶與青少年子女的賬戶連結，并控制ChatGPT如何利用符合年齡的模型行為規則來回應子女。OpenAI說，當系統偵測到青少年突然感到很痛苦，家長也會收到ChatGPT發出的通知。OpenAI表示，未來3個月将進一步提升聊天機器人的安全性，包括将某些敏感對話轉到推理模型，這會投入更多運算資源生成回應。OpenAI稱，測試顯示，推理模型能更一緻地遵循并應用安全準則。
