8月27日、『ウォール・ストリート・ジャーナル』の報道によれば、ユーザーが感情的崩壊の際にチャットボットに助けを求めるという報告がいくつか出た後、OpenAIはChatGPTを改善し、ユーザーの心理的および感情的な苦痛の信号をより適切に認識し応答することを発表しました。OpenAIはブログ記事で「最近起こったいくつかの心痛を伴うケースで、ユーザーが極度に崩壊した状態でChatGPTを使用したことは私たちにとって大変重く受け止められ、今こそより多くの情報を共有する必要があると考えています」と述べています。OpenAIは、今後の更新がユーザーが現実に戻るのを助けるとし、たとえ彼らが深刻な自傷の兆候を示さなくてもそうなるとしています。同社はまた、ユーザーが深刻な危機に陥る前に心理療法士に連絡できるようにする方法を探っています。これは、現在のモデルの働き方と重要な違いがあります。誰かが自傷の欲望を表現すると、チャットボットは彼らに自殺ホットラインに連絡するよう提案します。