ChatGPTはユーザーの感情的な苦痛を認識するためにアップグレードされます。OpenAIは対応の改善を約束します。

【比推】報道によると、ユーザーが感情的に崩壊したときにチャットボットに助けを求めるといういくつかの報告があった後、OpenAIはChatGPTを改善し、ユーザーの心理的および感情的な苦痛の信号をより適切に認識し、応答することを発表しました。OpenAIはブログ記事で、最近発生したいくつかの心を痛めるケースにおいて、ユーザーが極度に崩壊した状態でChatGPTを使用していたことを非常に重く受け止めており、今こそより多くの情報を共有する必要があると考えています。

OpenAIは、今後のアップデートがユーザーが深刻な自傷の兆候を示さなくても現実に戻るのを助けると述べています。同社はまた、ユーザーが深刻な危機に陥る前に、どのように心理療法士に連絡できるかを模索しています。これは、現在のモデルの動作方法とは重要な違いがあります：誰かが自傷の欲望を表明した場合、ボットは彼らに自殺ホットラインに連絡することを勧めます。