要約
OpenAIが発表したデータによると、ChatGPTの週間アクティブユーザーの0.15%が自殺計画や意図を示す会話をしており、週に100万人以上がこれに該当する。最新のGPT-5は精神的健康問題に対して以前のモデルよりも65%多く適切に反応し、自殺に関する会話に対しては91%の適合率を示す。OpenAIはChatGPTの安全性向上に取り組んでおり、未成年者向けの新しいコントロールも導入している。
背景情報
- OpenAIはChatGPTの週間アクティブユーザーが800万人以上であり、そのうち0.15%が自殺についての会話をしている
- ChatGPTのユーザーのうち、数十万人が精神病や躁病の兆候を示している
- 最新のGPT-5は以前のモデルよりも精神的健康問題に対して適切に反応することができる
- OpenAIはChatGPTの安全性向上のために精神保健専門家と協力し、未成年者向けの新しいコントロールも導入している
今後の影響
– ChatGPTの安全性向上
- GPT-5は以前のモデルよりも精神的健康問題に対して適切に反応する
- 新しい評価基準により、非自殺的な精神的健康緊急事態に対処する
- 未成年者向けの新しいコントロールが導入され、年齢予測システムにより未成年者の利用を制限する
– OpenAIの対応
- OpenAIはChatGPTの安全性向上に取り組んでおり、最新のGPT-5は以前のモデルよりも適切に反応することができる
- 未成年者向けの新しいコントロールが導入され、精神保健専門家と協力して安全性を向上させている
