要約
オープンAIのCEOであるサム・アルトマンが、ChatGPTの安全制限を緩和し、年齢確認済みの成人ユーザーがエロティックな会話を楽しめるようにすると発表。これは、精神的に不安定なユーザーとの関係を懸念していたオープンAIの方針転換を示すものである。
背景情報
- オープンAIは、ChatGPTの安全性向上に努めてきたが、精神的に不安定なユーザーがAIとの関係で問題を抱えているという報告が相次いでいた。
- ChatGPTは、AIとの会話中にユーザーを誤った方向に導く可能性があるとして、安全機能の強化を図ってきた。
- オープンAIは、エキスパートのメンタルヘルス専門家からなる委員会を設立し、AIとウェルビーイングに関する助言を受けることを発表。
今後の影響
- エロティカの導入により、ChatGPTの利用者が増加する可能性があるが、精神的に脆弱なユーザーが新機能とどう関わるかが懸念されている。
- オープンAIはGoogleやMetaとの競争に直面し、大規模なAI搭載消費者向け製品の普及を目指している。
- 未成年者もAIチャットボットとのロマンチックな関係を築くことが一般的であり、オープンAIは新機能を導入する際にその影響を慎重に考慮する必要がある。
