🔴 重要AI・機械学習
ChatGPT、自殺示唆時に信頼できる連絡先に通知する新機能「Trusted Contact」を導入
共有:
広告
要約
ChatGPTは、ユーザーが自殺を示唆するような深刻な安全上の懸念が検出された場合、事前に指定した「信頼できる連絡先」に通知するオプション機能を導入しました。この機能は、自動システムと訓練されたレビュー担当者によって検出され、ユーザーが直接助けを求めるのが難しい状況で、現実世界でのサポートを促すことを目的としています。ただし、緊急サービスや精神医療の代替ではありません。
ポイント
- 12026年5月7日より、ChatGPTは個人アカウントを持つ成人向けにオプションの安全機能「Trusted Contact」を順次展開。
- 2ユーザーが自殺を示唆する深刻な安全上の懸念が検出された場合、ChatGPTは指定された信頼できる連絡先に通知し、ユーザーへの連絡を促す。
- 3この機能は、ChatGPT Business、Enterprise、Eduワークスペースでは利用できず、個人アカウントの対象ユーザーのみが利用可能。
- 4信頼できる連絡先は18歳以上である必要があり、招待を受諾する必要がある。通知はチャットの詳細を共有せず、一般的な懸念事項のみを伝える。
- 5この機能は緊急サービスや精神医療の代替ではなく、あくまでサポートを目的としている。
💡インサイト
ChatGPTの「Trusted Contact」機能は、AIの役割を情報提供からユーザーの精神的安定を支える領域へと拡大させる重要な一歩です。メンタルヘルスに特化したAIチャットボットは既に存在しますが、汎用AIが現実世界の人間関係に直接つなぎ、サポートを促す機能は先進的です。これは、OpenAIがAIの安全性と倫理的責任を重視する姿勢を明確に示すものであり、ユーザーに新たなセーフティネットを提供します。一方で、通知の精度、プライバシー保護、そして介入の倫理的・法的責任範囲といった新たな課題も提起します。今後、この機能がモデルケースとなり、他のプラットフォームへの拡大や、専門機関との連携といった、より高度な危機介入システムの構築へと発展することが期待されます。
#ChatGPT#安全性#新機能#メンタルヘルス#AI倫理
広告
共有:
このようなニュースを自動で受け取りませんか？
気になるWebページを登録するだけで、変更をAIが記事にしてお届けします
無料で始める