🔴 重要AI・機械学習
ChatGPTに「信頼できる連絡先」機能が追加、緊急時のサポート強化へ
共有:
広告
要約
ChatGPTに、自殺に関する深刻な安全上の懸念が検出された場合に、事前に登録した信頼できる連絡先に通知する「信頼できる連絡先」機能が導入されます。この機能は、ユーザーが困難な状況にある際に現実世界でのサポートを促すことを目的としており、プライバシー保護のためチャット内容は共有されず、一般的な懸念事項のみが通知されます。これにより、AIによる安全対策がさらに強化され、ユーザーの精神的健康をサポートする新たな手段が提供されます。
ポイント
- 1ChatGPTの個人アカウント向けに「信頼できる連絡先」機能が今後数週間で展開される。
- 2自動システムと訓練されたレビュー担当者が自殺に関する深刻な安全上の懸念を検出した場合、登録された信頼できる連絡先に通知される。
- 3通知は一般的な懸念事項のみを伝え、チャットの詳細や履歴は共有されないため、ユーザーのプライバシーが保護される。
- 4本機能は緊急サービスや危機対応システムではなく、精神衛生ケアの代替ではない。18歳以上の個人アカウントユーザーが対象で、Business、Enterprise、Eduワークスペースでは利用不可。
- 5ユーザーは設定から信頼できる連絡先を選択し、招待を送信する必要がある。連絡先は招待を承諾する必要がある。
💡インサイト
ChatGPTの「信頼できる連絡先」機能は、AIの安全対策と社会的責任(AI倫リ)を新たな段階へ進めるものです。 これまでAIの安全対策は、不適切なコンテンツ生成の防止や情報漏洩対策が中心でした。 しかし、この機能はユーザーの精神的な危機を検知し、現実世界の人間関係へサポートを繋ぐ点で一線を画します。 競合AIサービスやメンタルヘルスアプリも存在しますが、汎用AIがこのような介入を行うのは先進的です。 この動きは、ユーザーに安心感を与える一方、プライバシー保護と検知精度の両立という高度なAIガバナンスを企業に求めます。 今後、AIによるユーザーのウェルビーイング支援はさらに重要性を増し、業界標準となる可能性があります。
#ChatGPT#新機能#安全性#メンタルヘルス#AI
広告
共有:
このようなニュースを自動で受け取りませんか?
気になるWebページを登録するだけで、変更をAIが記事にしてお届けします
無料で始める