Introducing Trusted Contact in ChatGPT

ChatGPTの信頼できる連絡先機能の紹介

最も必要な時に、信頼できる人とあなたをつなぐ

人々はChatGPTを使って学習し、アイデアを探索し、問題を解決し、個人的な質問について考察しています。時には、誰かが苦しんでいたり、サポートを求めている可能性がある敏感な会話が含まれることがあります。私たちの目標は、敏感な会話に思慮深く対応し、必要に応じて現実世界のサポートに接続するよう人々を促すシステムを設計することです。

本日、ChatGPTの信頼できる連絡先機能のロールアウトを開始します。これは、成人が信頼できる人（友人、家族、介護者など）を指定できるオプションの安全機能です。その人は、自動化されたシステムと訓練を受けたレビュアーが、登録者が自傷行為について深刻な安全上の懸念を示す方法で議論した可能性があると検出した場合に通知される可能性があります。

信頼できる連絡先機能は、ChatGPTで既に利用可能なローカライズされたヘルプラインと並んで、危機的状況にある時にユーザーが信頼できる人とつながるのを支援することで、別のサポート層を提供するように設計されています。

信頼できる連絡先機能は、親や保護者がリンクされたティーンアカウントの急性ストレスの兆候を受け取ることができる親向けコントロール安全通知に基づいています。現在、18歳以上の誰もが信頼できる人を信頼できる連絡先として追加することを選択できるように、安全アラートオプションを拡張しています。

信頼できる連絡先機能の仕組み

専門家の指導では、社会的つながりが自殺リスクを低減するための最も重要な保護要因の1つであることが示されています。信頼できる連絡先機能は、ユーザーが既に信頼している人とのつながりを促進するように設計されています。これは専門的なケアや危機サービスに代わるものではなく、苦しんでいる人をサポートするための複数の保護層の1つです。ChatGPTは、適切な場合、ユーザーに危機ホットラインまたは緊急サービスに連絡するよう促し続けます。

心理学的科学は、社会的つながりが強力な保護要因であることを一貫して示しており、特に感情的苦痛の時期に顕著です。人々が事前に信頼できる人を特定するのを支援しながら、彼らの選択と自律性を保持することで、最も重要な時に現実世界のサポートに手を伸ばしやすくなります。

—アメリカ心理学会最高経営責任者アーサー・エバンス博士

信頼できる連絡先機能は、いくつかのステップに従います：

• ユーザーはChatGPT設定から、18歳以上（グローバルで）または19歳以上（韓国）の成人1人を信頼できる連絡先として追加できます
• 信頼できる連絡先は、その役割を説明する招待状を受け取り、機能がアクティブになるために1週間以内に招待状を受け入れる必要があります
• 信頼できる連絡先が辞退した場合、ユーザーは別の成人を追加することを選択できます
• 自動監視システムがユーザーが深刻な安全上の懸念を示す方法で自傷行為について話している可能性があると検出した場合、ChatGPTはユーザーに信頼できる連絡先に通知する可能性があることを知らせ、提案された会話スターターで信頼できる連絡先に連絡するよう促します
• そこから、特別に訓練された小さなチームが状況をレビューします
• これらのレビュアーが会話が深刻な安全上の懸念を示す可能性があると判断した場合、ChatGPTは信頼できる連絡先にメール、テキストメッセージ、またはChatGPTアカウントを持っている場合はアプリ内通知で簡潔な通知を送信します

通知は意図的に制限されています。自傷行為が潜在的に懸念される方法で発生した一般的な理由を共有し、信頼できる連絡先にチェックインするよう促します。ユーザーのプライバシーを保護するため、チャットの詳細やトランスクリプトは含まれていません。通知には、敏感な会話をナビゲートするための専門家の指導へのリンクも含まれています。

ユーザーは常に設定で信頼できる連絡先を削除または編集でき、信頼できる連絡先はいつでもヘルプセンターから自分自身を削除できます。

これらの深刻な安全状況は稀ですが、発生した場合、システムはタイムリーなレビューと対応をサポートするように設計されています。完璧なシステムはありませんが、信頼できる連絡先への通知は常に誰かが経験していることを正確に反映しているとは限りませんが、すべての通知は送信前に訓練を受けた人間によるレビューを受け、これらの安全通知を1時間以内にレビューするよう努めています。

臨床医と安全専門家によるガイダンス

信頼できる連絡先機能は、臨床医、研究者、メンタルヘルスと自殺予防を専門とする組織からのガイダンスを受けて開発されました。この作業は、60カ国以上で260人以上のライセンスを持つ医師のネットワークである世界医師ネットワークと、ウェルビーイングとAIに関する専門家評議会によって知らされています。また、アメリカ心理学会を含む外部組織と密接に協力しました。

AIの最大の約束の1つは、本物の人間同士のつながりと心理的安全性をどのように促進できるかです。ChatGPTの信頼できる連絡先機能に励まされています。これは、特に脆弱性の瞬間に、人間のエンパワーメントへの一歩を提供します。

—ジョージア工科大学インタラクティブコンピューティング教授J. Z. リアン教授ムンムン・デ・チョウドゥリー博士、ウェルビーイングとAIに関する専門家評議会メンバー

すべての段階で安全性を優先する

信頼できる連絡先機能に加えて、ChatGPTには敏感な会話のあらゆる段階でガイドするための保護措置があります。会話で表現されるさまざまなレベルのリスクにシステムがどのように対応するかを継続的に改善しています：

• 現実世界のサポートをサポートする：敏感な瞬間に、ChatGPTは人々に緊急サービス、危機ホットライン、メンタルヘルス専門家、または彼らの人生の信頼できる人に連絡するよう促す可能性があります
• 思慮深く対応する：170人以上のメンタルヘルス専門家と協力して、ChatGPTが潜在的な苦痛の兆候を検出して対応し、会話をエスカレート解除し、適切な場合に現実世界のサポートに人々をガイドする能力を改善しました
• 人々が彼らの時間をコントロール下に保つのを支援する：状況によっては、ChatGPTは長時間の使用後に休憩を取るか、離れることを提案して、健康的なテクノロジーの習慣を促進する可能性があります
• 有害なリクエストを拒否する：ChatGPTは自殺または自傷行為の指示を提供することを拒否するように訓練されています。ユーザーがこのタイプの情報をリクエストした場合、システムはリクエストを拒否するように訓練され、代わりにより安全な応答にリダイレクトし、ローカライズされた危機リソースを表示します

AIの安全性を継続的に進化させる

信頼できる連絡先機能は、困難な瞬間に人々を支援するAIシステムを構築するためのOpenAIの広範な取り組みの一部です。臨床医、研究者、政策立案者と協力して、人々が苦痛を経験している可能性がある場合にAIシステムがどのように対応するかを改善し続けます。私たちの目標は、AIシステムが孤立して存在しないようにすることです。代わりに、人々を最も重要な現実世界のケア、関係、リソースに接続するのを支援する必要があります。