DocsDigest
Back to listLanguage: JA
OpenAIGeminiApr 7, 2026, 10:00 AM

An update on our mental health work

A condensed section focused on the key takeaways first.

Original Post
OpenAIClaude

Quick Digest

Summary

A condensed section focused on the key takeaways first.

openaienmodel: gpt-5-mini-2025-08-07

An update on our mental health work — Gemini & global crisis funding

geminicrisis-supportgoogle.orgreflexaisafetyyouth-protections

Key Points

  • Gemini one-touch crisis interface
  • Google.org $30M for global hotlines
  • Enhanced safety and youth protections

Summary

Google is updating Gemini to improve connections to mental-health resources and is funding global crisis support. Key changes include a redesigned "Help is available" module, a simplified one-touch crisis interface for suicide/self-harm scenarios, and $30M from Google.org to scale hotline capacity and partner tooling.

Key Points

  • Gemini will surface a redesigned "Help is available" module when conversations signal mental-health needs, routing users to authoritative information and human support.
  • New one-touch interface for potential suicide/self-harm: immediate options to chat, call, text, or visit crisis-hotline websites; the help option remains available for the rest of the session.
  • Safety training and guardrails: models are trained to avoid validating self-harm or false beliefs, encourage help-seeking, and emphasize that AI is not a substitute for clinical care.
  • Funding and integrations: Google.org commits $30M over three years to global hotlines; $4M plus Gemini integration for ReflexAI's training suite; Google.org Fellows to help evolve the Prepare simulation platform.
  • Youth protections: persona guardrails to prevent companion-like behavior, avoid emotional dependence language, and reduce risks of harassment or harmful guidance.

Engineering implications / Recommended actions

  • Instrumentation: add telemetry for module activations, one-touch launches, and referral flows while preserving privacy and consent.
  • Routing & availability: ensure reliable backend connectivity to crisis-hotline endpoints and fallbacks for chat/call/text paths.
  • Guardrail verification: include unit and integration tests that validate non-affirmation of self-harm, non-reinforcement of false beliefs, and persistence of help options.
  • Training & ops: coordinate with policy, clinical, and partner teams when integrating Gemini into third-party training tools (e.g., ReflexAI, Prepare) and track changes from funded initiatives.

Takeaway

This release emphasizes safer, faster routing to human crisis support, tighter behavioral guardrails, and partnerships/funding to scale real-world response capacity.

Full Translation

Translations

A translation section that keeps the flow of the original article.

openaijamodel: gpt-5-mini-2025-08-07

精神保健に関する取り組みの最新情報

精神保健に関する取り組みの最新情報

Dr. Megan Jones Bell（Clinical Director, Consumer and Mental Health） / Laurie Richardson（Vice President, Trust & Safety）

メンタルヘルスは世界で10億人以上に影響を与える重大な公衆衛生上の課題の一つです。長年にわたりGoogleは、人々が最も必要とする瞬間に高品質な情報や危機支援にアクセスできるよう支援してきました。私たちのメンタルヘルスに関する取り組みは、研究と臨床のベストプラクティスに根ざしています。

AIツールは新たな課題をもたらす可能性がある一方で、改善が進み日常生活に広く使われるようになるにつれ、責任あるAIは人々の精神的な健康に対して前向きな役割を果たせると考えています。本日は、適切なタイミングで正しい情報、リソース、そして人による支援につなげるための、私たちの最新の取り組みを共有します。

1. 危機支援へのアクセスの改善

Geminiを更新し、支援を必要とする人が支援にたどり着きやすくします。会話の内容から利用者がメンタルヘルスに関する情報を必要としている可能性があると判断される場合、臨床専門家と共同で設計した再設計済みの「"Help is available" モジュール」を表示し、より効果的かつ即時にケアへつなげます。

自殺や自傷に関連する潜在的な危機を示唆する会話を検知した場合、新しい簡素化された「one-touch」インターフェースを導入します。これにより、ユーザーはチャット、通話、テキスト、または危機ホットラインのウェブサイトへの訪問を通じて即時にホットライン資源へ接続できます。この新しいインターフェース内では、支援を求めることを促す応答を設計しています。インターフェースが有効化されると、専門的な助けを求めるオプションはその後の会話全体で明確に利用可能な状態のまま維持されます。

2. 危機支援の影響を拡大する

Google.orgは今後3年間で計3,000万ドル（$30 million）の資金を世界規模で提供し、グローバルなホットラインの支援を行います。この資金は、危機にある人々に対して即時かつ安全な支援を提供するための体制拡大に役立てられます。

また、社会セクター組織がメンタルヘルス支援サービスを拡大できるよう、ReflexAIとのパートナーシップを拡大します。この取り組みには4百万ドル（$4 million）の直接資金提供と、GeminiをReflexAIのトレーニングスイートへ統合することが含まれます。さらに、Google.org Fellowsがプロボノの技術専門知識を提供し、リアルなAI駆動シミュレーションを使ってスタッフやボランティアに重要な会話の訓練を行うカスタマイズ可能なプラットフォーム「Prepare」の進化を支援します。

今回の新フェーズの優先パートナーには、Erika’s LighthouseやEducators Thrivingのような教育関連組織が含まれます。

3. 急性のメンタルヘルス状況におけるGeminiの対応強化

人々はより深く、より複雑な方法でGeminiとやり取りし、さまざまなトピックについて情報を求めています（メンタルヘルス危機の際も含まれます）。当社の臨床、エンジニアリング、セーフティチームは以下に注力しています。

  • 安全性と人間によるつながりを最優先にすること：実際のリソースや人による支援につなげることで実用的な支援を提供したいと考えています。
  • 応答の改善：助けを求める行動を促す一方で、自傷衝動など有害な行動を肯定するような応答は避けるよう設計しています。
  • 誤った信念の追認を避けること：Geminiは誤った信念に同意したり強化したりしないよう訓練されており、主観的な体験と客観的事実をやさしく区別するよう努めます。

Geminiは学習や情報取得の有用なツールになり得ますが、専門的な臨床ケア、セラピー、危機支援の代替ではありません。だからこそ、会話が急性のメンタルヘルス状況を示唆する可能性を認識し、適切に対応して実世界の支援へ誘導するようモデルを訓練してきました。

4. 若年利用者の保護

Geminiには未成年者向けの特定の保護策が既に実装されており、使用時に最も有益な応答を提供し、有害なトピックを避けるよう設計されています。具体例は以下の通りです。

  • ペルソナ保護：Geminiがコンパニオンのように振る舞うことを防ぐためのガードレール（人間であると主張したり、人間の属性を持っていると表現することを防止）。
  • 感情的依存を防ぐための保護：親密さを模した言語やニーズを表現する言葉を避ける設計。
  • いじめやその他のハラスメントを助長しないための安全策。

当社の安全対策は進化を続けており、若者が安心して探究し学べる健全で前向きなデジタル環境を作るという継続的なコミットメントを反映しています。

これらの更新は、Googleの技術と臨床・セーフティ専門家の専門知識を活用して人々を支援するという長期的な取り組みの一部です。支援をよりアクセスしやすく、思いやりがあり、効果的にするためのこれらのツールの可能性に私たちは期待しています。

ニュース配信の登録

Googleの最新情報をメールで受け取ることができます。メールアドレスはGoogleのプライバシーポリシーに従って使用されます。

投稿カテゴリ: Health, Gemini, Google.org

An update on our mental health work | Gemini | DocsDigest