難しい質問を歓迎します

誰がAIのルールを決めるのか？AIは私の子どもたちにより良い未来を与えられるか？AIは世界をより危険にするのか？AIは科学者が病気を治す手助けができるか？人々はAIについて多くの難しい質問を持っています。私たちの仕事は、それらに答えることです。

多くの人はAIに対して前向きです。日常的にAIを使い、その仕事や生活の負担を減らす可能性、学び方を変える可能性、科学技術の進展を加速する助けになること、新たな繁栄の源を生むこと、そして直面する大きな医療・社会問題のいくつかを解決する可能性を見ています。

しかし同時に深刻な懸念を抱く人も少なくありません。失業への寄与を心配する人、創造的な仕事の価値が下がるのではないかと恐れる人、人間の主体性――自分で考える能力、人間関係を築く力、人生の意味を持つ力――がAIによって損なわれるのではないかと憂慮する人もいます。AIの能力が「間違った手」に渡った場合に何が起きるかを懸念する人も多く、利益がコストを上回るかどうかを問い続けています。

下の映像では、私たちが話を聞いた人々のそうした期待や懸念の一部を伺うことができます。

Anthropic は Public Benefit Corporation — その使命は先進的なAIモデルの利益を確保し、そのリスクを軽減することです。この公共的利益に基づく使命は、例えば以下のような取り組みにつながっています。

• 悪用リスクを減らすためのAI安全対策への投資
• AIモデルの挙動や内部構造を研究し、有益な目標に合わせる（アラインメント）ための研究
• 研究者に対してAIモデルを無償で提供すること
• 初期キャリアのClaudeユーザーと非営利団体を組ませるフェローシップ・プログラムの開始（AIの利益を広げるため）

真に公益のために行動するには、この新しい技術に対する人々の期待と懸念を完全に理解する必要があります。私たちの「hard questions」新イニシアティブの一環として、人々の意見やAIに関する質問をさらに詳しく理解し、公共的利益の目標に向けた進捗を透明に示していくために追加の措置を取ります。

すでに私たちは土台作りを進め、数千の人々にAIに関する意見を求めてきました：

• Anthropic Public Record を開始しました — 第1ラウンドでは52,000人のアメリカ人にこの技術に対する最大の期待と懸念を示してもらいました。
• Anthropic Interviewer を通じ、159か国・70言語にわたる81,000人のClaudeユーザーを調査しました。
• 対面のフォーカスグループを数十回開催し、AIが提起する問題に関連する仕事や伝統を持つグループとの会合も行いました。
• 匿名化された実データを通じてClaudeの利用を研究してきました。
• Anthropic Institute を設立しました — 社会にもたらされる最も重要な課題に取り組むことを目的とした社内研究の取り組みです。
• そして、創業初期から Long-Term Benefit Trust が私たちの公共的利益の使命の推進状況に対する公平な監督を行ってきました。

今、私たちは明確に皆さんに最も難しいAIに関する質問を送っていただくようお願いしています：

• AIが雇用、社会、家庭に与える影響についての質問
• 科学や医療におけるAIの劇的な可能性をどう実現するかという質問
• 人類史上最も強力な技術の一つがこれからどこへ向かうかという問い

その対価として、私たちはそれらの質問に対処するために取っている具体的な行動を公開して追跡し、目標に届かない点があればそこも明示します。

他の人がどのような質問をしているかを見たり、自分の質問を共有したりするには、our hard questions website をご覧ください。