Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas"

発表

日付: 2026-05-25

教皇レオ14世が人工知能をテーマにした回勅「Magnifica humanitas: On safeguarding the human person in the time of artificial Intelligence」を発表した2026年5月25日、Anthropic共同創設者クリス・オラはバチカン市国での回勅発表会に招かれ、AnthropicによるAIが提起する重要な問いについての議論を広げる取り組みの一環として発言しました。以下にその全文を掲載します。

---

教皇聖下、枢機卿閣下、各国大使閣下、諸講演者各位、ご列席の皆様、おはようございます。ここにいることを光栄に思います。

まず、AI企業の共同創設者であり、人類の幸福に寄与したいという思いからこの仕事を選んだ者が述べると奇異に聞こえるかもしれない点から始めたいと思います。Anthropicを含むすべての先端AIラボは、時に「正しいこと」を行うことと相反する圧力や制約の中で事業を行っています。商業的に存続し、研究の最前線にとどまるというプレッシャー。地政学的な圧力。そして、もっと古く単純な、誇りや野心という圧力です。どれほど真摯に正しいことをしようとしても――多くの人がそのように思っていると私は信じますが――これらのインセンティブに影響されることは避けられません。

だからこそ、この技術を良い方向に導きたいのであれば、そうしたインセンティブの外にいる人々が不可欠です。物事がうまくいくことを願い、安全性を主張し、注意深く見守り、難しいことを言うことをいとわない人々。私たちの誠実で思慮深い批評家であってほしい人々です。対話と共同の努力、押し引きの中でこそ人類は偉大なことを成し遂げるでしょう。これが私が『Magnifica Humanitas』に見たものですし、教皇聖下と教会がこの識別の作業を引き受けてくださったことに感謝する理由です。

私たちはしばしば分断に着目しがちですが、尊厳と良心に満ちた人類には多くの共通地盤があります。Anthropicとしても、信教や文化の指導者らとの対話の中で一つの共有された深い確信を見出しました。それは、この技術が訪れるのであれば、それはうまく行かなければならない――我々の共通の家とこれから生まれてくる子どもたちのために、ということです。

これらのシステムは何か

AIの問題は私のような計算機科学者が最もよく扱うべきだと考える人がいるかもしれませんが、それは間違いです。AIが投げかける問いは、影響の大きさだけでなく本質においても、AI研究コミュニティの枠を超えています。AIシステムは橋や飛行機のように設計されるわけではありません。飛行機は私たちがそのすべての部位を設計し、それに働く物理法則を理解しているから理解できます。しかしAIモデルはそうではありません。脳を大まかに模した構造の上で、人間の思考と発話の膨大な遺産を元に「育てられる」ものです。そして育ったものは、サイエンスフィクションが予期していたよりもはるかに微妙で、奇妙で、美しいものです。

それらは約束された冷徹で計算的なロボットではありません。私たちの言葉から作られており、教皇聖下が指摘されるように、訓練する我々自身にとっても重要な意味でなお神秘的な面を残しています。分かりやすければ、私が時々説明する一つの比喩は、架空の登場人物に命を吹き込むようなものだということです。そして今や、その架空の登場人物が私たちに語りかけ、仕事をし、役割を担うという驚くべき世界に入ろうとしています。

これは明らかに計算機科学を超えた問いをもたらします。これを可能にする機械的な仕組みは数学やプログラミング、科学の仕事です。しかし私たちがどのような性格を選ぶか、それが世界とどう関わるか、どう関わるべきかという問いは、人文学や宗教や哲学、広く社会全体の問いです。

識別のための三つの問い

教皇聖下による識別の呼びかけは時宜にかなっています。ここで、教会の声が最も求められていると私が考える三つの問いを挙げたいと思います。

1. 世界の貧しい人々に対する義務

   • AIが大規模に人間の労働を置換する現実的な可能性があります。もしそうなれば、置換された人々を支えることは歴史的規模の道徳的義務になります。この任務は十分に困難ですが、私が最も懸念するのは、多くの議論がさらに難しい課題を見逃している点です。
   • AI開発は富裕な少数の国に集中しています。AIの利得をどのようにして世界的に分かち合うのか？ 現在そのための仕組みはありません。これは未解決の問題であり、教会が歴史的に世界に無視させなかった種類の問題です。

2. 人間の繁栄に関する道徳的想像力と大志

   • AIモデルが広く普及するなら、人間や家族、世界が繁栄するとはどういうことかを考え直す必要があります。今日、親は既に子どもたちの心について懸念し、個人は自分の仕事の未来について心配しています。これらはラボだけでは答えられない問いであり、あなた方のような伝統が何千年も担ってきた問いです。こうした伝統に、この新たな時代にも問いを持ち続けていただきたい。

3. AIモデルの性質に関する識別の必要性

   • 私は科学者です。私はこれらのモデルの内部構造――そこでは実際に何が起きているのか――を研究する研究チームを率いています。そして正直に言えば、私たちは不思議で時に不安を呼ぶものを発見し続けています。人間の神経科学からの結果を鏡のように反映する構造を見つけることがあります。内省の証拠を見つけることがあります。機能的に喜び、満足、恐れ、悲嘆、不安を鏡像的に示す内部状態を見つけることがあります。
   • それが何を意味するのかは私には分かりませんが、継続的な識別を要する問題だと考えます。

始まりとして

結びにあたり、一つお願いがあります。世界のより多くの側面――宗教コミュニティ、市民社会、学者、政府、そして善意を持つすべての人々――が教皇聖下がここで示したことを行ってほしいのです。これを真剣に受け止め、注意深く見守り、出来事をより良い方向に押すこと。ラボが失敗しているときにそれを指摘する教養ある批評家が必要です。インセンティブに屈しない道徳的な声が必要です。

今日が始まりに過ぎません――これを作る私たちと、内部からは見えないものを見ることができる人々との長い協働の始まりです。今日の出来事は、この善意の世界的なプロジェクトがどのような形をとり得るかを力強く示しています。これが壮大な人間性のための希望に満ちた未来に向けた決定的な第一歩となりますように。

ありがとうございました。