That Untravell'd World (6 minute read)｜未踏の地（6 分間の読了）

*私は出会ったすべてのものの一部であり、 しかしすべての経験は、その縁が 私が動くたびに永遠に永遠に消えていく 未踏の世界の光が射すアーチである。 *アルフレッド・テニスン、「ウリシーズ」より 嬉しいお知らせです：7 月 6 日、私は OpenAI の「戦略的将来部門（Strategic Futures）」の責任者として加わります。これは同社内で最先端 AI の政策形成を担うために新たに創設されたチームです。私は引き続き、アメリカ革新財団（Foundation for American Innovation）の非居住上級フェローとしても在籍します。 このチームはどのような活動を行うのでしょうか？戦略的将来部門は、OpenAI 内に置かれる小規模かつ高い自律性を持つチームであり、首席戦略責任者であるジェイソン・クワンに報告し、最先端 AI の政策形成を担います。具体的には、壊滅的なリスク、再帰的自己改善、労働市場への影響、そして最先端研究機関（frontier labs）と政府（特に米国連邦政府）、社会との関係に関する事項が対象となります。その活動範囲は、立法案の提案など対外的な政策から、研究所内のガバナンスまで広がり、技術スタッフ、準備チーム、法務チーム、国家安全保障およびグローバルアフェアーズ部門からの政策担当者、そして経営陣と緊密に協力して進められます。 技術スタッフとの協働は、Strategic Futures チームにとって特に重要です。新興する AI リスクの姿を理解するため（もちろんこれが鍵となります）だけでなく、AI がより広範にどのように発展しているかを理解するためにも不可欠です。その上で、機械学習や AI 政策に関する専門知識が必須というわけではありません。私は異端派とも呼べる多様なチームを構築したいと考えており、幅広い分野と視点を集約するつもりです。さらに詳しく知りたい方は、お気軽にご連絡ください。 『Hyperdimensional』は、2 つの根本的な直感に基づいて構築されました：(1) 最前線の研究所自体が太陽の下に存在する新しい種類の機関となり、社会の他の制度的支柱との間に新たな関係性を築くだろうという点、そして (2) 変革をもたらす AI そのものが単なる「規制」を必要とするだけでなく、全く新しい種類のガバナンスを可能にするガバナンス技術そのものとなるという点です。時が経つにつれ、私は3つ目の重要な直感を加えました：ほぼ必然的に、最も重要な最前線 AI ガバナンスの決定は、最前線の研究所自体によって形成されるか、あるいは完全に彼らによって行われる可能性が高いということです。言い換えれば、内部ガバナンス（internal governance）が、AI の未来において、多くの人々が認識している以上に中心的な役割を果たすことになります。 これはすべて非常に良いことですが、それでもなお行き場のない抽象的な話に過ぎません。そして、フロンティア・ラボの外から得られる視点からは、これがそのまま続くことになるでしょう。これらの直感を前進させ、より具体的なものにするためには、「内部に入る」しかないのだと私は realizing しました。これが私がこの役割を引き受けた核心的な理由です。そうすることなくしてボールを前に進めることは不可能だと信じています（これは私の特定のキャリアパスにおける産物であることを明確にしておきます；私は、ラボの外から良い AI ポリシーの仕事をすることが不可能であると言っているわけではありません）。 「内部に入る」ことについてこれらの考えを抱いていたのは数か月前のことでしたが、幸運なことに OpenAI からこの役割に興味があるかどうかを尋ねられました。そうしていただいたことに感謝し、光栄に思っています。また、OpenAI のすべてのチームの新しい同僚たちから学ぶことを楽しみにしています。この会社には地球上のいかなる企業にも匹敵するほどの才能密度があると信じており、その取り組みに貢献するよう招かれたことは特に興奮する一方で、正直言って少し恐ろしいことでもあります。 さて、*Hyperdimensional* 自体について：この出版物は引き続き活動的であり、かつ独立したままです。過去数か月にわたってそうであったように、刊行量は月間 2〜3 件の投稿程度になる見込みですが、状況が許せばそれ以上になるかもしれません。OpenAI のチームが行っている仕事に関するニュースを共有する一方で、これまでここで続けてきたような分析や執筆も継続していく予定です。 完全な明確さのために、ここで私が執筆する内容はすべて私の個人的なものです。OpenAI の関係者が私の執筆内容に対して事前承認権や編集裁量を持つことはありません。この独立性は、私の X アカウントおよび来年ペンギン・プレス（当初発表されたスケジュール通り）で出版される forthcoming book にも当てはまります。つまり、私は OpenAI およびその指導部の方針から公に離れることができるのです。そのような相違が劇的になるとは予想していません（長年にわたり OpenAI の指導部と広範な議論を行ってきたため、私たちが多くの共通の目標や価値観を共有していることをよく理解しています。実際、それが私がこの職を引き受けた理由です）。しかし、AI 政策に関する事項についてコメントする際に知的独立性を維持する計画であることを、事前に明確にしておきたいのです。この独立性を確保することは、私がこの役割を引き受けるにあたっての最も重要な要因でした。これがなければ、私は引き受けられなかったでしょう。 その上で、上記には合理的な例外があることをお許しください。例えば、OpenAI に関わる著名な訴訟が発生した場合です。OpenAI の従業員として、そのような話題について公にコメントすることには法的障壁が存在する可能性があります。特に、私の職務が訴訟に関連する非公開情報の知識を含む場合です。もちろん、今後の製品発表やその他の機密性の高い会社計画についても同様です。 もう一つ、完全なる誠意を尽くすために付け加えるべきニュアンスがあります：私のキャリアのあらゆる段階において、私は公的なコミュニケーションのトーンと調子を、自分の役割に合わせるよう努めてきました。ホワイトハウス職員だった際には、長年のワシントン D.C. の内部関係者から「異常に高い」と言われるほどの率直さをもって公的に発言しました。しかし、私の公的な発信は、政府を離れて再びシンクタンクの研究者となった後のコミュニケーションとは明確に異なっていました。同様に、この新しい役割においてどのような調子で話すかが最も適切かについては、時間をかけて見極める必要があります。しかし、重要な点は、その探求のプロセスと、その過程で行われるすべての決定は、私の雇用主によって指示されるものではなく、私自身が行うものだということです。 AI ガバナンスの第一段階（2022 年 11 月頃から 2025 年後半または 2026 年初頭まで続いた期間）は「イージーモード」でした。しかし、より困難で新たな段階が始まっています。政治的な要素が増し、賭け金も高まります。私が安心できるのは、この新しい時代において、安全な未来とより良い世界を構築するために、我々を支援する極めて有能な技術的ツールが用意されているという事実です。これらのツールの力は、過ぎ去る月ごとにますます急速に増大しています。ただ願わくば、私たち人類と、私たちの人間社会の制度も、それらと共に成長できることです。これは、これまで通り、私たちが取り組むべき仕事であり、その歩みは止まることなく続いています。 しばらくしてまたお話ししましょう。 ディーン

未踏の地（6 分間の読了）

背景や根拠まで確認しますか？

調べる

選ぶ

サイト