未踏の地(6 分間の読了)
TLDR AI は、AI テクノロジーの未来における新たな可能性と課題について考察した記事を発表し、技術的進歩が社会実装にどう影響するかを論じた。
キーポイント
AI の未来像と未踏の世界
記事は「未踏の世界(untraveled world)」という比喩を用い、現在の AI 技術が到達した地点から先にある未知の可能性について考察している。
新たな可能性の探求
既存の枠組みを超えた応用や、人間と AI の関係性における根本的な変化について言及されている。
技術的課題と展望
未来への道筋において直面する技術的・社会的な障壁と、それを乗り越えるための視点が含まれている。
影響分析・編集コメントを表示
影響分析
この記事は特定の具体的な製品発表や数値的な進展を報じるものではなく、AI テクノロジーの哲学的・概念的な未来像について議論しているため、業界への即時的な影響度は限定的です。しかし、技術者や戦略立案者に対して、短期的な成果だけでなく長期的な視点を持つことの重要性を再認識させる意義があります。
編集コメント
具体的な技術詳細や企業動向に言及されていないため、業界への直接的なインパクトは低く評価されますが、長期的な視点を持つための示唆に富む記事です。
*私は出会ったすべてのものの一部であり、
しかしすべての経験は、その縁が
私が動くたびに永遠に永遠に消えていく
未踏の世界の光が射すアーチである。
*アルフレッド・テニスン、「ウリシーズ」より
嬉しいお知らせです:7 月 6 日、私は OpenAI の「戦略的将来部門(Strategic Futures)」の責任者として加わります。これは同社内で最先端 AI の政策形成を担うために新たに創設されたチームです。私は引き続き、アメリカ革新財団(Foundation for American Innovation)の非居住上級フェローとしても在籍します。
このチームはどのような活動を行うのでしょうか?戦略的将来部門は、OpenAI 内に置かれる小規模かつ高い自律性を持つチームであり、首席戦略責任者であるジェイソン・クワンに報告し、最先端 AI の政策形成を担います。具体的には、壊滅的なリスク、再帰的自己改善、労働市場への影響、そして最先端研究機関(frontier labs)と政府(特に米国連邦政府)、社会との関係に関する事項が対象となります。その活動範囲は、立法案の提案など対外的な政策から、研究所内のガバナンスまで広がり、技術スタッフ、準備チーム、法務チーム、国家安全保障およびグローバルアフェアーズ部門からの政策担当者、そして経営陣と緊密に協力して進められます。
技術スタッフとの協働は、Strategic Futures チームにとって特に重要です。新興する AI リスクの姿を理解するため(もちろんこれが鍵となります)だけでなく、AI がより広範にどのように発展しているかを理解するためにも不可欠です。その上で、機械学習や AI 政策に関する専門知識が必須というわけではありません。私は異端派とも呼べる多様なチームを構築したいと考えており、幅広い分野と視点を集約するつもりです。さらに詳しく知りたい方は、お気軽にご連絡ください。
『Hyperdimensional』は、2 つの根本的な直感に基づいて構築されました:(1) 最前線の研究所自体が太陽の下に存在する新しい種類の機関となり、社会の他の制度的支柱との間に新たな関係性を築くだろうという点、そして (2) 変革をもたらす AI そのものが単なる「規制」を必要とするだけでなく、全く新しい種類のガバナンスを可能にするガバナンス技術そのものとなるという点です。時が経つにつれ、私は3つ目の重要な直感を加えました:ほぼ必然的に、最も重要な最前線 AI ガバナンスの決定は、最前線の研究所自体によって形成されるか、あるいは完全に彼らによって行われる可能性が高いということです。言い換えれば、内部ガバナンス(internal governance)が、AI の未来において、多くの人々が認識している以上に中心的な役割を果たすことになります。
これはすべて非常に良いことですが、それでもなお行き場のない抽象的な話に過ぎません。そして、フロンティア・ラボの外から得られる視点からは、これがそのまま続くことになるでしょう。これらの直感を前進させ、より具体的なものにするためには、「内部に入る」しかないのだと私は realizing しました。これが私がこの役割を引き受けた核心的な理由です。そうすることなくしてボールを前に進めることは不可能だと信じています(これは私の特定のキャリアパスにおける産物であることを明確にしておきます;私は、ラボの外から良い AI ポリシーの仕事をすることが不可能であると言っているわけではありません)。
「内部に入る」ことについてこれらの考えを抱いていたのは数か月前のことでしたが、幸運なことに OpenAI からこの役割に興味があるかどうかを尋ねられました。そうしていただいたことに感謝し、光栄に思っています。また、OpenAI のすべてのチームの新しい同僚たちから学ぶことを楽しみにしています。この会社には地球上のいかなる企業にも匹敵するほどの才能密度があると信じており、その取り組みに貢献するよう招かれたことは特に興奮する一方で、正直言って少し恐ろしいことでもあります。
さて、*Hyperdimensional* 自体について:この出版物は引き続き活動的であり、かつ独立したままです。過去数か月にわたってそうであったように、刊行量は月間 2〜3 件の投稿程度になる見込みですが、状況が許せばそれ以上になるかもしれません。OpenAI のチームが行っている仕事に関するニュースを共有する一方で、これまでここで続けてきたような分析や執筆も継続していく予定です。
完全な明確さのために、ここで私が執筆する内容はすべて私の個人的なものです。OpenAI の関係者が私の執筆内容に対して事前承認権や編集裁量を持つことはありません。この独立性は、私の X アカウントおよび来年ペンギン・プレス(当初発表されたスケジュール通り)で出版される forthcoming book にも当てはまります。つまり、私は OpenAI およびその指導部の方針から公に離れることができるのです。そのような相違が劇的になるとは予想していません(長年にわたり OpenAI の指導部と広範な議論を行ってきたため、私たちが多くの共通の目標や価値観を共有していることをよく理解しています。実際、それが私がこの職を引き受けた理由です)。しかし、AI 政策に関する事項についてコメントする際に知的独立性を維持する計画であることを、事前に明確にしておきたいのです。この独立性を確保することは、私がこの役割を引き受けるにあたっての最も重要な要因でした。これがなければ、私は引き受けられなかったでしょう。
その上で、上記には合理的な例外があることをお許しください。例えば、OpenAI に関わる著名な訴訟が発生した場合です。OpenAI の従業員として、そのような話題について公にコメントすることには法的障壁が存在する可能性があります。特に、私の職務が訴訟に関連する非公開情報の知識を含む場合です。もちろん、今後の製品発表やその他の機密性の高い会社計画についても同様です。
もう一つ、完全なる誠意を尽くすために付け加えるべきニュアンスがあります:私のキャリアのあらゆる段階において、私は公的なコミュニケーションのトーンと調子を、自分の役割に合わせるよう努めてきました。ホワイトハウス職員だった際には、長年のワシントン D.C. の内部関係者から「異常に高い」と言われるほどの率直さをもって公的に発言しました。しかし、私の公的な発信は、政府を離れて再びシンクタンクの研究者となった後のコミュニケーションとは明確に異なっていました。同様に、この新しい役割においてどのような調子で話すかが最も適切かについては、時間をかけて見極める必要があります。しかし、重要な点は、その探求のプロセスと、その過程で行われるすべての決定は、私の雇用主によって指示されるものではなく、私自身が行うものだということです。
AI ガバナンスの第一段階(2022 年 11 月頃から 2025 年後半または 2026 年初頭まで続いた期間)は「イージーモード」でした。しかし、より困難で新たな段階が始まっています。政治的な要素が増し、賭け金も高まります。私が安心できるのは、この新しい時代において、安全な未来とより良い世界を構築するために、我々を支援する極めて有能な技術的ツールが用意されているという事実です。これらのツールの力は、過ぎ去る月ごとにますます急速に増大しています。ただ願わくば、私たち人類と、私たちの人間社会の制度も、それらと共に成長できることです。これは、これまで通り、私たちが取り組むべき仕事であり、その歩みは止まることなく続いています。
しばらくしてまたお話ししましょう。
ディーン
原文を表示
*I am a part of all that I have met;
Yet all experience is an arch wherethro'
Gleams that untravell'd world whose margin fades
For ever and forever when I move.
*Alfred, Lord Tennyson, “Ulysses”
I am pleased to share exciting news: on July 6, I will be joining OpenAI at Head of Strategic Futures, a new team created to shape frontier AI policy within the company. I will remain a Nonresident Senior Fellow at the Foundation for American Innovation.
What will this team be doing? The Strategic Futures team will be a small, high-agency team within OpenAI, reporting to Chief Strategy Officer Jason Kwon, charged with shaping frontier AI policy, which is to say matters pertaining to: catastrophic risk, recursive self-improvement, labor market impact, and the relationship between the frontier labs, governments (particularly the U.S. Federal Government), and society. Its work will cover both public-facing policy (for example, proposals for legislation) and internal governance within the lab, working in close collaboration with members of the technical staff, the Preparedness team, the legal team, policy staff from the National Security and Global Affairs teams, and the executive leadership of the company.
The collaboration with technical staff is particularly important for the Strategic Futures team, not only to understand the shape of emerging AI risks (though this is key), but also to understand how AI is developing more broadly. With that said, machine-learning or AI policy expertise is not a requirement; I am hoping to build a heterodox team, bringing together a wide variety of disciplines and perspectives. If you are interested in learning more, please reach out.
*Hyperdimensional *was built on two foundational intuitions: (1) that frontier labs themselves would be a new kind of institution under the sun, with a new set of arrangements with the other institutional pillars of our society and (2) that transformative AI itself will be a governance technology, not just *requiring *some degree of “regulation” but also *enabling *altogether new *kinds *of governance. Over time, I added a third key intuition: that, almost by necessity, some of the most important frontier AI governance decisions are likely to be shaped by, if not fully made by, the frontier labs themselves. In other words, *internal governance *will be more central to the future of AI than most people realize.
This is all well and good, but it is also hopelessly abstract. And so it will remain from the vantage point one is afforded outside of a frontier lab. In order to advance those intuitions, to make them more concrete, I realized that I simply must “go inside.” This is the core reason I have taken this role. I believe it is impossible for me to advance the ball forward without doing so (this is an artifact of my particular career pathway, to be clear; I am not suggesting it is impossible to do good AI policy work from outside of a lab).
I had been having these thoughts about “going in” for a few months, when, by stroke of luck, OpenAI asked me if I had interest in this role. I am grateful and honored that they did so, and I look forward to learning from my new colleagues across all the teams at OpenAI. I believe the talent density at this company rivals any company on Earth, so it is a particular thrill—and I must admit more than a little intimidating—to be invited to contribute to its efforts.
Now, about *Hyperdimensional *itself: this publication will remain both active *and *independent. As has been the case for the past several months, publication volume will be in the range of 2-3 posts per month, though perhaps higher if circumstances allow. I plan to share news about the work my team at OpenAI is doing, but also to continue the type of analysis and writing I’ve been doing here all this time.
In the interest of full clarity, the writing I do here will be fully mine: no one at OpenAI will have preapproval or editorial discretion over what I write here. The same independence will be true for my X account and for my forthcoming book, to be published next year with Penguin Press (the same schedule as initially announced). This means that I can publicly depart from the positions of OpenAI and its leadership. While I do not anticipate any such divergence to be stark (having spoken extensively with OpenAI leadership over the years, I have a good sense that we share many of the same objectives and values; indeed, that’s why I took the job!), I want to be clear with you, upfront, that I plan to maintain my intellectual independence when commenting on matters of AI policy. Ensuring this independence was *the *key factor for me in taking this role. Without it, I could not have accepted.
With this said, there are some exceptions to the above that I hope you will find reasonable. Say, for instance, that there is prominent litigation involving OpenAI. As an OpenAI employee, there may be legal barriers to my commenting publicly on such a topic, particularly if my job involves knowledge of non-public information related to the lawsuit. The same would be true, of course, of future product releases and other confidential company plans.
One other nuance I should add, in the interest of complete candor: at all points in my career, I have tried to match the tone and tenor of my public communication with my role. I communicated publicly when I was a White House staffer—with a level of frankness that longtime D.C. insiders routinely told me was abnormally high, I might add. But my public communications were markedly distinct from how I communicated after I left government and became a think tank scholar again. Similarly, I will have to discover, over time, the most appropriate register to speak with in this new role. The salient thing, however, is that the process of discovery, and every decision made along the way, will be mine, and not directed by my employer.
—
The first phase of AI governance—the one that lasted from about November 2022 until late 2025 or early 2026—was “easy mode.” A new and more difficult phase has begun. There will be more politics and higher stakes. I am comforted in the knowledge that we enter this new era will extraordinarily capable technological tools to help us build a secure future and a better world—tools whose power grows ever more swiftly with each passing month. I hope only that we, and our human institutions, can grow with them. This, as ever, is our work, and it continues apace.
Talk to you after a while.
Dean
関連記事
新しい調査によると、アメリカ人のわずか16%が AI は社会にプラスの影響を与えると考えている
TechCrunch が報じた新しい調査では、アメリカ人のうち AI が社会に良い影響を与えると考える人は 16% に過ぎないことが示された。
ロビンフッドの 10% 削減発表、AI への責任転嫁が通用しないことを示す
ロビンフッドは従業員 10% の削減を発表したが、その理由を AI 導入に求める姿勢は効果的ではないと指摘されている。同社は技術革新よりも経営判断の誤りを認める必要がある。
ブログの裏側:危険なミームについて
404 Media のエマニュエルが、Google 従業員が社内の AI 製品を嫌う内容のミームを共有した記事作成の背景や、メタでの出来事について語っている。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み