Introducing The Anthropic Institute｜Anthropic Instituteの設立発表

**タイトル: The Anthropic Institute の設立について** **The Anthropic Institute の設立について** 私たちは、強力なAIが社会にもたらす最も重大な課題に立ち向かう新たな取り組み「The Anthropic Institute」を設立します。The Anthropic Instituteは、Anthropic社全体の研究成果を活用し、より強力なAIシステムが普及する世界への移行期において、他の研究者や一般の方々が利用できる情報を提供します。 Anthropic社が創業してからの5年間で、AIの進歩は驚異的な速さで進みました。最初の商用モデルのリリースまでに2年を要しましたが、その後わずか3年で、深刻なサイバーセキュリティの脆弱性を発見し、幅広い実務を担い、さらにはAI開発のペースそのものを加速させ始めるモデルを開発しました。 私たちは、今後2年間で、はるかに劇的な進歩が続くと予測しています。当社の核となる信念の一つは、AI開発は加速しており、私たちが行う改善は時間とともに複利のように積み上がっていくということです。このため、当社CEOのDario Amodeiが『Machines of Loving Grace』で述べているような、極めて強力なAIは、多くの人が考えるよりもはるかに早く到来します。 もしこれが正しいなら、社会は間もなく多くの巨大な課題に直面することになるでしょう。強力なAIシステムは、私たちの仕事や経済をどのように再構築するのでしょうか。それらは、社会の強靭性を高めるどのような機会をもたらすのでしょうか。どのような脅威を増幅させたり、新たに生み出したりするのでしょうか。AIシステムが表明する「価値観」とは何であり、社会は企業が適切な価値観を決定するのをどのように支援すべきでしょうか。そして、もしAIシステムの再帰的自己改善が実際に始まった場合、世界の誰に知らせるべきであり、これらのシステムはどのように統治されるべきでしょうか。 The Anthropic Instituteの目標は、フロンティアAIシステムを構築する中で私たちがこれらの課題について学んでいることを世界に伝え、外部の関係者と協力して、私たちが直面せざるを得ないリスクへの対応を支援することです。私たちの社会がこれに対処できるかどうかは、変革をもたらすAIが、科学、経済発展、そして人間の主体性において、私たちが可能だと信じる根本的な恩恵をもたらすかどうかを決定づけるでしょう。 この研究所は、共同創業者であるJack Clarkが率いており、彼はAnthropic社の「公共の利益(Public Benefit)」責任者として新たな役割を担います。研究所には、機械学習エンジニア、経済学者、社会科学者からなる学際的なスタッフが在籍し、Anthropic社の3つの研究チームを統合・拡張します。すなわち、AIシステムの現在の能力の限界を理解するためにストレステストを行う「フロンティア・レッドチーム(Frontier Red Team)」、AIが実世界でどのように使用されているかを研究する「社会的影響(Societal Impacts)」チーム、そして雇用やより広範な経済への影響を追跡する「経済研究(Economic Research)」チームです。研究所はまた、新しいチームを立ち上げており、現在、AIの進歩予測や、強力なAIが法制度とどのように相互作用するかをより深く理解するための取り組みを進めています。 この研究所は独自の優位性を持っています。それは、フロンティアAIシステムの構築者だけが持つ情報にアクセスできるからです。研究所はこの利点を最大限に活用し、私たちが作り上げている技術の実態について学んでいることを率直に報告します。同時に、この研究所は双方向の窓口でもあります。それは、雇用の変化に直面する労働者や産業、そして未来が迫っていると感じながらも、どのように対応すべきか確信が持てない人々やコミュニティと対話します。そこから得られる知見は、研究所の研究テーマや、会社全体としての行動方針を決定する上で重要な情報となります。 The Anthropic Instituteは、以下の創設メンバーを迎え入れました。 イェール・ロー・スクールのResident Fellowであり、以前はGoogle DeepMindのシニア・ディレクター・オブ・リサーチおよびプリンストン大学の神経計算学(Neural Computation)教授を務めたMatt Botvinickが、AIと「法の支配」に関する研究を率いるために研究所に加わります。 Anton Korinekが、バージニア大学の経済学教授の職務から休職して経済研究(Economic Research)チームに加わり、変革をもたらすAIが経済活動の本質そのものをどのように再構築する可能性があるかを研究する取り組みを率います。 以前OpenAIでAIの社会的・経済的影響を研究していたZoë Hitzigが加わり、私たちの経済研究をモデルのトレーニングと開発に結びつけます。 私たちはまた、採用活動も行っています。The Anthropic Instituteは、研究計画の様々な部分を統合し、私たちの成果を世界に発信する小規模な分析スタッフを構築中です。詳細はこちらでご覧いただけます。 **Anthropic社の公共政策(Public Policy)チームの拡大** The Anthropic Instituteの設立と並行して、私たちは公共政策(Public Policy)組織を拡大します。 公共政策チームは、Anthropic社が優先事項と明確な見解を持つ分野に焦点を当てます。これには、モデルの安全性と透明性、エネルギー料金の利用者保護、インフラ投資、輸出管理、そしてAIにおける民主的なリーダーシップが含まれます。Anthropic社に対外渉外(Head of External Affairs)責任者として入社したSarah Heckが、公共政策(Head of Public Policy)責任者としてこのチームを率います。Anthropic社以前は、Sarahは金融技術会社Stripeの起業家支援(Head of Entrepreneurship)責任者を務め、それ以前はホワイトハウス国家安全保障会議で世界的な起業家精神と公共外交政策を担当していました。 私たちは、世界中のAIガバナンスに情報を提供し、その形成を支援するために、公共政策チームを強化しています。今年の春にワシントンD.C.に最初のオフィスを開設し、グローバルな政策活動を急速に拡大しています。現在の求人はこちらでご覧いただけます。 **関連コンテンツ** シドニーはAnthropic社のアジア太平洋地域における4番目のオフィスになります Firefoxのセキュリティ向上のためにMozillaと提携 戦争省(Department of War)の現状について Dario Amodeiからの声明

Anthropic Instituteの設立発表

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト