Built to benefit everyone: our plan (5 minute read)｜すべての人の利益のために：私たちの計画（5 分読了） | AIニュース最前線

数世代に一度、新しい技術がすべてを変えます。 1920 年代のアメリカの田舎町に電気が届いたと想像してみてください。送電線が来る前までは、日常生活は物理的な制約によって形作られていました：水を汲みに行き、手洗い洗濯をし、氷で食料を保存し、日が沈むとともに一日の大半を終える生活でした。電気は一夜にしてすべての世帯を変えたわけではありませんし、その恩恵が人々に均等に届いたわけでもありませんでした。しかし、アクセスが広がるにつれて、普通の生活は変わっていきました。夜間の照明によって一日が延長され、電動ポンプや家電製品、冷蔵技術によって最も過酷な日常作業の一部が軽減されました。ラジオは数百マイル離れた場所からのニュース、音楽、そしてつながりを家庭やコミュニティの空間にもたらしました。 電気の最初の約束は実用的なものでしたが、そのより深い影響は、より多くの人々がそれを利用できるようになったことで開かれた新たな可能性から生まれました。時を経て、多くの新しい可能性が現れ、機械やコンピュータによって医学、工学、および他の多くの分野における進歩が劇的に加速しました。20 世紀末には、平均寿命は 20 年以上増加し、物価変動調整後の所得中央値は約 3 倍になりました。これらの成果は、医療、衛生、生活水準の向上による部分が小さくなく、その多くが広範な電気化および関連する技術進歩によって可能になったり加速されたりしたものです。 AI においても再び同じことが起こりつつあります。AI はまもなく並外れたことを成し遂げる能力を持つようになるでしょう。しかし、重要なのは技術そのものではなく、人々がそれを使って何ができるかです。医療費の請求書に悩む人をナビゲートする手助けをしたり、新しいスキルを学んだり、小規模事業を始めたり、高齢化する親の介護を行ったり、法的または金融的な決定を理解したり、アイデアを実体あるものに変えたり、科学的発見をもたらしたりすることにも役立ちます。 夜間の光の奇跡がすぐに色あせたとしても、人々がそれを使って何を決断したかはそうではありませんでした。そして、技術は長期的に繁栄をもたらす信頼できる手段であるため、AI は必要な時に、必要な場所で、必要なだけ誰もが利用できるようにすべきだと考えています。 そのような未来が自動的に訪れるわけではありません。変革的な技術は権力を集中させることもあれば、広げることもあります。少数の人々の生活を楽にするか、多くの人に機会を広げるかのどちらかです。私たちのアプローチは、AI は人々のために機能すべきだという信念に基づいています：人々が自身の目標を追求するのを助け、彼らの能力を高め、この技術の恩恵を可能な限り広く分配することです。 私たちの最初のコミットメントは、人類のために AI を構築することです。つまり、権力を少数の企業、政府、または個人に集中させるのではなく、広く人々に力を与えることを望んでいます。私たちは、権力が広く分散された方が安全な未来になると信じており、そうすれば世界のより多くの人々がレジリエンス・エコシステムの構築に参加できるようになります*。 私たちは AI が人間の能力と繁栄を拡大できると信じているため、AI に対して楽観的です。しかし、リスクについても明確に認識しています。強力なシステムは安全であり続け、人間の意図と整合し、人間の制御下に置かれる必要があります。OpenAI の使命は、AGI（汎用人工知能）が人類全体に利益をもたらすことを保証することです。つまり、人間が何をすべきかという判断を代替するのではなく、人間が自ら選択したことをより多く行えるようなシステムを構築することを意味します。 すべてを完全に自動化することが、私たちが望む未来ではありません。それは満たされることのないものであり、危険でもあります。AI は人々が目標を追求するのを助けるべきであり、それらから切り離された存在になってはいけません。AI システムがより能力を持つようになるほど、人間の役割はより重要になります：方向性を設定し、トレードオフを行い、判断を下し、価値観、嗜好、配慮、責任を仕事に持ち込むことです。 人々にとっての重要な長期的な役割の一つは、何をすべきかを決めることです。 AI による AI 研究が、今後数年間の進歩のペースを決定づける要因になると信じています。これは重要です。なぜなら、アライメント（整合性）自体が難しい研究課題だからです。急速かつ深い進展を実現するために、私たちの研究者は、アイデアを検証し、ミスを発見し、代替案を探求し、私たちと共に反復する AI システムを必要とします。 しかし、技術的な進歩が速くなるほど、人間の判断と公衆の調整はより重要になります。未来は、最も能力の高いシステムを開発する企業だけでなく、人々、機関、社会によって形作られるべきです。 フロンティア AI の開発が続く中、国家レベルおよびグローバルな調整の重要性が高まると予想しています。私たちは長年、主要な AI 取り組みを調整し壊滅的なリスクを低減するために最終的に国際機関が存在すべきだと信じてきました。協力と共有された安全基準は、商業的・国家的競争に関するインセンティブから逃れるのが難しいという点も踏まえ、今後の重要な道筋の一部です。そのような組織の目的の一つは、必要に応じてフロンティア開発を遅らせるなど、世界が協調行動をとれるようにすることであり、それによって社会のレジリエンス（回復力）、安全性、およびアライメント（目標整合性）が追いつくようにすることです。 現在、OpenAI には3つの主要な目標があります。 **自動化された AI 研究者を構築する**——これは研究プロセス自体を加速し、次第にそのプロセスを自動化しつつも、操作可能で説明責任があり、人間と連携できる AI システムです。私たちの内部の信念では、2028年3月までに、研究の相当部分が AI システムと我々の研究者が共同で行われるようになる可能性があります。アライメントに関する十分な進展を遂げるためには、AI が私たちと共に反復作業を行う必要があると考えています。これにより、ポスト AGI（汎用人工知能）の世界への移行を乗り切り、未来への道筋を集団的に決定できるようになるでしょう。 **経済を加速させる**ために、科学の進展、生産性、経済成長を加速させつつ、その恩恵が広く共有されるよう努めます。AI が生み出す繁栄から、誰もが意味ある形で参加する機会を持つべきです。 **地球上のすべての人に個人用の AGI を提供し**、人類が最も変革的な技術の一つを、各自が望む方法で活用できるようにします。 これを実現するために、私たちは OpenAI の第 3 フェーズへと移行します。 OpenAI の第 1 フェーズは、AGI に向けた研究を行うことに焦点を当てていました。第 2 フェーズは、私たちの研究が現実世界に関連するようになり、製品会社として活動を開始したときに始まりました：システムの展開、人々の利用状況からの学習、そして当社のミッションに合致し安全な AGI への継続的な進展です。 今、私たちは第 3 フェーズへと移行しています。経済は AI を中心に再編され始めています。現在の中心的な課題は、高度な AI をあらゆる個人や組織が恩恵を受けられるほど豊富で、手頃で、安全で、有用かつ使いやすいものにする方法です。最先端の能力を備えることは仕事の一部に過ぎません。より大きな課題は、その能力を実際に人々が活用して繁栄できるツールへと転換することです。 何よりも、権力の広範な分散がより良い未来への道筋につながると私たちは信じています。人類史は、権力が集中すると脆弱性が生じる一方、広く共有された権力は社会をより回復力があり、適応力が高く、自由なものにすることを示しています。 だからこそ、アクセスの重要性があります。また、安全性、プライバシー、手頃な価格、オープンなエコシステム、そして公的な監督が重要である理由でもあります。 良い AI の未来とは、少数の機関が大半の能力と利益を支配するようなものであってはなりません。多くの人々、企業、コミュニティ、国々が構築し、恩恵を受け、権力を握ることのできる未来であるべきです。私たちはこの変革はすべての人のものになるべきだと信じています。 これを正しく実現できれば、AI は多くの人のためのより高い生産性、創造性、科学的進歩、経済的機会のための基盤となり、私たちのミッションを達成します：AGI が人類全体に恩恵をもたらすことを保証することです。 **AI レジリエンス（AI resilience）とは、社会が AI に起因する混乱を予測し、耐え、適応し、迅速に回復するために構築できる組織、システム、個人を集めたものを指します。例えば、自動車は社会を変革しましたが、広く有益なものとなったのは、社会がそれらを取り巻くシステム——シートベルト、交通法規、運転免許、衝突テスト、道路インフラストラクチャー——を構築したからです。目的は人々の運転を止めることではなく、強力な技術を広範に利用可能なほどレジリエント（回復力のある）にすることでした。**

すべての人の利益のために：私たちの計画（5 分読了）

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト