Anthropicの責任あるスケーリング方針：バージョン3.0

Anthropicの責任あるスケーリング方針：バージョン3.0 当社は、AIシステムによる壊滅的リスクを軽減するために使用する自主的枠組みである「責任あるスケーリング方針（RSP）」の第3版を公開します。 AnthropicがRSPを策定してから2年以上が経過し、その利点と欠点について多くのことを学びました。したがって、これまでうまく機能してきた部分を強化し、必要に応じて方針を改善し、意思決定の透明性と説明責任を高めるための新たな措置を実施するために、本ポリシーを更新します。 新しいRSPの全文はこちらでお読みいただけます。この記事では、変更の背景にある考え方の一部について説明します。 当初のRSPと私たちの変革理論 RSPは、方針が策定された時点では存在しないが、指数関数的に進歩する技術の結果として急速に出現する可能性のあるAIリスクに、どのように対処すべきかという問題を解決するための私たちの試みです。2023年9月に当初のRSPを策定した当時、大規模言語モデルは本質的にチャットインターフェースでした。今日では、ウェブを閲覧し、コードを書いて実行し、コンピューターを利用し、自律的で複数段階のアクションを取ることができます。これらの新機能が出現するたびに、新たなリスクも生じています。このパターンは今後も続くと予想しています。 私たちはRSPを、条件的、すなわち「もし～ならば」というコミットメントの原則に焦点を当てました。もしモデルが特定の能力レベル（例えば、危険な兵器の作成を支援し得る生物科学の能力）を超えた場合、方針は、新しくより厳格な一連の保護策（例えば、モデルの悪用やモデルウェイトの盗難に対する対策）を導入すべきであると定めました。 各保護策のセットは「AI安全レベル（ASL）」に対応しています。例えば、ASL-2は必要とされる一連の保護策を指し、ASL-3はより高度なAIモデルに必要な、より厳格な一連の保護策を指します。 初期のASL（ASL-2およびASL-3）はかなり詳細に定義されましたが、まだ数世代先のモデルに対する適切な保護策を規定することはより困難でした。そのため、私たちは意図的に後のASL（ASL-4以降）を大部分未定義のままにし、より高度なAI能力レベルが何を伴うかについてより明確な見通しが立った時点で、それらをより詳細に策定することを望みました。 以下は、私たちの「変革理論」、すなわちRSPによって生態系に影響を与えたいと望んだメカニズムの大まかな説明です。 内部の強制機能。Anthropic内部では、RSPが重要な保護策を新モデルの公開（およびトレーニング）の要件として扱うことを私たちに強いることを望みました。これは、拡大し続ける大規模な組織にとってこれらの保護策の重要性を明確にし、より迅速な進歩を促すことになりました。 頂点を目指す競争。私たちのRSPを発表することが、他のAI企業が同様の方針を導入するよう促すことを望みました。これは「頂点を目指す競争」（「底辺への競争」の逆）の考え方であり、業界の異なるプレイヤーが自社モデルの保護策と全体的な安全性の態勢を弱めるのではなく、改善するインセンティブを得るというものです。時が経つにつれ、RSPや類似の方針が自主的な業界標準となるか、あるいはAIモデル開発における安全性と透明性を促進することを目的としたAI法の策定に寄与することを望みました。 リスクに関するより多くの合意形成。私たちは、能力の閾値を業界にとって潜在的に重要な瞬間と見なしました。もし重要な能力の閾値（例えば、AIモデルが生物兵器のエンドツーエンド生産を支援する能力）に達した場合、私たち自身が適切な保護策を実施し、AI能力について得た証拠を用いて、他の企業や政府にも同様の行動を取るよう働きかけることとしました。言い換えれば、能力の閾値は、単独行動（Anthropicが自社モデルに保護策を要求する）を超え、多国間行動（他のAI企業や政府もそのような保護策を要求する）を促す良い機会になり得ると信じていました。 未来を見据えて。私たちは、後の能力閾値のいくつかにおいて想定していた対策の強度（例えば、国家レベルのアクターによるAIモデルの悪用に対して高い堅牢性を達成すること）は、Anthropicが単独で達成するにはおそらく困難または不可能であろうと認識していました。私たちは、これらのより高い能力レベルに到達する頃までには、世界がその危険性を明確に認識し、一企業だけでは達成が難しい保護策の実施において世界中の政府と協力できることを望みました。 変革理論の評価 2年半後、率直に評価すると、この変革理論の一部は期待通りに展開しましたが、他の部分はそうではありませんでした。RSPが成功した分野は以下の通りです。 私たちのRSPは、より強力な保護策の開発を確かに促しました。例えば、ASL-3導入基準（これは主に、比較的限られたリソースと専門知識を持つ脅威アクターによる化学・生物兵器のリスクに関するもの）に準拠するために、懸念されるコンテンツをブロックするための、ますます洗練され正確な方法（具体的には、入力および出力分類器）を開発しました。 より広く見ると、ASL-3基準の全体的な実施は確かに実行可能であることが証明されました。私たちは2025年5月に関連モデルに対してASL-3保護策を発動し、それ以来それらを改善する取り組みを続けています。 私たちのRSPは、他のAI企業がある程度類似した基準を採用するよう確かに促しました。私たちがRSPを発表してから数ヶ月以内に、OpenAIとGoogle DeepMindの両方が広く類似した枠組みを採用しました。また、いくつかの企業は、私たちのASL-3防御と同様の流れで生物兵器関連の分類器を実装しています。RSPを含むこれらの自主的基準の背後にある原則は、初期のAI政策の策定に寄与してきました。私たちは、世界中の政府（例えばカリフォルニア州のSB 53、ニューヨーク州のRAISE法、EU AI法の実施規範など）が、フロンティアAI開発者に壊滅的リスクを評価・管理するための枠組みを作成し公表することを要求し始めているのを目にしています。これは、AnthropicがFrontier Compliance Frameworkを含む公開文書を通じて対応している要件です。業界に対してこの種の厳格な透明性枠組みを促進することは、まさに私たちのRSPが目指していたことでした。 それにもかかわらず、私たちの変革理論の他の部分は、期待通りには展開しませんでした。 RSPの閾値を用いてAIリスクに関するより多くの合意を形成するという考え方は、そのような効果が多少はあったものの、実際には実現しませんでした。事前に設定された能力レベルは、私たちが予想したよりもはるかに曖昧であることがわかりました。いくつかのケースでは、モデルの能力が明らかにRSPの閾値に近づいていますが、それらが明確にその閾値を超えたかどうかについて、私たちはかなりの不確実性を抱えています。モデル評価の科学は、決定的な答えを提供するほど十分に発達していません。そのような場合、私たちは予防的アプローチをとり、関連する保護策を実施してきましたが、私たちの内部の不確実性は、AI業界全体で多国間行動を取るための外部への説得力の弱い主張に変換されてしまいます。 生物学的リスクは、この「曖昧さの領域」の一例を提供します。私たちのモデルは現在、迅速かつ容易に実行できるほとんどのテストを通過する十分な生物学的知識を示しているため、特定のモデルからのリスクが低いという強力な主張はもはやできません。しかし、これらのテストだけでは、リスクが高いという強力な主張にも十分ではありません。私たちは、大規模なウェットラボ試験の支援など、追加の証拠を求めてきましたが、結果は依然として曖昧です。特に、研究には長い時間がかかるため、研究が完了する頃にはより強力なモデルが利用可能になるからです。 過去3年間のAI能力の急速な進歩にもかかわらず、AI安全に関する政府の動きは遅いままです。政策環境はAIの競争力と経済成長を優先する方向にシフトしており、安全性を重視した議論は連邦レベルではまだ有意義な牽引力を得られていません。私たちは、AI安全に関する効果的な政府の関与が、

Anthropicの責任あるスケーリング方針：バージョン3.0

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト