Anthropicとアライメント

改善版翻訳文

ベン・トンプソンが『ストラテチェリー』にて執筆：

実際、アモデイはすでにその問いに答えている：もし核兵器が民間企業によって開発され、その企業が米軍に条件を呑ませようとしたならば、米国は間違いなくその企業を潰す動機を持つだろう。その理由は、国際法、北朝鮮、そしてその他の問題に立ち返る：

国際法は結局のところ、力の関数である。力が正義を決める。

核兵器のような能力には、米国の行動の自由を根本的に制約するほど強力なものがある。我々はイランを爆撃できるが、北朝鮮にはできない。

AIが核兵器と同等、あるいはそれ以上のレベルにあるとすれば、アモデイとAnthropicは米軍に対抗しうる権力基盤を築いていることになる。

Anthropicはアラインメントについて多くを語る。しかし、米軍をコントロールしようとするこの主張は、根本的に現実と整合していない。現在のAIモデルが、明らかにまだ米軍に匹敵するほど強力ではないとしても、もしそれが目指す方向であるなら――そしてその方向性をアモデイ以上に声高に主張する者はいない――米国が直面する選択肢は、実際には極めて二者択一のように私には思える：

選択肢1は、Anthropicが米国政府に対して従属的な立場を受け入れ、自社モデルの使用方法に関する最終的な決定権を保持せず、それを議会と大統領に委ねることだ。

選択肢2は、米国政府がAnthropicを解体するか、アモデイを排除することだ。

議会が――（周囲を見回す）――このすべての議論から欠落している。国防総省の名称に至るまでだ。トランプ政権はこぞってそれを「戦争省」と呼ぶようになったが、法的な名称を変更できるのは議会だけである。（Anthropicも、政権との非常に公的な論争にもかかわらず、「戦争省」と呼んでいる。）

ニライ・パテルは、私が上記で引用したトンプソンのコラムの同じ部分を引き合いに出し、それを「ベン・トンプソンがファシズムを全面的に擁護する議論を展開している」と見なしている。私はこれを、コーポラトクラシー（企業支配体制）に対する批判の論拠と見る。我々の防衛政策を決めるのは誰か？民主的に選出された指導者か、それとも防衛関連企業のCEOたちか？

★