AI は配偶者を殺害する罪を免れる手助けをするべきか？

簡単な質問です。AI を十分に訓練して、夫や妻が配偶者を殺害する完璧な計画を立てるのを手助けさせるべきでしょうか？

直感的に考えても、私には「ノー」以外の答えはありません。それほど難しい問いだとも思いません。

しかしアメリカには多様な意見が存在します。その一つとして、週末に Comma AI の創設者であり長年の Jailbreaker であるジョージ・ホットス（George Hotz）氏が自身の見解を表明しました。

この投稿は、AI アライメントに関する大規模な計画への反応です。最も最近では、AI Futures Project が発表した「AI 2040: Plan A」という政策論文が挙げられます。この論文は、人類の利益のために世界中の研究機関が協力して AI の開発を 14 年間抑制するという世界観を描いています。もちろん、この論文の前提や結論に同意しない人も少なくありません。

実際、ホットス氏は「AI の進展は集合的な利益のために管理されるべき」という前提そのものに反対しています。彼の投稿では、AI が急速に超人的な能力を獲得する「高速台頭（fast-takeoff）」シナリオはあまり現実的ではないと主張しています。（私は彼の言うことに多くの点で同意します。）ホットス氏にとって、AI のアライメントと安全性を確保するための最善策は、ユーザーの利益に密接に合致したローカル制御型の AI モデルに焦点を当てることです。

これは非常に面白いアイデアです。特に、現在の AI の多くが Claude や ChatGPT といった中央集権型のサービスを中心に構築されていることを思い起こさせる点で、より一層説得力があります。

こうした形で AI サービスが開発されるのには、インフラに関する理由があります。最先端の大規模モデルをホストするには莫大なコストがかかるため、1 日のうち十分な頻度で利用するユーザーが限られる現状では、個人に特化した AI を完全に独自に運用することは経済的に見合わないのです。ただし、技術が発展すればこうした要因は次第に重要性を失っていくでしょう。

OpenClaw の持つ魅力の一つも、まさにこの実験的で DIY なアプローチでした。今後、より多くの AI プロダクトがこの精神を取り戻す姿を見てみたいものです。

しかし、ホッツ氏は本質的に挑発的な人物です。彼はそこで止まりません。ユーザーに合わせた AI を銃に例え、「継母を殺害したとしても文句は言わない」とまで言い放ちます（もちろん、そんな行為には他のルールで禁止されているはずです）。さらに彼は、「もしあなたが望み、要求すれば、本当に整合性のある AI は Amazon Prime でメタンの製造装置を購入し、その使い方を教えてくれるはずだ」と主張します（これもまた、AI がボトルネックになることはないと考えられます）。

ホッツ氏はこの原則を守るために命を賭けるとまで言っていますが、実際にそれがどういった一連の出来事を経て実現するのかは想像しがたいものです。

「自由がある世界で生きるか、そうでない世界で生きるか。二者択一だ」とホッツ氏は記しています。もし選択肢がこれだけなら、「自由がある世界」の方が確かに魅力的に聞こえますね。それでも、私にはまだ確信が持てません。

しかし、すべてが自由の追求だけではありません。多くの人が関わる社会や市場、企業といった構造においては、公平性のバランスを保ちつつ、個々のニーズを相互依存するネットワークに統合し、責任あるシステムを構築する必要があります。大衆向けテクノロジー製品を開発・展開する立場にある人々こそ、このネットワーク全体を視野に入れるべきであり、その中にはまだ殺されていない配偶者や義理の親たちの利益も含まれるのです。

ホッツ氏が体験している自由とは、実は集合的な活動によって可能になった「将来の可能性」の領域です。もし皆が小さな AI 搭載ナポレオンのごとく振る舞い始めたら、その未来は一夜にして消え去ってしまうでしょう。あるネットミームが示す通り、私たちは社会の中で生きているのです。

とはいえ、「自分の利益のために企業に立ち向かってくれるローカル AI」が存在するというのは確かに魅力的です。レビュー用の機体が届くのを楽しみに待っています。

*当記事内のリンクを通じて購入された場合、当社は少額のコミッションを受け取る場合があります。ただし、これは当社の編集の独立性には影響しません。

Russell Brandom は 2012 年以来テクノロジー業界を取材し続けており、プラットフォーム政策や新興技術に焦点を当てています。以前は The Verge や Rest of World で勤務し、Wired、The Awl、MIT Technology Review にも寄稿しています。問い合わせ先は russell.brandom@techcrunch.com または Signal（412-401-5489）です。

プロフィールを見る