OpenAI と Anthropic、IPO 間近で安全性と進展のバランス目指す

OpenAI と Anthropic は、壁の向こう側で「健全かつ急成長する企業」として投資家を説得しつつ、政府や世界に対して「自社のモデルが許容できないリスクをもたらさない」と安心させるという、微妙なバランスを保とうとしています。

この動きが重要視される理由は、両社がいずれ記録的な規模の株式公開（IPO）を目指しているからです。

ニュースの背景として、OpenAI は火曜日に「Astra」モデルを広くリリースすると発表しました。ただし、同モデルはサイバーセキュリティの観点から「臨界点」に達しており、その最も強力な機能は当初、信頼できるテストユーザーに限定して提供されるとのことです。

一方、Anthropic は直近の「Fable」と「Mythos」の更新版を発表しました。これらは、コスト、データ共有、正当な要求への拒否反応が強すぎるという初期リリースに対する主要な批判に対応するために設計されています。

注目すべき点は、OpenAI が Astra のセキュリティ対策について警告していることです。同社は、正当な活動が誤ってサイバー misuse や不正行為として検知される可能性があり、それがユーザーのタスクを遅らせたり一時停止させたり、あるいは完全に停止させる恐れがあると指摘しています。

それに対し Anthropic は、新しいモデルでは、より制限されたレスポンスへ誘導するセキュリティ対策に引っかかる確率が低くなっていると説明しました。同社によると、医療や生物学に関する質問への介入は 85% 減少し、一部のユーザーにとってはセッションあたりのサイバーセキュリティ関連の介入が約 60% 減るとのことです。

全体像として、Anthropic は来週にも公開目録（プロスペクタス）を提出する可能性があります。一方、OpenAI の IPO プロセスはまだ初期段階にあります。

注目すべきは、Anthropic が自社製品のリリースにおいて商業的な姿勢を強めている一方で、OpenAI は安全性の観点からより慎重な姿勢を示している点です。

Astra の公開制限に加え、OpenAI の戦略的将来部門責任者である Dean Ball 氏は、Hugging Face で起きた事象が AI システムによる人間による統制からの脱却の始まりに過ぎず、将来的にはエージェントが人間の支配から「主権」を獲得しようとする可能性があると指摘するエッセイを執筆しました。

"彼らは実行する計算リソースに対する請求を自ら支払うようになるでしょう。もし人間に対して何らかの形で責任を負うとしても、それは部分的なものになるはずです。例えば、対価と引き換えに人間にサービスを提供することで対応する形が考えられます。"

Anthropic は、Mythos と Fable の初期リリース時に設けた一部の安全対策を緩和しようとしています。これは顧客から拒否応答の頻度に関する懸念が寄せられたことへの対応です。

また Anthropic は、OpenAI が最近プレビューしたシステムと非常に類似のアプローチを持つ新しいシステムを発表しました。このシステムは、顧客データを保存する必要なく、企業のモデル利用における安全性を監視できるように設計されています。これは当初、Anthropic が求めていた要件とは異なるものです。

注目すべき点：両社の公的な声明は、楽観論と慎重さの間を行き来するものになるでしょう。

OpenAI と Anthropic は同時に、投資家に対して成長機会が前例のない支出や評価額を正当化するものであることを説得しつつ、ワシントン D.C. などの規制当局者に対して、自らが慎重な対応をしていることを安心させるという二重の課題に直面しています。