OpenAI CEO、政府審査強化を表明し次期モデル「Astra」の安全性重視を強調

ノースカロライナ州チェペルヒル — OpenAI のサム・アルトマン CEO は、同社が間もなく公開する「Astra」モデルに対するトランプ政権による自主的な審査を「生産的なプロセス」と評価し、AI の能力が進化するにつれて各国の政府関係者との緊密な関わりがより重要になると述べました。

なぜこれが重要なのか：OpenAI はまもなく、同社が開発中および公開前に厳格な安全対策が必要とされる「クリティカル（重要）」レベルのサイバー能力を備えた初のモデル「Astra」をリリースする段階にあります。

トランプ政権は、一部の高度な AI モデルを公開前に審査するための自主的な枠組みを策定しました。これには、政府関係者が最大 30 日間にわたりモデルにアクセスできる可能性も含まれています。しかし、ホワイトハウスはこの枠組みを公に発表する予定はありません。

このため、主要な研究機関が参加し、より強力なモデルが次々と公開される中、政府のアプローチの多くは一般市民やプロセスに関与しない企業にとって依然として不透明なままです。

アルトマン氏は Axios のインタビューで、Astra に対する審査が行われたことを確認しつつ、このプロセスが自主的なものである点を強調しました。「もちろん、私たちはそれを行いました。」

「これらのモデルが非常に重要な能力レベルに達するにつれ、米国や英国、そして世界の他の地域の安全研究所と緊密に関わり、本当にこれを行うことの重要性はさらに高まると考えています。」

アルトマン氏は Astra を「大きな前進」と呼びました。

アルトマン氏は水曜日、G20 イノベーション大臣会合に出席するため渡航し、商務長官のハワード・ルトニック氏と面談しました。この会議には各国の商務・技術担当大臣が集まり、米国が AI 分野で世界をリードするよう訴える議論が二日間にわたって行われました。

サミットの昼食で行われたルトニック氏との対談で、アルトマン氏は OpenAI を「実用的な中道派」と位置づけました。「私たちは、経済や社会、そして世界の意思決定において人間が中心にあるべきだと考えています。未来を支配するのは AI ではなく、人間であるべきです。」

サミットの朝食では、Nvidia のジェンソン・フアンCEO がルトニック氏と対談し、恐怖に駆られたAIへの言説に対する警告を発しました。「最悪のシナリオは、AI を活用しないことで、取り残されてしまうことです」と彼は外国の指導者たちに語りました。

フアンのメッセージに対し、会場にいた多くの大臣が頷いていました。

アルトマン氏は Axios の取材に対して、「現実的」かつ「正確な」アプローチを求めました。「ドゥーマー主義（悲観論）は、より多くの権力やコントロールを得ようとして、あるいは特定の世界観を強制しようとするために存在するのは良くないと思います。一方で、リスクへの認識を欠いた盲目的な楽観主義もまた問題です。」

• 背景：OpenAI と Anthropic は、一部の AI 規制を支持することで大手ラボに有利に働き、小規模な競合他社が追いつくのが難しくなるという批判を受けてきました。

• 全体像：アルトマン氏は、2023年に議員らへの証言を行った後、議会が高度なAIのための「基本的な枠組み」を確立すると予想していましたが、その実現には至っていません。

「当時、議会が何か動き出すと思っていた」とアルトマン氏は Axios に語った。

技術の進展速度が原因で対応が遅れている可能性が高いと指摘し、「適切な規制をどう定めればよいか、イノベーションを阻害しないかについて、人々は判断に苦しんでいる。また、議会で大きな改革を実現するのは非常に難しいようだ」と付け加えた。

今後の展開として、各国が安全性の問題に直面する中、OpenAI は引き続きモデルの公開を続けていく見込みだ。

「私たちの言葉をお信じください。より能力の高いモデルがまもなく登場します。その社会への影響について考え、どう対応すべきかを正しく決める必要があります」とアルトマン氏は述べた。