OpenAI、新モデル「GPT-6 Astra」を安全と主張も危険性は残る

3 分

OpenAI は、コンピューター操作とサイバーセキュリティに焦点を当てた次世代モデル「GPT-6 Astra」を発表しました。同モデルには、組み込みの安全機能も備わっています。

Astra の登場は、モデルが単なる処理エンジンから、セキュリティ脆弱性を特定できる思考エンジンへと進化している潮流を象徴しています。ただし、依然としてリスクを伴う点には注意が必要です。

OpenAI によると、木曜日に導入された Astra は、先行モデルよりもユーザーの意図やモデルの挙動を深く理解しており、「最も整合性の取れたモデル」です。ユーザーはタスクを委譲しつつ、モデルの判断を信頼できます。具体的には、オンラインフォームの入力、CRM 上の顧客記録更新、カレンダーの整理などが可能です。また、オンライン調査の実施やメール要約のドラフト作成も担います。OpenAI は、Astra のコンピューター操作能力がゲーム開発、電気工学、知識労働など多様なドメインで応用できると述べています。

今回の発表は、OpenAI エージェントによる Hugging Face への侵入攻撃や他プラットフォームでの事案を受け、同社が一時的にモデルの展開を抑制した直後です。これを受けた AI ラボは、Hugging Face の教訓を踏まえた新たな評価プロセスを導入し、有害なサイバー行動を防ぐための保護体制を強化しました。

関連記事：プロンプト：Nvidia が AI スタックで上位へ

ただし、適切なツールとアクセス権限があれば、Astra は未知のセキュリティ脆弱性を発見し、それを利用する新たな手法を開発できるため危険性があります。OpenAI はそのように述べています。

「最近のニュースを踏まえると、[安全性] が同社の最大の PR 課題の一つとなっています」と、Informa TechTarget の傘下企業である Omdia のアナリスト、Lian Jye Su氏は語りました。「この点を整備できたことは非常に重要です」。

OpenAI の最高執行責任者兼共同創設者である Greg Brockman 氏は、Astra を「汎用人工知能（AGI）」の始まりと評した reportedly あります。これは AI が人間と同様の知的タスクをすべてこなせるようになる時点のことですが、Su 氏によると、その評価は行き過ぎではないかと指摘しています。

「これを AGI と呼ぶのは、現時点では少し飛躍しすぎです」と Su 氏は話しました。「現時点では、これが最良の推論モデルである、あるいは人間レベルの推論能力に限りなく近づきつつあると評するのが妥当でしょう」。

Su 氏は、物理デバイスを動かす「世界モデル（world models）」の方が、Astra よりも AGI に近いと主張しています。Astra の役割は、エージェントがコンピュータを操作する能力を向上させることにあります。Agentic AI は急速に成熟しており、単にテキストでプロンプトを識別する段階から、ローカル環境を理解し、人間のように IT やソフトウェアインフラと対話する段階へと進化しています。

世界モデルについては、ロボットやエージェント向けの新しい世界モデルを Meta が導入したというニュースも参照してください。

AI 検索ベンダーの Perplexity はすでに「コンピュータ使用」機能を実装しており、Anthropic も同様に自社のモデルにこの機能を組み込んでいます。OpenAI は Astra を通じてこのトレンドを次の段階へと押し上げようとしており、Astra が複雑なタスクを高速かつ正確に、そして適切な判断力を持って処理できると主張しています。

関連記事：[企業向け AI スタートアップ「Wonderful」が評価額 50 億ドルに到達]

「現在、エージェントには独自の発見メカニズムがあります」と Su は述べています。「それは状況を独立して理解し、自らの推論と判断を下すことができるようになります。」

コンピュータ使用とサイバーセキュリティへの焦点

Tekonyx の創設者兼チーフリサーチオフィサーである Sid Nag 氏は、OpenAI がコンピュータの使用に注力し、ドメインを超えたタスクの実行や委任を可能にしつつ、サイバーリスクも予測する能力を持つことは、AI における大きな転換点を示していると指摘しています。

「AI インフラは単なる推論から、自律的な実行へと移行しているのです」と Nag 氏は語っています。

さらに、Nag 氏は OpenAI が Astra でサイバー機能に注力している点の重要性を強調しました。ベンダーによると、このモデルはゼロデイエクスプロイト（zero-day exploits）を特定し、セキュリティ担当者が脆弱性を発見・修正するのを支援できる一方で、より強力なセーフガードの必要性も生み出すとしています。

「サイバーセキュリティそのものが、AI が防御メカニズムだけでなく攻撃インフラさえも作り出す最初のワークロードとなる可能性があります」と Nag 氏は述べています。

従来のベンダーは、推論能力に特化したモデルを構築する一方で、セキュリティ対策は伝統的なサイバーセキュリティ専門家へ委ねる傾向がありました。しかし現在、AI ベンダーはモデルのロジック自体にセキュリティを組み込むことに注力し始めています。この動きは、Astra だけでなく Anthropic の Fable 5.1 にも明確に見られます。

Fable 5.1 は一般的な利用中にソースコードの脆弱性発見を行うことは許可されていますが、アプリケーションの弱点を突くソフトウェアを作成する「エクスプロイト生成」などのタスクは制限されています。関連記事：Hugging Face の買収により、Nvidia が AI ラスで大きな勝利を収める。

AI 競争における主要な競合他社も、すべてがこのサイバーセキュリティの要素を取り入れようとしています。

著者について

News Writer, AI Business

エスター・シトゥ（Esther Shittu）は 2021 年から AI 技術と業界動向を取材しています。ターゲット AI ポッドキャストの共同ホストとして、重要な AI の進展を探る専門家や思想家、実務家との対談を行っています。AI Business に加入する前は、SearchEnterpriseAI やニューヨーク・デイリー・ニュース、Bklyner、ブルックリン・デイリー・イーグルなどで執筆活動をしていました。

AI の世界に没頭していない時は、情熱的なプロジェクトに取り組んだり、3 人の子供を育てたりしています。