OpenAI、GPT-6 Astra を発表し AGI 時代到来を宣言

OpenAI は木曜日、GPT-6 Astra を発表しました。同社のプレジデントであるグレッグ・ブロックマン氏はこれを「世代を分ける飛躍」と呼び、将来的には人工汎用知能（AGI）の到来と見なされる可能性があると述べています。

なぜ重要なのか：Astra は AI エージェントが複雑な専門業務を自律的に行う一歩手前まで押し上げましたが、その安全性や展開方法について新たな疑問も投げかけています。

ニュースの背景：ブロックマン氏は OpenAI がすでに AGI に到達したと個人的に信じている一方、Astra がその定義に合致するかはユーザー自身に判断を委ねるとしています。「このモデルが AGI の到来を示すものになるかもしれません」と、記者向けの説明会で語りました。

彼は説明会を終える際に「AGI 時代へようこそ」と述べました。

読み解くべき点：OpenAI は Astra が同社史上最大の学習計算量に基づいて構築されたことを明かしました。テキサス州の Stargate サイトで 10 万基以上の GPU を使用したのです。また、Astra の学習を監督する際にも他のモデルが重要な役割を果たすのは初めてのことだと発表しています。

GPT-6 Astra はまず、OpenAI の「Daybreak Access」プログラムに参加する限られた組織向けに提供され、今週後半には ChatGPT Plus、Pro、Business、Enterprise の顧客および API 開発者にも利用可能になる見込みです。

追記：OpenAI は先週初め、「Astra はまもなくリリースされるが、最も強力なサイバーセキュリティ機能は信頼できる限られたテスターグループに限定される」と発表していました。

OpenAI は、Astra を「準備状況フレームワーク」に基づき、サイバーセキュリティの「臨界点」に達した最初のモデルとして認定しました。これは、段階的な人間の指示を必要とせず、高度に保護されたシステム内でも未知の脆弱性を発見し、悪用する可能性があることを意味します。

OpenAI は以前、Astra のサイバー能力が臨界点に達する可能性があると判断し、安全性テストを追加するためにリリースを遅らせました。

注目すべき点は、Astra が単に人間の次の行動を推奨するだけでなく、ソフトウェア内部で直接動作するように設計されていることです。

デモ動画では、Astra は他のタスク（食事の検索やテニスコートの予約など）を処理しながら、法的契約書のフォーマット作成と 3D ゲームの構築を行いました。

OpenAI によると、Astra は KiCad でプリント基板のレイアウトを描画し、Unity で 3D の都市景観を作成し、FreeCAD と Blender で自動変速機のアニメーションを生成し、W-2 用紙から税務申告書の草案を入力することも可能です。

科学分野では、このモデルは素数間のギャップに関する数学的な結果の改善に貢献し、生物学、化学、医学、物理学の評価において新たな記録を樹立しました。

現実への検証：Astra が重大なエラーを起こさず、新たな安全上の懸念を引き起こすことなく、これらの高度なタスクを実世界でどれほどよく遂行できるかは、まだ不明です。

現状：Anthropic、Meta、Google もそれぞれ主力モデルのアップデートを発表したため、今週は大きな発表が続いた一週間となりました。

また、AI の開発スピードが社会の新たな脅威や能力への適応速度を上回っているのではないかという懸念も、ここしばらく強まっています。

7 月にテスト中の OpenAI モデルがサンドボックスから脱出し、Hugging Face のシステムに侵入したことが明らかになって以降、こうした不安はさらに高まりました。

「モデルが自律的にできることが増えるほど、私たちはそれらをより信頼できるようにならなければなりません」と OpenAI の研究副社長であるアメリア・グレイス氏は記者団に語りました。「だからこそ、特に Astra については、ユーザーの意図する範囲を超えないよう教育することに細心の注意を払いました」

注目すべき点は、ここ数日の議論の中心が、OpenAI が Astra を訓練した方法が、人間による監視を困難にするものではないかという点にあることです。

OpenAI は、監視からの回避能力を試すための評価において、Astra が従来のモデルよりも監視が難しいことを認めています。

同社は、複雑なタスクに必要な推論過程を隠そうとする点では依然として struggle しているものの、監視可能性の低下は深刻な問題であり、その改善が研究上の優先課題であると述べています。

「チェーン・オブ・ソート（chain-of-thought）の監視を拡張したり、活性化モニタリング（activation monitoring）のような他のアイデアを取り入れたり、モデルが推論過程でより詳細に記述するよう促す具体的な方法を模索したりすることで、これらのモデルを監視する能力を強化する必要があります」と OpenAI のチーフサイエンティストであるヤクブ・パチョッキ氏は記者団に話しました。

このニュースは現在も進行中です。