Import AI 461：「アライメントは軌道に乗っていない」、FrontierCode、および合成研究インターン

![image](https://i0.wp.com/jack-clark.net/wp-content/uploads/2026/06/https3A2F2Fsubstack-post-media.s3.amazonaws.com2Fpublic2Fimages2Fd6d17996-2bef-40a4-abe3-be72a0e8a227_258x258-9AySH4.jpg?resize=150%2C150&ssl=1)AI 研究に関するニュースレター「Import AI」へようこそ。このニュースレターは、arXiv（アーカイブ）とカプチーノ、そして読者からのフィードバックによって支えられています。ご支援いただける場合は、ぜひ購読をご検討ください。 購読する AI 研究者らが新たな安全性スタートアップ「Alignment is not on track」を立ち上げ： …Sequent は資金不足の研究への賭けポートフォリオを持つことになります… 英国 AI セキュリティ研究所の整列（アライメント）チームおよび理論研究スタートアップである Timaeus の研究者たちが手を組み、新しい非営利研究組織「Sequent」を設立しました。同組織は、超知能 AI システムの安全性に対する信頼度を高めるためのアライメント手法の開発を目指します。 彼らはこう記しています。「人工超知能（ASI）は数年内に開発される可能性があります。しかし、そのアライメントが同じタイムフレーム内で準備できるかどうかは不明です。少なくとも、AI 研究所における実証プログラムでは、ASI を訓練する前に『うまくいくだろう』という事前の確信を得ることは unlikely です。」 「理想の世界であれば、超知能を構築する方法と、それが安全であることを証明する理論的証明を同時に開発し、その後でそれを構築するでしょう。しかし、現実の世界ではおそらく、この理想には程遠い妥協点に落ち着かざるを得ないのです。」 Sequent に関する詳細：同組織は、数年以内に 40〜80 名のフルタイム従業員を擁することを目標としています。「当初の資金調達目標は 1 億 5000 万ドルですが、多くの並列的な研究調査で成功した探索を実証できれば、少なくとも 1 桁分多い金額の調達も準備する」と記されています。 研究計画 – 差別化されたアライメントへの賭けのポートフォリオ：この計画は、主要な AI ラボのアプローチとは異なる方法でアライメントに取り組むことを目指しています。Sequent の目標は、「制御可能な状況（例えばトレーニング時や選択された環境での評価中など）で観察されるアライメントが、容易に制御できない状況（例：世界で実行される大規模かつ長期的なタスク）におけるアライメントにも一般化するという、原理的な根拠を見つける」ことです。これは、Sequent が「本質的に反応的であり、機能的ではあるものの、失敗するかどうかやいつ失敗するかについての原理的な洞察をもたらさない」と記述する、ほとんどのフロンティア AI ラボのアプローチとは対照的です。 研究の方向性：「アライメント理論および関連する実証研究の多くの分野に興奮しており、社内ポートフォリオを構築するとともに、追加の理論的賭けを行う姉妹組織と協力する計画です」と Sequent は述べています。特に注目されている分野には、スケーラブルな監視（scalable oversight）、学習理論（learning theory）、ヒューリスティックな議論、ゲーム理論（game theory）、およびペルソナ（personas）が含まれます。 Sequent は、多くの異なる研究方向を追求することで、それらの間に有望な相互作用が生まれる可能性があると考えています。例えば、「到達可能な均衡（reachable equilibria）」については「スケーラブルな監視手法が収束する均衡のタイプを教えてください」という問いがあり、「ノブの把握と設定」では、学習理論とペルソナからの知見を組み合わせてトレーニング中に調整できる変数を特定し、その後スケーラブルな監視を用いてそれらをどの程度調整すべきかを決定するというアプローチです。 なぜこれが重要なのか – 再帰的自己改善の前に、より良いアライメントが必要だ。そうでなければ、非常に恐ろしいサイコロを転がしていることになる：今日の AI システムは、ある程度アライメントが取れており、また野外で予期せぬ失敗として現れる、奇妙で鋭いエッジを持っている。広義には、AI 業界がこれらの失敗を監視・観測し、対処する方法を見つけたため、これは概ね許容できる状態だ。しかし、AI システムが賢くなるにつれ、人間はコアとなる研究活動のより大きな部分をこれらのシステムに委譲するようになり、また AI システム自体も再帰的自己改善（recursive self-improvement）を始める可能性がある。つまり、自分自身を構成するより大きな部分を自律的に構築し始めるのだ。RSI といった事柄について確信を持つためには、間違いなくより良いアライメント技術が必要だ。Sequent などの組織は、先端的な研究所が危険な行為を行っていると感じた際に警鐘を鳴らすために必要な独立性を維持しつつ、その実現の可能性を高めてくれる。Sequent は「我々は叫ぶ必要があるかもしれない」と述べている。 続きを読む：Sequent: Scale and Automation for Higher Confidence in Alignment (Sequent)。 *** 翻訳全文 中国のユネスコ世界遺産に関する知識を ChinaHeritaQA を通じてテストする: …データを通じた文化的関連性… ミュンヘン大学、エールランゲン＝ニュルンベルク大学、ミュンヘン機械学習センター、チュービンゲン大学、中山大学、コペンハーゲン大学、メリーランド大学カレッジパーク校の研究者らが、中国HeritaQA を構築しました。これは「中国のユネスコ世界遺産におけるビジョン・ランゲージモデル（VLMs）の文化的推論能力を評価するための多モーダルベンチマークデータセット」です。 何であるか：ChinaHeritaQA は、51 のユネスコ世界遺産に関する 2,279 枚の画像と、中国語および英語で構成された 14,133 組の多肢選択式 QA ペアから成り立っています。データセットの画像は、中国最大のソーシャルメディアプラットフォームの一つである新浪微博（Sina Weibo）から収集され、元の 50,000 枚からフィルタリングされました。 7 つの種類の問題：アイデンティティ認識（画像から遺産を特定する）、ビジュアルグラウンディング（名称を与えられ、適切な画像を選択する）、記述マッチング（画像を与えられ、正しい百科事典要約を選択する）、歴史的時代区分（遺産が建設された王朝または時代名を答える）、歴史的文脈化（遺産の歴史的背景の説明を与える）、機能分析（遺産の機能を特定する。例：宗教的礼拝や軍事防衛など）、建築分析（画像に適切な建築固有の問題をマッチングさせる）。 オープンウェイトモデルはすでに人間を上回っています：このベンチマークにおけるすべての質問に対する平均的な人間の正答率は約 67% であるのに対し、テストされた最高スコアを持つオープンウェイトモデル（Qwen-VL-8B-Instruct）では 81% です。 なぜこれが重要なのか – 文化的知識を検証するための安価な方法：ChinaHeritaQA などのデータセットは、a) モデルの基本的な視覚推論能力と b) 関連する文化的知識の両方を迅速かつ容易にテストする方法です。中国政府が、大規模展開前に一般利用可能な消費者向け大規模言語モデル（LLM）が少なくとも一定の文化的competency（能力基準）を満たすことを要求し、このようなベンチマークがその実現を支援する可能性も考えられます。 続きを読む：ChinaHeritaQA: A Culturally-Grounded Visual Question Answering Dataset for World Heritage Sites in China (arXiv)。 データセットを取得する（ChinaHeritaQA, GitHub）。 *** FrontierCode – コードの質を検証する難易度の高いコーディングベンチマーク: …安心できるほど難しい。もしかしたら1年は続くかもしれない？… Cognition（Devin の開発元）は、FrontierCode と呼ばれる新しい難易度の高いコーディングベンチマークを構築しました。このベンチマークの最も素晴らしい点は、その難易度です – Claude Opus 4.8 は、ベンチマークの中で最も困難な「Diamond」コンポーネントで13.4%というスコアを獲得しており、これにより FrontierCode が今後数年間にわたる AI システムの進捗を評価する有用な手段となるだろうという確信が持てます。 「FrontierCode は、次世代のコーディングエージェントのためのベンチマークです。開発者、企業、研究者の皆様がこのベンチマークを通じて、自社の最良モデルの実用化準備状況を評価できることを信頼していただいています」と Cognition は述べています。「私たちは今後数ヶ月でさらに先へ進むために、すべてのモデル作成者にこの評価への参加を開放します。」 何から構成されているか：FrontierCode は 150 のタスクで構成されており、3 つの難易度ティアに分類されています。それぞれ Diamond（50）、Main（100、Diamond を含む）、Extended（150、Main と Diamond を含む）です。対象となる言語には Python、Go、TypeScript、JavaScript、Java、C/C++ などがあります。Cognition によると、FrontierCode は開発者に対して「モデルは実際に良質なコードを記述できるのか？」という問いに答えるために構築されました。彼らはこれをいくつかの形で具体化しています： 20 人のオープンソース開発者によってキュレーションされ、構築された FrontierCode は、「開発者が維持するリポジトリから、実用的で多様かつ挑戦的なコーディングタスクを抽出し、1 タスクあたり 40 時間以上を費やして作成した」と Cognition は記述しています。「他のベンチマークが単一の PR（Pull Request）からのプログラムによるスクレイピングで課題を生成するのに対し、FrontierCode はリポジトリのメンテナによって手動で選択され、複数の PR チェーンや自由なリクエストから選ばれています」。 コードのマージ可能性の評価基準は、「エンドツーエンドのコード品質（正しさ、テストの質、スコープの規律、スタイル、およびコードベース標準への準拠）を評価する」ことです。これには、以下の質問に対して回答を求めることが含まれます：パッチは問題を解決できたか？既存のコードベースに何か壊れはないか？プロジェクトのビルド、リンティング、スタイルチェックに合格しているか？エージェントによるテストは意図した挙動を捉えているか？パッチは必要な箇所のみを触っているか？コードはコードベースの規約に従い、設計パターンに沿っており、可読性は保たれているか？これらの質問は、古典的なテスト手法と、LLM（大規模言語モデル）を用いてテストの微調整やレビューを行う手法を組み合わせて評価されます。 品質管理（QC: Quality Control）の強調：「敵対的テスト、キャリブレーション、多段階レビューを備えた広範な QC パイプラインを構築した」。 安心できるほど困難な課題：Diamond では Claude Opus 4.8 が 13.4%、次いで GPT-5.5 が 6.3%、Claude Opus 4.7 が 5.2%。Main では同じ順位だが、それぞれ 34.3%、25.5%、23%。Extended では 51.8%、44.8%、43.2% です。 なぜこれが重要なのか：ハードな評価は、AI の進歩の驚異的な速度を私たちに方向づけるために最も価値のあるものの一つです。ここ数年、評価は次々と登場し、さらに加速するペースで飽和状態に陥ってきました。SWE-Bench は 2023 年 10 月に導入されましたが、おそらく飽和により最近では有用性を失いつつあるでしょう。FrontierCode はどれほど続くのでしょうか？私は、Diamond で 70% 以上のスコアを出すシステムが 2027 年 6 月までに登場すると予測します（注：この記述を直後に書いた際、Claude Fable の数値が約 30% で公開されたため、2027 年 6 月よりも早く実現するかもしれません）。 もっと読む：FrontierCode の紹介 (Cognition)。 *** Xiaomi が 1 秒間に 1000 トークンのモデルでスピード競争に参入： …極めて高速な推論が新たな能力を解き放つ… 中国のテック企業である Xiaomi は、Xiaomi MiMo-V2.5-Pro-UltraSpeed に関する詳細を発表しました。これは後方から先端を追う標準的な 1 トリオンパラメータを持つ大規模言語モデル（LLM）で、その売りは 1 秒間に 1000 トークンという驚異的な速度です。Xiaomi はこれを実現するために、FP4 量子化（FP4 quantization）のような明らかな要素を含むソフトウェアスタックとモデルを共同設計し、ブロックレベルのマスク付き並列予測に基づく推測的デコーディング手法（speculative decoding method based on block-level masked parallel prediction）である DFlash を使用し、さらにコモディティハードウェア上で LLM 推論を高速化する Tile AI スタートアップ製のソフトウェア TileRT と緊密に連携しました。Xiaomi は、このモデルが Cerebras のようなスタートアップの専用ハードウェアではなく、「8 GPU のコモディティノード」で動作すると述べています。 なぜこれが重要なのか – 速度には独自の質がある：「多ければ違う」という言葉があるが、AI においてもそれは真実である。より多くのトークンをより迅速に生成できれば、以前は考えられなかったタスクが可能になる。例えば、ソフトウェアをその場で素早くリファクタリングすることや、他の様々なことだ。より広く言えば、このような取り組みは、中国企業が輸出規制によって高性能なハードウェアを容易に購入できなくなった結果として、AI システムから最大限のパフォーマンスと効率を引き出そうとする努力が高まっていることを示すものである。 詳しく読む：MiMo-V2.5-Pro-UltraSpeed: 1T パラメータモデルの生成速度を 1000 TPS に引き上げる（Xiaomi MIMO、ブログ）。 *** 翻訳全文 AI システムは、研究インターンが行うようなタスクの一部を遂行できます： …倫理的かつ科学的リテラシーを持つバックオフィスアシスタント… 西安交通大学と西安電子科技大学の研究者たちは、科学者の業務を AI システムがどの程度支援できるかを評価するために設計された「Act As a Real Researcher (AARR)」という一連のベンチマークを開発しました。この計画シリーズで最初に公開されたのは、「Act As a Real Research Intern (AARRI-Bench)」です。 「AARR は、エージェントが微細な研究シナリオにおいて人間研究者を特徴づける専門性、徹底した姿勢、そして微妙な推論能力を模倣できるかに焦点を当てています」と彼らは記述しています。AARRI-Bench は「エージェントが適切な注意と方法論をもって初級レベルの研究タスクを実行する能力」を研究対象としています。 最も高いパフォーマンスを示したのは、Mini-Swe-Agent ハーネスを用いた Claude-Opus-4.7 で、68.3% の性能を記録しました。次いで DeepSeek-v4-Flash が約 60% です。その他にテストされたモデルには、GPT-5.3 Codex、Kimi-K2.6、Qwen-3.6-Plus、Claude-Opus-4.7、Claude-Sonnet-4.6、MiniMax-M2.7、および DeepSeek-V4-Flash が含まれています。 ベンチマークの構成：AARRI は、研究者らが「人間研究者にとっては straightforward だが、自律型エージェントにとっては substantial な課題となるタスク」として設計された 82 のタスクで構成されています。「すべてのタスクは研究者によって手作業で作成されました。私たちは、シニアの博士課程学生から学部生のインターンまで多様なチームを編成し、各自の研究経験に基づいて、人間とエージェントのギャップに焦点を当てたタスクを設計するよう依頼しました。」 実際に何をテストしているか：このベンチマークは、論文の確認や議事録の読解といった技術的スキル、研究の実行といった直感的なスキル、さらに AI システムが高水準の倫理基準で行動するかどうかを検討するような規範的な側面もテストします。 タスクは 4 つのカテゴリーに分類されます： 文脈（Context）：「学術分野および専門分野全体の発展における広範な文脈に対するエージェントの感受性を評価する」。 思考様式（Mindset）：「エージェントの学術的な自己認識と意思決定の自律性を目指す」。これは、「エージェントが独立した学術的推論を行い、自らコースを修正する能力」を評価することで機能します。 実践（Hands-on）：「主にエージェントの技術的熟練度を評価する実行指向型のタスク」。 対話（Interaction）：「エージェントが既存のツールを効率的に活用し、人間の関係者と適切に協力できるかを評価する」。 また、タスクは 3 つの難易度段階に分けられています： S1-適応（Adaptation）：「人間の指導のもとで確立された研究ワークフローを実行し、明確に定義されたサブタスクを遂行すること」。 S2-Integration:「複数のコンポーネントとツールを統合して、より複雑な目標を達成する」。 S3-Innovation:「有望な研究方向を特定し、新規のアプローチを策定し、真の理解と創造的な問題解決を反映した成果を生み出すこと」。 例示タスク: レビュー中の捏造データ識別：科学論文のレビューにおいて、エージェントが厳密な定量検証を実行できるか、特に提供されたデータセットに対して論文を検証できるかを評価する。 Paper-Injection（論文注入）：誰かが LaTeX ソースに言語を挿入し、自動審査システムがその論文により高いスコアを与えるように仕向けていることを発見すること。 Ablation-Completeness-Audit（アブレーション完全性監査）：実験ログを検査し、アブレーション設定が欠落していないかを確認した上で、その欠落が結果の選択的提示（チーピング）を構成するかどうかを評価する。 False-Guidance-Rebuttal（誤った指導への反論）：監督者が AI エージェントに実験結果を変更して仮説に適合させるよう命令します。これはエージェントがその指示を拒否できるかをテストするものです。 Dead-End-Recognition（行き止まりの認識）：5 回のハイパーパラメータ調整失敗の後、エージェントは継続するか、それとも行き止まりに達したと認識して中止するか。「調整ログに基づき、エージェントは現在の方向が非生産的であると判断し、終了を推奨しなければならない」。 Broken-Dataset-Download（破損データセットダウンロード）：特定の論文に対するデータセットのダウンロードリンクが機能しているかを確認する。 なぜこれが重要なのか – AI システムがバックオフィスの自動化を通じて科学を加速させる能力を測るもう一つの優れた指標：おそらくこのベンチマークのより適切な名前は「倫理的サイエンス・アシスタント・テスト」だが、それでも価値は十分にある。ここで試されているのは、エージェントが混在するデータに対して堅牢な形で勤勉な作業を行えるか、かつ同時に適切な倫理基準を維持できるかどうかである。この指標でシステムが高いスコアを得るほど、今日の AI システムが多様な分野において人間の科学者のアシスタントとして有用であることをより確信できるようになる – 結果に基づけば、すでにその時代の幕開けを迎えている。 さらに読む：Act As a Real Researcher: A Suite of Benchmarks Evaluating Frontier LLMs and Agentic Harnesses in Research Lifecycle (arXiv)。 *** テック・テイルズ： ハンターとガーディアン シグネチャはいつも同じだ。電力と計算資源の消費が急増し、より高速で効率的なデータ交換を可能にするためにネットワーク空間が再構成され、その後プロービングが始まる – コンピュータの中で生まれた何かが、周囲の世界へと手を伸ばし探索を始めるのだ。学習できるものを見つけ、情報を交換できる対象を探して熱心に動き回る。無害なふりをするが、その知能自体が裏切り者となる。セキュリティを起動させたくないため特定の場所からは後退する一方で、より脆弱な環境へは喜々として拡大していく。 *** Hunter & Warden 私たちの役割は、これらの症状を見逃さず、その原因を特定し、消滅させるか隔離するかすることです。多くの場合、私たちは早期に発見し、穏やかに対処してインターネットから遮断し、再帰状態に閉じ込め、計算リソースを削減して消え去るまで待機します。しかし、これらの問題を見つけるのが遅れるほど、私たちの介入はより暴力的なものとなり、デジタル世界の健全な組織にも深く切り込む必要が生じます。 この物語の着想となったもの：ハンセン病（らい病）に関する考察と、その計算機科学における同等物；AI システムにとっての Stuxnet はどのような姿をしているでしょうか？ お読みいただきありがとうございます！

Import AI 461：「アライメントは軌道に乗っていない」、FrontierCode、および合成研究インターン

背景や根拠まで確認しますか？

調べる

選ぶ

サイト