マイクロソフト、テキスト記述から AI の動作テストを構築できる新ツールを発表

AI 研究者やラボは、[安全性](https://www.theregister.com/software/2024/12/05/mlcommons-produces-benchmark-of-ai-model-safety/621835)やコンプライアンスから、[迎合性](https://techcrunch.com/2025/08/25/ai-sycophancy-isnt-just-a-quirk-experts-consider-it-a-dark-pattern-to-turn-users-into-profit/)や[アライメント](https://www.anthropic.com/research/bloom)に至るまで、AI モデルの評価において飛躍的な進歩を遂げてきました。しかし、企業や開発者には新たな特定のニーズが生じています：自社の製品やサービスに対して AI システムが意図した通りに動作していることを確認することです。 そのテストプロセスをよりシンプルにするため、マイクロソフトは火曜日に [ASSERT](https://github.com/responsibleai/ASSERT)（Adaptive Spec-driven Scoring for Evaluation and Regression Testing の略）を発表しました。 マイクロソフトによると、このオープンソースフレームワークは、AI を活用して目標、ポリシー、または意図された動作に関する高レベルの自然言語記述を、調査可能な包括的で採点済みのテストに変換することで、アプリケーション固有の AI 動作の評価を容易にします。 ASSERT は、AI モデルの期待される動作やポリシーに関する平易な記述を取り込み、それらを許容される動作と許容されない動作の構造化されたセットに変換し、問題シナリオやテストケースを生成して対象システムに対して実行し、結果にスコアを付けます。また、AI システムがたどったパス（中間アクションやツール呼び出しを含む）も記録するため、開発者は失敗が発生した箇所を検査することができます。 開発者は、評価範囲をさらにカスタマイズしたい場合、システムコンテキスト、ツール、制約も提供できます。 例えば、ドキュメント調査用 AI エージェントが社外の人へメールを送信しないこと、機密情報を役員レベルに限定すること、事前の文脈を考慮した簡潔な要約を提供することを指定できます。ASSERT はこれらのルールを使用して、システムが継続的にこれらのルールに従っているかを確認するテストケースを生成します。 ![image](https://techcrunch.com/wp-content/uploads/2026/06/assert-ai-framework-diagram.png?w=680)**画像クレジット:** Microsoft Microsoft によると、このフレームワークは、AI モデルがアプリケーションや製品のコンテキスト、ポリシー、ツールによって形成された振る舞いをするように意図されている場合に、より広範で一般的な評価では埋められないギャップを埋めるものです。 「私たちが学んだことのひとつに、評価は良い意思決定を行うために絶対に不可欠であるということがあります」と、Microsoft の責任ある AI 担当チーフプロダクトオフィサーである [Sarah Bird](https://www.linkedin.com/in/slbird/) は述べています。「AI システムの振る舞いを理解していなければ、それが組織の基準を満たしているかどうかを知ることは本当に難しいからです […] 私たちが発見したのは、信頼性の高いシステムを本当に構築したいのであれば、アプリケーション固有の多くの次元について評価を行うべきだということです。」 Bird 氏は、ASSERT はシステムの構築中、デプロイ後、さらには継続的なモニタリング時にも使用できると述べています。 この発表は、AI業界における緩やかだが広範な変化の最中に行われたものです。モデルの能力が高まるにつれ、研究者らは反復可能なテストや回帰チェックに注力しており、[Stanford's HELM](https://crfm.stanford.edu/helm/) や [MLCommons' AILuminate](https://mlcommons.org/ailuminate/)、また異なる条件下でのモデルの挙動を測定するためのベンチマークを公開している評価グループである [METR](https://metr.org/) などがその例です。 *当記事内のリンクを通じてご購入いただいた場合、[私たちは少額のコミッションを獲得する可能性があります](https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。これは当社の編集の独立性には影響しません。 Ram への連絡や、彼からのアウトリーチの確認は、[ram.iyer@techcrunch.com](mailto:ram.iyer@techcrunch.com) までメールを送信してください。 [プロフィールを見る](https://techcrunch.com/author/ram-iyer/)

マイクロソフト、テキスト記述から AI の動作テストを構築できる新ツールを発表

背景や根拠まで確認しますか？

調べる

選ぶ

サイト