Jina AI、垂直領域特化の軽量重排器「Reranker v3.5」を公開

Jina Reranker v3.5：垂直領域に特化した 0.6B パラメータのリスト型リランクモデル

0.6B パラメータ規模で最強の性能を誇るリランクモデル

本日、私たちは「jina-reranker-v3.5」の正式リリースを発表します。

v3 シリーズの後継モデルとして、引き続き 0.6B パラメータ規模を維持し、「LBNL（Last but not late：一度の前向計算で文書バッチ全体を処理）」と呼ばれる特徴的なリスト型アーキテクチャを採用しています。軽量な推論速度という利点を保ちつつ、v3.5 では生産環境において最も厄介な 3 つの課題に特化して対応しました。

1. 垂直領域への適応性
2. 構造化データにおける論理認識
3. 長文リスト処理時のメモリ爆発問題

HF 🤗 https://huggingface.co/collections/jinaai/jina-reranker-v3.5

魔搭（ModelScope）🧙 https://modelscope.cn/models/jinaai/jina-reranker-v3.5

技術報告書 📖 https://arxiv.org/abs/2607.18152

API 💻 https://jina.ai/reranker/

性能プレビュー

主要な特徴：

• BEIR（汎用）: 63.20 のスコアは、4B パラメータ規模の Qwen3-Reranker を上回る性能です。
• MIRACL（多言語）: 0.6B パラメータクラスにおける性能の新たな基準となりました。
• RTEB（業界特化）: 法律、金融、医療、コード関連など、主要な垂直領域を網羅しています。
• Struct-IR（構造化データ）: JSON 形式やテーブル構造、そして背後にある論理ルールに対する理解度が大幅に向上しました。

推論速度の向上：

1.22 倍〜1.56 倍。リストが長くなるほど、その加速効果は顕著になります。

なぜ v3.5 をリリースしたのか？

Jina Reranker v3 の性能は、私たちが予想していた以上に素晴らしいものでした。0.6B という軽量なパラメータ規模でありながら、Listwise 構造を採用することで、大規模モデルと互角に戦える通用性の高さを証明しました。

しかし、実際の業務現場で v3 を運用してみると、ベンチマークのスコアだけでは見えない課題が浮き彫りになりました。

垂直領域への対応です。法律条文や臨床診断、金融レポートなど、専門分野の言語パターンは一般的なウェブページとは全く異なります。BEIR ベンチマークで優勝したモデルであっても、複雑な法廷判例の前では機能しなくなることがあります。

構造化データの扱いも課題でした。JSON や表形式データに対し、Reranker がフィールド間の論理的制約（例えば「価格は 100〜200 円の間であること」や「サイズは L であること」など）を理解できていないと、あり得ない評価を下してしまうのです。

また、長文リストの処理における遅延も無視できません。全自己注意機構（Full Self-Attention）では、計算コストがリストの長さに対して二乗級に増加するため、遅延を制御することが困難でした。

v3.5 の登場は、こうした軽量化を維持しつつ、工程上の盲点を解消するためにあります。

三大核心演进

1. 3L2G 混合注意力アーキテクチャ

長文リストにおける計算コストを根本から削減するため、従来の全自己注意機構を見直し、「3L2G 混合注意力アーキテクチャ」を採用しました。

モデルの大部分の層では「スライディングウィンドウアテンション（Sliding Window Attention）」を実行し、ウィンドウサイズを 1024 に設定しています。これにより計算複雑度は二乗級から線形級へと劇的に低下しました。ただし、グローバルな文脈情報を失わないよう、定期的に「グローバルアテンション層」を挿入して同期を図り、最終層では必ず全ドキュメントへのアクセスを可能にしています。これによって、最終的なスコアリングが候補となる一連のドキュメント全体の特徴を十分に把握できるようになっています。

2. 弱点を補強するデータ戦略

v3 の弱みを埋めることに訓練の重点を置きました。

法律や業界コンプライアンスの分野では、EUR-Lex や AILA など権威ある判例データベースを追加し、多国にわたる法規制を網羅しました。医療分野では臨床会話データや生物医学論文を強化しています。さらに、大規模言語モデルを活用して極めて困難なネガティブサンプル（誤って除外すべきデータ）を大量生成し、微細な司法管轄の違いや専門用語の区別を学習させることで、モデルの識別能力を高めました。

EC サイトや企業システムで扱われる JSON レコードや表形式データについては、従来のモデルが文字列の表面的な一致しか見ておらず、数字の論理を理解できていないという課題がありました。例えば「150 円以下」と検索した際に「160 円」の商品までマッチしてしまうようなミスです。

これを解決するため、「Struct-IR（構造化情報検索）」戦略を採用しました。価格や仕様といった JSON の重要フィールドに対して意図的に微調整やノイズを加え、モデルがフィールド背後の制約条件と論理関係を理解するよう訓練したのです。

さらに、多言語コーパスも 50 以上の言語に拡大され、汎用性と一般化能力がさらに強化されました。

3. 三段階の自己蒸留プロセス

スパースモデルを直接訓練すると性能が不安定になりがちだったため、迂回した戦略を編み出しました。

まず、性能を最大限に引き出した全自己注意機構を持つ「教師モデル」を訓練します。次に、「3L2G 学生モデル」に対して注意力の経路変化への適応を促します。最後に、KL 散度や隠れ状態の MSE（平均二乗誤差）など多角的な指標を用いた蒸留を行い、大幅な高速化を実現しつつも、教師モデルが持つ高いソート品質を学生モデルに完璧に継承させることに成功しました。

性能実測

v3.5 と前世代の v3、そして市販されている主要な大パラメータ重排モデルを比較検証しました。評価は「一般検索」「多言語対応」「垂直分野」「構造化データ」の 4 つの観点から行っています。

1. 一般検索：0.6B モデルが 4B モデルを凌駕

Jina Reranker v3.5 は、汎用的な BEIR 検索ベンチマークで平均スコア 63.20 (nDCG@10) を達成しました。これは、パラメータ数が約 7 倍の Qwen3-Reranker-4B（62.28）を上回る性能です。

垂直業界への対応強化：法律・金融分野

法律、金融、医療、コードといった専門分野の文脈（RTEB ベンチマーク）において、v3.5 の総合性能は 4.3% 向上しました。特に法律タスクである AILA では、v3 から nDCG スコアが 11〜14 ポイントも急上昇しています。

構造化データ理解の飛躍的進化

これは v3.5 において最も劇的な進歩が見られた領域です。Struct-IR テストではスコアが 38.7 から 48.3 に向上し、24.8% の改善を記録しました。特に履歴書選考など制約の厳しいシナリオでは、Recall@5 指標において Qwen-4B と互角の性能を発揮しています。

推論速度の劇的改善

混合アテンションアーキテクチャは、長文書のリスト処理において大きな優位性を示しています。例えば法律判例の検索では処理速度が 56% 向上し、これにより長文脈での重排序で課題となっていたメモリ爆発やレイテンシの不安定さが解消されました。

すぐに使える導入方法

1. Jina AI API の利用

Jina AI の公式サイトですでに提供を開始しており、モデル名を jina_reranker_v3.5 に変更するだけで、既存のコードロジックを変更する必要はありません。

curl https://api.jina.ai/v1/rerank \
  -H "Authorization: Bearer $JINA_API_KEY" \
  -d '{
    "model": "jina-reranker-v3.5",
    "query": "有機化学反应机制",
    "documents": ["SN2 亲核取代反应...", "如何烤制酸面包...", "钯催化偶联反应..."]
  }'

2. Elasticsearch への統合

Elastic Inference Service (EIS) を介して呼び出すことで、混合検索パイプラインの「text_similarity_reranker retriever」として統合可能です。

1. プライベートデプロイメント

https://github.com/jina-ai/jina-on-prem では Docker によるワンクリック展開をサポートしており、社内ネットワークの分断環境や規制が厳しいデータセンターでの利用に適しています。

1. モデルはオープンソース化済み

モデルの重みは Hugging Face に公開されており、transformers ライブラリを使って直接読み込むことができます。

model = AutoModel.from_pretrained("jinaai/jina-reranker-v3.5", trust_remote_code=True)

jina-reranker-v3.5 は CC BY-NC 4.0 ライセンスの下で提供されています。商用利用をご希望の場合は、sales@jina.ai までお問い合わせください。

まとめ

0.6B という軽量なモデルサイズでありながら、「3L2G 混合アテンションアーキテクチャ」を採用したことで、長文リストの推論コストを大幅に削減しました。また、構造化データに対する理解力も実務レベルに引き上げられています。

現在、システムで長文リストへの応答が遅い課題を抱えている場合や、垂直領域での検索精度向上、あるいは構造化データの解析能力不足にお困りであれば、Jina Reranker v3.5 は非常にコストパフォーマンスの高い選択肢となるでしょう。

技術的な詳細や実験データは、すべて技術レポート https://arxiv.org/abs/2607.18152 に公開されています。実際の業務環境でのベンチマークテストをぜひご検討ください。

WeChat で開く