検索拡張生成と多目的アライメントによるクエリ自動補完におけるランキングと生成の統合

ランキングと生成を統合するクエリ自動補完：検索拡張生成と多目的アラインメントによるアプローチ ランキングと生成を統合するクエリ自動補完：検索拡張生成と多目的アラインメントによるアプローチ 著者Kai Yuan, Anthony Zheng, Jia Hu, Divyanshu Sheth, Hemanth Velaga, Kylee Kim, Matteo Guarrera†, Besim Avci, Xuetao Yin, Jianhua Li, Rajyashree Mukherjee, Sean Suchter 出版物を表示 クエリ自動補完（QAC）は、ユーザーが入力中に補完候補を提案することで検索効率を向上させる、現代の検索システムにおける重要な機能です。しかし、既存のアプローチは根本的な課題に直面しています：従来の検索・ランキングパイプラインはロングテールのカバレッジが低く、大規模な特徴量エンジニアリングを必要とする一方、最近の生成的アプローチは虚構生成（ハルシネーション）や安全性リスクに悩まされています。本論文では、検索拡張生成（RAG）と多目的直接選好最適化（DPO）を通じて、QACをエンドツーエンドのリスト生成として再定義する統一フレームワークを提案します。 我々のアプローチは、以下の3つの主要な革新を組み合わせたものです： 多目的最適化によるエンドツーエンドのリスト生成としてQACを再定義すること； RAG、学習済みおよびルールベースの検証器を用いた多目的DPO、高品質な合成データのための反復的批評・修正を組み合わせた包括的方法論； 厳しいレイテンシ制約下での効率的な本番環境導入を可能にするハイブリッドサービスアーキテクチャ。 大規模商用検索プラットフォームでの評価は、大幅な改善を示しています：オフライン指標では全次元で向上が見られ、人間による評価では+0.40から+0.69の選好スコアが得られ、制御されたオンライン実験ではキーストローク数が5.44%削減され、提案採用率が3.46%増加しました。これは、RAGと多目的アラインメントによる統合的生成が、本番環境QACの効果的な解決策を提供することを実証しています。 この研究は、大規模言語モデル、RAG、および多目的アラインメントによって駆動されるエンドツーエンド生成へのパラダイムシフトを表しており、より広範な検索および推薦業界に利益をもたらすことができる、本番環境で検証されたフレームワークを確立するものです。 † カリフォルニア大学バークレー校 関連する文献と最新情報。 メール検索のためのオンデバイスクエリ自動補完 2024年6月14日研究分野 知識ベースと検索, 研究分野 音声および自然言語処理学会 ECIR 従来のクエリ自動補完（QAC）は、多数のユーザーから収集された検索ログに大きく依存しています。しかし、オンデバイスのメール検索では、ログの不足と適用されるプライバシー制約により、QACは困難な課題となります。本研究では、ユーザーの機密データやインタラクションログがウェブサービスを通じて収集、共有、集約されることなく、ユーザーのデバイス上で直接実行されるオンデバイスQAC手法を提案します。この手法は… 検索拡張生成のためのコンテキストチューニング 2023年12月18日研究分野 知識ベースと検索, 研究分野 音声および自然言語処理ワークショップ EACL 本論文はEACL 2024のUncertaiNLPワークショップに採択されました。 大規模言語モデル（LLM）は、わずかな例だけで新しいタスクを解決する顕著な能力を持っていますが、適切なツールへのアクセスが必要です。検索拡張生成（RAG）は、与えられたタスクに関連するツールのリストを検索することでこの問題に対処します。しかし、RAGのツール検索ステップでは、必要な情報がすべてクエリに明示的に含まれている必要があります。これは… 機械学習における機会を発見する。 私たちの機械学習研究は、日々新たな領域を切り開いています。 ![](https://mlr.cdn-apple.com/media/Discover_1440x420_2x_9c465d585e.jpg)

検索拡張生成と多目的アライメントによるクエリ自動補完におけるランキングと生成の統合

背景や根拠まで確認しますか？

調べる

選ぶ

サイト

背景や根拠まで確認しますか？

ニュースの次に確認する

調べる

選ぶ

サイト