学習されたサポート関数を用いた最大内積探索の費用平準化
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Apple Machine Learning
Apple Machine Learning は、既知の分布から得られるクエリに対して固定データベース内のベクトルを効率的に検索する手法として、ニューラルネットワークで直接解を予測する回帰ベースのアプローチ「Amortized MIPS」を提案した。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
最大内積探索(MIPS)は機械学習における重要なサブルーチンであり、データベース内のベクトル(キー)の中から、与えられたクエリに最もよく適合するものを見つけることを要求します。我々は、アモルタイズド MIPS を提案します。これは回帰ベースのアプローチで、既知の分布から得られるクエリに対して固定されたキーデータベースで MIPS を繰り返し解くコストを相殺するために、ニューラルネットワークを訓練して MIPS の解を直接予測するものです。我々の重要な洞察は、MIPS 値関数がキーの集合のサポート関数(support function)であるという点です。これはよく研究されている凸関数であり、その勾配が最適キーを与えます。この…
原文を表示
Maximum inner product search (MIPS) is a crucial subroutine in machine learning, requiring the identification of a vector taken within a database (the keys) that best aligns with a given query. We propose amortized MIPS: a regression-based approach that trains neural networks to directly predict MIPS solutions, amortizing the cost of repeatedly solving MIPS for queries drawn from a known distribution over a fixed key database. Our key insight is that the MIPS value function is the support function of the set of keys, a well-studied convex function whose gradient yields the optimal key. This…
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み