論文の概要: JKO-RAG: Distributional Retrieval as Wasserstein Free-Energy Gradient Flow
- arxiv url: http://arxiv.org/abs/2607.24776v1
- Date: Mon, 15 Jun 2026 04:34:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:39.058834
- Title: JKO-RAG: Distributional Retrieval as Wasserstein Free-Energy Gradient Flow
- Title（参考訳）: JKO-RAG:Wasserstein自由エネルギー勾配流としての分布検索
- Abstract要約: 本稿では,自由エネルギー関数$F(p)=textrelevance+textentropy+textredundancy$をWasserstein-2勾配流下で最小化するためのjkoを提案する。
textbfnmjko (学習地面メートル法), textbfbwjko (W2$-KL), textbfsamjko (2times$ speedup), textbfdualrank (OT dual potentials as confidence signal) の4つの拡張が導入された。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: RAG pipelines return a \emph{ranked list} of passages. We argue this is a mismatch: the downstream language model conditions on a \emph{set}, and the selection problem is fundamentally geometric. We propose \jko, which frames reranking as minimising a free-energy functional $F(p)=\text{relevance}+\text{entropy}+\text{redundancy}$ under Wasserstein-2 gradient flow via the Jordan--Kinderlehrer--Otto proximal scheme. The ground metric $C_{ij}=(1-\cos\langle z_i,z_j\rangle)^2$ encodes the semantic geometry of the embedding manifold. Our central contribution is a \emph{linear-response theory} explaining \emph{why} the Wasserstein geometry helps: the Wasserstein and KL retrieval maps differ only in their proximal Hessian -- dense and geometry-aware for $W^2$, diagonal and geometry-blind for KL -- and this difference damps the mass transport that query paraphrase induces. The theory yields a falsifiable prediction: the stability advantage is monotonically decreasing in step size $h$. We verify this empirically via free-energy descent, frequency-resolved perturbation response, the predicted $h$-dependence, and a certified-radius analysis. Four extensions are introduced: \textbf{\nmjko} (learned ground metric), \textbf{\bwjko} ($W^2$--KL interpolation), \textbf{\samjko} ($2\times$ speedup), and \textbf{\dualrank} (OT dual potentials as confidence signals). Across five BEIR benchmarks, \jko\ outperforms the cross-encoder on all five; the decisive advantage is robustness -- 22--38\% more stable under paraphrase, $2\times$ fewer leaked distractors.
- Abstract（参考訳）: RAGパイプラインは、パスのemph{ranked list}を返す。
我々は、これはミスマッチであると主張する: \emph{set} 上の下流言語モデル条件と、選択問題は基本的に幾何学的である。
自由エネルギー関数 $F(p)=\text{relevance}+\text{entropy}+\text{redundancy}$ をジョルダン-シンデレラー-オット近似スキームによるワッサーシュタイン-2勾配流の下で最小化する。
基底計量 $C_{ij}=(1-\cos\langle z_i,z_j\rangle)^2$ は埋め込み多様体の意味幾何学を符号化する。
ワッサーシュタインとKLの探索写像は、その近位ヘッセン(英語版)においてのみ異なる -- KL に対して W^2$, 対角的および幾何学的ブラインド(英語版) の密度と幾何学的認識 -- KL に対してのみ異なる -- であり、この差は、パラフレーズが誘導する質量輸送を弱める。
安定性の優位性は、ステップサイズ$h$で単調に減少する。
我々は、この現象を、自由エネルギー降下、周波数分解摂動応答、予測された$h$依存性、証明されたラディウス解析を通じて実証的に検証する。
4つの拡張が導入された: \textbf{\nmjko} (学習地上メートル法), \textbf{\bwjko} (W^2$--KL補間), \textbf{\samjko} (2\times$ speedup), \textbf{\dualrank} (OT双対ポテンシャルを信頼信号とする)。
5つのBEIRベンチマークで、\jko\は5つすべてでクロスエンコーダを上回っている。
関連論文リスト
- Rate-Distortion Function for Encrypted Traffic Side-Channel Defense [23.361601797200475]
最適防御はKKT条件によって制御される指数型タイル構造を有することを示す。
現実世界のWebサイト・フィンガープリントのディフェンスでは、このフレームワークはFront ($_mathrmgap=0.028$,bits), WTF-PAD$0.034$,bits, TrafficSliver$0.124$,bits)を理論曲線の上に配置する。
論文 参考訳（メタデータ） (2026-07-20T12:38:49Z) - OAM-Induced Lattice Rotation Reveals a Fractional Optimum in Fault-Tolerant GKP Quantum Sensing [0.0]
軌道角モメンタム符号化とGottesman-Kitaev-Preskill(GKP)格子幾何学が構造的に結合していることを確立する。
終端から終端までの微分可能なStrawberry Fields--TensorFlow回路を用いて、$ell$、格子アスペクト比$r$、および有限エネルギーエンベロープ$$を共に最適化し、量子フィッシャー情報を最大化する。
論文 参考訳（メタデータ） (2026-05-13T09:49:16Z) - Which Coherence Decoheres? Basis-Dependent Decoherence Rates in Symmetry-Broken Collective Spin Systems [0.0]
リンドブラッドの格下げ率は、Ntoinfty$として2ドルに近づき、量子臨界クロスオーバーに近い2.42ドルに達する要因によって異なる。
パリティ力 $langle E_i|hatJ_z|E_irangle=0$ 正確には、局所化された状態速度を2倍にする横断的な項を排除する。
論文 参考訳（メタデータ） (2026-05-01T11:39:51Z) - Optimal Scalar Quantization for Matrix Multiplication: Closed-Form Density and Phase Transition [50.36362492608702]
乗算前の2つの行列のエントリーワイズスカラー量子化について検討した。
我々は、閉形式の最適点密度 [ star(u) propto exp!left(-fracu26right)bigl( (1-2)+2u22bigr), qquad u=fracx_X を求め、相関駆動相転移を証明した。
論文 参考訳（メタデータ） (2026-03-20T01:53:44Z) - Implicit Bias of the JKO Scheme [9.659199680879262]
簡単な数値例で,EmphJKO-Flow, Wasserstein 勾配流を$J$で研究する。
エンハンモディフィケーションエネルギー上のワッサーシュタイン勾配流により、$_k$を2ドルで注文できることが示される。
論文 参考訳（メタデータ） (2025-11-18T18:48:37Z) - Enjoying Non-linearity in Multinomial Logistic Bandits [56.28491566735463]
我々は,学習者が期待される報酬を最大化するために行動を選択することで,学習者が環境と相互作用する,多項ロジスティック・バンディット問題を考える。
本稿では,ロジスティックモデルの非線形性の影響を多項集合に拡張し,効率的なアルゴリズムを提案する。
我々のメソッドは、次数 $ smashwidetildemathcalO(R d sqrtKT/kappa_*)$ の問題依存的後悔境界を生じる。
論文 参考訳（メタデータ） (2025-07-07T08:18:25Z) - Neural Sampling from Boltzmann Densities: Fisher-Rao Curves in the Wasserstein Geometry [1.609940380983903]
正規化されていないボルツマン密度$rho_D$から、$f_t$で与えられるボルツマン曲線を学習することで、サンプリングを行う。
M'at'e と Fleuret に触発されて、f_t$ のみをパラメータ化し、適切な $v_t$ を修正する方法を提案する。
これはランゲヴィン力学に関連するクルバック・リーブラー発散のワッサーシュタインフローに対応する。
論文 参考訳（メタデータ） (2024-10-04T09:54:11Z) - On the $O(\frac{\sqrt{d}}{T^{1/4}})$ Convergence Rate of RMSProp and Its Momentum Extension Measured by $\ell_1$ Norm [54.28350823319057]
本稿では、RMSPropとその運動量拡張を考察し、$frac1Tsum_k=1Tの収束速度を確立する。
我々の収束率は、次元$d$を除くすべての係数に関して下界と一致する。
収束率は$frac1Tsum_k=1Tと類似していると考えられる。
論文 参考訳（メタデータ） (2024-02-01T07:21:32Z) - A Unified Framework for Uniform Signal Recovery in Nonlinear Generative
Compressed Sensing [68.80803866919123]
非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。
本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。
また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
論文 参考訳（メタデータ） (2023-09-25T17:54:19Z) - Near-optimal fitting of ellipsoids to random points [68.12685213894112]
楕円体をランダムな点に合わせるという基本的な問題は、低ランク行列分解、独立成分分析、主成分分析に関係している。
我々はこの予想を、ある$n = Omega(, d2/mathrmpolylog(d))$ に対する適合楕円体を構成することで対数的因子まで解決する。
我々の証明は、ある非標準確率行列の便利な分解を用いて、サンダーソン等最小二乗構成の実現可能性を示す。
論文 参考訳（メタデータ） (2022-08-19T18:00:34Z) - Computationally Efficient Horizon-Free Reinforcement Learning for Linear
Mixture MDPs [111.75736569611159]
線形混合MDPのための計算効率のよい初めての地平線フリーアルゴリズムを提案する。
我々のアルゴリズムは、未知の遷移力学に対する重み付き最小二乗推定器に適応する。
これにより、$sigma_k2$'sが知られているときに、この設定で最もよく知られたアルゴリズムも改善される。
論文 参考訳（メタデータ） (2022-05-23T17:59:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。