論文の概要: Differentiable Geometric Indexing for End-to-End Generative Retrieval
- arxiv url: http://arxiv.org/abs/2603.10409v1
- Date: Wed, 11 Mar 2026 04:46:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-12 16:22:32.78311
- Title: Differentiable Geometric Indexing for End-to-End Generative Retrieval
- Title(参考訳): エンド・ツー・エンド生成検索のための微分幾何学的インデクシング
- Authors: Xujing Wang, Yufeng Chen, Boxuan Zhang, Jie Zhao, Chao Wei, Cai Xu, Ziyu Guan, Wei Zhao, Weiru Zhang, Xiaoyi Zeng,
- Abstract要約: Generative Retrieval (GR) は単一の確率的フレームワーク内でインデックスと検索を統合するための有望なパラダイムとして登場した。
既存のアプローチは2つの本質的な対立に悩まされている。
本稿では,これらの誤りを解消するために,DGI(Dariable Geometric Indexing)を提案する。
- 参考スコア(独自算出の注目度): 32.54110566819413
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative Retrieval (GR) has emerged as a promising paradigm to unify indexing and search within a single probabilistic framework. However, existing approaches suffer from two intrinsic conflicts: (1) an Optimization Blockage, where the non-differentiable nature of discrete indexing creates a gradient blockage, decoupling index construction from the downstream retrieval objective; and (2) a Geometric Conflict, where standard unnormalized inner-product objectives induce norm-inflation instability, causing popular "hub" items to geometrically overshadow relevant long-tail items. To systematically resolve these misalignments, we propose Differentiable Geometric Indexing (DGI). First, to bridge the optimization gap, DGI enforces Operational Unification. It employs Soft Teacher Forcing via Gumbel-Softmax to establish a fully differentiable pathway, combined with Symmetric Weight Sharing to effectively align the quantizer's indexing space with the retriever's decoding space. Second, to restore geometric fidelity, DGI introduces Isotropic Geometric Optimization. We replace inner-product logits with scaled cosine similarity on the unit hypersphere to effectively decouple popularity bias from semantic relevance. Extensive experiments on large-scale industry search datasets and online e-commerce platform demonstrate that DGI outperforms competitive sparse, dense, and generative baselines. Notably, DGI exhibits superior robustness in long-tail scenarios, validating the necessity of harmonizing structural differentiability with geometric isotropy.
- Abstract(参考訳): Generative Retrieval (GR) は単一の確率的フレームワーク内でインデックスと検索を統合するための有望なパラダイムとして登場した。
しかし, 従来の手法では, 1) 離散インデックス化の非微分不能な性質が勾配ブロックを生成し, 下流の検索目的からインデックス構築を分離する最適化ブロック, (2) 標準の非正規化内積目的がノルム・インフレーション不安定を誘発し, 人気のある「ハブ」項目が幾何学的に関連する長い尾の項目を覆い隠すような幾何学的矛盾が生じていた。
そこで本研究では,これらの誤りを系統的に解決するために,DGI(diffariable Geometric Indexing)を提案する。
まず、最適化ギャップを埋めるために、DGIはオペレーショナル統一(Operational Unification)を強制する。
また、Gumbel-Softmax経由でSoft Teacher Forcingを使用して完全に微分可能な経路を確立し、Symmetric Weight Sharingと組み合わせて量子化器のインデックス空間とレトリバーの復号空間を効果的に整合させる。
第二に、幾何学的忠実性を取り戻すために、DGIは等方的幾何学最適化を導入した。
内積ロジットを単位超球面上のスケールしたコサイン類似性に置き換え、セマンティックな関連性から人気バイアスを効果的に分離する。
大規模な業界検索データセットとオンラインeコマースプラットフォームに関する大規模な実験は、DGIが競争力のあるスパース、密度、生成ベースラインを上回っていることを示している。
特に、DGIは長い尾のシナリオにおいて優れた堅牢性を示し、幾何学的等方性と構造的微分可能性の調和の必要性を検証している。
関連論文リスト
- Understanding and Improving UMAP with Geometric and Topological Priors: The JORC-UMAP Algorithm [1.7484982792736636]
次元削減技術、特に UMAP は高次元データの可視化に広く用いられている。
我々は幾何学的先行としてOllivier-Ricci曲率を導入し、幾何学的ボトルネックにおけるエッジを強化し、冗長リンクを減らす。
合成および実世界のデータセットの実験により、JORC-UMAPは標準的なUMAPや他のDR法よりも破断と崩壊を効果的に削減することが示された。
論文 参考訳(メタデータ) (2026-01-23T08:42:56Z) - Latent Geometry of Taste: Scalable Low-Rank Matrix Factorization for Recommender Systems [0.0]
本研究は、MovieLens 32Mデータセットを用いて、ユーザの嗜好の潜時幾何学について検討する。
制約付き低ランクモデルはランク精度において高次元モデルよりも有意に優れていることを示す。
我々は,人気バイアスとパーソナライズされた親和性とのトレードオフを効果的に管理するための調整可能なスコアリングパラメータを導入し,コールドスタートシナリオにおけるシステムの実用性を検証する。
論文 参考訳(メタデータ) (2026-01-06T23:42:40Z) - MCGI: Manifold-Consistent Graph Indexing for Billion-Scale Disk-Resident Vector Search [0.9179857807576733]
MCGIは、探索戦略をデータ固有の幾何学に適応させる幾何学的・ディスクレジデントインデックス法である。
MCGIは5.8$times$高スループットを高次元GIST1Mでの95%リコールで達成し、最先端のDiskANNと比較した。
数十億ドル規模のSIFT1Bデータセット上では、MCGIは、標準の低次元データセットにおけるパフォーマンスの同等性を保ちながら、ハイリコールクエリレイテンシを3$times$に削減することで、そのスケーラビリティをさらに検証する。
論文 参考訳(メタデータ) (2026-01-05T09:23:48Z) - Optimal Transportation and Alignment Between Gaussian Measures [80.4634530260329]
最適なトランスポート(OT)とGromov-Wasserstein(GW)アライメントは、データセットの解釈可能な幾何学的フレームワークを提供する。
これらのフレームワークは計算コストが高いため、大規模アプリケーションは2次コストでガウス分布の閉形式解に依存することが多い。
この研究は、ガウス的、二次的コスト OT と内部積 GW (IGW) のアライメントを包括的に扱い、文学におけるいくつかのギャップを埋めて適用性を広げる。
論文 参考訳(メタデータ) (2025-12-03T09:01:48Z) - Learning Geometry: A Framework for Building Adaptive Manifold Models through Metric Optimization [8.201374511929538]
本稿では,従来のパラメータ最適化を超越した機械学習のパラダイムを提案する。
既定位相を持つ多様体上の計量テンソル場を最適化することにより、モデル空間の幾何学的構造を動的に形成する。
この研究は、その幾何学とトポロジーを自律的に進化させることができる完全にダイナミックな「メタ・ラーナー」を構築するための確固たる基礎を築いた。
論文 参考訳(メタデータ) (2025-10-30T01:53:32Z) - Constrained Auto-Regressive Decoding Constrains Generative Retrieval [71.71161220261655]
ジェネレーティブ検索は、従来の検索インデックスデータ構造を1つの大規模ニューラルネットワークに置き換えようとしている。
本稿では,制約とビームサーチという2つの本質的な視点から,制約付き自己回帰生成の固有の制約について検討する。
論文 参考訳(メタデータ) (2025-04-14T06:54:49Z) - A Fresh Look at Generalized Category Discovery through Non-negative Matrix Factorization [83.12938977698988]
Generalized Category Discovery (GCD) は、ラベル付きベースデータを用いて、ベース画像と新規画像の両方を分類することを目的としている。
現在のアプローチでは、コサイン類似性に基づく共起行列 $barA$ の固有の最適化に不適切に対処している。
本稿では,これらの欠陥に対処するNon-Negative Generalized Category Discovery (NN-GCD) フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T07:24:11Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - iDARTS: Differentiable Architecture Search with Stochastic Implicit
Gradients [75.41173109807735]
微分可能なArchiTecture Search(DARTS)は先日,ニューラルアーキテクチャサーチ(NAS)の主流になった。
暗黙の関数定理に基づいてDARTSの過次計算に取り組む。
提案手法であるiDARTSのアーキテクチャ最適化は,定常点に収束することが期待される。
論文 参考訳(メタデータ) (2021-06-21T00:44:11Z) - Self-supervised Geometric Perception [96.89966337518854]
自己教師付き幾何知覚(self-supervised geometric perception)は、基底幾何モデルラベルなしで対応マッチングのための特徴記述子を学ぶためのフレームワークである。
また,SGPは,地上トラスラベルを用いて訓練した教師付きオークルよりも同等か優れる最先端性能を達成できることを示す。
論文 参考訳(メタデータ) (2021-03-04T15:34:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。