論文の概要: The Voronoi Bottleneck: Capacity-Aware Dense Retrieval for Product Search
- arxiv url: http://arxiv.org/abs/2606.28359v1
- Date: Tue, 09 Jun 2026 19:34:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-05 17:01:29.596513
- Title: The Voronoi Bottleneck: Capacity-Aware Dense Retrieval for Product Search
- Title(参考訳): Voronoi Bottleneck: 商品検索のための容量対応のDense Retrieval
- Abstract要約: ボロノイ複雑性とサインランクはトップ1検索に等価である。
デンス埋め込み検索は、すべての関連情報を単一の内部積に圧縮する。
DARTはゼロタイムのオーバーヘッドを必要とします -- デュアルエンコーダシステムを改善するための、ドロップイントレーニングの目標です。
- 参考スコア(独自算出の注目度): 5.2542163767088805
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Dense embedding retrieval compresses all relevance information into a single inner product, imposing a fundamental geometric limit -- the Voronoi Bottleneck -- on the number of query-document relevance patterns expressible at fixed embedding dimension (d). We make three contributions. (1) Unified capacity theory. We prove that Voronoi complexity and sign-rank are equivalent for top-1 retrieval, yielding tight dimension bounds and a computable diagnostic, the Capacity Utilization Score (CUS), that predicts per-query retrieval failure with AUC (> 0.8) without relevance labels. (2) Diagnosis. CUS identifies two capacity regimes -- moderate ((δ\gtrsim 1)), where density-aware training yields measurable gains, and vacuous ((δ\ll 1)), where it does not -- giving practitioners an a priori check before investing in retraining. (3) DART training. We introduce AT-DW-InfoNCE, an Adaptive-Temperature Density-Weighted contrastive objective with formally derived optimal weighting (α^* = 2.0). On a 100K-query synthetic product-search corpus with controlled relevance structure, DART improves +1.9 Recall@100 over a same-data InfoNCE baseline ((84.9 \pm 0.0) vs. (83.0 \pm 0.3); 8 seeds, (p < 0.001)), outperforming focal loss and temperature-schedule alternatives. DART requires zero inference-time overhead -- it is a drop-in training objective that improves any dual-encoder system.
- Abstract(参考訳): デンス埋め込み検索は、すべての関連情報を単一の内部積に圧縮し、固定埋め込み次元(d)で表現可能なクエリドキュメント関連パターンの数に基本的な幾何学的制限 -- ボロノイ・ボトルネック(Voronoi Bottleneck)を課す。
私たちは3つの貢献をします。
1)統一容量理論
我々は,Voronoiの複雑性と符号ランクがTop-1検索に等価であることを証明し,関連するラベルを使わずにAUC(>0.8)によるクエリ毎の検索障害を予測した,厳密な次元境界と計算可能な診断値であるCapacity utilization Score(CUS)を作成した。
(2)診断。
CUSは、中等度(δ\gtrsim 1)、密度認識トレーニングが測定可能な利得をもたらす中等度(δ\gtrsim 1)、空虚性(δ\ll 1)の2つのキャパシティ・レシスタンスを特定している。
(3)DART訓練。
本稿では, 適応温度密度重み付きコントラスト目標であるAT-DW-InfoNCEについて紹介する(α^* = 2.0)。
100Kクエリの合成製品検索コーパスにおいて、DARTは+1.9 Recall@100を同じデータInfoNCEベースライン((84.9 \pm 0.0)対(83.0 \pm 0.3)で改善し、焦点損失と温度スケジュールの代替よりも優れた8種の種子(p < 0.001)を生産する。
DARTは推論時のオーバーヘッドをゼロにする -- デュアルエンコーダシステムを改善するための、ドロップイントレーニングの目標です。
関連論文リスト
- UOT-Gap: A Variational Principle for the Modality Gap in Vision-Language Models via Unbalanced Optimal Transport [3.8167107540819245]
UOT-Gapは、凍結画像とテキスト埋め込みを不均衡な最適輸送(UOT)でモデル化する訓練不要な変分診断法である。
凍ったCLIP、OpenCLIP、SigLIPエンコーダを持つFlickr8KおよびCOCO-1Kでは、キャプション劣化によりRecall@1が0.559から0.003に減少する。
これらの結果から, UOT-Gapはキャプション品質, モダリティアライメント, 検索ロバストネスの診断法として確立された。
論文 参考訳(メタデータ) (2026-09-09T14:23:13Z) - Parameter-efficient Prompt Tuning of Vision Foundation Model With Adaptive Focal Loss for Interpretable MCI Screening [1.0195618602298684]
本稿では,3つのモダリティ固有の学習可能なプロンプトトークンによって適応された凍結DINOv2適応モデルを用いたパラメータ効率のよいフレームワークを提案する。
提案したアーキテクチャでは、MCI級F1が0.641、AUCが0.795となり、計算上より重いResViTベースラインのMCI級F1では0.110を上回った。
論文 参考訳(メタデータ) (2026-07-16T14:26:22Z) - Ring-Zero: Scaling Zero RL to a Trillion Parameters for Emergent Reasoning [55.99621402404222]
人間の注釈のない検証可能な報酬による強化学習は、しばしばゼロRLと呼ばれ、思考の連鎖的推論を引き出すための強力なパラダイムとして現れている。
我々はモデルから高品質な推論行動を引き出すことを目指している。
単純なスケーリングは、可読性、トークンの冗長性、適応的な推論深さの欠如に悩まされることがよくあります。
論文 参考訳(メタデータ) (2026-07-14T06:14:55Z) - TACO: A Test and Check Framework for Robust Pose Graph Optimization [9.59638516502392]
我々は,PGOシステムから外れ値のフィルタリングを目的とした,堅牢な最適化フレームワークTACOを提案する。
TACOは、測定値が不整数または外れ値として明示的にモデル化するのではなく、最大一貫した測定値の集合への近似を求める。
我々は,2次元SLAMおよび3次元ビジュアルSLAMデータセットのTACOを,いくつかの最先端手法に対して評価した。
論文 参考訳(メタデータ) (2026-06-29T06:39:09Z) - When to Retrieve During Reasoning: Adaptive Retrieval for Large Reasoning Models [13.891522069967507]
本稿では、推論対応検索フレームワークReaLM-Retrieveを紹介する。
ステップレベルの不確実性検出は、トークンや文レベルではなく、推論ステップで知識ギャップを識別する。
検索介入政策は、外部証拠が進行中の推論に最大限の利益をもたらすことを学習する。
論文 参考訳(メタデータ) (2026-04-29T13:15:44Z) - LACONIC: Dense-Level Effectiveness for Scalable Sparse Retrieval via a Two-Phase Training Curriculum [73.82125917416067]
LACONICは、Llama-3アーキテクチャに基づく学習されたスパースレトリバーのファミリーである。
8Bの派生型はMTEB Retrievalベンチマークで最先端の60.2 nDCGを達成し、リーダーボードで15位となった。
論文 参考訳(メタデータ) (2026-01-04T22:42:20Z) - Semantic-Constrained Federated Aggregation: Convergence Theory and Privacy-Utility Bounds for Knowledge-Enhanced Distributed Learning [0.0]
本稿では,ドメイン知識の制約を分散最適化に組み込んだ理論的な基盤を持つフレームワークであるSemantic-Constrained Federated Aggregation(SCFA)を紹介する。
我々は、制約違反率を表す SCFA 収束率 O(1/sqrt(T) + rho) を証明し、制約に基づく連邦学習のための最初の収束理論を確立する。
我々は,Boschの生産データを用いて,118万サンプルと968のセンサ機能を備えた予測保守の枠組みを検証した。
論文 参考訳(メタデータ) (2025-12-12T04:29:29Z) - A Novel Attention-Augmented Wavelet YOLO System for Real-time Brain Vessel Segmentation on Transcranial Color-coded Doppler [49.03919553747297]
我々は,脳動脈を効率よく捉えることができるAIを利用したリアルタイムCoW自動分割システムを提案する。
Transcranial Color-coded Doppler (TCCD) を用いたAIによる脳血管セグメンテーションの事前研究は行われていない。
提案したAAW-YOLOは, 異方性および対側性CoW容器のセグメンテーションにおいて高い性能を示した。
論文 参考訳(メタデータ) (2025-08-19T14:41:22Z) - AHDMIL: Asymmetric Hierarchical Distillation Multi-Instance Learning for Fast and Accurate Whole-Slide Image Classification [51.525891360380285]
AHDMILは非対称な階層的蒸留マルチインスタンス学習フレームワークである。
2段階のトレーニングプロセスを通じて、無関係なパッチを排除します。
分類性能と推論速度の両方において、従来の最先端手法を一貫して上回っている。
論文 参考訳(メタデータ) (2025-08-07T07:47:16Z) - Quick Dense Retrievers Consume KALE: Post Training Kullback Leibler
Alignment of Embeddings for Asymmetrical dual encoders [89.29256833403169]
我々は,高密度検索手法の推論効率を高めるための効率的かつ正確な手法であるKulback Leibler Alignment of Embeddings (KALE)を紹介した。
KALEは、バイエンコーダトレーニング後の従来の知識蒸留を拡張し、完全なリトレーニングやインデックス生成なしに効率的なクエリエンコーダ圧縮を可能にする。
KALEと非対称トレーニングを用いることで、3倍高速な推論を持つにもかかわらず、DistilBERTの性能を超えるモデルを生成することができる。
論文 参考訳(メタデータ) (2023-03-31T15:44:13Z) - A Proof-of-Concept Study of Artificial Intelligence Assisted Contour
Revision [4.195764918318819]
人工知能支援輪郭修正(AIACR)という新しい概念を提案する。
このコンセプトは、深層学習(DL)モデルを使用して、臨床医が輪郭を効率的かつ効果的に修正するのを支援する。
頭頸部癌データセットの2次元X線CT画像を用いてその実現可能性を示した。
論文 参考訳(メタデータ) (2021-07-28T16:18:29Z) - Disentangle Your Dense Object Detector [82.22771433419727]
深層学習に基づく高密度物体検出器はここ数年で大きな成功を収め、ビデオ理解などのマルチメディアアプリケーションにも応用されてきた。
しかし、現在の高密度検出器の訓練パイプラインは、保持できない多くの接続に妥協されている。
そこで本研究では, 簡易かつ効果的な遠心分離機構を設計し, 現在の最先端検出器に統合するDED(Disentangled Dense Object Detector)を提案する。
論文 参考訳(メタデータ) (2021-07-07T00:52:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。