論文の概要: Exact and Deterministic Patch Descriptor Retrieval via Hierarchical Normalization
- arxiv url: http://arxiv.org/abs/2606.27280v1
- Date: Thu, 25 Jun 2026 16:56:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.364567
- Title: Exact and Deterministic Patch Descriptor Retrieval via Hierarchical Normalization
- Title(参考訳): 階層正規化による厳密かつ決定論的パッチ記述子検索
- Abstract要約: 本稿では,完全ベクトル探索と同一に近い最寄りの近傍を確実に返すパッチ記述子検索手法を提案する。
これは、HNSW や IVF-PQ のような、速度の正確性と引き換えに、近似的近傍(ANN)アプローチとは対照的である。
キャッシュ最適化されたStructure-of-ArraysレイアウトとK=alpha=1/32により、検索はブルートフォース128ディミサーチよりも13.7x (trevi) / 12.7x (halfdome)スピードアップを達成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a patch descriptor retrieval method that returns the exact nearest neighbour -- provably identical to exhaustive full-vector search -- while evaluating only a small fraction of the database, and does so deterministically: the same (database, query) pair always produces the same result, independent of run order, thread count, or hardware. This contrasts with approximate nearest-neighbour (ANN) approaches such as HNSW and IVF-PQ, which trade exactness for speed and may return different results across runs. The enabling mechanism is Hierarchical Normalization (HN): a normalisation scheme that splits the pre-normalisation feature vector into a K-dim major component (norm sqrt(1-alpha)) and a (128-K)-dim minor component (norm sqrt(alpha)). Since the minor inner product is bounded by alpha (Cauchy-Schwarz on the prescribed norms), the major similarity plus alpha is an admissible upper bound on the full similarity: the search scans the K-dim major component for all entries, then applies full 128-dim evaluation only to entries that cannot be pruned -- a provably exact branch-and-bound scan. We train HN-modified HardNet on the notredame split of the UBC patch dataset and evaluate on trevi and halfdome. With a cache-optimised Structure-of-Arrays layout and K=8, alpha=1/32, the search achieves 13.7x (trevi) / 12.7x (halfdome) speed-up over brute-force 128-dim search, with only 0.4% of entries requiring full evaluation. At K=16, alpha=1/8, FPR@95 rises from 0.0062 to 0.0064 on trevi at 7.2x speed-up, with 98.8% of entries bypassing full evaluation.
- Abstract(参考訳): 我々は、データベースのごく一部しか評価していないが、最も近い隣人を返すパッチ記述子検索方法を提案する。同じ(データベース、クエリ)ペアが常に同じ結果を生成するが、実行順序、スレッド数、ハードウェアに依存しない。
これは HNSW や IVF-PQ のような近似的近傍(ANN)アプローチとは対照的である。
この機構は階層正規化 (HN) であり、正規化前特徴ベクトルを K-次元主成分 (norm sqrt(1-alpha)) と (128-K)-次元小成分 (norm sqrt(alpha)) に分割する正規化スキームである。
マイナーな内積はアルファ(所定のノルム上のコーシー=シュワルツ)で有界であるため、主要な類似性+アルファは完全な類似性上の許容上界である: 探索は全てのエントリに対してK-dimの主要成分をスキャンし、完全な128-dim評価はプルーニングできないエントリにのみ適用する。
UBCパッチデータセットのNotredame分割に基づいてHN修飾HardNetをトレーニングし,トレビとハーフドームの評価を行った。
キャッシュ最適化されたStructure-of-ArraysレイアウトとK=8、α=1/32により、検索は13.7x (trevi) / 12.7x (halfdome) のスピードアップを達成する。
K=16では、α=1/8で、FPR@95はトレビで0.0062から0.0064に上昇し、7.2倍の速度で上昇し、98.8%のエントリーは完全な評価を回避した。
関連論文リスト
- Prefix Sharing Is a Sorting Problem [0.304585143845864]
再利用するKVキャッシュを正確なプレフィックスマッチングで実行するため、再利用可能な部品の集合からプロンプトが組み立てられた場合、選択された順序は、どれだけの計算を共有できるかを決定する。
これは、要求が少なくとも2つの部分を含み、一般的には正しくない場合にのみ最適であることを示す。
我々の主な結果は構造定理であり、最小プレフィックス・トリーコストはリクエスト上の二項階層 H に対して min_H sum_x w(x) t_x(H) と等しい。
論文 参考訳(メタデータ) (2026-09-12T04:02:31Z) - BF1: A Causal Dyadic Sparse-Attention Retrofit for Efficient Long-Context Transformers [0.0]
本研究では,小面積の局所的近傍,大域的な第1ブロック,および対数的に空間化された歴史的ブロックを結合したブロックアライン・ダイアルド・スパース・アテンション経路について検討する。
最適化されたBF16の実装は、2Kトークンと4Kトークンの間で高い注意を払い、32Kで1層あたり10.91倍のプリフィルスピードアップに達する。
本稿では,数値的正当性,選択相互作用スケーリング,カーネル性能,部分モデル言語モデリング,および一致した次世代言語モデリングについて検討する。
論文 参考訳(メタデータ) (2026-08-19T18:35:12Z) - RoPE-Aware Bit Allocation for KV-Cache Quantization [52.099459337231345]
Block-GTQはTurboQuant-MSE上に構築されたキーキャッシュ量子化のためのビットアロケータである。
これは、RoPEクエリキーのロジットを10モデル診断パネルに保存する。
128Kコンテキストでfp16 FlashAttention2より1.34倍高速で動作する。
論文 参考訳(メタデータ) (2026-06-23T00:17:48Z) - More Is Not Always Better: Cross-Component Interference in LLM Agent Scaffolding [4.738949927143789]
LLMエージェントシステムは、コンポーネント(計画、ツール、メモリ、自己回帰、検索)を積み重ねて構築される
We run a full factorial experiment on all 25=32 subsets of five components on HotpotQA and GSM8K with Llama-3.1-8B/70B conditions。
シングルツールエージェントのHotpotQAは、All-Inを32%上回る(F1 0.233 vs 0.177, p23)。
以上の結果から,最大装備エージェントは相互作用認識分析によりサブセット選択に置き換えるべきであることが示唆された。
論文 参考訳(メタデータ) (2026-05-07T06:01:43Z) - Layer-wise MoE Routing Locality under Shared-Prefix Code Generation: Token-Identity Decomposition and Compile-Equivalent Fork Redundancy [0.0]
LLMベースのコード生成では、複数のコード候補が同じプロンプトから並列に生成されることが多い。
Qwen3.5-35B-A3B-FP8を共有接頭辞から木探索に基づく分岐生成により検討した。
ビーム検索を含むトップP検索の多様性は、大きな課題であることを示している。
論文 参考訳(メタデータ) (2026-04-19T00:56:08Z) - Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
基本的で長期にわたる課題は、その効率的な近似である。
一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。
本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
論文 参考訳(メタデータ) (2026-04-09T16:38:14Z) - HISA: Efficient Hierarchical Indexing for Fine-Grained Sparse Attention [62.79085204939384]
HISA (Hierarchical Indexed Sparse Attention) は、平らなトークンスキャンから2段階の階層的な手順に検索パスを書き換える。
カーネルレベルのベンチマークでは、HISAは64Kコンテキストでの高速化を実現している。
論文 参考訳(メタデータ) (2026-03-30T13:59:51Z) - LUT-KAN: Segment-wise LUT Quantization for Fast KAN Inference [20.271194684947282]
本稿では,PyKanスタイルのkan層に対するLUTコンパイルおよび量子化手法であるLUT-KANを紹介する。
LUT-KANは、各エッジ関数をアフィンInt8/uint8量子化および線形化したセグメントごとのLUTに変換する。
複数の種にまたがる平均および標準偏差による精度,速度,メモリ計測値について報告する。
論文 参考訳(メタデータ) (2026-01-06T18:00:45Z) - Quantum King-Ring Domination in Chess: A QAOA Approach [2.7474031534471384]
量子キングリング・ドミネーション(Quantum King-Ring Domination、QKRD)は、チェスの戦術的位置から派生したNISQスケールのベンチマークである。
我々はQAOA設計選択を体系的に評価し、制約保存ミキサーが標準ミキサーよりも約13ステップ早く収束していることを見出した。
内在的検証では、QAOAはグリーディを12.6%、ランダム選択を80.1%上回っている。
論文 参考訳(メタデータ) (2026-01-01T11:59:40Z) - δ-EMG: A Monotonic Graph Index for Approximate Nearest Neighbor Search [33.62724124122037]
本稿では,クエリ時における近似精度を制御する誤り境界付きANN探索アルゴリズムを提案する。
0.99のリコール条件下では、SIFT1Mデータセット上で19,000QPSを達成し、他の手法よりも40%以上性能が向上する。
論文 参考訳(メタデータ) (2025-11-21T03:20:54Z) - vCache: Verified Semantic Prompt Caching [95.16654660556975]
本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。
オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。
我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
論文 参考訳(メタデータ) (2025-02-06T04:16:20Z) - Quick Adaptive Ternary Segmentation: An Efficient Decoding Procedure For Hidden Markov Models [41.99844472131922]
ノイズ観測から元の信号を復号することは、ほぼすべてのHMMデータ解析における主要な目標の1つである。
QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATS, QATSについて述べる。
QATSの実装はGitHubのRパッケージQATSにある。
論文 参考訳(メタデータ) (2023-05-29T19:37:48Z) - Rapid Person Re-Identification via Sub-space Consistency Regularization [51.76876061721556]
Person Re-Identification (ReID) は、歩行者を分離したカメラで識別する。
実値特徴記述子を用いた既存のReID法は精度が高いが、ユークリッド距離計算が遅いため効率が低い。
本稿では,ReID 処理を 0.25 倍高速化するサブスペース一貫性規則化 (SCR) アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-07-13T02:44:05Z) - Solving correlation clustering with QAOA and a Rydberg qudit system: a
full-stack approach [94.37521840642141]
量子近似最適化アルゴリズム(QAOA)とクォーディットを用いた相関クラスタリング問題について検討する。
具体的には、中性原子量子コンピュータを検討し、相関クラスタリングのためのフルスタックアプローチを提案する。
ゲート数によって定量化されるように、quditの実装はqubitエンコーディングよりも優れていることを示す。
論文 参考訳(メタデータ) (2021-06-22T11:07:38Z) - Towards Improving the Consistency, Efficiency, and Flexibility of
Differentiable Neural Architecture Search [84.4140192638394]
最も微分可能なニューラルアーキテクチャ探索法は、探索用のスーパーネットを構築し、そのサブグラフとしてターゲットネットを導出する。
本稿では,エンジンセルとトランジットセルからなるEnTranNASを紹介する。
また,検索処理の高速化を図るため,メモリや計算コストの削減も図っている。
論文 参考訳(メタデータ) (2021-01-27T12:16:47Z) - DC-NAS: Divide-and-Conquer Neural Architecture Search [108.57785531758076]
本稿では,ディープ・ニューラル・アーキテクチャーを効果的かつ効率的に探索するためのディバイド・アンド・コンカ(DC)手法を提案する。
ImageNetデータセットで75.1%の精度を達成しており、これは同じ検索空間を使った最先端の手法よりも高い。
論文 参考訳(メタデータ) (2020-05-29T09:02:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。