論文の概要: IVF-TQ: Streaming-Robust Approximate Nearest Neighbor Search via a Codebook-Free Residual Layer

• arxiv url: http://arxiv.org/abs/2605.17415v1
• Date: Sun, 17 May 2026 12:22:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:48.007212
• Title: IVF-TQ: Streaming-Robust Approximate Nearest Neighbor Search via a Codebook-Free Residual Layer
• Title（参考訳）: IVF-TQ:Codebook-Free Residual Layerによるストリーミングロバスト近似近傍探索
• Abstract要約: コードブックのない残留層を持つIVF指数:固定ランダム回転に続いて、予備計算されたロイド-マックススカラー量子化。 IVF-TQはトレーニング済みのANNインデックス(PQ、OPQ、ScaNN)のキー障害モードを大幅に削減する。
• 参考スコア（独自算出の注目度）: 3.0458514384586404
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose IVF-TQ, an IVF index with a codebook-free residual layer: a fixed random rotation followed by precomputed Lloyd-Max scalar quantization depending only on (b, d). Only the IVF coarse partition is trained. Building on TurboQuant (Zandieh et al., 2025), the design substantially reduces a key failure mode of trained-codebook ANN indexes (PQ, OPQ, ScaNN): staleness under streaming ingestion.Empirical (3 seeds): Per-batch PQ retraining does not recover the streaming gap at any tested bit budget (paired-t p > 0.28 everywhere). On streaming Deep-10M, IVF-TQ holds at 87.4% -> 86.6% (Delta = -0.80 +/- 0.10pp) while IVF-PQ degrades -3.23pp. A shuffled-i.i.d. control on SIFT-1M shows IVF-PQ losing -3.9pp without distribution shift. At higher PQ bit budgets (~1.5x IVF-TQ memory), absolute recall favors PQ as expected from rate-distortion (+6.1pp Deep-10M; +2.0pp SIFT-10M); the durable IVF-TQ benefit is operational (no codebook to retrain), robust across memory regimes.Prior art: IVF around a codebook-free residual quantizer is architecturally not new -- IVF-RaBitQ ships in Milvus, cuVS, LanceDB, Weaviate; Shi et al. (2026) is concurrent GPU work. TurboQuant itself tests only flat-rotation ANN.Contributions: (i) A multi-seed streaming-operational story for codebook-free IVF: 10M-scale evidence across PQ memory budgets. (ii) A uniform-over-sphere IP-error bound for the TQ residual quantizer with one fixed rotation (proof sketch in v1; rigorous in v2). (iii) Adaptive IVF-TQ: a partition-only refresh recovering 67% -> 97.8% under worst-case rotation shift with re-ranking (90.3% without).Code, data: https://github.com/tarun-ks/turboquant_search
• Abstract（参考訳）: コードブックのない残留層を持つIVF指数IVF-TQを提案する。 IVFの粗いパーティションのみが訓練される。 TurboQuant (Zandieh et al , 2025) 上に構築されたこの設計は、トレーニング済みコードブック ANN インデックス (PQ, OPQ, ScaNN) の重要な障害モードを大幅に削減する。 ストリーミングのDeep-10Mでは、IVF-TQは87.4%から86.6%(Delta = -0.80 +/- 0.10pp)、IVF-PQは-3.23ppである。 SIFT-1MのシャッフルI.d.制御は、分布シフトなしでIVF-PQが-3.9pp低下していることを示している。 高いPQビット予算(~1.5x IVF-TQメモリ)では、絶対リコールは、レート歪み(+6.1pp Deep-10M; +2.0pp SIFT-10M)から期待されるPQを好んでおり、耐久性のあるIVF-TQの利点は動作し(リトレーニングのためのコードブックなし)、メモリレシシ間で堅牢である。 TurboQuant 自身はフラットローテーション ANN のみをテストしている。 (i)PQメモリ予算にまたがる10万件の証拠を,コードブックフリーなIVFのためのマルチシリーズストリーミング運用ストーリー。 (II)1つの固定回転を持つTQ残差量子化器(v1 では防御スケッチ、v2 では厳密なスケッチ)に対する一様超球IPエラー。 三 適応IVF-TQ 分割のみリフレッシュ 67% ->97.8% 最悪の回転シフトで再ランク(90.3% なし)。 コード、データ:https://github.com/tarun-ks/turboquant_search

関連論文リスト

• Data Diversity, Not Frequency Invariance: A Controlled and Self-Audited Study of Compression-Robust Deepfake Detection [0.26856688022781555]
  周波数特徴と圧縮不変表現学習は、ビデオ圧縮に耐えるディープフェイク検出の鍵であると広く考えられている。 本稿では, CAFRL - block-DCT および FFT-phase ストリーム, 圧縮レベル条件付き帯域アテンション, 逆(逆)圧縮でこれを検証する。 キャパシティと拡張整合制御を備えた事前登録されたプロトコルの下では、マルチ品質データに対するプレーンなEfficientNet-B0が、各圧縮レベルで指定されたCAFRLを上回った。
  論文  参考訳（メタデータ） (2026-08-26T12:05:10Z)
• GVCCTurbo: Rate-Compute Quality Scheduling for Codebook Driven Generative Compression [1.9424280683610136]
  コードブック駆動の生成圧縮は、事前訓練された画像またはビデオジェネレータをゼロショットの視覚的先行として使用する。 本稿では,BPP方式のスケジューラであるGVCCTurboを提案する。 720p Wan-GVCCの研究では、スケジューラが20から9までの事前評価を$sim!44%の短縮時間短縮で削減する。
  論文  参考訳（メタデータ） (2026-08-04T11:59:17Z)
• Decoder-Preserving Sparse Autoencoders: Which Readouts Survive Sparse Compression? [0.0]
  我々は,この曖昧さを最適リッジ予測演算子と列車復号器保存SAE間の行列値歪みとして定式化する。 制御されたスパース実験は、宣言された事前がタスクサブスペースから保持された組み合わせを保護していることを示している。 これらの結果から,どのリフィットされたリニアリードアウトがスパース圧縮に耐えるかは,再構成品質が決定できないことが示唆された。
  論文  参考訳（メタデータ） (2026-07-19T22:19:17Z)
• Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
  有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。 このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。 Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
  論文  参考訳（メタデータ） (2026-07-08T05:48:57Z)
• OCTOPUS: Optimized KV Cache for Transformers via Octahedral Parametrization Under optimal Squared error quantization [13.284869342523095]
  キー値(KV)は自己回帰推論におけるメモリ帯域幅とフットプリントを支配している。 最近の回転プリコンディショニングコーデック(TurboQuant, PolarQuant)は、KV圧縮のほぼ最適レシピである。 OCTOPUSはこのパラダイムを回転座標三重項の結合量子化によって前進させる。
  論文  参考訳（メタデータ） (2026-05-20T14:19:51Z)
• Prefix-Adaptive Block Diffusion for Efficient Document Recognition [52.15352911463151]
  ブロック拡散モデル(BDM)は並列生成、フレキシブルな出力、KVキャッシュをサポートし、効率的な文書解析を約束する。 本稿では,前置詞から接尾辞への因果表記に代えて,ブロック内双方向化を代替するPrefix-Block Diffusion Model (PA-BDM)を提案する。 実験の結果、3B PA-BDMはいくつかのベンチマークで高い認識スコアを達成し、2.5B MinerU-Diffusionに対して推論スループットを71.6%向上した。
  論文  参考訳（メタデータ） (2026-05-16T07:50:13Z)
• Continuous First, Discrete Later: VQ-VAEs Without Dimensional Collapse [63.31488859236551]
  我々は、次元の崩壊が様々なコードブック改善技術が上回らないようなハードロスの低い境界を生じることを理論的かつ実証的に示す。 本稿では,VQを導入する前に,不適切な自動エンコーダとしてモデルを訓練する「ウォームアップフェーズ」を提案する。 合成実験と大規模画像 (VQGAN) とオーディオ (WavTokenizer) VQ-VAEs の両方において, AE Warm-Up が表現次元の復元に成功したことを示す。
  論文  参考訳（メタデータ） (2026-05-07T19:13:20Z)
• Quantum Kernel Advantage over Classical Collapse in Medical Foundation Model Embeddings [5.903606299014097]
  MIMIC-C胸部X線写真における2次保険分類におけるノイズレスシミュレーションによる量子優位性の証拠を提供する。 両分類器が同一の機能を持つ2層公正比較フレームワークを提案する。 固有解析により、量子核有効ランクは q = 11 で 69.80 に達する。
  論文  参考訳（メタデータ） (2026-04-27T15:21:53Z)
• A Parametric Memory Head for Continual Generative Retrieval [52.66674234249913]
  生成情報検索(GenIR)は、検索を単一のニューラルモデルに統合し、クエリから直接ドキュメント識別子(ドシデント)をデコードする。 逐次適応は、新たに追加された文書の検索を改善するが、以前のスライスの性能は著しく低下することを示す。 本稿では,モジュール型パラメトリックメモリヘッドで適応モデルを拡張するメモリのみの安定化ステージである,後適応メモリチューニング(PAMT)を提案する。
  論文  参考訳（メタデータ） (2026-04-25T17:38:51Z)
• Differentiable Vector Quantization for Rate-Distortion Optimization of Generative Image Compression [53.041405703471895]
  低ビットレート画像圧縮のためのエンドツーエンドRD最適化を実現する統一フレームワークRDVQを提案する。 我々は,正確なエントロピーモデリングとテスト時間率制御をサポートする自己回帰エントロピーモデルを開発した。 RD2K-valと比較すると、RDVQは DisTSで75.71%、DIV2K-valでLPIPSで37.63%減少する。
  論文  参考訳（メタデータ） (2026-04-12T09:25:24Z)
• Detecting Neurovascular Instability from Multimodal Physiological Signals Using Wearable-Compatible Edge AI: A Responsible Computational Framework [0.0]
  ウェアラブル互換の生理信号から神経血管不安定性(NVI)を検出するためのマルチモーダルMLフレームワークであるMeraguardを提案する。 毎年1220万回のインシデントストロークで、連続したマルチモーダルな生理的モニタリングは、コミュニティスケールのスクリーニングへの実践的なパスを提供する。
  論文  参考訳（メタデータ） (2026-03-20T19:17:46Z)
• Beyond Stationarity: Rethinking Codebook Collapse in Vector Quantization [12.305907179979426]
  エンコーダがドリフトすると、未選択のコードベクトルは更新を受け取れなくなり、徐々に非アクティブになる。 そこで我々は,NSVQ(Non-Stationary Vector Quantization)とTransformer-based Vector Quantization(TransVQ)の2つの新しい手法を提案する。 CelebA-HQデータセットの実験では、どちらの手法もほぼ完全なコードブックの利用と再現性の向上を実現している。
  論文  参考訳（メタデータ） (2026-02-21T16:36:50Z)
• BPDQ: Bit-Plane Decomposition Quantization on a Variable Grid for Large Language Models [56.504879072674015]
  本稿では,ビットプレーンとスカラー係数による可変量子化グリッドを構成するビットプレーン分解量子化(BPDQ)を提案する。 BPDQは、1つのGTX 3090上でQwen2.5-72Bを83.85%のGSM8Kの精度で提供できる(ただし16ビットでは90.83%)。
  論文  参考訳（メタデータ） (2026-02-04T02:54:37Z)
• POVQA: Preference-Optimized Video Question Answering with Rationales for Data Efficiency [3.4998703934432682]
  近年,VQAタスクには1500以上のフレームのコンテキストウィンドウが設けられている。 データ効率のよいパイプラインであるPOVQAを導入し、ビデオの各秒を1つの時間プール画像に圧縮する。
  論文  参考訳（メタデータ） (2025-10-01T15:15:36Z)
• Generalizable Diabetes Risk Stratification via Hybrid Machine Learning Models [0.0]
  糖尿病は世界中で5億3700万人を超え、2045年までに7億8300万人に達すると予測されている。 2つのハイブリッド分類器を比較し、外部コホート上での一般化性を評価する。
  論文  参考訳（メタデータ） (2025-09-24T21:18:52Z)
• Scalable Training for Vector-Quantized Networks with 100% Codebook Utilization [60.294965457786844]
  ベクトル量子化(VQ)は、画像生成のための離散トークン化器において重要な要素である。 VQBridgeは、地図関数法に基づく堅牢でスケーラブルで効率的なプロジェクタである。 FVQは262kのコードブックでも100%のコードブック利用が可能である。
  論文  参考訳（メタデータ） (2025-09-12T11:08:21Z)
• Quantize-then-Rectify: Efficient VQ-VAE Training [71.92014859992263]
  この研究は、VAEの許容しきい値内の量子化ノイズによって、事前訓練されたVAEをVQ-VAEに効率的に変換できることを実証する。 我々は、事前学習されたVAEを利用して、最小計算オーバーヘッドで高速なVQ-VAEトレーニングを可能にするフレームワークである textbfQuantize-then-Rectify (ReVQ) を提案する。
  論文  参考訳（メタデータ） (2025-07-14T17:59:41Z)
• FIMA-Q: Post-Training Quantization for Vision Transformers by Fisher Information Matrix Approximation [55.12070409045766]
  ポストトレーニング量子化(PTQ)は近年,費用対効果と有望なモデル圧縮パラダイムとして注目されている。 ビジョン変換器(ViT)の現在のPTQ法は、特に低ビット量子化において、精度が著しく低下している。
  論文  参考訳（メタデータ） (2025-06-13T07:57:38Z)
• Future frame prediction in chest cine MR imaging using the PCA respiratory motion model and dynamically trained recurrent neural networks [0.0]
  肺放射線治療システムは、推定腫瘍位置の不確実性や健康な組織の高照射を引き起こす遅延を受ける。 この研究は、オンライン学習アルゴリズムで訓練されたRNNを用いて、胸部ダイナミックMRIシーケンスの将来のフレーム予測に対処し、その遅延を補償する。
  論文  参考訳（メタデータ） (2024-10-08T10:21:43Z)
• LoRC: Low-Rank Compression for LLMs KV Cache with a Progressive Compression Strategy [59.1298692559785]
  キーバリュー(KV)キャッシュは、トランスフォーマーベースの自己回帰型大言語モデル(LLM)を提供する上で重要なコンポーネントである。 この問題を緩和するためのアプローチとしては、(1) アップサイクルステージに統合された効率的な注意変動、(2) テスト時のKVキャッシュ圧縮、(3) テスト時のKVキャッシュ圧縮がある。 そこで我々は,KV重み行列の低ランク近似を提案し,モデル再学習なしに既存のトランスフォーマーベースLCMとのプラグイン統合を実現する。 本手法は,テスト段階におけるアップサイクリング段階のモデルチューニングやタスク固有のプロファイリングを伴わずに機能するように設計されている。
  論文  参考訳（メタデータ） (2024-10-04T03:10:53Z)
• HyperVQ: MLR-based Vector Quantization in Hyperbolic Space [56.4245885674567]
  一般的な解決策は、VQ変分オートエンコーダ(VQVAE)にベクトル量子化(VQ)を採用することである。 本稿では,双曲型多相ロジスティック回帰(MLR)問題としてVQを定式化する新しい手法であるHyperVQを紹介する。 本実験は,HyperVQが従来のVQに比較し,識別性能を上回りながら,生成・再構成タスクに適合することを示した。
  論文  参考訳（メタデータ） (2024-03-18T03:17:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。