論文の概要: Nonreciprocal Spherical Attention and Retrieval: Sharp Coarsening Clocks and Certified Score Correction
- arxiv url: http://arxiv.org/abs/2611.02237v1
- Date: Sun, 01 Nov 2026 21:58:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-12 05:32:01.135339
- Title: Nonreciprocal Spherical Attention and Retrieval: Sharp Coarsening Clocks and Certified Score Correction
- Title(参考訳): 非相互球面注意と検索:シャープ粗化クロックと認証スコア補正
- Abstract要約: 非相互球面の注意を粗大化・圧縮した近傍検索の枠組みとして発展させる。
有限圧縮の場合、質量中心化は、一定の温度で束縛された鋭いO(r2)$注目出力誤差をもたらす。
- 参考スコア(独自算出の注目度): 0.2864713389096699
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We develop nonreciprocal spherical attention as a mathematical framework for coarsening and compressed nearest-neighbor retrieval. For two shrinking acute blocks whose centers have zero skew pairing and whose total mass ratio is subexponential in inverse temperature, we prove $\lim_{β\to\infty}β^{-1}\log T_β=1-\cosφ$, without restricting particle-count growth. An explicit three-body flow has two rigorously separated metastable exponents. For finite compression, mass centering yields a sharp $O(r^2)$ attention-output error bound at fixed temperature, with an explicit spherical-normalization correction. We formulate skew query-side score calibration as a strictly convex moment problem and derive a unique normal equation, residual-based optimization certificates, and bounded low-rank projections. A norm-aware margin objective calibrates native squared-distance rankings. Experiments use semantic retrieval data, one million visual descriptors with three codebook seeds, and a ten-million-vector FAISS IVF-PQ index with recomputed exact cosine ground truth. On SIFT1M, skew margin calibration raises native-L2 hit@10 from 0.8926 to 0.8948; symmetric calibration reaches 0.8996. The ten-million-vector index reaches 0.8827 hit@10 at 0.1794 ms per query in a four-thread batch benchmark, while validation selects no skew update. Exact streamed attention over ten million keys evaluates compressed memory on 1,024 held-out queries. Independent matrix solves, automatic differentiation, finite differences, interval arithmetic, full-flow tests, and nine Rocq-checked algebra lemmas support reproducibility. Directionality alone does not establish retrieval superiority.
- Abstract(参考訳): 我々は,非相互球面の注意を粗大化・圧縮近辺探索の数学的枠組みとして発展させる。
逆温度で全質量比が指数関数以下である2つの縮小された急性ブロックに対して、粒子数の成長を制限することなく、$\lim_{β\to\infty}β^{-1}\log T_β=1-\cosφ$を証明した。
明示的な3体フローは、厳密に分離された2つの準安定指数を持つ。
有限圧縮の場合、質量中心化は鋭い$O(r^2)$注目出力誤差を一定温度で有界化し、明示的な球面正規化補正を与える。
我々は、厳密な凸モーメント問題としてスキュークエリサイドスコア校正を定式化し、特異な正規方程式、残差ベース最適化証明書、および有界低ランク射影を導出する。
ノルム対応マージン対象物は、ネイティブ2乗距離ランクを校正する。
実験では、セマンティック検索データ、100万の視覚ディスクリプタ、3つのコードブックシード、100万のベクターであるFAISS IVF-PQインデックスを使って、正確なコサイングラウンドの真実を再現している。
SIFT1Mでは、スキューマージンキャリブレーションによりネイティブL2 hit@10が0.8926から0.8948に上昇し、対称キャリブレーションは0.8996に達する。
1000万ベクターインデックスは4スレッドのバッチベンチマークでクエリ毎の0.1794msで0.8827 hit@10に達し、バリデーションではスキュー更新が選択されない。
1000万以上のキーに注目が集まり、1,024のホールドアウトクエリで圧縮されたメモリを評価する。
独立行列は、自動微分、有限差分、インターバル演算、フルフローテスト、および9つのRocqチェック代数補題が再現性をサポートする。
方向性だけでは検索優位性を確立しない。
関連論文リスト
- Calibrated $α$-Barycenters for Multiobjective $f$-Divergence Optimization [9.096942663106747]
CAL-$-MODMは非線形予測器を1つのバリセンターに集約する。
CAL-p2はL-BFGSより3.15タイム、Direct-TRより1.10タイムという中央値のペアアップを実現している。
論文 参考訳(メタデータ) (2026-10-12T14:02:15Z) - Partially Informed Stochastic Optimization via Zeroth-Order Residual Tracking [38.97446792838266]
部分的インフォームド最適化(PISO)は、利用可能なコンポーネントと残余イテレーションの実行推定を組み合わせたものである。
滑らかな非目的に対して、残差の初期等級に依存する収束保証を確立する。
PISOは、リプシッツと(O(d2varepsilon-5)の下で、さらにリプシッツとヘッセンの仮定の下で、主要な関数探索複合体(Od2varepsilon-6)を得る。
論文 参考訳(メタデータ) (2026-10-09T17:20:41Z) - The Curvature of Regret in Contextual Linear Optimization [42.371764229953165]
本研究では,データ分布を平均化し,非滑らかなポイントワイズ動作が局所的に現れることを示す。
閉形式、具体的には正規ファンの壁に支持された行列値測度を用いて曲率を導出する。
提案手法は,予測コスト線形最適化のためのシナリオ生成手法である。
論文 参考訳(メタデータ) (2026-10-01T16:25:09Z) - Guidance Breaks the Fitted Operator: A Terminal-Fitted Repair for Classifier-Free Guidance [0.6768558752130311]
インテグレータ分析レンズを用いて拡散フリーガイダンス(CFG)を解析する。
このガイダンスは, 判別部分空間を, 異常な1+wに正確に再シュミレーションすることを示す。
DDIMはもはや装着されておらず、粗いメッシュ上では、sigma_minがゼロになるにつれて、ガイドされた残基が分岐する。
論文 参考訳(メタデータ) (2026-07-08T17:21:51Z) - K-ABENA: K-Adaptive Backpropagation with Error-based N-exclusion Algorithm : (Compensated Loss-Based Sample Exclusion with Unbiased Gradient Estimation) [0.0]
K-ABENAK-Adaptive Backpropagation with Error-based N-exclusionは選択的な計算フレームワークである。
これは、少量の低損失("ミニ")観測を除外することで、イット当たりの計算トレーニングコストを削減する。
ラベル制限下で0.386の精度(ベースライン:0.832)、極端な不均衡下で0.53のAUCに崩壊する。
論文 参考訳(メタデータ) (2026-07-07T06:58:51Z) - Measuring the Symmetry--Data Exchange Rate [0.2538209532048867]
同一の軌道サイズと一致した計算値を持つ間違った群制御は制約を伴わないよりも悪いことを示す。
相対交換率beta_diff = 1.28は、理論ブートストラップ1.0と符号と桁違いに一致している。
手法的貢献 -- 共有拡散の欠点をキャンセルする相対レート推定器、間違ったグループ制御、および予め特定された失敗分類 - は、強度をパラメータ化できる帰納バイアスに転送される。
論文 参考訳(メタデータ) (2026-05-31T08:17:40Z) - Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
テキスト検出器は、事前訓練された典型軸を増幅する。
タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。
RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
論文 参考訳(メタデータ) (2026-05-20T19:08:38Z) - High-accuracy log-concave sampling with stochastic queries [70.90863485771405]
サブエクスフォデンシャルテールの繰り返し勾配を用いて,ログコンケーブサンプリングの精度保証が達成可能であることを示す。
また、このフレームワークは、0番目の順序(値)クエリの下でも、同様の高精度な保証を提供する。
論文 参考訳(メタデータ) (2026-02-15T23:19:07Z) - Robust inverse material design with physical guarantees using the Voigt-Reuss Net [0.0]
本稿では, ハード物理保証を伴う前方および逆機械的均質化のためのスペクトル正規化サロゲートを提案する。
バイファシック・マイクロ構造のオープンデータセット上の3次元線形弾性では、完全に接続されたVoigt-Reussネットは、236のイソトロピーインディスクリプタを持つFFTベースのラベルでトレーニングされている。
全体として、Voigt-Reussネットは、大バッチで制約に一貫性のある逆設計で正確で物理的に許容できる前方予測を統一する。
論文 参考訳(メタデータ) (2025-11-14T15:17:37Z) - Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。
本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。
2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
論文 参考訳(メタデータ) (2024-09-24T04:39:47Z) - Semi-Discrete Optimal Transport: Nearly Minimax Estimation With Stochastic Gradient Descent and Adaptive Entropic Regularization [38.67914746910537]
我々は,ラゲールセル推定と密度支持推定の類似性を用いて,OTマップに対して$mathcalO(t-1)$の低いバウンダリレートを証明した。
所望の速さをほぼ達成するために,サンプル数に応じて減少するエントロピー正規化スキームを設計する。
論文 参考訳(メタデータ) (2024-05-23T11:46:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。