論文の概要: HCC+: Hyperbolic Guarding for Certified Attention Retrieval
- arxiv url: http://arxiv.org/abs/2608.24971v1
- Date: Tue, 25 Aug 2026 09:52:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.326109
- Title: HCC+: Hyperbolic Guarding for Certified Attention Retrieval
- Title(参考訳): HCC+: 認証されたアテンション検索のためのハイパーボリックガード
- Authors: Liangchen Ge,
- Abstract要約: 本稿では,ポアンカレ球の3つの特性を利用する理論的枠組みを提案する。クエリ非依存境界トランケーションを実現する指数体積成長,次元非依存臨界キー同定を可能にする双曲型1中心の対数被覆半径。
厳密な検索では、層ごとの注意偏差はその理想値の10%に制限され、ソフトアテンションでは、全変動距離は$O (1/sqrtn)$、有限サンプル分散の速度で減衰する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We study the Lipschitz stability of attention retrieval in hyperbolic spaces. Existing methods lack deterministic guarantees on attention-weight preservation under finite-precision representations. We introduce HCC+, a theoretical framework exploiting three properties of the Poincaré ball: exponential volume growth enabling query-independent boundary truncation; logarithmic covering radius of hyperbolic 1-centers enabling dimension-independent critical-key identification; and a packing bound with constants independent of the embedding dimension. We prove two deterministic guarantees: for exact retrieval, the per-layer attention deviation is bounded by 10\% of its ideal value; for soft attention, the total variation distance decays as $O(1/\sqrt{n})$, the rate of finite-sample variance. As a consequence of the guarding mechanism, the framework achieves a storage reduction factor of $6.1\times$ relative to FP16. We provide the first deterministic, query-independent retrieval certificate in non-Euclidean geometry.
- Abstract(参考訳): 双曲空間におけるアテンション検索のリプシッツ安定性について検討する。
既存の方法は、有限精度表現の下での注意重み保存に関する決定論的保証を欠いている。
我々は,ポアンカレ球の3つの特性を利用する理論的枠組みであるHCC+を紹介した。クエリ非依存境界切り離しを可能にする指数体積成長,次元非依存臨界キー識別を可能にする双曲型1中心の対数被覆半径,埋め込み次元に依存しない定数で束縛されたパッキングである。
厳密な検索では、層ごとの注意偏差はその理想値の10\%に制限され、ソフトアテンションでは、全変動距離は$O(1/\sqrt{n})$、有限サンプル分散の速度で減衰する。
ガード機構の結果として、このフレームワークはFP16に対して6.1\times$のストレージ削減係数を達成している。
非ユークリッド幾何学における最初の決定論的クエリ非依存検索証明書を提供する。
関連論文リスト
- Self-Normalized Inference for Constant-Stepsize Temporal-Difference Learning under Markovian Sampling [9.271408028342496]
定段階時間差学習(TD)は政策評価に魅力的であるが,1つのマルコフ軌道からの推論は連続的依存と段階的依存的定常目標を考慮しなければならない。
我々は、ランダムなTD行列と定常反復誤差によって誘導される乗法成分を共分散が保持する機能中心極限定理を確立する。
FrozenLakeとGarnetの実験では、静止目標被覆、RR目標補正、地平線インデクシング設計の有限サンプル挙動が示されている。
論文 参考訳(メタデータ) (2026-08-11T13:19:28Z) - On the Limits of Sampling-Based Reachability: Geometry, Dynamics, and Sample Complexity [3.9945187423832507]
我々は,初期セットで指定された問題群に対する幾何的支援推定として,サンプリングベースリーチブル・セット・リカバリをキャストした。
ミニマックス下限の$big((eLT/r)nbig)$ hold for every estimator。
非線形系の実験では、対向サンプリングは定数を改善するがスケーリングはしないことを確認した。
論文 参考訳(メタデータ) (2026-07-21T00:54:27Z) - On the Sparsifiability of Correlation Clustering: Approximation Guarantees under Edge Sampling [6.908972852063454]
相関クラスタリング(CC)は基本的な教師なし学習プリミティブである。
LPベースの保証を維持するためには,どの程度のエッジ情報が必要であるかを検討する。
ヤオのミニマックス原理を通して、擬距離構造がなければ、任意のアルゴリズムが$o(n)$一様ランダムエッジを観測すると近似比が生じることを示す。
論文 参考訳(メタデータ) (2026-02-14T09:12:15Z) - Spectral Graph Clustering under Differential Privacy: Balancing Privacy, Accuracy, and Efficiency [53.98433419539793]
エッジ差分プライバシー(DP)下におけるスペクトルグラフクラスタリングの問題点について検討する。
具体的には, (i) エッジフリップによるグラフ摂動と, エッジプライバシを強制する隣接行列シャッフルを併用したグラフ摂動, (ii) 次元と複雑性の複雑さを低減するために低次元空間における加法的ガウス雑音を伴うプライベートグラフプロジェクション, (iii) 収束性を維持しながらエッジDPを確保するために反復的にガウス雑音を分散するノイズの多いパワーイテレーション手法である。
論文 参考訳(メタデータ) (2025-10-08T15:30:27Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳(メタデータ) (2025-09-23T09:14:39Z) - Assessing One-Dimensional Cluster Stability by Extreme-Point Trimming [0.0]
本研究では, 一次元試料のテール挙動と幾何学的安定性を評価するための確率的手法を開発した。
有限サンプル補正を含む解析式は、一様仮説とガウス仮説の両方の下で期待される縮退について導出する。
我々はさらにクラスタリングパイプライン(DBSCANなど)に統合し、密度推定やパラメータチューニングなしに1次元のクラスタを検証する能力を示す。
論文 参考訳(メタデータ) (2025-08-29T21:52:15Z) - KPZ scaling from the Krylov space [83.88591755871734]
近年,Cardar-Parisi-Zhangスケーリングをリアルタイムの相関器や自動相関器に示す超拡散が報告されている。
これらの結果から着想を得て,Krylov演算子に基づく相関関数のKPZスケーリングについて検討する。
論文 参考訳(メタデータ) (2024-06-04T20:57:59Z) - Statistical, Robustness, and Computational Guarantees for Sliced
Wasserstein Distances [18.9717974398864]
スライスされたワッサーシュタイン距離は古典的なワッサーシュタイン距離の性質を保ちながら、高次元での計算と推定によりスケーラブルである。
このスケーラビリティを, (i) 経験的収束率, (ii) データの汚染に対する堅牢性, (iii) 効率的な計算方法という3つの重要な側面から定量化する。
論文 参考訳(メタデータ) (2022-10-17T15:04:51Z) - Computationally Efficient PAC RL in POMDPs with Latent Determinism and
Conditional Embeddings [97.12538243736705]
大規模部分観測可能決定プロセス(POMDP)の関数近似を用いた強化学習に関する研究
我々のアルゴリズムは、大規模POMDPに確実にスケールする。
論文 参考訳(メタデータ) (2022-06-24T05:13:35Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - $\gamma$-ABC: Outlier-Robust Approximate Bayesian Computation Based on a
Robust Divergence Estimator [95.71091446753414]
最寄りの$gamma$-divergence推定器をデータ差分尺度として用いることを提案する。
本手法は既存の不一致対策よりも高いロバスト性を実現する。
論文 参考訳(メタデータ) (2020-06-13T06:09:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。