論文の概要: A Bethe-Ansatz Source of Early Token Correlations: A marginal-preserving construction for parallel proposals

• arxiv url: http://arxiv.org/abs/2610.16781v1
• Date: Mon, 12 Oct 2026 13:38:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:15.903156
• Title: A Bethe-Ansatz Source of Early Token Correlations: A marginal-preserving construction for parallel proposals
• Title（参考訳）: 初期トークン相関のBethe-Ansatz源:並列提案のための限界保存構成
• Abstract要約: 言語モデルデコードにおける並列トークンの提案には、共同法則が必要である。 周期的なXXZ鎖から座標-ベーテ-アンザッツ法則の族を構築する。 言語モデルゲインやウォールクロックの高速化は確立していない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Parallel token proposals in language-model decoding need a joint law, not merely accurate token marginals. We construct a family of coordinate-Bethe-ansatz laws from the periodic XXZ chain and compare each with its maximum-entropy pairwise projection at identical one- and two-site moments. In the eight-site, three-excitation sector, symmetry makes their entire probability-law difference one-dimensional, determined by a contiguous three-site moment. Along the Bethe branch, this gap varies with anisotropy, changes sign, and vanishes exactly at $Δ=(3+\sqrt{3})/2$, where the eigenstate law becomes exactly pairwise. A nonlinear readout transfers a nonzero gap into the first two token positions while preserving their separate marginals. At $Δ=1.5$ the deterministic binary token laws differ by 0.02654573 in total variation. Exact speculative verification then gives a strict accepted-prefix advantage for a constructed target and a neighborhood within targets sharing its first-token marginal. This is a mathematical existence result. It does not establish a language-model gain or wall-clock speedup.
• Abstract（参考訳）: 言語モデル復号法における並列トークンの提案は、単に正確なトークン限界ではなく、共同法則を必要とする。 周期的なXXZ鎖から座標-ベーテ-アンザッツ法則の族を構築し、その最大エントロピー対射影を同一の1点と2点のモーメントで比較する。 8つの3つの励起セクターにおいて、対称性は、連続した3つのサイトモーメントによって決定される全ての確率-法則差を1次元にする。 ベーテ分枝に沿って、このギャップは異方性によって変化し、符号が変化し、ちょうど$Δ=(3+\sqrt{3})/2$で消える。 非線形読み出しは、非ゼロギャップを第1の2つのトークン位置へ転送し、それぞれのマージンを保留する。 Δ=1.5$の値では、決定論的二元トークン法則は総変量0.02654573が異なる。 厳密な投機的検証は、構築されたターゲットと、その最初の被写体境界を共有するターゲット内の近傍に対して厳密な事前修正の利点を与える。 これは数学的に存在する結果である。 言語モデルゲインやウォールクロックの高速化は確立していない。

関連論文リスト

• LapMerge: Differentiable Exact-Budget Token Merging in Linear Time [45.497817967484536]
  順序付けられたシーケンスのトレードオフを解消する、微分可能なマージ演算子であるLapMergeを紹介します。 学習された質量分布は、その配列を正確に$N$の等質量セグメントにラプラス核密度で分割する。 ドロップインリダクションモジュールとしても、トレーニング可能なアーキテクチャコンポーネントとしても機能します。
  論文  参考訳（メタデータ） (2026-10-09T17:07:17Z)
• Identifying the Predictable Drift of a Semimartingale from Marginal Laws [6.6697530069333135]
  特殊半行列は、一意分解$X=X_0+M+A$を局所マーチンゲール$M$と予測可能な有限変分部分$A$に分割する。 我々は、繰り返し断面を通してのみ$X$が観測されるときの$A$の識別について検討する。 推定値は、サンプリングされた予測可能な補償器の観測可能な特徴フィルターへの投射、すなわち、現在の状態と、人口間で共有される任意のランダム性である。
  論文  参考訳（メタデータ） (2026-09-27T08:56:35Z)
• ZO-COSMO: Index-Free One-Hop Mixing for Decentralized Zeroth-Order Optimization [8.805992680570933]
  平均保存マスクコンセンサスと2クエリ推定を結合したtextsfZO-COSMO を開発した。 グローバルサポートは、すべての隣のミキシングを提供し、一致した更新は、各ペア内でのみ合意を必要とする。 一致するクラス内のスカラー毎の鋭い収縮境界と、コアおよびスパースモーメント更新の収束保証を導出する。
  論文  参考訳（メタデータ） (2026-09-23T01:05:56Z)
• Privacy Amplification Without Independence: How Far Negative Dependence Carries the Guarantees of Poisson Subsampling [3.6238624372073254]
  我々は、$k=1$のランダムアロケーションに対して、レニ・ディファレンス基準に対する線形法則を証明した。 Poissonベースの計算が構造化された参加に相応しいままで、どこで失敗し、デプロイに何の代償がかかるか、というように、プライバシ会計の代用マップを提供します。
  論文  参考訳（メタデータ） (2026-09-01T23:20:11Z)
• Fast Weight Attention for Continual Learning [75.34672054079408]
  リカレント高速記憶と選択状態空間モデルは、拡張コンテキストを固定サイズのリカレント状態に圧縮する。 正則化された二乗誤差回帰と負の内積目標の1次更新を導出する。 我々は、数値的に安定な正のデカイ再正規化とともに、繰り返し、マスクパラレル、チャンクパラレル形式を提供する。
  論文  参考訳（メタデータ） (2026-08-27T22:55:11Z)
• Feature Priming in Online Linear Regression: Sparse-Regret Lower Bounds and a Tight Univariate Rate [47.36630149538994]
  高次元のオンライン予測では、最良の予測子はいくつかの機能にのみ依存する可能性があるため、後悔は周囲の次元ではなく、疎らさでスケールすべきである。 WarmuthとAmidはCOLT 2023で、これらの3つのルールのいずれかが競合するオンライン後悔の保証を認めているかどうかを尋ねた。 安価なニュアンスは、リフィットが真の予測座標を過度に重くする原因となる。
  論文  参考訳（メタデータ） (2026-08-18T09:32:03Z)
• Teaching Diffusion to Speculate Left-to-Right [3.205247598097648]
  大規模言語モデル(LLM)は、幅広いタスクにわたって顕著なパフォーマンスを達成するが、その自己回帰的復号処理は、かなりの推論コストを発生させる。 投機的復号化はこのボトルネックに対処するため、軽量なドラフトモデルを使用して、後により大きなターゲットモデルによって並列に検証される複数の将来のトークンを提案する。 最近の研究は、拡散言語モデルがこの設定に適しており、パラレルでドラフトトークンのブロック全体を生成できることを実証している。
  論文  参考訳（メタデータ） (2026-06-10T01:21:56Z)
• Tokens-per-Parameter Coverage Is Critical for Robust LLM Scaling Law Extrapolation [45.56738584872585]
  ニューラルスケーリング法則は、パラメータカウント$N$とトークンカウント$D$のパワーロー関数として、言語モデルの損失を近似する。 本稿では,コリニア設計がガウス・ニュートン最小二乗問題に固有の不条件を生じさせることを示す。 これを4つのスケーリング法則形式に対して証明し、十分に条件付き推定に十分必要な閉形式TPP多様性閾値を導出する。
  論文  参考訳（メタデータ） (2026-05-08T23:00:17Z)
• Self-Normalized Martingales and Uniform Regret Bounds for Linear Regression [65.82017723631897]
  自己正規化マルティンガレのスケール不変上界が可能であることを示す。 通常の正規化ペナルティを含まない自己正規化濃度不等式を導出する。
  論文  参考訳（メタデータ） (2026-05-02T22:39:00Z)
• Universal dynamical scaling laws in three-state quantum walks [0.0]
  線上の3状態量子ウォークの切り離し点に対する有限時間スケーリング解析を行う。 生存確率や参加率などの関連量では, 脱トラッピング角付近に単一パラメータスケーリング形式を仮定する。 特に, 対数補正に間に合わせると, 参加比率が直線的に増加することが示され, 従属行動の過去の報告に光を当てる。
  論文  参考訳（メタデータ） (2021-08-23T16:27:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。