論文の概要: When Can Depth Replace Precision? A Resource Theory of Quantized Neural Computation
- arxiv url: http://arxiv.org/abs/2607.23390v1
- Date: Sat, 25 Jul 2026 23:29:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.089729
- Title: When Can Depth Replace Precision? A Resource Theory of Quantized Neural Computation
- Title（参考訳）: 深度はいつ精度を置き換えられるか? : 量子化ニューラル計算の資源理論
- Abstract要約: 純粋スケジュールは、有界変動時間依存の下で、緩和されたクラスに$O(D-1)$でアプローチする。
実行算術はこの結論を覆すことができる。
コヒーレント深さ-$L$ 1次高精度指数の場合、精度マッチングには$D=(L)$が必要である。
- 参考スコア（独自算出の注目度）: 14.270378035741404
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When can additional low-bit residual computation replace missing numerical precision for a fixed input-output map? We model a quantized residual system over a fixed horizon as a pure schedule selecting fields from a declared low-bit operation library, and use relaxed controls to characterize its infinite-depth limit. The distance from the target to the closed relaxed reachable set is the exact structural floor: no increase in depth can remove it for that library. Pure schedules approach the relaxed class at rate $O(D^{-1})$ under bounded-variation time dependence and $O(D^{-\vartheta}+D^{-1})$ under Holder dependence of exponent $\vartheta$. Execution arithmetic can reverse this conclusion: full-state write-back introduces a $Dρ_z$ penalty and can freeze residual updates, whereas increment error feedback replaces this growth by a bounded carry term and obeys an exact common-lattice conservation law. A fixed-teacher converse makes this rate sharp: for coherent depth-$L$ first-order high-precision comparators, accuracy matching requires $D=Θ(L)$. Learned codebooks add a metadata resource, while state-dependent routing introduces hybrid event conditions. Verified primal and dual bounds yield feasible, impossible, or unresolved decisions before training. Companion software implements the workflow, and Lean 4 machine-checks the exact discrete core. Depth replaces precision only relative to a declared library, horizon, execution semantics, and routing model.
- Abstract（参考訳）: 固定入出力マップの欠落した数値精度の代わりに、追加の低ビット残差計算はいつ可能か?
固定地平線上の量子化残差系を、宣言された低ビット演算ライブラリからフィールドを選択する純粋スケジュールとしてモデル化し、その無限深度限界を特徴づけるために緩和制御を用いる。
ターゲットから閉じたゆったりした到達可能なセットまでの距離は、正確な構造的なフロアである。
純粋スケジュールは、有界変量時間依存のレート$O(D^{-1})$と指数$\vartheta$のホルダー依存の値$O(D^{-\vartheta}+D^{-1})$で緩和されたクラスに近づく。
フルステートの書き込みバックは$Dρ_z$ペナルティを導入し、残余更新を凍結する一方、増分エラーフィードバックは、この成長を境界付き搬送項で置き換え、正確な共通格子保存法に従う。
コヒーレント深度-$L$ 1次高精度コンパレータの場合、精度マッチングは$D=(L)$である。
学習済みのコードブックはメタデータリソースを追加し、状態依存のルーティングはハイブリッドイベント条件を導入する。
証明された原始境界と二重境界は、訓練前に実現可能、不可能、未解決の決定をもたらす。
コンパニオンソフトウェアはワークフローを実装し、Lean 4は正確な離散コアをチェックする。
Depthは、宣言されたライブラリ、水平線、実行セマンティクス、ルーティングモデルにのみ、精度を置き換える。
関連論文リスト
- A Single Fixed Shallow Circuit for Classical Shadows of Arbitrary n-Qubit States [2.5735476569508995]
我々は、再利用可能なシャドウスナップショットのラベルとして外部サンプル設定を置き換える、単一の固定された浅い量子アナライザを構築した。
アナライザは新しく用意された$n$-qubitfiducial register$A$と並列のBellreadout$A$と未知のシステム$S$を組み合わせて、1コピーあたり2n$-bitレコードを生成する。
論文 参考訳（メタデータ） (2026-09-07T04:36:39Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳（メタデータ） (2026-09-07T01:38:41Z) - DeepLoop: Depth Scaling for Looped Transformers [91.7922038545625]
ループ変換器は、複数のラウンドにコンパクトな物理ブロックのスタックを適用することで、シーケンシャルな計算をスケールする。
我々は、この密着した深さ効果を、訪問配向係数によって制御された一階の摂動によって定式化する。
結果のメソッド textbfDeepLoop は Post-LN DeepNorm アーキテクチャを保持し、非ロール深度に対して $= (2N)1/2$ と $=(8N)-1/2$ をセットする。
論文 参考訳（メタデータ） (2026-07-15T06:37:05Z) - Compander-Aligned Query Geometry for Quantized Zeroth-Order Optimization [12.92201130466754]
CAQ-ZO は 1-grid-step Rademacher stencils $z pm r$ in $z = (x)$,map endpoints back through $-1$, update in $z$ となる。
提案理論は, グリッドの分散性を証明し, 終端を囲む推定器残差を分解し, 一般のオフグリッドクエリが2/2$残差チャネルを保持するステーション境界を与える一方で, CAQ-ZO はクエリ時間残差を正確にゼロにする。
論文 参考訳（メタデータ） (2026-05-11T14:55:20Z) - Trust Region Masking for Long-Horizon LLM Reinforcement Learning [20.589897184824878]
大規模言語モデルのポリシー勾配法は、ロールアウトポリシーのサンプルから計算された代理目的を最適化する。
$_textroll ne _$ の場合、サロゲートと真の目的の間に近似誤差がある。
本稿では,トークンが信頼領域に違反した場合に,全シーケンスを勾配計算から除外するトラスト領域マスキング(TRM)を提案する。
論文 参考訳（メタデータ） (2025-12-28T20:41:59Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳（メタデータ） (2025-11-16T20:14:28Z) - Catch Your Breath: Adaptive Computation for Self-Paced Sequence Production [55.76222360698305]
我々は,言語モデルが入力トークン毎に使用する計算ステップの数を動的かつ自律的に拡張できるような,教師付きトレーニング目標のクラスを探索する。
任意のトークンに対して、モデルは don't know> 出力を出力することで、追加の計算ステップを要求できる。
CYBモデルでは精度が向上し,トークンレベルの複雑性とコンテキストに処理時間を適用することができる。
論文 参考訳（メタデータ） (2025-10-13T21:07:05Z) - Arithmetic-Mean $μ$P for Modern Architectures: A Unified Learning-Rate Scale for CNNs and ResNets [9.94514344279733]
Arithmetic-Mean $mu$P は個々の層ではなく、ネットワーク全体の平均1ステップのプレアクティベーション第2モーメントを一定スケールに制限する。
1次元および2次元の畳み込みネットワークの場合、最大更新学習率は$etastar(L)propto L-3/2$; を満足する。
論文 参考訳（メタデータ） (2025-10-05T19:22:50Z) - The Alignment Bottleneck [0.0]
ループを2段階のカスケード$U to H to Y$ given$S$、認知能力$C_textcog|S$、平均総容量$barC_texttot|S$としてモデル化する。
これは、分離可能なコードブックと、KL項が$m, barC_texttot|S$で同じチャネルで制御されるPAC-Bayes上界とで証明されたデータサイズ非依存のファノ下界をペアする。
論文 参考訳（メタデータ） (2025-09-19T12:38:30Z) - Control of the von Neumann Entropy for an Open Two-Qubit System Using Coherent and Incoherent Drives [50.24983453990065]
本稿では、時間依存デコヒーレンス率を誘導するコヒーレント制御と非コヒーレント制御を備えた開2量子系のフォン・ノイマンエントロピー$S(rho(t))$を操作するためのアプローチを開発することに専念する。
a) the final entropy $S(rho(T))$; (b) steering $S(rho(T))$ to a given target value; (c) steering $S(rho(T))$ to a target value and satisfying the pointwise state constraint $S(T)
論文 参考訳（メタデータ） (2024-05-10T10:01:10Z) - Naive Exploration is Optimal for Online LQR [49.681825576239355]
最適後悔尺度は$widetildeTheta(sqrtd_mathbfu2 d_mathbfx T)$で、$T$は時間ステップの数、$d_mathbfu$は入力空間の次元、$d_mathbfx$はシステム状態の次元である。
我々の下界は、かつての$mathrmpoly(logT)$-regretアルゴリズムの可能性を排除する。
論文 参考訳（メタデータ） (2020-01-27T03:44:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。