論文の概要: Cost Accounting for Reactive Computational Graphs: Exhaustive Sweeps, Sequential Mutation, and the Backward-Locality Gap

• arxiv url: http://arxiv.org/abs/2607.18323v1
• Date: Sat, 18 Jul 2026 00:53:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.182014
• Title: Cost Accounting for Reactive Computational Graphs: Exhaustive Sweeps, Sequential Mutation, and the Backward-Locality Gap
• Title（参考訳）: リアクティブ計算グラフのコストアカウンティング:排他的スイープ、逐次変異、後方-局所ギャップ
• Abstract要約: 我々は、Juliaがニューラルネットワークの計算グラフの介入をどのように扱うかを示す。 我々は、持続的な突然変異の連続の正確なコストを証明し、挿入の間を解き放たない。 また、バッチアプリケーションがどのように順序非依存でサブ付加的であるかを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Exhaustive site-by-site interventions on a neural network's computational graph -- activation-patching sweeps, circuit-discovery searches, systematic ablation studies -- mutate the graph at every candidate site, and their cost is dominated by recomputation after each mutation. On a reactive graph engine whose invalidation provably touches exactly the downstream cone of a mutated node, we give a complete cost accounting for such workloads. First, the aggregate speedup of an exhaustive sweep over independent full recomputations is not a universal constant: if per-layer weight varies regularly with depth at Karamata index q, the ratio converges to (q+2)/(q+1) when weight concentrates near the output and to q+2 near the input, recovering 2 only in the depth-uniform case; a wall-clock corollary predicts a ceiling of about 1.79, below 2, until interpreter overhead is compiled away. Second, we prove the exact cost of a sequence of persistent mutations, never undone between insertions: the interleaved cost exceeds the isolated sum by an exact overcount summed over comparable site pairs, with closed-form extremes over insertion orders, while batched application is order-independent and sub-additive, costing exactly the union of the sites' cones plus the fresh nodes. Third, we prove the exact mirror of forward locality for the backward pass, showing it collapses the aggregate speedup to 1 under backpropagation on architectures without long skip connections. Every identity is validated on NeuroDSL, a reactive graph engine in Julia: measured sweep ratios converge to the predicted limits under four cost profiles; the training-mode ratio collapses to 1 at the predicted rate; and all 18 per-graft sequential costs and the batched total match the closed forms at zero tolerance across three insertion orders.
• Abstract（参考訳）: ニューラルネットワークの計算グラフ(アクティベーション対応のスイープ、サーキット発見検索、システマティック・アブレーション研究)の排他的サイト・バイ・サイト介入は、すべての候補サイトのグラフを変異させ、そのコストは各変異後の再計算によって支配される。 無効化が変更ノードの下流円錐に確実に正確に触れるリアクティブグラフエンジンでは、そのようなワークロードに対する完全なコストを考慮に入れます。 カラマタ指数 q の深さで層間重量が定期的に変動する場合、その比率は出力近傍に集中すると (q+2)/(q+1) に収束し、入力近傍では q+2 に収束し、深さ一様の場合のみ2 を回復する。 インターリーブされたコストは、比較対象のサイト対に対して正確なオーバーカウントを合計し、挿入順序よりもクローズドフォームの極端な値で、一方、バッチされたアプリケーションは順序に依存しず、サブアダプティブであり、サイトのコーンと新鮮なノードの結合にまったく同じコストがかかる。 第3に、後方通過の正確な局所性のミラーを証明し、長いスキップ接続のないアーキテクチャのバックプロパゲーションの下で集約速度を1に崩壊させることを示した。 すべてのアイデンティティはJuliaのリアクティブグラフエンジンであるNeuroDSL上で検証される: 測定されたスイープ比は4つのコストプロファイルの予測限界に収束し、トレーニングモード比は予測レートで1に崩壊する。

関連論文リスト

• Efficient Quantum Simulation of Variable-Coefficient Transport with Continuous Source Injection [0.49259062564301753]
  本稿では,フローインスパイアされたスキュー対称形状の強制的可変係数対流拡散方程式のアルゴリズムを提案する。 中心のスキュー対称離散化は、任意の速度プロファイルに対して、対流作用素を厳密にスキュー・エルミート的にする。 段差アンシラ崩壊確率は即時消散率に比例し,50倍の粘度範囲で選択コストを自己調整することを示した。
  論文  参考訳（メタデータ） (2026-08-27T21:00:39Z)
• Simplex Relaxation for Discrete Diffusion [58.33696160279345]
  Simplax(Simplax)はディリクレ(Dirichlet)のカテゴリー拡張で、それぞれが崩壊したカテゴリ状態と補助的単純度値変数を結合する。 Simplaxは生成パープレキシティーを改善する。-無条件のOpenWebText生成におけるエントロピートレードオフ。
  論文  参考訳（メタデータ） (2026-08-11T07:58:17Z)
• The Cost of Adaptivity: Matching Lower Bounds Across Learning Problems [1.0742675209112622]
  我々はスライス正規化ミニマックス比を用いてニュアンス適応を定式化する。 また、事前発表された1つのガウスクエリから任意のポストホックインスペクションへ拡張するコストを定義する。
  論文  参考訳（メタデータ） (2026-08-09T17:19:11Z)
• The Equilibrium Is the Initialization: Lazy Identity Collapse in Physics-Structured Deep Equilibrium Reasoning [0.0]
  深い平衡モデルは入力適応型暗黙計算を約束する。 ポート・ハミルトニアンDEQの学習的推論課題に対する注意深い研究を報告する。 標準ゼロ化アブレーションが確立され, 種子依存的な回答が得られた。
  論文  参考訳（メタデータ） (2026-07-13T05:45:35Z)
• What Does a Discrete Diffusion Model Learn? [71.03603607324338]
  離散拡散モデルは、デノイザ、スコア比、ブリッジプラグイン予測器などを学ぶ。 まず, 連続時間マルコフ連鎖 (CTMC) ELBO の任意のノイズ発生過程に対する厳密な導出から始める。 すべてのアイデンティティは、正確に解けるモデル上で近似なしで数値的に検証される。
  論文  参考訳（メタデータ） (2026-07-06T17:56:11Z)
• Active Quantum Kernel Acquisition for Gaussian Process Regression [30.032230630492155]
  量子カーネル分類に関する最近の研究は、カーネルエントリに不均一にショットを割り当てることによって、ターゲット精度に到達するために必要なショット予算を削減できることを示した。 我々はこのアイデアをガウス過程(GP)回帰(英語版)に拡張し、下流の量(全スペクトル後方分散、対数行列、辺縁確率)が、符号のみの分類出力よりも厳密なカーネルエラーに結合する設定とする。 我々は、3つの閉形式のペアレベル感性予測結合 $|_i_j|$, leave-one-out residual, and marginal-likelihood gradient を導出し、それらをネイマン型最小値に差し込む。
  論文  参考訳（メタデータ） (2026-06-27T09:40:20Z)
• Stochastic Estimation of the Layer-wise Hessian Trace for Monitoring Neural-network Training [45.88028371034407]
  本稿では,ニューラルネットワークの経験的リスクであるヘッセン行列の対角ブロックの軌跡のパラメータ推定器を提案する。 この手順はハッチンソントレース推定器とパラメータベクトル全体の上の1つのヘッセンベクトル積を組み合わせたものである。 重み分担の下での正しさは,第2次微分の前に階層的にヘッセンを組み立てる必要があることを示す。
  論文  参考訳（メタデータ） (2026-05-25T10:24:32Z)
• Self-Attention as a Covariance Readout: A Unified View of In-Context Learning and Repetition [8.250374560598495]
  大規模言語モデル(LLM)は、インコンテキスト学習(ICL)と反復生成の2つの振る舞いを示す。 どちらのモデルも、コンテキストを人口統計と捨てられたトークンレベルの詳細に要約したかのように振る舞う。 この要約と「忘れる」は、注意機構自体から導き出すことができ、肯定的に答えられるかどうかを問う。
  論文  参考訳（メタデータ） (2026-05-11T12:33:15Z)
• Tight Convergence Rates for Online Distributed Linear Estimation with Adversarial Measurements [66.94250413799232]
  分散パラメータ-サーバ-ワーカー設定における乱数ベクトル$X$の推定について検討する。 主な課題は、敵の計測と非同期である。 その結果, 分散線形推定におけるロバスト性, 識別性, 統計的効率の統一的有限時間評価が得られた。
  論文  参考訳（メタデータ） (2026-04-07T11:45:55Z)
• Hardware-Agnostic Modeling of Quantum Side-Channel Leakage via Conditional Dynamics and Learning from Full Correlation Data [0.0]
  本研究では,敵プローブキュービットが隠れゲートシーケンス中にターゲットキュービットと相互作用するシーケンシャルサイドチャネルモデルについて検討する。 同じシークエンスを$N$ショットで繰り返すと、経験的な完全相関レコードが得られる。 広帯域結合とノイズグリッドの実験により、予測された結合帯域付近で厳密なシーケンス回復が集中していることが示されている。
  論文  参考訳（メタデータ） (2026-02-17T19:33:23Z)
• From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
  以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。 実現可能な最小二乗の設定において、新しい最上界を創出する。 我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
  論文  参考訳（メタデータ） (2025-04-06T18:39:45Z)
• Clustered Switchback Designs for Experimentation Under Spatio-temporal Interference [44.644520116360106]
  我々は, 平均治療効果 (GATE) を推定し, 全単位を常に治療やコントロールに曝露した平均結果の差を推定した。 そこで我々は,単位をクラスタにグループ化し,時間ステップをブロックにグループ化する,クラスタ化されたスイッチバック設計を提案する。 良好なクラスタリングを許容するグラフに対して, トラッピングされたHorvitz-Thompson推定器が$tilde O(1/NT)$平均二乗誤差(MSE)を達成することを示す。 我々の結果は、citethu2022switchback、ugander2013graph、citetleung2022rateの結果を同時に一般化する。
  論文  参考訳（メタデータ） (2023-12-25T01:00:58Z)
• Optimization of Time-Dependent Decoherence Rates and Coherent Control for a Qutrit System [77.34726150561087]
  非コヒーレント制御は、特定の制御方法で時間に応じてデコヒーレンス率を決定する。 我々は、システムの最終状態$rho(T)$と与えられたターゲット状態$rho_rmターゲットとの間のヒルベルト・シュミットの重なりを最大化する問題を考察する。
  論文  参考訳（メタデータ） (2023-08-08T01:28:50Z)
• Solving correlation clustering with QAOA and a Rydberg qudit system: a full-stack approach [94.37521840642141]
  量子近似最適化アルゴリズム(QAOA)とクォーディットを用いた相関クラスタリング問題について検討する。 具体的には、中性原子量子コンピュータを検討し、相関クラスタリングのためのフルスタックアプローチを提案する。 ゲート数によって定量化されるように、quditの実装はqubitエンコーディングよりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-06-22T11:07:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。