論文の概要: Coarse-Graining Recursive Expert Computation: Continuation-Relative Interfaces and Failure Modes

• arxiv url: http://arxiv.org/abs/2610.14413v1
• Date: Sat, 10 Oct 2026 00:21:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.046267
• Title: Coarse-Graining Recursive Expert Computation: Continuation-Relative Interfaces and Failure Modes
• Title（参考訳）: 粗粒化再帰的エキスパート計算:連続的相対的インタフェースと失敗モード
• Abstract要約: 本稿では,それに続く計算によって代替品の評価を行う連続相対評価フレームワークを提案する。 このフレームワークは、スキップされた計算、実行された操作、下流の損失の要約を区別する。 実験により、表現の忠実さとタスクの喪失は、異なる適合する目的に好適であることが示されている。
• 参考スコア（独自算出の注目度）: 28.160822380428282
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Computational coarse-graining aims to replace a sequence of updates with a cheaper module while preserving task performance. We present a continuation-relative evaluation framework that assesses replacements through the computation that follows them, using downstream task quality and total execution cost as joint criteria. The framework distinguishes boundary representations, summaries of skipped computation, executed operations, and downstream loss. It makes interfaces and permitted deployment information explicit, combines fine-path references with directly trained controls using the same shortened architecture, and accounts for selection overhead. An exact loss decomposition separates replacement effects at a fixed downstream action from effects of changing that action. A finite construction shows how retained information can reduce the stipulated cost of zero-error prediction under fixed information and controller restrictions. Experiments in two frozen pretrained language models show that representation fidelity and task loss can favor different fitting objectives. In a prespecified comparison on a 1.7-billion-parameter model, next-token-loss training lowers in-distribution negative log-likelihood by 0.1901 nats per scored token compared with reconstructing the skipped blocks' output, using the same optimizer and update count. This ranking reverses in all nine paired comparisons under distribution shift. In a recursive expert prototype, the jointly adapted candidate lowers task error relative to frozen-bank and router-only baselines, but trails directly trained controls, and the tested input-only selectors fail the joint quality-cost criteria. Together, the protocol and studies provide explicit criteria and diagnostics for distinguishing useful computational replacement from local approximation gains within specified interfaces and evaluation settings.
• Abstract（参考訳）: 計算粗粒化(Computational coarse-graining)は、タスクパフォーマンスを維持しながら、一連の更新をより安価なモジュールに置き換えることを目的としている。 本稿では、下流のタスク品質と総実行コストを共同基準として、それに続く計算によって置換を評価する継続相対評価フレームワークを提案する。 このフレームワークは境界表現、スキップされた計算の要約、実行された操作、下流の損失を区別する。 インターフェースと許可されたデプロイメント情報を明示し、ファインパス参照と、同じ短縮アーキテクチャを使って直接訓練されたコントロールを組み合わせる。 正確な損失分解は、固定下流作用における置換効果と、その作用を変更する効果とを分離する。 有限構成は、固定情報とコントローラの制約の下で、保持された情報がゼロエラー予測の所定コストを削減できることを示す。 凍結事前訓練された2つの言語モデルによる実験は、表現の忠実度とタスク損失が異なる適合目的を好むことを示す。 1.7ビリオンパラメータモデルの事前比較では、同じオプティマイザと更新数を用いて、スキップされたブロックの出力を再構成するのと比較して、次のトケンロストレーニングは、スコアトークン当たりの非分配負の対数類似度を0.1901ナット下げる。 このランキングは、分布シフトの下での9対の比較で逆になる。 再帰的な専門家のプロトタイプでは、凍結バンクとルータのみのベースラインに対して、共同適応された候補はタスクエラーを低くするが、直接訓練された制御を辿り、テストされた入力のみのセレクタは、共同品質のコスト基準を満たさない。 プロトコルと研究は、特定のインタフェースと評価設定内の局所近似ゲインから有用な計算置換を区別するための明確な基準と診断を提供する。

関連論文リスト

• PyINE: A Framework for Scalable Elicitation and Oversight via Code Execution [68.74093425009342]
  推論モデルは、コストが安いが誤解を招くショートカットにデフォルトを保ちながら、タスクを解決できる。 PyINEはPythonのインスツルメンテーションプログラムを使ってスケーラブルなエレケーションと監視を行うフレームワークである。 PyINE-v1は100万近い決定論的実行トレースから構築された最初のリリースです。
  論文  参考訳（メタデータ） (2026-10-03T20:03:43Z)
• Unmasking Removal-Budget Confounding: A Matched Operating-Point Evaluation Framework for Adaptive Data Cleaning [0.0]
  一致した予算と一致したリコール制御を用いた手法の評価を行うオペレーティングポイント・アウェア評価フレームワークを提案する。 このフレームワークは、再重み付き学習難易度キュー、補助ユークリッド距離キュー、パーティションの粒度向上を特徴とするマルチキュー適応クリーナー設計でテストする。 偽陽性の分解は、清潔だが難易度の高いサンプルは、主に低汚職率でエラー数を減少させ、適度な汚職でしきい値に依存し、重度の汚職下では無視的に寄与することを示した。
  論文  参考訳（メタデータ） (2026-08-06T18:50:35Z)
• Lottery Tickets Are Not Deployment Tickets [4.230349220081444]
  我々は、下流決定論理を再構成することなく、精度に適合した宝くじ券または他のスパースチャレンジャーが、既存の高密度モデルを置き換えることができるかどうかを検討する。 実験全体を通して、スパース候補は繰り返し密度参照精度を回復するが、行動学的に異なるままである。 固定閾値ポリシー診断を備えた小さなギャップ設定では、宝くじの交換は受け入れレビュー決定の7%から10%に変化する。
  論文  参考訳（メタデータ） (2026-07-29T15:25:19Z)
• A Symbolic Neural CPU for Quantization-Simulated Writeback and Interpretable Program Execution [0.0]
  本稿では、リカレント制御、明示的な演算ルータ、軌道監視を組み合わせたトレース制御型シンボリック・ニューラルCPUを提案する。 このモデルは選択した操作、ソースレジスタと宛先レジスタ、レジスタトラジェクトリ、メモリ信号、書き込みセマンティクスを公開する。 これらの結果は、解釈可能で、低精度で制御可能なニューラル実行のための、トレース検証可能なフレームワークを確立する。
  論文  参考訳（メタデータ） (2026-07-10T22:55:23Z)
• FlowBender: Feedback-Aware Training for Self-Correcting Conditional Flows [18.746098727212544]
  FlowBenderは3D再構成のための新しい拡散流モデルである。 FlowBenderは、標準的な教師付きアライメントトレーニングよりも一貫して優れています。 微分可能な演算子に対して、FlowBenderのいくつかの変種を提案する。
  論文  参考訳（メタデータ） (2026-06-18T15:56:07Z)
• Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
  emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。 EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
  論文  参考訳（メタデータ） (2026-05-28T09:45:47Z)
• Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
  そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。 各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。 これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
  論文  参考訳（メタデータ） (2026-04-20T13:25:40Z)
• Decomposing Reasoning Efficiency in Large Language Models [2.4149105714758545]
  我々はトークン効率を、固定されたトークン予算の下での完了、与えられた完了条件の正確性、冗長性といった、解釈可能な要因に分解する。 推論トレースが利用可能であれば、冗長だが拡張された推論からループを分離するために決定論的トレース品質尺度を追加します。 我々の分解は、異なる効率の介入を示唆する異なるボトルネックプロファイルを明らかにします。
  論文  参考訳（メタデータ） (2026-02-10T14:09:18Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• A Unified Framework of Surrogate Loss by Refactoring and Interpolation [65.60014616444623]
  勾配勾配を有する深層ネットワークのトレーニングにおいて,サロゲート損失を発生させる統一フレームワークUniLossを導入する。 3つのタスクと4つのデータセットに対するUniLossの有効性を検証する。
  論文  参考訳（メタデータ） (2020-07-27T21:16:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。