論文の概要: Anatomy of a Sound Neural Reasoner: One-Shot Amortization, First-Pass Poisoning, and Search Inertness in Clue-Rich Completion
- arxiv url: http://arxiv.org/abs/2607.19635v1
- Date: Wed, 22 Jul 2026 00:05:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:37.943961
- Title: Anatomy of a Sound Neural Reasoner: One-Shot Amortization, First-Pass Poisoning, and Search Inertness in Clue-Rich Completion
- Title(参考訳): 音波ニューラル共振器の解剖:クリュー・リッチ補修におけるワンショットアモーティゼーション, ファーストパスポジショニング, 探索慣性
- Abstract要約: ヒントに富んだ数独では、フォワードパスは基本的にグリッド全体をコミットする。
検索開始前にすべてのハードスライス障害が決定され、最初のパスが真のソリューションで要求される値を確実に削除する。
手がかりに富んだ補完では、LDTのようなシステムは、学習された探索手順ではなく、一発の償却予測器である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural solvers are built to deduce, branch, and revise intermediate states. The Lattice Deduction Transformer (LDT) appears to do exactly that. In clue-rich Sudoku, it does not: one forward pass commits essentially the entire grid (every blank cell on standard 6x6, 94-96% on augmented 9x9), turning the iterative solver into a one-shot predictor wrapped in an exact verifier. All hard-slice failures are decided before search begins, when the first pass confidently deletes a value required by the true solution. We call this first-pass poisoning. Adding learned branching, MRV, backtracking, value exclusion, and shared nogoods (CoLT) does not change which Sudoku instances are solved; it cuts repeated invalid derivations 1,497-fold. At the frozen training budget, constraint-graph attention alone matches full-CoLT accuracy, while positional tables recover only under substantially longer training, indicating an optimization and sample-efficiency advantage rather than an absolute capacity difference. The diagnosis predicts two effective interventions. Digit-permutation augmentation raises 9x9 accuracy from below 1% to 96.5 +/- 0.3 across three training seeds on a symmetry-disjoint split. Test-time union over symmetry-transformed passes raises all three hard-slice checkpoints from 72.8-78.9% to 100% without retraining. On from-scratch graph coloring, one-shot behavior disappears and search changes accuracy. In clue-rich completion, LDT-like systems are one-shot amortized predictors rather than learned search procedures: accuracy is determined by calibration and symmetry, while search primarily removes computational waste.
- Abstract(参考訳): ニューラルソルバは中間状態の推論、分岐、修正のために構築される。
Lattice Deduction Transformer(LDT)はまさにそのように見えます。
1つの前方通過コミットは、基本的にグリッド全体(標準6x6のすべての空白セル、拡張9x9の94-96%)をコミットし、イテレーティブソルバを正確な検証器でラップしたワンショット予測器に変える。
検索開始前にすべてのハードスライス障害が決定され、最初のパスが真のソリューションで要求される値を確実に削除する。
これをファーストパス中毒と呼ぶ。
学習したブランチ、MRV、バックトラック、値排除、共有ノグッド(CoLT)の追加は、Sudokuインスタンスの解決方法を変えない。
凍結したトレーニング予算では、制約グラフのみの注意は完全なCoLT精度と一致し、位置表は極めて長いトレーニングの下でのみ回復し、絶対容量差ではなく最適化とサンプル効率の利点を示す。
診断は2つの効果的な介入を予測する。
Digit-permutation augmentationは3つの訓練種子に対して9x9の精度を1%以下から96.5+/-0.3に引き上げる。
対称変換パスに対するテスト時結合は、3つのハードスライスチェックポイントを72.8-78.9%から100%にリトレーニングせずに引き上げる。
オフスクラッチグラフのカラーリングでは、ワンショットの振る舞いが消え、検索の精度が変化する。
手がかりが豊富である場合、LDTのようなシステムは、学習された探索手順よりも1ショットの補正予測器であり、精度は校正と対称性によって決定されるが、探索は主として計算廃棄物を除去する。
関連論文リスト
- The Equilibrium Is the Initialization: Lazy Identity Collapse in Physics-Structured Deep Equilibrium Reasoning [0.0]
深い平衡モデルは入力適応型暗黙計算を約束する。
ポート・ハミルトニアンDEQの学習的推論課題に対する注意深い研究を報告する。
標準ゼロ化アブレーションが確立され, 種子依存的な回答が得られた。
論文 参考訳(メタデータ) (2026-07-13T05:45:35Z) - When Agents Commit Too Soon: Diagnosing Premature Commitment in LLM Agents [0.0]
長い答えのLSMエージェントは静かに失敗する可能性があり、彼らは証拠を早期に読み上げ、残りの期間をその証拠を守るのに費やした。
我々は、表現的コミットメントを、固定された推論ステップにおいて、クロスランな隠れ状態収束として定義する。
ランタイムモニタは、AUROCの隠れ状態から0.97までの不整合軌道を検出する(より厳密なスプリットの下で0.85-0.88)。
論文 参考訳(メタデータ) (2026-06-22T07:13:13Z) - A Verifiable Search Is Not a Learnable Chain-of-Thought [0.0]
短いプログラムで解けるタスクは、そのチェーン・オブ・ソートとしてモデルに教えられると仮定する傾向にある。
本稿では,特定可能な手続きのクラスに対して仮定が失敗することを示す。
論文 参考訳(メタデータ) (2026-06-20T04:52:14Z) - Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。
本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。
8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
論文 参考訳(メタデータ) (2026-06-02T06:51:15Z) - Rethinking Dense Sequential Chains: Reasoning Language Models Can Extract Answers from Sparse, Order-Shuffling Chain-of-Thoughts [51.84894623128418]
現代の推論言語モデルは、すべてのトークンが寄与し、ステップを順番に消費しなければならないと暗黙的に仮定して、シーケンシャルな連鎖トレースを生成する。
我々は、モデル生成推論連鎖に適用した、系統的な介入パイプライン、除去、マスキング、シャッフル、ノイズ注入により、両方の仮定に挑戦する。
解答抽出は, スパース, 秩序不感, 構造的に堅牢な情報基板上で行う。
論文 参考訳(メタデータ) (2026-05-08T06:15:50Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳(メタデータ) (2026-04-20T13:25:40Z) - Beta-Scheduling: Momentum from Critical Damping as a Diagnostic and Correction Tool for Neural Network Training [0.0]
標準ニューラルネットワークトレーニングでは、1964年までの規則である定数運動量(典型的には0.9)を用いており、その最適性について理論的に限定されている。
このベータスケジュールは、既存の学習率スケジュールを超えて、ゼロのフリーパラメータを必要とする。
ResNet-18/CIFAR-10では、ベータスケジューリングにより、一定の運動量よりも90%の精度で1.9倍の収束が得られる。
論文 参考訳(メタデータ) (2026-03-30T18:53:03Z) - BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。
両課題に対処する統合フレームワークであるBadCLIP++を提案する。
ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。
持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
論文 参考訳(メタデータ) (2026-02-19T08:31:16Z) - Predicting Overtakes in Trucks Using CAN Data [51.28632782308621]
CANデータからトラックの積載量の検出について検討する。
私たちの分析では、オーバーテイクイベントの最大10秒前をカバーしています。
我々は、オーバーテイク・トリガーに近づくと、オーバーテイク・クラスの予測スコアが増加する傾向にあることを観察する。
論文 参考訳(メタデータ) (2024-04-08T17:58:22Z) - Improve Agents without Retraining: Parallel Tree Search with Off-Policy
Correction [63.595545216327245]
木探索(TS)における2つの大きな課題に取り組む。
我々はまず、TSと事前学習された値関数による行動選択が、元の事前学習されたエージェントと比較して性能を低下させるという、反直感的な現象を発見し、分析する。
Batch-BFS(Batch-BFS)は,木の各深さのすべてのノードを同時に前進させるGPUワイドファースト検索である。
論文 参考訳(メタデータ) (2021-07-04T19:32:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。