論文の概要: Can a Cacheable Decision Model Follow Rules?

• arxiv url: http://arxiv.org/abs/2609.37832v1
• Date: Tue, 29 Sep 2026 15:37:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.692135
• Title: Can a Cacheable Decision Model Follow Rules?
• Title（参考訳）: キャッシュ可能な決定モデルフォロールールは可能か?
• Abstract要約: Certoは小さな非生成決定モデル(Qwen3-4B)である テキストから候補アクションをスコアし、回答を生成する代わりに確率を返す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Certo is a small non-generative decision model (Qwen3-4B): it scores candidate actions from their text and returns a probability, instead of generating an answer. The accurate design reads the state, the rules, and each candidate together (a joint scorer), so cost grows with the menu. Independent encoding lets each candidate be encoded once and reused across states (about 5x cheaper at 77 candidates), but separates state from candidate. We ask how much rule-sensitivity survives that move, and whether it can be trained back. Four experiments on Certo: (1) the tested conversion to cacheable scoring loses rule-sensitivity (recall@1 1.00 -> 0.24) while the joint scorer holds 1.00, and a shortlist+rerank rescue fails; (2) targeted counterfactual supervision restores strong performance on held-out synthetic rule tasks (paraphrase, counterfactual, composition; reproducible across seeds), though we do not isolate whether predictions depend on the supplied rule; (3) on real rules the added benefit is not established -- after fixing a truncation confound, the joint scorer wins significantly on the short tier (0.861 vs 0.500) and directionally on the hard tier (0.655 vs 0.483, n=29); (4) a matched cross-domain real-prose mixture did not help and reduced contract accuracy (-9.3, -16.2 points). A cacheable encoder can be made rule-sensitive on its training distribution, but transfer to unseen-source real rules is not established; the joint scorer keeps an edge at the cost of caching.
• Abstract（参考訳）: Certoは小さな非生成決定モデル(Qwen3-4B)で、テキストから候補アクションをスコアし、回答を生成する代わりに確率を返す。 正確な設計は、状態、ルール、および各候補(共同スコアラー)を一緒に読み取るため、コストはメニューとともに増大する。 独立したエンコーディングでは、各候補を一度エンコードし、各州で再利用することができる(77の候補で約5倍安くなる)が、州を候補者から分離する。 どの程度のルールセンシティブが生き残るのか、またトレーニングを戻すことができるのか、私たちは尋ねます。 1) キャッシュ可能なスコアリングに対する試験的な変換はルール感度を損なう(recall@11.00 -> 0.24) ,(2) 連立スコアが1.00を保持し,(2) 連立リスト+リロードの回収失敗,(2) 連立チェックが,保持された合成ルールタスク(パラフレーズ,反ファクト,組成,種子間の再現性)の強い性能を回復する,(3) 実際のルールでは,予測が供給されたルールに依存しているかどうかを判断しない,(3) 連立スコアが短い階層(0.861 vs 0.500) とハード層(0.655 vs 0.483, n29) で大きく勝る,(4) クロスドメインにマッチするクロスドメインが精度を低下させる,といった4つの実験を行った。 キャッシュ可能なエンコーダは、トレーニング分布にルールセンシティブにすることができるが、未確認の実際のルールへの転送は確立されておらず、共同スコアラはキャッシュコストでエッジを保持する。

関連論文リスト

• Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
  マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。 標準的な最終精度評価は、これらの反対のメカニズムを詳述する。 複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
  論文  参考訳（メタデータ） (2026-09-28T14:31:19Z)
• Swiss-Knife: A Framework for Reconfigurable Externalised Multi-Objective Alignment at Decode Time [15.488868543232664]
  デコード時アライメント手法は、外部報酬で候補継続をスコアし、最大値を選択することで、凍結した言語モデルを操る。 この共有設計は、より広い空間における単一の退化点であると主張する。 外部化多目的アライメントのためのフレームワークであるSwiss-Knifeを紹介する。
  論文  参考訳（メタデータ） (2026-09-03T01:31:53Z)
• Sequential knowledge editing breaks a model's ability to tell good evidence from bad, without costing it accuracy [0.47745223151611654]
  知識編集は、編集された事実が変化したかどうか、パラフレーズが従うかどうか、無関係な回答が残されているかどうかを評価する。 モデルが記憶した回答に割り当てるログオッズを、インジェクトされたパスアサーションに対して、編集前後に、クエリ、パス、および固定された両方の候補文字列を保持してスコア付けします。 Qwen2.5-7B-Instructでは、1000回の連続的な編集の後、MMLUは4つの小数点に変化しないが、未修正事実に対する仲裁量の拡散は36%減少する。
  論文  参考訳（メタデータ） (2026-08-31T08:12:19Z)
• When Can You Trust Offline Evaluation of Equal-Cost Top-k Allocation? A Controlled, Reproducible Benchmark and Practitioner's Guide [0.0]
  5つのデータセットと2つの既知のエフェクトスイープにまたがる6つの推定器をベンチマークし、非シミュレートされたペア参照に対してそのメカニズムを検証する。 ターゲット自身のスコアからロガーをシャープすると、テスト対象範囲をわずかにオーバーラップし、アクションレベルの不一致が崩壊する。 結果のニュアンスのみを適合させることは、再利用バイアスをその場に残し、それを悪化させます。
  論文  参考訳（メタデータ） (2026-08-12T18:10:10Z)
• WDL-OPD: Weak-Driven On-Policy Distillation via Mixture-Constrained Co-Training [48.290951447286744]
  WDL-OPDは2つの訓練可能なポリシーを持つ混合制約付き協調訓練法である。 アンカーポリシはロールアウト毎に生成し、補助ポリシは同じ訪問状態を評価し、それらのトークン分布の幾何学的混合を逆KLで凍結教師にマッチングする。 凍結はPD$2とW2S-OPDと密接に関連するアンカープラスコントラストのプロキシターゲットを回復させるが,ジョイントトレーニングは静的デルタが表現できない分岐レベル自由度を生成する。
  論文  参考訳（メタデータ） (2026-08-10T11:22:53Z)
• Train the Model, Not the Reader: Decodability Supervision for Verifiable Activation Explanations [0.11280931253550518]
  テストは2つの方法でパスされますが、忠実ではありません。 リリースされた Qwen-2.5-7B では、説明はチャンスよりもはるかに早く再構築されている。 AI安全性のために、RECAPは指定された内部コンテンツを独立してチェック可能にする。
  論文  参考訳（メタデータ） (2026-07-22T17:10:23Z)
• Natural Ungrokking: Asymmetric Control of Which Rules Survive Pretraining [0.0]
  コーパスは、モデルが保持するルールを学習した損失曲線に痕跡がなく、決定します。 公的なピチアチェックポイントでは、予測されたモデルスケールで順序付けられた崩壊深さと同じ創発的崩壊ダイナミクスが現れる。
  論文  参考訳（メタデータ） (2026-06-24T17:27:13Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• Rethinking Dense Sequential Chains: Reasoning Language Models Can Extract Answers from Sparse, Order-Shuffling Chain-of-Thoughts [51.84894623128418]
  現代の推論言語モデルは、すべてのトークンが寄与し、ステップを順番に消費しなければならないと暗黙的に仮定して、シーケンシャルな連鎖トレースを生成する。 我々は、モデル生成推論連鎖に適用した、系統的な介入パイプライン、除去、マスキング、シャッフル、ノイズ注入により、両方の仮定に挑戦する。 解答抽出は, スパース, 秩序不感, 構造的に堅牢な情報基板上で行う。
  論文  参考訳（メタデータ） (2026-05-08T06:15:50Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。