論文の概要: Learn then Bet: Learning Interpretable Rules for Reliable Agent Intervention
- arxiv url: http://arxiv.org/abs/2611.17662v1
- Date: Fri, 13 Nov 2026 02:14:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.291533
- Title: Learn then Bet: Learning Interpretable Rules for Reliable Agent Intervention
- Title(参考訳): 信頼できるエージェント・インターベンションのための解釈可能なルールを学習する
- Abstract要約: 有効かつ強力な介入のための十分な条件から学習目標を導出する統計的学習フレームワークであるLeBetを紹介する。
LeBetは解釈可能なOR-of-ANDモニターを学習し、証拠が所定のしきい値に達すると介入する固定賭け統計を通じて証拠を蓄積する。
- 参考スコア(独自算出の注目度): 5.8857893983590515
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous agents now run for hundreds of steps with little or no human supervision. In practice, practitioners use runtime monitors such as turn limits and keyword filters to decide when a run should be stopped, upgraded, or assisted. However, these heuristics may stop runs that would otherwise succeed or allow failing runs to continue. To address this limitation, we introduce LeBet (Learn then Bet), a statistical learning framework that derives its learning objective from sufficient conditions for valid and powerful intervention. In particular, LeBet learns an interpretable OR-of-AND monitor and accumulates evidence through a fixed betting statistic, intervening when the evidence reaches a prescribed threshold. Under finite within-class exchangeability and leave-one-out stability, we derive finite-sample guarantees for false-positive control (validity) and detection power conditional on the training data, using the same trajectories for learning and calibration without assuming independent and identically distributed trajectories. To address the intractable combinatorial optimization problem in our learning formulation, we use stochastic local search that leverages the monitor's Boolean structure to propose rule edits aimed at improving empirical separation. On SWE-bench Lite with Ministral 3 8B, the learned monitor saves $34.46\%$ of input-plus-output tokens and increases output precision from $18.33\%$ to $21.59\%$. The empirical false-positive rate is $13.64\%$. Our results show how to formalize the learning problem over interpretable rule sets with statistical conditions and establish training-conditional guarantees for reliable intervention based on partial histories.
- Abstract(参考訳): 自律的なエージェントは、人間の監督がほとんど、あるいは全くない何百ものステップで実行されます。
実際に実践者は、ターン制限やキーワードフィルタなどのランタイムモニタを使用して、実行をいつ停止するか、アップグレードするか、またはアシストするかを決定する。
しかし、これらのヒューリスティックスは、そうでなければ成功しないランを停止したり、失敗したランを継続することを許すかもしれない。
この制限に対処するために,有効かつ強力な介入のための十分な条件から学習目標を導出する統計的学習フレームワークであるLeBet(Learn then Bet)を紹介した。
特に、LeBetは解釈可能なOR-of-ANDモニターを学び、証拠が所定の閾値に達すると介入する固定賭け統計を通して証拠を蓄積する。
有限のクラス内交換性および一対一安定性の下では、独立かつ同一の分散軌跡を仮定することなく、学習と校正のための同じ軌跡を用いて、トレーニングデータに基づく偽陽性制御(正値性)と検出パワー条件に対する有限サンプル保証を導出する。
学習定式化における難解な組合せ最適化問題に対処するために,モニタのブール構造を利用した確率的局所探索を用いて,経験的分離の改善を目的としたルール編集を提案する。
Ministral 3 8B を使用した SWE-bench Lite では、学習したモニターは入出力トークンの34.46 %$を節約し、出力精度を18.33 %$から21.59 %$に向上させる。
実証的偽陽性率は13.64 %$である。
本研究は, 統計的条件付き解釈可能な規則集合に対する学習問題を定式化し, 部分的履歴に基づく信頼的介入の訓練条件保証を確立する方法を示す。
関連論文リスト
- Grounding on Request: Learning Modality Control in Vision-Language Models [48.16207727751487]
紛争保存対策によるモダリティ接地制御の評価を行った。
我々は、視覚的およびテキスト的接地のための新しい単語を導入することで、ネオロジズム学習の上に構築する。
学習したモダリティ語は、自然言語命令の制御を改善する。
論文 参考訳(メタデータ) (2026-10-24T18:30:33Z) - What Should Data Teach? Moving Bottlenecks Across Circuit, Store, and Use [18.3334052811574]
サーキットビューでは、計算の作成、必要なコンテンツの提供、利用可能なルートの選択という、3つの異なるボトルネックが明らかにされている。
350Mモデルの連続実験は、3つの介入を同じ事実に結びつける。
論文 参考訳(メタデータ) (2026-09-26T22:40:36Z) - When Validation Stops Learning: Auditing Update Admission for Continual Embodied Agents [8.579680185421324]
更新の受け入れは、エラー制御と学習機会の維持によって評価されなければならない、と我々は主張する。
標準対二項構成は、結果の不一致が稀な場合、この負担を軽減する。
学習力学のストレステストは、モデルバイアスとフィードバック選択誤差を区別する。
論文 参考訳(メタデータ) (2026-09-09T22:25:16Z) - SVR: Self-Verifying Refinement via Joint Verdict-Confidence Reinforcement Learning for Adaptive Test-Time Compute [62.3458279176813]
自己検証リファインメント(Self-Verifying Refinement)は、オラクルフリーのマルチターン強化学習フレームワークである。
自己検証を計算制御ポリシとして使用することを学ぶ。
マクロ平均精度は0.563で、平均で2.99回しか推測できない。
論文 参考訳(メタデータ) (2026-07-30T16:20:58Z) - Is Fairness Truly Fair? Towards Reliable Lipschitz Fairness in Multi-Task Learning via Fixed-\texorpdfstring{$δ$}{delta} Alignment [0.32792728203318305]
リプシッツ様式の個人公正は、意味論的に類似した例が同様の予測を受けるべきだという考えを定式化する。
本稿では,各モデルの表現距離から監査耐性を導出した場合,異なるセマンティックしきい値の下で異なるアルゴリズムを比較する。
トレーニング時間制御正規化から評価時間固定値の監査を分離する信頼性対応フレームワークである textbfReLiF を提案する。
論文 参考訳(メタデータ) (2026-06-09T09:36:54Z) - The Illusion of Certainty: Decoupling Capability and Calibration in On-Policy Distillation [67.26315138466312]
モデルロールアウトから経験的信頼性を推定するキャリブレーション対応のOPDフレームワークであるCaOPDを提案する。
本研究は, 能力蒸留が信頼性を示唆するものではないこと, 信頼性をポストトレーニングの本質的な目的として扱うべきであることを明らかにする。
論文 参考訳(メタデータ) (2026-04-18T04:43:40Z) - Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。
決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。
NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
論文 参考訳(メタデータ) (2026-03-29T18:52:01Z) - Improving Representational Continuity via Continued Pretraining [76.29171039601948]
トランスファーラーニングコミュニティ(LP-FT)は、ナイーブトレーニングやその他の継続的な学習方法よりも優れている。
LP-FTは、リアルタイム衛星リモートセンシングデータセット(FMoW)における忘れを減らす。
LP-FTの変種は、NLP連続学習ベンチマークで最先端の精度を得る。
論文 参考訳(メタデータ) (2023-02-26T10:39:38Z) - DisCor: Corrective Feedback in Reinforcement Learning via Distribution
Correction [96.90215318875859]
ブートストラップに基づくQ-ラーニングアルゴリズムは必ずしも修正フィードバックの恩恵を受けないことを示す。
本稿では,この最適分布に対する近似を計算し,トレーニングに使用する遷移の重み付けに使用する新しいアルゴリズムであるDisCorを提案する。
論文 参考訳(メタデータ) (2020-03-16T16:18:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。