論文の概要: When the Governor Becomes the Disturbance: Control-Generated Disturbance and Cost-Aware Backoff in Governed Tool-Using Agents
- arxiv url: http://arxiv.org/abs/2610.09037v1
- Date: Tue, 06 Oct 2026 19:39:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.57417
- Title: When the Governor Becomes the Disturbance: Control-Generated Disturbance and Cost-Aware Backoff in Governed Tool-Using Agents
- Title（参考訳）: 知事が乱に遭うとき--監督が生み出した道具使用エージェントの反動とコスト意識のバックオフ-
- Abstract要約: コスト盲の知事は、実験的に課されたツール障害を永続的なブロッキングに変えて、タスクの完了を防ぐことができる。
6つのタスクにわたる576エピソードからなるGemini 2.5 Flash実験も、ブロッキングの削減と、バックオフ時の完了の改善を示している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Supervisory governors can interfere with the tool-using agents they regulate. We study this possibility in a controlled file-recovery environment where increases in regulatory intensity trigger experimentally imposed tool failures. A cost-blind governor can turn these failures into persistent blocking that prevents task completion. We compare this governor with a backoff rule that reduces intervention probability using a moving average of known induced events. On a hand-coded stochastic-policy agent, the failure pattern appears under both result replacement and execution of corrupted tool arguments. For the persistent policy, adaptive backoff improves completion relative to a fixed weak governor with approximately matched intervention frequency. A Gemini 2.5 Flash experiment comprising 576 episodes across 6 tasks also shows reduced blocking and improved completion under backoff; among the tested settings, intermediate backoff strength achieves the highest observed aggregate success. These results identify an interaction between intervention cost and persistent action blocking, together with a possible mitigation. The cost mechanisms are imposed and their induced events are directly observable to the backoff rule; applicability beyond this controlled environment remains an empirical question.
- Abstract（参考訳）: 監督官は、彼らが規制するツール使用エージェントを妨害することができる。
規制強化の増大がツール障害を実験的に引き起こす制御されたファイル回復環境において、この可能性について検討する。
コスト盲の知事は、これらの障害を永続的なブロッキングに変えて、タスクの完了を防ぐことができる。
我々は,この知事を,既知の事象の移動平均を用いて介入確率を低下させるバックオフルールと比較した。
手書きの確率政治エージェントでは、失敗パターンは、破損したツール引数の置換と実行の両方の下に現れる。
永続的なポリシーでは、適応的なバックオフは、ほぼ一致する介入頻度で、固定された弱い知事に対する完了率を改善する。
6つのタスクにわたる576エピソードからなるGemini 2.5 Flash実験では、ブロッキングの削減と、バックオフ時の完了の改善も示されている。
これらの結果は、介入コストと持続的なアクションブロッキングの相互作用と、緩和の可能性の両方を識別する。
コストメカニズムが課せられ、引き起こされたイベントは、バックオフルールに直接監視可能である。
関連論文リスト
- Triggering Generalist Reasoning via Predictive Uncertainty for Dual-System VLA [46.61827364066432]
Vision-Language-Action(VLA)モデルは、遅い推論可能なジェネラリストと高速な専門家のアクションエキスパートをペアにすることで、リアルタイムのロボット制御を改善する。
既存の方法では、決定がロールアウト毎に異なるという事実を無視して、一定の頻度でジェネラリストを呼び出す。
本稿では,不必要な一般呼び出しを選択的にスキップする適応型推論フレームワークであるTUD(Triggering generalist reasoning via predictive Uncertainty for Dual-system VLA)を提案する。
論文 参考訳（メタデータ） (2026-10-04T07:39:20Z) - Self-Confirming Superposition Traps in Reinforcement Learning [62.71685993550818]
強化学習はエージェントのポリシーによって選択されたデータに基づいて表現し、その結果のリターンを使って次の選択を導く。
これらのデータに対して表現フィッティングがグローバルに最適である場合でも,このループは低リターンポリシーを維持可能であることを示す。
論文 参考訳（メタデータ） (2026-09-26T21:56:26Z) - Taming CoT Obfuscation in VLMs: From Mechanistic Evidence to Activation Enforcement [74.92755267784983]
強化学習は、視覚言語モデルにおける推論を改善するが、チェーン・オブ・オファシケーションを誘発することができる。
本稿では, 行動フィードバックとテンプレート関連アクティベーションの標的抑制を組み合わせ, メカニスティック・エンハンスメント(TAME)を用いた標的的アンチ・オブファシケーションを提案する。
VIRL-39k、SPA-VL、および2つのモデルファミリの中で、TAMEはグループ相対政策最適化よりも最大30.9および16.7%のCoT監視性を改善している。
論文 参考訳（メタデータ） (2026-09-21T08:08:56Z) - Self-Healing Harness for Runtime Oversight of Agent Self-Modification [5.222675089489031]
LLMエージェントは将来の行動を変えることができ、自己生成した変更が持続することを許容する基本的な制御問題を提起する。
我々はこれを自己修正の受付制御として定式化し、エージェントは操作命令の変更を提案し、外部ランタイムゲートは永続性を制御する。
論文 参考訳（メタデータ） (2026-09-21T05:36:56Z) - The Missing Boundary: How Autonomous Agents Lose Control [7.908421631813947]
既存の研究はしばしば、そのような失敗は敵の指示、悪意のある環境、あるいは矛盾する目的に起因している。
本研究では,目標圧力,制御劣化,実行不可能な機会という3つの要因を独立に操作することによって,この問題を考察する。
1,800のユニークな軌道で、劣化した制御も、安全でない機会も、制御のかなりの損失を生まないことが判明した。
論文 参考訳（メタデータ） (2026-09-10T03:02:27Z) - Intermittent Control Is Not Diluted Control: A Switching Effect in Artificial Agency [0.0]
単純な期待は、これらの条件の間を移動するエージェントは、2つの固定されたケースの重み付き平均のように振る舞うべきであるということである。
この論文は期待を裏切る可能性があることを示している。
状態履歴を保持する模擬適応剤では、間欠的な予測制御へのアクセスは規制の負担を軽減する。
論文 参考訳（メタデータ） (2026-07-19T22:51:44Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - PRISM: Festina Lente Proactivity -- Risk-Sensitive, Uncertainty-Aware Deliberation for Proactive Agents [11.440330367799513]
PRISMは、決定論的ゲートとデュアルプロセス推論アーキテクチャを結合する新しいフレームワークである。
フェスティナ・レンテ(ラテン語: "make haste slow")にインスパイアされた私たちは、受け入れ校正されたコスト由来の閾値でゲートする。
ProactiveBenchでは、PRISMは誤報を22.78%減らし、F1を20.14%改善している。
論文 参考訳（メタデータ） (2026-02-02T01:56:29Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳（メタデータ） (2025-12-22T16:34:21Z) - Forecasting Particle Accelerator Interruptions Using Logistic LASSO
Regression [62.997667081978825]
インターロックと呼ばれる予期せぬ粒子加速器の割り込みは、必要な安全対策にもかかわらず、突然の運用変更を引き起こす。
このような中断を予測することを目的とした,単純かつ強力なバイナリ分類モデルを提案する。
このモデルは、少なくとも絶対収縮と選択演算子によって罰せられるロジスティック回帰として定式化される。
論文 参考訳（メタデータ） (2023-03-15T23:11:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。