論文の概要: The Irreversibility Budget: Fleet-Level Risk Accounting and Admission Control for Agent Operating Systems

• arxiv url: http://arxiv.org/abs/2609.00275v1
• Date: Mon, 31 Aug 2026 19:18:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:36.021732
• Title: The Irreversibility Budget: Fleet-Level Risk Accounting and Admission Control for Agent Operating Systems
• Title（参考訳）: 不可逆性予算:エージェントオペレーティングシステムにおけるフリートレベルリスク会計とアドミッション制御
• Abstract要約: 現在のコントロールは、一度に1つの効果をチェックするので、個別に認可されたエージェントの群れは、共有トリガーの下で、プリンシパルのリスクを過大に引き込むことができる。 本稿では、信頼されたランタイムが各プリンシパルに対して維持する残値リスクの累積的な計算である可逆性予算を提案する。 非可逆性を第一級資源として扱うと、ランタイムは各エージェントの残余損失をエージェントより低くし、アグリゲーションが予算を過大に上がれば限界効果を否定する。
• 参考スコア（独自算出の注目度）: 1.8001251270607181
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fleets of LLM agents now externalize effects that cannot be fully undone: they move money, deploy code, delete data, and disclose information. Current controls check one effect at a time, so a fleet of individually authorized agents can overdraw its principal's risk under a shared trigger while every local gate stays correct. We propose the irreversibility budget, a cumulative account of residual value-at-risk that a trusted runtime maintains for each principal across agents, workflows, and tenants. Treating irreversibility as a first-class resource, the runtime charges each effect its residual loss below the agent and denies the marginal effect once the aggregate would overdraw the budget. Getting the price right is hard, because effects are heterogeneous, adversarially declared, and correlated. We perform a controlled study in which per-effect gates admit fleet-level overdraws of up to 48 times the tenant's risk limit while the budget holds every correctly charged run within that limit. Conservative, dependency-aware pricing remains the central open problem for a deployable design.
• Abstract（参考訳）: LLMエージェントのフリートは、お金を動かし、コードをデプロイし、データを削除し、情報を開示する、完全に排除できないエフェクトを外部化する。 現在の制御は、一度に1つの効果をチェックするので、個々の権限を持つエージェントが、すべてのゲートが正しい状態にある間、共有トリガーの下で、プリンシパルのリスクを過大に引きこむことができる。 我々は、エージェント、ワークフロー、テナント間で、信頼されたランタイムが各プリンシパルに対して維持する残高リスクの累積的な計算である、不可逆性予算を提案する。 非可逆性を第一級資源として扱うと、ランタイムは各エージェントの残余損失をエージェントより低くし、アグリゲーションが予算を過大に上がれば限界効果を否定する。 効果は不均一であり、反対に宣言され、相関関係にあるからである。 我々は、各エフェクトゲートがテナントのリスク限界の最大48倍の艦隊レベルのオーバードルーを許容し、予算がその制限内で正しく充電された全てのランを維持できる制御された研究を行う。 保守的で依存性を意識した価格設定は、デプロイ可能な設計の中心的なオープンな問題である。

関連論文リスト

• The Missing Boundary: How Autonomous Agents Lose Control [7.908421631813947]
  既存の研究はしばしば、そのような失敗は敵の指示、悪意のある環境、あるいは矛盾する目的に起因している。 本研究では,目標圧力,制御劣化,実行不可能な機会という3つの要因を独立に操作することによって,この問題を考察する。 1,800のユニークな軌道で、劣化した制御も、安全でない機会も、制御のかなりの損失を生まないことが判明した。
  論文  参考訳（メタデータ） (2026-09-10T03:02:27Z)
• FRAMES: Guarded and Dual-Objective Skill Evolution for Agents in Policy-Governed Enterprise Workflows [10.830716991438878]
  FRAMESはクローズドループフレームワークで、既存のアセットからデプロイ可能なスキルをコールドスタートし、それを進化させる。 ベースライン間で最高の精度とコストのトレードオフを達成し、タウベンチで再現されるのと同じ利得が得られる。
  論文  参考訳（メタデータ） (2026-08-03T06:46:47Z)
• BRA-Audit: Budgeted Runtime Auditing for LLM Multi-Agent Systems via Cumulative-Exposure Audit-Point Placement [5.4775608854724345]
  マルチエージェントシステム(LLM-MAS)は、特殊なコラボレーションを通じて複雑なタスクを解決するが、エージェント間の依存関係は、幻覚または悪意のある出力をシステムレベルの障害に伝達することができる。 BRA-Auditは,MAS実行を動的依存グラフとしてモデル化し,固定された監査コール予算の下で監査点配置として監査スケジューリングを定式化し,累積的未確認露出を最小限に抑える,予算対応型ランタイム監査フレームワークである。 BRA-Auditは、構造化されたコーディネーション、複雑な推論、オープンエンドタスク全体にわたって、クリーンな設定に近いパフォーマンスを回復し、重いガード手法と競合し、()エンドツーエンドのトークン消費を減らす。
  論文  参考訳（メタデータ） (2026-08-02T14:35:43Z)
• AdaTurn: Budget-Aware Test-Time Scaling for Active Visual Perception Agents [43.827500763103586]
  AdaTurnは、ビジュアルエージェントトレーニングのための予算対応フレームワークである。 FA−DAPOは、過予算イベントをトレーニング可能な最終決定ステップに変換する。 例えば、4ターンでVisualProbe-Mediumを36.7%から47.6%に引き上げるなどである。
  論文  参考訳（メタデータ） (2026-07-16T04:07:22Z)
• OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents [32.5466552510287]
  漏れは累積的であり、個々に無害な放出は、正直だが、真正に曲がりくねった流しに蓄積される。 我々は、秘密に対する敵の信念がどれほど改善するかを予算化するランタイム仲介者であるOCELOTを提示する。 OCELOTは高いタスクユーティリティでのリークを著しく低減し、適応注入、ジェイルブレイク、累積推論、シンク共謀に抵抗する。
  論文  参考訳（メタデータ） (2026-06-10T17:13:35Z)
• Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
  部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。 安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
  論文  参考訳（メタデータ） (2026-05-14T01:23:09Z)
• When Should a Robot Think? Resource-Aware Reasoning via Reinforcement Learning for Embodied Robotic Decision-Making [68.12864562049957]
  身体ロボットシステムは、高レベルの推論をサポートするために、大規模言語モデル(LLM)ベースのエージェントにますます依存している。 エージェントはいつ、いつ、いつ行動すべきか? 本稿では,エンボディエージェントのリソース・アウェア・オーケストレーションのための階層的なフレームワークであるRARRL(Resource-Aware Reasoning via Reinforcement Learning)を提案する。
  論文  参考訳（メタデータ） (2026-03-17T15:38:50Z)
• Sovereign-OS: A Charter-Governed Operating System for Autonomous AI Agents with Verifiable Fiscal Discipline [7.232369984903087]
  Sovereign-OSはガバナンスファーストのオペレーティングシステムで、すべてのエージェントアクションを憲法上の管理下に置く。 CEO(ストラテジスト)は、目標を依存性を認識したタスクDAGに分解する。 CFOは、オークションベースの入札エンジンを介して、予算上限、日々の燃焼制限、収益性フロアに対して各支出をゲートする。 労働者は、動的TrustScoreが管理する有給オートノミーの下で活動する。
  論文  参考訳（メタデータ） (2026-03-14T16:25:31Z)
• Conformal Thinking: Risk Control for Reasoning on a Compute Budget [60.65072883773352]
  大規模言語モデル(LLM)の推論により、トークンの予算が増加するにつれて、データセットレベルの精度が向上する。 我々は、予算設定問題をリスクコントロールとして再設定し、計算を最小化しながらエラー率を制限する。 我々のフレームワークは、モデルが自信のあるときに推論を停止する上位しきい値と、未解決のインスタンスを事前に停止させる新しい下位しきい値を導入する。
  論文  参考訳（メタデータ） (2026-02-03T18:17:22Z)
• PRISM: Festina Lente Proactivity -- Risk-Sensitive, Uncertainty-Aware Deliberation for Proactive Agents [11.440330367799513]
  PRISMは、決定論的ゲートとデュアルプロセス推論アーキテクチャを結合する新しいフレームワークである。 フェスティナ・レンテ(ラテン語: "make haste slow")にインスパイアされた私たちは、受け入れ校正されたコスト由来の閾値でゲートする。 ProactiveBenchでは、PRISMは誤報を22.78%減らし、F1を20.14%改善している。
  論文  参考訳（メタデータ） (2026-02-02T01:56:29Z)
• Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
  我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。 エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。 我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
  論文  参考訳（メタデータ） (2024-09-26T21:00:45Z)
• Safety Margins for Reinforcement Learning [53.10194953873209]
  安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。 Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2023-07-25T16:49:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。