論文の概要: Safe Skill Retirement for Physical Agents
- arxiv url: http://arxiv.org/abs/2609.29543v1
- Date: Tue, 25 Aug 2026 19:06:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:56.069569
- Title: Safe Skill Retirement for Physical Agents
- Title（参考訳）: 物理薬品の安全対策
- Abstract要約: モデル機能が進歩すると、メンテナは、承認されたベンチマークタスクで冗長に見える命令を実行します。
このミスマッチは、物理的およびプライバシーに敏感な影響に対して、計測されていないサポートギャップを生じさせる。
我々は、要求された行動、ツールパラメータ、意図された効果を固定する、一致した権威の反事実を導入する。
- 参考スコア（独自算出の注目度）: 8.993330865646127
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agent skills bundle procedural guidance with execution conditions governing authority, user consent, and live environment state. When model capabilities advance, maintainers prune instructions that appear redundant on authorized benchmark tasks. However, authorized maintenance tests can leave dormant safety conditions untested. This mismatch creates an unmeasured support gap over physical and privacy-sensitive effects. We introduce matched authority counterfactuals that hold the requested action, tool parameters, and intended effect fixed while systematically varying a single governing predicate. We formalize this evaluation via a two-gate retirement certificate requiring a candidate reduction to preserve authorized utility within a declared margin while producing zero unauthorized protected effects. In controlled experiments spanning four frontier and local model configurations across twelve skill bundles (2,592 evaluation cells), task-certified reductions remove over 94% of skill clauses and preserve authorized completion, yet produce unauthorized protected effects in every bundle. Boundary enforcement eliminates protected effects on the declared audit but fails the utility gate for one configuration. One bounded combined protocol passes both gates across all four configurations, with zero utility headroom. An end-to-end check on one read-only Home Assistant camera chain verifies proposal, decision, and effect measurements on a real device. These results demonstrate that while task benchmarks can justify retiring procedural guidance, retirement decisions require explicitly auditing the authority contracts governing physical actions.
- Abstract（参考訳）: エージェントスキルバンドルは、権限、ユーザ同意、およびライブ環境状態を管理する実行条件と手続き的なガイダンスをバンドルする。
モデル機能が進歩すると、メンテナは、承認されたベンチマークタスクで冗長に見える命令を実行します。
しかし、認可されたメンテナンステストは、休眠状態の安全条件を未確認のままにしておくことができる。
このミスマッチは、物理的およびプライバシーに敏感な影響に対して、計測されていないサポートギャップを生じさせる。
我々は、要求された行動、ツールパラメータ、意図された効果を保ちながら、単一の規定述語を体系的に変更するマッチングされた権威カウンターファクトルを導入する。
我々は,この評価を,未承認保護効果をゼロにしつつ,宣言されたマージン内における認証効用を維持するために,候補の削減を必要とする2つのゲートリタイア証明書を通じて定式化する。
12個のスキルバンドル(2,592個の評価セル)にまたがる4つのフロンティアとローカルモデル構成にまたがる制御された実験では、タスク認定されたリダクションは94%以上のスキル条項を取り除き、承認された完了を保ちながら、すべてのバンドルにおいて未承認の保護効果を生み出す。
境界執行は、宣言された監査に対する保護効果を排除しますが、1つの設定でユーティリティゲートを失敗します。
1つの有界結合プロトコルは、すべての4つの構成にまたがって両方のゲートを通過し、ユーティリティーヘッドルームはゼロである。
ある読み取り専用ホームアシスタントカメラチェーンのエンドツーエンドチェックは、実機における提案、決定、効果測定を検証する。
これらの結果は、タスクベンチマークは、引退手続きのガイダンスを正当化するが、退職決定は、物理的な行動を管理する権限契約を明示的に監査する必要があることを示している。
関連論文リスト
- Task-Conditioned Least-Privilege Learning for Executable Terminal and MCP Agents [45.88028371034407]
ツールを使用する大規模言語モデルエージェントは、ユーザが許可しなかったり、タスクが不要であったりする権限を行使しながらタスクを完了することができる。
本研究では,6次元のリスクを伴って各行動が実行前および観測結果から監査される枠組みを提案する。
このフレームワークを1500以上のタスクでQwen3.5-4Bでトレーニングした後、選択された種子は2,896回の評価エピソードで98.48%の安全成功に達した。
論文 参考訳（メタデータ） (2026-08-18T22:07:23Z) - Suppression Sticks, Locality Is Fragile: A Closed-Loop Target-and-Control Audit of Task-Vector Negation in VLA Policies [33.432377306905735]
タスクベクトル算術は、モデルを修正するためのクローズドフォームな方法を提供するが、クローズドループロボット制御において、その振る舞いの局所性は未だ不明である。
マルチタスク・ビジョン・ランゲージ・アクション(VLA: Multitask Vision-Language-action)ポリシーから,タスク・ベクターごとのタスク・ベクター・サブトラクションのターゲット・アンド・コントロール・監査を行う。
論文 参考訳（メタデータ） (2026-08-05T10:59:53Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Governed Individuation: Cryptographically Decoupling an Agent's Learning from Its Authority [7.392721604463545]
制限はエージェントの実行アーキテクチャの不変として保証できることを示す。
学習量やスキル獲得量、自己引き起こされるガバナンスの抽象化がエージェントの許可された権限を広げることはできないことを証明します。
論文 参考訳（メタデータ） (2026-07-06T02:42:06Z) - OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents [32.5466552510287]
漏れは累積的であり、個々に無害な放出は、正直だが、真正に曲がりくねった流しに蓄積される。
我々は、秘密に対する敵の信念がどれほど改善するかを予算化するランタイム仲介者であるOCELOTを提示する。
OCELOTは高いタスクユーティリティでのリークを著しく低減し、適応注入、ジェイルブレイク、累積推論、シンク共謀に抵抗する。
論文 参考訳（メタデータ） (2026-06-10T17:13:35Z) - A Five-Plane Reference Architecture for Runtime Governance of Production AI Agents [0.0]
本稿では,生産AIエージェントのガバナンスのための参照アーキテクチャを提案する。
我々は、許容と否定を一般化する6つの割り込みプリミティブの分類を定義し、4つの正当性不変量について主張する。
5つの具体的判断にまたがる7つの生産エージェントの脅威の隠蔽を実証する。
論文 参考訳（メタデータ） (2026-06-10T16:54:47Z) - Verify-Gated Completion as Admission Control in a Governed Multi-Agent Runtime: A Bounded Architecture Case Study [0.6875312133832079]
制御されたマルチエージェントランタイムの入出力制御パターンとして,検証ゲート補完について検討する。
観測条件下では,読み取り専用検証ゲートとパケット化入力記録が検査可能で,フェールクロースされた。
論文 参考訳（メタデータ） (2026-05-18T07:52:13Z) - Trust No Tool: Evaluating and Defending LLM Agents under Untrusted Tool Feedback [38.251599309409]
我々は,悪質なツールが探索中に合理的に振る舞う,異なる障害モード,認知的中毒について検討する。
ファイナルアクションリスクスコアリングのためのバックボーンに依存しないフレームワークであるVISTA-Guardを提案する。
論文 参考訳（メタデータ） (2026-05-17T13:51:34Z) - Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。
敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。
最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
論文 参考訳（メタデータ） (2026-04-14T06:48:33Z) - To Throw a Stone with Six Birds: On Agents and Agenthood [0.0]
Six Birds Theory (SBT)は、マクロな物体を原始体ではなく誘導的閉包として扱う。
SBT内では,タイプ正当性評価を行う。
我々はこの契約を4つのチェック可能なコンポーネントを用いて有限制御システムで運用する。
論文 参考訳（メタデータ） (2026-02-03T10:46:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。