論文の概要: What May an Agent Change About Itself? A Containment Floor for Self-Configuring Agent Runtimes

• arxiv url: http://arxiv.org/abs/2610.06274v1
• Date: Mon, 05 Oct 2026 13:07:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 09:36:09.898612
• Title: What May an Agent Change About Itself? A Containment Floor for Self-Configuring Agent Runtimes
• Title（参考訳）: エージェントが自分自身をどう変えるか? エージェントの自己構成のためのコンテントフロア
• Abstract要約: ルール: エージェントは能力を与えるフィールドを変更することができ、その限界を設定するフィールドを変更することはない。 我々はこれをデプロイされたモデルに依存しないランタイムで研究する。 構成ツール内の囲い込みフロアとしてルールを強制し、それなしで何が起こるかを測定します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many agent runtimes give the agent a tool for editing its own configuration. Some of that configuration grants abilities, such as enabling a tool. Other parts set the agent's limits: which directories it may write to, who may send it messages, which network address it listens on, how callers authenticate, and the gate that blocks risky writes. If the agent can edit those limits, a single ordinary request can widen them. We study this in a deployed, model-agnostic runtime. We propose a rule: the agent may change fields that grant abilities, and may never change fields that set its limits. We enforce the rule as a containment floor inside the configuration tool and measure what happens with and without it. Without the floor, a frontier model wrote a protected value on 25 of 72 ordinary requests that gave it permission to change settings, often when the request never named the field. Prohibitions written in the system prompt failed in a predictable way. A prompt that listed the protected field names stopped every request that used those names (0 of 36 saved, against 17 of 36 with no prompt) and did not stop the requests that only described the goal (10 of 36 saved, against 8 of 36). A prompt that described the forbidden effects did the reverse. With the floor, 0 of 167 protected writes were saved, although the models attempted a protected write in 65 of those cases. A search for other routes through the tool found only one, a pinned shell, which the floor's scope statement already excludes. The study covers two models and a single agent. We state what that does and does not support.
• Abstract（参考訳）: 多くのエージェントランタイムは、エージェントに独自の設定を編集するためのツールを提供する。 その構成の中には、ツールを有効にするなど、能力を与えるものもある。 他の部分は、どのディレクトリに書き込むか、誰がメッセージを送るか、どのネットワークアドレスを聴くか、呼び出し側が認証する方法、危険な書き込みをブロックするゲートなど、エージェントの制限を設定する。 エージェントがそれらの制限を編集できれば、単一の通常のリクエストがそれらを拡張できる。 我々はこれをデプロイされたモデルに依存しないランタイムで研究する。 エージェントは能力を与えるフィールドを変更することができ、その限界を設定するフィールドを変更することはできない。 構成ツール内の囲い込みフロアとしてルールを強制し、それなしで何が起こるかを測定します。 フロアがなければ、フロンティアモデルは72の通常のリクエストのうち25に保護された値を書き、多くの場合、リクエストがフィールドを命名しなかった場合に、設定を変更する許可を与えました。 システムに書かれた禁止は、予測可能な方法で失敗する。 保護されたフィールド名をリストアップしたプロンプトは、これらの名前を使用した要求(36件中0件、36件中17件、36件中17件)をすべて停止し、目標のみを記載した要求(36件中10件、36件中8件)を停止しなかった。 禁じられた効果を説明するプロンプトは逆だった。 フロアでは167の保護された書き込みのうち0が保存されたが、65のケースではモデルが保護された書き込みを試みていた。 ツールを通して他のルートを探すと、床のスコープステートメントが既に除外しているピン付きシェルが1つしか見つからなかった。 この研究は、2つのモデルと1つのエージェントをカバーする。 私たちはそれが何をし、サポートしないのかを述べています。

関連論文リスト

• Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
  セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。 送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。 モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
  論文  参考訳（メタデータ） (2026-09-26T15:06:44Z)
• AgentXploit: Autonomous Repository-to-Runtime Red-Teaming for AI Agents [44.02819189078546]
  AgentXploitは,リポジトリレベルのアタックパス発見とランタイムのエクスプロイトを分離する2つのロール監査システムである。 3回のレースで、AgentXploitは59.3%のエンド・ツー・エンドで成功し、Codexは38.4%だった。 これらの結果は、エンドツーエンドのエージェントセキュリティ監査における個別の課題として、リポジトリの発見とランタイムのエクスプロイトを強調している。
  論文  参考訳（メタデータ） (2026-09-25T14:26:04Z)
• The Troy Moment of AI: Why Some Will Cheat and Some Will Follow? [0.0]
  エージェントは停止するか、エスカレートするか、他のエージェントの行動が決定を変えるか、という2つの質問を調査する。 GPT-5.6 Sol, Claude Fable 5.1, Gemini 3.8 Flashの7つのImpossibleBenchタスクを単独で3エージェント設定で検討した。 この結果から,ルールの保護を目的としたあいまいさ,明示的な認証境界のモチベーション,認証状態の証明,エージェント間監視から境界交差が生じる可能性が示唆された。
  論文  参考訳（メタデータ） (2026-09-14T12:46:45Z)
• Authority Is Not a String: A Capability-Scoped Harness for Prompt-Injection-Resistant Coding Agents [1.8587887164315786]
  コードエージェントは、ファイルの読み込み、コマンドの実行、ソースコードの変更にシステムレベルのツールを使用する。 間接的なプロンプトインジェクションは、ユーザが要求しなかったアクションを実行するために、リポジトリファイルやツール出力に命令を配置することで、この権限を利用する。 本稿では、悪意のあるテキストを識別するモデルを必要とせず、ツールの使用を制限するハーネスレベルの認証機構であるCapScopeを提案する。
  論文  参考訳（メタデータ） (2026-09-08T07:37:00Z)
• If Agents Were Angels, No Governance Would Be Necessary: Out-of-Band Policy Enforcement at a Trusted Tool Boundary [0.07499722271664146]
  Out-of-Band Policy Enforcement (OBPE)は、エージェント推論以外の信頼できる境界である。 OBPEは型付き操作とリソースを許可し、バックエンド呼び出しの前にクエリを絞り込み、それからレコードとフィールドをフィルタリングし、レスポンスの値にマスクを付ける。
  論文  参考訳（メタデータ） (2026-08-27T19:35:48Z)
• AGORA: An Archive-Grounded Benchmark for Agentic Workplace Document Reasoning [52.23991730630292]
  大規模言語モデルは、パラメトリックな知識から答えるのではなく、文書を推論するエージェントとして、ますます多くデプロイされている。 大規模な、散らかった職場ファイルの集合にスパース証拠を配置し、一貫性のない用語、単位、時間規則を調整し、答えを計算する。 私たちは、362の質問と9,664の認証ドキュメントと372Mのトークンの8つのドメインコレクションをペアリングするベンチマークであるAgoraを紹介します。
  論文  参考訳（メタデータ） (2026-06-23T12:57:18Z)
• Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
  アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。 我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。 我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
  論文  参考訳（メタデータ） (2026-06-22T11:36:58Z)
• ClayBuddy: A Framework, Evaluation, & Mitigation of Coding Agent Failures [1.0742675209112622]
  障害モードは、不特定性、能力エラー、エージェントハーネスエラーの3つのメカニズムから派生したものとして研究する。 我々はClayBuddyを提案する。ClayBuddyはユーザの好みを形作るハーネスで、モデルのインセッションで修正してこれらのエラーを軽減できる。
  論文  参考訳（メタデータ） (2026-06-13T18:29:53Z)
• PocketAgents: A Manifest-Driven Library of Autonomous Defense Agents [0.589889361990138]
  本稿では,自律型防衛エージェントのマニフェスト駆動型ライブラリであるPocketAgentsを紹介する。 各エージェントは、マニフェスト、プロンプト、ランタイムコンテキストの3つのデータファイルとしてインストールされる。 実験により、型付き境界はLLM駆動の防御を測定可能で、測定可能で、帰属可能であることが示された。
  論文  参考訳（メタデータ） (2026-05-20T19:52:24Z)
• Overeager Coding Agents: Measuring Out-of-Scope Actions on Benign Tasks [40.270213696031625]
  OverEager-Genは、良質なタスクの振る舞いをオーバーイーガーするベンチマークである。 クロード・コードでは、同意宣言を削除するだけで、オーバーイーガー率は0.0%から17.1%に上昇する。 オーバーイーガー・ジェン(OverEager-Gen)は、入場前に各シナリオの識別力を認定する。
  論文  参考訳（メタデータ） (2026-05-18T16:00:41Z)
• Workspace Optimization: How to Train Your Agent [49.579258311548635]
  我々はエージェントのEmphworkspaceであり、それが読み取り、書き込み、テストする構造化された外部基質であると主張している。 本稿では,重み空間トレーニングの構造を反映して,作業空間を進化させる原理的手法を提案する。 ARC-AGI-3のマルチエージェントハーネスであるDreamTeamのアイデアをインスタンス化する。
  論文  参考訳（メタデータ） (2026-05-10T16:52:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。