論文の概要: LLM Agent Capabilities Should Follow Task Intent and Context Source
- arxiv url: http://arxiv.org/abs/2609.14631v1
- Date: Sun, 13 Sep 2026 16:04:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.867746
- Title: LLM Agent Capabilities Should Follow Task Intent and Context Source
- Title（参考訳）: LLMエージェント機能はタスクインテントとコンテキストソースをフォローする必要がある
- Abstract要約: 事前定義された従来のシステムとは異なり、エージェントに必要な最小特権能力は動的である。
すべての入力が同じ影響でひとつの共有計画チャネルに入るが、ユーザの明示的な要求とドキュメントの抽出されたテキストは異なる信頼を持ち、目的地を選択する権限やアクセスを広げる権限を共有するべきではない。
IntentCapは、ユーザインテント、ワークフローインストラクション、ツールスキーマ、実行環境の4つのソースから機能を構成する。
- 参考スコア（独自算出の注目度）: 3.0990248963651355
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents take real actions, including executing code, modifying files, calling services, and delegating tasks, driven by context sources: user requests, tool results, documents, shell outputs, Skill and MCP instructions, memory. Unlike traditional systems, where capability is predefined, the least-privilege capability an agent needs is dynamic, depending on its task intent: what it wants to do and how. This creates a security and safety challenge: all inputs enter one shared planning channel with equal influence, by adversarial injection or accidental scope widening, yet a user's explicit request and a document's extracted text carry different trust and should not share authority to choose a destination or widen access. Existing defenses constrain operations and information flow; we study task-scoped, multi-source authority composition. We argue that agent capabilities should be scoped to the current task intent, not a sandbox or session lifetime, and that no single context source defines a complete capability. IntentCap composes capabilities from four such sources: user intent, workflow instructions, tool schemas, and runtime environment, with field-level ownership and monotonic narrowing. Each source contributes specific fields, none can fill another's, and the lease only narrows the user's authorized authority, never widens it. IntentCap uses an LLM to generate short-lived leases from these sources, validated by a deterministic checker before any side effect commits and enforced by tool- and OS-level information flow policies. Evaluation shows IntentCap blocks tested violations without rejecting benign actions, each source boundary is independently necessary, and the checker generalizes across tool, execution, placement, and delegation boundaries.
- Abstract（参考訳）: LLMエージェントは、コードの実行、ファイルの変更、サービス呼び出し、コンテキストソース(ユーザリクエスト、ツール結果、ドキュメント、シェル出力、スキルとMPP命令、メモリ)によって駆動されるタスクの委譲を含む実際のアクションを取る。
能力が事前に定義されている従来のシステムとは異なり、エージェントに必要な最小特権能力は動的であり、そのタスクの意図、何をしたいのか、どのようにするかによって異なる。
すべての入力が、反対の注入や偶発的なスコープ拡大によって、同じ影響でひとつの共有計画チャネルに入るが、ユーザの明示的な要求とドキュメントの抽出されたテキストは、異なる信頼を持ち、目的地を選択する権限を共有してはならない。
既存の防衛は操作と情報フローを制約し,タスクスコープ,マルチソースの権威構成について検討する。
エージェント機能は、サンドボックスやセッションライフタイムではなく、現在のタスクインテントにスコープされるべきであり、単一のコンテキストソースが完全な機能を定義するべきではない、と私たちは主張する。
IntentCapは、ユーザインテント、ワークフローインストラクション、ツールスキーマ、実行環境の4つのソースから機能を構成する。
各ソースは特定のフィールドにコントリビュートし、誰も他のフィールドを埋めることができない。
IntentCapはLSMを使用して、これらのソースから短期間のリースを生成し、決定論的チェッカーによって検証され、副作用がコミットする前に、ツールレベルの情報フローポリシーとOSレベルの情報フローポリシーによって強制される。
評価によると、IntentCapは、良心的なアクションを拒否せずに、テストされた違反をブロックし、ソース境界は独立して必要であり、チェッカーはツール、実行、配置、デリゲートの境界を越えて一般化される。
関連論文リスト
- Authority Is Not a String: A Capability-Scoped Harness for Prompt-Injection-Resistant Coding Agents [1.8587887164315786]
コードエージェントは、ファイルの読み込み、コマンドの実行、ソースコードの変更にシステムレベルのツールを使用する。
間接的なプロンプトインジェクションは、ユーザが要求しなかったアクションを実行するために、リポジトリファイルやツール出力に命令を配置することで、この権限を利用する。
本稿では、悪意のあるテキストを識別するモデルを必要とせず、ツールの使用を制限するハーネスレベルの認証機構であるCapScopeを提案する。
論文 参考訳（メタデータ） (2026-09-08T07:37:00Z) - FRAMEWORKERS: A Dynamic Multi-Agent Framework for AI-Generated Video Production [55.71860113185132]
本稿では,タスク中心のマルチエージェントフレームワークであるFRAMEWORKERSを紹介した。
Central Directorは、ビデオ生成を動的タスク管理として定式化し、タスクスタックを継続的に編集して、次にどのサブタスクを実行するか、どのサブエージェントを呼び出すかを決定する。
アシスタントは実行層として機能し、選択した各タスクを共有ワークスペースに接地し、必要なアセットとコンテキストを検索し、割り当てられたサブエージェントを呼び出し、結果のアーティファクトを永続化する。
FRAMEWORKERSは、ルーティング精度において強いプランナーよりも優れ、実行時の障害から確実に回復し、目に見えないサブに一般化することを示した。
論文 参考訳（メタデータ） (2026-08-30T14:28:50Z) - LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。
我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
論文 参考訳（メタデータ） (2026-07-24T06:43:09Z) - ToolGuardian: Declarative Security for AI Agent-Tool Interactions [0.0]
既存の防衛は、弱いメタデータ、崩壊特性、および政策判断に依存している。
本稿では,エージェントとツールのインタラクションをセキュアにするためのポリシー駆動型フレームワークであるToolGuardianを提案する。
論文 参考訳（メタデータ） (2026-07-23T21:53:34Z) - Context-to-Execution Integrity for LLM Agents [0.0]
Context-to-Execution Integrity (CXI)はこの設定の実行バウンダリシステムである。
我々は、オープンウェイトフィールドプロジェクションの実行、AgentDojoライブエピソード、コードエージェントの正確な効果ベンチマーク、マニフェストバウンドの台帳故障、プロポーザルプレッシャ制御、ホスト/API互換性トレースについてCXIを評価した。
論文 参考訳（メタデータ） (2026-07-07T08:38:50Z) - AgenticOS: An Intent-Oriented Secure Operating System Architecture for Autonomous AI Agents [9.964434409587222]
AgenticOSは意図指向のセキュアOSアーキテクチャである。
AgenticOSは、デリゲート可能な監査可能なソフトウェア機能をOSネイティブの機能に統合する。
論文 参考訳（メタデータ） (2026-06-19T06:14:37Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳（メタデータ） (2026-05-16T12:53:31Z) - Beyond Static Sandboxing: Learned Capability Governance for Autonomous AI Agents [6.8552591401084015]
Aethelgardは、学習ポリシーを通じて、AIエージェントの最小特権を強制する。
Aethelgard氏は、タスクタイプ毎に設定された最小限の実行可能なスキルを学びます。
論文 参考訳（メタデータ） (2026-04-12T13:10:56Z) - DeepAgent: A General Reasoning Agent with Scalable Toolsets [111.6384541877723]
DeepAgentは、自律的な思考、ツール発見、アクション実行を実行するエンドツーエンドのディープ推論エージェントである。
長期にわたる相互作用の課題に対処するために,過去の相互作用を構造化エピソード,動作,ツール記憶に圧縮する自律的メモリ折り畳み機構を導入する。
LLMシミュレートされたAPIを活用し、ツール呼び出しトークンにきめ細かいクレジットを割り当てるツールコールアドバンテージ属性を適用した、エンドツーエンドの強化学習戦略であるToolPOを開発した。
論文 参考訳（メタデータ） (2025-10-24T16:24:01Z) - Get my drift? Catching LLM Task Drift with Activation Deltas [55.75645403965326]
タスクドリフトは攻撃者がデータを流出させたり、LLMの出力に影響を与えたりすることを可能にする。
そこで, 簡易線形分類器は, 分布外テストセット上で, ほぼ完全なLOC AUCでドリフトを検出することができることを示す。
このアプローチは、プロンプトインジェクション、ジェイルブレイク、悪意のある指示など、目に見えないタスクドメインに対して驚くほどうまく一般化する。
論文 参考訳（メタデータ） (2024-06-02T16:53:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。