論文の概要: Purpose IR: Compiling User Purpose for Privacy-Preserving Agent Workflow State
- arxiv url: http://arxiv.org/abs/2610.16414v1
- Date: Mon, 12 Oct 2026 08:48:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 23:22:26.870229
- Title: Purpose IR: Compiling User Purpose for Privacy-Preserving Agent Workflow State
- Title（参考訳）: 目的IR:プライバシ保護エージェントワークフロー状態のためのユーザ目的のコンパイル
- Abstract要約: LLMエージェントは、豊富な観測結果を計画、要約、記憶、ハンドオフ、その他の再利用可能な状態に変換する。
これは、タスクの関連性だけを捉えないプライバシー境界を作る。完全なセマンティクスが持続することを許可されずに、タスクのエビデンスとして観察する必要があるかもしれない。
本稿では,自然言語のユーザ目的を,再利用可能なエージェント状態のための実行可能なセマンティック境界にコンパイルする,有界型中間表現であるPowpose IRを紹介する。
- 参考スコア（独自算出の注目度）: 32.682733196638615
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM-agent workflows routinely transform rich observations into plans, summaries, memories, handoffs, and other reusable state. This creates a privacy boundary that task relevance alone does not capture: an observation may be needed as evidence for a task without its full semantics being authorized to persist. We call this mismatch the purpose-to-state semantic gap. The key distinction is that evidence authority is not release authority. We introduce Purpose IR, a bounded typed intermediate representation that compiles natural-language user purpose into an executable semantic boundary for reusable agent state. A Purpose program is an acyclic semantic dataflow graph in which evidence leaves specify task-required semantics, typed dependencies constrain authorized derivations, and declared sinks determine which values or actions may cross the reusable-state boundary. A deterministic compiler constructs and validates the authoritative program, while a typed runtime reconstructs reusable state only from validated sink outputs. Under explicit execution contracts, this design yields release confinement and purpose noninterference, characterizing what factual semantics may be released and which observation differences must become irrelevant to reusable state. Across 1,200 cases spanning LangGraph, CrewAI, and MobileRun, Purpose IR achieves 99.6% Privacy, 83.3% Task, and 83.3% Privacy-Compliant Success (PCS), outperforming the strongest high-privacy baseline by 27.5 PCS points. On 493 PrivacyLens trajectories, it achieves the highest Safe Action Rate at 77.3%, 10.4 points above the next-best method, extending the same boundary from reusable state to downstream actions. These results show that privacy-preserving agent state requires more than filtering sensitive or task-irrelevant content: it requires an explicit, executable representation of what the user's purpose authorizes to survive.
- Abstract（参考訳）: LLMエージェントワークフローは、豊富な観測結果を計画、要約、記憶、ハンドオフ、その他の再利用可能な状態に変換する。
これは、タスクの関連性だけを捉えないプライバシー境界を作る。完全なセマンティクスが持続することを許可されずに、タスクのエビデンスとして観察する必要があるかもしれない。
このミスマッチを目的と状態のセマンティックギャップと呼んでいる。
重要な違いは、証拠当局が権限を解放しないことである。
本稿では,自然言語のユーザ目的を,再利用可能なエージェント状態のための実行可能なセマンティック境界にコンパイルする,有界型中間表現であるPowpose IRを紹介する。
目的プログラムは非循環的なセマンティックデータフローグラフであり、エビデンスにタスク要求のセマンティクス、型付き依存制約による導出、宣言されたシンクが再利用可能な状態境界を越える値やアクションを決定する。
決定論的コンパイラは権威プログラムを構築し検証し、型付きランタイムは検証されたシンク出力からのみ再利用可能な状態を再構築する。
明示的な実行契約の下では、この設計はリリースの制限と目的の非干渉をもたらし、どの事実のセマンティクスがリリースされ、どの観察の違いが再利用可能な状態に無関係でなければならないかを特徴づける。
LangGraph、CrewAI、MobileRunにまたがる1200のケースで、Powpose IRは99.6%のプライバシ、83.3%のタスク、83.3%のプライバシ・コンプライアント・サクセス(PCS)を達成した。
493 PrivacyLens トラジェクトリでは、77.3%、次のベストメソッドよりも10.4ポイント高いセーフアクションレートを達成し、再利用可能な状態から下流アクションまで、同じバウンダリを延ばしている。
これらの結果は、プライバシ保護エージェントの状態が機密性やタスク非関連コンテンツをフィルタリングする以上のものを必要としていることを示している。
関連論文リスト
- Beyond Suspicious Steps: Ontological Trust in Long-Horizon Agents [13.208673657449175]
本稿では,軌道前置詞のタスク条件特性である存在論的信頼を導入し,それを RGE としてインスタンス化する。
RGEはロール、ゴール、エビデンスに沿って信頼を分解する。
我々はOSWorld, FinanceBench, EICU-ACからクロスドメイントラジェクトリコーパスを構築する。
論文 参考訳（メタデータ） (2026-08-18T12:44:43Z) - Selection-Invariant Communication Compilers for Privacy-Aware Multi-Agent LLM Workflows [6.029029648872896]
本稿では,選択不変通信コンパイラ (SICC) を導入する。
我々は、認証、公開専用フォーム生成、および依存保護ユーティリティゲートという、構成的な通信層保証を証明し、出力された転写物が完全な承認されたビュー以上の情報を明らかにする。
論文 参考訳（メタデータ） (2026-08-04T14:52:10Z) - FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs [11.447078130049512]
FAVAは、エージェントの実行を許可する認可フレームワークである。
OpenAgentSafety、OctoBench、ActPlaneのシナリオでFAVAを評価する。
論文 参考訳（メタデータ） (2026-07-29T09:41:07Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳（メタデータ） (2026-07-18T04:46:53Z) - AgentAbstain: Do LLM Agents Know When Not to Act? [19.223843408018997]
既存の評価は、エージェントがいつ禁じるべきかを知るのではなく、タスクの成功に焦点を当てている。
エージェント禁忌のための最初の体系的評価枠組みとして,ツールを用いたLDMエージェントの動作を検知するキャリブレーション能力について述べる。
AgentAbstainは、エージェントネイティブな分類に基づくペアタスクのベンチマークである。
論文 参考訳（メタデータ） (2026-07-11T00:57:36Z) - AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents [0.2864713389096699]
本稿では,AgentSecBenchを,この問題に対する正式なセキュリティフレームワークの実証的なインスタンス化として紹介する。
3つのゲーム・インストラクション・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)を定めている。
これは、承認された観察と能力に対するプロジェクションとしてのアプリケーションポリシーを表し、プロジェクションの即時アノテーションとプロジェクションの強化を区別し、敵のアドバンテージと、防衛が生成前に関連するモデル可視チャネルを閉鎖するかどうかを計測する。
論文 参考訳（メタデータ） (2026-05-25T18:53:22Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - KnowU-Bench: Towards Interactive, Proactive, and Personalized Mobile Agent Evaluation [72.01173512175531]
KnowU-Benchはパーソナライズされたモバイルエージェントのためのオンラインベンチマークである。
42のGUIタスク、86のパーソナライズされたタスク、64のプロアクティブタスクをカバーしている。
明示的なタスク実行に優れるエージェントは、あいまいな指示の下で50%以下に低下する。
論文 参考訳（メタデータ） (2026-04-09T16:50:50Z) - NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。
NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。
7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
論文 参考訳（メタデータ） (2026-01-21T05:16:50Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。