論文の概要: Governance by Construction for Generalist Agents

• arxiv url: http://arxiv.org/abs/2605.20874v1
• Date: Wed, 20 May 2026 08:13:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.565769
• Title: Governance by Construction for Generalist Agents
• Title（参考訳）: ジェネリストエージェントの構築によるガバナンス
• Authors: Segev Shlomov, Iftach Shoham, Alon Oved, Ido Levy, Sami Marreed, Harold Ship, Offer Akrabi, Sergey Zeltyn, Avi Yaeli, Nir Mashkif,
• Abstract要約: このデモでは、CUGAのポリシ・アズ・コード・レイヤであるポリシ・アズ・コード・レイヤを紹介し、ジェネラリストエージェントと組み合わせて予測可能、監査可能、コンプライアンス対応の振る舞いを提供する。 実行の重要なすべての段階において、ポリシーの介入を強制するガバナンスアーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 7.48004748585128
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Enterprise agents are increasingly expected to operate autonomously across tools and interfaces, yet production deployments require governance by construction. Systems must specify which actions are allowed, when human oversight is required, and what information may be exposed, without rebuilding the agent for each domain. This demo presents CUGA's policy system, a modular policy-as-code layer that composes with a generalist LLM agent to deliver predictable, auditable, and compliance-aware behavior in compound workflows without model fine-tuning. We present a runtime governance architecture that enforces policy interventions at every critical stage of execution. Rather than passively constraining behavior, policies intercept the agent at five structural checkpoints: upstream of planning (Intent Guard), within the system prompt to steer reasoning (Playbook), at the tool-call boundary to enforce proper usage (Tool Guide), outside the reasoning loop as a Human-in-the-Loop gate for high-risk actions (Tool Approvals), and at the output stage to filter and structure the final response (Output Formatter). Together, these stages embed governance continuously across the agent's execution pipeline rather than treating it as an afterthought. Using a healthcare scenario and a multi-layered enforcement intervention, the demo shows dynamic playbook injection for structured tool-sequence enforcement, intent guards that block malicious or accidental harmful requests, and human-in-the-loop tool approval checkpoints for potentially destructive actions. The artifact illustrates how typed governance primitives enable faster, safer deployment of enterprise agentic systems while improving policy adherence and execution consistency.
• Abstract（参考訳）: エンタープライズエージェントはツールやインターフェースをまたいで自律的に運用されることがますます期待されている。 システムは、ドメインごとにエージェントを再構築することなく、どのアクションが許可されているか、人間の監視が必要か、どんな情報が公開されるかを指定する必要がある。 このデモでは、CUGAのポリシ・アズ・コード・レイヤであるポリシー・アズ・コード・レイヤを一般のLCMエージェントで構成し、予測可能、監査可能、コンプライアンス・アウェアな振る舞いをモデル微調整なしで複合ワークフローで提供する。 実行の重要なすべての段階において、ポリシーの介入を強制するランタイムガバナンスアーキテクチャを提案する。 アクションを受動的に制限するのではなく、ポリシーはエージェントを5つの構造的チェックポイントにインターセプトする: 計画の上流(Intent Guard)、システム内のステア推論のプロンプト(Playbook)、適切な使用を強制するためのツールコール境界(Tool Guide)、高リスクアクションのためのヒューマン・イン・ザ・ループゲートとしての推論ループの外側(Tool Approvals)、最終的な応答をフィルタリングし、構造化する出力ステージ(Output Formatter)。 これらのステージは、後見として扱うのではなく、エージェントの実行パイプライン全体に継続的にガバナンスを組み込む。 デモでは、医療シナリオと多層的な執行介入を使用して、構造化ツールシークエンシングのための動的プレイブックインジェクション、悪意のあるあるいは偶発的な有害な要求をブロックするインテントガード、潜在的に破壊的なアクションに対するヒューマン・イン・ザ・ループツールの承認チェックポイントなどが紹介されている。 このアーティファクトは、タイプドガバナンスプリミティブが、ポリシーの遵守と実行の一貫性を改善しながら、より速く、より安全なエンタープライズエージェントシステムのデプロイを可能にする方法を示している。

関連論文リスト

• Towards Security-Auditable LLM Agents: A Unified Graph Representation [22.355591892994642]
  本稿ではエージェントセキュリティ監査のための統合構造表現であるエージェントBOMを提案する。 エージェントBOMは、クロスセッションメモリ中毒やツール誤用など、ステルス攻撃チェーンを再構築できることを示す。 Agent-BOMは複雑なエージェントエコシステムにおける根本原因分析とセキュリティ適応のための統一的で監査可能な基盤を提供する。
  論文  参考訳（メタデータ） (2026-05-07T18:14:29Z)
• PolicyBank: Evolving Policy Understanding for LLM Agents [51.86716874651299]
  PolicyBankは構造化されたツールレベルの政策洞察を維持し、それらを反復的に洗練する。 PolicyBankは、人間の神託に対するギャップの最大82%を閉じている。
  論文  参考訳（メタデータ） (2026-04-16T20:29:30Z)
• SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
  エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。 フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。 本手法は,現実的な環境下で高い攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2026-02-15T16:09:48Z)
• Autonomous Action Runtime Management(AARM):A System Specification for Securing AI-Driven Actions at Runtime [0.0]
  本稿では,AI駆動型動作を実行時にセキュアにするためのオープン仕様であるAutonomous Action Management(AARM)を紹介する。 AARMは実行前にアクションをインターセプトし、セッションコンテキストを蓄積し、ポリシーと意図の整合性を評価し、承認決定を強制し、法医学的な再構築のための未確認のレシートを記録する。 AARMはモデルに依存しない、フレームワークに依存しない、ベンダーに依存しない、アクション実行を安定したセキュリティ境界として扱う。
  論文  参考訳（メタデータ） (2026-02-10T05:57:30Z)
• Faramesh: A Protocol-Agnostic Execution Control Plane for Autonomous Agent Systems [0.0]
  Farameshはプロトコルに依存しない実行制御プレーンで、エージェント駆動アクションの実行時間認証を強制する。 これらのプリミティブが自律的な実行に対して、強制可能で予測可能なガバナンスを実現する方法を示します。
  論文  参考訳（メタデータ） (2026-01-25T08:27:27Z)
• The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
  LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。 本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。 標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-21T15:22:21Z)
• AgentGuardian: Learning Access Control Policies to Govern AI Agent Behavior [20.817336331051752]
  AgentGuardianは、コンテキスト対応アクセス制御ポリシーを強制することによって、AIエージェントの操作を統制し、保護する。 正常なエージェント機能を保持しながら、悪意のある入力や誤解を招く入力を効果的に検出する。
  論文  参考訳（メタデータ） (2026-01-15T14:33:36Z)
• CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
  AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。 CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。 このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
  論文  参考訳（メタデータ） (2026-01-14T23:06:35Z)
• Monadic Context Engineering [59.95390010097654]
  本稿では,エージェント設計の正式な基盤を提供するために,モナディックコンテキストエンジニアリング(MCE)を紹介する。 我々は、モナドがロバストなコンポジションをどのように実現し、Applicativesが並列実行に原則化された構造を提供し、また、モナドトランスフォーマーがこれらの機能の体系的なコンポジションをどのように可能にしているかを実証する。 この階層化されたアプローチにより、開発者は、単純で独立した検証可能なコンポーネントから、複雑でレジリエントで効率的なAIエージェントを構築することができる。
  論文  参考訳（メタデータ） (2025-12-27T01:52:06Z)
• Policy-as-Prompt: Turning AI Governance Rules into Guardrails for AI Agents [0.19336815376402716]
  我々は、構造化されていない設計成果物(RD、TDD、コードなど)を検証可能なランタイムガードレールに変換する規制機械学習フレームワークを導入します。 Promptメソッドとしての私たちのポリシーは、これらのドキュメントを読み、ソースリンクされたポリシーツリーを構築するためのリスクコントロールです。 システムは最小限の特権とデータ最小化を強制するために構築される。
  論文  参考訳（メタデータ） (2025-09-28T17:36:52Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。