論文の概要: Solver-Aided Verification of Policy Compliance in Tool-Augmented LLM Agents

• arxiv url: http://arxiv.org/abs/2603.20449v1
• Date: Fri, 20 Mar 2026 19:25:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:38.920139
• Title: Solver-Aided Verification of Policy Compliance in Tool-Augmented LLM Agents
• Title（参考訳）: ツール強化LDMエージェントにおけるポリシーコンプライアンスの解決支援検証
• Authors: Cailin Winston, Claris Winston, René Just,
• Abstract要約: 本稿では,TaLLMエージェントのツール利用ポリシーコンプライアンスを実現するためのSMTソルバ支援フレームワークを提案する。 具体的には、LLM支援による人間誘導型アプローチを用いて、自然言語で特定されたツール利用ポリシーを形式論理に変換する。 実行時に、計画されたツールコールがインターセプトされ、ツールコールの事前条件としてZ3ソルバを使用して制約に対してチェックされる。
• 参考スコア（独自算出の注目度）: 5.90411280561446
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Tool-augmented Large Language Models (TaLLMs) extend LLMs with the ability to invoke external tools, enabling them to interact with real-world environments. However, a major limitation in deploying TaLLMs in sensitive applications such as customer service and business process automation is a lack of reliable compliance with domain-specific operational policies regarding tool-use and agent behavior. Current approaches merely steer LLMs to adhere to policies by including policy descriptions in the LLM context, but these provide no guarantees that policy violations will be prevented. In this paper, we introduce an SMT solver-aided framework to enforce tool-use policy compliance in TaLLM agents. Specifically, we use an LLM-assisted, human-guided approach to translate natural-language-specified tool-use policies into formal logic (SMT-LIB-2.0) constraints over agent-observable state and tool arguments. At runtime, planned tool calls are intercepted and checked against the constraints using the Z3 solver as a pre-condition to the tool call. Tool invocations that violate the policy are blocked. We evaluated on the TauBench benchmark and demonstrate that solver-aided policy checking reduces policy violations while maintaining overall task accuracy. These results suggest that integrating formal reasoning into TaLLM execution can improve tool-call policy compliance and overall reliability.
• Abstract（参考訳）: ツール拡張大型言語モデル(TaLLMs)は、LLMを拡張して外部ツールを起動し、現実世界の環境と対話できるようにする。 しかし、顧客サービスやビジネスプロセス自動化といった機密性の高いアプリケーションにTaLLMをデプロイする際の大きな制限は、ツール使用やエージェントの振る舞いに関するドメイン固有のオペレーションポリシーに対する信頼性の欠如である。 現在のアプローチは、政策記述を LLM の文脈に含めることによって、政策に従うことを単なる LLM に委ねるものであるが、これらは、政策違反が防止される保証を与えていない。 本稿では,TaLLMエージェントのツール利用ポリシーコンプライアンスを実現するためのSMTソルバ支援フレームワークを提案する。 具体的には, LLM を用いた人間誘導型手法を用いて, 自然言語で特定したツール利用ポリシーを, エージェント・オブザーバブル状態とツール引数に対する形式論理(SMT-LIB-2.0) に翻訳する。 実行時に、計画されたツールコールがインターセプトされ、ツールコールの事前条件としてZ3ソルバを使用して制約に対してチェックされる。 ポリシーに違反しているツール呼び出しはブロックされます。 TauBenchベンチマークで評価し,解決支援ポリシチェックが全体のタスク精度を維持しつつ,ポリシー違反を軽減できることを実証した。 これらの結果から,正式な推論をTaLLM実行に統合することで,ツールコールポリシーのコンプライアンスと全体的な信頼性が向上することが示唆された。

関連論文リスト

• ToolRosetta: Bridging Open-Source Repositories and Large Language Model Agents through Automated Tool Standardization [51.92237664440418]
  ToolRosettaは、オープンソースのコードリポジトリとAPIを自動的にMPP互換のツールに変換するフレームワークである。 ユーザタスクが与えられた場合、ToolRosettaはツールチェーンを自律的に計画し、関連するツールチェーンを特定し、実行可能なMPPサービスに変換する。
  論文  参考訳（メタデータ） (2026-03-10T07:19:43Z)
• Gecko: A Simulation Environment with Stateful Feedback for Refining Agent Tool Calls [56.407063247662336]
  本稿では,ルールとLLMを組み合わせてツール応答をシミュレートする総合環境であるGeckoを紹介する。 GATS は GPT-4o, GPT-5, Gemini-3.0-pro など様々な LLM のツールコール性能を一貫して改善している。
  論文  参考訳（メタデータ） (2026-02-22T15:02:00Z)
• Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
  大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。 モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
  論文  参考訳（メタデータ） (2026-01-12T21:31:38Z)
• A-LAMP: Agentic LLM-Based Framework for Automated MDP Modeling and Policy Generation [2.5705703401045548]
  自動MDPモデリングとポリシー生成のためのエージェント型大規模言語モデル(LLM)ベースのフレームワークを提案する。 A-LAMPは、自由形式の自然言語タスク記述をMDPの定式化と訓練されたポリシーに変換する。 A-LAMPは、単一の最先端モデルよりも高いポリシー生成能力を一貫して達成する。
  論文  参考訳（メタデータ） (2025-12-12T04:21:17Z)
• Progent: Programmable Privilege Control for LLM Agents [46.31581986508561]
  本稿では,大規模言語モデルエージェントをセキュアにするための最初の特権制御フレームワークであるProgentを紹介する。 Progentは、潜在的に悪意のあるものをブロックしながら、ユーザタスクに必要なツールコールの実行をエージェントに制限することで、ツールレベルでのセキュリティを強化する。 モジュール設計のおかげで、Progentの統合はエージェント内部を変更せず、既存のエージェントの実装に最小限の変更しか必要としません。
  論文  参考訳（メタデータ） (2025-04-16T01:58:40Z)
• Adaptive Tool Use in Large Language Models with Meta-Cognition Trigger [49.81945268343162]
  我々は,外部ツール利用のための適応型意思決定戦略であるMeCoを提案する。 MeCoは、表現空間内の高レベル認知信号をキャプチャすることで、メタ認知スコアを定量化する。 MeCoは微調整不要で、最小限のコストがかかる。
  論文  参考訳（メタデータ） (2025-02-18T15:45:01Z)
• LMN: A Tool for Generating Machine Enforceable Policies from Natural Language Access Control Rules using LLMs [0.435105239054559]
  自然言語アクセス制御ポリシー(NLACP)と呼ばれるルールやガイドラインは、属性ベースのアクセス制御(ABAC)のようなターゲットアクセス制御モデルでは直接利用できない。 NLACPルールをMESP(Machine Enforceable Security Policies)に手動で翻訳することは、時間とリソースの集中的な消費である。 LMN (LLMs for generate MESPs from NLACPs) と呼ばれる無料の Web ベースツールを開発し,NLACP を入力とし,対応する MESP に変換する。
  論文  参考訳（メタデータ） (2025-02-18T02:45:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。