論文の概要: Skills as Verifiable Artifacts: A Trust Schema and a Biconditional Correctness Criterion for Human-in-the-Loop Agent Runtimes

• arxiv url: http://arxiv.org/abs/2605.00424v1
• Date: Fri, 01 May 2026 05:53:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 17:43:28.862681
• Title: Skills as Verifiable Artifacts: A Trust Schema and a Biconditional Correctness Criterion for Human-in-the-Loop Agent Runtimes
• Title（参考訳）: 検証可能なアーティファクトとしてのスキル: 信頼スキーマと二条件整合性基準
• Abstract要約: 私たちは、スキルが検証されるまで、信頼されたコードであると主張する。 スキル検証がなければ、ループ内の人間ゲートは、あらゆる不可逆呼び出しに発射されなければならない。 すべてのスキルマニフェストに明確な検証レベルを含む信頼スキーマを提供します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agent skills -- structured packages of instructions, scripts, and references that augment a large language model (LLM) without modifying the model itself -- have moved from convenience to first-class deployment artifact. The runtime that loads them inherits the same problem package managers and operating systems have always faced: a piece of content claims a behavior; the runtime must decide whether to believe it. We argue this paper's central thesis up front: a skill is \emph{untrusted code} until it is verified, and the runtime that loads it must enforce that default rather than infer trust from a signature, a clearance, or a registry of origin. Without skill verification, a human-in-the-loop (HITL) gate must fire on every irreversible call -- which is operationally untenable and degrades into rubber-stamping at any non-trivial scale. With skill verification treated as a separate, gated process, HITL fires only for what is unverified, and the system becomes sustainable. We give a trust schema (§\ref{sec:schema}) that includes an explicit verification level on every skill manifest; a capability gate (§\ref{sec:gate}) whose HITL policy is a function of that verification level; a \emph{biconditional} correctness criterion (§\ref{sec:biconditional}) that any candidate verification procedure must satisfy on an adversarial-ensemble exercise (§\ref{sec:eval}); and a portable runtime profile (§\ref{sec:guidelines}) with ten normative guidelines abstracted from a working open-source reference implementation \cite{metere2026enclawed}. The contribution is harness- and model-agnostic; nothing here requires retraining, fine-tuning, or proprietary infrastructure.
• Abstract（参考訳）: エージェントスキル -- 大きな言語モデル(LLM)をモデル自体を変更することなく拡張する命令、スクリプト、参照の構造化パッケージ -- が、利便性からファーストクラスのデプロイメントアーティファクトへと移行した。 それらをロードするランタイムは、パッケージマネージャとオペレーティングシステムが常に直面しているのと同じ問題を継承する。 スキルが検証されるまでは \emph{untrusted code} であり、それをロードするランタイムは、署名、クリアランス、または起源のレジストリから信頼を推測するのではなく、デフォルトを強制しなければならない。 スキル検証がなければ、HITL(Human-in-the-loop)ゲートは操作不能で、あらゆる非自明なスケールでゴムスタンピングに分解される。 技術検証を独立したゲートプロセスとして扱うことで、HITLは未検証のものにのみ火を放ち、システムは持続可能となる。 我々は、すべてのスキルマニフェストに明示的な検証レベルを含む信頼のスキーマ、HITLポリシーがその検証レベルの関数である能力ゲート(英語版)(英語版)(英語版)(英語版))、任意の候補検証手順が対応するアンサンブル演習(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版)(英語版))(英語版))(英語版)(英語版)(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版)))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版))(英語版)))(英語版))(英語版)))(英語版))(英語版)))(英語版)))(英語版)))(英語版)(英語版))))(英語版)(英語版))))(英語版)(英語版))))(英語版)))(英語版)))(英語版))(英語版))))(英語版))(英語版)))))(英語版)))))))(英語版)))))(英語版)))))))))) ここではトレーニング、微調整、プロプライエタリなインフラストラクチャは一切必要ありません。

関連論文リスト

• Formal Verification of Agentic Systems over Operational Data [59.98246281888422]
  大規模言語モデル(LLM)によって駆動されるエージェントシステムは、永続的な運用データを扱う現実世界にますます展開されている。 既存のアプローチはそのようなシステムレベルの保証を提供していません。 本稿では, 1 つの LLM とツールオーケストレーションハーネスからなるエージェントシステムのリレーショナル操作データに対する検証について述べる。
  論文  参考訳（メタデータ） (2026-08-04T13:01:30Z)
• Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
  被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。 我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
  論文  参考訳（メタデータ） (2026-07-24T06:43:09Z)
• Towards Automated Formal Verification of zkEVMs Using LLM-Guided Constraint Synthesis [14.825615940318038]
  ZkEVMは、オフチェーン実行の正しさを保証するゼロ知識を生成する。 微妙な実装上のバグは、意味的に欠陥のある状態を証明する有効な証明につながる可能性がある。 SMTソルバによる形式検証は、これを防止できるが、仕様によってボトルネックとなる。 Rustから実行可能なPython/Z3検証モデルを合成するフレームワークであるVeri Synthを提案する。
  論文  参考訳（メタデータ） (2026-07-22T06:20:36Z)
• AEVAL: From Anecdotal to Deterministic Testing for Agentic Skill Workflows [1.6785141970297952]
  AEVAL(Agentic Evaluation)はCI統合フレームワークで、このプラクティスをエージェントスキルのための決定論的かつ再現可能なテストパイプラインに置き換える。 すべてのスキル変更がテストイベントをトリガーする。スキルは、自動エグゼキュータ内の開発者が宣言した評価契約に対して実行される。 鍵となる要素は、実行子とグレーダの間の構造的分離であり、微妙だが広汎な障害モードを防止する。
  論文  参考訳（メタデータ） (2026-07-16T21:33:05Z)
• VIGIL: Runtime Enforcement of Behavioral Specifications in AI Agent Skills [13.980239249972819]
  VIGILはエージェントシステムのためのエンドツーエンドのランタイム実行フレームワークである。 エージェントの実際の実行トレースを、スキル仕様、オペレータ定義制約、複数のスキルにまたがるグローバルルールから、行動ポリシーに対してチェックする。 95%以上のリコールと偽陽性率で政策違反を検出する。
  論文  参考訳（メタデータ） (2026-06-25T01:58:44Z)
• VASO: Formally Verifiable Self-Evolving Skills for Physical AI Agents [57.240036084348354]
  本稿では,ロボットスキルコントラクトの検証誘導自己進化のためのフレームワークであるVASOを紹介する。 VASOは論理的に一貫性のないスキル契約を検証し、グローバルおよびローカルな時間的仕様に対してスキルによって誘発される計画を検証する。 Clearpath Jackal と PX4 のクアッドコプタータスクでは、VASO は100点未満の最適化サンプルを使用して97.2% の形式的な仕様準拠に達した。
  論文  参考訳（メタデータ） (2026-06-03T20:02:35Z)
• Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
  我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。 LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。 emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
  論文  参考訳（メタデータ） (2026-05-16T12:53:31Z)
• Methods for Formal Verification of Agent Skills: Three Layers Toward a Mechanically Checkable Capability-Containment Proof [0.0]
  LLM駆動のランタイムによってどのようにスキルが消費されるかに忠実なスキル行動に関する正確なセマンティクスを提供します。 本稿では,定式化や定式化によるスキル向上を両立させる構成可能な3つの手法を提案する。 これら3つのメソッドに加えて、バンドルプロデューサと再チェッカーは、オープンソースエンクロードフレームワークのゼロ依存JavaScriptモジュールとして出荷される。
  論文  参考訳（メタデータ） (2026-05-09T19:27:38Z)
• IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
  既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。 IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
  論文  参考訳（メタデータ） (2026-04-22T03:03:33Z)
• Scaling Human-AI Coding Collaboration Requires a Governable Consensus Layer [22.42181408084751]
  ビブコーディングは正確で実行可能なコードを高速に生成するが、構造的なコミットメントや依存関係、証拠の記録は残っていない。 本稿では,操作可能な世界モデルであるコンセンサス層Cが,エンジニアリングの主要な成果物としてコードを置き換えるパラダイムであるエージェント・コンセンサスを提案する。 本稿では,チャットによるベースラインと比較して,コンセンサスに基づく人間の介入を減らすかどうかを測定するためのベンチマークタスクファミリーを提案する。
  論文  参考訳（メタデータ） (2026-04-20T06:53:32Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Attesting LLM Pipelines: Enforcing Verifiable Training and Release Claims [2.0403981727850233]
  現代の大規模言語モデル(LLM)システムは、事前トレーニングされた重み付け、微調整アダプタ、データセット、依存関係パッケージ、コンテナイメージといったサードパーティの成果物から組み立てられている。 このスピードには、妥協された依存関係、悪意のあるハブアーティファクト、安全でないデフォールト化、偽造された前兆、バックドアモデルなど、サプライチェーンのリスクが伴う。 本稿では,信頼された環境にアーティファクトが認められる前に,クレームエビデンスを検証し,安全なローディングと静的スキャンポリシーを適用し,セキュアなシリアル配置制約を適用した,証明対応のプロモーションゲートを提案する。
  論文  参考訳（メタデータ） (2026-03-30T20:37:48Z)
• Understanding Contextual Recall in Transformers: How Finetuning Enables In-Context Reasoning over Pretraining Knowledge [50.009682083079205]
  我々は,文脈的リコールが単独で事前学習から生じるかどうかを検討する。 ICL評価とは異なる暗黙的推論を必要とするタスクの微調整は、文脈的リコールの出現を誘発することを示す。 メカニカル・インサイト(メカニカル・インサイト)では,現実から文脈への遷移を再現するアテンションオンリー・トランスフォーマーの構成を導出する。
  論文  参考訳（メタデータ） (2026-03-21T22:46:55Z)
• Agentproof: Static Verification of Agent Workflow Graphs [0.0]
  エージェントフレームワークは、ツール使用の振る舞いを明示的なワークフローグラフとしてエンコードする傾向にある。 本稿では,4つの主要なエージェントフレームワークから統合抽象グラフモデルを自動的に抽出するAgentproofを提案する。 汎用的なモデルチェッカーとは異なり、Agentproofは手動モデリングを必要としない。
  論文  参考訳（メタデータ） (2026-03-20T13:56:20Z)
• Turn: A Language for Agentic Computation [0.0]
  コンパイルされたアクターベースのプログラミング言語である textbfTurn を提示する。 Turnはエージェントソフトウェアのためのプログラムで、推論を大規模言語モデルに委譲することで、推論し、自律的に行動するプログラムです。
  論文  参考訳（メタデータ） (2026-03-07T09:10:09Z)
• Proof-Carrying Numbers (PCN): A Protocol for Trustworthy Numeric Answers from LLMs via Claim Verification [0.0]
  我々は,機械的検証により数値忠実度を強制するプレゼンテーション層プロトコルであるtextbfProof-Carrying Numbers (PCN) を提案する。 PCNは軽量でモデルに依存しず、既存のアプリケーションにシームレスに統合され、暗号的なコミットメントで拡張できる。
  論文  参考訳（メタデータ） (2025-09-08T17:20:16Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• Self-regulating Prompts: Foundational Model Adaptation without Forgetting [112.66832145320434]
  本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。 PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
  論文  参考訳（メタデータ） (2023-07-13T17:59:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。