論文の概要: Identity-Bound Governance Under Execution Uncertainty: An Accountability Proof Block for LLM Agent Persistent Halts, with Cryptographic Implementation and Cross-Model Calibration
- arxiv url: http://arxiv.org/abs/2610.00787v1
- Date: Wed, 30 Sep 2026 22:22:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.795666
- Title: Identity-Bound Governance Under Execution Uncertainty: An Accountability Proof Block for LLM Agent Persistent Halts, with Cryptographic Implementation and Cross-Model Calibration
- Title（参考訳）: 実行不確実性下におけるアイデンティティ境界ガバナンス:暗号実装とクロスモデル校正によるLLMエージェントの持続的ハルトに対する説明責任証明
- Abstract要約: 正しく管理されたLDMエージェントは、継続実行も自動停止も許容されない状態に達することができる。
これをアイデンティティバウンドのガバナンスイベントと呼び、それを解決するメカニズムを形式化します。
- 参考スコア（独自算出の注目度）: 0.4929694290403903
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A correctly governed LLM agent can reach a state in which neither continuing execution nor automatically halting is admissible: the system has detected a persistent failure of its observability or drift-detection layer, but cannot itself decide who has the authority to resume, deny, or recalibrate the deployment. We call this an identity-bound governance event and formalise the mechanism that resolves it. We introduce the Accountability Proof Block (APB): a system-constructed evidence block, a human-supplied decision block, and an ed25519 signature binding both to a registered principal. The system cannot forge the signature, and the principal cannot alter the evidence undetected. We prove four theorems: Protocol-Bounded Governance Completeness, Non-Repudiability, Impossibility of Anonymous Re-Authorization, and Finite-Time APB Construction Termination. The implementation uses RFC 8785 JSON canonicalization and a UUID4-based replay predicate. Empirically, governance completeness holds over 3,812 halt events with zero unresolved cases; the verifier detects 100% of 1,800 attacks across 9 adversarial vectors; a k-of-n multi-principal variant shows 0 false acceptances in 2,000 single-key capture attempts. A study of six open LLMs finds the drift threshold T* stable within model (sigma/T* < 2%) but varying across models, refuting size-monotonicity: the largest model did not drift. T* must therefore be measured per deployment, and the APB is the vehicle by which that threshold yields accountable authority transfer.
- Abstract（参考訳）: 正しく管理されたLCMエージェントは、継続実行も自動停止も許容されない状態に到達することができる。システムは、その可観測性またはドリフト検出層の永続的な障害を検出しているが、誰がそのデプロイを再開、拒否、再調整する権限を持つかを自身で決定することはできない。
これをアイデンティティバウンドのガバナンスイベントと呼び、それを解決するメカニズムを形式化します。
本稿では,Accountability Proof Block (APB):システム構築のエビデンスブロック,人為的な決定ブロック,および登録プリンシパルにそれぞれ結合するED25519シグネチャを導入する。
システムは署名を偽造することができず、プリンシパルは検出されていない証拠を変更することはできない。
我々は,プロトコル境界の完全性,非監査性,匿名再認証の不適格性,有限時間ABB構築終了の4つの定理を証明した。
この実装ではRFC 8785 JSON標準化とUUID4ベースのリプレイ述語を使用している。
検証器は9つの逆ベクトルにわたる1,800の攻撃を100%検出し、k-of-nマルチプリンシパル変種は2000個のシングルキーキャプチャー試行において0の偽の受け入れを示す。
6つのオープン LLM の研究により、ドリフトしきい値 T* がモデル内で安定である(シグマ/T* < 2%)が、モデルによって異なることが判明した。
したがって、T*は配備毎に測定されなければならず、ABBはそのしきい値が説明可能な権限移転をもたらす車両である。
関連論文リスト
- Trust Is Not a Score: Runtime Assurance Contracts for High-Risk AI Agents [0.0]
本稿では,ポリシーレベルの形式的スキーマバインディング境界,コンポーネントの適性,エビデンス状態,遷移ポリシ,ヒューマンレビュー能力,非補償ゲートを提案する。
調整された保証契約(RAC)の下では、ソフトメトリクスはルーティングを通知するが、失敗または未知の強制ゲートフォースはリトライ、スイッチ、エスカレーション、デフェラル、ストップを行う。
論文 参考訳（メタデータ） (2026-09-30T13:28:42Z) - Dual-Frontier: When Can an Agent Trust Its World Model? [27.999328033210492]
本研究は,世界モデル誘導型意思決定が失敗した場合,エージェントの意思決定ルールと世界モデルが損失を引き起こしたかどうかを,軌跡だけでは明らかにできないことを示す。
我々は、この障害帰属問題を、リターン損失の非実効分解として定式化する。
提案するDual-Frontierは,予測される優位性が決定関連世界モデルエラーの認定境界を超える場合にのみ,世界モデル誘導決定を認める学習原理である。
論文 参考訳（メタデータ） (2026-09-22T12:05:43Z) - Calibrating Criterion Revision in LLM Agents: Failure Modes and a Trace-Anchored Protocol [3.202978695204522]
言語モデルエージェントは、失敗後に改善したり、成功と見なすものを再検討することなく、エピソード間でテキストを運ぶことができる。
CMB-0.1を12例,腕4例で検討した。
モデルトライアルが5つの条件すべてを満たすことはないが、このゼロは一般能力の欠如を証明していない。
論文 参考訳（メタデータ） (2026-08-21T04:21:28Z) - Governed Caste Reassignment in Heterogeneous Swarms: An Asymmetric-Trust Protocol with Audited Operator Countersignature [7.392721604463545]
規制された実施のためには、キャスターの変更によってロボットの特権エンベロープが上昇することは、監査可能で外部から認可されたガバナンスイベントである、と我々は主張する。
非対称トラストプロトコルを提案する: 自動密着型再割り当ては自動的に許可されるが、有界緩和には演算子対応が必要である。
我々は,最大100台のロボットに対して,実際のEd25519シグネチャによる参照実装を評価する。
論文 参考訳（メタデータ） (2026-07-06T03:34:07Z) - What Accuracy and Gradient Cosine Miss: Evaluating Feedback Alignment via Scale Stability, Reference Validity, and Depth Utility [48.10132234701036]
本稿では,3つのチェック(スケール安定性,参照妥当性,深度ユーティリティ)に基づく診断評価プロトコルを提案する。
複数のアーキテクチャや手法にまたがって、我々のプロトコルは広い校正マージンを持つ全ての障害を識別する。
論文 参考訳（メタデータ） (2026-06-19T06:04:17Z) - CRANE: Knowledge Editing for Reasoning MLLMs [37.084419383244814]
マルチモーダルな大言語モデル(MLLM)は、回答を生成する前に明示的なチェーン・オブ・シークレット(CoT)推論を生成する。
MLLMの推論では、(FT, LoRA)を一般化する手法はフォーマットの崩壊を引き起こすが、深い修正のない手法は一般化できない。
本稿では,CRANEを提案する。
論文 参考訳（メタデータ） (2026-06-08T05:01:11Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - From Admission to Invariants: Measuring Deviation in Delegated Agent Systems [0.4929694290403903]
エージェントの行動が入場時に確立された許容行動空間A0内に留まっているかどうかを,施行に基づくガバナンスでは判断できないことを示す。
実施に基づく監視のための情報理論上の不可能性を証明し、IMLが検出遅延を許容できる限り有限に抑えた入場時間ドリフトを検出することを示す。
論文 参考訳（メタデータ） (2026-04-19T16:19:57Z) - Agent Control Protocol: Admission Control for Agent Actions [0.4929694290403903]
エージェントコントロールプロトコル(エージェントコントロールプロトコル、ACP)は、B2Bの機関環境における自律エージェントの受け入れ制御ガバナンスのための正式な仕様である。
ACPは、暗号ID、能力に基づく認可、決定論的リスク評価、連鎖デリゲート、および暗号化連鎖監査を定義する。
ACPはRBACとZero Trustの上で動作し、どちらのモデルも解決しない問題に対処する。
論文 参考訳（メタデータ） (2026-03-19T12:28:28Z) - SEAL-Tag: Self-Tag Evidence Aggregation with Probabilistic Circuits for PII-Safe Retrieval-Augmented Generation [36.47163805456756]
SEAL-Tagは個人識別可能な情報を保護するランタイム環境(PII)
SEAL-TagはSEAL-Probeプロトコルを導入し、監査を構造化されたツール使用操作に変換し、モデルがそのドラフトと共に検証可能なPII-Evidence Table(PET)を生成する。
プライバシ"コールドスタート"問題を克服するため,S0-S6アンコレッド合成パイプラインを導入し,高忠実で実証されたRAGインタラクションを生成する。
論文 参考訳（メタデータ） (2026-03-18T02:40:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。