論文の概要: Neither Layer Alone: Epistemic Integrity Requires Hierarchical Joint Design for Long-Running AI Agents
- arxiv url: http://arxiv.org/abs/2606.04017v1
- Date: Mon, 01 Jun 2026 00:56:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-04 20:44:18.235474
- Title: Neither Layer Alone: Epistemic Integrity Requires Hierarchical Joint Design for Long-Running AI Agents
- Title（参考訳）: いずれの層も:長期的なAIエージェントのための階層的統合設計を必要とするエピステミック統合性
- Authors: Zhihong Shen,
- Abstract要約: 長期にわたるAIエージェントは、独立して進化するモデルとハーネスレイヤが、その境界を越えた信念、能力、目標のコミットメントのセマンティクスを変えると失敗する。
本稿では,エージェント・エピステミック・インテリティ(AEI)を第一級アーキテクチャ制約として扱う必要があることを論じる。
- 参考スコア（独自算出の注目度）: 0.6381783966294292
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Long-running AI agents fail not only when inference fails or tools are underspecified, but when independently evolving model and harness layers change the semantics of belief, capability, and goal commitments across their boundary - a failure class this paper terms Interface Volatility. This paper argues that Agent Epistemic Integrity (AEI) must be treated as a first-class architectural constraint, achievable only through joint model-harness design organized around an explicit interface contract. The central claim is that the model-harness interface contract is the precondition for joint design; its operational form is a four-level hierarchy - goal validity, action-archetype sequencing, tool-instance selection, and invocation-level failure discrimination - that specifies what the boundary must preserve and what structured outputs the model must return for the contract to hold across levels. This reframes long-running agent design away from flat action loops and toward contract-preserving control over persistent state. Evaluation and training should therefore derive from the contract itself, testing whether belief, tool, and goal commitments hold across session boundaries and independent layer upgrades.
- Abstract（参考訳）: 長期にわたるAIエージェントは、推論が失敗したり、ツールが不明確になったりしたときだけでなく、独立して進化するモデルとハーネス層が境界を越えた信念、能力、目標のセマンティクスを変えるとき、失敗する。
本稿では,エージェント・エピステミック・インテリティ(AEI)を一級アーキテクチャ制約として扱い,明示的なインターフェース・コントラクトを中心に構成されたジョイント・モデル・ハーネス設計によってのみ実現可能であることを論じる。
モデルハーネスインターフェース契約は、共同設計の前提条件であり、その運用形態は、目標の妥当性、アクションアーキテクチャタイプのシーケンシング、ツールインスタンスの選択、呼び出しレベルの障害識別の4段階の階層であり、境界が保持すべきもの、モデルの構造的出力が、レベルをまたいで保持するコントラクトのために返さなければならないものを指定する。
これにより、フラットなアクションループから切り離され、永続的な状態に対するコントラクト保存コントロールへと、長期にわたるエージェント設計が再編成される。
したがって、評価とトレーニングは契約そのものから派生し、信念、ツール、目標のコミットメントがセッション境界や独立したレイヤのアップグレードを越えて保持されるかどうかをテストする必要がある。
関連論文リスト
- Containment Verification: AI Safety Guarantees Independent of Alignment [13.629487815782355]
本稿では,エージェントフレームワーク自体の安全性を保証する封じ込め検証を導入する。
ハボックオラクルセマンティクスの下では、AIは型付きアクション空間全体にわたって制約のないオラクルとしてモデル化される。
モデル付き境界イベント、アクション引数、状態上で表現される境界強化性については、普遍的な保証を証明します。
論文 参考訳（メタデータ） (2026-05-09T16:36:45Z) - Prediction and Empowerment: A Theory of Agency through Bridge Interfaces [0.10152838128195464]
決定論的物理・シミュレートされた世界における部分的観測可能性の下でエージェントを研究する。
我々は予測、圧縮、エンパワーメントの分離を証明している。
現代のAIエージェントにとって、結果は必然性の定理ではなく設計原則を示唆している。
論文 参考訳（メタデータ） (2026-05-07T14:30:46Z) - Bridging Values and Behavior: A Hierarchical Framework for Proactive Embodied Agents [26.613956143957548]
textitValuePlannerは階層的な認知アーキテクチャで、低レベルのアクション実行から高レベルの値スケジューリングを分離する。
我々の研究は、内在的価値をブリッジする構造的なアプローチと、自律的エージェントに対する接地行動を提供する。
論文 参考訳（メタデータ） (2026-04-30T10:43:55Z) - ADEMA: A Knowledge-State Orchestration Architecture for Long-Horizon Knowledge Synthesis with LLMAgents [16.053669481561354]
ADEMAは長期の知識合成のための知識状態オーケストレーションアーキテクチャである。
本稿では長軸知識合成のための知識状態オーケストレーションアーキテクチャとしてADEMAを提案する。
論文 参考訳（メタデータ） (2026-04-28T16:54:48Z) - Structural Enforcement of Goal Integrity in AI Agents via Separation-of-Powers Architecture [0.10152838128195464]
Policy-Execution-Authorization (PEA)アーキテクチャは、システムレベルでの安全性を強制する"パワーの分離"設計である。
PEAはインテントの生成、承認、実行を、暗号的に制約された機能トークンを介して接続された独立した分離されたレイヤに分離する。
論文 参考訳（メタデータ） (2026-04-26T10:31:13Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z) - Towards Efficient Agents: A Co-Design of Inference Architecture and System [66.59916327634639]
本稿では,エージェントアクセラレーションのための統合フレームワークであるAgentInferを提案する。
問題をAgentCollab、AgentSched、AgentSAM、AgentCompressの4つの相乗的コンポーネントに分解する。
BrowseComp-zhとDeepDiverベンチマークの実験では、これらの手法の相乗的コラボレーションを通じて、AgentInferは非効率なトークン消費を50%以上削減することを示した。
論文 参考訳（メタデータ） (2025-12-20T12:06:13Z) - Geometrically-Constrained Agent for Spatial Reasoning [53.93718394870856]
視覚言語モデルは空間的推論において基本的な意味-幾何学的ギャップを示す。
現在のパラダイムは、このギャップを埋めることに失敗します。
本稿では,形式的タスク制約を導入することにより,このギャップを解消する学習自由エージェントパラダイムを提案する。
論文 参考訳（メタデータ） (2025-11-27T17:50:37Z) - DeepThinkVLA: Enhancing Reasoning Capability of Vision-Language-Action Models [51.76664843721462]
DeepThinkVLAはVision-Language-Actionモデルのための新しいアーキテクチャである。
因果的注意を伴うシーケンシャルCoTを生成し、双方向の注意に切り替え、アクションベクトルを高速に復号する。
LIBEROベンチマークで97.0%の成功率を達成した。
論文 参考訳（メタデータ） (2025-10-31T05:26:16Z) - ERIS: An Energy-Guided Feature Disentanglement Framework for Out-of-Distribution Time Series Classification [51.07970070817353]
理想的な時系列分類(TSC)は不変表現をキャプチャできるべきである。
現在の手法は、真に普遍的な特徴を分離するために必要な意味的な方向性を欠いている。
本稿では,シフト・ロバストネス・フレームワークのためのエンドツーエンドのエネルギー規則化情報を提案する。
論文 参考訳（メタデータ） (2025-08-19T12:13:41Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳（メタデータ） (2024-01-17T09:01:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。