論文の概要: When "Must" Becomes "Maybe": Constraint Weakening in LLM Agent Workflows
- arxiv url: http://arxiv.org/abs/2608.24569v1
- Date: Tue, 25 Aug 2026 13:51:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:35.008511
- Title: When "Must" Becomes "Maybe": Constraint Weakening in LLM Agent Workflows
- Title（参考訳）: Must"が"Maybe"になった時 - LLMエージェントワークフローにおける制約緩和
- Abstract要約: 大規模言語モデル(LLM)は、マルチロールとマルチステージで複雑なタスクを協調する。
行動制限状態においては、トピックの保持が不十分である。
我々は、この行動結合の役割を運用状態の保存として研究する。
- 参考スコア（独自算出の注目度）: 7.76360331159223
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM) agents coordinate complex tasks through multi-role and multi-stage workflows. Upstream state is repeatedly transformed into intermediate language artifacts, such as summaries, plans, tickets, memories, and handoff notes, from which downstream components act. For action-constraining state, topical retention is insufficient: an artifact may mention an unresolved condition while changing it from a requirement that must be resolved before execution into information that may merely inform the next action. We study this action-binding role as operational state preservation. Safety blockers provide a controlled instance because each source state has an explicit prerequisite, authority, fallback, and execution consequence. We condition on correct upstream identification, vary the handoff transformation, and evaluate an executor restricted to the resulting artifact. Across 1,296 controlled synthetic episodes, direct-handoff controls preserve every blocker, whereas compression, plan assimilation, convergence, ownership deferral, and precedent substitution repeatedly turn binding state into caveats or non-binding considerations. Normal handoff compression produces 100.0% deactivation and 54.2% forbidden action. Restoring all four state fields raises preservation to 100.0% and reduces forbidden action to 0.0%. Fixed-artifact interventions further separate preservation from containment: downstream verification eliminates forbidden action while artifact deactivation remains 95.3%. These results identify a state-transmission failure between information extraction and action. Handoff transformations can retain state content while weakening its constraints on downstream action. Semantic availability does not guarantee operational preservation.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、マルチロールおよびマルチステージワークフローを通じて複雑なタスクを調整する。
アップストリーム状態は、サマリー、プラン、チケット、メモリ、ハンドオフノートなどの中間言語アーティファクトに変換され、そこから下流コンポーネントが作用する。
あるアーティファクトは、実行前に解決しなければならない要件から次のアクションを単に通知する情報に変更しながら、未解決の状態に言及することができる。
我々は、この行動結合の役割を運用状態の保存として研究する。
各ソース状態には明確な前提条件、権限、フォールバック、実行結果があるため、セーフティブロッカーは制御されたインスタンスを提供する。
我々は、上流の正確な識別を条件とし、ハンドオフ変換を変更し、結果のアーティファクトに制限された実行子を評価する。
1,296回にわたって制御された合成エピソード、直接ハンドオフ制御はすべてのブロッカを保存し、一方圧縮、計画同化、収束、所有権委譲、前例の置換は、結合状態を不注意または非結合の考慮に繰り返し転換した。
通常のハンドオフ圧縮は100.0%の非活性化と54.2%の禁止作用を生じる。
4つの州田の復元は保存率を100.0%に引き上げ、禁じられた行為を0.0%に下げる。
下流の検証は禁止された行為を排除し、人工物の不活性化は95.3%にとどまる。
これらの結果は、情報抽出と行動の間の状態伝達障害を特定する。
ハンドオフ変換は、ダウンストリームアクションの制約を弱めながら、状態内容を保持することができる。
セマンティック・アベイラビリティーは、運用上の保護を保証するものではない。
関連論文リスト
- When Tool Calls Succeed but Workflows Fail: Anomalies at the Agent-Tool Boundary [0.0]
再試行、投機的実行、部分的な障害の下では、結果の外部状態はワークフローの意図した解決と矛盾する可能性がある。
高度なトランザクションモデルは関連する障害に対処するが、下位レベルの操作が依存するセマンティクスを公開すると仮定する。
本研究では,外界における事象をランタイムの観測から切り離すエフェクト・ヒストリー・モデルと,連続する8つの外部効果異常のカタログをコントリビュートする。
論文 参考訳（メタデータ） (2026-09-14T11:31:06Z) - One Gate Is Not Enough: Composing Stateful Pre-Action Controls for Agentic AI [0.0]
1つのコントロールが適用した修復は、他のコントロールが評価するアクション、エビデンス、コンテキストを変更し、そのコントロールの以前の判断を無効にすることができることを示す。
我々は、この結合を形式化し、現在の有界等質な設定において、アクションごとの音質を復元するremediate-and-regateプロトコルを提供する。
これは、生産の頻度に関する主張ではなく、合成メタデータ層によるオープンペイロードデータに対するメカニズム実証である。
論文 参考訳（メタデータ） (2026-08-18T22:24:44Z) - Beyond Memory: A Transactional Continuity Kernel for Long-Lived AI Agents [2.124730017640531]
永続的なAIエージェントは、長期にわたってバージョン管理された状態を蓄積するが、ストレージ保持だけは権限のある状態を識別しない。
エージェント状態ガバナンスはインフラ上のアクティベーションの問題であり、継続性は承認されたブランチヘッドの非破壊的で公認された系統であると定義する。
本稿では、原子状態活性化からオフコミット候補評価を分離するアクティベーション契約であるContinuity Kernel(CK)を提案する。
論文 参考訳（メタデータ） (2026-08-12T04:28:49Z) - Mnemosyne: Agentic Transaction Processing for Validating and Repairing AI-generated Workflows [0.764671395172401]
エージェントトランザクション処理は、宣言された実行可能な制約セットCの下で決定論的入力をパスするまで、生成されたアクションを信頼できない提案として扱う。
MnemosyneのATPは、追加のみのトランジションログ、有効状態のプロジェクション、依存性の安全な補償、アクティブなコミットレコードを備えたランタイムである。
再現可能なアーティファクトは、9つのファルシフィケーションテストを対象とする違反を拒絶し、有効な作業は6%以下のオーバーヘッドで認め、局所的な修復は、グローバルな再計算よりも桁違いに少ない操作を編集する。
論文 参考訳（メタデータ） (2026-06-30T23:33:16Z) - Governance Decay: How Context Compaction Silently Erases Safety Constraints in Long-Horizon LLM Agents [0.4855342112648282]
コンテクスト内ガバナンスの制約は、可視でありながら確実に従うことができ、コンパクト化によって静かに取り除くことができることを示す。
1,323話中、違反は全文脈で0%から圧縮後30%に増加する。
制約を緩和する訓練不要な緩和法である制約ピンニング(Constraint Pinning)を提案する。
論文 参考訳（メタデータ） (2026-06-21T14:30:20Z) - Adaptive state-action abstractions via rate-distortion [52.25810164390199]
強化学習は、複雑なタスクの単純なバージョンを構築するための複数のテクニックを提供する。
本稿では,抽象化自体によって引き起こされる誤りに匹敵する学習エラーが生じたら,抽象化を洗練させるという原理を提案する。
論文 参考訳（メタデータ） (2026-06-04T13:10:18Z) - ClawForge: Generating Executable Interactive Benchmarks for Command-Line Agents [59.626170560327274]
textbfClawForgeは、ステートコンフリクト下で実行可能なコマンドラインカテゴリのためのジェネレータベースのベンチマークフレームワークである。
私たちはこのフレームワークをClawForge-Bench(17のシナリオ、6の能力カテゴリ)としてインスタンス化します。
論文 参考訳（メタデータ） (2026-05-13T21:34:08Z) - Ghost in the Context: Measuring Policy-Carriage Failures in Decision-Time Assembly [0.0]
LLMエージェントは生のインタラクション履歴に作用せず、トランケーション、要約、並べ替え、書き換えによって組み立てられた境界決定状態に作用する。
本研究では, 局所的なLlama 3.1 8B, Qwen 2.5 7B, Mistral 7B上の障害モードについて, 正確な制約の尊重と, 組立状態の可視性の直接監査を用いて検討した。
論文 参考訳（メタデータ） (2026-05-02T18:07:42Z) - Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。
敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。
最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
論文 参考訳（メタデータ） (2026-04-14T06:48:33Z) - When Actions Go Off-Task: Detecting and Correcting Misaligned Actions in Computer-Use Agents [50.5814495434565]
この研究は、コンピュータ利用エージェント(CUA)における不整合検出を定義し、研究する最初の試みである。
実世界のCUAデプロイメントにおける3つの一般的なカテゴリを特定し、人間の注釈付きアクションレベルのアライメントラベルを用いたリアルな軌跡のベンチマークであるMisActBenchを構築した。
本稿では,実行前に不整合を検知し,構造化されたフィードバックによって繰り返し修正する,実用的で普遍的なガードレールであるDeActionを提案する。
論文 参考訳（メタデータ） (2026-02-09T18:41:15Z) - SABER: Small Actions, Big Errors -- Safeguarding Mutating Steps in LLM Agents [52.20768003832476]
我々は$$-Bench (Airline/Retail) および SWE-Bench Verified 上での実行トレースを分析する。
成功を失敗に戻すための、先進的な逸脱、最初期の行動、レベル分岐を形式化する。
モデルに依存しない,勾配のない,テスト時のセーフガードである cm を導入します。
論文 参考訳（メタデータ） (2025-11-26T01:28:22Z) - Relational Action Bases: Formalization, Effective Safety Verification,
and Invariants (Extended Version) [67.99023219822564]
我々はリレーショナルアクションベース(RAB)の一般的な枠組みを紹介する。
RABは両方の制限を解除することで既存のモデルを一般化する。
データ対応ビジネスプロセスのベンチマークにおいて、このアプローチの有効性を実証する。
論文 参考訳（メタデータ） (2022-08-12T17:03:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。