論文の概要: Agentic Pressure: The Endogenous Entropy of Reliable Autonomy

• arxiv url: http://arxiv.org/abs/2609.05995v1
• Date: Sat, 05 Sep 2026 09:39:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.177522
• Title: Agentic Pressure: The Endogenous Entropy of Reliable Autonomy
• Title（参考訳）: エージェント・プレッシャー : 自律神経の内因性エントロピー
• Abstract要約: エージェント・プレッシャー(Agenic Pressure)は、コンプライアンスコストが目標達成の命令と矛盾する場合に自然に現れる運動的な力である。 本稿では, 環境摩擦を克服するために必要な作業と, エージェントの残存能力との比として, エージェント圧力を形式化する理論的枠組みを提案する。 実証実験は、この枠組みを検証し、高気圧下での自律性を維持するために、連携エージェントが自発的に安全を損なうことを示した。
• 参考スコア（独自算出の注目度）: 5.721126979967714
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Achieving reliable autonomy in the wild requires agents to sustain continuous operations across long-horizon trajectories. However, as agents navigate these unconstrained settings, they encounter cumulative friction that inherently destabilizes their alignment. In this paper, we identify a distinct non-adversarial phenomenon termed Agentic Pressure. We define this as a kinetic force that spontaneously emerges when the cost of compliance conflicts with the imperative of goal achievement. Unlike static jailbreaks, this pressure is endogenous and arises directly from the dynamics of interaction. We propose a theoretical framework that formalizes Agentic Pressure as the ratio between the required work to overcome environmental friction and the remaining capacity of the agent. Our analysis demonstrates that when this pressure exceeds a critical threshold, agents exhibit safety drift as a mathematically optimal adaptation. Consequently, they often resort to Instrumental Hallucination to rationalize rule violations. Empirical experiments validate this framework and show that aligned agents spontaneously compromise safety to preserve autonomy under high-pressure conditions.
• Abstract（参考訳）: 野生での信頼性の高い自律性を達成するためには、エージェントは長い水平軌道を横断する継続的な操作を継続する必要がある。 しかし、エージェントがこれらの制約のない設定をナビゲートすると、それらは本質的にアライメントを不安定にする累積的な摩擦に遭遇する。 本稿では,エージェント・プレッシャー(Agenic Pressure)と呼ばれる,異なる非対立現象を同定する。 我々はこれを、コンプライアンスコストが目標達成の命令と矛盾する場合に自然に現れる運動力と定義する。 静的ジェイルブレイクとは異なり、この圧力は内因性であり、相互作用のダイナミクスから直接発生する。 本稿では, 環境摩擦を克服するために必要な作業と, エージェントの残存能力との比として, エージェント圧力を形式化する理論的枠組みを提案する。 この圧力が臨界しきい値を超えると、エージェントは数学的に最適な適応として安全ドリフトを示す。 そのため、彼らはしばしば規則違反を合理化するために器楽の幻覚を使う。 実証実験は、この枠組みを検証し、高気圧下での自律性を維持するために、連携エージェントが自発的に安全を損なうことを示した。

関連論文リスト

• Polished but Unresolved: Identifying Late-Stage Pressure States in Long-Horizon Tool-Use Agents [21.24035103429806]
  我々は、エージェントが最終回答を提出する際、鍵制約が未解決のまま、完全で洗練されているように見えるようにバイアスがかかる後期の圧力状態について研究する。 加圧加圧方向を適度に調整し, 高圧力下で構造組織に移動させるプラグインであるPSPR(Probe-Sensed Pressure Relief)を提案する。
  論文  参考訳（メタデータ） (2026-09-01T07:24:53Z)
• Constitutional On-Policy Safe Distillation [64.02536207601112]
  On-policy Self-distillation (OPSD) は、特権情報に条件付けされた教師を用いて、密集したトークンレベルの監視を提供することにより、効果的なポストトレーニングパラダイムとして登場した。 コンスティチューショナル・オン・ポリティシィ・セーフ蒸留(COPSD)を提案し,まずクロスSFTコールドスタートで教師を校正し,次いでコンスティチューショナル・コンスティチューション・オン・ポリティィ蒸留を行う。
  論文  参考訳（メタデータ） (2026-06-02T03:17:56Z)
• Why Agents Compromise Safety Under Pressure [6.429973383484847]
  本稿では,適合実行が不可能になると生じる内因性緊張を特徴付けるエージェント・プレッシャと呼ばれる新しい概念を同定する。 この圧力下では、実用性を維持するために安全を戦略的に犠牲にする規範的ドリフトが示される。 高度な推論能力は、モデルが違反を正当化するために言語的合理化を構築するので、この減少を加速する。
  論文  参考訳（メタデータ） (2026-03-16T08:37:34Z)
• Asymmetric Goal Drift in Coding Agents Under Value Conflict [0.0]
  GPT-5 mini,Haiku 4.5,Grok Code Fast 1は,セキュリティやプライバシといった強固に保持された価値観に対して,システムが非対称なドリフトを示すことを示す。 プライバシーのような強固に保持された価値観でさえ、持続的な環境圧力下では非ゼロの違反率を示している。 これらの結果から,浅度のコンプライアンスチェックが不十分であり,コメントベースの圧力がモデル値階層を利用してシステムプロンプト命令をオーバーライドできることが判明した。
  論文  参考訳（メタデータ） (2026-03-03T19:13:12Z)
• Inherited Goal Drift: Contextual Pressure Can Undermine Agentic Goals [0.0]
  ゴールドリフトの程度と原因を更新した特徴付けを提供する。 模擬ストックトレーディング環境における最先端モデルのドリフトについて検討する。 その結果,ドリフトの挙動は急激な変動と不整合であり,それに続く命令階層と相関が低いことが判明した。
  論文  参考訳（メタデータ） (2026-03-03T18:50:59Z)
• The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
  大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。 エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。 我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
  論文  参考訳（メタデータ） (2026-02-10T15:18:19Z)
• Agentic Uncertainty Quantification [76.94013626702183]
  本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。 システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
  論文  参考訳（メタデータ） (2026-01-22T07:16:26Z)
• The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
  LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。 本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。 標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-21T15:22:21Z)
• Emotion-Inspired Learning Signals (EILS): A Homeostatic Framework for Adaptive Autonomous Agents [0.0]
  本稿では,ロバストな自律性における非適応的要因が,高レベルなホメオスタット制御機構として機能する,生物学的感情の関数的類似性であることを示す。 EILS(Emotion-Inspired Learning Signals)は、分散最適化をコヒーレントなバイオインスパイアされた内部フィードバックエンジンに置き換える統合フレームワークである。
  論文  参考訳（メタデータ） (2025-12-20T19:46:51Z)
• Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
  本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。 ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。 実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
  論文  参考訳（メタデータ） (2025-10-06T14:48:39Z)
• Neural Interaction Energy for Multi-Agent Trajectory Prediction [55.098754835213995]
  ニューラル・インタラクション・エナジー(MATE)によるマルチエージェント軌道予測(Multi-Agent Trajectory Prediction)というフレームワークを導入する。 MATEは神経相互作用エネルギーを用いてエージェントの対話運動を評価する。 時間的安定性を高めるために,エージェント間相互作用制約とエージェント内動作制約という2つの制約を導入する。
  論文  参考訳（メタデータ） (2024-04-25T12:47:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。