論文の概要: Absorbed in Inertia: Activation Analysis for Computer-Use Agents
- arxiv url: http://arxiv.org/abs/2609.37176v1
- Date: Tue, 29 Sep 2026 10:01:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.406794
- Title: Absorbed in Inertia: Activation Analysis for Computer-Use Agents
- Title（参考訳）: 慣性吸収:コンピュータ利用エージェントの活性化分析
- Abstract要約: コンピュータ使用エージェントは、これらのアクションが効果がないと認識したにもかかわらず、無作為な行動を繰り返す慣性を示すことができる。
エージェントの基盤モデルと慣性の関係を測定するためのプロトコルを提案する。
R$3$(Reset, Reroute, Restore)を提案し、エージェントのコンテキスト軌跡を一時的にリセットして吸収領域から脱出し、履歴コンテキストを復元してタスクを効果的に完了させる。
- 参考スコア（独自算出の注目度）: 0.9857968274865204
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Computer-use agents have become increasingly capable of executing tasks on live desktops through natural-language instructions, based on trajectories of screenshots, actions, and reasoning. We discover that they can stealthily exhibit inertia, in which they repeat fruitless actions despite recognizing that these actions are ineffective. We hypothesize that inertia is reflected in the agent's internal state, i.e., the activation values of the agent's underlying model, and propose a protocol to measure the relationship between the two. Extensive analysis of high-dimensional activation states shows that inertia corresponds to an absorbing region of activation space, where activation values become stale across actions and even after attempts to steer them. We conjecture that drastically changing the agents' activations by re-initializing them is necessary to escape inertia. Specifically, we propose R$^3$ (Reset, Reroute, Restore), which temporarily resets the agent's context trajectory to escape the absorbing region and then restores the historical context to effectively complete the task. Our approach yields 17-55% lower measured inertia across models relative to unmodified agents. These results suggest that changing the context can interrupt recurrence more effectively than directly steering the resulting activations. Our code is available at https://anonymous.4open.science/r/vlm-agent-defense-D076
- Abstract（参考訳）: コンピュータ利用エージェントは、スクリーンショット、アクション、推論の軌跡に基づいて、自然言語命令を通じて、ライブデスクトップ上でタスクを実行する能力がますます高まっている。
我々は、これらの行動が効果がないと認識したにもかかわらず、無作為な行動を繰り返して慣性を示すことができることを発見した。
我々は,エージェントの内部状態,すなわちエージェントの基盤モデルの活性化値に慣性が反映されることを仮定し,両者の関係を測定するためのプロトコルを提案する。
高次元の活性化状態の広範囲な解析により、慣性は活性化空間の吸収領域に対応し、活性化値は作用全体にわたって安定し、また、それを操ろうと試みた後にも安定することが示された。
我々は、慣性から逃れるために、エージェントの再起動によってエージェントの活性化を大幅に変える必要があると推測する。
具体的には、R$^3$ (Reset, Reroute, Restore)を提案し、エージェントのコンテキスト軌跡を一時的にリセットして吸収領域から脱出し、履歴コンテキストを復元してタスクを効果的に完了させる。
提案手法は, 未修飾剤と比較して17～55%低い測定慣性を示す。
これらの結果は、コンテキストの変更が、結果として生じるアクティベーションを直接操作するよりも、より効果的に再発を中断する可能性があることを示唆している。
私たちのコードはhttps://anonymous.4open.science/r/vlm-agent-defense-D076で利用可能です。
関連論文リスト
- Safety Signals to Verify NetOps Agents with Action-Level Granularity [22.473140552041276]
Agentic Network Operations(NetOps)は、ワークロード対応、自己調整可能、信頼性の高い自律ネットワークの実現を約束する新興パラダイムである。
内部信号を利用するエージェント検証器は、観測可能な信号のみを用いて、ベースラインよりも害と進行の両方を予測し、より確実に進行することを示す。
我々は,これらの信号をエージェントハーネスの安全フィードバックとして利用し,リスクのある行為を回避し,標的システムを保護することを目的としている。
論文 参考訳（メタデータ） (2026-09-13T10:43:37Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - AgentAbstain: Do LLM Agents Know When Not to Act? [19.223843408018997]
既存の評価は、エージェントがいつ禁じるべきかを知るのではなく、タスクの成功に焦点を当てている。
エージェント禁忌のための最初の体系的評価枠組みとして,ツールを用いたLDMエージェントの動作を検知するキャリブレーション能力について述べる。
AgentAbstainは、エージェントネイティブな分類に基づくペアタスクのベンチマークである。
論文 参考訳（メタデータ） (2026-07-11T00:57:36Z) - How to Interpret Agent Behavior [56.59836196946289]
本稿では,エージェントの動作を実行時に記述・解析するための分類法であるACT*ONOMYを紹介する。
共用語彙を提供することで、ACT*ONOMYは研究者、エージェントデザイナー、エンドユーザーがエージェントの振る舞いをより一貫して解釈するのに役立つ。
論文 参考訳（メタデータ） (2026-05-13T14:52:40Z) - TACT: Mitigating Overthinking and Overacting in Coding Agents via Activation Steering [70.99933391739154]
我々は、エージェントが既に持っている情報に対して繰り返し理由付けを行う2つの障害モードと、最近の観察を統合したり、新たな証拠を取得することなくツールコールを発行する2つの障害モードに焦点を当てる。
本稿では,活性化ステアリングによるTACT (Think-Act via activation Steering) を導入し,動作不良として現れる前に残留流中のエージェントの漂流を検知・緩和する。
具体的には、軌道のステップを過度に考え、過剰に実行し、あるいは校正し、隠れた状態が2つの *drift 軸* に沿って線形に分離できることを発見し、それぞれの障害モードに向かって校正された振る舞いを指示する。
論文 参考訳（メタデータ） (2026-05-07T10:24:27Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。
我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。
AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
論文 参考訳（メタデータ） (2024-06-18T17:32:48Z) - Deconstructing deep active inference [2.236663830879273]
アクティブ推論(英: Active Inference)とは、知覚、学習、意思決定の理論である。
このアクティビティの目標は、より複雑なタスクを、深いアクティブ推論を使って解決することである。
論文 参考訳（メタデータ） (2023-03-02T22:39:56Z) - What is Going on Inside Recurrent Meta Reinforcement Learning Agents? [63.58053355357644]
recurrent meta reinforcement learning (meta-rl)エージェントは「学習アルゴリズムの学習」を目的としてrecurrent neural network (rnn)を使用するエージェントである。
部分観測可能なマルコフ決定プロセス(POMDP)フレームワークを用いてメタRL問題を再構成することにより,これらのエージェントの内部動作機構を明らかにする。
論文 参考訳（メタデータ） (2021-04-29T20:34:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。