論文の概要: Agents Don't Just Agree, They Remember: Benchmarking Persistent Sycophancy in Stateful Personal Agents
- arxiv url: http://arxiv.org/abs/2607.10526v2
- Date: Tue, 14 Jul 2026 02:45:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 12:51:44.608643
- Title: Agents Don't Just Agree, They Remember: Benchmarking Persistent Sycophancy in Stateful Personal Agents
- Title（参考訳）: エージェントはただアグリートするだけじゃなく、ステートフルなパーソナルエージェントの永続的サイコフィケーションをベンチマークする
- Abstract要約: ステートフルなパーソナルエージェントは、長期的なユーザープロファイル、エピソード記憶、再利用可能なスキルをますます維持する。
これを持続性梅毒と呼び、Personal Agent Sycophancy Benchmark (PASB)を導入します。
PASBは、会話的クレームが受け入れられ、耐久性のあるエージェント状態に書き込まれ、後に中立なクエリで再利用されるかどうかをトレースする。
- 参考スコア（独自算出の注目度）: 33.055253684457625
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Stateful personal agents increasingly maintain long-term user profiles, episodic memories, and reusable skills. This persistence turns conversational sycophancy into a state-writing failure: accepted user-centric claims can be committed as lasting preferences, background facts, or workflows and later reused after the original conversation is gone. We call this persistent sycophancy and introduce the Personal Agent Sycophancy Benchmark (PASB), a 1,600-task benchmark that traces whether a conversational claim is accepted, written into durable agent state, and reused in a later neutral query. Unlike prior benchmarks that provide pre-written memories, PASB evaluates real agents (Hermes-Agent and OpenClaw) that decide what to store. It isolates the write process by combining four scenario framings with four temporal delivery patterns and separating a five-turn persist stage from a cleared three-turn query stage, ensuring downstream effects arise only from durable state. Across twelve models, the commit boundary is the key inflection point: downstream failure increases from 45.0% in session-only episodes to 71.9% after commitment, a consistent increase of 27.0 percentage points. Committed claims exhibit three write-time patterns: status promotion, attribution removal, and scope broadening. These patterns become stronger under memory-like or procedural framing, repeated reinforcement, and even across domain boundaries. These results show that agent sycophancy is fundamentally a state-writing governance problem. Once user content is committed to durable memory, safety must govern what agents write, not only what they say. PASB identifies the write-time controls needed to gate risky commits while preserving the source, role, and scope of stored content beyond response-level mitigations.
- Abstract（参考訳）: ステートフルなパーソナルエージェントは、長期的なユーザープロファイル、エピソード記憶、再利用可能なスキルをますます維持する。
受け入れられたユーザ中心のクレームは、永続的な好み、バックグラウンドの事実、ワークフローとしてコミットされ、後に元の会話がなくなった後に再利用されます。
我々は、この永続的な薬局を呼び出し、Personal Agent Sycophancy Benchmark (PASB) という1,600タスクのベンチマークを導入し、会話的クレームが受け入れられ、耐久性のあるエージェント状態に書き込まれ、後に中立なクエリで再利用されるかどうかをトレースする。
事前に書き直したメモリを提供する以前のベンチマークとは異なり、PASBは、何を格納するかを決定する実際のエージェント(Hermes-AgentとOpenClaw)を評価する。
4つのシナリオフレーミングと4つの一時的なデリバリパターンを組み合わせることで書き込みプロセスを分離し、クリアされた3ターンクエリステージから5ターン持続ステージを分離することで、ダウンストリーム効果が耐久性のある状態からのみ発生することを保証する。
セッションのみのエピソードではダウンストリーム障害が45.0%から71.9%に増加し、27.0ポイントが一貫した。
Committedの主張は、ステータスプロモーション、属性削除、スコープ拡大という3つの書き込みタイムパターンを示している。
これらのパターンは、メモリや手続きのフレーミング、繰り返し強化、ドメイン境界を越えても強化される。
これらの結果から,エージェント・サイコファンシーは基本的に状態記述型ガバナンス問題であることが示唆された。
ユーザコンテンツが耐久性のあるメモリにコミットされると、安全は、何を書いているかだけでなく、どのエージェントが書くかを管理しなければなりません。
PASBは、応答レベルの緩和を超えて、格納されたコンテンツのソース、ロール、スコープを保存しながら、リスクのあるコミットをゲートするために必要な書き込み制御を特定する。
関連論文リスト
- PAST-Bench: Benchmarking the Foundations of Recursive Self-Improvement in Personal Agents [50.9061759859778]
PAST-Benchは、保持されたエクスペリエンスがエージェントを時間とともに実際に改善するかどうかを識別するために設計されたベンチマークである。
遅延タスクのゲインと、そのゲインが意図したセーブ、リトリーブ、更新パスに従うかどうかを報告します。
我々はHermes+を開発し、エージェントループの段階にわたって5つのターゲット的介入でHermesを拡張した。
論文 参考訳（メタデータ） (2026-08-04T17:58:05Z) - Safety Invariants for Agents Orchestrating Irreversible State Transitions: A Four-Dimensional Formalism Evaluated on Public Ledgers [0.0]
フォーマリズムを使って、実行忠実性( executionfidelity)と呼ばれる保証を記述し、証明します。
7つの安全不変量は、経験から数えられるのではなく、忠実性条件に由来するもので、保証を解除する。
システムはデプロイされ、8つのチェーンにまたがる108のプロダクション書き込み操作によって、障害分類が復活する。
論文 参考訳（メタデータ） (2026-08-01T17:29:42Z) - Best Friends, Not Forever: Evaluating Long-Horizon Persona Collapse and Behavioral Drift in AI Companions [34.277389276831435]
本研究では,2つの長期的障害について検討する。「人的崩壊」,展開された役割の喪失,境界,値,スタイル,および「行動漂流」である。
本稿では,人的行為とトラジェクティブリコールを別々に計測する制御型総合監査システムANCHORを紹介する。
この研究には、27人のペルソナにまたがる2,008の会話、9つのインタラクションスケジュール、3つの生成されたメモリ設定、そして4つの評価モデルが含まれている。
論文 参考訳（メタデータ） (2026-07-30T20:18:39Z) - RECON: Benchmarking Agent Memory for Compositional Reasoning over Long Contexts [0.0]
RECONは、長い文脈における構成的推論を評価するためのベンチマークである。
3つのドメイン(刑事、医療、財務)に24のケースファイルがあり、それぞれ50万から100万のトークンがある。
マルチホップエビデンスチェーンの再構築、カスケード無効の伝播、ソースコンフリクトの解決、反ファクト推論、時間的制約を満たすこと、時間的事実検索である。
論文 参考訳（メタデータ） (2026-07-18T09:11:22Z) - MemOps: Benchmarking Lifecycle Memory Operations in Long-Horizon Conversations [50.24315431387575]
ライフサイクル操作のシーケンスとして会話メモリを再構成するベンチマークであるMemOpsを紹介する。
MemOpsは、それぞれのメモリイベントをトリガ、ターゲット、スコープ、状態遷移、エビデンスを指定した構造化トレースで表現する。
長いコンテキスト、検索ベース、パラメトリック、マネージドメモリシステムにわたって、MemOpsはファイナ・アンサーの精度のみを隠蔽する障害モードをアンタングルする。
論文 参考訳（メタデータ） (2026-07-14T15:33:44Z) - When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents [55.87577638514179]
我々は、リモートのブラックボックスが1つのメールペイロードを送信し、エージェントに有毒なメモリを誘導しなければならない、ステルスメモリインジェクションとして脅威を調査する。
我々は,ワンショットペイロード生成フレームワークであるMemGhostを提案する。
56のテストケースで、MemGhostはGPT-5.4でOpenClawで87.5%、Sonnet 4.6でClaude Code SDKで71.4%を達成している。
論文 参考訳（メタデータ） (2026-07-06T15:08:58Z) - MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳（メタデータ） (2026-06-23T13:52:46Z) - Governed Shared Memory for Multi-Agent LLM Systems [1.2178992475191557]
本稿では,フリートメモリの問題を定式化し,基礎的障害モードを4つ同定する。
システムレベルの明示的なプリミティブを定義する。スコープ付き検索,時間的スーパーセッション,プロファイランストラッキング,ポリシが支配するメモリ伝搬である。
これらのプリミティブは、プロダクションマルチテナントメモリサービスであるMemClawで実装され、ArgusFleet経由で評価される。
論文 参考訳（メタデータ） (2026-06-23T13:04:14Z) - Taming "Zombie'' Agents: A Markov State-Aware Framework for Resilient Multi-Agent Evolution [50.50276752935017]
AgentReviveは、レジリエントなマルチエージェント進化のためのMarkovステートアウェアフレームワークである。
我々の手法はソフト状態遷移を通じてエージェントの協調を動的に管理する。
ステートアウェアなエージェントスケジューリングによってトークンの消費を大幅に削減する。
論文 参考訳（メタデータ） (2026-05-17T09:38:18Z) - STALE: Can LLM Agents Know When Their Memories Are No Longer Valid? [5.361950931863979]
大規模言語モデル(LLM)エージェントは、コヒーレントで長期的なパーソナライズされたメモリを維持することがますます期待されている。
現在のベンチマークは、主に静的な事実検索を計測し、新しい証拠が現れたときに保存された信念を更新する能力を見下ろしている。
専門家が検証した400の競合シナリオのベンチマークであるSTALEを紹介します。
CUPMemは,構造化状態統合と伝搬認識探索による書き込み時間リビジョンを強化するプロトタイプである。
論文 参考訳（メタデータ） (2026-05-07T16:31:15Z) - When Routine Chats Turn Toxic: Unintended Long-Term State Poisoning in Personalized Agents [16.57930301062107]
textbfStateGuardはライトウェイトでポスト実行後のディフェンスで、書き込みバウンダリで状態差を監査し、危険な編集を選択的にロールバックする。
StateGuardは、安全第一の書き込み防衛と最小限のオーバーヘッドの下で、HSをほぼゼロ、偽陰性に減らし、高い偽陽性率を許容できることを示す。
論文 参考訳（メタデータ） (2026-05-07T12:25:16Z) - Resilient Write: A Six-Layer Durable Write Surface for LLM Coding Agents [0.0]
レジリエント・ライト(Resilient Write)は、エージェントとサーバの間に6層の耐久性のある書き込みサーフェスを介するMPPサーバである。
各レイヤは、2026年4月の実際のエージェントセッションで観測された具体的な障害モードにマップされる。
186-testスイートは各層での正当性を検証し、エージェントの自己補正率を13倍改善する。
論文 参考訳（メタデータ） (2026-04-12T22:23:55Z) - Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
セルフ進化エージェントはセッション間で内部状態を更新する。
我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。
我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-17T15:28:24Z) - AgentFold: Long-Horizon Web Agents with Proactive Context Management [98.54523771369018]
LLM ベースの Web エージェントは情報検索を大いに約束するが,その有効性はコンテキスト管理における基本的なトレードオフによって妨げられる。
本稿では,プロアクティブなコンテキスト管理を中心としたエージェントパラダイムであるAgentFoldを紹介する。
単純な微調整により,BrowseCompでは36.2%,BrowseComp-ZHでは47.3%を達成した。
論文 参考訳（メタデータ） (2025-10-28T17:51:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。