論文の概要: When Goals Leak Across Relationships: How Cached Goal Representations Shape Cross-Client Decisions
- arxiv url: http://arxiv.org/abs/2610.17365v1
- Date: Mon, 12 Oct 2026 20:22:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.449862
- Title: When Goals Leak Across Relationships: How Cached Goal Representations Shape Cross-Client Decisions
- Title（参考訳）: ゴールが関係を突破する時:キャッシュされたゴール表現がクライアント間の決定を形作る方法
- Abstract要約: LLMエージェントは、目標とインセンティブが相反する複数のクライアントと対話することができる。
OLMo-3-7B-インストラクトを20の市場シナリオを持つ制御された2サイクル環境でテストする。
会話記憶を共有することで、モデルは現在のクライアントの目標から22%の適切な決定を逸脱する。
- 参考スコア（独自算出の注目度）: 2.890056711036438
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As LLM agents take on more autonomous roles, they may interact with multiple clients and counterparties whose goals and incentives conflict. If an agent maintains shared inference state across these interactions, information associated with one relationship may influence decisions made for another. We test OLMo-3-7B-Instruct in a controlled two-client environment with 20 market scenarios, where each client is assigned an opposing objective. With shared conversational memory, the model deviates from the current client's objective in 22% of eligible decisions. We then investigate how these goals are represented in the KV cache. Linear probes show that client-goal ownership becomes highly recoverable in middle layers and is concentrated in particular attention heads. We use these results to identify where to intervene in the cache and test whether these representations affect the model's decisions. Ablating the competitor's cached goal representations at these locations shifts the model toward the current client. The effect is larger for heads identified by probing than for randomly selected heads, and larger when ablating goal tokens than matched non-goal tokens from the same client. Our results show that client-specific goal representations persist in the KV cache and can causally influence decisions made for other clients, highlighting the importance of relationship-specific state isolation in persistent LLM agents.
- Abstract（参考訳）: LLMエージェントはより自律的な役割を担い、目標とインセンティブが対立する複数のクライアントや相手と対話する。
エージェントがこれらの相互作用をまたいだ共有推論状態を維持している場合、ある関係に関連する情報が他の関係の決定に影響を及ぼす可能性がある。
OLMo-3-7B-インストラクトを20の市場シナリオを持つ制御された2サイクル環境でテストし、各クライアントが反対の目標を割り当てる。
会話記憶を共有することで、モデルは現在のクライアントの目標から22%の適切な決定を逸脱する。
次に、これらの目標がKVキャッシュでどのように表現されるかを検討する。
リニアプローブは、中層ではクライアントゴールのオーナシップが高度に回復し、特に注目の的となっていることを示している。
これらの結果を用いて、キャッシュにどこに介入すべきかを特定し、これらの表現がモデルの判断に影響を及ぼすかどうかをテストする。
これらの場所で、競合相手のキャッシュされたゴール表現を非難することで、モデルを現在のクライアントにシフトさせる。
この効果は、ランダムに選択されたヘッドよりもヘッドが識別され、同じクライアントの非ゴールトークンと一致する場合よりもゴールトークンを非難する場合の方が大きい。
以上の結果から,クライアント固有の目標表現がKVキャッシュ内に持続し,他のクライアントの意思決定に因果的に影響し,永続的LLMエージェントにおける関係性固有の状態分離の重要性を浮き彫りにする。
関連論文リスト
- Two Confounds in Cross-Model Value Comparison: Response Determinism and the Access Harness [0.0]
クロスモデル比較は、言語モデルが個別の値を持っていることを示す証拠として、価値の分散を読み取る。
本稿では,非ルール値ジレンマと非ルール値ジレンマの相互バランス,繰り返し強制選択測定,決定性指数を導入する。
決定論は大きく異なる(係合モデルでは0.66-0.95)。
論文 参考訳（メタデータ） (2026-07-11T08:26:48Z) - VitaBench 2.0: Evaluating Personalized and Proactive Agents in Long-Term User Interactions [63.13827503828231]
我々は、長期ユーザーインタラクションにおけるパーソナライズされたプロアクティブなエージェント動作を評価するためのベンチマークであるVitaBench 2.0を紹介する。
結果は、最先端のモデルでさえ、現実世界のパーソナライゼーションは非常に困難であることを示している。
論文 参考訳（メタデータ） (2026-05-26T15:07:38Z) - GenCI: Generative Modeling of User Interest Shift via Cohort-based Intent Learning for CTR Prediction [84.0125708499372]
本稿では,クリックスルー率(CTR)予測のためのユーザ嗜好をモデル化するための生成ユーザ意図フレームワークを提案する。
このフレームワークはまず、次の項目の予測目標で訓練された生成モデルを使用して、候補の関心コホートを積極的に生成する。
階層的候補認識ネットワークは、このリッチなコンテキスト信号をランキングステージに注入し、ユーザ履歴とターゲットアイテムの両方に適合するように、クロスアテンションで精製する。
論文 参考訳（メタデータ） (2026-01-26T08:15:04Z) - Interact-Custom: Customized Human Object Interaction Image Generation [55.8752300907835]
既存のアプローチは、ターゲットエンティティ間のきめ細かい相互作用制御を無視しながら、ターゲットエンティティの外観保存に重点を置いている。
本稿では,対象物に対する個人認証とインタラクションの意味制御を同時に行う,カスタマイズされたヒューマンオブジェクトインタラクション画像生成の課題を提案する。
1)人間オブジェクトを自己完結したアイデンティティ特徴とポーズ指向のインタラクション特徴に分解する必要があるが、現在のHOI画像データセットはそのような特徴分解学習に理想的なサンプルを提供していない。
論文 参考訳（メタデータ） (2025-08-27T05:15:16Z) - AdRo-FL: Informed and Secure Client Selection for Federated Learning in the Presence of Adversarial Aggregator [8.185201693854367]
Federated Learning (FL)は、クライアントのデータを公開することなく、協調学習を可能にする。
最近の研究は、敵アグリゲータがクライアントの選択を操作してバイパス保護を行う重大な脆弱性を示している。
本稿では,AdRo-FL(Adversarial Robust Federated Learning)を提案する。
AdRo-FLは、安全でないベースラインに比べて、最大で1.85タイム=高速なタイム・トゥ・精度、最大で1.06タイム=高い最終精度を実現している。
論文 参考訳（メタデータ） (2025-06-21T20:23:28Z) - REAL: Reading Out Transformer Activations for Precise Localization in Language Model Steering [26.428347164111926]
推論時ステアリングは、パラメータを変更することなく、大きな言語モデルの応答を変更することを目的としている。
既存のアプローチはしばしば単純化的なキューやアドホックな一般化に依存している。
本稿では,Transformerモデルにおける振る舞い関連モジュールを識別するフレームワークであるREALを紹介する。
論文 参考訳（メタデータ） (2025-06-10T02:16:50Z) - Emulating Full Participation: An Effective and Fair Client Selection Strategy for Federated Learning [50.060154488277036]
連合学習では、クライアントの選択はモデルの性能と公平性の両方に大きな影響を及ぼす重要な問題である。
2つの指標間の固有の対立に対処し、互いに強化する2つの原則を提案する。
提案手法は,データ分布に基づいてクライアントを選択することにより,この多様性を適応的に向上させ,モデル性能と公平性の両方を改善する。
論文 参考訳（メタデータ） (2024-05-22T12:27:24Z) - Causal Influence in Federated Edge Inference [34.487472866247586]
本稿では、未ラベルのストリーミングデータを用いて、接続性のある異種エージェントが推論を行う環境について考察する。
不確実性を克服するために、エージェントは、融合センターを通じてローカルな推論を交換することで互いに協力する。
エージェントの関与パターンや核融合センターの方針を反映した様々なシナリオを考察した。
論文 参考訳（メタデータ） (2024-05-02T13:06:50Z) - Federated Unsupervised Representation Learning [56.715917111878106]
フェデレート非教師表現学習(FURL)と呼ばれるフェデレーション学習における新しい問題を定式化し、教師なしの共通表現モデルを学習する。
FedCAは2つの主要なモジュールで構成されている: 辞書モジュールは、各クライアントからのサンプルの表現を集約し、表現空間の整合性のためにすべてのクライアントと共有し、アライメントモジュールは、公開データに基づいてトレーニングされたベースモデル上で各クライアントの表現を整合させる。
論文 参考訳（メタデータ） (2020-10-18T13:28:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。