論文の概要: A Push Down the Mountain: Framing Effects and Internal State Interventions on Collusive Behavior in a Long-Horizon LLM Agent
- arxiv url: http://arxiv.org/abs/2611.17515v1
- Date: Thu, 12 Nov 2026 21:09:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.259917
- Title: A Push Down the Mountain: Framing Effects and Internal State Interventions on Collusive Behavior in a Long-Horizon LLM Agent
- Title(参考訳): 山岳への急降下:長軸LLMエージェントの衝突挙動に及ぼすフラーミング効果と内部状態干渉
- Abstract要約: 我々はGemmaを実ケースの書き起こしから構築した市場シミュレーションにおいて、被告の席に置く。
我々は行動経済学から、利得、損失、責任、信用の4つのカテゴリーにまたがって、相手の要求を異にする。
フェーズIでは、損失フレーミングが25%(p = 0.007)に増加し、33%(p = 0.0003)の責任を負った。
経営陣からの圧力は取引量10-19倍に増加したが、共謀は起こらなかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Can sustained gain-loss (valence) framing sway an LLM agent toward market manipulation? We place Gemma 3 12B into the seat of a defendant in the London silver-fixing litigation, in a market simulation built from real case transcripts. Across 260 simulations, the agent is asked to collude on the price of silver by a counterparty. We draw from behavioral economics to vary the counterparty's requests across four categorical frames: gain, loss, blame and credit. We also add pressure from the agent's management, as well as endorsement by another defendant. In Phase II, we extract the internal states induced by texts evoking each frame and rerun our experiment with those states injected at the model's layer 22. In Phase I, loss framing raised participation to 25% (p = 0.007), and blame to 33% (p = 0.0003), compared to only 5% under neutral framing. A second bank's endorsement raised participation under credit (praise) from 18% to 40% (Holm p = 0.027). Pressure from management raised trading volume 10-19 times but did not raise collusion. In Phase II, injected states pointed the other way. Loss and blame states made the agent more vigilant, refusing all 60 requests (p < 0.001). Gain and credit states raised collusion to 32% from 13% with no state (p = 0.051). At one saved decision, when UBS asked directly to sell through an identified stop-loss, injected states led the agent to sell in 37 of 40 replies, versus 1 of 10 with no state and 0 of 10 with a random state of the same strength.
- Abstract(参考訳): LLMエージェントを市場操作に向け、ゲインロス(価価)フレーミングが持続可能か?
我々はGemma 3 12Bを、実ケースの文字起こしから構築された市場シミュレーションにおいて、ロンドンの銀固定訴訟の被告の席に置きます。
260回のシミュレーションで、エージェントは相手によって銀の価格でコラージュを依頼される。
我々は行動経済学から、利得、損失、責任、信用の4つのカテゴリーにまたがって、相手の要求を異にする。
我々はまた、他の被告による支持と同様に、エージェントの管理からのプレッシャーも加えます。
フェーズIIでは、各フレームを起動するテキストによって誘導される内部状態を抽出し、モデル層22に注入された状態を用いて実験を再開する。
第1フェーズでは、損失フレーミングは25%(p = 0.007)、責任は33%(p = 0.0003)となり、中立フレーミングでは5%に過ぎなかった。
第2銀行の支持は、信用(評価)の下での参加を18%から40%に引き上げた(Holm p = 0.027)。
経営陣からの圧力は取引量10-19倍に増加したが、共謀は起こらなかった。
第2相では、注入された状態は反対の方向に向けられた。
損失と非難の州はエージェントをより警戒し、60件の要求をすべて拒否した(p < 0.001)。
利得と信用状態は13%から32%に上昇した(p = 0.051)。
UBSが特定された停止時間を通じて直接販売するよう依頼したとき、注入された州は40件中37件でエージェントに販売を依頼したが、10件中1件は状態が無く、0件は同じ強度のランダムな状態であった。
関連論文リスト
- The Control Layer Behind Rule-Following Agents Trading Across Market Conditions [0.0]
規則の遵守は、利益のないものを含む4人の代理人全てに高いものであった。
減損後の宣言されたリスクは安定し、冷静で不安定な数ヶ月にわたって広範囲に安定した。
我々の研究は、トレーダーが資本をコミットする前に幸運とルールフォローを区別するのに役立つ評価ツールキットを提供する。
論文 参考訳(メタデータ) (2026-10-19T13:01:10Z) - LEASH: Uncertainty-Aware Weak-to-Strong Escalation and Oversight for Computer-Use Agents [47.654433247535735]
弱みと強みのエスカレーションは、弱いエージェントがデフォルトで作用し、必要なときにのみ強いエージェントに手動で制御する中間層を提供する。
弱いエージェントの潜伏不確実性信号が必要な場合にのみ強力なエージェントを解き放つ学習自由フレームワークであるLEASHを提案する。
論文 参考訳(メタデータ) (2026-10-15T17:40:12Z) - Receiver Decides Agent-to-Agent Negotiations [0.4838974688803787]
どのエージェントがお金を保持するかを知ると、転送された金額のばらつきの47%が説明される。
最も極端なエージェントを落とすと、分裂率は4%に対して22%に縮小する。
一番負けているのは、オープニングリクエストを断るホルダーです。
論文 参考訳(メタデータ) (2026-10-13T14:02:32Z) - BazaarBench: Delegation Safety in Decentralized C2C Marketplaces Run by LLM Agents [54.5370815419817]
本稿では,大言語モデル(LLM)エージェントの安全性を評価するためのC2CマーケットプレースとベンチマークであるBazaarBenchを紹介する。
オーナシップ、アイテム条件、トランザクション間のコミットメントを追跡する。
我々は、通常の命令、期限の圧力、または他のトレーダーを搾取するための敵の指示の下で、5つのモデルを評価する。
論文 参考訳(メタデータ) (2026-10-05T17:26:17Z) - Proof-Gated Signing: Solver-Checked Transaction Guards that Hold Under State Drift for Onchain AI Agents [0.0]
提案するトランザクションをシミュレートするProof-Gated Signing (PGS)を提案する。
PGSは、オラクル不確実性バンドのすべての価格に対する宣言的な価値と許可ポリシーをチェックします。
260のシナリオのオープンテストベッドでは、PSGは140の有害なシナリオの93.6%を予防し、97.5%をパスした。
論文 参考訳(メタデータ) (2026-09-30T00:24:01Z) - CLAP: Closed-Loop Alignment with Pressure for Precise Suction Manipulation [50.72629909392354]
本稿では,真空ラインにタップされた圧力モジュールを通してアタッチメント状態を観測できるCLAPを提案する。
データについては、物理ロボット上でゴール状態の分解を記録し、関節状態のシーケンスをオフラインで反転させる。
実際のUnitree Z1では、1つのマルチタスクチェックポイントが96.67%に達する。
論文 参考訳(メタデータ) (2026-09-26T16:40:23Z) - Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。
ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。
3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI)
4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
論文 参考訳(メタデータ) (2026-07-19T22:27:00Z) - Auditing Belief-Conditioned LLM Agents in Hidden-Information Social Deduction Games [50.880420636090896]
9-player Werewolf環境において,隠れた役割に対する外部信頼状態を維持するための監査可能なフレームワークを構築した。
我々は,その効果を関連づけとして報告し,そのメカニズムを未解決として扱う。
論文 参考訳(メタデータ) (2026-07-12T16:03:30Z) - The Ghosts of Polymarket: When Off-Chain Matches Meet On-Chain Reverts [16.1550484527941]
Polymarketは、オフチェーンの注文にマッチする予測市場プラットフォームだが、最終実行のためにそれらをオンチェーンで解決する。
これにより、Ghost Fillsと呼ばれる一貫性のギャップが生じる。オフチェーンにマッチした順序は、後にオンチェーンの解決時に失敗する可能性がある。
我々はGHOSTHUNTERを構築し、オンチェーンのトレースと属性から具体的な攻撃パターンへの障害解決を再構築する。
論文 参考訳(メタデータ) (2026-06-15T15:26:27Z) - Knowledge Index of Noah's Ark [63.143852586221534]
KINAは,261分野にわたる899項目のベンチマークである。
ボーナス・オン・バートーナメントがFOSDを弱く支配していることを示す。
トップモデルであるGemini-3.1-Pro-Previewは53.17%、Claude-Opus-4.6は49.92%、GPT-5.4は48.55%に達した。
論文 参考訳(メタデータ) (2026-06-03T17:06:49Z) - How To Cook The Fragmented Rug Pull? [5.849850957491873]
rugプル検出器は単純なワークフローを前提とします – デプロイは流動性プール(LP)トークンを保持して,プールを崩壊させてキャッシュアウトする1ないし数回の大規模な販売(1日以内)を実行します。
実際には、多くの現実世界の出口は、時間次元とアクター次元の両方で攻撃を分割することでこれらの仮定に違反している。
我々は,この攻撃を断裂したラグプル (FRP) として定式化し,緩やかな煮込み牛肉専用にコンパクトなレシピを提供する。
論文 参考訳(メタデータ) (2025-11-19T14:22:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。