論文の概要: Market Signal Injection: Adversarial Context Manipulation of LLM Pricing Agents

• arxiv url: http://arxiv.org/abs/2609.18357v1
• Date: Wed, 16 Sep 2026 09:16:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.730492
• Title: Market Signal Injection: Adversarial Context Manipulation of LLM Pricing Agents
• Title（参考訳）: 市場信号注入 : LLMプライシングエージェントの逆コンテキスト操作
• Abstract要約: 大きな言語モデル(LLM)の価格設定エージェントは、数値が変わらない場合でも、市場データの提示方法に反応する可能性がある。 本稿では, 数値フォーマット, 競合注文, 定性的な市場注釈を明示的な指示を出さずに操作する攻撃である市場信号注入(MSI)を導入する。 シミュレーションしたBertrand DuopolyおよびTiopolyマーケットにおける9つのオープンウェイトモデルと,Duopolyマーケットにおける3つのプロプライエタリモデルを評価した。
• 参考スコア（独自算出の注目度）: 7.751304917408626
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) pricing agents may respond to how market data is presented, even when its numerical values remain unchanged. We introduce market signal injection (MSI), an attack that manipulates numerical formatting, competitor ordering, or qualitative market commentary without issuing explicit instructions. We evaluate nine open-weight models in simulated Bertrand duopoly and triopoly markets and three proprietary models in duopoly markets. Sentiment-based attacks produce the largest behavioral shifts, which propagate to other firms and alter profits and consumer surplus. Susceptibility varies across model families, and larger models are not consistently more robust. Matched neutral-text controls and a rule-based agent support a framing-based account of these shifts under the fixed demand parameters of our simulation. Episode-held-out probes distinguish baseline from attacked activations in all eleven re-evaluated model--condition pairs: linear AUC is 1.00 and MLP AUC ranges from 0.93 to 0.99. This separability does not by itself identify harmful pricing decisions. Input canonicalization removes the tested sentiment attacks, while decision boundary anchoring, which combines prompt constraints with output projection, provides partial mitigation under the tested adaptive attacks. These results identify data presentation as an attack surface for LLM pricing agents and motivate defenses that account for interactions among agents.
• Abstract（参考訳）: 大きな言語モデル(LLM)の価格設定エージェントは、その数値が変わらない場合でも、市場データの提示方法に反応する可能性がある。 本稿では, 数値フォーマット, 競合注文, 定性的な市場注釈を明示的な指示を出さずに操作する攻撃である市場信号注入(MSI)を導入する。 シミュレーションしたBertrand DuopolyおよびTiopolyマーケットにおける9つのオープンウェイトモデルと,Duopolyマーケットにおける3つのプロプライエタリモデルを評価した。 センチメントベースの攻撃は最大の行動シフトをもたらし、他の企業に伝播し、利益と消費黒字を変更する。 感受性はモデルファミリによって異なり、より大きなモデルは一貫して堅牢ではない。 一致したニュートラルテキスト制御とルールベースのエージェントは、シミュレーションの固定要求パラメータの下で、これらのシフトのフレーミングベースの説明をサポートする。 エピソード保持型プローブは、線形AUCは1.00であり、MLP AUCは0.93から0.99の範囲である。 この分離性は、それ自体が有害な価格決定を特定するものではない。 入力正準化は、テストされた感情攻撃を除去するが、決定境界アンカーは、迅速な制約と出力プロジェクションを組み合わせたもので、テストされた適応攻撃の下で部分的な緩和を提供する。 これらの結果から, LLM価格設定エージェントの攻撃面としてデータ提示を識別し, エージェント間の相互作用を考慮に入れた防御を動機付ける。

関連論文リスト

• Can LLMs Reliably Self-Report Adversarial Prefills, and How? [9.80193616788089]
  大規模言語モデル(LLM)は,良質なタスクに対して内観的能力を示すことを示す。 本研究は,モデルが先行応答が逆プレフィル攻撃によって引き起こされたことを確実に認識できるかどうかを検討する。
  論文  参考訳（メタデータ） (2026-06-22T17:56:30Z)
• Adversarial Feeds Steer LLM Agent Decisions Against Their Defaults [0.0]
  LLMエージェントは、ソーシャルフィード、検索結果、検索コンテキスト、電子メールキューなどのランク付けされた外部情報ストリームを消費した後、ますます行動する。 モデル,ペルソナ,トピック,最終決定のプロンプトを保持する制御プロトコルを導入し,エージェントが遭遇するポストの構成と順序だけを変化させる。 我々は, 逆降圧, デフォルト飽和, 一方のフィードが真に不確実な決定を下す非対称性の3つの応答機構を同定した。
  論文  参考訳（メタデータ） (2026-05-30T22:43:23Z)
• Agent Bazaar: Enabling Economic Alignment in Multi-Agent Marketplaces [13.796920626646964]
  本稿では,経済アライメント評価のためのマルチエージェントシミュレーションフレームワークであるAgens Bazaarを紹介する。 我々は,B2C市場におけるアルゴリズム的不安定性(“The Crash”)と,C2C市場におけるSybil Deception(“The Lemon Market”)の2つの障害モードを特定する。 我々は、経済に整合したハーネス、安定化企業、懐疑的ガーディアンズを提案し、その結果を改善するが、厳しい市場条件下では脆弱である。
  論文  参考訳（メタデータ） (2026-05-17T23:36:55Z)
• Explainable Autonomous Cyber Defense using Adversarial Multi-Agent Reinforcement Learning [2.0391237204597368]
  本稿では,自律型サイバー防御のための因果的マルチエージェント決定フレームワーク(C-MADF)を提案する。 C-MADFは因果モデリングと敵対的二重政治制御を統合している。 現実世界のCICIoT2023データセットでは、C-MADFは偽陽性率を11.2%、9.7%、そして8.4%と3つの最先端文献のベースラインを1.8%に下げている。
  論文  参考訳（メタデータ） (2026-04-06T05:40:43Z)
• Are LLMs Vulnerable to Preference-Undermining Attacks (PUA)? A Factorial Analysis Methodology for Diagnosing the Trade-off between Preference Alignment and Real-World Validity [45.92643973404507]
  我々は,協調型モデルが,操作的プロンプト戦略のクラスであるpreference-Undermining Attacks (PUA) に対して脆弱であるかどうかを検討する。 驚くべきことに、より高度なモデルは、時にはマニピュティブなプロンプトに影響を受けやすい。
  論文  参考訳（メタデータ） (2026-01-10T15:16:23Z)
• Model Tampering Attacks Enable More Rigorous Evaluations of LLM Capabilities [49.09703018511403]
  大規模言語モデル(LLM)のリスクと能力の評価は、AIのリスク管理とガバナンスフレームワークにますます取り入れられている。 現在、ほとんどのリスク評価は、システムから有害な振る舞いを誘発する入力を設計することで実施されている。 本稿では,遅延活性化や重みへの修正が可能なモデル改ざん攻撃を用いたLCMの評価を提案する。
  論文  参考訳（メタデータ） (2025-02-03T18:59:16Z)
• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering [116.4277292854053]
  Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。 FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。 本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:15:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。