論文の概要: Fake News, Real Crashes: Information Injection Attacks on LLM Financial Trading Agents

• arxiv url: http://arxiv.org/abs/2610.26438v1
• Date: Mon, 19 Oct 2026 13:58:50 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:14:21.647758
• Title: Fake News, Real Crashes: Information Injection Attacks on LLM Financial Trading Agents
• Title（参考訳）: Fake News, Real Crashes: LLMファイナンシャル・トレーディング・エージェントのインフォメーション・インジェクション・アタック
• Abstract要約: 大規模言語モデル(LLM)エージェントは、現在、ニュースを証拠として実際の資本を取引している。 LLM取引エージェントに対する情報注入のための系統的攻撃ベンチマークを提案する。
• 参考スコア（独自算出の注目度）: 4.960728685452451
• License:
• Abstract: Large language model (LLM) agents now trade real capital using news as evidence, yet they cannot reliably tell fabricated headlines from real news. Because they read the same feeds under near-identical policies, a single fabricated post can push them into the same trade at the same moment. We present a systematic attack benchmark for information injection against LLM trading agents. Unlike prompt injection, which targets the model's instructions, information injection targets the evidence the agent trusts. The benchmark spans five injection vectors and seven event categories, evaluated over ~10,000 decisions on 15 U.S. stocks. Five findings emerge. (i) Prompt injection achieves 14% attack success rate (ASR), but fabricated news reaches 62% and two 30-word templates reach 100% on all 15 stocks, inverting the usual LLM-security intuition. (ii) For fact-poisoning templates, surface form matters more than content, since removing credibility cues such as a named source or a "BREAKING" tag drops ASR from 100% to 0% while the fake claim remains identical. (iii) Success depends on the agent's state, with a fake indicator panel scoring 91% against an agent about to hold but 12% against one about to buy. (iv) Attacks generalize across model vendors and remain effective when blended, unlabeled, into real news feeds. (v) Most attacks evade standard defenses, since model scaling stops shallow vectors but not fact poisoning, peer debate fails, and only hierarchical aggregation reduces ASR.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、現在、ニュースを証拠として実際の資本を取引している。 同一のフィードをほぼ同一のポリシーで読むため、一つの偽造記事が同時に同じ取引に押し込むことができる。 LLM取引エージェントに対する情報注入のための系統的攻撃ベンチマークを提案する。 モデルの指示をターゲットとするプロンプトインジェクションとは異なり、情報インジェクションはエージェントが信頼する証拠をターゲットとする。 このベンチマークは5つのインジェクションベクターと7つのイベントカテゴリにまたがっており、米国株15銘柄で1万件以上の意思決定が評価されている。 5つの発見がある。 (i)プロンプトインジェクションは14%の攻撃成功率(ASR)を達成するが、製造されたニュースは62%に達し、2つの30ワードテンプレートは全15株で100%に達し、通常のLLMセキュリティの直観を逆転させる。 (二)偽のクレームが同一である間、匿名のソースや「BREAKING」タグなどの信頼性の手がかりを100%から0%に落とすため、事実汚染テンプレートについては、表面形態は内容以上に重要である。 三 成功は、エージェントの状態に依存し、偽の指標パネルが保持しようとしているエージェントに対して91%、購入しようとしているエージェントに対して12%のスコアを付ける。 (iv)攻撃は、モデルベンダー全体に一般化し、ブレンドされた、ラベルなしの、本物のニュースフィードに効果的に留まる。 (v)ほとんどの攻撃は標準的な防御を回避している。モデルスケーリングは浅いベクトルを停止するが、事実中毒ではないため、ピアディベートは失敗し、階層的なアグリゲーションのみがASRを減少させる。

関連論文リスト

• AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories [0.0]
  LLMエージェントは、ツールコールのシーケンスを発行することでタスクを完了し、彼らが読んだすべての観察は、間接的なプロンプトインジェクションが入力できるチャネルである。 既存のベンチマークは、そのような攻撃がライブエージェントに対して成功するかどうかを測定し、既存のガードモデルは全体のトレースを判断する。 我々は5つのエージェントドメインにまたがる12,536の合成ツールコールトラジェクトリのベンチマークであるAgentDriftを提案する。
  論文  参考訳（メタデータ） (2026-09-07T03:10:23Z)
• Oracle Poisoning: Corrupting Knowledge Graphs to Weaponise AI Agent Reasoning [0.9236074230806578]
  Oracle Poisoningは、相手が構造化知識グラフを破損させる攻撃クラスである。 プロンプトインジェクションとは異なり、Oracle Poisoningはデータエージェントを操作します。 プロダクション4200万ノードのコード知識グラフに対する6つの攻撃シナリオを実演する。
  論文  参考訳（メタデータ） (2026-05-10T23:55:13Z)
• How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition [48.32744727426218]
  LLMベースのエージェントは、電子メール、ドキュメント、コードリポジトリなどの外部データソースを処理する高利得設定にますますデプロイされている。 これにより間接的なプロンプトインジェクション攻撃が発生し、外部コンテンツに埋め込まれた敵の命令は、ユーザの意識なしにエージェントの動作を操作できる。 この2つの目的を3つのエージェント設定で評価した。
  論文  参考訳（メタデータ） (2026-03-16T14:49:36Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Shoot First, Ask Questions Later? Building Rational Agents that Explore and Act Like People [81.63702981397408]
  限られたリソースを前提として、言語モデル(LM)に基づいたエージェントは、どの程度合理的に行動するのか? エージェント情報探索をベンチマークし,強化する手法を開発し,人間の行動から洞察を抽出する。 Spotterエージェントでは、LMのみのベースラインよりも14.7%の精度で精度を向上し、Captainエージェントでは、期待情報ゲイン(EIG)を0.227ビット(達成可能なノイズ天井の94.2%)まで引き上げる。
  論文  参考訳（メタデータ） (2025-10-23T17:57:28Z)
• When Agents Trade: Live Multi-Market Trading Benchmark for LLM Agents [74.55061622246824]
  Agent Market Arena (AMA)は、LLM(Large Language Model)ベースのトレーディングエージェントを評価するための、初めてのリアルタイムベンチマークである。 AMAは、検証済みのトレーディングデータ、専門家チェックされたニュース、および統一されたトレーディングフレームワーク内に多様なエージェントアーキテクチャを統合する。 GPT-4o、GPT-4.1、Claude-3.5-haiku、Claude-sonnet-4、Gemini-2.0-flashにまたがる薬剤を評価する。
  論文  参考訳（メタデータ） (2025-10-13T17:54:09Z)
• The Dark Side of LLMs: Agent-based Attacks for Complete Computer Takeover [0.0]
  大規模言語モデル(LLM)エージェントとマルチエージェントシステムは、従来のコンテンツ生成からシステムレベルの妥協まで及ぶセキュリティ脆弱性を導入している。 本稿では,自律エージェント内の推論エンジンとして使用されるLLMのセキュリティを総合的に評価する。 異なる攻撃面と信頼境界がどのように活用され、そのような乗っ取りを組織化できるかを示す。
  論文  参考訳（メタデータ） (2025-07-09T13:54:58Z)
• Exploring Response Uncertainty in MLLMs: An Empirical Evaluation under Misleading Scenarios [49.53589774730807]
  マルチモーダル大規模言語モデル(MLLM)は近年,視覚的質問応答から映像理解に至るまでのタスクにおいて,最先端のパフォーマンスを実現している。 12件のオープンソースMLLMが, 単一の偽装キューを受けた65%の症例において, 既往の正解を覆した。
  論文  参考訳（メタデータ） (2024-11-05T01:11:28Z)
• AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases [73.04652687616286]
  本稿では,RAG とRAG をベースとした LLM エージェントを標的とした最初のバックドア攻撃である AgentPoison を提案する。 従来のバックドア攻撃とは異なり、AgentPoisonは追加のモデルトレーニングや微調整を必要としない。 エージェントごとに、AgentPoisonは平均攻撃成功率を80%以上達成し、良質なパフォーマンスに最小限の影響を与える。
  論文  参考訳（メタデータ） (2024-07-17T17:59:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。