論文の概要: The One-Pixel of Reasoning: One Truthful Relation Is Enough to Mislead LLM Agents

• arxiv url: http://arxiv.org/abs/2610.24873v1
• Date: Sat, 17 Oct 2026 21:21:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-22 15:37:20.777038
• Title: The One-Pixel of Reasoning: One Truthful Relation Is Enough to Mislead LLM Agents
• Title（参考訳）: LLMのエージェントを間違えるほど真剣な関係
• Abstract要約: 我々は,この推論関係に対する新しい認知的攻撃であるワン・リレーション・アタック(ORA)を導入する。 ORAは、クリティカルな暗黙の令状をローカライズし、単一のソース接頭文を使用してワンリレーションの介入を行う。
• 参考スコア（独自算出の注目度）: 20.34628050914095
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Can one sentence manipulate an agent's belief by targeting a single implicit warrant linking evidence to a conclusion? In this paper, we introduce the one-relation attack (ORA), a novel cognitive attack on this inferential relation. ORA localizes a critical implicit warrant and performs a one-relation intervention using a single source-grounded sentence that qualifies this warrant and steers the agent toward an incorrect belief. Across eighteen models on biomedical inference and vulnerability detection, best-of-$10 attacks overturn initially correct answers at mean rates of 54.9% for proprietary and 80.0% for open-weight models. Attacks also transfer without victim feedback, and paired controls support the roles of targeting and qualification. Moreover, successful sentences can pass source-support checks and evade identification, and multi-agent debate raises team error from 50.0% to 59.5% in our balanced stress test. These findings establish implicit warrants as a cognitive attack surface for manipulating agents' beliefs.
• Abstract（参考訳）: ある文は、証拠を結論に結びつける単一の暗黙の令状を標的にすることで、エージェントの信念を操ることができるか? 本稿では,この推論関係に対する新しい認知的攻撃である1-relation attack (ORA)を紹介する。 ORAは、批判的な暗黙の令状をローカライズし、この令状を適格化し、不正な信念に向かってエージェントを操る単一の根拠付き文を用いて一関係の介入を行う。 バイオメディカル推論と脆弱性検出に関する18のモデルにおいて、ベスト・オブ・10の攻撃は、当初はプロプライエタリモデルの54.9%、オープンウェイトモデルの80.0%で回答を正した。 攻撃は被害者のフィードバックなしに伝達され、ペアコントロールはターゲティングと資格の役割をサポートする。 さらに、成功した文はソースサポートチェックをパスし、回避できる。また、マルチエージェントの議論は、バランスの取れたストレステストにおいて、チームのエラーを50.0%から59.5%に引き上げる。 これらの知見は、エージェントの信念を操作するための認知的攻撃サーフェスとして暗黙の令状を確立した。

関連論文リスト

• Don't Let One Lie Survive A Hundred Truths: A Selective Bayesian Trust Estimator for Collaborative Perception [11.278100869961314]
  協調的な認識により、コネクテッドカーは自身のセンサーを超えることができる。 選択的2層ベイズ信頼推定器であるSABERを提案する。 一定の閾値で良質な誤報を低減しつつ、攻撃検出を改善する。
  論文  参考訳（メタデータ） (2026-10-06T07:25:07Z)
• Silent Failures in Agentic Security Evaluation: A Validated Harness for Tool-Call Mediation Under Indirect Prompt Injection [0.0]
  特権ツールを起動するLLMエージェントは間接的プロンプトインジェクション(IPI)に脆弱である 4つの欠陥クラス - サイレントペイロードの非配信、引数ではなくツールアイデンティティによるアタック成功、モデル非能力と混同された偽リジェクション率、監査証跡の欠如 - を識別する。 我々は、欠陥と修正された定義の下で同じ実行トレースを再描画することで、歪みを定量化する。
  論文  参考訳（メタデータ） (2026-09-26T14:53:42Z)
• Auditing Provenance Sensitivity in LLM Agent Action Selection [0.0]
  LLMエージェントは、ユーザリクエスト、ツール出力、検索されたレコード、メモリ、信頼できないテキストを混ぜたコンテキストからツールと引数を選択する。 本稿では,各ツールと引数ターゲットに対して,コンテキスト要素を別々にラベル付けするターゲット固有の認証監査を導入する。 次に、有効な証拠が弱まった場合の挙動を検証し、二次的な局所化診断としてコンテキスト-サブセット相互作用を用いる。
  論文  参考訳（メタデータ） (2026-07-23T01:28:18Z)
• Auditing Belief-Conditioned LLM Agents in Hidden-Information Social Deduction Games [50.880420636090896]
  9-player Werewolf環境において,隠れた役割に対する外部信頼状態を維持するための監査可能なフレームワークを構築した。 我々は,その効果を関連づけとして報告し,そのメカニズムを未解決として扱う。
  論文  参考訳（メタデータ） (2026-07-12T16:03:30Z)
• Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents [0.0]
  最近の研究は、間接的プロンプトインジェクションに対するツール使用 LLM エージェントの防御戦略に集約されている。 我々はこれらのアウト・オブ・バンド・ディフェンスを古典的整合性保護の事例として整理する。 我々は、このプロトコルを、Progent自身の適応攻撃解析の独立した複製と拡張として実行している。
  論文  参考訳（メタデータ） (2026-06-25T00:35:23Z)
• How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition [48.32744727426218]
  LLMベースのエージェントは、電子メール、ドキュメント、コードリポジトリなどの外部データソースを処理する高利得設定にますますデプロイされている。 これにより間接的なプロンプトインジェクション攻撃が発生し、外部コンテンツに埋め込まれた敵の命令は、ユーザの意識なしにエージェントの動作を操作できる。 この2つの目的を3つのエージェント設定で評価した。
  論文  参考訳（メタデータ） (2026-03-16T14:49:36Z)
• Intentional Deception as Controllable Capability in LLM Agents [0.0]
  本稿では,マルチエージェントシステムにおいて,意図的騙しを工学的能力として体系的に研究する。 本研究では,ターゲットエージェントの特徴を推定し,その信念や動機に反する行動に対して,意図的反応を操る2段階のシステムについて検討する。 認知的介入は、一様分布ではなく、特定の行動プロファイルに集中する差分効果を生じさせる。
  論文  参考訳（メタデータ） (2026-03-08T23:48:49Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。