論文の概要: Upstream Influence, Downstream Re-Anchoring in LLM Agent Chains

• arxiv url: http://arxiv.org/abs/2610.17723v1
• Date: Tue, 13 Oct 2026 04:57:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.520571
• Title: Upstream Influence, Downstream Re-Anchoring in LLM Agent Chains
• Title（参考訳）: LLM剤鎖の上流影響と下流再編成
• Abstract要約: 人々はLLMエージェントが生み出す評価的判断に行動し、マルチエージェントシステムでは、その判断は人物に到達する前に複数のエージェントを通過する。 ワークフローの情報アーキテクチャ - ソースアクセス、ハンドオフフォーマット、どのモデルがコンテンツを読み取るか - は、調整された操作のどれだけが終端に達するかを示す。
• 参考スコア（独自算出の注目度）: 11.056527699359174
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: People act on evaluative judgments produced by LLM agents, and in multi-agent systems those judgments pass through several agents before reaching a person. We show that a workflow's information architecture---source access, handoff format, and which model reads the untrusted content---governs how much of a coordinated manipulation reaches the end. On 32 Taiwan~2025 recall cases, ten authentic Threads comments shown to one agent move its stance by $+0.171$ toward the injected position, and a mirrored set moves it the other way. Passing that judgment down a chain removes more than half of the shift by the third agent; keeping the comments in front of every agent sustains more of it. The reduction is not attrition in transit: each receiver discounts the inherited stance in proportion to how far it sits from its own reading of the evidence, returning to what that evidence implies for the case rather than to neutrality---consistent with partial re-anchoring. Handoff format is a second lever: a stance relayed without its reasoning is largely discounted. Susceptibility at the exposed seat varies fourfold across models, while the chain's arrangement does not matter at all. None of this is visible in the transcripts---the injected claims are almost never restated, so reasoning-trace audits miss the attack.
• Abstract（参考訳）: 人々はLLMエージェントが生み出す評価的判断に行動し、マルチエージェントシステムでは、その判断は人物に到達する前に複数のエージェントを通過する。 ワークフローの情報アーキテクチャ – ソースアクセス,ハンドオフ形式,信頼できないコンテンツを読み取るモデル – は,コーディネートされた操作が最後にどれだけ到達するかを示す。 32の台湾〜2025のリコールケースでは、あるエージェントに示された10の真正なスレッドコメントが、注入された位置に向かって姿勢を+0.171ドル移動させ、ミラーセットが反対方向に移動させる。 その判断をチェーンに通すことで、第3のエージェントによるシフトの半分以上を取り除きます。 それぞれの受信者は、その証拠の読み取りからどのくらいの距離にあるかに比例して、継承されたスタンスを割引し、その証拠が中立性ではなく、その証拠を示唆するものに戻す。 ハンドオフ形式は第2のレバーであり、推論なしでリレーされたスタンスはほとんど割引されている。 露出シートのサセプティビリティはモデルによって4倍に変化するが、チェーンの配置は全く重要ではない。 インジェクトされたクレームはほとんど修正されないため、推論トレース監査は攻撃を見逃している。

関連論文リスト

• Kairos: Transactional Security Enforcement at the System Boundary for LLM Agents [10.493000314031077]
  大規模言語モデル(LLM)エージェントは、ソフトウェア開発ライフサイクルの不可欠な部分になりつつある。 修正されていない不透明なエージェントの分離境界における参照モニタであるKairosを提示する。 どの情報源が信頼されているかを記述する宣言的政策は、ほとんどの効果を決定論的に決定し、残りを無視し、エージェントが投機的に継続する間に保持される。
  論文  参考訳（メタデータ） (2026-10-13T14:24:26Z)
• Not Self-Decidable: LLMs Cannot Draw the Boundary of What an Agent Verifier Can Check [0.0]
  エージェントの検証者は、固定チェックが解決できるものと、裁判官を必要とするものとの2種類のルールに直面します。 CoVerは全会一致を指名として扱い、そのために合成されたチェックが介入を生き残る場合にのみ述語を認める。 自己決定性はモデルから引き出す能力ではなく、検証者が構築しなければならない境界である。
  論文  参考訳（メタデータ） (2026-10-03T18:25:12Z)
• How Strongly Should Task State Influence an LLM Agent? [20.501736782803743]
  ロングホライズンに割り当てられた作業は、タスクの状態を追跡するためにLLMエージェントを必要とする。 表示、説明、強制された状態からどれだけの信頼性があるかは、誰も知りません。 タスクルール、モデル、ペア化されたエピソードを修正し、タスク状態がエージェントにどれだけ強く到達するかを変える。
  論文  参考訳（メタデータ） (2026-09-22T04:42:44Z)
• Safety Invariants for Agents Orchestrating Irreversible State Transitions: A Four-Dimensional Formalism Evaluated on Public Ledgers [0.0]
  フォーマリズムを使って、実行忠実性( executionfidelity)と呼ばれる保証を記述し、証明します。 7つの安全不変量は、経験から数えられるのではなく、忠実性条件に由来するもので、保証を解除する。 システムはデプロイされ、8つのチェーンにまたがる108のプロダクション書き込み操作によって、障害分類が復活する。
  論文  参考訳（メタデータ） (2026-08-01T17:29:42Z)
• Silence Is Endorsement: Verification-Status Laundering in LLM Agent Pipelines [1.60468902992145]
  LLMエージェントシステムの安全モニターは、元の証拠からではなく、要約や保管されたハンドオフからアクションを判断することが多い。 ハンドオフは、そのクレームが検証されていないという事実を失いながら、あるアクションが承認されたというクレームを保存します。 9つのオープンウェイトモニターと2つのホストされたモデルの中で、クレームのまわりの未検証の証明が取り除かれる間、アクションと承認の命題は固定されたままである。 この変更は、リスクのあるアクションの承認を、Llama-3.1-8Bで5%ドルから60%ドル、Qwen2.5-14Bで9%ドルから98%ドルに引き上げる。
  論文  参考訳（メタデータ） (2026-07-25T20:01:57Z)
• Auditing Belief-Conditioned LLM Agents in Hidden-Information Social Deduction Games [50.880420636090896]
  9-player Werewolf環境において,隠れた役割に対する外部信頼状態を維持するための監査可能なフレームワークを構築した。 我々は,その効果を関連づけとして報告し,そのメカニズムを未解決として扱う。
  論文  参考訳（メタデータ） (2026-07-12T16:03:30Z)
• The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation [68.98390038721963]
  問題クリティカルな事実の最大72%を,マルチエージェントによる議論で消し去ることを示す。 保持された証拠は誤解を招くことなく問題を再構築し、最終的なスタンスをベースモデルに固定し、単一の悪意のあるエージェントが誤った情報を共有コンテキストに注入することができる。 我々は、どの事実、不確実性、正当な不一致が相互作用を生き残るかを測定する評価を求める。
  論文  参考訳（メタデータ） (2026-06-02T02:15:40Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• Is the Top Still Spinning? Evaluating Subjectivity in Narrative Understanding [40.78154629252038]
  曖昧なクレームにバイナリラベルを強制すると、評価の信頼性が低下する。 請求項のニュアンス評価を提供する方法として,LCM生成した要約の編集を紹介する。 我々は,ARMが主張の忠実性に関するアノテータ合意において,絶対的な21%の改善をもたらすことを示す。
  論文  参考訳（メタデータ） (2025-04-01T19:08:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。