論文の概要: Trace-Level Analysis of Information Contamination in Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2604.27586v1
- Date: Thu, 30 Apr 2026 08:39:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 16:31:53.998602
- Title: Trace-Level Analysis of Information Contamination in Multi-Agent Systems
- Title（参考訳）: マルチエージェントシステムにおける情報汚染のトレースレベル解析
- Abstract要約: 不均一なアーティファクトに対する推論は、構造化エージェント内でますます発生する。
本研究では,不確実性を制御変数として扱うことにより,この現象を研究する。
我々は3つの表現型を特徴づける:サイレントセマンティックな腐敗、リカバリを伴う行動パターン、構造破壊と制御フローシグネチャの組み合わせ。
- 参考スコア（独自算出の注目度）: 8.829951903444352
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reasoning over heterogeneous artifacts (PDFs, spreadsheets, slide decks, etc.) increasingly occurs within structured agent workflows that iteratively extract, transform, and reference external information. In these workflows, uncertainty is not merely an input-quality issue: it can redirect decomposition and routing decisions, reshape intermediate state, and produce qualitatively different execution trajectories. We study this phenomenon by treating uncertainty as a controlled variable: we inject structured perturbations into artifact-derived representations, execute fixed workflows under comprehensive logging, and quantify contamination via trace divergence in plans, tool invocations, and intermediate state. Across 614 paired runs on 32 GAIA tasks with three different language models, we find a decoupling: workflows may diverge substantially yet recover correct answers, or remain structurally similar while producing incorrect outputs. We characterize three manifestation types: silent semantic corruption, behavioral detours with recovery, and combined structural disruption and their control-flow signatures (rerouting, extended execution, early termination). We measure operational costs and characterize why commonly used verification guardrails fail to intercept contamination. We contribute (i) a formal taxonomy of contamination manifestations in structured workflows, (ii) a trace-based measurement framework for detecting and localizing contamination across agent interactions, and (iii) empirical evidence with implications for targeted verification, defensive design, and cost control.
- Abstract（参考訳）: 不均一なアーティファクト(PDF、スプレッドシート、スライドデッキなど)に対する推論は、外部情報を反復的に抽出し、変換し、参照する構造化エージェントワークフロー内でますます発生する。
これらのワークフローでは、不確実性は単なる入力品質の問題ではなく、分解とルーティングの決定をリダイレクトし、中間状態を再生成し、質的に異なる実行軌跡を生成することができる。
我々は,不確実性を制御変数として扱うことにより,構造的摂動を人工物由来の表現に注入し,包括的ロギングの下で一定のワークフローを実行し,計画,ツール呼び出し,中間状態のトレース分散による汚染の定量化を行う。
614のペアは、32のGAIAタスクと3つの異なる言語モデルで実行され、疎結合となる。
我々は3つの表現型を特徴付ける:サイレントセマンティックな腐敗、回復を伴う行動パターン、構造的破壊と制御フローシグネチャ(レイアウト、拡張実行、早期終了)の組み合わせ。
運用コストを計測し、一般的に使用されている検証用ガードレールが汚染を阻止できない理由を特徴付ける。
コントリビューション
一 構造化ワークフローにおける汚染発生の正式な分類法
二 エージェント間相互作用における汚染の検出及び局所化のためのトレースベース測定フレームワーク、及び
三 目標検証、防御設計及びコスト管理に関する実証的証拠
関連論文リスト
- Constraint-Aware Synthetic Tabular Data Generation via Inter-Column Constraint Discovery with LLM Agents [3.7680093320209553]
本研究では,3つのカラム間制約家族の発見と実施について検討する。
私たちの統合ツール・グラウンドド・ワークフローは、3つ全てをマシン実行可能な仮説として表現しています。
論文 参考訳（メタデータ） (2026-08-15T08:19:54Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - Monitoring Agentic Systems Before They're Reliable [0.7422381022274628]
運用に入るエージェントシステムは、通常、部分的に統合されたアセンブリとして機能し、構造上の欠陥はタスクレベルのエラーではなく、障害のランドスケープを支配します。
本稿では,エージェントシステム評価を3次元(品質,適合性,効率)に分割するモニタリング・トリアージ手法を提案する。
発見は、FMEAに適合した重度分類によってルートされ、調査を保証しているサブセットに人間の注意を集中させる。
論文 参考訳（メタデータ） (2026-06-01T17:01:53Z) - Meta-Agent: From Task Descriptions to Verified Multi-Agent Systems [36.485119937780524]
本稿では,マルチエージェントシステムの自動構築と実行を行う2相フレームワークMeta-Agentを提案する。
本稿では,局所的,上流的,構造的障害を区別する3段階の誤り帰属機構を提案する。
強力なマルチエージェントベースラインとアブレーションスタディに対する実験では、タスク成功率、エラー回復、ワークフロー安定性が一貫した改善が示されている。
論文 参考訳（メタデータ） (2026-05-24T19:38:54Z) - LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。
CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
論文 参考訳（メタデータ） (2026-05-02T11:31:33Z) - From Perception to Autonomous Computational Modeling: A Multi-Agent Approach [0.0]
本稿では,協調型大言語モデル(LLM)エージェントが完全計算力学ワークフローを自律的に実行する,解法に依存しないフレームワークを提案する。
エージェントは、パイプライン層間の条件付きイテレーションを導入する品質ゲートを備えた共有コンテキスト空間上の条件付き演算子として形式化される。
論文 参考訳（メタデータ） (2026-04-08T07:56:34Z) - Beyond Fluency: Toward Reliable Trajectories in Agentic IR [0.0]
本論文は, 産業用エージェントシステムで観測された故障モードを合成する。
安全なデプロイメントには、エンドポイントの正確性を超えて、軌道の整合性と因果属性に移行する必要がある、と我々は主張する。
論文 参考訳（メタデータ） (2026-04-05T21:20:57Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - Dynamics Within Latent Chain-of-Thought: An Empirical Study of Causal Structure [58.89643769707751]
表現空間における潜在連鎖を操作可能な因果過程として研究する。
遅延ステップの予算は、均質な余分な深さよりも、非局所的なルーティングを備えたステージ機能のように振る舞う。
これらの結果は、モード条件と安定性を意識した分析を、潜伏推論システムの解釈と改善のための信頼性の高いツールとして動機付けている。
論文 参考訳（メタデータ） (2026-02-09T15:25:12Z) - Noise & pattern: identity-anchored Tikhonov regularization for robust structural anomaly detection [58.535473924035365]
異常検出は自動産業検査において重要な役割を担い、他の均一な視覚パターンの微妙な欠陥や稀な欠陥を識別することを目的としている。
自己教師型オートエンコーダを用いて, 破損した入力の修復を学習する構造的異常検出に取り組む。
構造欠陥を模倣した画像に人工的破壊を注入する汚職モデルを導入する。
論文 参考訳（メタデータ） (2025-11-10T15:48:50Z) - Traceability and Accountability in Role-Specialized Multi-Agent LLM Pipelines [9.340611077939828]
我々は、トレーサブルで説明可能なパイプライン、つまり明確な役割、構造化されたハンドオフ、保存されたレコードを持つシステムについて研究する。
3つのベンチマークで3つの最先端LCMの8つの構成を評価し、エラーの発生点、展開方法、修正方法について分析する。
論文 参考訳（メタデータ） (2025-10-08T23:26:44Z) - Tracking the risk of a deployed model and detecting harmful distribution
shifts [105.27463615756733]
実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。
我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
論文 参考訳（メタデータ） (2021-10-12T17:21:41Z) - Cross-Supervised Joint-Event-Extraction with Heterogeneous Information
Networks [61.950353376870154]
Joint-event- Extractは、トリガとエンティティのタグからなるタグセットを備えたシーケンスからシーケンスまでのラベリングタスクである。
トリガやエンティティの抽出を交互に監督するクロススーパーバイザードメカニズム(CSM)を提案する。
我々の手法は、エンティティとトリガー抽出の両方において最先端の手法よりも優れています。
論文 参考訳（メタデータ） (2020-10-13T11:51:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。