論文の概要: ReCast: Attribution-Oriented Step Representation Learning for LLM-Based Agent Systems

• arxiv url: http://arxiv.org/abs/2610.11334v1
• Date: Thu, 08 Oct 2026 06:31:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 11:59:33.740033
• Title: ReCast: Attribution-Oriented Step Representation Learning for LLM-Based Agent Systems
• Title（参考訳）: ReCast: LLMエージェントシステムのための属性指向のステップ表現学習
• Abstract要約: エージェントシステムの失敗は、後続の相互作用を通じて伝播する初期のステップから生じる可能性がある。 近年の手法では、内部シグナルを障害の帰属に利用し、通常、隠れ状態をステップ表現として利用する。 本稿では,凍結したLCMから属性指向のステップ表現に変換するステップ表現学習手法ReCastを提案する。
• 参考スコア（独自算出の注目度）: 56.75145798590348
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In LLM-based agent systems, failures can originate from early steps whose effects propagate through subsequent interactions, making their origins difficult to identify. To trace such failures back to their origin, failure attribution has been formulated as the task of identifying the earliest step responsible for the failure. Recent methods leverage LLM internal signals for failure attribution, typically using hidden states as step representations. We therefore conduct an empirical study to evaluate how effectively these representations distinguish root-cause steps from other steps and find limited separation. Motivated by this observation, we propose ReCast, a step representation learning method that transforms hidden states from a frozen LLM into attribution-oriented step representations. ReCast first selects attribution-relevant layers, then constructs complementary pattern and deviation features, and finally learns contextualized step representations through an encoder trained with contrastive and ranking objectives. We also introduce ReCast-2K, a training dataset for failure attribution. ReCast achieves the best Hit@1 across four benchmarks, surpassing the strongest baseline by 5.65 and 9.19 pp on Who&When Algorithm and Handcrafted, respectively. Code is available at https://anonymous.4open.science/r/ReCast-5FB6 .
• Abstract（参考訳）: LLMベースのエージェントシステムでは、障害は後続の相互作用を通じて伝播する初期のステップから発生し、その起源を特定するのが難しくなる。 このような障害をその起源まで遡るには、障害の原因となる最初のステップを特定するタスクとして、障害の帰属が定式化されている。 近年の手法では, ステップ表現として隠れ状態を用いることが一般的である。 したがって、これらの表現が根本原因のステップと他のステップとをいかに効果的に区別するかを評価するための実証的研究を行い、限定的な分離を見いだす。 本研究では,凍結したLDMから帰属指向のステップ表現へ隠れた状態を変換するステップ表現学習手法ReCastを提案する。 ReCastはまず属性関連レイヤを選択し、その後補完的なパターンと逸脱機能を構築し、最後にコントラストとランキングの目的で訓練されたエンコーダを通じてコンテキスト化されたステップ表現を学習する。 また、障害帰属のためのトレーニングデータセットであるReCast-2Kについても紹介する。 ReCastは4つのベンチマークで最高のHit@1を達成し、それぞれ5.65と9.19ppのHit@1を抜いた。 コードはhttps://anonymous.4open.science/r/ReCast-5FB6で公開されている。

関連論文リスト

• StepFinder: A Temporal Semantic Framework for Failure Attribution in Multi-Agent Systems [11.500948775496218]
  失敗帰属(Failure Attribution)は、障害の原因となる根本原因のステップを自動的に特定することを目的としたタスクである。 既存のフェール帰属法は主に、元の実行軌跡を推論するためにLLMに依存している。 我々は、軽量な障害属性フレームワークであるStepFinderを提案する。
  論文  参考訳（メタデータ） (2026-06-02T10:45:49Z)
• When Reward Hacking Rebounds: Understanding and Mitigating It with Representation-Level Signals [11.280037154530847]
  LLMの強化学習はハッキングに対して脆弱である。 本研究では,環境操作設定を用いたコーディング作業におけるこの現象について検討する。 本稿では,ショートカットのコンセプトスコアをGRPOの利点計算に統合したアドバンテージ修正を提案する。
  論文  参考訳（メタデータ） (2026-04-01T23:33:08Z)
• G-Drift MIA: Membership Inference via Gradient-Induced Feature Drift in LLMs [1.8986796884429726]
  メンバーシップ推論攻撃(MIA)は、トレーニング中に特定の例が使用されたかどうかを判断することを目的としている。 G-Drift MIAは,勾配誘起特徴量ドリフトに基づくホワイトボックスメンバシップ推論手法である。 G-Driftは信頼性ベース、パープレキシティベース、参照ベースアタックを大きく上回る。
  論文  参考訳（メタデータ） (2026-04-01T03:01:27Z)
• MIRA: Memory-Integrated Reinforcement Learning Agent with Limited LLM Guidance [18.215893951726166]
  大規模言語モデル(LLM)は、早期学習を容易にするサブゴール分解、可塑性軌跡、抽象的な事前情報を提供することができる。 本稿では,MIRA (Memory-Integrated Reinforcement Learning Agent) を提案する。
  論文  参考訳（メタデータ） (2026-02-20T01:43:30Z)
• Let's Think in Two Steps: Mitigating Agreement Bias in MLLMs with Self-Grounded Verification [17.67273082468732]
  検証 -- エージェントの振る舞いに報酬を割り当てる関数 -- は、数学やボードゲームのような分野におけるAIの進歩の鍵となっている。 我々は,Multimodal Large Language Models (MLLM) を,Webナビゲーション,コンピュータ利用,ロボット操作におけるエージェントトラジェクトリの検証手段として評価した。 本稿では,MLLMの知識と推論をより効果的に活用する軽量な手法である自己検証(SGV)を提案する。
  論文  参考訳（メタデータ） (2025-07-15T18:50:29Z)
• FIRST: Faster Improved Listwise Reranking with Single Token Decoding [56.727761901751194]
  まず、第1生成識別子の出力ロジットを活用して、候補のランク付け順序を直接取得する新しいリストワイズLLMリグレードアプローチであるFIRSTを紹介する。 実験結果から、BEIRベンチマークの利得により、FIRSTはロバストなランキング性能を維持しつつ、推論を50%高速化することが示された。 以上の結果から,LLMリランカーはクロスエンコーダに比べて強い蒸留信号を提供できることが示唆された。
  論文  参考訳（メタデータ） (2024-06-21T21:27:50Z)
• Get my drift? Catching LLM Task Drift with Activation Deltas [55.75645403965326]
  タスクドリフトは攻撃者がデータを流出させたり、LLMの出力に影響を与えたりすることを可能にする。 そこで, 簡易線形分類器は, 分布外テストセット上で, ほぼ完全なLOC AUCでドリフトを検出することができることを示す。 このアプローチは、プロンプトインジェクション、ジェイルブレイク、悪意のある指示など、目に見えないタスクドメインに対して驚くほどうまく一般化する。
  論文  参考訳（メタデータ） (2024-06-02T16:53:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。