論文の概要: When History Lies: Evaluating and Improving Tool Use under Misleading Multi-Turn Histories
- arxiv url: http://arxiv.org/abs/2608.06057v1
- Date: Thu, 06 Aug 2026 14:04:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.92884
- Title: When History Lies: Evaluating and Improving Tool Use under Misleading Multi-Turn Histories
- Title(参考訳): ヒストリーが嘘をついたとき - マルチトゥルンヒストリーの誤解によるツール使用の評価と改善
- Abstract要約: 汚染は元の軌道で正しい決定の32.1%を覆い、しばしば腐敗した実体やインターフェースの規則の再利用を誘発することを示す。
システムポリシー、現在のツール、最新の要求、金の次のアクションを保存するための、同期されたOriginal、Polluted、Oracle Stateビューを備えたベンチマークであるベンチを紹介します。
平衡工具使用精度87.0%、ゴールド・SFT(66.3%)、オラクルのシーケンス蒸留(82.3%)、Qwen3-1.7Bのオフ・ポリス・トークン蒸留(85.0%)を上回ります。
- 参考スコア(独自算出の注目度): 6.956097396264084
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tool-calling agents infer task state from accumulated dialogue and tool traces. In persistent interactions, however, historical traces may remain structurally valid and semantically plausible after they cease to be authoritative for the current request. We show that such history can hijack a policy the model already possesses: on Qwen3-1.7B, pollution flips 32.1% of decisions that are correct under the original trajectory and frequently induces reuse of corrupted entities or interface conventions. We introduce bench, a paired benchmark with synchronized Original, Polluted, and Oracle State views that preserve the system policy, current tools, latest request, and gold next action. Eleven gold-preserving interventions isolate failures in decision state, entity binding, and interface execution across complete calls and non-call decisions. We further propose ours, which transfers an Oracle-conditioned teacher policy to a student observing only polluted history through soft supervision on student-generated prefixes. On Qwen3-1.7B, ours achieves 87.0% Balanced Tool-Use Accuracy, outperforming Gold-SFT (66.3%), Oracle sequence distillation (82.3%), and off-policy token distillation (85.0%). The method scales consistently: an 8B teacher raises the same compact 1.7B student to 91.9%, while an 8B student reaches 93.0%. The resulting policies further transfer to clean histories, unseen functions, independently regenerated evaluation contexts, external tool-use benchmarks, and noisy multi-hop question answering. These results establish history reliability as a distinct tool-use bottleneck and demonstrate reliable-state policy transfer as an effective and scalable solution.
- Abstract(参考訳): ツール呼び出しエージェントは、蓄積された対話とツールトレースからタスク状態を推測する。
しかし、永続的な相互作用においては、過去の痕跡は、現在の要求に対する権威を停止した後でも、構造的に有効で意味論的に検証可能である。
Qwen3-1.7Bでは、汚染は元の軌道で正しい決定の32.1%を覆い、しばしば腐敗したエンティティやインターフェース規則の再利用を誘導する。
システムポリシー、現在のツール、最新の要求、金の次のアクションを保存するための、同期されたOriginal、Polluted、Oracle Stateビューを備えたベンチマークであるベンチを紹介します。
11のゴールド保存介入は、決定状態、エンティティバインディング、インターフェースの実行を、完全な呼び出しとノンコール決定で分離する。
また,Oracle を条件とした教員政策を,学生が生成する接頭辞のソフト・インスペクションを通じて,汚染された歴史のみを観察する学生に伝達する提案を行った。
Qwen3-1.7Bでは、87.0%の平衡工具使用精度、ゴールド・SFT(66.3%)、オラクル・シークエンス蒸留(82.3%)、オフ・ポリス・トークン蒸留(85.0%)を達成している。
8Bの教師は1.7Bの生徒を91.9%に引き上げ、8Bの生徒は93.0%に達する。
結果として得られたポリシーは、クリーンな履歴、見えない関数、独立に再生された評価コンテキスト、外部ツール使用ベンチマーク、ノイズの多いマルチホップ質問応答へとさらに移行する。
これらの結果は、履歴信頼性をツール使用のボトルネックとして確立し、信頼性の高い政策伝達を効果的でスケーラブルなソリューションとして示す。
関連論文リスト
- Data-free On-policy Distillation [49.537587070291444]
オンライン蒸留(OPD)は、フロンティア・ポストトレーニングパイプラインの標準コンポーネントとなっている。
しかし、そのトレーニングデータが実際にどれだけ貢献するかは、ほとんど検討されていない。
データフリーオン政治蒸留(DF-OPD)の限界に着目する。
DF-OPDは実際のデータと一致し、さらにそのデータを生成する質問は、教師自身のポストトレーニングデータを追跡する。
論文 参考訳(メタデータ) (2026-09-12T23:51:35Z) - SUN: Persistent Programs For Language-Grounded Control-to-Learning-to-Real Policies [61.941546372624686]
既存のプロトコルはタスクのセマンティクスを廃止し、手作りの報酬と制御が検証したものから逸脱する振る舞いを残している。
本稿では,SUN (Semantically UNified Programs) を導入し,幾何関係と接触関係が一度定義され,整列したモデル予測制御にコンパイルされる型付き実行プログラムについて述べる。
我々のシステムであるKuafuは、言語やシーンのセマンティクスからSUNプログラムを自動で合成し、MPCによる画面表示を実現し、ステージ条件付きポリシーのトレーニング中にセマンティクスを保持する。
論文 参考訳(メタデータ) (2026-08-31T17:59:16Z) - S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? [66.17176838165994]
大規模言語モデル(LLM)は、ますます外部環境と相互作用し、かなりの行動経験を蓄積する。
エージェントがその振る舞いを積極的にテストし、得られた経験を判断し、その経験を使って将来の意思決定を改善することができるかどうかは不明だ。
LLM自己改善評価のための対話型ベンチマークである textbfStextsuperscript3Gym を導入する。
論文 参考訳(メタデータ) (2026-08-31T17:05:41Z) - FORESIGHT-9: Prospective and Process-Aware Evaluation of Adaptive Trading Agents [0.0]
FORESIGHT-9は、9つの監査可能な対実的ストレスワールドラインから構築された、将来的でプロセス対応のベンチマークである。
共通契約は、各エージェントのネイティブ適応ループを保持しながら、観察と実行を標準化する。
我々は,36ランにわたる2つの基盤モデルバックボーンを持つ2つの適応型トレーディングエージェントフレームワークを評価した。
論文 参考訳(メタデータ) (2026-08-29T17:12:49Z) - DFAH-Bench: Benchmarking Observable Agent Instability in Financial Decision-Making [0.7699235580548228]
DFAH-Benchは、金融業者の意思決定における観測可能な行動不安定性を測定するリプレイベンチマークである。
同じツールパスに従っている間、フロンティアモデルは95%の時間で決定に合意できるのは77%に過ぎません。
入力によらず1つの出力に崩壊することでほぼ完全な一致を達成できるパターンマッチング,比較的一貫したツール使用プロセスを持つ安定した実行器,そして物質的に異なるツールパスとエビデンスコンタクトを通じて同じ結論に達する軌道分岐器の3つの挙動プロファイルを同定する。
論文 参考訳(メタデータ) (2026-06-10T03:31:09Z) - What Demonstration Curation Metrics Do to Your Policy [0.0]
本研究は,欠陥のあるトレーニングエピソードを検出する実演キュレーション指標が,キュレートされたデータに基づいてトレーニングする下流行動閉鎖ポリシーを改善できるかどうかを考察する。
最大欠陥検出AUROC(0.804)の基準が最悪の治療方針(13.3%のタスク成功)を生んでいることが判明した。
論文 参考訳(メタデータ) (2026-06-08T22:40:49Z) - Policy-Conditioned Counterfactual Credit for Verifiable Reinforcement Learning of Long-Horizon Language Agents [0.0]
検証可能な報酬による強化学習は推論とツールの使用を改善するが、長期の言語エージェントは依然として、証拠連鎖と信念の漂流を学習する。
本稿では, 厳密な検証可能な報酬, 介入正当性ゲーティング, および政策条件付き対実的貢献(PCCC)推定器を用いた制約付きポリシー勾配アルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-06-03T16:19:36Z) - ReacTOD: Bounded Neuro-Symbolic Agentic NLU for Zero-Shot Dialogue State Tracking [2.2573512203799626]
本稿では,NLUを独立したツールコールとして再構成する有界神経シンボルアーキテクチャであるReacTODを提案する。
有界ReActループは反復自己補正を可能にし、MultiWOZ上のシングルパス推論よりも最大9.3ポイント精度を向上させる。
論文 参考訳(メタデータ) (2026-05-18T20:06:04Z) - ClawForge: Generating Executable Interactive Benchmarks for Command-Line Agents [59.626170560327274]
textbfClawForgeは、ステートコンフリクト下で実行可能なコマンドラインカテゴリのためのジェネレータベースのベンチマークフレームワークである。
私たちはこのフレームワークをClawForge-Bench(17のシナリオ、6の能力カテゴリ)としてインスタンス化します。
論文 参考訳(メタデータ) (2026-05-13T21:34:08Z) - Not Every Subject Should Stay: Machine Unlearning for Noisy Engagement Recognition [53.005382593686356]
エンゲージメント認識データセットは典型的には主観的インデクシングであり、しばしば騒々しく主観的な監督を含んでいる。
本研究では、この設定を、エンゲージメント認識のためのポストホック衛生機構として、主観レベルマシンアンラーニングを通して研究する。
論文 参考訳(メタデータ) (2026-05-06T10:03:06Z) - Beyond the Attention Stability Boundary: Agentic Self-Synthesizing Reasoning Protocols [6.357772907811544]
SSRP(Self- Synthesizing Reasoning Protocols)は、アーキテクチャ計画と手続き実行の分離を実装するメタ認知フレームワークである。
提案する実験層は,浅電流に基づく検索パイロット,高エントロピーSOP,セマンティックハイジャック3ホップ多要素合成タスクの3種類である。
以上の結果から,GPT 5.4の非定常バニラ基準線が0.1%に崩壊し,SSRPは715X耐力限界を達成した。
論文 参考訳(メタデータ) (2026-04-27T14:13:30Z) - Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents [66.97968363332465]
エージェントベンチマークの3つのギャップに対処するエンドツーエンド評価スイートであるClaw-Evalを紹介した。
Claw-Evalは3つのグループにまたがる9つのカテゴリにまたがる300の人間検証タスクで構成されている。
すべてのエージェントアクションは、3つの独立したエビデンスチャネルを通じて記録される。
論文 参考訳(メタデータ) (2026-04-07T17:43:18Z) - Omanic: Towards Step-wise Evaluation of Multi-hop Reasoning in Large Language Models [60.418191092851636]
OmanicはオープンドメインのマルチホップQAリソースであり、推論プロセスを分析するための構造アノテーションとして分解されたサブクエストと中間回答を提供する。
10,296個の機械によるトレーニング例(Omanic Synth)と967個の専門家による注釈付き評価例(OmanicBench)を含む。
論文 参考訳(メタデータ) (2026-03-17T15:23:37Z) - AgentProcessBench: Diagnosing Step-Level Process Quality in Tool-Using Agents [50.481033105867205]
我々はAgentProcessBenchを紹介した。AgentProcessBenchは、現実的なツール拡張トラジェクトリにおけるステップレベルの有効性を評価するための最初のベンチマークである。
ベンチマークは、1,000の多様な軌跡と8,509の人間ラベル付きステップアノテーションと89.1%のアノテーション間合意で構成されている。
探索をキャプチャする3つのラベリングスキームと、ラベルのあいまいさを減らすためのエラー伝搬ルールを備えている。
論文 参考訳(メタデータ) (2026-03-15T16:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。