論文の概要: LatentSift: Policy-State Filtering for Token-Efficient Verification of Software Engineering Agents
- arxiv url: http://arxiv.org/abs/2609.36371v1
- Date: Mon, 28 Sep 2026 23:03:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.049778
- Title: LatentSift: Policy-State Filtering for Token-Efficient Verification of Software Engineering Agents
- Title(参考訳): LatentSift: ソフトウェア開発エージェントのトークン効率検証のためのポリシ・ステート・フィルタリング
- Abstract要約: テストタイムスケーリングは、複数の候補トラジェクトリを生成し、最良のものを選択することで、ソフトウェアエンジニアリングエージェントを改善します。
既存のハイブリッドはまず、テストを実行する前に候補をフィルタリングするために実行不要のバリデーションを適用します。
latentSiftはトークンフリーで実行不要なフィルタで、この第1ステージを、ポリシーがすでに生成している隠された状態に置き換えます。
- 参考スコア(独自算出の注目度): 2.6375027496412096
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test-time scaling improves software engineering agents by generating multiple candidate trajectories and selecting the best one. Verifying and selecting among these long interactions can consume as many tokens as generation itself. Existing hybrid workflows first apply an LLM-based execution-free (EF) verifier to filter candidates before running tests, which adds another model pass over every trajectory. We introduce LatentSift, a token-free and execution-free filter that replaces this first stage with hidden states the policy already produces while generating the candidates. It represents each candidate through its reasoning, observation, and function-call states, compares them with positive and negative banks of such states collected from successful and unsuccessful trajectories during policy training, and fuses the resulting distance scores with a learned linear score to retain promising candidates for the execution-based stages. On SWE-bench Verified, across three agents and two policy sizes, LatentSift cuts EF-verifier tokens by 66.6--81.0% and total verification tokens, which include test generation, by 49.1--62.1% at K=16, while hybrid Best@16 matches or improves on each agent's reference workflow, rising from 59.26% to 60.06% on DeepSWE-Preview.
- Abstract(参考訳): テストタイムスケーリングは、複数の候補トラジェクトリを生成し、最良のものを選択することで、ソフトウェアエンジニアリングエージェントを改善します。
これらの長い相互作用のうちの検証と選択は、生成自身と同じくらい多くのトークンを消費することができる。
既存のハイブリッドワークフローは、まずLLMベースの実行不要(EF)検証を使用して、テストを実行する前に候補をフィルタリングする。
我々は、トークンフリーで実行不要なフィルタであるLatentSiftを紹介し、この第1ステージを候補を生成しながら、ポリシーがすでに生成している隠れ状態に置き換える。
それは、その推論、観察、関数呼び出し状態を通じて各候補を表現し、政策訓練中に成功した軌道から集められた、成功しなかった軌道から収集された、これらの状態の正および負のバンクと比較し、得られた距離スコアを学習された線形スコアと融合して、実行ベースステージの有望な候補を維持する。
SWE-benchの検証では、3つのエージェントと2つのポリシーサイズでEF検証トークンを66.6--81.0%削減し、テスト生成を含む全検証トークンをK=16で49.1-62.1%削減し、ハイブリッドBest@16は各エージェントの参照ワークフローに適合または改善し、DeepSWE-Previewでは59.26%から60.06%に上昇した。
関連論文リスト
- Information-Gain Rewards over Diversity-Pruned Tests: GT-Anchored Verifier Co-Training for Reliable Code Generation [3.446250207083329]
CoVerはQwen2.5-Instructバックボーン上で1ショットパス@1を7Bで+5.8ポイント、14Bで+7.1ポイント上げる。
3段階の多様性認識選択ステップは、候補プールを行動的に非冗長スイートにプルークする。
CodeTランキングパイプライン内のドロップインバックボーンとして、CoVer-7Bは+3.5ポイントを追加し、生成と選択の両方でコトレーニングの2つのメリットを示している。
論文 参考訳(メタデータ) (2026-09-18T01:46:28Z) - Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems [67.04448659688579]
クエリ非依存の16エントリのコードブックを開発し、上位のデコード候補を1回のバッチフォワードパスでランク付けする。
反復検索がなく、テスト時にメッセージパッシングがないため、Codebook Agentは6つのベンチマークでもっとも正確な方法である。
論文 参考訳(メタデータ) (2026-09-02T08:10:22Z) - LLM-Guided Heuristic Design from Simulation Traces: A Case Study in Dynamic Production and AGV Scheduling [10.289256706393084]
シミュレーションベースの最適化(SBO)は、動的に実行可能なポリシーを評価する。
ほとんどのメソッドは、シミュレータをブラックボックスとして扱う。なぜ失敗したのか、どのポリシーロジックを変更するべきかを明らかにすることなく、ランキング候補を集計する。
LLM誘導設計フレームワークについて,繰り返しシミュレーションによる選択と事象レベルのトレースを用いて診断を行う。
論文 参考訳(メタデータ) (2026-08-10T09:20:56Z) - F-GRPO: Factorized Group-Relative Policy Optimization for Unified Candidate Generation and Ranking [79.49893545611779]
大規模言語モデル(LLM)はサブセットを生成し、それを1つの自己回帰パス内で順序付けることができる。
この柔軟性は、新しい最適化課題をもたらす: モデルが出力空間を検索し、完全なランクリストが生成された後にのみユーティリティフィードバックを受けなければならない。
このクレジット割り当てギャップは、エンドツーエンドの最適化を不安定にし、サンプル非効率にする。
本稿では,単一自己回帰的ロールアウト内の両方を実行する統一フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-13T04:52:33Z) - PPO guided Agentic Pipeline for Adaptive Prompt Selection and Test Case Generation [0.30786914102688595]
本稿では,強化学習駆動型エージェントフレームワークを用いた新しいテストケース生成手法を提案する。
フェーズ1では、ToT誘導最適化エージェントが冗長性を取り除き、ソースコードを分割し、最小化する。
フェーズIIでは、8つの異なるプロンプト技術の中からプロンプトを選択する問題を解くために、PPOベースのポリシーネットワークを訓練する。
PPOエージェントは、ラインとブランチのカバレッジの増加、探索されていないブランチに対する罰則、ソースコードの長さを減らす報酬の組み合わせに基づいて報酬を受け取る。
論文 参考訳(メタデータ) (2026-05-01T06:19:51Z) - FASTER: Value-Guided Sampling for Fast RL [103.55398181003262]
FASTERは、計算コストを伴わずに拡散ベースのポリシーのサンプリングベースのテストタイムスケーリングの利点を得る方法である。
FASTERは、トレーニングと推論の計算要求を大幅に削減しながら、同じパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-04-21T17:52:17Z) - $V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
$V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。
V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。
V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
論文 参考訳(メタデータ) (2026-03-04T17:22:16Z) - Scaling Agentic Verifier for Competitive Coding [66.11758166379092]
大規模言語モデル(LLM)は強力なコーディング能力を示しているが、1回の試行で競合するプログラミング問題を正しく解くのに苦戦している。
実行ベースの再ランク付けは、有望なテスト時間スケーリング戦略を提供するが、既存のメソッドは、難しいテストケースの生成または非効率的なランダム入力サンプリングによって制約される。
本稿では,プログラムの動作を積極的に推論し,高い差別性のあるテスト入力を検索するエージェント検証手法を提案する。
論文 参考訳(メタデータ) (2026-02-04T06:30:40Z) - When Speculation Spills Secrets: Side Channels via Speculative Decoding In LLMs [2.305309289946973]
そこで本研究では,不正な推測と正しい推測の入力依存パターンを,フィルタ単位のトークン数やパケットサイズをモニタすることによって推定できる,新たなサイドチャネルを明らかにする。
これらのパターンを観察する敵は、4つの投機的デコードスキームで90%の精度でユーザクエリをフィンガープリントすることができる。
パケットパディングや繰り返しトークンアグリゲーションなど,一連の軽減策を提案し,評価する。
論文 参考訳(メタデータ) (2024-11-01T23:14:30Z) - Self-Evaluation Improves Selective Generation in Large Language Models [54.003992911447696]
オープンエンド生成タスクをトークンレベルの予測タスクに再構成する。
我々はLSMに答えを自己評価するように指示する。
自己評価に基づくスコアリング手法をベンチマークする。
論文 参考訳(メタデータ) (2023-12-14T19:09:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。