論文の概要: Guided Search Strategies in Non-Serializable Environments with Applications to Software Engineering Agents
- arxiv url: http://arxiv.org/abs/2505.13652v1
- Date: Mon, 19 May 2025 18:50:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-21 14:49:52.486893
- Title: Guided Search Strategies in Non-Serializable Environments with Applications to Software Engineering Agents
- Title(参考訳): 非シリアライズ環境におけるガイド付き検索戦略とソフトウェア工学エージェントへの応用
- Authors: Karina Zainullina, Alexander Golubev, Maria Trofimova, Sergei Polezhaev, Ibragim Badertdinov, Daria Litvintseva, Simon Karasik, Filipp Fisin, Sergei Skvortsov, Maksim Nekrashevich, Anton Shevtsov, Boris Yangel,
- Abstract要約: 大規模言語モデル(LLM)は、最近、複雑な多段階タスクにおいて顕著な成果を上げている。
彼らはしばしば、複数のソリューションを試して一貫したパフォーマンスを維持するのに苦労する。
- 参考スコア(独自算出の注目度): 31.651748374218446
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) have recently achieved remarkable results in complex multi-step tasks, such as mathematical reasoning and agentic software engineering. However, they often struggle to maintain consistent performance across multiple solution attempts. One effective approach to narrow the gap between average-case and best-case performance is guided test-time search, which explores multiple solution paths to identify the most promising one. Unfortunately, effective search techniques (e.g. MCTS) are often unsuitable for non-serializable RL environments, such as Docker containers, where intermediate environment states cannot be easily saved and restored. We investigate two complementary search strategies applicable to such environments: 1-step lookahead and trajectory selection, both guided by a learned action-value function estimator. On the SWE-bench Verified benchmark, a key testbed for agentic software engineering, we find these methods to double the average success rate of a fine-tuned Qwen-72B model, achieving 40.8%, the new state-of-the-art for open-weights models. Additionally, we show that these techniques are transferable to more advanced closed models, yielding similar improvements with GPT-4o.
- Abstract(参考訳): 大規模言語モデル(LLM)は、最近、数学的推論やエージェントソフトウェア工学のような複雑な多段階タスクにおいて顕著な成果を上げている。
しかし、複数のソリューションを試して一貫したパフォーマンスを維持するのに苦労することが多い。
平均ケースとベストケースのパフォーマンスのギャップを狭めるための効果的なアプローチは、最も有望なものを特定するために複数のソリューションパスを探索する、ガイド付きテストタイムサーチである。
残念ながら、有効な検索技術(例:MCTS)は、Dockerコンテナのような非シリアライズ可能なRL環境には適さないことが多い。
本研究では,これらの環境に適用可能な2つの補完的探索戦略について検討する。
エージェントソフトウェアエンジニアリングの重要なテストベッドであるSWE-bench Verifiedベンチマークでは、細調整されたQwen-72Bモデルの平均成功率を2倍にし、オープンウェイトモデルの新たな最先端である40.8%を達成した。
さらに, これらの手法はより高度な閉モデルに転送可能であることを示し, GPT-4oでも同様の改善が得られた。
関連論文リスト
- Thinking Longer, Not Larger: Enhancing Software Engineering Agents via Scaling Test-Time Compute [61.00662702026523]
より大規模なモデルではなく、推論時間の増加を活用する統合されたテスト時間計算スケーリングフレームワークを提案する。
当社のフレームワークには,内部TTCと外部TTCの2つの補完戦略が組み込まれている。
当社の textbf32B モデルは,DeepSeek R1 671B や OpenAI o1 など,はるかに大きなモデルを上回る 46% の課題解決率を実現している。
論文 参考訳(メタデータ) (2025-03-31T07:31:32Z) - EfficientLLaVA:Generalizable Auto-Pruning for Large Vision-language Models [64.18350535770357]
マルチモーダル推論の効率を高めるために,大規模視覚言語モデルの自動プルーニング手法を提案する。
提案手法では,所望のプルーニングポリシーを探索するために,少数のサンプルのみを活用する。
視覚的質問応答のためのScienceQA, Vizwiz, MM-vet, LLaVA-Benchデータセットについて広範な実験を行った。
論文 参考訳(メタデータ) (2025-03-19T16:07:04Z) - POGEMA: A Benchmark Platform for Cooperative Multi-Agent Pathfinding [76.67608003501479]
POGEMAは、学習のための高速環境、問題インスタンスジェネレータ、可視化ツールキットを含む、総合的なツールセットである。
また、プライマリ評価指標に基づいて計算されるドメイン関連メトリクスの範囲を規定する評価プロトコルを導入し、定義する。
この比較の結果は、様々な最先端のMARL、検索ベース、ハイブリッド手法を含む。
論文 参考訳(メタデータ) (2024-07-20T16:37:21Z) - Efficient Multi-agent Reinforcement Learning by Planning [33.51282615335009]
マルチエージェント強化学習(MARL)アルゴリズムは、大規模意思決定タスクの解決において、目覚ましいブレークスルーを達成している。
既存のMARLアルゴリズムの多くはモデルフリーであり、サンプル効率を制限し、より困難なシナリオでの適用を妨げている。
政策探索のための集中型モデルとモンテカルロ木探索(MCTS)を組み合わせたMAZeroアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-05-20T04:36:02Z) - Heuristic-free Optimization of Force-Controlled Robot Search Strategies
in Stochastic Environments [13.622757453459748]
比較的単純なペグ・イン・ホールのタスクであっても、通常、穴のような関連する特徴を見つけるために探索動作を必要とする。
本稿では,検索戦略を最適化するための自動,データ駆動型,条件付フリーな手法を提案する。
我々は、THT電子部品のスパイラルとプローブ探索の文脈において、2つの異なる産業用ロボットに対するアプローチを評価した。
論文 参考訳(メタデータ) (2022-07-15T15:16:08Z) - MetaDistiller: Network Self-Boosting via Meta-Learned Top-Down
Distillation [153.56211546576978]
本研究では,ラベル生成器を用いて高い適合性を有するソフトターゲットを生成することを提案する。
このラベルジェネレータを最適化するためにメタ学習技術を用いることができる。
実験は CIFAR-100 と ILSVRC2012 の2つの標準分類ベンチマークで実施された。
論文 参考訳(メタデータ) (2020-08-27T13:04:27Z) - Fast and stable MAP-Elites in noisy domains using deep grids [1.827510863075184]
Deep-Grid MAP-ElitesはMAP-Elitesアルゴリズムの変種である。
この単純なアプローチは、適合性最適化の観点から競争性能を達成しつつ、動作記述子のノイズに対する耐性が著しく高いことを示す。
論文 参考訳(メタデータ) (2020-06-25T08:47:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。