論文の概要: Learning the ARTS of Search for Automated Discovery
- arxiv url: http://arxiv.org/abs/2606.21891v1
- Date: Sat, 20 Jun 2026 05:47:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 21:52:48.849907
- Title: Learning the ARTS of Search for Automated Discovery
- Title(参考訳): 自動発見のためのARTSの学習
- Authors: Gurusha Juneja, Arnav Kumar Jain, Deepak Nathani, William Yang Wang, Xin Eric Wang,
- Abstract要約: 本稿では, 木探索のためのエージェント推論を提案し, 科学的発見を誘導する。
このスペースをナビゲートするために、推論言語モデルをデプロイします。
我々は、ARTSが主要なアルゴリズムより優れていることを示す。
- 参考スコア(独自算出の注目度): 62.89970162621959
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scientific discovery can be formulated as an iterative search process over the space of hypotheses and experiments. Contemporary methods navigate this space using heuristics such as MCTS. These algorithms conflate the merit of a hypothesis with the quality of its experimental execution. A promising hypothesis with preliminary execution is therefore ranked below a modest hypothesis whose execution is refined. Moreover, prior methods prune the search logs as the search progresses because the accumulated history outgrows the context window. We propose Agentic Reasoning for Tree Search (ARTS), where we deploy a reasoning language model to navigate this space. The model inspects prior execution logs, diagnoses whether earlier failures arose from faulty implementations or bad hypotheses, and selects the hypothesis to build on next. To mitigate challenges with context length, ARTS uses test-time training to instill the knowledge of search tree in the model weights. Across 22 tasks from MLGym and MLEBench, we show that ARTS outperforms leading algorithms, with over 15.3% relative improvement in the normalized score. With test-time training we show that a Qwen3-4B agent can match performance with closed-source frontier models like Gemini-3 Pro and GPT o3-reasoning with upto 5x lower inference cost. We further observe that on partially observable RL tasks, the test-time trained Qwen3-4B scientist surpasses ARTS with the o3 scientist by rediscovering the human-best recurrent-memory solution that heuristic methods prune away.
- Abstract(参考訳): 科学的発見は仮説と実験の空間上の反復的な探索プロセスとして定式化することができる。
現代の方法はMCTSのようなヒューリスティックを使ってこの空間をナビゲートする。
これらのアルゴリズムは、仮説の利点と、その実験的な実行の質を詳述する。
したがって、予備実行を伴う有望な仮説は、実行が洗練される控えめな仮説より下位にランクされる。
さらに,蓄積した履歴がコンテキストウィンドウを上回り,検索が進行するにつれて検索ログがプルークされる。
本稿では,木探索のためのエージェント推論(ARTS)を提案し,この空間をナビゲートするための推論言語モデルをデプロイする。
モデルは、以前の実行ログを検査し、欠陥実装や悪い仮説から初期の障害が生じたかどうかを診断し、次に構築する仮説を選択する。
文脈長による課題を軽減するため、ARTSはテストタイムトレーニングを使用して、モデルの重み付けに探索木の知識を注入する。
MLGymとMLEBenchの22のタスクにおいて、ARTSは、正規化スコアの15.3%以上の相対的な改善により、リードアルゴリズムよりも優れていた。
テスト時間トレーニングでは、Qwen3-4BエージェントがGemini-3 ProやGPT o3-reasoningのようなクローズドソースフロンティアモデルと最大5倍の推論コストで性能を比較できることを示した。
さらに、部分的に観察可能なRLタスクにおいて、テストタイムの訓練を受けたQwen3-4B科学者が、ヒューリスティックな手法が生み出す人間最強のリカレントメモリソリューションを再発見することにより、o3科学者とARTSを超越していることを観察した。
関連論文リスト
- Temporal Backtracking Search for Test-time Generative Video Reasoning [51.4821857044108]
生成的ビデオ推論は、シングルショットのパラダイムによってボトルネックになっている。
本稿では,検索空間を時間軸にシフトさせるTBS(Temporal Backtracking Search)を提案する。
厳格なアウト・オブ・ディストリビューション設定では、TBSは22.7%を達成し、解決された各エピソードは再起動されたブランチから始まる。
論文 参考訳(メタデータ) (2026-06-11T19:41:18Z) - Retrieval, Reward, and Training Protocols: What Matters in Training Search Agents? [15.605151408619895]
本稿では,探索エージェント訓練の3つの未探索次元を分離する制御的実証的研究について述べる。
まず、広く使われているWikipedia 2018コーパスにおける重要なデータカバレッジの問題を特定し、それを修正するだけで、トレーニングアルゴリズムの違いよりも大きな利益が得られることを示す。
第2に、結果に基づく報酬法とプロセスに基づく報酬法を3つのベースモデルで体系的に比較し、最も単純な結果に基づくアプローチが、ほとんどの設定において、競争力や優れたパフォーマンスを達成することを発見した。
第三に、トレーニングデータの多様性、非政治データ利用、検索予算のスケーリングを分析し、効果的な検索エージェントの訓練のための実践的ガイドラインを精査する。
論文 参考訳(メタデータ) (2026-05-27T03:04:36Z) - AutoResearch-RL: Perpetual Self-Evaluating Reinforcement Learning Agents for Autonomous Neural Architecture Discovery [5.110708177092157]
本稿では、強化学習エージェントが人間の監督なしにオープンエンドニューラルネットワーク研究を行うためのフレームワークであるAutoResearch-RLを提案する。
我々はこれをマルコフ決定過程として定式化し、軽微な仮定の下で収束保証を導出し、1つのGPUナノチャット事前学習ベンチマークで経験的に実証する。
論文 参考訳(メタデータ) (2026-03-07T17:49:44Z) - Beneficial Reasoning Behaviors in Agentic Search and Effective Post-training to Obtain Them [23.986035712600657]
エージェント探索における効果的な推論行動パターンを研究するための推論駆動パイプラインを提案する。
我々は,情報検証,権限評価,適応探索,エラー回復の4つの有益な推論行動を特定する。
Llama3.2-3B と Qwen3-1.7B では, RL を用いたエージェントサーチモデルを直接訓練した場合と比較して, 行動プライミングが 35% 以上の利得を示す。
論文 参考訳(メタデータ) (2025-10-08T00:20:35Z) - Tree Search for Language Model Agents [73.97960454223164]
対話型Web環境での探索と多段階計画を行うために,LMエージェントの推論時探索アルゴリズムを提案する。
我々のアプローチは、実環境空間内で機能する最優先木探索の一形態である。
現実的なWebタスクにおいて有効性を示すLMエージェントのための最初の木探索アルゴリズムである。
論文 参考訳(メタデータ) (2024-07-01T17:07:55Z) - Autonomous Tree-search Ability of Large Language Models [58.68735916408101]
大規模言語モデルは、高度なプロンプト技術で顕著な推論能力に優れています。
近年の研究では、LLMがより困難な推論タスクを解くために受動的木探索を行えるように、検索ロジックを定義するために外部プログラムを活用することが提案されている。
我々は,LLMの自律木探索能力という新しい概念を提案し,正しい解を求める探索軌跡を含む応答を自動生成する。
論文 参考訳(メタデータ) (2023-10-14T14:14:38Z) - Reasoning-Based Software Testing [9.341830361844337]
推論ベースのソフトウェアテスト(RBST)は、テスト問題を因果推論タスクとして考える新しい方法です。
我々は、因果推論は人間が宇宙を「スマートに」探索する過程をより自然にエミュレートしていると主張する。
本論文で報告された予備結果は有望である。
論文 参考訳(メタデータ) (2023-03-02T14:27:21Z) - Learning Optimal Tree Models Under Beam Search [27.92120639502327]
既存のツリーモデルは、トレーニングテストの相違に悩まされている。
我々はビームサーチとキャリブレーションの下でベイズ最適性の概念を開発する。
本稿では,ビームサーチによる最適木モデル学習のための新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-27T17:20:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。