論文の概要: Agent-Conditioned Routing: Diverse Reasoning Paths Within One Frozen Model
- arxiv url: http://arxiv.org/abs/2610.37375v1
- Date: Tue, 27 Oct 2026 15:06:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.669832
- Title: Agent-Conditioned Routing: Diverse Reasoning Paths Within One Frozen Model
- Title(参考訳): エージェント・コンディションド・ルーティング:1つの凍結モデル内の逆推論経路
- Abstract要約: Agent-Conditioned Routingは、学習した入力依存トークンルータを保持しながら、並列に永続的で、訓練されていない共有/プライベートな専門家資格マスクを割り当てる。
4つの軌道におけるソフト・コレクト・ソリューションのうち、少なくとも2つの異なるプライマリ・メソッドをもたらす問題の数である。
整合性改善はACRのマルチメソッドカウントの優位性を示す。
- 参考スコア(独自算出の注目度): 0.7188922970315902
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generating several solutions can expose alternative methods, but additional trajectories often paraphrase one dominant approach. We investigate whether the conditional capacity of a frozen sparse mixture-of-experts (MoE) model can provide such diversity from one problem prompt, without user-assigned roles, prescribed methods, fine-tuning, or model copies. Agent-Conditioned Routing (ACR) assigns $m$ parallel trajectories persistent, untrained shared/private expert-eligibility masks while preserving the learned, input-dependent token router. On a screened 126-question multi-mode mathematics and physics benchmark, with model judges reading the reported derivations in full, we count the number of problems yielding at least two distinct primary methods among soft-correct solutions in four trajectories. ACR reaches approximately twice as many such problems as the strongest temperature setting under GLM 5.3 (37.3 versus 18.7), and 1.67 times as many under GPT-5.6 Sol (45.00 versus 27.00), at matched output budgets. A blinded four-expert audit on a stratified sample of 30 problems also finds more multi-method solutions with ACR on both backbones, with lower correctness. Matched-eligibility ablations show modest multi-method count advantages for ACR, while token-resampled masks attain higher correctness. An informed sequential prompt elicits more diversity still, using previous solutions and explicit requests for alternative methods. ACR adds about 160 KiB of mask state. In a three-problem microbenchmark capped at 1,024 tokens, its latency and peak VRAM usage remain within 3% of batched temperature sampling.
- Abstract(参考訳): いくつかの解を生成することは別の方法を公開することができるが、追加の軌道はしばしば1つの支配的なアプローチを言い表す。
凍結したスパース混合物(MoE)モデルの条件付きキャパシティが,ユーザ指定のロール,所定のメソッド,微調整,モデルコピーを使わずに,一つの問題プロンプトからそのような多様性を提供できるかどうかを検討する。
Agent-Conditioned Routing (ACR)は、学習した入力依存トークンルータを保存しながら、永続的、訓練されていない共有/プライベートなエキスパート-適格マスクを$m$並列トラジェクトリに割り当てる。
126の探索型マルチモード数学と物理のベンチマークで、モデル審査員が報告された導出を全て読み上げると、4つのトラジェクトリにおけるソフト・コレクティブ・ソリューションのうち、少なくとも2つの異なるプライマリ・メソッドをもたらす問題の数を数える。
ACRは、GLM 5.3(37.3対18.7)の最高温度設定の約2倍、GPT-5.6ソル(45.00対27.00)の約1.67倍の出力予算で到達している。
ブラインドされた30の問題の成層化サンプルに関する4つの専門家による監査では、両背骨のACRによるよりマルチメソッドの解がより低い精度で見つかる。
整合性改善はACRのマルチメソッドカウントの優位性を示す一方、トークン再サンプリングマスクは高い正当性を示す。
インシデント・シーケンシャルなプロンプトは、以前のソリューションと代替メソッドの明示的な要求を使って、より多くの多様性を導き出す。
ACRは、約160KiBのマスク状態を追加した。
1,024トークンでキャップされた3プロブレムのマイクロベンチマークでは、そのレイテンシとピークVRAM使用量はバッチ温度サンプリングの3%以内に留まっている。
関連論文リスト
- Diversity Combining for Multi-Path LLM Reasoning [18.624173885690308]
無線通信の多様性結合問題としてマルチパス推論を定式化する。
我々は4パスのパイロットを使って$K*$を選択し、MV@$K=32$の精度を9,6$-$103%のMV@$K=32$で保持するAdaptive-Kルールを導出する。
論文 参考訳(メタデータ) (2026-09-30T02:52:19Z) - Refining Over Resampling: Test-Time Self-Correction for LLM Reasoning [3.8191765711200065]
本稿では,テスト時間計算を用いて候補解の探索と改良を行う検証自由幅改良フレームワークを提案する。
提案手法は, 難解な復号化, 多数決投票, 検証器ベースのベスト・オブ・N$, ビームサーチ, および複数のオープンウェイトモデル間でのルック・復号化を一貫して改善する。
論文 参考訳(メタデータ) (2026-08-06T06:38:37Z) - Towards Fast and Effective Long Video Understanding of Multimodal Large Language Models via Adaptive Quasi-Gaussian Sampling [71.62893745623526]
ビデオフレーム選択は準ガウスサンプリングの問題である。
我々はAdaQと呼ばれる適応的でトレーニングなしのアプローチを提案する。
論文 参考訳(メタデータ) (2026-06-23T06:13:30Z) - Detection Without Correction: A Two-Parameter Decomposition of Multi-Stage LLM Pipelines [0.764671395172401]
本稿では,マルチエージェントの議論,本質的な自己補正,検索強化検証パイプラインについて検討する。
条件付き誤り訂正率は一貫して支配的である。
検出しきい値を安定モデル/プロトコールレベルの正則性として特徴付ける。
論文 参考訳(メタデータ) (2026-05-26T18:26:15Z) - Reducing Hallucinations in LLM-Generated Code via Semantic Triangulation [2.8646222242803643]
我々はセマンティックトライアングルを導入し、解間の正確な検証可能なマッピングを保持する方法でプログラミング問題を変換する。
LiveCodeBenchとCodeEloのベンチマークでは、セマンティックトライアングルによって生成されたコードの信頼性が21%向上している。
また、複数の有効だが等価でない解を持つタスクに対して、真のコンセンサスを一貫して形成する唯一のアプローチでもある。
論文 参考訳(メタデータ) (2025-11-15T16:45:14Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳(メタデータ) (2025-09-25T14:05:55Z) - MAgICoRe: Multi-Agent, Iterative, Coarse-to-Fine Refinement for Reasoning [80.15393178083607]
大規模言語モデル(LLM)推論は、テストタイムアグリゲーション戦略、すなわち、複数のサンプルを生成し、生成されたサンプル間で投票することで改善することができる。
Refinementは、LLM生成したフィードバックを使ってソリューションの品質を改善する方法を提供する。
本稿では,問題の難易度を,難易度や難易度に分類することで,過度な改善を回避するMagICoReを提案する。
論文 参考訳(メタデータ) (2024-09-18T17:12:41Z) - Large Language Monkeys: Scaling Inference Compute with Repeated Sampling [81.34900892130929]
モデルから候補解を繰り返しサンプリングする簡単な手法を用いて、推論計算をスケーリングのための別の軸として検討する。
複数のタスクやモデルにまたがって、カバレッジは4桁以上のサンプル数でスケールする。
コードや形式的証明のようなドメインでは、回答が自動的に検証されるので、カバレッジの増加は直接的にパフォーマンスの向上につながります。
論文 参考訳(メタデータ) (2024-07-31T17:57:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。