論文の概要: Canopy: Exploiting Piecewise Smooth Tree Priors for Multi-Fidelity Bandits

• arxiv url: http://arxiv.org/abs/2609.30017v1
• Date: Thu, 24 Sep 2026 15:55:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:10.070128
• Title: Canopy: Exploiting Piecewise Smooth Tree Priors for Multi-Fidelity Bandits
• Title（参考訳）: Canopy:マルチフィデリティバンドのスムーズな木を爆発させる
• Abstract要約: CANOPYは、世界規模で仮定するのではなく、そのスムーズさがどこにあるかを学ぶマルチフィデリティツリーバンディットである。 我々は、不連続の数に追加費用が加算される固定予算と後悔の保証を証明する。 CanOPYは、ルーティング、トップ$の識別、テストタイム検索、キャッシュ、プロンプトトリミングなど、マッチした予算パフォーマンスを継続的に改善する。
• 参考スコア（独自算出の注目度）: 9.090479141002605
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many LLM inference problems, including model routing, prefix-cache management, prompt trimming, and test-time search, can be viewed as optimization over a tree. This structure arises naturally from autoregressive generation: every prefix defines a node, and its continuations form a subtree below it. Internal nodes of the tree provide cheap but biased estimates of a region's value, while leaf evaluations are expensive but accurate. Hierarchical bandit methods can exploit this structure, but typically require a specific smoothness schedule to be specified in advance, even though real objectives are often only piecewise smooth and their optima may lie near sharp boundaries. We introduce CANOPY, a multi-fidelity tree bandit that learns where the smoothness prior is valid rather than assuming it globally. CANOPY uses cheap random-path probes to construct an online certificate of local aggregation bias, then directs expensive leaf evaluations toward cells where the certificate detects a smoothness violation. We prove fixed-budget and regret guarantees whose additional cost is additive in the number of discontinuities, recovering the smooth-tree rate when no violations are present and approaching structure-blind search as violations become dense. Across routing, top-$k$ identification, test-time search, caching, and prompt trimming, CANOPY consistently improves matched-budget performance, including $2.9\times$ higher top-10 recall on a 1000-model pool, $1.6\times$ more SWE-bench Verified issues resolved than best-of-$N$, and $3.6\times$ lower median time-to-first-token with prefix caching.
• Abstract（参考訳）: モデルルーティング、プレフィックスキャッシュ管理、プロンプトトリミング、テストタイム検索など、多くのLCM推論問題は、ツリー上の最適化と見なすことができる。 この構造は自然に自己回帰生成から生じ、全ての接頭辞はノードを定義し、その連続はその下にある部分木を形成する。 木の内部ノードは安価だが偏りのある評価値を提供し、葉の評価は高価だが正確である。 階層的バンディット法はこの構造を利用することができるが、通常、実際の目的はしばしば断片的に滑らかであり、その最適性は鋭い境界付近にあるかもしれないにもかかわらず、前もって指定された特定の滑らかさスケジュールを必要とする。 我々はCANOPYを紹介した。CANOPYは,世界規模で仮定するのではなく,そのスムーズさがどこにあるのかを学習するマルチフィデリティツリーバンディットである。 CANOPYは、安価なランダムパスプローブを使用して、局所的な凝集バイアスのオンライン証明書を構築し、その証明書が滑らかさ違反を検出する細胞に高価な葉の評価を指示する。 我々は不連続点数に追加費用が加算される固定予算と後悔の保証を証明し、違反が存在しない場合にスムーズなツリーレートを回復し、違反が密集するにつれて構造的盲点探索に近づいた。 ルーティング、トップ$kの識別、テストタイムの検索、キャッシュ、即時トリミングなど、CANOPYは、1000モデルプールにおける2.9\times$上位10回のリコール、$1.6\times$それ以上のSWE-bench検証問題、$3.6\times$下位中央のタイム・ツー・ファースト・トークンとプレフィックスキャッシングを含む、一致した予算パフォーマンスを継続的に改善している。

関連論文リスト

• CAST: Canonical Approximate Schur Tree for Approximate Cholesky on Graphs [28.99342075394145]
  CAST(Canonical Approximate Schur Tree)を導入する。 すべての実現は接続され、正確にd-1エッジを含むが、選択された各エッジを木非包含確率の逆数で重み付けすることで更新は不偏となる。 結果として得られた更新は未バイアスで接続され、正確に$O(d)$時間にサンプリングでき、正規化されたローカルSchurエラーの第2モーメントに1/$のバインドを満足する。
  論文  参考訳（メタデータ） (2026-09-08T15:12:01Z)
• Escaping Redundant Reasoning: Structure-Aware Search for Inference-Time LLMs [8.676645474808835]
  大規模言語モデル(LLM)による推論時間探索は、しばしば構造的または意味論的に類似した軌道の小さなセットに集中する。 BASINは、状態の推論を盆地にグループ化する学習不要な構造認識選択法である。
  論文  参考訳（メタデータ） (2026-09-01T05:15:59Z)
• Two-Fidelity Best-Action Identification for Stochastic Minimax Tree [7.171524130884609]
  ミニマックス樹における固定信頼ベストアクション識別(BAI)について検討した。 本研究では,複数要素の平坦なバンドイットのアイデアを木にもたらす2要素木探索アルゴリズムである2FFSを提案する。
  論文  参考訳（メタデータ） (2026-06-01T05:21:40Z)
• $\nabla$-Reasoner: LLM Reasoning via Test-Time Gradient Descent in Latent Space [71.23672814629448]
  $nabla$-Reasonerは、トークンログに対する差別化可能な最適化をデコードループに統合する反復生成フレームワークである。 $nabla$-Reasonerは、挑戦的な数学的推論ベンチマークで20%以上の精度の向上を実現している。
  論文  参考訳（メタデータ） (2026-03-05T08:42:54Z)
• TreeGrad-Ranker: Feature Ranking via $O(L)$-Time Gradients for Decision Trees [73.0940890296463]
  確率値は、決定木の局所的な予測値を説明する特徴のランク付けに使用される。 TreeGradは、共同目的の多重線型拡張の勾配を$O(L)$時間で計算する。 TreeGrad-Rankerは、機能ランキングを生成するために共同目標を最適化しながら、勾配を集約する。 TreeGrad-Shapは、積分パラメータを持つベータシェープ値を計算するための数値的に安定なアルゴリズムである。
  論文  参考訳（メタデータ） (2026-02-12T06:17:12Z)
• Don't Get Lost in the Trees: Streamlining LLM Reasoning by Overcoming Tree Search Exploration Pitfalls [83.89771461061903]
  検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。 検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。 意味論的に等価なコンテンツを持つ冗長な状態による$textitover-Exploration$と、検証器のスコアリングにおける高いばらつきに起因する$textitunder-Exploration$である。 各種木探索アルゴリズムに適合するフレキシブルなプラグアンドプレイシステムであるFETCHを提案する。
  論文  参考訳（メタデータ） (2025-02-16T16:12:01Z)
• Adaptive Split Balancing for Optimal Random Forest [8.916614661563893]
  そこで本研究では,新しい適応型分割バランス法を用いて木を構築するランダムフォレストアルゴリズムを提案する。 本手法は,データから木構造を適応的に学習しながら,シンプルでスムーズなシナリオで最適性を実現する。
  論文  参考訳（メタデータ） (2024-02-17T09:10:40Z)
• An Efficient Adversarial Attack for Tree Ensembles [91.05779257472675]
  傾斜促進決定木(DT)や無作為林(RF)などの木に基づくアンサンブルに対する敵対的攻撃 提案手法は,従来のMILP (Mixed-integer linear programming) よりも数千倍高速であることを示す。 私たちのコードはhttps://chong-z/tree-ensemble- attackで利用可能です。
  論文  参考訳（メタデータ） (2020-10-22T10:59:49Z)
• On $\ell_p$-norm Robustness of Ensemble Stumps and Trees [83.81523991945018]
  我々は,アンサンブルスタンプの音響検証のための効率的なプログラムベースアルゴリズムを開発した。 我々は,アンサンブル・スタンプや木を訓練するための最初の認証された防御法を,$ell_p$ノルム摂動に関して実証した。
  論文  参考訳（メタデータ） (2020-08-20T03:42:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。