論文の概要: ZoAQ: Adaptive Zeroth-Order Querying via Query-Reuse Coupling
- arxiv url: http://arxiv.org/abs/2609.22115v1
- Date: Wed, 19 Aug 2026 08:58:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.717602
- Title: ZoAQ: Adaptive Zeroth-Order Querying via Query-Reuse Coupling
- Title(参考訳): ZoAQ: Query-Reuse Couplingによるアダプティブゼロ階クエリ
- Abstract要約: ZoAQは、クエリ再利用を中心に構築された適応型ZOOメソッドである。
1.2Mクエリを使用して、固定ベースラインに対してクエリを43~48%削減する。
- 参考スコア(独自算出の注目度): 13.122541241904308
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Zeroth-order optimization (ZOO) estimates updates from function evaluations, making perturbation queries a primary cost. Fixed budgets spend the same number of queries at every step, while adaptive controllers may offset their savings by using additional oracle calls to test estimator reliability. We introduce ZoAQ, an adaptive ZOO method built around query reuse. Rather than discarding past evaluations after each step, ZoAQ makes them useful for both the next update and the decision to query further. This enables adaptive query allocation without extra validation queries. Our analysis characterizes when this agreement identifies an update that supports descent and guides the controller to a sufficient query budget. On synthetic objectives, ZoAQ reduces queries by 43-48% relative to fixed baselines using 1.2M queries. In black-box attacks, it reaches 100% success with 320 and 625 average queries on MNIST and CIFAR-10, respectively. Across four OPT fine-tuning settings, ZoAQ saves 43-46% forward evaluations relative to fixed K=4, with accuracy changes within tasks ranging from -0.018 to +0.010.
- Abstract(参考訳): ゼロ階最適化(ZOO)は、関数評価から更新を推定し、摂動クエリを主要なコストにする。
固定された予算は、各ステップで同じクエリ数を使い、アダプティブコントローラは、追加のオラクルコールを使用して、推定器の信頼性をテストすることで、貯蓄をオフセットする。
クエリ再利用を中心に構築された適応型ZOO手法であるZoAQを紹介する。
各ステップの後に過去の評価を捨てるのではなく、ZoAQは次のアップデートと、さらに問い合わせる決定の両方に役立ちます。
これにより、追加のバリデーションクエリなしで、アダプティブなクエリアロケーションが可能になる。
我々の分析では、この合意が下降をサポートする更新を特定し、十分なクエリ予算にコントローラを誘導するときに特徴付けられる。
合成目的により、ZoAQは1.2Mクエリを使用して、固定ベースラインに対してクエリを43-48%削減する。
ブラックボックス攻撃では、320と625の平均クエリをそれぞれMNISTとCIFAR-10でそれぞれ100%成功している。
OPTの微調整設定が4つあり、ZoAQは固定K=4に対して43-46%の前方評価を保存し、-0.018から+0.010までのタスクで精度が変更されている。
関連論文リスト
- Adaptive KappaSharp: Condition-Number Shaping for Preferential Bayesian Optimization [8.796729796675573]
本稿では, ヘッセン語に対する対角補正を提案し, 条件数を削減するとともに, 先行不確実性が高くなるような補正を行う。
アダプティブ・カッパ・シャープは標準のPBOベースラインを上回り、+10.9%である。
論文 参考訳(メタデータ) (2026-08-08T01:56:13Z) - Know Before You Fetch: Calibrated Retrieval-Budget Allocation for Retrieval-Augmented Generation [10.60293484295824]
適応RAGをキャリブレーションした検索予算配分として定式化する。
シーケンスログの確率とプレフィックスログの不確実性信号を正しさの確率に調整する。
シーケンスログの確率については、TriviaQAでは0.275から0.062に、NQでは0.643から0.009に、MS MARCOでは0.711から0.031に低下する。
論文 参考訳(メタデータ) (2026-06-29T08:36:33Z) - Operadic consistency: a label-free signal for compositional reasoning failures in LLMs [11.547457355495903]
我々は、このアイデアを操作整合性(OC)として、要求ごとの信号としてインスタンス化する。
OCは各データセットの精度と強く相関している。
モデル自身の思考連鎖から分解が抽出される5つのフロンティア思考モデルにおいて、同じ同コスト比較は正の選択的予測点推定リフトを与える。
論文 参考訳(メタデータ) (2026-06-11T17:50:40Z) - Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。
EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
論文 参考訳(メタデータ) (2026-05-28T09:45:47Z) - Instance-Optimal Estimation with Multiple LLM Judges on a Budget [84.31744861038106]
我々は、この問題を*予算付きヘテロスケダティックなマルチジャッジ推定*として定式化する。
K$のプロンプト-レスポンスペア、J$の既知のコストと未知のクエリ-ジャッジ分散が与えられた場合、目標は、$ell_p$-errorを最小化しながら、有界スコアベクトルを推定することである。
EST-IVWEは,予算の低次項までのオラクルIVWEレートと一致していることを示す。
論文 参考訳(メタデータ) (2026-05-22T08:26:08Z) - Offline RL for Adaptive Policy Retrieval in Prior Authorization [0.0]
保守的なQ-Learning(CQL)、Implicit Q-Learning(IQL)、Direct Preference Optimization(DPO)を使用してポリシーをトレーニングする。
CQLは、徹底的な検索を通じて、92%の判定精度(最高の固定価格のK$ベースラインよりも30ポイント以上)を達成する。
IQLは、検索ステップを44%削減し、すべてのポリシで唯一の肯定的なリターンを達成することで、最高のベースライン精度にマッチする。
論文 参考訳(メタデータ) (2026-04-06T19:40:26Z) - JoinGym: An Efficient Query Optimization Environment for Reinforcement
Learning [58.71541261221863]
結合順序選択(JOS)は、クエリの実行コストを最小化するために結合操作を順序付けする問題である。
木質強化学習(RL)のためのクエリ最適化環境JoinGymを提案する。
JoinGymは内部で、事前計算されたデータセットから中間結果の濃度を調べることで、クエリプランのコストをシミュレートする。
論文 参考訳(メタデータ) (2023-07-21T17:00:06Z) - On the Optimal Bounds for Noisy Computing [17.56584950469176]
Wevisit the problem of computing with noisy information considered in Feige et al. 1994。
与えられた要素に対して、目標は、各クエリの結果が確率$p$で反転されたときに、少なくとも1-delta$の確率で所望の関数を正しく回復することである。
本稿では、過去の結果に基づいて各クエリを適応的に設計できる適応型サンプリング設定と、過去の結果に依存しない非適応型サンプリング設定の両方について考察する。
論文 参考訳(メタデータ) (2023-06-21T00:31:23Z) - Adapting Neural Link Predictors for Data-Efficient Complex Query
Answering [45.961111441411084]
本稿では,複雑な問合せタスクに対して,ニューラルネットワーク予測スコアを再校正するために最適化されたパラメータ効率のスコア強調モデルを提案する。
CQD$mathcalA$は現在の最先端手法よりもはるかに正確な結果が得られる。
論文 参考訳(メタデータ) (2023-01-29T00:17:16Z) - CoSQA: 20,000+ Web Queries for Code Search and Question Answering [63.92224685262063]
CoSQAデータセットには、自然言語クエリとコードのペア用の20,604ラベルが含まれている。
本稿では,クエリコードマッチングを強化するために,CoCLRと呼ばれる対照的な学習手法を提案する。
我々は,CodeXGLUEを同じCodeBERTモデルで評価し,CoSQAのトレーニングにより,コード質問応答の精度が5.1%向上したことを示す。
論文 参考訳(メタデータ) (2021-05-27T15:37:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。