Fugu-MT 論文翻訳(概要): Test-Time Compute for Dense Retrieval: Agentic Program Generation with Frozen Embedding Models

論文の概要: Test-Time Compute for Dense Retrieval: Agentic Program Generation with Frozen Embedding Models

arxiv url: http://arxiv.org/abs/2605.11374v1
Date: Tue, 12 May 2026 00:56:34 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-13 21:48:56.500407
Title: Test-Time Compute for Dense Retrieval: Agentic Program Generation with Frozen Embedding Models
Title（参考訳）: 密度検索のためのテスト時間計算:凍結埋め込みモデルによるエージェントプログラム生成
Abstract要約: テストタイム計算は大きな推論モデルにしか利益がないと広く信じられている。また、小さな埋め込みモデルにも役立ちます。エージェントプログラム探索ループを用いて,凍結埋め込みAPI上で259個の候補推論プログラムを探索する。
参考スコア（独自算出の注目度）: 5.943245848892104
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Test-time compute is widely believed to benefit only large reasoning models. We show it also helps small embedding models. Most modern embedding checkpoints are distilled from large LLM backbones and inherit their representation space; a frozen embedding model should therefore benefit from extra inference compute without retraining. Using an agentic program-search loop, we explore 259 candidate inference programs over a frozen embedding API across ninety generations. The entire Pareto frontier collapses onto a single algebra: a softmax-weighted centroid of the local top-K documents interpolated with the query. This parameter-free default lifts nDCG@10 statistically significantly across seven embedding-model families spanning a tenfold parameter range, with held-out full-BEIR validation confirming the lift on every model tested.
Abstract（参考訳）: テストタイム計算は大きな推論モデルにしか利益がないと広く信じられている。また、小さな埋め込みモデルにも役立ちます。ほとんどの現代の埋込チェックポイントは、大きなLLMバックボーンから蒸留され、それらの表現空間を継承する。エージェントプログラム探索ループを用いて,90世代にわたる凍結埋込API上で259個の候補推論プログラムを探索する。パレートフロンティア全体が1つの代数に崩壊し、局所的なトップK文書のソフトマックス重み付きセントロイドがクエリに補間される。このパラメータフリーデフォルトは、10倍のパラメータ範囲にまたがる7つの埋め込みモデルファミリに対して統計的にnDCG@10を持ち上げる。

関連論文リスト

AgentFold: Closed-Loop Agentic Search for Protein Folding Model Design [27.154390712714264]
我々は,折りたたみモデル開発を,実行可能なコードバリアントに対するクローズドループ検索として定式化するフレームワークであるAgentFoldを提案する。一致した計算予算の下で、AgentFoldは、独立したCodex提案よりも最高のlDDTを7.5%改善する。結果として生じる介入の痕跡は、反復的な経験的デザインパターンを示す。
論文参考訳（メタデータ） (2026-08-27T07:38:16Z)
Rethinking Reward Models for Multi-Domain Test-Time Scaling [91.76069784586149]
従来の作業では、プロセス報酬モデル(PRM)が最終回答のみを評価する結果報酬モデル(ORM)を上回っていると仮定しています。 14の異なる領域にまたがる4つの報酬モデル変種を統一的に評価する。 LLMの自動ラベル付けからラベルノイズを継承し,長い推論軌跡の評価に難渋するPRM方式の段階的スコアリングが原因と考えられる。
論文参考訳（メタデータ） (2025-10-01T04:21:14Z)
Predictive Analytics for Collaborators Answers, Code Quality, and Dropout on Stack Overflow [5.4414562674321765]
予測モデルの開発にStack Overflowを使用した以前の研究では、しばしば3-5モデルの限られたベンチマークや任意の選択方法が採用されていた。本研究は,ユーザが回答する可能性のある質問数,コード品質違反,ドロップアウト状況など,3つのタスクにまたがる21のアルゴリズムを評価した。
論文参考訳（メタデータ） (2025-06-23T06:23:12Z)
Maximally-Informative Retrieval for State Space Model Generation [59.954191072042526]
テスト時に特定のクエリに対するモデル不確実性を最小化するために、Retrieval In-Context Optimization (RICO)を導入する。文書検索に外部に依存した従来の検索強化生成(RAG)とは異なり,本手法はモデルから直接のフィードバックを利用する。モデル勾配を用いた標準のトップ$kの検索は、最適化手順を近似し、残余損失への接続を提供することを示す。
論文参考訳（メタデータ） (2025-06-13T18:08:54Z)
Performance of Machine Learning Classifiers for Anomaly Detection in Cyber Security Applications [0.1601392577755919]
この研究は、2つの不均衡なパブリックデータセット上の機械学習モデルを実証的に評価する。テスト対象はeXtreme Gradient Boosting (XGB) と Multi Layer Perceptron (MLP) である。 IterativeImputerの結果は平均値と中央値に匹敵するが、複雑性と実行時間の増加のために大規模なデータセットには推奨されない。
論文参考訳（メタデータ） (2025-04-26T02:43:27Z)
Sample, Don't Search: Rethinking Test-Time Alignment for Language Models [55.2480439325792]
新しいテストタイムアライメントアプローチであるQAlignを紹介します。テスト時間計算をスケールする際、QAlignは各プロンプトの最適配向分布からのサンプリングに収束する。マルコフ連鎖モンテカルロのテキスト生成における最近の進歩を取り入れることで、基礎となるモデルを変更したり、ロジットアクセスを必要とせずに、より良い整合出力を可能にする。
論文参考訳（メタデータ） (2025-04-04T00:41:40Z)
Fitting networks with a cancellation trick [7.289672463326423]
新しいネットワークモデルとしてlogit-DCBMを提案する。 $beta$-model や LSM と同様に、logit-DCBM には非線形因子が含まれており、パラメータの適合は困難である。 R-SCOREは、多くの場合、既存のスペクトルアプローチよりも大幅に改善される。
論文参考訳（メタデータ） (2025-02-23T21:51:34Z)
ProofAug: Efficient Neural Theorem Proving via Fine-grained Proof Structure Analysis [50.020850767257095]
本稿では,LLMに様々な粒度で自動化手法を付加するProofAugを提案する。本手法は,オープンソースのDeep-math-7bベースモデルとIsabelle証明アシスタントを用いて,MiniF2Fベンチマークで検証した。また、ProofAugのLean 4バージョンを実装し、Kimina-Prover-seek-Distill-1.5Bのパス@1のパフォーマンスを44.3%から50.4%に改善します。
論文参考訳（メタデータ） (2025-01-30T12:37:06Z)
Finding Needles in Emb(a)dding Haystacks: Legal Document Retrieval via Bagging and SVR Ensembles [51.0691253204425]
本稿では,サポートベクタ回帰アンサンブル,ブートストラップアグリゲーション(バッグ),およびドイツ法情報検索データベース(GerDaLIR)への埋め込み空間を利用した検索手法を提案する。投票アンサンブルを用いてベースライン上のリコールの改善を示し、トレーニングやディープラーニングモデルを微調整することなく、有望な初期結果を提案する。
論文参考訳（メタデータ） (2025-01-09T07:21:44Z)
Zeroth-Order Adaptive Neuron Alignment Based Pruning without Re-Training [7.972074133591484]
我々は, LLMの任意のプルーニングアルゴリズム上で使用可能な, エフェストアップアルゴリズムである textbfNeuroAl を提案する。我々の手法は、パフォーマンス・ランタイムトレードオフの観点から最新の最先端手法よりも一貫して優れています。
論文参考訳（メタデータ） (2024-11-11T15:30:16Z)
Forgetting Curve: A Reliable Method for Evaluating Memorization Capability for Long-context Models [58.6172667880028]
長文モデルの暗記能力を測定するために,左折曲線と呼ばれる新しい手法を提案する。テストコーパスと実験環境に頑健であることの利点を, 忘れる曲線は有益であることを示す。本測定は,RNN/SSMモデルの有効性を疑問視しながら,トランスフォーマー拡張手法の有効性を示す実証的な証拠を提供する。
論文参考訳（メタデータ） (2024-10-07T03:38:27Z)
Multimodal Learned Sparse Retrieval with Probabilistic Expansion Control [66.78146440275093]
学習検索(LSR)は、クエリとドキュメントを疎語彙ベクトルにエンコードするニューラルネットワークのファミリーである。テキスト画像検索に焦点をあて,マルチモーダル領域へのLSRの適用について検討する。 LexLIPやSTAIRのような現在のアプローチでは、大規模なデータセットで複雑なマルチステップのトレーニングが必要です。提案手法は, 密度ベクトルを凍結密度モデルからスパース語彙ベクトルへ効率的に変換する。
論文参考訳（メタデータ） (2024-02-27T14:21:56Z)
TACRED Revisited: A Thorough Evaluation of the TACRED Relation Extraction Task [80.38130122127882]
TACREDはリレーショナル抽出(RE)において最も大きく、最も広く使われているクラウドソースデータセットの1つであるパフォーマンスの天井に到達したのか、改善の余地はあるのか? ラベルエラーは絶対F1テストエラーの8%を占めており、例の50%以上を可逆化する必要がある。
論文参考訳（メタデータ） (2020-04-30T15:07:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。