論文の概要: Bayesian Test-Time Inference of Task-Aligned Similarity from Weak Interactive Feedback
- arxiv url: http://arxiv.org/abs/2610.18656v1
- Date: Tue, 13 Oct 2026 16:19:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 20:18:37.896643
- Title: Bayesian Test-Time Inference of Task-Aligned Similarity from Weak Interactive Feedback
- Title(参考訳): 弱相互作用フィードバックによるタスク指向類似性のベイズテスト時間推定
- Abstract要約: 言語モデルシステムは、類似性を比較することで、繰り返しテスト時の決定を行う。
しかし、類似性はユニークではない:語彙、意味、構造、類似性はNの選択点を取得することができる。
本稿では,現在の意思決定を統括するトレーニングフリーベイズ手法であるAxis Interactive Signalsを紹介する。
- 参考スコア(独自算出の注目度): 50.42640957891911
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Language model systems repeatedly make test-time decisions by comparing similarity: they retrieve exemplars, rank candidates, and revise responses. Yet similarity is not unique: lexical, semantic, structural, and stylistic resemblance can point to different candidates, and the task-aligned notion can change across instances. We introduce BASIS (Bayesian Axis Selection via Interactive Signals), a training-free Bayesian method that uses weak test-time feedback to infer which criterion in a supplied, task-specific library governs the current decision. It maintains a joint posterior over candidate targets and criteria, updates it from scalar scores, pairwise preferences, or verifier outputs, and selects probes by expected information gain. In a finite noisy model, we characterize when the target-criterion pair is recoverable and show why fixed-criterion and fixed-mixture rules can fail under criterion shift. Across concept recovery, reasoning exemplar selection, and response refinement, BASIS improves six-probe concept-recovery Success@1 from 56.0% to 68.1%, reasoning accuracy from 72.3% to 73.1%, and refinement win rate from 61.4% to 63.8% over tuned static mixtures. It also exceeds compute-matched best-of-N selection on reasoning (72.1%) and refinement (61.2%). Gains are largest under criterion mismatch and with larger candidate pools, and matched controls indicate that adaptive criterion weighting explains much of the benefit, with joint target-criterion inference adding further value. BASIS selects only among supplied criteria and does not discover new ones.
- Abstract(参考訳): 言語モデルシステムは、模範語を検索し、候補をランク付けし、応答を再修正する、類似性を比較することによって、テスト時の決定を繰り返し行う。
語彙的、意味的、構造的、スタイリスティックな類似性は異なる候補を指し示し、タスク整列の概念はインスタンス間で変化する。
本稿では,与えられたタスク固有のライブラリのどの基準が現在の決定を下すかを推定するために,弱いテスト時間フィードバックを用いたトレーニングフリーベイズ手法であるBASISを紹介する。
候補の目標と基準に対して共同で後続を維持し、スカラースコア、ペアの選好、検証結果から更新し、期待される情報ゲインによってプローブを選択する。
有限ノイズモデルでは、目標基準ペアが回復可能であった場合の特徴付けを行い、なぜ固定基準と固定混合規則が基準シフトで失敗するのかを示す。
BASISは、概念の回復、推理的な選択、反応の洗練などを通じて、56.0%から68.1%に6プローブのSuccess@1を改良し、精度は72.3%から73.1%に、改善率は61.4%から63.8%に改善した。
また、推論(72.1%)と改良(61.2%)の計算マッチングのベスト・オブ・N選択を上回っている。
利得は、基準ミスマッチと、より大きな候補プールの下で最大であり、一致した制御は、適応的基準重み付けが多くの利点を説明できることを示している。
BASISは供給された基準のうちのみを選択し、新しい基準を発見できない。
関連論文リスト
- Benchmarking candidate coverage and rejection policy transfer in typed decision models [7.736174008951463]
公開参照ラベルを用いてLaya,Jev,Qwen2.5-7B-Instructを比較した。
ソースキャリブレーションは、しばしばターゲットの動作点を保存するのに失敗する。
10の意図的候補を持つLayaは、スコープ外クエリの99.0%を検出するが、カバークエリの48.8%を拒否する。
論文 参考訳(メタデータ) (2026-10-02T14:36:46Z) - SIPO: Selective-Inference Policy Optimization for Tree-Structured Agentic RL [23.46401628317993]
本稿では、この区別をツリーベースの信用評価に組み込んだ選択推論ポリシー最適化(SIPO)を提案する。
そのスケールのない分岐基準は、一貫した相対的なスケールで生成スコアと兄弟のペナルティを保持する。
SIPOは比較手法の中で最も高いマルチホップとシングルホップの平均を達成している。
論文 参考訳(メタデータ) (2026-09-28T10:09:48Z) - Likelihood Ranking doesn't Scale Like Prompting in LLMs [91.56564968539271]
多重選択QAでは、質問セットと回答セットに標準確率ベースのスコアがまだ条件付けられている。
我々は,同じ質問対から構築された宣言文の確率ランキングに基づく補完的プロトコルについて検討する。
論文 参考訳(メタデータ) (2026-09-24T11:16:53Z) - Broadening Uncertainty Estimation for Audio Question Answering Across Methods, Formats, and Inputs [11.862176451777286]
オーディオ言語モデルは、オーディオによって支持されない自信ある回答を生成することができる。
4つのオープンウェイトモデルと5つのオーディオQAベンチマークで,確率ベース,サンプリングベース,自己検証,明度,コントラストの測定値を比較した。
論文 参考訳(メタデータ) (2026-09-24T00:58:42Z) - Intrinsic Sequence-Likelihood Confidence in Retrieval-Dominated Extractive QA: Two Pre-Specified Negatives, and What They Do and Do Not Attribute [0.4310167974376404]
オープン言語モデルを微調整すると、自身の信頼度が誘引制御信号であるモデルが得られる。
我々は,実行前の基準下での両使用量を評価した。
検索だけで92-99.8%のベストケースの組み合わせ精度が回復する。
論文 参考訳(メタデータ) (2026-09-17T09:17:00Z) - Small Language Models as Judges for Rubric-Based Reinforcement Learning [57.707881387886516]
より小型の言語モデルが,より効率的かつ信頼性の高いルーリック・ベース・ジャッジとして機能するかどうかを考察する。
生成的評定,Yes/No Logprobマージン,Probe judgesの3つの基準レベルの判断を,小モデルから抽出する方法を比較した。
どちらのデータセットでも、Qwen3-1.7B Probeの審査員はこれらの方法の中で最強の基準レベルの合意を達成している。
論文 参考訳(メタデータ) (2026-08-30T20:00:17Z) - Coupling-Grouped XY-QAOA for Joint Anomaly-Feature Selection [0.0]
結合群 XY-QAOA は制約付き最適化問題に対する制約保存群付き角変種である。
ハードウェア対応の実装により、回路の深さは45.9%-61.3%、二ビットゲートは2.6%-5.2%減少する。
36-64キュービットにわたって、固定角は、一致したランダム可能なサンプリングよりも低エネルギーで実現可能なサンプルを出力する。
論文 参考訳(メタデータ) (2026-06-11T11:56:54Z) - CriterAlign: Criterion-Centric Rationale Alignment for Code Preference Judging [95.02210956333374]
本稿では,一対の選好評価にルーブリックに基づく判断を適応させる基準中心のフレームワークを提案する。
BigCodeRewardでは、CriterAlignはQwen2.5-VL-32Bモノリシック判事を60.4%から66.3%に改善した。
論文 参考訳(メタデータ) (2026-05-19T10:59:19Z) - Reference-Free Rating of LLM Responses via Latent Information [53.463883683503106]
本研究では,判断モデルに対して,自由テキスト応答にQuattスケールのスコアを割り当てるよう依頼する一般的な実践について検討する。
次に、内部モデル信号からスカラー評価を導出する潜在裁判官を提案し、評価する。
ペアとシングルレーティングのベンチマークの幅広いスイートの中で、潜在メソッドは標準のプロンプトにマッチするか、超えている。
論文 参考訳(メタデータ) (2025-09-29T12:15:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。