論文の概要: Alternative Strategies for Active Learning with Bayesian Bradley Terry Model
- arxiv url: http://arxiv.org/abs/2610.29416v1
- Date: Wed, 21 Oct 2026 08:41:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.292491
- Title: Alternative Strategies for Active Learning with Bayesian Bradley Terry Model
- Title(参考訳): Bayesian Bradley Terry Modelを用いたアクティブラーニングのための代替戦略
- Abstract要約: 我々は,Polya-Gammaデータ拡張を用いた効率的にギブズサンプリングを行うBayesian Bradley-Terryモデル(BBTM)を開発した。
本稿では,知識勾配(KG)の原理に基づく3つのアクティブラーニング戦略を提案する。
PSRは後部不確実性に対する後部平均能力の拡散を測定する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Comparative judgement uses pairwise comparisons to rank items, but recovering accurate rankings from a limited number of judgements depends on both the inference method and the pairs selected. We developed a Bayesian Bradley-Terry model (BBTM) that uses Polya-Gamma data augmentation for efficient Gibbs sampling and quantifies uncertainty in latent abilities and ranks. We propose three active learning strategies based on the knowledge gradient (KG) principle. We define our acquisition functions using Kendall's tau distance, posterior rank entropy, and posterior separation. Approximate one-step updates to posterior moments reduce the computational cost of evaluating candidate pairs. We also introduce Posterior Separation Reliability (PSR), which measures the spread of posterior mean abilities relative to posterior uncertainty. It provides an internal indicator of ranking reliability without requiring a reference ranking. In synthetic experiments covering different item counts, comparison budgets, and noise levels, BBTM generally recovers ranking more accurately than preference-based Bayesian comparative judgement (PBCJ). At low to moderate noise levels, the pairwise entropy pair selection strategy performs best in ranking recovery. However, at the highest noise levels, the KG strategy based on posterior separation produces better point rankings. PSR increases alongside improvements in ranking accuracy as comparisons accumulate. Robustness experiments identify the proportion of informative outcomes needed to meet specified accuracy targets within a fixed comparison budget. In a moderate noise setting, replacing 30\% of outcomes with random choices has little effect on ranking performance. These findings demonstrate the value of Bayesian inference and active learning pair selection for recovering ranks from limited, noisy paired comparisons.
- Abstract(参考訳): 比較判断は、ランク項目とペア比較を用いるが、限られた数の判定から正確なランクを復元することは、推測法と選択されたペアの両方に依存する。
我々は,Polya-Gammaデータを用いたベイズ型Bradley-Terryモデル(BBTM)を開発した。
本稿では,知識勾配(KG)の原理に基づく3つのアクティブラーニング戦略を提案する。
我々は、ケンドールのタウ距離、後階エントロピー、後段分離を用いて、取得関数を定義する。
後続モーメントへの1段階のアップデートを近似することで、候補ペアを評価する計算コストが削減される。
また,後方不確実性に対する後方平均能力の拡散を計測する後方分離信頼性(PSR)も導入した。
基準ランキングを必要とせずに、ランキングの信頼性を示す内部指標を提供する。
様々な項目数、比較予算、騒音レベルをカバーする合成実験において、BBTMは概して好みに基づくベイズ比較判定(PBCJ)よりも正確なランクを回復する。
低から中程度のノイズレベルにおいて、ペアワイズエントロピー対選択戦略はランキング回復において最善である。
しかし、最も高い騒音レベルにおいて、後続分離に基づくKG戦略はより良い点ランクを生成する。
比較が蓄積されるにつれて、PSRはランキング精度の向上とともに増加する。
ロバストネス実験は、固定比較予算内で特定の精度目標を満たすために必要な情報的結果の割合を特定する。
適度なノイズ設定では、結果の30\%をランダムな選択に置き換えることは、ランク付け性能にはほとんど影響しない。
これらの結果から,ベイズ推定値と能動的学習ペア選択値が,限られた雑音のペア比較値からランクを回復することを示す。
関連論文リスト
- MaPP: A Unified Marginalized Posterior-Predictive Framework for Data-Efficient RLVR [23.25125436885512]
検証可能な報酬を伴う強化学習は、ロールアウトとポリシー更新によってかなりのコストを発生させる。
データ効率のよいRLVRのための統合フレームワークであるMaPP(Marginalized Posterior-Predictive)を提案する。
MaPPは、標準群相対的優位性を、閉形式β-ビノミアル境界化による合成不変な内在的優位性に置き換える。
同じ後部を用いて、MaPPは不確実性を認識したプロンプト選択スコアを導出し、追加のロールアウトコストを伴わずにデータ効率を向上させる。
論文 参考訳(メタデータ) (2026-09-28T12:01:56Z) - Don't Pass$\mathtt{@}k$: A Bayesian Framework for Large Language Model Evaluation [4.082208996639461]
Pass$@k$ は LLM の推論のパフォーマンスを報告するのに広く使われているが、不安定で誤解を招くようなランキングを得ることが多い。
本稿では、Pass$@k$をモデルの基本成功確率と信頼区間の後方推定に置き換える原理的ベイズ評価フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-05T16:14:03Z) - Reference-Free Rating of LLM Responses via Latent Information [53.463883683503106]
本研究では,判断モデルに対して,自由テキスト応答にQuattスケールのスコアを割り当てるよう依頼する一般的な実践について検討する。
次に、内部モデル信号からスカラー評価を導出する潜在裁判官を提案し、評価する。
ペアとシングルレーティングのベンチマークの幅広いスイートの中で、潜在メソッドは標準のプロンプトにマッチするか、超えている。
論文 参考訳(メタデータ) (2025-09-29T12:15:52Z) - Language Model Preference Evaluation with Multiple Weak Evaluators [89.90733463933431]
PGEDは,複数のモデルに基づく評価器を用いて嗜好グラフを構築し,非循環的非競合性評価結果に対してこれらのグラフをアンサンブルし,デノテーズする手法である。
1)評価のためのモデルランキング、2)テスト時間スケーリングのための応答選択、3)モデル微調整のためのデータ選択である。
論文 参考訳(メタデータ) (2024-10-14T01:57:25Z) - Fair Pairs: Fairness-Aware Ranking Recovery from Pairwise Comparisons [2.056289813004423]
本稿では,ペア比較による公平性を考慮したランキング回復の問題を紹介する。
ペア比較から得られたランクの公平度を定量化するグループ条件付き精度尺度を提案する。
論文 参考訳(メタデータ) (2024-08-23T12:46:16Z) - ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。
Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
論文 参考訳(メタデータ) (2024-04-05T13:58:51Z) - Revisiting AP Loss for Dense Object Detection: Adaptive Ranking Pair
Selection [19.940491797959407]
本研究では, 平均精度 (AP) の損失を再考し, その重要な要素は, 正試料と負試料のランキングペアを選択することであることを明らかにした。
本稿では,AP損失を改善するための2つの方法を提案する。第1に,APE(Adaptive Pairwise Error)損失は,正と負の両方のサンプルにおいて,ペアのランク付けに重点を置いている。
MSCOCOデータセットで行った実験は、現在の分類とランキングの損失と比較して、提案手法の優位性を実証し、分析を支援した。
論文 参考訳(メタデータ) (2022-07-25T10:33:06Z) - Adaptive Sampling for Heterogeneous Rank Aggregation from Noisy Pairwise
Comparisons [85.5955376526419]
ランキングアグリゲーション問題では、各項目を比較する際に、様々な精度レベルが示される。
本稿では,ノイズのあるペアワイズ比較によってアイテムのランクを推定する,除去に基づくアクティブサンプリング戦略を提案する。
提案アルゴリズムは,商品の真のランキングを高い確率で返却できることを示す。
論文 参考訳(メタデータ) (2021-10-08T13:51:55Z) - Pointwise Binary Classification with Pairwise Confidence Comparisons [97.79518780631457]
ペアワイズ比較(Pcomp)分類を提案し、ラベルのないデータのペアしか持たない。
我々はPcomp分類をノイズラベル学習に結びつけて、進歩的UREを開発し、一貫性の正則化を課すことにより改善する。
論文 参考訳(メタデータ) (2020-10-05T09:23:58Z) - Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking
Fairness and Algorithm Utility [54.179859639868646]
Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。
学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。
本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-15T10:08:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。