論文の概要: Covariate-dependent Joint Modeling of Multivariate Ordinal Preferences and Its Connections with Comparison Models
- arxiv url: http://arxiv.org/abs/2610.09070v1
- Date: Tue, 06 Oct 2026 20:15:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.594895
- Title: Covariate-dependent Joint Modeling of Multivariate Ordinal Preferences and Its Connections with Comparison Models
- Title（参考訳）: 多変量順序選好の共変量依存結合モデルとその比較モデルとの接続
- Abstract要約: 言語モデルと人間の嗜好との整合性からレコメンデーションシステムまで,さまざまな問題に対処する。
MovieLensのようなデータセットには、人間のユーザーによって1～5のスケールで評価された映画がいくつか含まれている。
HelpSteer は "Helpfulness" や "verbosity" などの属性に関するフィードバックを収集する
- 参考スコア（独自算出の注目度）: 11.347301021078438
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multivariate ordinal data along with covariates are commonly collected in problems ranging from alignment of language models with human preferences, as well as in recommender systems. For example, data sets such as MovieLens contain several movies rated on a scale 1--5 by human users, along with their demographic information such as age or gender. Similarly, data sets such as HelpSteer collect human feedback on several attributes such as "helpfulness" or "verbosity" of LLM response on an ordinal scale, with covariates depending on the LLM prompt--response pairs. Unfortunately, the standard approaches for modeling these data (a) look at the attributes individually rather than jointly, and (b) often convert the data into pairwise or list-wise win--loss comparisons for fitting models such as Bradley--Terry and Plackett--Luce. Both of these lead to a coarsening of what is actually observed, which we address via a joint covariate-dependent consecutive ratio Markov random field model. We also show pairwise or listwise comparison models are obtained under restrictions of our joint model, and that joint modeling improves comparisons. We also develop a maximum likelihood inference procedure even in the presence of an intractable normalizer.
- Abstract（参考訳）: 多変量順序データと共変量量は、言語モデルと人間の嗜好の整合性から、レコメンデーターシステムまで、様々な問題で一般的に収集される。
例えば、MovieLensのようなデータセットには、人間の年齢や性別などの人口統計情報とともに、人間によって評価されたスケール1〜5の映画がいくつか含まれている。同様に、HelpfulnessやLLM応答の"verbosity"といったいくつかの属性に関する人間のフィードバックを、LLMプロンプト-レスポンスペアによって共変量で収集する。
残念ながら、これらのデータモデリングの標準的なアプローチ
(a)共同ではなく個別に属性を見て、
b) データをペアワイズまたはリストワイズに変換することが多い。-Bradley-Terry や Plackett-Luce のようなフィッティングモデルの比較。
どちらも実際の観測結果の粗大化につながるが、これは共同共変量依存性の連続比マルコフ確率場モデルによって解決される。
また,共同モデルによる制約の下で,ペアワイズ・リストワイズ比較モデルが得られたことを示し,共同モデルが比較を改善することを示した。
また, 難解な正規化器が存在する場合でも, 最大推定法を開発する。
関連論文リスト
- M-Loss: Quantifying Model Merging Compatibility with Limited Unlabeled Data [9.502531621979694]
本稿では,新しい評価指標であるMerging-ensembling loss (M-Loss)を紹介する。
M-Lossは、非常に限られたラベルのないデータを用いて、マージソースモデルの互換性を定量化する。
理論解析と実験により,M-Lossをマージプロセスに組み込むことで,マージモデルとモデルアンサンブルのアライメントが大幅に向上することが示された。
論文 参考訳（メタデータ） (2026-02-09T12:03:36Z) - Don't Always Pick the Highest-Performing Model: An Information Theoretic View of LLM Ensemble Selection [8.266188814122605]
大規模言語モデル(LLM)は、全体的な信頼性と堅牢性を改善するために組み立てられることが多いが、実際には強い相関関係にある。
我々は、真のラベルと選択されたモデルの予測との相互情報の最大化として、予算化されたアンサンブル選択を定式化する。
そこで本研究では,データから直接必要な情報条件を推定する,単純な欲求相互情報選択アルゴリズムを提案する。
論文 参考訳（メタデータ） (2026-02-08T15:05:22Z) - A Statistical Framework for Ranking LLM-Based Chatbots [57.59268154690763]
本稿では、ペア比較分析における特定の課題に対処するために、重要な進歩を取り入れた統計フレームワークを提案する。
まず,人力比較のグルーピング処理能力を高める要因付きタイモデルを提案する。
第2に、フレームワークを拡張して、競合間の共分散層をモデル化することで、パフォーマンス関係に関するより深い洞察を可能にします。
第三に、パラメータ非特異性に起因する最適化の課題を、新しい制約を導入することで解決する。
論文 参考訳（メタデータ） (2024-12-24T12:54:19Z) - Statistical ranking with dynamic covariates [6.729750785106628]
本稿では,Plackett--Luceフレームワーク内での一般統計ランキングモデルを提案する。
我々は,最大極大推定(MLE)を計算するための効率的な交互アルゴリズムを開発した。
競馬やテニス競技を含む実世界のデータセットへのモデルの適用を実証するために,数値的研究を行った。
論文 参考訳（メタデータ） (2024-06-24T10:26:05Z) - Robustly estimating heterogeneity in factorial data using Rashomon Partitions [4.76518127830168]
我々は、羅生門分割セット(RPS)と呼ばれるモデル不確実性のための新しい枠組みを提案する。
RPSは、最大後部(MAP)モデルに近い後部密度を持つすべてのモデルで構成されている。
実験的な例として,チャリタブルギフトの価格効果,染色体構造の不均一性,マイクロファイナンスの導入の3つを挙げる。
論文 参考訳（メタデータ） (2024-04-02T17:53:28Z) - Dataless Knowledge Fusion by Merging Weights of Language Models [47.432215933099016]
微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。
これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。
パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
論文 参考訳（メタデータ） (2022-12-19T20:46:43Z) - IMACS: Image Model Attribution Comparison Summaries [16.80986701058596]
我々は,勾配に基づくモデル属性とアグリゲーションと可視化技術を組み合わせたIMACSを提案する。
IMACSは評価データセットから適切な入力特徴を抽出し、類似性に基づいてクラスタ化し、類似した入力特徴に対するモデル属性の違いを可視化する。
本稿では,衛星画像上で訓練した2つのモデル間の領域シフトによる行動差を明らかにする方法を示す。
論文 参考訳（メタデータ） (2022-01-26T21:35:14Z) - On the Efficacy of Adversarial Data Collection for Question Answering:
Results from a Large-Scale Randomized Study [65.17429512679695]
逆データ収集(ADC)では、人間の労働力がモデルとリアルタイムで対話し、誤った予測を誘発する例を作成しようとする。
ADCの直感的な魅力にも拘わらず、敵対的データセットのトレーニングがより堅牢なモデルを生成するかどうかは不明だ。
論文 参考訳（メタデータ） (2021-06-02T00:48:33Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳（メタデータ） (2020-10-24T07:01:24Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳（メタデータ） (2020-10-12T03:27:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。