論文の概要: Efficient and Accurate Learning of Mixtures of Plackett-Luce Models
- arxiv url: http://arxiv.org/abs/2302.05343v1
- Date: Fri, 10 Feb 2023 16:00:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-13 15:25:15.388008
- Title: Efficient and Accurate Learning of Mixtures of Plackett-Luce Models
- Title(参考訳): プラケット-ルース混合モデルの効率的・高精度学習
- Authors: Duc Nguyen and Anderson Y. Zhang
- Abstract要約: Plackett-Luce (PL) の混合モデルは理論的および実用的両方の研究領域である。
証明可能な精度で初期推定を行うアルゴリズムと、真のログ類似関数を効率的に最大化するEMアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 5.216020588360421
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mixture models of Plackett-Luce (PL) -- one of the most fundamental ranking
models -- are an active research area of both theoretical and practical
significance. Most previously proposed parameter estimation algorithms
instantiate the EM algorithm, often with random initialization. However, such
an initialization scheme may not yield a good initial estimate and the
algorithms require multiple restarts, incurring a large time complexity. As for
the EM procedure, while the E-step can be performed efficiently, maximizing the
log-likelihood in the M-step is difficult due to the combinatorial nature of
the PL likelihood function (Gormley and Murphy 2008). Therefore, previous
authors favor algorithms that maximize surrogate likelihood functions (Zhao et
al. 2018, 2020). However, the final estimate may deviate from the true maximum
likelihood estimate as a consequence. In this paper, we address these known
limitations. We propose an initialization algorithm that can provide a provably
accurate initial estimate and an EM algorithm that maximizes the true
log-likelihood function efficiently. Experiments on both synthetic and real
datasets show that our algorithm is competitive in terms of accuracy and speed
to baseline algorithms, especially on datasets with a large number of items.
- Abstract(参考訳): プラケット=ルース(pl)の混合モデルは、最も基本的なランク付けモデルの1つであり、理論上も実用上も活発な研究分野である。
前述したパラメータ推定アルゴリズムのほとんどはemアルゴリズムをインスタンス化し、しばしばランダム初期化を行う。
しかし、そのような初期化スキームは良い初期推定を得られず、アルゴリズムは複数の再起動を必要とし、大きな時間的複雑さをもたらす。
EM手順については、Eステップを効率的に行うことができるが、PL確率関数の組合せの性質のため、Mステップにおけるログ類似度を最大化することは困難である(Gormley and Murphy 2008)。
それゆえ、以前の著者は確率関数を最大化するアルゴリズムを好んでいる(zhao et al. 2018, 2020)。
しかし、最終的な見積もりは、結果として真の最大推定値から逸脱する可能性がある。
本稿では,これらの既知の制限について述べる。
証明可能な精度で初期推定できる初期化アルゴリズムと、真のログ類似関数を効率的に最大化するEMアルゴリズムを提案する。
合成データセットと実データセットの両方の実験では、アルゴリズムは精度とベースラインアルゴリズム、特に多数の項目を持つデータセットとの速度の両面で競合している。
関連論文リスト
- Efficient first-order algorithms for large-scale, non-smooth maximum
entropy models with application to wildfire science [0.0]
大規模で非滑らかなMaxentモデルのトレーニングのための新しいアルゴリズムを提案する。
提案アルゴリズムはKullback-Leibler分散を利用して,大規模および非滑らかなMaxentモデルを効率的に学習する。
以上の結果から,我々のアルゴリズムは1桁の精度で芸術の状態を上回ります。
論文 参考訳(メタデータ) (2024-03-11T15:33:55Z) - Quantum-Based Feature Selection for Multi-classification Problem in
Complex Systems with Edge Computing [15.894122816099133]
マルチクラス化問題,すなわちQReliefFに対する量子ベースの特徴選択アルゴリズムを提案する。
我々のアルゴリズムは、O(M) から O(sqrt(M)) への複雑さを減らし、最も近い隣人を見つけるのに優れている。
論文 参考訳(メタデータ) (2023-10-01T03:57:13Z) - An optimized quantum minimum searching algorithm with sure-success
probability and its experiment simulation with Cirq [4.987556615430226]
本稿では,確実な確率で最適化された量子最小探索アルゴリズムを提案する。
性能評価の結果,本アルゴリズムはDHAアルゴリズムよりも精度と効率が高いことがわかった。
論文 参考訳(メタデータ) (2023-09-25T14:07:27Z) - Representation Learning with Multi-Step Inverse Kinematics: An Efficient
and Optimal Approach to Rich-Observation RL [106.82295532402335]
既存の強化学習アルゴリズムは、計算的難易度、強い統計的仮定、最適なサンプルの複雑さに悩まされている。
所望の精度レベルに対して、レート最適サンプル複雑性を実現するための、最初の計算効率の良いアルゴリズムを提供する。
我々のアルゴリズムMusIKは、多段階の逆運動学に基づく表現学習と体系的な探索を組み合わせる。
論文 参考訳(メタデータ) (2023-04-12T14:51:47Z) - An Application of a Multivariate Estimation of Distribution Algorithm to
Cancer Chemotherapy [59.40521061783166]
癌に対する化学療法治療は、多数の相互作用する変数と制約を持つ複雑な最適化問題である。
より洗練されたアルゴリズムは、このような複雑な問題に対してより良いパフォーマンスをもたらすことが示される。
我々は、この問題における多数の相互作用によって、より洗練されたアルゴリズムが妨げられていることが原因であると仮定する。
論文 参考訳(メタデータ) (2022-05-17T15:28:46Z) - Quantum Algorithms for Prediction Based on Ridge Regression [0.7612218105739107]
本稿では,リッジ回帰モデルに基づく量子アルゴリズムを提案する。
提案アルゴリズムは幅広い応用範囲を持ち,提案アルゴリズムは他の量子アルゴリズムのサブルーチンとして利用することができる。
論文 参考訳(メタデータ) (2021-04-27T11:03:52Z) - Towards Optimally Efficient Tree Search with Deep Learning [76.64632985696237]
本稿では,線形モデルから信号整数を推定する古典整数最小二乗問題について検討する。
問題はNPハードであり、信号処理、バイオインフォマティクス、通信、機械学習といった様々な応用でしばしば発生する。
本稿では, 深いニューラルネットワークを用いて, 単純化されたメモリバウンドA*アルゴリズムの最適推定を推定し, HATSアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-07T08:00:02Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z) - Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth
Nonlinear TD Learning [145.54544979467872]
本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。
本研究の結果は, 同時一次および二重側収束の形で表される。
論文 参考訳(メタデータ) (2020-08-23T20:36:49Z) - Active Model Estimation in Markov Decision Processes [108.46146218973189]
マルコフ決定過程(MDP)をモデル化した環境の正確なモデル学習のための効率的な探索の課題について検討する。
マルコフに基づくアルゴリズムは,本アルゴリズムと極大エントロピーアルゴリズムの両方を小サンプル方式で上回っていることを示す。
論文 参考訳(メタデータ) (2020-03-06T16:17:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。