論文の概要: Noise-Contrastive Estimation for Multivariate Point Processes
- arxiv url: http://arxiv.org/abs/2011.00717v1
- Date: Mon, 2 Nov 2020 04:09:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 11:12:51.586734
- Title: Noise-Contrastive Estimation for Multivariate Point Processes
- Title(参考訳): 多変量点過程のノイズコントラスト推定
- Authors: Hongyuan Mei, Tom Wan, Jason Eisner
- Abstract要約: 本稿では,低コストな目的のノイズコントラスト推定手法を提案する。
モデルが保持データ上で同じレベルのログ化を実現するためには,機能評価が大幅に少なく,壁面時間も少なくする必要がある。
- 参考スコア(独自算出の注目度): 28.23193933174945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The log-likelihood of a generative model often involves both positive and
negative terms. For a temporal multivariate point process, the negative term
sums over all the possible event types at each time and also integrates over
all the possible times. As a result, maximum likelihood estimation is
expensive. We show how to instead apply a version of noise-contrastive
estimation---a general parameter estimation method with a less expensive
stochastic objective. Our specific instantiation of this general idea works out
in an interestingly non-trivial way and has provable guarantees for its
optimality, consistency and efficiency. On several synthetic and real-world
datasets, our method shows benefits: for the model to achieve the same level of
log-likelihood on held-out data, our method needs considerably fewer function
evaluations and less wall-clock time.
- Abstract(参考訳): 生成モデルの対数類似性は、しばしば正項と負項の両方を含む。
時間的多変量点過程において、負の項は、全ての可能なイベントタイプを各時間に合計し、可能なすべての時間にわたって積分する。
その結果、最大確率推定は高価である。
より安価な確率的目的を持つ一般パラメータ推定法として,ノイズコントラスト推定のバージョンを適用する方法を示す。
この一般的なアイデアの具体的インスタンス化は、興味深いことに非自明な方法で機能し、その最適性、一貫性、効率性を保証することができます。
複数の合成および実世界のデータセットにおいて、この手法は、以下の利点を示している: モデルがホールドアウトデータに対して同じレベルのログライク性を達成するためには、この手法は、かなり少ない機能評価と壁時計時間を必要とする。
関連論文リスト
- One Sample Fits All: Approximating All Probabilistic Values Simultaneously and Efficiently [19.265709097637643]
機能属性やデータバリュエーションといったアプリケーションでは、確率的価値が近年注目を集めている。
サンプリングベクトルによってパラメータ化され,中間項を近似する1サンプル全フレームワークを提案する。
本研究では,ベータシャプリー値の収束率を1対1で評価した。
論文 参考訳(メタデータ) (2024-10-31T10:47:46Z) - Cumulative Hazard Function Based Efficient Multivariate Temporal Point Process Learning [0.0]
本稿では、ニューラルネットワークを用いてフレキシブルだが適切に定義されたCHFをモデル化する。
提案手法は,データフィッティングおよびイベント予測タスクにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2024-04-21T13:51:31Z) - Stochastic Amortization: A Unified Approach to Accelerate Feature and Data Attribution [62.71425232332837]
雑音ラベル付きモデルを用いたトレーニングは安価で驚くほど効果的であることを示す。
このアプローチは、いくつかの特徴属性とデータ評価手法を著しく加速し、しばしば既存のアプローチよりも桁違いにスピードアップする。
論文 参考訳(メタデータ) (2024-01-29T03:42:37Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - Active Sampling of Multiple Sources for Sequential Estimation [92.37271004438406]
本研究の目的は,パラメータを逐次推定するアクティブサンプリングアルゴリズムを設計し,信頼性の高い推定値を生成することである。
本稿では, エンフ条件推定コスト関数を導入し, 最近, トラクタブル解析を施した逐次推定手法を提案する。
論文 参考訳(メタデータ) (2022-08-10T15:58:05Z) - Reliability analysis of discrete-state performance functions via
adaptive sequential sampling with detection of failure surfaces [0.0]
本稿では,レアイベント確率推定のための新しい効率的でロバストな手法を提案する。
この手法は、複数の障害タイプの確率を推定することができる。
この情報に対応して、推定確率の精度を高めることができる。
論文 参考訳(メタデータ) (2022-08-04T05:59:25Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。
ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。
本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
論文 参考訳(メタデータ) (2021-05-11T03:38:16Z) - Time-varying Gaussian Process Bandit Optimization with Non-constant
Evaluation Time [93.6788993843846]
非定常評価時間を効果的に処理できる新しい時間変化ベイズ最適化アルゴリズムを提案する。
我々の限界は、評価時間列のパターンが問題の難易度に大きな影響を与えることを決定づける。
論文 参考訳(メタデータ) (2020-03-10T13:28:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。