論文の概要: Tracking Changing Probabilities via Dynamic Learners
- arxiv url: http://arxiv.org/abs/2402.10142v1
- Date: Thu, 15 Feb 2024 17:48:58 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-16 14:36:11.137393
- Title: Tracking Changing Probabilities via Dynamic Learners
- Title(参考訳): 動的学習者による確率変化の追跡
- Authors: Omid Madani
- Abstract要約: 離散アイテムストリームの効率的な予測と更新手法を模索する。
ストリームは非有界であり、アイテムの集合は予測者に未知であり、その総数も増大する。
我々は、そのような非定常性に対応するように設計された移動平均手法をタイムリーに開発する。
- 参考スコア(独自算出の注目度): 0.18648070031379424
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Consider a predictor, a learner, whose input is a stream of discrete items.
The predictor's task, at every time point, is probabilistic multiclass
prediction, i.e., to predict which item may occur next by outputting zero or
more candidate items, each with a probability, after which the actual item is
revealed and the predictor learns from this observation. To output
probabilities, the predictor keeps track of the proportions of the items it has
seen. The predictor has constant (limited) space and we seek efficient
prediction and update techniques: The stream is unbounded, the set of items is
unknown to the predictor and their totality can also grow unbounded. Moreover,
there is non-stationarity: the underlying frequencies of items may change,
substantially, from time to time. For instance, new items may start appearing
and a few currently frequent items may cease to occur again. The predictor,
being space-bounded, need only provide probabilities for those items with
(currently) sufficiently high frequency, i.e., the salient items. This problem
is motivated in the setting of prediction games, a self-supervised learning
regime where concepts serve as both the predictors and the predictands, and the
set of concepts grows over time, resulting in non-stationarities as new
concepts are generated and used. We develop moving average techniques designed
to respond to such non-stationarities in a timely manner, and explore their
properties. One is a simple technique based on queuing of count snapshots, and
another is a combination of queuing together with an extended version of sparse
EMA. The latter combination supports predictand-specific dynamic learning
rates. We find that this flexibility allows for a more accurate and timely
convergence.
- Abstract(参考訳): 個別項目のストリームを入力とする予測子、学習者を考える。
予測者のタスクは、各時点において確率的多クラス予測であり、すなわち、0以上の候補項目を出力して次にどの項目が発生するかを予測し、その後、実際の項目が明らかにされ、予測者がこの観察から学習する。
確率を出力するために、予測器は見たアイテムの比率を追跡する。
ストリームはアンバウンドであり、アイテムのセットは予測者に知られておらず、その総和もアンバウンドになり得る。
さらに、非定常性があり、アイテムの基盤となる周波数は、時間によって大きく変化する可能性がある。
例えば、新しいアイテムが出現し始め、現在頻繁なアイテムが再び発生しなくなる可能性がある。
空間有界な予測器は、これらの項目に対して十分に高い周波数(すなわち、有理な項目)でのみ確率を与える必要がある。
この問題は予測ゲームの設定において動機付けられ、概念が予測子と予測子の両方として機能し、概念の集合は時間とともに成長し、新しい概念が生成され、使用されるにつれて非定常性をもたらす。
このような非定常にタイムリーに応答するように設計された移動平均技術を開発し,その特性を探究する。
1つはカウントスナップショットのキューに基づく単純なテクニックであり、もう1つはスパースEMAの拡張バージョンとキューの組み合わせである。
後者の組み合わせは予測と特定の動的学習率をサポートする。
この柔軟性によって、より正確でタイムリーな収束が可能になります。
関連論文リスト
- Conformalized Late Fusion Multi-View Learning [18.928543069018865]
多視点学習の不確かさの定量化は、科学的な問題における多視点データの利用の増加によって動機づけられる。
個別のビューで個別の予測器を訓練し、単一のビュー予測が利用可能になった後にそれらを組み合わせます。
本稿では,共形予測を単一ビュー予測器上で個別に行う手法として,MVCP(Multi-View Conformal Prediction)を提案する。
論文 参考訳(メタデータ) (2024-05-25T14:11:01Z) - Performative Time-Series Forecasting [71.18553214204978]
我々は,機械学習の観点から,パフォーマンス時系列予測(PeTS)を定式化する。
本稿では,予測分布シフトに対する遅延応答の概念を活用する新しい手法であるFeature Performative-Shifting(FPS)を提案する。
新型コロナウイルスの複数の時系列モデルと交通予報タスクを用いた総合的な実験を行った。
論文 参考訳(メタデータ) (2023-10-09T18:34:29Z) - Sinkhorn-Flow: Predicting Probability Mass Flow in Dynamical Systems
Using Optimal Transport [89.61692654941106]
そこで本稿では, 最適な輸送手段を用いて, 時間とともにそのような物質流を予測する新しい手法を提案する。
我々は、ソーシャルネットワークの設定において、コミュニティがどのように進化していくかを予測するタスクに、我々のアプローチを適用した。
論文 参考訳(メタデータ) (2023-03-14T07:25:44Z) - Finding Islands of Predictability in Action Forecasting [7.215559809521136]
将来のアクションシーケンスは1つの抽象化レベルではなく、変数でより正確にモデル化されていることを示す。
本稿では,ベイズニューラルネットワークと階層的畳み込みセグメンテーションモデルを組み合わせて,将来の行動を正確に予測し,抽象化レベルを最適に選択する手法を提案する。
論文 参考訳(メタデータ) (2022-10-13T21:01:16Z) - Enhancing Stochastic Petri Net-based Remaining Time Prediction using
k-Nearest Neighbors [0.5287304201523223]
我々は、k-アネレスト近傍の概ね分散遷移を持つペトリネットに基づく残時間予測を延長する。
k-nearest neighborsアルゴリズムは、前のアクティビティを完了するために渡された時間をシンプルに保存する。
提案手法とPythonの基本実装について論じ,その拡張の予測能力を評価するために,異なる実世界のデータセットを使用する。
論文 参考訳(メタデータ) (2022-06-27T08:27:35Z) - Probabilistic Gradient Boosting Machines for Large-Scale Probabilistic
Regression [51.770998056563094]
PGBM(Probabilistic Gradient Boosting Machines)は、確率的予測を生成する手法である。
既存の最先端手法と比較してPGBMの利点を実証的に示す。
論文 参考訳(メタデータ) (2021-06-03T08:32:13Z) - Predicting MOOCs Dropout Using Only Two Easily Obtainable Features from
the First Week's Activities [56.1344233010643]
いくつかの特徴は、学習者の誘惑や興味の欠如に寄与すると考えられており、そのことが解脱や総減退につながる可能性がある。
この研究は、いくつかの機械学習アプローチを比較して、最初の1週間から早期のドロップアウトを予測することを目的としている。
論文 参考訳(メタデータ) (2020-08-12T10:44:49Z) - Predicting Temporal Sets with Deep Neural Networks [50.53727580527024]
本稿では,時間集合予測のためのディープニューラルネットワークに基づく統合解を提案する。
ユニークな視点は、セットレベルの共起グラフを構築することで要素関係を学ぶことである。
我々は,要素や集合の時間依存性を適応的に学習するアテンションベースのモジュールを設計する。
論文 参考訳(メタデータ) (2020-06-20T03:29:02Z) - Ambiguity in Sequential Data: Predicting Uncertain Futures with
Recurrent Models [110.82452096672182]
逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。
また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
論文 参考訳(メタデータ) (2020-03-10T09:15:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。