論文の概要: Post-Estimation Smoothing: A Simple Baseline for Learning with Side
Information
- arxiv url: http://arxiv.org/abs/2003.05955v1
- Date: Thu, 12 Mar 2020 18:04:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-24 13:54:46.767570
- Title: Post-Estimation Smoothing: A Simple Baseline for Learning with Side
Information
- Title(参考訳): post-estimation smoothing: サイド情報を用いた学習のためのシンプルなベースライン
- Authors: Esther Rolf, Michael I. Jordan, Benjamin Recht
- Abstract要約: 本稿では,構造指標データを予測に組み込む高速かつ効率的な手法として,後推定平滑化演算子を提案する。
滑らかなステップは元の予測器とは分離されているため、機械学習タスクの幅広いクラスに適用できる。
大規模な空間的・時間的データセットに関する実験は,実測後のスムース化の速度と正確さを浮き彫りにした。
- 参考スコア(独自算出の注目度): 102.18616819054368
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Observational data are often accompanied by natural structural indices, such
as time stamps or geographic locations, which are meaningful to prediction
tasks but are often discarded. We leverage semantically meaningful indexing
data while ensuring robustness to potentially uninformative or misleading
indices. We propose a post-estimation smoothing operator as a fast and
effective method for incorporating structural index data into prediction.
Because the smoothing step is separate from the original predictor, it applies
to a broad class of machine learning tasks, with no need to retrain models. Our
theoretical analysis details simple conditions under which post-estimation
smoothing will improve accuracy over that of the original predictor. Our
experiments on large scale spatial and temporal datasets highlight the speed
and accuracy of post-estimation smoothing in practice. Together, these results
illuminate a novel way to consider and incorporate the natural structure of
index variables in machine learning.
- Abstract(参考訳): 観測データには、タイムスタンプや地理的位置などの自然構造指標が伴い、予測タスクには意味があるが、しばしば破棄される。
意味的に有意義な索引化データを活用し、潜在的に非形式的あるいは誤解を招くインデックスに対して堅牢性を確保します。
本稿では,構造指標データを予測に組み込む高速かつ効率的な手法として,後推定平滑化演算子を提案する。
平滑化ステップは元の予測器とは分離されているため、モデルの再トレーニングを必要とせず、幅広い機械学習タスクに適用できる。
理論解析では、推定後の平滑化が元の予測器よりも精度を向上させる簡単な条件を詳述する。
大規模な空間的・時間的データセットに関する実験は,実測後のスムース化の速度と精度を強調した。
これらの結果は、機械学習においてインデックス変数の自然な構造を考察し、組み込む新しい方法である。
関連論文リスト
- Drift-Resilient TabPFN: In-Context Learning Temporal Distribution Shifts on Tabular Data [39.40116554523575]
In-Context Learning with a Prior-Data Fitted Network に基づく新しいアプローチである Drift-Resilient TabPFN を提案する。
先行した合成データセットのベイズ推定を近似することを学ぶ。
精度は0.688から0.744に向上し、OC AUCは0.786から0.832に向上し、キャリブレーションも強化された。
論文 参考訳(メタデータ) (2024-11-15T23:49:23Z) - Temporal Smoothness Regularisers for Neural Link Predictors [8.975480841443272]
TNTComplExのような単純な手法は、最先端の手法よりもはるかに正確な結果が得られることを示す。
また,2つの時間的リンク予測モデルに対する幅広い時間的平滑化正規化の影響についても検討した。
論文 参考訳(メタデータ) (2023-09-16T16:52:49Z) - On Measuring the Intrinsic Few-Shot Hardness of Datasets [49.37562545777455]
トレーニング済みのモデルに対して、データセットに固有の数ショットの硬さを示す。
そこで我々は,数発の学習が可能な直感をとらえる,シンプルで軽量な尺度"Spread"を提案する。
我々の測定基準は、既存の硬さの概念に比べて数発の硬さを考慮し、計算が8~100倍高速である。
論文 参考訳(メタデータ) (2022-11-16T18:53:52Z) - TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。
本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。
本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
論文 参考訳(メタデータ) (2022-02-07T21:37:29Z) - Understanding Memorization from the Perspective of Optimization via
Efficient Influence Estimation [54.899751055620904]
本研究では,実データ(実データ)とランダムラベル(ランダムデータ)のデータに対する,ターンオーバードロップアウトによる暗記現象,影響と暗記を効率的に推定する手法について検討する。
i) 実データと乱データの両方において、簡単な例(例えば、実データ)と難しい例(例えば、乱データ)の最適化は、ネットワークによって同時に行われる。
論文 参考訳(メタデータ) (2021-12-16T11:34:23Z) - Convolutional Sparse Coding Fast Approximation with Application to
Seismic Reflectivity Estimation [9.005280130480308]
2~5回の反復で畳み込みスパース符号の良好な近似を生成する古典的反復しきい値アルゴリズムの高速化版を提案する。
提案手法の性能は, 合成シナリオと実データシナリオの両方において, 地震インバージョン問題によって実証される。
論文 参考訳(メタデータ) (2021-06-29T12:19:07Z) - Representation Learning for Sequence Data with Deep Autoencoding
Predictive Components [96.42805872177067]
本稿では,シーケンスデータの有用な表現が潜在空間における単純な構造を示すべきという直感に基づく,シーケンスデータの自己教師型表現学習法を提案する。
我々は,過去と将来のウィンドウ間の相互情報である潜在特徴系列の予測情報を最大化することにより,この潜時構造を奨励する。
提案手法は,ノイズの多い動的システムの潜時空間を復元し,タスク予測のための予測特徴を抽出し,エンコーダを大量の未ラベルデータで事前訓練する場合に音声認識を改善する。
論文 参考訳(メタデータ) (2020-10-07T03:34:01Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z) - A machine learning approach for forecasting hierarchical time series [4.157415305926584]
階層時系列を予測するための機械学習手法を提案する。
予測整合は予測を調整し、階層をまたいで一貫性を持たせるプロセスである。
我々は、階層構造をキャプチャする情報を抽出するディープニューラルネットワークの能力を利用する。
論文 参考訳(メタデータ) (2020-05-31T22:26:16Z) - Early Forecasting of Text Classification Accuracy and F-Measure with
Active Learning [0.7614628596146599]
テキスト分類システムの性能指標として,精度とF尺度を用いた場合の予測困難度の違いについて検討する。
予測は決定木学習において最も容易であり、サポートベクトルマシンでは適度であり、ニューラルネットワークでは最も難しい。
論文 参考訳(メタデータ) (2020-01-20T06:27:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。