論文の概要: The Age of Correlated Features in Supervised Learning based Forecasting
- arxiv url: http://arxiv.org/abs/2103.00092v1
- Date: Sat, 27 Feb 2021 00:10:49 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 23:54:12.813640
- Title: The Age of Correlated Features in Supervised Learning based Forecasting
- Title(参考訳): 教師付き学習による予測における関連特徴の年齢
- Authors: MD Kamran Chowdhury Shisher, Heyang Qin, Lei Yang, Feng Yan, and Yin
Sun
- Abstract要約: 本稿では,情報新鮮度が教師あり学習に基づく予測に与える影響を分析する。
これらの応用において、ニューラルネットワークは、複数の相関した特徴に基づいて時間変化目標(例えば、太陽エネルギー)を予測するように訓練される。
情報理論的なアプローチを用いて,最小の学習損失が特徴の年齢の関数であることを証明した。
- 参考スコア(独自算出の注目度): 14.471447024994113
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: In this paper, we analyze the impact of information freshness on supervised
learning based forecasting. In these applications, a neural network is trained
to predict a time-varying target (e.g., solar power), based on multiple
correlated features (e.g., temperature, humidity, and cloud coverage). The
features are collected from different data sources and are subject to
heterogeneous and time-varying ages. By using an information-theoretic
approach, we prove that the minimum training loss is a function of the ages of
the features, where the function is not always monotonic. However, if the
empirical distribution of the training data is close to the distribution of a
Markov chain, then the training loss is approximately a non-decreasing age
function. Both the training loss and testing loss depict similar growth
patterns as the age increases. An experiment on solar power prediction is
conducted to validate our theory. Our theoretical and experimental results
suggest that it is beneficial to (i) combine the training data with different
age values into a large training dataset and jointly train the forecasting
decisions for these age values, and (ii) feed the age value as a part of the
input feature to the neural network.
- Abstract(参考訳): 本稿では,情報新鮮度が教師あり学習に基づく予測に与える影響を分析する。
これらのアプリケーションでは、ニューラルネットワークは、複数の相関した特徴(例えば、温度、湿度、および雲のカバレッジ)に基づいて、時間変動ターゲット(例えば、太陽光発電)を予測するように訓練されます。
特徴は、異なるデータソースから収集され、異種および時間変動年齢の影響を受けます。
情報理論的アプローチを使用することで、最小限の訓練損失は機能は常に単調ではない特徴の年齢の関数であることを証明します。
しかし、トレーニングデータの経験的分布がマルコフ連鎖の分布に近い場合、トレーニング損失は、ほぼ減少しない年齢関数である。
トレーニング損失とテスト損失の両方は、年齢が増加するにつれて同様の成長パターンを表します。
太陽エネルギー予測実験を行い,その理論を検証した。
理論および実験の結果から, (i) 異なる年齢値のトレーニングデータを大きなトレーニングデータセットに結合し, これらの年齢値の予測決定を共同で学習し, (ii) 入力特徴の一部として年齢値をニューラルネットワークに与えることが有益であることが示唆された。
関連論文リスト
- When do Convolutional Neural Networks Stop Learning? [0.0]
畳み込みニューラルネットワーク(CNN)はコンピュータビジョンタスクにおいて優れた性能を示した。
現在の実践は、トレーニング損失が減少し、トレーニングと検証エラーの間のギャップが増加すると、トレーニングをやめることである。
この研究は、CNNの変種の全層にわたるデータ変動を分析し、その準最適学習能力を予測する仮説を導入している。
論文 参考訳(メタデータ) (2024-03-04T20:35:09Z) - The Mirrored Influence Hypothesis: Efficient Data Influence Estimation by Harnessing Forward Passes [30.30769701138665]
我々は、訓練データとテストデータの間の相互影響を浮き彫りにして、ミラーレッド影響仮説を導入し、探求する。
具体的には、テスト予測に対するトレーニングデータの影響を評価することは、等価だが逆問題として再定義することができることを示唆している。
トレーニングポイント毎に前方パスとペアを組むことで,特定のテストサンプルの勾配を計算し,トレーニングデータの影響を推定する新しい手法を提案する。
論文 参考訳(メタデータ) (2024-02-14T03:43:05Z) - On the Connection between Pre-training Data Diversity and Fine-tuning
Robustness [66.30369048726145]
下流の有効ロバスト性に影響を与える主な要因はデータ量である。
各種自然および合成データソースから抽出した事前学習分布について,本研究の成果を示す。
論文 参考訳(メタデータ) (2023-07-24T05:36:19Z) - Stubborn Lexical Bias in Data and Models [50.79738900885665]
我々は、データに基づいてトレーニングされたモデルに、データのスプリアスパターンが現れるかどうかを調べるために、新しい統計手法を用いる。
トレーニングデータに*reweight*に最適化アプローチを適用し、数千のスプリアス相関を低減します。
驚くべきことに、この方法ではトレーニングデータの語彙バイアスを低減できますが、トレーニングされたモデルで対応するバイアスの強い証拠がまだ見つかっていません。
論文 参考訳(メタデータ) (2023-06-03T20:12:27Z) - DCLP: Neural Architecture Predictor with Curriculum Contrastive Learning [5.2319020651074215]
ニューラル予測器(DCLP)のためのカリキュラム誘導型コントラスト学習フレームワークを提案する。
本手法は,新たなカリキュラムを設計し,ラベルのないトレーニングデータ分布の安定性を高めることで,対照的なタスクを単純化する。
我々は既存の予測器と比較してDCLPの精度と効率が優れていることを実験的に実証した。
論文 参考訳(メタデータ) (2023-02-25T08:16:21Z) - Dataset Bias in Human Activity Recognition [57.91018542715725]
このコントリビューションは、トレーニングデータを統計的にキュレートし、人間の身体的特性がHARのパフォーマンスにどの程度影響するかを評価する。
時系列HARのセンサ,アクティビティ,記録の異なる2つのHARデータセット上で,最先端の畳み込みニューラルネットワークの性能を評価する。
論文 参考訳(メタデータ) (2023-01-19T12:33:50Z) - Conformal prediction for the design problem [72.14982816083297]
機械学習の現実的な展開では、次にテストすべきデータを選択するために予測アルゴリズムを使用します。
このような設定では、トレーニングデータとテストデータの間には、異なるタイプの分散シフトがある。
このような環境で予測の不確実性を定量化する手法を提案する。
論文 参考訳(メタデータ) (2022-02-08T02:59:12Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳(メタデータ) (2021-11-03T03:50:48Z) - Towards Open-World Feature Extrapolation: An Inductive Graph Learning
Approach [80.8446673089281]
グラフ表現と学習を伴う新しい学習パラダイムを提案する。
本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
論文 参考訳(メタデータ) (2021-10-09T09:02:45Z) - Adversarial Regression Learning for Bone Age Estimation [6.942003070153651]
骨年齢推定のための逆回帰学習ネットワーク(ARLNet)を提案する。
具体的には、微調整されたインセプションV3ニューラルネットワークから骨の特徴を抽出します。
次に,学習データからテストデータへの遷移を保証するために,逆回帰損失と特徴再構成損失を提案する。
論文 参考訳(メタデータ) (2021-03-10T15:58:26Z) - Imbalanced Data Learning by Minority Class Augmentation using Capsule
Adversarial Networks [31.073558420480964]
本稿では,2つの同時手法を合体させて,不均衡な画像のバランスを回復する手法を提案する。
我々のモデルでは、生成的および識別的ネットワークは、新しい競争力のあるゲームをする。
カプセルGANの合体は、畳み込みGANと比較して非常に少ないパラメータで重なり合うクラスを認識するのに効果的である。
論文 参考訳(メタデータ) (2020-04-05T12:36:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。