論文の概要: How Does Data Freshness Affect Real-time Supervised Learning?

• arxiv url: http://arxiv.org/abs/2208.06948v1
• Date: Mon, 15 Aug 2022 00:14:13 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-16 15:08:36.414496
• Title: How Does Data Freshness Affect Real-time Supervised Learning?
• Title（参考訳）: データの鮮度はリアルタイム監視学習にどのように影響するか?
• Authors: Md Kamran Chowdhury Shisher and Yin Sun
• Abstract要約: 実時間教師付き学習の性能は,特徴が陳腐化するにつれて単調に低下することを示す。 実時間における推論誤差を最小限に抑えるため,提案手法を新たに提案する。 提案したスケジューリングアルゴリズムの利点を説明するために,データ駆動型評価法を提案する。
• 参考スコア（独自算出の注目度）: 15.950108699395077
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we analyze the impact of data freshness on real-time supervised learning, where a neural network is trained to infer a time-varying target (e.g., the position of the vehicle in front) based on features (e.g., video frames) observed at a sensing node (e.g., camera or lidar). One might expect that the performance of real-time supervised learning degrades monotonically as the feature becomes stale. Using an information-theoretic analysis, we show that this is true if the feature and target data sequence can be closely approximated as a Markov chain; it is not true if the data sequence is far from Markovian. Hence, the prediction error of real-time supervised learning is a function of the Age of Information (AoI), where the function could be non-monotonic. Several experiments are conducted to illustrate the monotonic and non-monotonic behaviors of the prediction error. To minimize the inference error in real-time, we propose a new "selection-from-buffer" model for sending the features, which is more general than the "generate-at-will" model used in earlier studies. By using Gittins and Whittle indices, low-complexity scheduling strategies are developed to minimize the inference error, where a new connection between the Gittins index theory and Age of Information (AoI) minimization is discovered. These scheduling results hold (i) for minimizing general AoI functions (monotonic or non-monotonic) and (ii) for general feature transmission time distributions. Data-driven evaluations are presented to illustrate the benefits of the proposed scheduling algorithms.
• Abstract（参考訳）: 本稿では,センサノード(例えばカメラやライダー)で観測された特徴(例えば,ビデオフレーム)に基づいて,ニューラルネットワークが時間変化目標(例えば,前方の車両の位置)を推定するように訓練されるリアルタイム教師付き学習におけるデータの鮮度の影響を分析する。 リアルタイム教師付き学習のパフォーマンスは、機能が停滞すると単調に低下すると予想する人もいるだろう。 情報理論解析を用いて、特徴量と対象データ列がマルコフ連鎖と密接に近似できる場合、これが真であることを示し、データ列がマルコフ連鎖から遠く離れている場合、そうではない。 したがって、リアルタイム教師付き学習の予測誤差は情報時代(AoI)の関数であり、その関数は非単調である可能性がある。 予測誤差の単調性および非単調性についていくつかの実験を行った。 推論誤差をリアルタイムに最小化するために,従来研究で用いられてきた"ジェネレート・アット・ウィッシュ"モデルよりも一般的である特徴の送信のための新しい"selection-from-buffer"モデルを提案する。 gittins と whittle indices を用いることで、gittins index theory と age of information (aoi) の新たな関係が発見されるような推論エラーを最小限に抑えるために、低複雑さスケジューリング戦略が開発されている。 これらのスケジューリング結果は (i)一般AoI関数(単調・非単調)の最小化及び (ii)一般特徴伝達時間分布について。 提案するスケジューリングアルゴリズムの利点を説明するため,データ駆動評価を行った。

関連論文リスト

• Multiple Descents in Unsupervised Learning: The Role of Noise, Domain Shift and Anomalies [14.399035468023161]
  教師なし学習における二重の子孫の存在について検討するが、これはほとんど注目されず、まだ完全には理解されていない領域である。 我々は、合成データと実データを用いて、様々なアプリケーションに対してモデルワイド、エポックワイド、サンプルワイドの二重降下を識別する。
  論文  参考訳（メタデータ） (2024-06-17T16:24:23Z)
• Timely Communications for Remote Inference [16.671201899392585]
  リモート推論システムにおけるデータの鮮度の影響を解析する。 そこで本稿では,特徴の送出のための"selection-from-buffer"モデルを提案する。 また、推論性能を向上させるために、低複雑さスケジューリングポリシーを設計する。
  論文  参考訳（メタデータ） (2024-04-25T01:53:21Z)
• Enhancing Consistency and Mitigating Bias: A Data Replay Approach for Incremental Learning [100.7407460674153]
  ディープラーニングシステムは、一連のタスクから学ぶとき、破滅的な忘れがちだ。 問題を緩和するため、新しいタスクを学ぶ際に経験豊富なタスクのデータを再生する手法が提案されている。 しかし、メモリ制約やデータプライバシーの問題を考慮すると、実際には期待できない。 代替として、分類モデルからサンプルを反転させることにより、データフリーなデータ再生法を提案する。
  論文  参考訳（メタデータ） (2024-01-12T12:51:12Z)
• Uncovering the Missing Pattern: Unified Framework Towards Trajectory Imputation and Prediction [60.60223171143206]
  軌道予測は、観測されたシーケンスから実体運動や人間の行動を理解する上で重要な作業である。 現在の方法では、観測されたシーケンスが完了したと仮定し、欠落した値の可能性を無視する。 本稿では,グラフに基づく条件変動リカレントニューラルネットワーク (GC-VRNN) の統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-28T14:27:27Z)
• Probing Representation Forgetting in Supervised and Unsupervised Continual Learning [14.462797749666992]
  破滅的な忘れ物は、以前にモデルで学んだ知識の急激な喪失と関係している。 表現を忘れることによって,モデル能力と損失関数が連続学習に与える影響について新たな知見が得られることを示す。
  論文  参考訳（メタデータ） (2022-03-24T23:06:08Z)
• Towards Open-World Feature Extrapolation: An Inductive Graph Learning Approach [80.8446673089281]
  グラフ表現と学習を伴う新しい学習パラダイムを提案する。 本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
  論文  参考訳（メタデータ） (2021-10-09T09:02:45Z)
• Networked Time Series Prediction with Incomplete Data [59.45358694862176]
  我々は、歴史と未来の両方で欠落した値を持つ不完全なデータでトレーニングできる新しいディープラーニングフレームワークであるNetS-ImpGANを提案する。 3つの実世界のデータセットに対して、異なるパターンと欠落率で広範な実験を行う。
  論文  参考訳（メタデータ） (2021-10-05T18:20:42Z)
• Imputation-Free Learning from Incomplete Observations [73.15386629370111]
  本稿では,不備な値を含む入力からの推論をインプットなしでトレーニングするIGSGD法の重要性について紹介する。 バックプロパゲーションによるモデルのトレーニングに使用する勾配の調整には強化学習(RL)を用いる。 我々の計算自由予測は、最先端の計算手法を用いて従来の2段階の計算自由予測よりも優れている。
  論文  参考訳（メタデータ） (2021-07-05T12:44:39Z)
• Learning Transition Models with Time-delayed Causal Relations [17.494609199646813]
  提案アルゴリズムはまずマルコフの仮定による観測を予測した。 隠された変数は、関連する過去の出来事を追跡するメモリユニットである。 シミュレーションおよび実際のロボットタスクの実験は、この手法が現在の技術よりも大幅に改善されていることを示している。
  論文  参考訳（メタデータ） (2020-08-04T14:35:11Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)
• Conditional Mutual information-based Contrastive Loss for Financial Time Series Forecasting [12.0855096102517]
  金融時系列予測のための表現学習フレームワークを提案する。 本稿では、まず時系列データからコンパクトな表現を学習し、次に学習した表現を用いて、時系列の動きを予測するためのより単純なモデルを訓練する。
  論文  参考訳（メタデータ） (2020-02-18T15:24:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。