論文の概要: Continual Conscious Active Fine-Tuning to Robustify Online Machine
Learning Models Against Data Distribution Shifts
- arxiv url: http://arxiv.org/abs/2211.01315v1
- Date: Wed, 2 Nov 2022 17:36:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-03 13:45:34.209191
- Title: Continual Conscious Active Fine-Tuning to Robustify Online Machine
Learning Models Against Data Distribution Shifts
- Title(参考訳): データ分散シフトに対するオンライン機械学習モデルのロバスト化のための連続的意識的ファインチューニング
- Authors: Shawqi Al-Maliki, Faissal El Bouanani, Mohamed Abdallah, Junaid Qadir,
Ala Al-Fuqaha
- Abstract要約: 本研究では,テスト時間適応と呼ばれるオンライン学習手法を,連続的意識型アクティブ微調整層で拡張することを提案する。
実験結果から,試験時間変化の増大は従来の変化よりも2倍に優れていた。
- 参考スコア(独自算出の注目度): 5.449298202591168
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unlike their offline traditional counterpart, online machine learning models
are capable of handling data distribution shifts while serving at the test
time. However, they have limitations in addressing this phenomenon. They are
either expensive or unreliable. We propose augmenting an online learning
approach called test-time adaptation with a continual conscious active
fine-tuning layer to develop an enhanced variation that can handle drastic data
distribution shifts reliably and cost-effectively. The proposed augmentation
incorporates the following aspects: a continual aspect to confront the
ever-ending data distribution shifts, a conscious aspect to imply that
fine-tuning is a distribution-shift-aware process that occurs at the
appropriate time to address the recently detected data distribution shifts, and
an active aspect to indicate employing human-machine collaboration for the
relabeling to be cost-effective and practical for diverse applications. Our
empirical results show that the enhanced test-time adaptation variation
outperforms the traditional variation by a factor of two.
- Abstract(参考訳): オフラインの従来のモデルとは異なり、オンラインの機械学習モデルはテスト時にデータ分散シフトを処理できる。
しかし、この現象に対処するには限界がある。
高価か信頼できないかのどちらかである。
本稿では,テスト時間適応というオンライン学習手法を,連続的意識のアクティブな微調整層で拡張し,劇的なデータ分散シフトを確実かつ効果的に処理できる改良されたバリエーションを開発することを提案する。
提案手法は, 継続的なデータ分散シフトに直面する連続的な側面, 微調整が最近検出されたデータ分散シフトに対処するために適切なタイミングで発生する分布シフト対応プロセスであることを示唆する意識的側面, 様々なアプリケーションにおいて費用対効果と実用性を示すための人間と機械の協調の活用を示す活動的側面を含む。
実験結果から,試験時間変化の増大は従来の変化よりも2倍に優れていた。
関連論文リスト
- Combating Missing Modalities in Egocentric Videos at Test Time [92.38662956154256]
現実のアプリケーションは、プライバシの懸念、効率性の必要性、ハードウェアの問題により、不完全なモダリティを伴う問題に直面することが多い。
再トレーニングを必要とせずに,テスト時にこの問題に対処する新しい手法を提案する。
MiDlは、欠落したモダリティをテスト時にのみ扱う、自己管理型のオンラインソリューションとしては初めてのものだ。
論文 参考訳(メタデータ) (2024-04-23T16:01:33Z) - A Self-Commissioning Edge Computing Method for Data-Driven Anomaly
Detection in Power Electronic Systems [0.0]
現場応用のための制御されたラボ環境でうまく機能する手法は、重大な課題を提示する。
オンライン機械学習は、この問題を克服するための強力なツールだが、トレーニングプロセスの安定性と予測可能性を保証する上で、さらなる課題がもたらされる。
この研究は、これらの欠点を最小限のメモリ使用量で軽減するエッジコンピューティング手法を提案する。
論文 参考訳(メタデータ) (2023-12-05T10:56:25Z) - Data Quality in Imitation Learning [15.939363481618738]
ロボット工学のオフライン学習では、インターネットのスケールデータがないだけで、高品質なデータセットが必要なのです。
これは特に、専門家によるデモンストレーションを用いたロボット学習のためのサンプル効率のよいパラダイムである模倣学習(IL)において当てはまる。
本研究では,分散シフトのレンズによる模倣学習のためのデータ品質の形式化に向けた第一歩を踏み出す。
論文 参考訳(メタデータ) (2023-06-04T18:48:32Z) - Quality In / Quality Out: Assessing Data quality in an Anomaly Detection
Benchmark [0.13764085113103217]
同じベンチマークデータセット(異常検出のためのフローベースリアルタイムデータセットであるUGR'16)に対する比較的小さな変更は、考慮した機械学習技術よりも、モデルパフォーマンスに著しく影響することを示します。
この結果から,自律型ネットワークにおけるデータ品質評価と最適化技術に,より注意を払う必要があることが示唆された。
論文 参考訳(メタデータ) (2023-05-31T12:03:12Z) - Automatic Data Augmentation via Invariance-Constrained Learning [94.27081585149836]
下位のデータ構造は、しばしば学習タスクのソリューションを改善するために利用される。
データ拡張は、入力データに複数の変換を適用することで、トレーニング中にこれらの対称性を誘導する。
この作業は、学習タスクを解決しながらデータ拡張を自動的に適応することで、これらの問題に対処する。
論文 参考訳(メタデータ) (2022-09-29T18:11:01Z) - Augmented Bilinear Network for Incremental Multi-Stock Time-Series
Classification [83.23129279407271]
本稿では,有価証券のセットで事前学習したニューラルネットワークで利用可能な知識を効率的に保持する手法を提案する。
本手法では,既存の接続を固定することにより,事前学習したニューラルネットワークに符号化された事前知識を維持する。
この知識は、新しいデータを用いて最適化された一連の拡張接続によって、新しい証券に対して調整される。
論文 参考訳(メタデータ) (2022-07-23T18:54:10Z) - Adapting to Online Label Shift with Provable Guarantees [137.89382409682233]
オンラインラベルシフトの問題を定式化し,検討する。
非定常性と監督の欠如は、この問題に取り組むことを困難にしている。
我々のアルゴリズムは最適な動的後悔を享受しており、性能が透かしの性質と競合していることを示している。
論文 参考訳(メタデータ) (2022-07-05T15:43:14Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Uniform Priors for Data-Efficient Transfer [65.086680950871]
もっとも移動可能な特徴は埋め込み空間において高い均一性を有することを示す。
我々は、未確認のタスクやデータへの適応を容易にする能力の正規化を評価する。
論文 参考訳(メタデータ) (2020-06-30T04:39:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。