論文の概要: Adapting to Covariate Shift in Real-time by Encoding Trees with Motion Equations

• arxiv url: http://arxiv.org/abs/2404.05168v1
• Date: Mon, 8 Apr 2024 03:29:58 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-09 15:33:28.658486
• Title: Adapting to Covariate Shift in Real-time by Encoding Trees with Motion Equations
• Title（参考訳）: 木を運動方程式で符号化したリアルタイムな共変量シフトへの適応
• Authors: Tham Yik Foong, Heng Zhang, Mao Po Yuan, Danilo Vasconcellos Vargas,
• Abstract要約: Xenovert は完全な二分木で、連続的な入力空間を連続的な入力の流れを受信しながら、いくつかの均一な密度の間隔に適応的に分割する。 このプロセスは、ソースの分布をシフトしたターゲットの分布に間接的にマッピングし、データと下流デコーダ/運用の関係を保存する。 本稿では、Xenovertと統合されたニューラルネットワークが、5つのシフトしたデータセットのうち4つにおいて、より良い結果をもたらすことを実証した。
• 参考スコア（独自算出の注目度）: 7.763889076389205
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Input distribution shift presents a significant problem in many real-world systems. Here we present Xenovert, an adaptive algorithm that can dynamically adapt to changes in input distribution. It is a perfect binary tree that adaptively divides a continuous input space into several intervals of uniform density while receiving a continuous stream of input. This process indirectly maps the source distribution to the shifted target distribution, preserving the data's relationship with the downstream decoder/operation, even after the shift occurs. In this paper, we demonstrated how a neural network integrated with Xenovert achieved better results in 4 out of 5 shifted datasets, saving the hurdle of retraining a machine learning model. We anticipate that Xenovert can be applied to many more applications that require adaptation to unforeseen input distribution shifts, even when the distribution shift is drastic.
• Abstract（参考訳）: 入力分布シフトは多くの現実世界システムにおいて重要な問題を示す。 ここでは、入力分布の変化に動的に適応できる適応アルゴリズムであるXenovertを紹介する。 完全な二分木であり、連続的な入力のストリームを受信しながら、連続的な入力空間をいくつかの均一な密度の間隔に適応的に分割する。 このプロセスは、ソースの分布をシフト対象の分布に間接的にマッピングし、シフトが発生した後も、ダウンストリームデコーダ/オペレーションとの関係を保存する。 本稿では,5つのシフトデータセットのうち4つは,Xenovertと統合されたニューラルネットワークによってより優れた結果が得られることを実証し,機械学習モデルの再トレーニングのハードルを省いた。 我々は、分布シフトが劇的である場合でも、予期せぬ入力分布シフトへの適応を必要とする多くのアプリケーションにXenovertを適用することができると予測している。

関連論文リスト

• Dual-Path Adversarial Lifting for Domain Shift Correction in Online Test-time Adaptation [59.18151483767509]
  テスト時間適応におけるドメインシフト補正のためのデュアルパストークンリフトを導入する。 次に、インターリーブされたトークン予測とドメインシフトトークンのパスとクラストークンのパスの間の更新を行う。 評価実験の結果,提案手法はオンライン完全テスト時間領域適応性能を大幅に向上させることが示された。
  論文  参考訳（メタデータ） (2024-08-26T02:33:47Z)
• Learned Compression of Encoding Distributions [1.4732811715354455]
  エントロピーボトルネックは多くの学習された圧縮モデルで使用される共通成分である。 特定の入力に対する潜在データ分布と一致するように符号化分布を適応させる手法を提案する。 提案手法は,Kodakテストデータセット上でのBjontegaard-Delta(BD)レートの7.10%向上を実現する。
  論文  参考訳（メタデータ） (2024-06-18T21:05:51Z)
• T-SaS: Toward Shift-aware Dynamic Adaptation for Streaming Data [9.829993835712422]
  本稿では,突発的な分散シフトの存在下での逐次データモデリングの課題を解決することを目的とする。 具体的には、データの急激なシフトを捉えるために、離散分布モデリング変数を持つT-SaSと呼ばれるベイズフレームワークを設計する。 提案手法は,全ネットワーク上でどのニューロンを活性化すべきかを学習することで,各分布の特定のモデルパラメータを学習する。
  論文  参考訳（メタデータ） (2023-09-05T22:55:10Z)
• Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
  生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。 本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
  論文  参考訳（メタデータ） (2023-07-17T07:12:29Z)
• Dish-TS: A General Paradigm for Alleviating Distribution Shift in Time Series Forecasting [24.50123780737505]
  本稿では,時系列予測における分布シフトを緩和する汎用的ニューラルネットワークパラダイムであるDish-TSを紹介する。 Dish-TSはDual-CONETフレームワークとして構成され、入力空間と出力空間の分布を個別に学習する。 実験の結果、Dish-TSは平均20%以上の改善で予測モデルを継続的に強化している。
  論文  参考訳（メタデータ） (2023-02-22T07:56:45Z)
• Certifying Model Accuracy under Distribution Shifts [151.67113334248464]
  本稿では,データ分布の有界ワッサースタインシフトの下でのモデルの精度について,証明可能なロバスト性保証を提案する。 変換空間におけるモデルの入力をランダム化する単純な手順は、変換の下での分布シフトに対して確実に堅牢であることを示す。
  論文  参考訳（メタデータ） (2022-01-28T22:03:50Z)
• Generation of data on discontinuous manifolds via continuous stochastic non-invertible networks [6.201770337181472]
  連続ネットワークを用いて不連続分布を生成する方法を示す。 コスト関数と情報理論の定式化の関係を導出する。 提案手法を合成2次元分布に適用し,不連続分布の再構成と生成の両立を実証する。
  論文  参考訳（メタデータ） (2021-12-17T17:39:59Z)
• Distribution Mismatch Correction for Improved Robustness in Deep Neural Networks [86.42889611784855]
  正規化法は ノイズや入力の腐敗に関して 脆弱性を増大させる 本稿では,各層の活性化分布に適応する非教師なし非パラメトリック分布補正法を提案する。 実験により,提案手法は画像劣化の激しい影響を効果的に低減することを示した。
  論文  参考訳（メタデータ） (2021-10-05T11:36:25Z)
• Adaptive Machine Learning for Time-Varying Systems: Low Dimensional Latent Space Tuning [91.3755431537592]
  本稿では,時間変化システムを対象とした適応機械学習手法を提案する。 我々は,エンコーダデコーダCNNのエンコーダ部出力において,非常に高次元(N>100k)の入力を低次元(N2)潜在空間にマッピングする。 そこで本手法では,割り込みを伴わないフィードバックに基づいて,内部の相関関係を学習し,その進化をリアルタイムで追跡する。
  論文  参考訳（メタデータ） (2021-07-13T16:05:28Z)
• WILDS: A Benchmark of in-the-Wild Distribution Shifts [157.53410583509924]
  分散シフトは、ワイルドにデプロイされた機械学習システムの精度を実質的に低下させることができる。 分散シフトの多様な範囲を反映した8つのベンチマークデータセットのキュレーションコレクションであるWILDSを紹介します。 本研究は, 標準訓練の結果, 分布性能よりも, 分布域外性能が有意に低下することを示す。
  論文  参考訳（メタデータ） (2020-12-14T11:14:56Z)
• Truly shift-invariant convolutional neural networks [0.0]
  近年の研究では、CNNの出力は入力の小さなシフトで大きく変化することが示されている。 本稿では,適応型多相サンプリング(APS)を提案する。これは,畳み込みニューラルネットワークが,シフト下での分類性能において100%整合性を実現するための,単純なサブサンプリング手法である。
  論文  参考訳（メタデータ） (2020-11-28T20:57:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。