論文の概要: Addressing Parameter Choice Issues in Unsupervised Domain Adaptation by Aggregation

• arxiv url: http://arxiv.org/abs/2305.01281v1
• Date: Tue, 2 May 2023 09:34:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-03 14:45:11.347619
• Title: Addressing Parameter Choice Issues in Unsupervised Domain Adaptation by Aggregation
• Title（参考訳）: アグリゲーションによる教師なしドメイン適応におけるパラメータ選択問題に対処する
• Authors: Marius-Constantin Dinu, Markus Holzleitner, Maximilian Beck, Hoan Duc Nguyen, Andrea Huber, Hamid Eghbal-zadeh, Bernhard A. Moser, Sergei Pereverzyev, Sepp Hochreiter, Werner Zellinger
• Abstract要約: 提案アルゴリズムの目標誤差は、未知の最適アグリゲーションの誤差の2倍以下であることを示す。 また、テキスト、画像、脳波、体センサ信号、携帯電話からの信号など、いくつかのデータセットについて大規模な比較実験を行った。 提案手法は,全データセット上での深層埋込検証(DEV)と重要検証(IWV)に優れる。
• 参考スコア（独自算出の注目度）: 6.171062726013398
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the problem of choosing algorithm hyper-parameters in unsupervised domain adaptation, i.e., with labeled data in a source domain and unlabeled data in a target domain, drawn from a different input distribution. We follow the strategy to compute several models using different hyper-parameters, and, to subsequently compute a linear aggregation of the models. While several heuristics exist that follow this strategy, methods are still missing that rely on thorough theories for bounding the target error. In this turn, we propose a method that extends weighted least squares to vector-valued functions, e.g., deep neural networks. We show that the target error of the proposed algorithm is asymptotically not worse than twice the error of the unknown optimal aggregation. We also perform a large scale empirical comparative study on several datasets, including text, images, electroencephalogram, body sensor signals and signals from mobile phones. Our method outperforms deep embedded validation (DEV) and importance weighted validation (IWV) on all datasets, setting a new state-of-the-art performance for solving parameter choice issues in unsupervised domain adaptation with theoretical error guarantees. We further study several competitive heuristics, all outperforming IWV and DEV on at least five datasets. However, our method outperforms each heuristic on at least five of seven datasets.
• Abstract（参考訳）: 本研究では,ソース領域のラベル付きデータと対象領域のラベル付きデータを用いて,異なる入力分布から抽出した教師なし領域適応におけるアルゴリズムハイパーパラメータの選択の問題について検討する。 我々は、異なるハイパーパラメータを用いて複数のモデルを計算し、その後にモデルの線形集計を計算する戦略に従う。 この戦略に従ういくつかのヒューリスティックが存在するが、ターゲットエラーの境界に関する徹底した理論に依存する方法がまだ欠けている。 本稿では,重み付き最小二乗をベクトル値関数,例えばディープニューラルネットワークへ拡張する手法を提案する。 提案アルゴリズムの目標誤差は未知の最適集計の誤差の2倍よりも漸近的に悪くないことを示す。 また,テキスト,画像,脳波,身体センサ信号,携帯電話からの信号など,いくつかのデータセットについて大規模に比較検討を行った。 提案手法は,全データセットにおける深層埋込検証(DEV)と重要重み付き検証(IWV)より優れており,理論的誤り保証を伴う教師なし領域適応におけるパラメータ選択問題の解法として,新たな最先端性能が確立されている。 さらに、少なくとも5つのデータセットでIWVとDEVを上回り、いくつかの競争的ヒューリスティックを研究している。 しかし,本手法は7つのデータセットのうち少なくとも5つのヒューリスティックに優れる。

関連論文リスト

• Efficient learning of differential network in multi-source non-paranormal graphical models [2.5905193932831585]
  本稿では,2種類の非正規グラフィカルモデル間のスパース構造変化や差分ネットワークの学習に対処する。 複数の情報源からのデータセットを組み合わせるという我々の戦略は、実世界の問題における差分ネットワークの推測に非常に効果的であることが示されている。
  論文  参考訳（メタデータ） (2024-10-03T13:59:38Z)
• Multi-Source and Test-Time Domain Adaptation on Multivariate Signals using Spatio-Temporal Monge Alignment [59.75420353684495]
  コンピュータビジョンやバイオメディカルデータなどの信号に対する機械学習の応用は、ハードウェアデバイスやセッション記録にまたがる変動のため、しばしば課題に直面している。 本研究では,これらの変動を緩和するために,時空間モンジュアライメント(STMA)を提案する。 我々はSTMAが、非常に異なる設定で取得したデータセット間で、顕著で一貫したパフォーマンス向上をもたらすことを示す。
  論文  参考訳（メタデータ） (2024-07-19T13:33:38Z)
• Minimally Supervised Learning using Topological Projections in Self-Organizing Maps [55.31182147885694]
  自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。 提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。 提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2024-01-12T22:51:48Z)
• Domain Adaptation Principal Component Analysis: base linear method for learning with out-of-distribution data [55.41644538483948]
  ドメイン適応は現代の機械学習において一般的なパラダイムである。 ドメイン適応主成分分析(DAPCA)という手法を提案する。 DAPCAは、領域適応タスクの解決に有用な線形化データ表現を見つける。
  論文  参考訳（メタデータ） (2022-08-28T21:10:56Z)
• One-Pass Learning via Bridging Orthogonal Gradient Descent and Recursive Least-Squares [8.443742714362521]
  我々は,従来のデータポイントの予測にほとんど変化しない方向にパラメータを変更しながら,すべての新しいデータポイントに完全に適合するワンパス学習アルゴリズムを開発した。 我々のアルゴリズムは、インクリメンタル・プリンシパル・コンポーネント分析(IPCA)を用いてストリーミングデータの構造を利用して、メモリを効率的に利用する。 本実験では,提案手法の有効性をベースラインと比較した。
  論文  参考訳（メタデータ） (2022-07-28T02:01:31Z)
• Invariance Learning based on Label Hierarchy [17.53032543377636]
  Deep Neural Networksは、トレーニングデータに埋め込まれた急激な相関関係を継承する。 Invariance Learning (IL) はこの欠点を克服するために最近開発されている。 本稿では,複数の領域におけるデータトレーニングの要件を克服する新しいILフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-29T13:31:21Z)
• Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge Computing: A Contextual-Bandit Approach [81.5261621619557]
  階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。 まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。 そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
  論文  参考訳（メタデータ） (2021-08-09T08:45:47Z)
• Unsupervised and self-adaptative techniques for cross-domain person re-identification [82.54691433502335]
  非重複カメラにおける人物再識別(ReID)は難しい課題である。 Unsupervised Domain Adaptation(UDA)は、ソースで訓練されたモデルから、IDラベルアノテーションなしでターゲットドメインへの機能学習適応を実行するため、有望な代替手段です。 本稿では,新しいオフライン戦略によって生成されたサンプルのトリプレットを利用する,UDAベースのReID手法を提案する。
  論文  参考訳（メタデータ） (2021-03-21T23:58:39Z)
• Anomaly Detection with Domain Adaptation [5.457279006229213]
  この問題を解決するために,不変表現異常検出(IRAD)を提案する。 抽出は、ソース固有のエンコーダやジェネレータと共に訓練されたクロスドメインエンコーダによって達成される。 我々は、桁画像データセット(MNIST、USPS、SVHN)とオブジェクト認識データセット(Office-Home)に基づいて、IRADを広範囲に評価する。
  論文  参考訳（メタデータ） (2020-06-05T21:05:19Z)
• Contextual-Bandit Anomaly Detection for IoT Data in Distributed Hierarchical Edge Computing [65.78881372074983]
  IoTデバイスは複雑なディープニューラルネットワーク(DNN)モデルにはほとんど余裕がなく、異常検出タスクをクラウドにオフロードすることは長い遅延を引き起こす。 本稿では,分散階層エッジコンピューティング(HEC)システムを対象とした適応型異常検出手法のデモと構築を行う。 提案手法は,検出タスクをクラウドにオフロードした場合と比較して,精度を犠牲にすることなく検出遅延を著しく低減することを示す。
  論文  参考訳（メタデータ） (2020-04-15T06:13:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。