論文の概要: Cooperative learning for multi-view analysis
- arxiv url: http://arxiv.org/abs/2112.12337v1
- Date: Thu, 23 Dec 2021 03:13:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-24 16:27:56.729762
- Title: Cooperative learning for multi-view analysis
- Title(参考訳): 複数視点分析のための協調学習
- Authors: Daisy Yi Ding, Robert Tibshirani
- Abstract要約: 複数機能セットを用いた教師あり学習手法(ビュー)を提案する。
協調学習は、予測の通常の正方形エラー損失と、異なるデータビューからの予測に同意するよう奨励する"集積"ペナルティを組み合わせる。
シミュレーションおよび実データ例における提案手法の有効性について述べる。
- 参考スコア(独自算出の注目度): 2.368995563245609
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a new method for supervised learning with multiple sets of
features ("views"). Cooperative learning combines the usual squared error loss
of predictions with an "agreement" penalty to encourage the predictions from
different data views to agree. By varying the weight of the agreement penalty,
we get a continuum of solutions that include the well-known early and late
fusion approaches. Cooperative learning chooses the degree of agreement (or
fusion) in an adaptive manner, using a validation set or cross-validation to
estimate test set prediction error. One version of our fitting procedure is
modular, where one can choose different fitting mechanisms (e.g. lasso, random
forests, boosting, neural networks) appropriate for different data views. In
the setting of cooperative regularized linear regression, the method combines
the lasso penalty with the agreement penalty. The method can be especially
powerful when the different data views share some underlying relationship in
their signals that we aim to strengthen, while each view has its idiosyncratic
noise that we aim to reduce. We illustrate the effectiveness of our proposed
method on simulated and real data examples.
- Abstract(参考訳): 本研究では,複数の特徴集合(ビュー)を用いた教師付き学習手法を提案する。
協調学習は、予測の通常の正方形エラー損失と、異なるデータビューからの予測に同意するよう奨励する"集積"ペナルティを組み合わせる。
合意のペナルティの重みを変えることで、よく知られた早期および後期の融合アプローチを含むソリューションの連続体が得られる。
協調学習は、検証セットまたはクロスバリデーションを使用して、テストセット予測エラーを推定するために、適応的な方法で一致度(あるいは融合度)を選択する。
私たちの適合手順の1つのバージョンはモジュラーで、異なるデータビューに適した異なる適合メカニズム(例えば、ラッソ、ランダムフォレスト、ブースティング、ニューラルネットワーク)を選択できます。
協調正規化線形回帰の設定では、ラッソペナルティと合意ペナルティを組み合わせる。
この方法は、異なるデータビューが私たちが強化しようとしている信号の基盤となる関係を共有している場合、特に強力である。
シミュレーションおよび実データ例における提案手法の有効性について述べる。
関連論文リスト
- MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
モデルマージは、同じトレーニング済みモデルから細調整された複数のシングルタスクモデルをマルチタスクモデルに結合する効果的なアプローチである。
既存のモデルマージ手法は、平均的なタスク精度の向上に重点を置いている。
Amortized Pareto Front (MAP) を用いた新しい低計算アルゴリズム Model Merging を導入する。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - Conformalized Late Fusion Multi-View Learning [18.928543069018865]
多視点学習の不確かさの定量化は、科学的な問題における多視点データの利用の増加によって動機づけられる。
個別のビューで個別の予測器を訓練し、単一のビュー予測が利用可能になった後にそれらを組み合わせます。
本稿では,共形予測を単一ビュー予測器上で個別に行う手法として,MVCP(Multi-View Conformal Prediction)を提案する。
論文 参考訳(メタデータ) (2024-05-25T14:11:01Z) - Convergence Behavior of an Adversarial Weak Supervision Method [10.409652277630133]
Weak Supervisionは、機械学習のサブ領域を仮定するパラダイムである。
ラベル付きデータを用いて最新の機械学習手法を訓練することにより、大量のラベル付きデータを取得するコストを改善することができる。
ツムブのルールを組み合わせるための2つのアプローチは、2つのキャンプに分かれ、統計的推定の異なるイデオロギーを反映している。
論文 参考訳(メタデータ) (2024-05-25T02:33:17Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - On the Out-of-Distribution Coverage of Combining Split Conformal
Prediction and Bayesian Deep Learning [1.131316248570352]
ベイジアンディープラーニングと分割共形予測の組み合わせと,この組み合わせが分布外カバレッジにどのように影響するかに着目した。
以上の結果から,ベイズ的深層学習モデルと分割共形予測を組み合わせれば,アウト・オブ・ディストリビューション(out-of-distriion)のカバレッジを減少させるなどの意図しない結果が生じる可能性が示唆された。
論文 参考訳(メタデータ) (2023-11-21T15:50:37Z) - Ensemble Modeling for Multimodal Visual Action Recognition [50.38638300332429]
マルチモーダル動作認識のためのアンサンブルモデリング手法を提案する。
我々は,MECCANO[21]データセットの長期分布を処理するために,焦点損失の変種を用いて,個別のモダリティモデルを個別に訓練する。
論文 参考訳(メタデータ) (2023-08-10T08:43:20Z) - Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。
我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
論文 参考訳(メタデータ) (2022-04-05T12:52:45Z) - Learning Diverse Representations for Fast Adaptation to Distribution
Shift [78.83747601814669]
本稿では,複数のモデルを学習する手法を提案する。
分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
論文 参考訳(メタデータ) (2020-06-12T12:23:50Z) - Learning from Aggregate Observations [82.44304647051243]
本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。
本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。
単純な極大解は様々な微分可能なモデルに適用できる。
論文 参考訳(メタデータ) (2020-04-14T06:18:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。