論文の概要: Robust Hybrid Learning With Expert Augmentation

• arxiv url: http://arxiv.org/abs/2202.03881v3
• Date: Tue, 11 Apr 2023 19:51:36 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-13 19:22:47.670635
• Title: Robust Hybrid Learning With Expert Augmentation
• Title（参考訳）: エキスパート強化によるロバストハイブリッド学習
• Authors: Antoine Wehenkel, Jens Behrmann, Hsiang Hsu, Guillermo Sapiro, Gilles Louppe, J\"orn-Henrik Jacobsen
• Abstract要約: 我々は、textitexpert augmentation と呼ばれるハイブリッドデータ拡張戦略を導入する。 既存のハイブリッドシステムに組み込むことのできるエキスパート強化が一般化を改善することを実証する。 また、実際の2重振り子のデータセット上で、専門家増強の現実的適用可能性を評価する。
• 参考スコア（独自算出の注目度）: 31.911717646180886
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Hybrid modelling reduces the misspecification of expert models by combining them with machine learning (ML) components learned from data. Similarly to many ML algorithms, hybrid model performance guarantees are limited to the training distribution. Leveraging the insight that the expert model is usually valid even outside the training domain, we overcome this limitation by introducing a hybrid data augmentation strategy termed \textit{expert augmentation}. Based on a probabilistic formalization of hybrid modelling, we demonstrate that expert augmentation, which can be incorporated into existing hybrid systems, improves generalization. We empirically validate the expert augmentation on three controlled experiments modelling dynamical systems with ordinary and partial differential equations. Finally, we assess the potential real-world applicability of expert augmentation on a dataset of a real double pendulum.
• Abstract（参考訳）: ハイブリッドモデリングは、データから学んだ機械学習(ML)コンポーネントと組み合わせることで、専門家モデルの誤特定を減らす。 多くのMLアルゴリズムと同様に、ハイブリッドモデルの性能保証はトレーニング分布に制限される。 エキスパートモデルは通常、トレーニング領域外でも有効であるという知見を活用することで、‘textit{expert augmentation}’と呼ばれるハイブリッドデータ拡張戦略を導入することで、この制限を克服します。 ハイブリッドモデリングの確率論的形式化に基づき、既存のハイブリッドシステムに組み込まれるエキスパート拡張が一般化を改善できることを実証する。 常微分方程式と偏微分方程式の力学系をモデル化する3つの制御実験について,専門家の強化を実証的に検証した。 最後に,実二重振り子のデータセット上でのエキスパート拡張の可能性について検討する。

関連論文リスト

• Automatically Learning Hybrid Digital Twins of Dynamical Systems [56.69628749813084]
  Digital Twins (DT)は、現実世界のシステムの状態と時間力学をシミュレートする。 DTは、しばしばデータスカース設定で目に見えない条件に一般化するのに苦労します。 本稿では,HDTwinsを自律的に提案し,評価し,最適化するための進化的アルゴリズム(textbfHDTwinGen$)を提案する。
  論文  参考訳（メタデータ） (2024-10-31T07:28:22Z)
• Diversifying the Expert Knowledge for Task-Agnostic Pruning in Sparse Mixture-of-Experts [75.85448576746373]
  本稿では,モデルのパラメータ効率を向上させるために,類似の専門家をグループ化し,グループ化する方法を提案する。 提案手法の有効性を3つの最先端MoEアーキテクチャを用いて検証する。 評価の結果,本手法は自然言語タスクにおいて,他のモデルプルーニング手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2024-07-12T17:25:02Z)
• Hybrid Quantum-inspired Resnet and Densenet for Pattern Recognition [1.0499611180329804]
  パターン認識のための残差と高密度接続を有する2つのハイブリッド量子インスピレーションニューラルネットワークを提案する。 一般化パワーに関する数値実験の集まりは、我々のハイブリッドモデルが純粋古典モデルと同じ一般化パワーを持っていることを示している。 ある研究によると、我々のハイブリッドモデルの認識精度は、残差や密接な接続のない量子ニューラルネットワークの認識精度よりも2%-3%高い。
  論文  参考訳（メタデータ） (2024-03-09T01:34:26Z)
• Causal hybrid modeling with double machine learning [4.190790144182304]
  ハイブリッドモデリングは、機械学習と科学的知識を統合し、解釈可能性、一般化、自然法則の遵守を強化する。 本稿では、因果関係を推定するためにDouble Machine Learning (DML) を用いる因果関係推論フレームワークを用いてハイブリッドモデルを推定する新しい手法を提案する。 我々は、DMLに基づくハイブリッドモデリングが、エンドツーエンドのディープニューラルネットワーク(DNN)アプローチよりも因果パラメータを推定し、効率性の証明、正規化手法からのバイアスに対する堅牢性、等性回避に優れていることを実証した。
  論文  参考訳（メタデータ） (2024-02-20T19:19:56Z)
• Augment on Manifold: Mixup Regularization with UMAP [5.18337967156149]
  本稿では,深層学習予測モデルのための自動データ拡張のためのMixup正規化スキームUMAP Mixupを提案する。 提案手法により,Mixup演算により特徴量とラベルのデータ多様体上に合成されたサンプルが生成される。
  論文  参考訳（メタデータ） (2023-12-20T16:02:25Z)
• Prediction Sets for High-Dimensional Mixture of Experts Models [9.195729979000404]
  高次元設定におけるエキスパートモデルの$ell_$-penalizedmixに対して有効な予測セットを構築する方法を示す。 本稿では, 罰則による偏見を考慮に入れた脱バイアス法を応用し, 間隔を組み合わさって予測セットを形成する新しい戦略を提案する。
  論文  参考訳（メタデータ） (2022-10-30T00:27:19Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)
• Conformer-based Hybrid ASR System for Switchboard Dataset [99.88988282353206]
  本稿では,競争力のあるコンバータベースハイブリッドモデルトレーニングレシピを提示し,評価する。 本研究は,単語誤り率の向上と学習速度向上のための異なる訓練側面と手法について検討する。 我々はSwitchboard 300hデータセットで実験を行い、コンバータベースのハイブリッドモデルは競争力のある結果を得る。
  論文  参考訳（メタデータ） (2021-11-05T12:03:18Z)
• A Variational Infinite Mixture for Probabilistic Inverse Dynamics Learning [34.90240171916858]
  確率的局所モデルの無限混合に対する効率的な変分ベイズ推論手法を開発した。 我々は、データ駆動適応、高速予測、不連続関数とヘテロセダスティックノイズに対処する能力の組み合わせにおけるモデルのパワーを強調した。 学習したモデルを用いてBarrett-WAMマニピュレータのオンライン動的制御を行い、軌道追跡性能を大幅に改善した。
  論文  参考訳（メタデータ） (2020-11-10T16:15:13Z)
• Training Deep Energy-Based Models with f-Divergence Minimization [113.97274898282343]
  深部エネルギーベースモデル(EBM)は分布パラメトリゼーションにおいて非常に柔軟であるが、計算的に困難である。 所望のf偏差を用いてEMMを訓練するための、f-EBMと呼ばれる一般的な変分フレームワークを提案する。 実験の結果,F-EBMは対照的なばらつきよりも優れており,KL以外のf-divergencesを用いたEBMの訓練の利点も示された。
  論文  参考訳（メタデータ） (2020-03-06T23:11:13Z)
• Hybrid modeling: Applications in real-time diagnosis [64.5040763067757]
  我々は、機械学習にインスパイアされたモデルと物理モデルを組み合わせた、新しいハイブリッドモデリングアプローチの概要を述べる。 このようなモデルをリアルタイム診断に利用しています。
  論文  参考訳（メタデータ） (2020-03-04T00:44:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。