論文の概要: Training-Free Robust Multimodal Learning via Sample-Wise Jacobian Regularization

• arxiv url: http://arxiv.org/abs/2204.02485v1
• Date: Tue, 5 Apr 2022 20:38:33 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-07 14:17:07.633828
• Title: Training-Free Robust Multimodal Learning via Sample-Wise Jacobian Regularization
• Title（参考訳）: サンプルワイズジャコビアン正規化による学習自由ロバストマルチモーダル学習
• Authors: Zhengqi Gao, Sucheng Ren, Zihui Xue, Siting Li, Hang Zhao
• Abstract要約: 本研究では,条件付き独立仮定とヤコビ正規化を併用して,訓練不要で頑健なレイトフュージョン法を提案する。 我々の鍵は、ジャコビアン行列のフロベニウスノルムを最小化することであり、そこで得られる最適化問題は、トラクタブル・シルヴェスター方程式に緩和される。 AV-MNIST, RAVDESS, VGGsound の数値実験により, 対向攻撃とランダムな汚職の両方による手法の有効性が示された。
• 参考スコア（独自算出の注目度）: 15.012052772074858
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal fusion emerges as an appealing technique to improve model performances on many tasks. Nevertheless, the robustness of such fusion methods is rarely involved in the present literature. In this paper, we propose a training-free robust late-fusion method by exploiting conditional independence assumption and Jacobian regularization. Our key is to minimize the Frobenius norm of a Jacobian matrix, where the resulting optimization problem is relaxed to a tractable Sylvester equation. Furthermore, we provide a theoretical error bound of our method and some insights about the function of the extra modality. Several numerical experiments on AV-MNIST, RAVDESS, and VGGsound demonstrate the efficacy of our method under both adversarial attacks and random corruptions.
• Abstract（参考訳）: マルチモーダル融合は多くのタスクにおけるモデル性能を改善するための魅力的な手法として現れる。 しかしながら、そのような融合法の堅牢性は、現代文献にはほとんど関与していない。 本稿では条件付き独立性仮定とジャコビアン正則化を生かしたトレーニングフリーなロバスト・レイトフュージョン法を提案する。 我々の鍵はヤコビ行列のフロベニウスノルムを最小化することであり、そこで得られる最適化問題は可搬なシルベスター方程式に緩和される。 さらに,本手法の理論的エラーバウンドと,余剰モダリティの関数に関するいくつかの知見を提供する。 AV-MNIST, RAVDESS, VGGsound の数値実験により, 対向攻撃とランダムな汚職の両方による手法の有効性が示された。

関連論文リスト

• A Diffusion Model Framework for Unsupervised Neural Combinatorial Optimization [7.378582040635655]
  現在のディープラーニングアプローチは、正確なサンプル確率を生み出す生成モデルに依存している。 この研究は、この制限を解除し、高度に表現力のある潜在変数モデルを採用する可能性を開放する手法を導入する。 我々は,データフリーなコンビネーション最適化におけるアプローチを実験的に検証し,幅広いベンチマーク問題に対して新しい最先端の手法を実現することを実証した。
  論文  参考訳（メタデータ） (2024-06-03T17:55:02Z)
• Efficient Alternating Minimization Solvers for Wyner Multi-View Unsupervised Learning [0.0]
  本稿では,計算効率のよい解法の開発を可能にする2つの新しい定式化法を提案する。 提案した解法は, 計算効率, 理論的収束保証, ビュー数による局所最小値複雑性, 最先端技術と比較して, 例外的な精度を提供する。
  論文  参考訳（メタデータ） (2023-03-28T10:17:51Z)
• Generalizing and Improving Jacobian and Hessian Regularization [1.926971915834451]
  対象行列をゼロから効率的な行列ベクトル積を持つ任意の行列に拡張することで、これまでの取り組みを一般化する。 提案されたパラダイムは、正方形ヤコビ行列とヘッセン行列に対称性や対角性を強制する新しい正規化項を構築することを可能にする。 本稿では、Laczosに基づくスペクトルノルム最小化を導入し、この問題に対処する。
  論文  参考訳（メタデータ） (2022-12-01T07:01:59Z)
• Guaranteed Conservation of Momentum for Learning Particle-based Fluid Dynamics [96.9177297872723]
  本稿では,学習物理シミュレーションにおける線形運動量を保証する新しい手法を提案する。 我々は、強い制約で運動量の保存を強制し、反対称的な連続的な畳み込み層を通して実現する。 提案手法により,学習シミュレータの物理的精度を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2022-10-12T09:12:59Z)
• SARAH-based Variance-reduced Algorithm for Stochastic Finite-sum Cocoercive Variational Inequalities [137.6408511310322]
  有限サムコヒーレンシブ変分不等式の問題を考える。 強い単調な問題に対しては、この方法を用いて解への線形収束を達成することができる。
  論文  参考訳（メタデータ） (2022-10-12T08:04:48Z)
• Adversarial Robustness with Semi-Infinite Constrained Learning [177.42714838799924]
  入力に対する深い学習は、安全クリティカルなドメインでの使用に関して深刻な疑問を提起している。 本稿では,この問題を緩和するために,Langevin Monte Carlo のハイブリッドトレーニング手法を提案する。 当社のアプローチは、最先端のパフォーマンスと堅牢性の間のトレードオフを軽減することができることを示す。
  論文  参考訳（メタデータ） (2021-10-29T13:30:42Z)
• Robust Imitation Learning from Noisy Demonstrations [81.67837507534001]
  我々は,対称的損失を伴う分類リスクを最適化することにより,ロバストな模倣学習を実現することができることを示す。 擬似ラベルと協調学習を効果的に組み合わせた新しい模倣学習法を提案する。 連続制御ベンチマークによる実験結果から,本手法は最先端手法よりも頑健であることがわかった。
  論文  参考訳（メタデータ） (2020-10-20T10:41:37Z)
• Learning the Truth From Only One Side of the Story [58.65439277460011]
  一般化線形モデルに焦点をあて、このサンプリングバイアスを調整しなければ、モデルは準最適に収束するか、あるいは最適解に収束しないかもしれないことを示す。 理論的保証を伴って適応的なアプローチを提案し、いくつかの既存手法を実証的に上回っていることを示す。
  論文  参考訳（メタデータ） (2020-06-08T18:20:28Z)
• FedDANE: A Federated Newton-Type Method [49.9423212899788]
  フェデレートラーニングは、大規模分散データセット上で低統計モデルを共同で学習することを目的としている。 我々は、フェデレーション学習を扱うために、DANEから適応する最適化であるFedDANEを提案する。
  論文  参考訳（メタデータ） (2020-01-07T07:44:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。