論文の概要: Greedy Modality Selection via Approximate Submodular Maximization

• arxiv url: http://arxiv.org/abs/2210.12562v1
• Date: Sat, 22 Oct 2022 22:07:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-25 18:12:43.013327
• Title: Greedy Modality Selection via Approximate Submodular Maximization
• Title（参考訳）: 近似部分モジュラー最大化によるグレディモダリティ選択
• Authors: Runxiang Cheng, Gargi Balasubramaniam, Yifei He, Yao-Hung Hubert Tsai, Han Zhao
• Abstract要約: マルチモーダル学習は、異質な情報ソースを融合することを目的としたマルチモーダルデータからの学習を検討する。 メモリ制約のため、利用可能なすべてのモダリティを活用することが常に可能であるとは限らない。 本研究では,ある計算制約の下で最も情報的かつ補完的なモダリティを効率的に選択することを目的としたモダリティ選択について検討する。
• 参考スコア（独自算出の注目度）: 19.22947539760366
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal learning considers learning from multi-modality data, aiming to fuse heterogeneous sources of information. However, it is not always feasible to leverage all available modalities due to memory constraints. Further, training on all the modalities may be inefficient when redundant information exists within data, such as different subsets of modalities providing similar performance. In light of these challenges, we study modality selection, intending to efficiently select the most informative and complementary modalities under certain computational constraints. We formulate a theoretical framework for optimizing modality selection in multimodal learning and introduce a utility measure to quantify the benefit of selecting a modality. For this optimization problem, we present efficient algorithms when the utility measure exhibits monotonicity and approximate submodularity. We also connect the utility measure with existing Shapley-value-based feature importance scores. Last, we demonstrate the efficacy of our algorithm on synthetic (Patch-MNIST) and two real-world (PEMS-SF, CMU-MOSI) datasets.
• Abstract（参考訳）: マルチモーダル学習は、異質な情報ソースを融合することを目的としたマルチモーダルデータからの学習を検討する。 しかし、メモリの制約のために利用可能なすべてのモダリティを活用することは必ずしも可能ではない。 さらに、データ内に冗長な情報が存在する場合、同様の性能を提供するモダリティの異なるサブセットなど、すべてのモダリティのトレーニングは非効率になる可能性がある。 これらの課題に照らして,特定の計算制約下で最も有益で補完的なモダリティを効率的に選択することを目的としたモダリティ選択の研究を行った。 マルチモーダル学習におけるモダリティ選択を最適化するための理論的枠組みを定式化し、モダリティ選択の利点を定量化するための実用的尺度を導入する。 この最適化問題に対して,実測値が単調性および近似部分モジュラリティを示すとき,効率的なアルゴリズムを提案する。 また,既存のshapley-value-based feature importanceスコアとユーティリティ尺度を接続する。 最後に,Patch-MNIST(Patch-MNIST)とPEMS-SF(CMU-MOSI)データセットに対するアルゴリズムの有効性を示す。

関連論文リスト

• On-the-fly Modulation for Balanced Multimodal Learning [53.616094855778954]
  マルチモーダル学習は、異なるモーダルからの情報を統合することでモデル性能を向上させることが期待されている。 広く使われている共同トレーニング戦略は、不均衡で最適化されていないユニモーダル表現につながる。 そこで本研究では,OGM(On-the-fly Prediction Modulation)とOGM(On-the-fly Gradient Modulation)の戦略を提案する。
  論文  参考訳（メタデータ） (2024-10-15T13:15:50Z)
• Prioritizing Modalities: Flexible Importance Scheduling in Federated Multimodal Learning [5.421492821020181]
  Federated Learning(FL)は、デバイスがローカルデータを共有せずにモデルを協調的にトレーニングできる分散機械学習アプローチである。 FLを実世界のデータに適用することは、特に既存のFL研究が不正なデータに焦点を当てているため、課題を提示している。 我々は,各モードエンコーダのトレーニングリソースを適応的に割り当てることで,MFLにおける計算効率を向上させる新しい手法FlexModを提案する。
  論文  参考訳（メタデータ） (2024-08-13T01:14:27Z)
• Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
  対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。 これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
  論文  参考訳（メタデータ） (2024-02-05T16:09:35Z)
• Amortizing intractable inference in large language models [56.92471123778389]
  難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。 我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。 重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
  論文  参考訳（メタデータ） (2023-10-06T16:36:08Z)
• Multi-Resolution Active Learning of Fourier Neural Operators [33.63483360957646]
  本稿では,FNO(MRA-FNO)の多解能動的学習を提案する。 具体的には,確率的多分解能FNOを提案し,モンテカルロのアンサンブルを用いて効果的な後部推論アルゴリズムを提案する。 いくつかのベンチマーク演算子学習タスクにおいて,本手法の利点を示した。
  論文  参考訳（メタデータ） (2023-09-29T04:41:27Z)
• Learning Unseen Modality Interaction [54.23533023883659]
  マルチモーダル学習は、すべてのモダリティの組み合わせが訓練中に利用でき、クロスモーダル対応を学ぶことを前提としている。 我々は、目に見えないモダリティ相互作用の問題を提起し、第1の解を導入する。 異なるモジュラリティの多次元的特徴を、豊富な情報を保存した共通空間に投影するモジュールを利用する。
  論文  参考訳（メタデータ） (2023-06-22T10:53:10Z)
• Learning to Maximize Mutual Information for Dynamic Feature Selection [13.821253491768168]
  本稿では,現在利用可能な情報に基づいてモデルを逐次クエリする動的特徴選択(DFS)問題を考察する。 条件付き相互情報に基づいて,特徴を欲求的に選択する,よりシンプルなアプローチについて検討する。 提案手法は,最適性を訓練した際の欲求を回復し,既存の特徴選択法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-02T08:31:56Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)
• Maximum Likelihood Estimation for Multimodal Learning with Missing Modality [10.91899856969822]
  そこで本研究では,モダリティ欠落データに知識を組み込むために,最大推定値に基づく効率的な手法を提案する。 トレーニングデータの95%がモダリティを欠いている場合でも,提案手法の有効性を示す。
  論文  参考訳（メタデータ） (2021-08-24T03:50:54Z)
• Provable Multi-Objective Reinforcement Learning with Generative Models [98.19879408649848]
  目的の選好から最適な政策を学習する単一政策 MORL の問題について検討する。 既存の方法は、多目的決定プロセスの正確な知識のような強い仮定を必要とする。 モデルベースエンベロップ値 (EVI) と呼ばれる新しいアルゴリズムを提案し, 包含された多目的$Q$学習アルゴリズムを一般化する。
  論文  参考訳（メタデータ） (2020-11-19T22:35:31Z)
• Adaptive Matching of Kernel Means [10.377914682543903]
  カーネル平均マッチング(KMM)は,カーネルマシンの知識発見と新規性検出において重要な手法となっている。 本研究では,カーネル手段の適応マッチングのための新しい手法を提案し,高い重要度を持つ選択データを用いて計算効率を最適化する手法を提案する。 様々な実世界のデータセットに対する実験結果から,提案手法はいくつかの最先端手法と比較して優れた性能が得られることを示した。
  論文  参考訳（メタデータ） (2020-11-16T09:00:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。