論文の概要: ADMN: A Layer-Wise Adaptive Multimodal Network for Dynamic Input Noise and Compute Resources

• arxiv url: http://arxiv.org/abs/2502.07862v1
• Date: Tue, 11 Feb 2025 17:19:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-13 13:51:01.466000
• Title: ADMN: A Layer-Wise Adaptive Multimodal Network for Dynamic Input Noise and Compute Resources
• Title（参考訳）: ADMN:動的入力ノイズと計算資源のための層幅適応型マルチモーダルネットワーク
• Authors: Jason Wu, Kang Yang, Lance Kaplan, Mani Srivastava,
• Abstract要約: マルチモーダルディープラーニングシステムは、様々な計算資源の可用性と入力の質の変動に苦慮している。 両課題に対処可能なレイヤワイド適応深度マルチモーダルネットワーク ADMN を提案する。 評価の結果, ADMNは, 浮動小数点演算の75%を削減しつつ, 最先端ネットワークの精度を向上できることがわかった。
• 参考スコア（独自算出の注目度）: 7.6443743408427505
• License:
• Abstract: Multimodal deep learning systems are deployed in dynamic scenarios due to the robustness afforded by multiple sensing modalities. Nevertheless, they struggle with varying compute resource availability (due to multi-tenancy, device heterogeneity, etc.) and fluctuating quality of inputs (from sensor feed corruption, environmental noise, etc.). Current multimodal systems employ static resource provisioning and cannot easily adapt when compute resources change over time. Additionally, their reliance on processing sensor data with fixed feature extractors is ill-equipped to handle variations in modality quality. Consequently, uninformative modalities, such as those with high noise, needlessly consume resources better allocated towards other modalities. We propose ADMN, a layer-wise Adaptive Depth Multimodal Network capable of tackling both challenges - it adjusts the total number of active layers across all modalities to meet compute resource constraints, and continually reallocates layers across input modalities according to their modality quality. Our evaluations showcase ADMN can match the accuracy of state-of-the-art networks while reducing up to 75% of their floating-point operations.
• Abstract（参考訳）: マルチモーダルディープラーニングシステムは、複数のセンシングモダリティによって得られるロバスト性のために、動的シナリオに展開される。 それでも、さまざまな計算リソースの可用性(マルチテナント、デバイスの不均一性など)と、入力の品質(センサフィードの破損、環境騒音など)の変動に苦慮している。 現在のマルチモーダルシステムは静的なリソースプロビジョニングを採用しており、時間とともにリソースが変化すると容易に適応できない。 さらに、固定特徴抽出器によるセンサデータ処理への依存は、モダリティ品質の変動に対処するには不十分である。 その結果、ノイズが高いような非形式的なモダリティは、必然的に他のモダリティに割り当てられたリソースを消費する。 計算資源の制約を満たすため,全てのモダリティにまたがるアクティブなレイヤの総数を調整し,そのモダリティの品質に応じて,入力モダリティにまたがるレイヤを継続的に再配置する。 評価の結果, ADMNは, 浮動小数点演算の75%を削減しつつ, 最先端ネットワークの精度を向上できることがわかった。

関連論文リスト

• AdapMTL: Adaptive Pruning Framework for Multitask Learning Model [5.643658120200373]
  AdapMTLはマルチタスクモデルのための適応型プルーニングフレームワークである。 複数のタスクにまたがって、空間割り当てと精度のパフォーマンスのバランスをとる。 最先端の刈り取り法に比べて優れた性能を示す。
  論文  参考訳（メタデータ） (2024-08-07T17:19:15Z)
• Joint Admission Control and Resource Allocation of Virtual Network Embedding via Hierarchical Deep Reinforcement Learning [69.00997996453842]
  本稿では,仮想ネットワークの埋め込みにおいて,入出力制御と資源配分を併用して学習する深層強化学習手法を提案する。 HRL-ACRAは,受入率と長期平均収益の両面で,最先端のベースラインを上回っていることを示す。
  論文  参考訳（メタデータ） (2024-06-25T07:42:30Z)
• Exploring Missing Modality in Multimodal Egocentric Datasets [89.76463983679058]
  モダリティが欠如している場合でも,MMT(Missing Modality Token)という新しい概念を導入してパフォーマンスを維持する。 テストセットの半分がモダル不完全である場合、元の$sim 30%$ dropから$sim 10%$に減らします。
  論文  参考訳（メタデータ） (2024-01-21T11:55:42Z)
• Robust Multimodal Learning with Missing Modalities via Parameter-Efficient Adaptation [16.17270247327955]
  本稿では,事前学習型マルチモーダルネットワークに対するシンプルでパラメータ効率の良い適応手法を提案する。 このような適応は、モダリティの欠如による性能低下を部分的に補うことができることを示す。 提案手法は,様々なタスクやデータセットにまたがる汎用性を実証し,モダリティの欠如による頑健なマルチモーダル学習法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-06T03:04:21Z)
• Adaptive Resource Allocation for Virtualized Base Stations in O-RAN with Online Learning [55.08287089554127]
  基地局(vBS)を備えたオープンラジオアクセスネットワークシステムは、柔軟性の向上、コスト削減、ベンダーの多様性、相互運用性のメリットを提供する。 本研究では,予期せぬ「混み合う」環境下であっても,効率的なスループットとvBSエネルギー消費のバランスをとるオンライン学習アルゴリズムを提案する。 提案手法は, 課題のある環境においても, 平均最適性ギャップをゼロにすることで, サブ線形後悔を実現する。
  論文  参考訳（メタデータ） (2023-09-04T17:30:21Z)
• RHFedMTL: Resource-Aware Hierarchical Federated Multi-Task Learning [11.329273673732217]
  フェデレーション学習は、セキュリティを備えた大規模な分散ノード上でAIを可能にする効果的な方法である。 複数の基地局(BS)と端末をまたいだマルチタスク学習を維持しながら、プライバシを確保することは困難である。 本稿では, セルラーワークの自然雲-BS-末端階層に着想を得て, 資源を考慮した階層型MTL (RHFedMTL) ソリューションを提案する。
  論文  参考訳（メタデータ） (2023-06-01T13:49:55Z)
• Learning Resilient Radio Resource Management Policies with Graph Neural Networks [124.89036526192268]
  我々は、ユーザ当たりの最小容量制約でレジリエントな無線リソース管理問題を定式化する。 有限個のパラメータ集合を用いてユーザ選択と電力制御ポリシーをパラメータ化できることを示す。 このような適応により,提案手法は平均レートと5番目のパーセンタイルレートとの良好なトレードオフを実現する。
  論文  参考訳（メタデータ） (2022-03-07T19:40:39Z)
• Resource Allocation via Model-Free Deep Learning in Free Space Optical Communications [119.81868223344173]
  本稿では,自由空間光学(FSO)通信におけるチャネルフェージング効果の緩和のための資源配分の一般的な問題について検討する。 本フレームワークでは,FSO資源割り当て問題を解決する2つのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-27T17:38:51Z)
• Modality Compensation Network: Cross-Modal Adaptation for Action Recognition [77.24983234113957]
  異なるモダリティの関係を探索するためのモダリティ補償ネットワーク(MCN)を提案する。 我々のモデルは、適応表現学習を実現するために、モーダリティ適応ブロックによって、ソースおよび補助モーダリティからのデータをブリッジする。 実験の結果,MCNは4つの広く使用されている行動認識ベンチマークにおいて,最先端のアプローチよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2020-01-31T04:51:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。