論文の概要: Biased Mixtures Of Experts: Enabling Computer Vision Inference Under Data Transfer Limitations

• arxiv url: http://arxiv.org/abs/2008.09662v1
• Date: Fri, 21 Aug 2020 19:38:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-26 22:32:13.731791
• Title: Biased Mixtures Of Experts: Enabling Computer Vision Inference Under Data Transfer Limitations
• Title（参考訳）: エキスパートの偏りのある混合:データ転送制限下でのコンピュータビジョン推論を可能にする
• Authors: Alhabib Abbas and Yiannis Andreopoulos
• Abstract要約: 我々は、専門家が異なる量のデータを必要とする混合物を検討し、各専門家の入力空間を分割するためにスパースゲーティング関数を訓練する。 本稿では、凸最適化問題として、視覚センシングと処理の間のデータ転送最適化が解けることを示す。
• 参考スコア（独自算出の注目度）: 26.620741572128516
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a novel mixture-of-experts class to optimize computer vision models in accordance with data transfer limitations at test time. Our approach postulates that the minimum acceptable amount of data allowing for highly-accurate results can vary for different input space partitions. Therefore, we consider mixtures where experts require different amounts of data, and train a sparse gating function to divide the input space for each expert. By appropriate hyperparameter selection, our approach is able to bias mixtures of experts towards selecting specific experts over others. In this way, we show that the data transfer optimization between visual sensing and processing can be solved as a convex optimization problem.To demonstrate the relation between data availability and performance, we evaluate biased mixtures on a range of mainstream computer vision problems, namely: (i) single shot detection, (ii) image super resolution, and (iii) realtime video action classification. For all cases, and when experts constitute modified baselines to meet different limits on allowed data utility, biased mixtures significantly outperform previous work optimized to meet the same constraints on available data.
• Abstract（参考訳）: 本研究では,テスト時のデータ転送制限に応じてコンピュータビジョンモデルを最適化する,新しいmixed-of-expertsクラスを提案する。 提案手法では,入力空間のパーティショニングによって,精度の高い結果を可能にする最小許容データ量が異なることを仮定する。 そこで我々は,専門家が異なる量のデータを必要とする混合物を考察し,各専門家の入力空間を分割するためにスパースゲーティング関数を訓練する。 適切なハイパーパラメータ選択によって、我々のアプローチは専門家の混合物を他人よりも特定の専門家を選ぶことにバイアスを与えることができる。 このようにして,視覚センシングと処理間のデータ転送最適化を凸最適化問題として解決できることを示し,データ可用性と性能の関係を実証するために,偏りのある混合を主流のコンピュータビジョン問題,すなわち: (i)シングルショット検出。 (ii)画像の超解像度、及び (iii)リアルタイムビデオアクション分類。 すべてのケースにおいて、そして専門家が許容データユーティリティの異なる制限を満たすようにベースラインを変更した場合、バイアスのある混合は、利用可能なデータに対する同じ制約を満たすように最適化された以前の作業を大きく上回る。

関連論文リスト

• A CLIP-Powered Framework for Robust and Generalizable Data Selection [51.46695086779598]
  実世界のデータセットは、しばしば冗長でノイズの多いデータを含み、トレーニング効率とモデルパフォーマンスに悪影響を及ぼす。 データ選択は、データセット全体から最も代表的なサンプルを特定することを約束している。 より堅牢で一般化可能なサンプル選択にマルチモーダル情報を活用するCLIPを利用した新しいデータ選択フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-15T03:00:58Z)
• Mixture of Efficient Diffusion Experts Through Automatic Interval and Sub-Network Selection [63.96018203905272]
  本稿では, 事前学習した拡散モデルを用いて, 効率の良い専門家の混入を図り, サンプリングコストを削減することを提案する。 提案手法であるDiffPruningの有効性を,複数のデータセットで示す。
  論文  参考訳（メタデータ） (2024-09-23T21:27:26Z)
• Empirical Mean and Frequency Estimation Under Heterogeneous Privacy: A Worst-Case Analysis [5.755004576310333]
  微分プライバシー(DP)は、現在プライバシーを測定するための金の標準である。 異種プライバシー制約を考慮した一変量データに対する経験的平均推定とカテゴリーデータに対する周波数推定の問題点を考察する。 提案アルゴリズムは,PAC誤差と平均二乗誤差の両面から最適性を証明し,他のベースライン手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2024-07-15T22:46:02Z)
• Anomalous Change Point Detection Using Probabilistic Predictive Coding [13.719066883151623]
  確率予測符号化 (Probabilistic Predictive Coding, PPC) と呼ばれる深層学習に基づく CPD/AD 手法を提案する。 PPCは、連続したデータを低次元の潜在空間表現にエンコードし、その後のデータ表現とそれに対応する予測不確かさを予測することを共同で学習する。 本研究では, 合成時系列実験, 画像データ, 実世界の磁気共鳴分光画像データにまたがって提案手法の有効性と適応性を示す。
  論文  参考訳（メタデータ） (2024-05-24T17:17:34Z)
• Multi-Source Conformal Inference Under Distribution Shift [41.701790856201036]
  複数のバイアスのあるデータソースを活用することにより,対象個体数の分布自由な予測区間を得るという課題を考察する。 対象集団および源集団における未観測結果の定量値に対する効率的な影響関数を導出する。 本稿では、効率向上のための重み付き情報ソースとバイアス低減のための重み付き非情報ソースに対するデータ適応戦略を提案する。
  論文  参考訳（メタデータ） (2024-05-15T13:33:09Z)
• Optimal Locally Private Nonparametric Classification with Public Data [2.631955426232593]
  本研究では,非パラメトリック分類に着目して,公共データを利用した非対話型局所微分プライベート(LDP)学習の問題点について検討する。 後方ドリフト仮定の下では, LDP制約による最小収束率を導出する。 そこで本研究では,極小最大収束率を達成できる新しい手法である局所微分プライベート分類木を提案する。
  論文  参考訳（メタデータ） (2023-11-19T16:35:01Z)
• Tackling Diverse Minorities in Imbalanced Classification [80.78227787608714]
  不均衡データセットは、様々な現実世界のアプリケーションで一般的に見られ、分類器の訓練において重要な課題が提示されている。 マイノリティクラスとマイノリティクラスの両方のデータサンプルを混合することにより、反復的に合成サンプルを生成することを提案する。 提案するフレームワークの有効性を,7つの公開ベンチマークデータセットを用いて広範な実験により実証する。
  論文  参考訳（メタデータ） (2023-08-28T18:48:34Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• On Covariate Shift of Latent Confounders in Imitation and Reinforcement Learning [69.48387059607387]
  模擬・強化学習において,未観測の共同設立者と専門家データを併用することの問題点を考察する。 我々は、外部報酬を伴わずに、確立した専門家データから学ぶことの限界を分析する。 我々は,支援医療とレコメンデーションシステムシミュレーションの課題に挑戦する上で,我々の主張を実証的に検証する。
  論文  参考訳（メタデータ） (2021-10-13T07:31:31Z)
• Transformer Based Multi-Source Domain Adaptation [53.24606510691877]
  実践的な機械学習設定では、モデルを予測しなければならないデータは、トレーニングされたデータとは異なる分布から生まれることが多い。 本稿では、複数のソースドメインからラベル付きデータに基づいてモデルを訓練し、ラベル付きデータが見られないドメイン上で予測を行う、教師なしマルチソースドメイン適応の問題について検討する。 本研究では,大規模な事前学習型変圧器を用いたドメインエキスパートの予測が極めて均質であることを示し,それらの予測を混在させる効果的な関数の学習を困難にしている。
  論文  参考訳（メタデータ） (2020-09-16T16:56:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。