Fugu-MT 論文翻訳(概要): Learning on Bandwidth Constrained Multi-Source Data with MIMO-inspired DPP MAP Inference

論文の概要: Learning on Bandwidth Constrained Multi-Source Data with MIMO-inspired DPP MAP Inference

arxiv url: http://arxiv.org/abs/2306.02497v1
Date: Sun, 4 Jun 2023 22:16:49 GMT
ステータス: 処理完了
システム内更新日: 2023-06-06 17:38:27.645189
Title: Learning on Bandwidth Constrained Multi-Source Data with MIMO-inspired DPP MAP Inference
Title（参考訳）: MIMOにインスパイアされたDPPMAP推論を用いた帯域制約付きマルチソースデータの学習
Authors: Xiwen Chen, Huayu Li, Rahul Amin, Abolfazl Razi
Abstract要約: 分散ソース間でMAP推論を行うための戦略を提案する。多様性を最大化する分散サンプル選択問題の下位境界を電力配分問題として扱うことができることを示す。本手法は,情報源間の生データ交換を必要とせず,軽量な多様性測定を行うための帯域制限フィードバックチャネルである。
参考スコア（独自算出の注目度）: 1.815548369680758
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper proposes a distributed version of Determinant Point Processing (DPP) inference to enhance multi-source data diversification under limited communication bandwidth. DPP is a popular probabilistic approach that improves data diversity by enforcing the repulsion of elements in the selected subsets. The well-studied Maximum A Posteriori (MAP) inference in DPP aims to identify the subset with the highest diversity quantified by DPP. However, this approach is limited by the presumption that all data samples are available at one point, which hinders its applicability to real-world applications such as traffic datasets where data samples are distributed across sources and communication between them is band-limited. Inspired by the techniques used in Multiple-Input Multiple-Output (MIMO) communication systems, we propose a strategy for performing MAP inference among distributed sources. Specifically, we show that a lower bound of the diversity-maximized distributed sample selection problem can be treated as a power allocation problem in MIMO systems. A determinant-preserved sparse representation of selected samples is used to perform sample precoding in local sources to be processed by DPP. Our method does not require raw data exchange among sources, but rather a band-limited feedback channel to send lightweight diversity measures, analogous to the CSI message in MIMO systems, from the center to data sources. The experiments show that our scalable approach can outperform baseline methods, including random selection, uninformed individual DPP with no feedback, and DPP with SVD-based feedback, in both i.i.d and non-i.i.d setups. Specifically, it achieves 1 to 6 log-difference diversity gain in the latent representation of CIFAR-10, CIFAR-100, StanfordCars, and GTSRB datasets.
Abstract（参考訳）: 本稿では,通信帯域に制限のあるマルチソースデータ分散化を実現するために,DPP推論の分散バージョンを提案する。 DPPは、選択されたサブセット内の要素の反発を強制することで、データの多様性を改善する一般的な確率論的アプローチである。 DPPにおけるMAP(Maximum A Posteriori)推論は、DPPによって定量化された最も多様性の高いサブセットを特定することを目的としている。しかし、このアプローチは、すべてのデータサンプルが1つの時点で利用可能であるという仮定で制限されており、データサンプルがソース間で分散され、それらの間の通信が帯域制限されているトラフィックデータセットのような現実世界のアプリケーションへの適用を妨げている。マルチ入力多重出力(MIMO)通信システムで使用される技術に着想を得て,分散ソース間でMAP推論を行う手法を提案する。特に,多様性を最大化する分散サンプル選択問題の下位境界をMIMOシステムにおける電力配分問題として扱うことができることを示す。選択されたサンプルの行列保存スパース表現を用いて、DPPによって処理されるローカルソースでサンプルプリコーディングを行う。本手法はソース間の生のデータ交換を必要とせず,mimoシステムにおけるcsiメッセージに類似した,軽量な多様性測定を行うための帯域制限型フィードバックチャネルである。実験により,本手法は,ランダム選択,無フィードバックで個々のdpp,非i.i.d設定でsvdベースのフィードバックを用いたdppなど,ベースライン手法よりも優れることが示された。具体的には、CIFAR-10、CIFAR-100、StanfordCars、GTSRBデータセットの潜在表現において、1対6のログ差の多様性向上を達成する。

関連論文リスト

Efficient Distribution Matching of Representations via Noise-Injected Deep InfoMax [73.03684002513218]
我々はDeep InfoMax(DIM)を拡張し、学習した表現を選択された事前分布に自動マッチングできるようにする。このような修正により、一様かつ通常に分散した表現を学習できることを示す。その結果,下流作業における性能とDMの品質の中間的なトレードオフが示唆された。
論文参考訳（メタデータ） (2024-10-09T15:40:04Z)
Sparse outlier-robust PCA for multi-source data [2.3226893628361687]
そこで本研究では,重要な特徴と局所的なソース固有パターンを同時に選択する新しいPCA手法を提案する。我々は,グローバルな局所構造的空間パターンに対応するペナルティを持つ正規化問題を開発する。本稿では,乗算器の交互方向法による提案手法の効率的な実装について述べる。
論文参考訳（メタデータ） (2024-07-23T08:55:03Z)
Multi-Source and Test-Time Domain Adaptation on Multivariate Signals using Spatio-Temporal Monge Alignment [59.75420353684495]
コンピュータビジョンやバイオメディカルデータなどの信号に対する機械学習の応用は、ハードウェアデバイスやセッション記録にまたがる変動のため、しばしば課題に直面している。本研究では,これらの変動を緩和するために,時空間モンジュアライメント(STMA)を提案する。我々はSTMAが、非常に異なる設定で取得したデータセット間で、顕著で一貫したパフォーマンス向上をもたらすことを示す。
論文参考訳（メタデータ） (2024-07-19T13:33:38Z)
Stratified Prediction-Powered Inference for Hybrid Language Model Evaluation [62.2436697657307]
予測駆動推論(英: Prediction-powered Inference, PPI)は、人間ラベル付き限られたデータに基づいて統計的推定を改善する手法である。我々はStratPPI(Stratified Prediction-Powered Inference)という手法を提案する。単純なデータ階層化戦略を用いることで,基礎的なPPI推定精度を大幅に向上できることを示す。
論文参考訳（メタデータ） (2024-06-06T17:37:39Z)
Enhancing Information Maximization with Distance-Aware Contrastive Learning for Source-Free Cross-Domain Few-Shot Learning [55.715623885418815]
クロスドメインのFew-Shot Learningメソッドは、トレーニング前のフェーズでモデルをトレーニングするために、ソースドメインデータにアクセスする必要がある。データプライバシやデータ送信やトレーニングコストの削減に対する懸念が高まっているため,ソースデータにアクセスせずにCDFSLソリューションを開発する必要がある。本稿では,これらの課題に対処するための距離対応コントラスト学習手法を提案する。
論文参考訳（メタデータ） (2024-03-04T12:10:24Z)
On Collaboration in Distributed Parameter Estimation with Resource Constraints [11.998903619502443]
センサやエージェントはパラメータ推定の精度を最大化するためにリソース割り当てを最適化する必要がある。センサやエージェントのデータ収集と協調ポリシー設計の問題を定式化する。最適なデータ収集と協調ポリシーを学習するために,マルチアームバンディットアルゴリズムを適用した新しいアプローチを提案する。
論文参考訳（メタデータ） (2023-07-12T20:11:50Z)
Score-based Source Separation with Applications to Digital Communication Signals [72.6570125649502]
拡散モデルを用いた重畳音源の分離手法を提案する。高周波(RF)システムへの応用によって、我々は、基礎となる離散的な性質を持つ情報源に興味を持っている。提案手法は,最近提案されたスコア蒸留サンプリング方式のマルチソース拡張と見なすことができる。
論文参考訳（メタデータ） (2023-06-26T04:12:40Z)
RD-DPP: Rate-Distortion Theory Meets Determinantal Point Process to Diversify Learning Data Samples [0.5675520944829118]
交通映像解析などの実践的な学習タスクでは、利用可能なトレーニングサンプルの数は異なる要因によって制限される。本稿では,Rate-Distortion(RD)理論に基づくタスク指向の多様性測定手法を提案する。
論文参考訳（メタデータ） (2023-04-09T02:22:31Z)
UniPC: A Unified Predictor-Corrector Framework for Fast Sampling of Diffusion Models [92.43617471204963]
拡散確率モデル(DPM)は高分解能画像合成において非常に有望な能力を示した。我々は既存のDPMサンプリング器の後に適用可能な統一補正器(UniC)を開発し、精度を向上する。そこで我々は,DPMの高速サンプリングのためのUniPCと呼ばれる統合予測器・相関器フレームワークを提案する。
論文参考訳（メタデータ） (2023-02-09T18:59:48Z)
Wasserstein Learning of Determinantal Point Processes [14.790452282691252]
本稿では,観測された部分集合からなるモデルとデータ間のワッサーシュタイン距離を最小化する新しいDPP学習手法を提案する。 MLEを用いて学習したDPPと比較して,我々のWasserstein学習アプローチは,生成タスクにおける予測性能を著しく向上させることを示した。
論文参考訳（メタデータ） (2020-11-19T08:30:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。