論文の概要: Mapping the Multiverse of Latent Representations
- arxiv url: http://arxiv.org/abs/2402.01514v1
- Date: Fri, 2 Feb 2024 15:54:53 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-05 14:24:48.428083
- Title: Mapping the Multiverse of Latent Representations
- Title(参考訳): 潜在表現の多元写像
- Authors: Jeremy Wayland, Corinna Coupette, Bastian Rieck
- Abstract要約: PRESTOは、潜在表現に依存する機械学習モデルのマルチバースをマッピングするための、原則化されたフレームワークである。
我々のフレームワークは、多種多様な機械学習手法の組み合わせから生じる潜伏空間を特徴付けるために永続的ホモロジーを使用する。
- 参考スコア(独自算出の注目度): 18.799554727838437
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Echoing recent calls to counter reliability and robustness concerns in
machine learning via multiverse analysis, we present PRESTO, a principled
framework for mapping the multiverse of machine-learning models that rely on
latent representations. Although such models enjoy widespread adoption, the
variability in their embeddings remains poorly understood, resulting in
unnecessary complexity and untrustworthy representations. Our framework uses
persistent homology to characterize the latent spaces arising from different
combinations of diverse machine-learning methods, (hyper)parameter
configurations, and datasets, allowing us to measure their pairwise
(dis)similarity and statistically reason about their distributions. As we
demonstrate both theoretically and empirically, our pipeline preserves
desirable properties of collections of latent representations, and it can be
leveraged to perform sensitivity analysis, detect anomalous embeddings, or
efficiently and effectively navigate hyperparameter search spaces.
- Abstract(参考訳): マルチバース分析による機械学習の信頼性とロバスト性に対する最近の要求に反し、潜在表現に依存する多元的機械学習モデルのマッピングのための原則付きフレームワークprestoを提案する。
このようなモデルは広く採用されているが、その埋め込みの多様性は理解されていないままであり、不要な複雑さと信頼できない表現をもたらす。
私たちのフレームワークは、永続ホモロジーを使用して、さまざまな機械学習メソッド、(ハイパー)パラメータ構成、データセットの組み合わせから生じる潜在空間を特徴付け、ペアワイズ(dis)相似性を計測し、その分布を統計的に推論する。
理論的にも実証的にも,本パイプラインは潜在表現の集合の望ましい特性を保存し,感度解析や異常埋め込みの検出,高パラメータ探索空間の効率的かつ効果的にナビゲートに活用できる。
関連論文リスト
- Identifiable Representation and Model Learning for Latent Dynamic Systems [0.0]
本稿では,潜在力学系における表現とモデル学習の問題について検討する。
線形あるいはアフィン非線形潜在力学系に対して、スケーリングまでの表現を同定し、いくつかの単純な変換までモデルを決定できることを証明した。
論文 参考訳(メタデータ) (2024-10-23T13:55:42Z) - The Common Stability Mechanism behind most Self-Supervised Learning
Approaches [64.40701218561921]
自己指導型学習手法の安定性のメカニズムを説明するための枠組みを提供する。
我々は,BYOL,SWAV,SimSiam,Barlow Twins,DINOなどの非コントラスト技術であるSimCLRの動作メカニズムについて議論する。
私たちは異なる仮説を定式化し、Imagenet100データセットを使ってそれらをテストします。
論文 参考訳(メタデータ) (2024-02-22T20:36:24Z) - Revealing Multimodal Contrastive Representation Learning through Latent
Partial Causal Models [85.67870425656368]
マルチモーダルデータに特化して設計された統一因果モデルを提案する。
マルチモーダル・コントラスト表現学習は潜在結合変数の同定に優れていることを示す。
実験では、仮定が破られたとしても、我々の発見の堅牢性を示す。
論文 参考訳(メタデータ) (2024-02-09T07:18:06Z) - Leveraging Diffusion Disentangled Representations to Mitigate Shortcuts
in Underspecified Visual Tasks [92.32670915472099]
拡散確率モデル(DPM)を用いた合成カウンターファクトの生成を利用したアンサンブルの多様化フレームワークを提案する。
拡散誘導型分散化は,データ収集を必要とする従来の手法に匹敵するアンサンブル多様性を達成し,ショートカットからの注意を回避できることを示す。
論文 参考訳(メタデータ) (2023-10-03T17:37:52Z) - Learning minimal representations of stochastic processes with
variational autoencoders [52.99137594502433]
プロセスを記述するのに必要なパラメータの最小セットを決定するために、教師なしの機械学習アプローチを導入する。
我々の手法はプロセスを記述する未知のパラメータの自律的な発見を可能にする。
論文 参考訳(メタデータ) (2023-07-21T14:25:06Z) - Robust probabilistic inference via a constrained transport metric [8.85031165304586]
我々は、パラメトリックな分布の族の近くに集中するように慎重に設計された指数関数的に傾いた経験的確に構築することで、新しい代替手段を提供する。
提案手法は,多種多様なロバストな推論問題に応用し,中心分布に付随するパラメータを推論する。
我々は,最先端の頑健なベイズ推論手法と比較した場合,提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-03-17T16:10:06Z) - Adversarial Robustness of Supervised Sparse Coding [34.94566482399662]
表現を学習すると同時に、正確な一般化境界と堅牢性証明を与えるモデルを考える。
線形エンコーダと組み合わされたスパーシティプロモーティングエンコーダを組み合わせた仮説クラスに着目した。
エンドツーエンドの分類のための堅牢性証明を提供する。
論文 参考訳(メタデータ) (2020-10-22T22:05:21Z) - Generalization Properties of Optimal Transport GANs with Latent
Distribution Learning [52.25145141639159]
本研究では,潜伏分布とプッシュフォワードマップの複雑さの相互作用が性能に与える影響について検討する。
我々の分析に感銘を受けて、我々はGANパラダイム内での潜伏分布とプッシュフォワードマップの学習を提唱した。
論文 参考訳(メタデータ) (2020-07-29T07:31:33Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z) - Modal Uncertainty Estimation via Discrete Latent Representation [4.246061945756033]
本稿では,インプットとアウトプットの1対1マッピングを,忠実な不確実性対策とともに学習するディープラーニングフレームワークを提案する。
我々のフレームワークは、現在の最先端手法よりもはるかに正確な不確実性推定を実証している。
論文 参考訳(メタデータ) (2020-07-25T05:29:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。