論文の概要: ClassiFIM: An Unsupervised Method To Detect Phase Transitions
- arxiv url: http://arxiv.org/abs/2408.03323v1
- Date: Tue, 6 Aug 2024 17:58:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-07 13:28:24.987488
- Title: ClassiFIM: An Unsupervised Method To Detect Phase Transitions
- Title(参考訳): ClassiFIM: 位相遷移を検出する教師なしの方法
- Authors: Victor Kasatkin, Evgeny Mozgunov, Nicholas Ezzell, Utkarsh Mishra, Itay Hen, Daniel Lidar,
- Abstract要約: ClassiFIMは、FIM推定タスクを解決するために設計された新しい機械学習手法である。
古典的および量子的位相遷移を記述するデータセットを含む,複数のデータセットにClassiFIMを実装した。
また,本手法の汎用性を強調するため,MNIST-CNNデータセットの提案と生成を行う。
- 参考スコア(独自算出の注目度): 0.13194391758295113
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Estimation of the Fisher Information Metric (FIM-estimation) is an important task that arises in unsupervised learning of phase transitions, a problem proposed by physicists. This work completes the definition of the task by defining rigorous evaluation metrics distMSE, distMSEPS, and distRE and introduces ClassiFIM, a novel machine learning method designed to solve the FIM-estimation task. Unlike existing methods for unsupervised learning of phase transitions, ClassiFIM directly estimates a well-defined quantity (the FIM), allowing it to be rigorously compared to any present and future other methods that estimate the same. ClassiFIM transforms a dataset for the FIM-estimation task into a dataset for an auxiliary binary classification task and involves selecting and training a model for the latter. We prove that the output of ClassiFIM approaches the exact FIM in the limit of infinite dataset size and under certain regularity conditions. We implement ClassiFIM on multiple datasets, including datasets describing classical and quantum phase transitions, and find that it achieves a good ground truth approximation with modest computational resources. Furthermore, we independently implement two alternative state-of-the-art methods for unsupervised estimation of phase transition locations on the same datasets and find that ClassiFIM predicts such locations at least as well as these other methods. To emphasize the generality of our method, we also propose and generate the MNIST-CNN dataset, which consists of the output of CNNs trained on MNIST for different hyperparameter choices. Using ClassiFIM on this dataset suggests there is a phase transition in the distribution of image-prediction pairs for CNNs trained on MNIST, demonstrating the broad scope of FIM-estimation beyond physics.
- Abstract(参考訳): フィジカル・インフォメーション・メトリック(FIM推定)の推定は, 位相遷移の教師なし学習において重要な課題である。
本研究は,厳密な評価指標であるdistMSE,distMSEPS,distREを定義してタスクの定義を完了し,FIM推定タスクを解決するために設計された新しい機械学習手法であるClassiFIMを導入する。
相転移を教師なしで学習する既存の方法とは異なり、ClassiFIMは明確に定義された量(FIM)を直接推定する。
ClassiFIMは、FIM推定タスクのデータセットを補助的なバイナリ分類タスクのデータセットに変換し、後者のモデルを選択して訓練する。
クラスiFIMの出力は、無限のデータセットサイズと一定の規則性条件の下で、正確なFIMに近づくことを証明した。
古典的および量子的位相遷移を記述するデータセットを含む,複数のデータセットにClassiFIMを実装した。
さらに、同じデータセット上の位相遷移位置を教師なしで推定するための2つの代替手法を独立に実装し、少なくとも他の手法と同様にClassiFIMがそれらの位置を予測することを発見した。
また,本手法の汎用性を強調するために,MNISTで訓練されたCNNの出力をパラメータの異なる選択に用いたMNIST-CNNデータセットの提案と生成を行う。
このデータセットにClassiFIMを用いることで、MNISTで訓練されたCNNに対して、画像予測ペアの分布に位相遷移が存在することが示唆され、物理以外のFIM推定の範囲が広く示されている。
関連論文リスト
- Detecting Training Data of Large Language Models via Expectation Maximization [62.28028046993391]
メンバーシップ推論攻撃(MIA)は、特定のインスタンスがターゲットモデルのトレーニングデータの一部であるかどうかを判断することを目的としている。
大規模言語モデル(LLM)にMIAを適用することは、事前学習データの大規模化と、会員シップのあいまいさによって、ユニークな課題をもたらす。
EM-MIAは,予測最大化アルゴリズムを用いて,メンバーシップスコアとプレフィックススコアを反復的に洗練するLLMの新しいMIA手法である。
論文 参考訳(メタデータ) (2024-10-10T03:31:16Z) - Bayesian Estimation and Tuning-Free Rank Detection for Probability Mass Function Tensors [17.640500920466984]
本稿では,関節のPMFを推定し,そのランクを観測データから自動的に推定する新しい枠組みを提案する。
我々は、様々なモデルパラメータの後方分布を近似するために、変分推論(VI)に基づく決定論的解を導出し、さらに、変分推論(SVI)を利用して、VVIベースのアプローチのスケーラブルバージョンを開発する。
合成データと実映画レコメンデーションデータの両方を含む実験は、推定精度、自動ランク検出、計算効率の点で、VVIおよびSVIベースの手法の利点を示している。
論文 参考訳(メタデータ) (2024-10-08T20:07:49Z) - Detecting Quantum and Classical Phase Transitions via Unsupervised Machine Learning of the Fisher Information Metric [0.0]
そこで我々はClassiFIMと呼ばれる教師なし機械学習(ML)手法を開発した。
クラスiFIMは、トポロジカル(例えばXXZ鎖)と動的(例えば、ハバードモデルにおける金属絶縁体遷移)の両方を確実に検出する。
論文 参考訳(メタデータ) (2024-08-06T19:34:04Z) - Interpetable Target-Feature Aggregation for Multi-Task Learning based on Bias-Variance Analysis [53.38518232934096]
マルチタスク学習(MTL)は、タスク間の共有知識を活用し、一般化とパフォーマンスを改善するために設計された強力な機械学習パラダイムである。
本稿では,タスククラスタリングと特徴変換の交点におけるMTL手法を提案する。
両段階において、鍵となる側面は減った目標と特徴の解釈可能性を維持することである。
論文 参考訳(メタデータ) (2024-06-12T08:30:16Z) - Masked Language Modeling Becomes Conditional Density Estimation for Tabular Data Synthesis [0.74454067778951]
Masked Modeling (MLM) の連続的多クラス分類タスクをヒストグラムに基づく条件密度推定として再定義し,MaCoDEを提案する。
目的変数と条件変数の任意の組み合わせで条件密度を推定できる。
提案モデルの有効性を検証するため,10個の実世界のデータセットにまたがる合成データ生成の性能を評価する。
論文 参考訳(メタデータ) (2024-05-31T03:26:42Z) - Physics-informed and Unsupervised Riemannian Domain Adaptation for Machine Learning on Heterogeneous EEG Datasets [53.367212596352324]
脳波信号物理を利用した教師なし手法を提案する。
脳波チャンネルをフィールド、ソースフリーなドメイン適応を用いて固定位置にマッピングする。
提案手法は脳-コンピュータインタフェース(BCI)タスクおよび潜在的なバイオマーカー応用におけるロバストな性能を示す。
論文 参考訳(メタデータ) (2024-03-07T16:17:33Z) - Enhancing Information Maximization with Distance-Aware Contrastive
Learning for Source-Free Cross-Domain Few-Shot Learning [55.715623885418815]
クロスドメインのFew-Shot Learningメソッドは、トレーニング前のフェーズでモデルをトレーニングするために、ソースドメインデータにアクセスする必要がある。
データプライバシやデータ送信やトレーニングコストの削減に対する懸念が高まっているため,ソースデータにアクセスせずにCDFSLソリューションを開発する必要がある。
本稿では,これらの課題に対処するための距離対応コントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2024-03-04T12:10:24Z) - Task-customized Masked AutoEncoder via Mixture of Cluster-conditional
Experts [104.9871176044644]
Masked Autoencoder (MAE) は,モデル事前学習において有望な結果が得られる自己教師型学習手法である。
我々は、新しいMAEベースの事前学習パラダイム、Mixture of Cluster-conditional Experts (MoCE)を提案する。
MoCEは、クラスタ条件ゲートを使用して、各専門家にセマンティックなイメージのみをトレーニングする。
論文 参考訳(メタデータ) (2024-02-08T03:46:32Z) - A Multi-stage Framework with Mean Subspace Computation and Recursive
Feedback for Online Unsupervised Domain Adaptation [9.109788577327503]
本稿では,対象データがラベル付けされず,オンラインに連続してバッチで到着した場合に,現実の状況を解決するための新しいフレームワークを提案する。
提案手法では,ソースとターゲットドメインから共通部分空間にデータを投影し,投影したデータをリアルタイムに操作する手法を提案する。
提案フレームワークにおける各ステージの効果と寄与を詳細に調査するため,6つのデータセットの実験を行った。
論文 参考訳(メタデータ) (2022-06-24T03:50:34Z) - A Transductive Multi-Head Model for Cross-Domain Few-Shot Learning [72.30054522048553]
本稿では,クロスドメインなFew-Shot学習問題に対処するため,TMHFS(Transductive Multi-Head Few-Shot Learning)を提案する。
提案手法は, 4つの異なる対象領域において, 強いベースライン, 微調整を著しく上回っている。
論文 参考訳(メタデータ) (2020-06-08T02:39:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。