論文の概要: Binary Classification as a Phase Separation Process
- arxiv url: http://arxiv.org/abs/2009.02467v3
- Date: Sat, 18 Sep 2021 02:17:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-21 20:51:27.956196
- Title: Binary Classification as a Phase Separation Process
- Title(参考訳): 相分離過程としてのバイナリ分類
- Authors: Rafael Monteiro
- Abstract要約: 位相分離バイナリ(PSBC)と呼ばれる新しいバイナリ分類モデルを提案する。
これは、通常の微分方程式と結合した非線形反応拡散方程式の離散化からなる。
PSBCの方程式は、リカレントニューラルネットワークと同様のアーキテクチャで、トレーニング可能な重みを持つ力学系と見なすことができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a new binary classification model called Phase Separation Binary
Classifier (PSBC). It consists of a discretization of a nonlinear
reaction-diffusion equation coupled with an Ordinary Differential Equation, and
is inspired by fluids behavior, namely, on how binary fluids phase separate.
Thus, parameters and hyperparameters have physical meaning, whose effects are
studied in several different scenarios.
PSBC's equations can be seen as a dynamical system whose coefficients are
trainable weights, with a similar architecture to that of a Recurrent Neural
Network. As such, forward propagation amounts to an initial value problem.
Boundary conditions are also present, bearing similarity with figure padding
techniques in Computer Vision. Model compression is exploited in several ways,
with weight sharing taking place both across and within layers.
The model is tested on pairs of digits of the classical MNIST database. An
associated multiclass classifier is also constructed using a combination of
Ensemble Learning and one versus one techniques. It is also shown how the PSBC
can be combined with other methods - like aggregation and PCA - in order to
construct better binary classifiers. The role of boundary conditions and
viscosity is thoroughly studied in the case of digits ``0'' and ``1''.
- Abstract(参考訳): 相分離二項分類法(PSBC)と呼ばれる新しい二項分類モデルを提案する。
通常の微分方程式と結合した非線形反応拡散方程式の離散化からなり、二元流体の相分離に関する流体の挙動に着想を得ている。
したがって、パラメータとハイパーパラメータは物理的意味を持ち、その効果はいくつかの異なるシナリオで研究されている。
psbcの方程式は、係数が訓練可能な重みを持つ力学系と見なすことができ、リカレントニューラルネットワークと同様の構造を持つ。
したがって、前方伝播は初期値問題に相当する。
境界条件も存在し、コンピュータビジョンにおける図パディング技術と類似している。
モデル圧縮はいくつかの方法で活用され、重みの共有は層間および層内で行われる。
このモデルは、古典的なMNISTデータベースの桁のペアでテストされる。
関連するマルチクラス分類器もアンサンブル学習と1対1の技術を組み合わせて構築されている。
また,psbcをアグリゲーションやpcaといった他の手法と組み合わせることで,より優れたバイナリ分類器を構築する方法を示した。
境界条件と粘性の役割は、数値 ``0'' と ``1'' の場合に徹底的に研究されている。
関連論文リスト
- Solving the Discretised Multiphase Flow Equations with Interface
Capturing on Structured Grids Using Machine Learning Libraries [0.6299766708197884]
本稿では,機械学習ライブラリのツールと手法を用いて,離散化した多相流方程式を解く。
はじめて、(訓練されていない)畳み込みニューラルネットワークに基づくアプローチを用いて、多相流の有限要素判別を解くことができる。
論文 参考訳(メタデータ) (2024-01-12T18:42:42Z) - Tractable Bounding of Counterfactual Queries by Knowledge Compilation [51.47174989680976]
本稿では, パール構造因果モデルにおいて, 因果関係などの部分的特定可能なクエリのバウンダリングの問題について議論する。
最近提案された反復EMスキームは初期化パラメータをサンプリングしてそれらの境界を内部近似する。
シンボルパラメータを実際の値に置き換えた回路構造を,単一のシンボル知識コンパイルによって得られることを示す。
論文 参考訳(メタデータ) (2023-10-05T07:10:40Z) - Thermodynamics of bidirectional associative memories [0.0]
双方向連想記憶(BAM)の平衡特性について検討する。
コスコは1988年にホップフィールドモデルを二部構造への一般化として導入した。
このモデルの拡張の計算能力を熱力学限界で特徴づける。
論文 参考訳(メタデータ) (2022-11-17T17:35:37Z) - Easy Variational Inference for Categorical Models via an Independent
Binary Approximation [11.81806235568836]
我々は、分類的二項モデル(CB)と呼ばれる分類データに対して、新しい一般化線形モデル(GLM)のクラスを定義する。
CBモデルは双対確率の積によって束縛される可能性を持ち、自然な後続近似を示唆する。
提案手法は数千のカテゴリにスケールし, 予測品質の固定化に要する時間において, 自動微分変分推定(ADVI) や No U-Turn Smpling (NUTS) などの後方推定競合よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-31T20:06:27Z) - Linear Connectivity Reveals Generalization Strategies [54.947772002394736]
微調整されたモデルのいくつかは、それらの間の線形経路における損失を増大させる大きな障壁を持つ。
テスト損失面上で線形に接続されているが、クラスタ外のモデルから切り離されている異なるモデルのクラスタが見つかる。
我々の研究は、損失面の幾何学がモデルを異なる関数へと導く方法を示している。
論文 参考訳(メタデータ) (2022-05-24T23:43:02Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳(メタデータ) (2022-03-23T12:52:49Z) - The Separation Capacity of Random Neural Networks [78.25060223808936]
標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。
我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
論文 参考訳(メタデータ) (2021-07-31T10:25:26Z) - Learning with Density Matrices and Random Features [62.997667081978825]
密度行列は、量子系の統計状態を記述する。
本稿では,機械学習モデル構築のためのビルディングブロックとして,密度行列をどのように利用できるかを検討する。
論文 参考訳(メタデータ) (2021-02-08T17:54:59Z) - Learning second order coupled differential equations that are subject to
non-conservative forces [0.0]
畳み込みブロック間の残差接続の観点から、2階微分の差分近似を組み込んだネットワークを導入する。
我々はこのマップを解法ネットワークと共に最適化し、その重みを共有しながら、散逸的力学系の複雑な物理特性を学習できる強力なフレームワークを形成する。
論文 参考訳(メタデータ) (2020-10-17T23:31:31Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Reduced Dilation-Erosion Perceptron for Binary Classification [1.3706331473063877]
ディレーション・エロージョン・パーセプトロン(Dilation-erosion Perceptron, DEP)は、ディレーションとエロージョンの凸結合によって得られるニューラルネットワークである。
本稿では,r-DEP(reduce Dilation-erosion)分類器を提案する。
論文 参考訳(メタデータ) (2020-03-04T19:50:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。