論文の概要: Soft-margin classification of object manifolds
- arxiv url: http://arxiv.org/abs/2203.07040v1
- Date: Mon, 14 Mar 2022 12:23:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-15 17:46:54.018909
- Title: Soft-margin classification of object manifolds
- Title(参考訳): 対象多様体のソフトマージン分類
- Authors: Uri Cohen, Haim Sompolinsky
- Abstract要約: 単一対象の複数の出現に対応する神経集団は、神経応答空間における多様体を定義する。
そのような多様体を分類する能力は、オブジェクト認識やその他の計算タスクは多様体内の変数に無関心な応答を必要とするため、興味がある。
ソフトマージン分類器は、より大きなアルゴリズムのクラスであり、トレーニングセット外のパフォーマンスを最適化するためにアプリケーションで使われる追加の正規化パラメータを提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: A neural population responding to multiple appearances of a single object
defines a manifold in the neural response space. The ability to classify such
manifolds is of interest, as object recognition and other computational tasks
require a response that is insensitive to variability within a manifold. Linear
classification of object manifolds was previously studied for max-margin
classifiers. Soft-margin classifiers are a larger class of algorithms and
provide an additional regularization parameter used in applications to optimize
performance outside the training set by balancing between making fewer training
errors and learning more robust classifiers. Here we develop a mean-field
theory describing the behavior of soft-margin classifiers applied to object
manifolds. Analyzing manifolds with increasing complexity, from points through
spheres to general manifolds, a mean-field theory describes the expected value
of the linear classifier's norm, as well as the distribution of fields and
slack variables. By analyzing the robustness of the learned classification to
noise, we can predict the probability of classification errors and their
dependence on regularization, demonstrating a finite optimal choice. The theory
describes a previously unknown phase transition, corresponding to the
disappearance of a non-trivial solution, thus providing a soft version of the
well-known classification capacity of max-margin classifiers.
- Abstract(参考訳): 単一対象の複数の出現に対応する神経集団は、神経応答空間における多様体を定義する。
このような多様体を分類する能力は興味深く、対象認識や他の計算タスクは多様体内の可変性に敏感な応答を必要とする。
対象多様体の線形分類は、max-margin分類器で以前に研究されていた。
ソフトマージン分類器はより大きなアルゴリズムのクラスであり、トレーニングエラーを少なくし、より堅牢な分類器を学習することで、トレーニングセット外のパフォーマンスを最適化するためにアプリケーションで使われる追加の正規化パラメータを提供する。
本稿では,対象多様体に適用されるソフトマージン分類器の挙動を記述する平均場理論を考案する。
球面上の点から一般多様体まで、複雑性が増大する多様体を分析することで、平均場理論は、線形分類器のノルムの期待値と、場とスラック変数の分布を記述する。
学習された分類の雑音に対するロバスト性を分析することにより,分類誤差の確率と正則化への依存を予測し,有限最適選択を示す。
この理論は、非自明な解の消失に対応する、以前は未知の相転移を記述しており、マックスマージン分類器のよく知られた分類能力のソフトバージョンを提供する。
関連論文リスト
- Extension of Transformational Machine Learning: Classification Problems [0.0]
本研究では、薬物発見における変換機械学習(TML)の適用と性能について検討する。
メタ学習アルゴリズムであるTMLは、さまざまなドメインにまたがる共通属性の活用に優れています。
薬物発見プロセスは複雑で時間を要するが、予測精度の増大から大きな恩恵を受けることができる。
論文 参考訳(メタデータ) (2023-08-07T07:34:18Z) - Precise Asymptotic Generalization for Multiclass Classification with
Overparameterized Linear Models [4.093769373833101]
Subramanian et al.'22 の予想では、データポイント、特徴、クラスの数はすべて一緒になる。
我々の新しい下限は情報理論の強い逆に似ており、それらは誤分類率が0か1に近づくことを証明している。
厳密な解析の鍵はハンソン・ライトの不等式の新しい変種であり、スパースラベルの多重クラス問題に広く有用である。
論文 参考訳(メタデータ) (2023-06-23T00:59:15Z) - Variational Classification [51.2541371924591]
我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。
軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。
我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
論文 参考訳(メタデータ) (2023-05-17T17:47:19Z) - Anomaly Detection using Ensemble Classification and Evidence Theory [62.997667081978825]
本稿では,アンサンブル分類とエビデンス理論を用いた新しい検出手法を提案する。
固体アンサンブル分類器を構築するためのプール選択戦略が提示される。
我々は異常検出手法の不確実性を利用する。
論文 参考訳(メタデータ) (2022-12-23T00:50:41Z) - Generalization Error Bounds for Multiclass Sparse Linear Classifiers [7.360807642941714]
スパース多項ロジスティック回帰による高次元多クラス分類を考察する。
本稿では,ペナル化最大可能性に基づく計算可能な特徴選択手法を提案する。
特に、グローバル・スパシティ、ダブル・行ワイド・スパシティ、ロー・ランク・スパシティについて検討する。
論文 参考訳(メタデータ) (2022-04-13T09:25:03Z) - Exploring Category-correlated Feature for Few-shot Image Classification [27.13708881431794]
本稿では,従来の知識として,新しいクラスとベースクラスのカテゴリ相関を探索し,シンプルで効果的な特徴補正手法を提案する。
提案手法は, 広く使用されている3つのベンチマークにおいて, 一定の性能向上が得られる。
論文 参考訳(メタデータ) (2021-12-14T08:25:24Z) - On the rate of convergence of a classifier based on a Transformer
encoder [55.41148606254641]
最適誤分類確率に対する分類器の誤分類確率の収束率を分析する。
この分類器は,アポテリオリ確率が適切な階層的構成モデルを満たす場合,次元性の呪いを回避することができる。
論文 参考訳(メタデータ) (2021-11-29T14:58:29Z) - Learning Debiased and Disentangled Representations for Semantic
Segmentation [52.35766945827972]
セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。
各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。
提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
論文 参考訳(メタデータ) (2021-10-31T16:15:09Z) - When in Doubt: Improving Classification Performance with Alternating
Normalization [57.39356691967766]
分類のための非パラメトリック後処理ステップである交互正規化(CAN)を用いた分類を導入する。
CANは、予測されたクラス確率分布を再調整することで、挑戦的な例の分類精度を向上させる。
多様な分類課題にまたがってその効果を実証的に示す。
論文 参考訳(メタデータ) (2021-09-28T02:55:42Z) - Theoretical Insights Into Multiclass Classification: A High-dimensional
Asymptotic View [82.80085730891126]
線形多クラス分類の最初の現代的精度解析を行う。
分析の結果,分類精度は分布に依存していることがわかった。
得られた洞察は、他の分類アルゴリズムの正確な理解の道を開くかもしれない。
論文 参考訳(メタデータ) (2020-11-16T05:17:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。