論文の概要: Certified Topological Interaction in Neural Representations: Class Disentanglement Is Mostly Pairwise
- arxiv url: http://arxiv.org/abs/2609.08561v1
- Date: Tue, 08 Sep 2026 10:51:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.630979
- Title: Certified Topological Interaction in Neural Representations: Class Disentanglement Is Mostly Pairwise
- Title(参考訳): ニューラル表現におけるトポロジカル相互作用の証明:クラスアンタングルは最もペアワイズである
- Abstract要約: 我々は最近導入された断面特徴プロファイルを用いて,ラベル付き点雲間のトポロジ的相互作用を測定する。
111の訓練されたネットワークと52,650の認定された測定値で、絡み合いは深度が低下し、最初のエポックに集中している。
クラス三重の関節の絡み合いは、最強の対の97%の3重層細胞と99.5%の深層細胞、測定値のヌルフロアよりもはるかに低い位置にある。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Class disentanglement (the separation of a representation's class-conditional point clouds along depth and over training) is usually read off descriptive curves. We measure it as certified topological interaction between labeled point clouds, using the recently introduced Intersection Euler Characteristic Profile: the Euler characteristic of the overlap of the clouds' ball unions as a function of scale, computed by one Alpha-complex sweep with no boundary-matrix reduction. Every number carries a test: exact permutation tests in both directions, a guarded separation certificate, and a paired test for the comparative claims applications make. Across 111 trained networks and 52,650 certified measurements, disentanglement is depth-graded and concentrated in the first epochs, and interaction quotients rank class pairs by confusability (Spearman rho=0.83), on par with cheap separability statistics. In a 96-model factorial population, augmentation is the one training choice that separates classes relative to chance; weight decay compresses the overlap without separating, and depth and width do nothing. The structural finding is one only a k-fold statistic can pose: the joint entanglement of a class triple sits below that of its strongest pair in 97% of triple-layer cells and 99.5% of deep cells, far below a measured null floor, in vision encoders and frozen language models alike. This pairwise dominance is a regularity, not a law: expected from the nesting of overlaps but not forced by geometry, present at initialization and in raw pixels, and manufactured in the last stage alone when a network memorizes random labels. The unnormalized profile mass predicts test accuracy (R^2=0.94), the quotient does not, and neither beats a linear probe. One lesson is reported in full: the paired test must use a scale-free statistic, or it certifies feature-norm dynamics as disentanglement.
- Abstract(参考訳): クラス非絡み合い(表現のクラス条件点の雲を深度と過度に分離すること)は通常、記述曲線から読み取る。
最近導入されたIntersection Euler characteristic Profile: the Euler characteristic of the overlap of the clouds' ball unions as a function of scale, computeed by one Alpha-complex sweep with no boundary-matrix reduction。
両方の方向の正確な置換テスト、ガード付き分離証明書、およびアプリケーションによる比較クレームに対するペアテストである。
111の訓練されたネットワークと52,650の認定測定結果、絡み合いは第一のエポックに集中しており、相互作用商は安い分離性統計と同等に、難解性(Spearman rho=0.83)によってクラスペアのランク付けを行う。
96モデル因子群では、増大は機会に対してクラスを分離する1つの訓練選択であり、重み付けは分離することなく重み付けを圧縮し、深さと幅は何もしない。
クラス3重の関節の絡み合いは3重層細胞の97%、深層細胞の99.5%、計測されたヌルフロアのずっと下、視覚エンコーダや凍結言語モデルも同様に最強の3重層細胞の97%よりも低い。
このペアワイズ優位性は法則ではなく規則性であり、重複のネストから期待されるが、幾何によって強制されるのではなく、初期化や生画素に存在し、ネットワークがランダムラベルを記憶する最後の段階でのみ製造される。
非正規化プロファイル質量は、検定精度(R^2=0.94)を予測し、商は予測せず、線形プローブを打ち負かさない。
ペアテストは、スケールフリーな統計学を使うか、機能ノルムのダイナミクスを非絡み合いとして認定する必要がある。
関連論文リスト
- Follow the Geometry, Not the Model: Cold Start Semi-Supervised Learning [7.6344611819427035]
VAST(Veracity-Aware Semi-Supervised Training)を提案する。
VASTは、グラフベースのSSLベースラインを3つのデータセットのすべての運用ポイントで上回る。
論文 参考訳(メタデータ) (2026-09-13T11:46:26Z) - What Does Goodness Measure? A Likelihood-Ratio Account of Forward-Forward Learning [1.0152838128195467]
フォワード・フォワードアルゴリズムは各層を局所的に訓練し、スカラーの良さは実際の入力で高く、コントラストで低い。
異方性集団はマハラノビスの良さをもたらすが、平方形はその等方性の場合である。
論文 参考訳(メタデータ) (2026-07-14T08:33:33Z) - Measuring the Symmetry--Data Exchange Rate [0.2538209532048867]
同一の軌道サイズと一致した計算値を持つ間違った群制御は制約を伴わないよりも悪いことを示す。
相対交換率beta_diff = 1.28は、理論ブートストラップ1.0と符号と桁違いに一致している。
手法的貢献 -- 共有拡散の欠点をキャンセルする相対レート推定器、間違ったグループ制御、および予め特定された失敗分類 - は、強度をパラメータ化できる帰納バイアスに転送される。
論文 参考訳(メタデータ) (2026-05-31T08:17:40Z) - Statistical Properties of the King Wen Sequence: An Anti-Habituation Structure That Does Not Improve Neural Network Training [0.0]
紀元前1000年頃の王ウェンの列は64ヘクサグラムを注文し、3千年にわたって学者を困惑させた。
この系列は4つの統計的に重要な性質を持つ。
これらの性質はカリキュラムの学習や好奇心を駆使した探索の原理に似ており、ニューラルネットワークのトレーニングに役立つかもしれないという仮説を動機付けている。
論文 参考訳(メタデータ) (2026-04-10T11:44:09Z) - How many classifiers do we need? [50.69951049206484]
分類器間の不一致と偏極が、個々の分類器を集約することで得られる性能向上とどのように関連しているかを詳細に分析する。
分類器の個数で不一致の挙動を示す。
我々の理論と主張は、様々なタイプのニューラルネットワークを用いた画像分類タスクに関する経験的な結果によって裏付けられている。
論文 参考訳(メタデータ) (2024-11-01T02:59:56Z) - Shrinking Class Space for Enhanced Certainty in Semi-Supervised Learning [59.44422468242455]
そこで我々はShrinkMatchと呼ばれる新しい手法を提案し、不確実なサンプルを学習する。
それぞれの不確実なサンプルに対して、元の Top-1 クラスを単に含むスランク類空間を適応的に求める。
次に、スランク空間における強と弱に強化された2つのサンプル間の整合正則化を課し、識別的表現を試みます。
論文 参考訳(メタデータ) (2023-08-13T14:05:24Z) - Understanding Imbalanced Semantic Segmentation Through Neural Collapse [81.89121711426951]
セマンティックセグメンテーションは自然に文脈的相関とクラス間の不均衡分布をもたらすことを示す。
機能中心にレギュレータを導入し、ネットワークが魅力ある構造に近い機能を学ぶことを奨励する。
我々の手法は、ScanNet200テストリーダーボードで1位にランクインし、新しい記録を樹立する。
論文 参考訳(メタデータ) (2023-01-03T13:51:51Z) - Learning versus Refutation in Noninteractive Local Differential Privacy [133.80204506727526]
非対話的局所差分プライバシー(LDP)における2つの基本的な統計課題について検討する。
本研究の主な成果は,非対話型LDPプロトコルにおけるPAC学習の複雑さの完全な評価である。
論文 参考訳(メタデータ) (2022-10-26T03:19:24Z) - Do We Really Need a Learnable Classifier at the End of Deep Neural
Network? [118.18554882199676]
本研究では、ニューラルネットワークを学習して分類器をランダムにETFとして分類し、訓練中に固定する可能性について検討する。
実験結果から,バランスの取れたデータセットの画像分類において,同様の性能が得られることがわかった。
論文 参考訳(メタデータ) (2022-03-17T04:34:28Z) - Binary Classification of Gaussian Mixtures: Abundance of Support
Vectors, Benign Overfitting and Regularization [39.35822033674126]
生成ガウス混合モデルに基づく二項線形分類について検討する。
後者の分類誤差に関する新しい非漸近境界を導出する。
この結果は, 確率が一定である雑音モデルに拡張される。
論文 参考訳(メタデータ) (2020-11-18T07:59:55Z) - Theoretical Insights Into Multiclass Classification: A High-dimensional
Asymptotic View [82.80085730891126]
線形多クラス分類の最初の現代的精度解析を行う。
分析の結果,分類精度は分布に依存していることがわかった。
得られた洞察は、他の分類アルゴリズムの正確な理解の道を開くかもしれない。
論文 参考訳(メタデータ) (2020-11-16T05:17:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。