論文の概要: The Symmetric Perceptron: a Teacher-Student Scenario

• arxiv url: http://arxiv.org/abs/2603.25440v1
• Date: Thu, 26 Mar 2026 13:37:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-27 20:52:48.315014
• Title: The Symmetric Perceptron: a Teacher-Student Scenario
• Title（参考訳）: シンメトリ・パーセプトロン : 教師と学生のシナリオ
• Authors: Giovanni Catania, Aurélien Decelle, Suhanee Korpe,
• Abstract要約: 我々は、U字型ポテンシャルまたは長方形ポテンシャルを伝統的に考慮する対称パーセプトロンを、両領域にラベルを含めることで適用する。 この構造は, ポテンシャルの選択, 準最適溶液のメタスタビリティの相互作用と, 植え付け構成への融解の相互作用にどのように依存するかを示す。
• 参考スコア（独自算出の注目度）: 5.288977149942441
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We introduce and solve a teacher-student formulation of the symmetric binary Perceptron, turning a traditionally storage-oriented model into a planted inference problem with a guaranteed solution at any sample density. We adapt the formulation of the symmetric Perceptron which traditionally considers either the u-shaped potential or the rectangular one, by including labels in both regions. With this formulation, we analyze both the Bayes-optimal regime at for noise-less examples and the effect of thermal noise under two different potential/classification rules. Using annealed and quenched free-entropy calculations in the high-dimensional limit, we map the phase diagram in the three control parameters, namely the sample density $α$, the distance between the origin and one of the symmetric hyperplanes $κ$ and temperature $T$, and identify a robust scenario where learning is organized by a second-order instability that creates teacher-correlated suboptimal states, followed by a first-order transition to full alignment. We show how this structure depends on the choice of potential, the interplay between metastability of the suboptimal solution and its melting towards the planted configuration, which is relevant for Monte Carlo-based optimization algorithms.
• Abstract（参考訳）: 我々は,対称二項パーセプトロンの教師-学生による定式化を導入し,従来の記憶指向モデルを任意のサンプル密度で保証された解を持つ植込み推論問題に変換する。 我々は、U字型ポテンシャルまたは長方形ポテンシャルを伝統的に考慮する対称パーセプトロンの定式化を、両領域にラベルを含めることで適用する。 この定式化により、ベイズ最適状態のノイズなし例と、2つの異なる電位/分類規則の下での熱雑音の影響について解析する。 高次元極限における熱処理および焼成自由エントロピー計算を用いて、位相図を3つの制御パラメータ(サンプル密度$α$、原点と対称超平面の1つの距離$κ$と温度$T$)にマッピングし、教師が関係する準最適状態を生成する2階不安定性によって学習が組織される頑健なシナリオを特定し、その後に一階遷移して完全なアライメントを行う。 この構造は,モンテカルロをベースとした最適化アルゴリズムにおける準最適解のメタスタビリティと,その融解との相互作用にどのように依存するかを示す。

関連論文リスト

• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• On the Mechanism and Dynamics of Modular Addition: Fourier Features, Lottery Ticket, and Grokking [49.1352577985191]
  本稿では,2層ニューラルネットワークがモジュール追加タスクを解くために,機能をどのように学習するかを包括的に分析する。 我々の研究は、学習したモデルの完全な機械論的解釈と、その訓練力学の理論的説明を提供する。
  論文  参考訳（メタデータ） (2026-02-18T20:25:13Z)
• Topological Residual Asymmetry for Bivariate Causal Direction [1.2691047660244335]
  トポロジカル残留非対称性(英: Topological Residual Asymmetric)は、加法ノイズモデルに対する幾何学的基準である。 0D持続ホモロジー関数を用いてバルクチューブコントラストの定量化を行う。 多くの挑戦的な合成および実データシナリオに対する実験は、メソッドの優越性を実証している。
  論文  参考訳（メタデータ） (2026-01-31T00:38:53Z)
• Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
  乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。 以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2025-10-22T19:06:39Z)
• Symmetry-resolved Entanglement Entropy, Spectra & Boundary Conformal Field Theory [0.0]
  我々は、1+1$D共形場理論(CFT)の基底状態における1つの単一区間における対称性分解エンタングルメントエントロピー(EE)の包括的解析を行う。 我々は、境界CFTアプローチを用いて、全脳の研究を行い、SREEの普遍的な先行順序行動を見つけることができる。 有限対称性群の下でのCFT不変量に対する対称性分解エンタングルメントスペクトルを導出する。
  論文  参考訳（メタデータ） (2023-09-06T18:03:14Z)
• The Copycat Perceptron: Smashing Barriers Through Collective Learning [3.55026004901472]
  本研究では,各学生の一般化性能に影響を及ぼすサーマルノイズが存在する場合の一般的な設定を解析する。 レプリカの結合は、$alpha$の小さな値への位相図の曲がりに繋がることがわかった。 これらの結果は、最近推測されたReplicated Simulated Annealingのベイズ最適性に関する解析的および数値的な証拠を与える。
  論文  参考訳（メタデータ） (2023-08-07T17:51:09Z)
• Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
  本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。 提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
  論文  参考訳（メタデータ） (2022-05-18T17:11:23Z)
• Mean-Square Analysis with An Application to Optimal Dimension Dependence of Langevin Monte Carlo [60.785586069299356]
  この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。 我々の理論解析は数値実験によってさらに検証される。
  論文  参考訳（メタデータ） (2021-09-08T18:00:05Z)
• Bayesian learning of orthogonal embeddings for multi-fidelity Gaussian Processes [3.564709604457361]
  プロジェクション」マッピングは、事前未知と見なされる正則行列から成り、GPパラメータと共同で推論する必要がある。 提案するフレームワークをGPを用いたマルチ忠実度モデルに拡張し,複数の出力を同時にトレーニングするシナリオを含む。 提案手法の利点は, 産業用ガスタービン用最終段翼の3次元空力最適化に難渋するものである。
  論文  参考訳（メタデータ） (2020-08-05T22:28:53Z)
• Adaptive quadrature schemes for Bayesian inference via active learning [0.0]
  本稿では,能動的学習手法に基づく適応的な2次スキームを提案する。 代理密度を構築するための補間的手法をモンテカルロサンプリング法や他の二次規則と組み合わせて検討する。 数値的な結果は、天文学モデルにおける挑戦的推論問題を含む提案手法の利点を示している。
  論文  参考訳（メタデータ） (2020-05-31T15:02:32Z)
• Convex Geometry and Duality of Over-parameterized Neural Networks [70.15611146583068]
  有限幅2層ReLUネットワークの解析のための凸解析手法を開発した。 正規化学習問題に対する最適解が凸集合の極点として特徴づけられることを示す。 高次元では、トレーニング問題は無限に多くの制約を持つ有限次元凸問題としてキャストできることが示される。
  論文  参考訳（メタデータ） (2020-02-25T23:05:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。