論文の概要: An Active-Bottleneck Mechanism for Weak-to-Strong Generalization
- arxiv url: http://arxiv.org/abs/2609.33835v1
- Date: Sun, 27 Sep 2026 18:36:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 16:23:26.352772
- Title: An Active-Bottleneck Mechanism for Weak-to-Strong Generalization
- Title（参考訳）: 弱ストロング一般化のためのアクティブブートネック機構
- Abstract要約: 弱弱の一般化は、教師の予測で訓練された学生がその教師より優れているときに起こる。
完全に収束した隆起のない2段階の学習の下で、これがいつ起こるかを研究する。
- 参考スコア（独自算出の注目度）: 0.704242041486272
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Weak-to-strong generalization (W2SG) occurs when a student trained on a teacher's predictions outperforms that teacher. We study when this happens under fully converged, ridgeless two-stage learning, with no early stopping, no explicit regularization, and no assumption that the student is more expressive than the teacher. In two-stage linear regression, a teacher is fit from $n$ labeled examples and a student is trained solely on the teacher's predictions on $m$ fresh, unlabeled inputs. Although both stages share the same hypothesis class and the same training rule, we show that the student outperforms the teacher exactly when $m$ lies in an explicit intermediate range: too few pseudo-labels leave the student without enough signal, too many let it inherit the teacher's noise. Under power-law covariance, we derive this range in closed form as a function of the spectral decay and noise level, including regimes where the improving region splits into two disjoint intervals of $m$. We then study a random-feature model in which the student has strictly more features than the teacher, and identify two regimes, again given by explicit thresholds: one where improvement occurs only for $m$ in a bounded interval, and one where it occurs only once the student width $N_S$ exceeds an explicit threshold. Both regimes are governed by a single "active-bottleneck" principle: whichever of $m$ or $N_S$ is scarcer controls how much teacher error is filtered out, while increasing the other resource only reduces estimation noise. Together, these results show that finite data and finite width can themselves regularize a two-stage learner, with no explicit mechanism doing so.
- Abstract（参考訳）: W2SG (Weak-to-strong generalization) は、教師の予測を訓練した学生が、その教師より優れているときに発生する。
完全に収束し、隆起のない2段階の学習では、早い段階で停止せず、明確な正規化もなく、生徒が教師よりも表現力が高いという仮定も無い。
2段階の線形回帰では、教師はラベル付き$n$の例から適合し、学生は新しくラベル付けされていない入力で、教師の予測のみに基づいて訓練される。
どちらの段階も同じ仮説クラスと同じトレーニングルールを共有していますが、$m$が明示的な中間範囲にある場合、学生は正確に教師より優れています。
パワー-ロー共分散の下では、この範囲はスペクトル減衰と雑音レベル(英語版)の関数として閉じた形で導き出され、改善領域が2つの不連続区間の$m$に分裂するレギュレーションを含む。
次に、教師よりも厳密な特徴を持つランダム・フィーチャーモデルについて検討し、また、有界区間で$m$に対してのみ改善が発生する場合と、学生幅$N_S$が明示的閾値を超える場合にのみ発生する場合の2つの条件を識別する。
m$ または $N_S$ のどちらが不足していても、教師エラーのフィルタリング量を制御できない一方で、他のリソースを増やすことで見積のノイズを低減できる。
これらの結果から、有限データと有限幅は、2段階学習者自体を正規化することが可能であり、明示的なメカニズムは存在しないことが分かる。
関連論文リスト
- TeacherGRPO: Closing the Capacity Gap in Reasoning Distillation via Teacher Alignment [70.40748464576045]
強力な教師モデルから小さな学生への蒸留はギャップカースに面している。
教師がより高度に成長するにつれて、複雑な分布は生徒が近似できるものから多様化し、パフォーマンスが低下する。
本研究では,教師がデータを捨てたり,推論品質を劣化させたりすることなく,直接生徒の分布に適応する教師アライメントを提案する。
論文 参考訳（メタデータ） (2026-09-27T10:13:54Z) - Knowledge Distillation under Teacher Misspecification: An Order-Parameter Analysis of the Gap between Teacher Mimicry and Task Performance [2.234476443495425]
最小限の3要素モデルでこれらの2つの目的の関係について検討する。
学習力学と蒸留誤差$Ets$が$dmiss$と正確に不変であることを証明する。
論文 参考訳（メタデータ） (2026-08-29T23:57:46Z) - H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。
既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。
本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
論文 参考訳（メタデータ） (2026-07-21T10:47:27Z) - A Boundary-Layer Mechanism for One-Third Scaling in Online Softmax Classification [3.058685580689604]
ハードラベル分類は通常、スムーズな代理損失、特にソフトマックスのクロスエントロピーで訓練される。
我々は、このスムーズなサロゲートと離散ラベルのミスマッチが、パワーローラー学習曲線を生成するメカニズムを分離する。
学習速度のスケジュールは、$_g sim -1/2$の電力法則に対する一般化誤差を改善することができることを示す。
論文 参考訳（メタデータ） (2026-05-21T11:26:32Z) - Sharp feature-learning transitions and Bayes-optimal neural scaling laws in extensive-width networks [8.250374560598493]
雑音の多い質問から階層的な特徴を持つ一層教師ネットワークを学習する際の情報理論的限界について検討する。
有効幅$k_c$付近でtextscAdam を訓練した学生が,これらの最適スケーリング法則を実現することを示す。
論文 参考訳（メタデータ） (2026-05-11T11:39:03Z) - Residual-as-Teacher: Mitigating Bias Propagation in Student--Teacher Estimation [14.526961596109361]
そこでは,教師の事前学習による予測を用いて,学生モデルの指導を行う学習者環境における統計的推定について検討する。
標準的アプローチは、教師の出力と直接一致するように学生に訓練することであり、これは学生ソフトマッチング(SM)と呼ばれる。
本稿では,教師が教師の予測の残差を推定する手法として,Ress-as-Teacher (RaT) を提案する。
論文 参考訳（メタデータ） (2026-03-26T14:07:47Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳（メタデータ） (2026-02-19T17:21:15Z) - A Relative-Budget Theory for Reinforcement Learning with Verifiable Rewards in Large Language Model Reasoning [48.70183357021465]
強化学習(Reinforcement Learning, RL)は、大規模言語モデルの推論能力を改善するための主要なパラダイムである。
本稿では, 相対予算$:= H/mathbbE[T]$という単一の量を用いて, この変動を説明する式式予算理論を提案する。
報奨の分散と情報トラジェクトリの確率を制御して,$$がサンプル効率を決定することを示す。
論文 参考訳（メタデータ） (2026-02-02T01:31:52Z) - Optimal generalisation and learning transition in extensive-width shallow neural networks near interpolation [4.976898227858662]
教師が指導する2層ニューラルネットワークを用いた教師型学習モデルについて考察する。
任意の活性化関数に対するネットワークのベイズ最適一般化誤差を近似する有効な理論を提供する。
論文 参考訳（メタデータ） (2025-01-30T17:56:52Z) - The Best of Both Worlds: Reinforcement Learning with Logarithmic Regret
and Policy Switches [84.54669549718075]
漸進的強化学習(RL)における後悔の最小化問題について検討する。
一般関数クラスと一般モデルクラスで学ぶことに集中する。
対数的後悔境界は$O(log T)$スイッチングコストのアルゴリズムによって実現可能であることを示す。
論文 参考訳（メタデータ） (2022-03-03T02:55:55Z) - Locality defeats the curse of dimensionality in convolutional
teacher-student scenarios [69.2027612631023]
学習曲線指数$beta$を決定する上で,局所性が重要であることを示す。
我々は、自然の仮定を用いて、トレーニングセットのサイズに応じて減少するリッジでカーネルレグレッションを実行すると、リッジレスの場合と同じような学習曲線指数が得られることを証明して結論付けた。
論文 参考訳（メタデータ） (2021-06-16T08:27:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。