論文の概要: Symmetry Breaking Is the Price of Finite Capacity

• arxiv url: http://arxiv.org/abs/2610.36138v1
• Date: Mon, 26 Oct 2026 18:45:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.403747
• Title: Symmetry Breaking Is the Price of Finite Capacity
• Title（参考訳）: 対称性の破壊は有限容量の価格
• Abstract要約: 対称性はモデルの方向を等しく強い方向のブロックにグループ化する。 予算がブロックを切ると、最適モデルは全て対称性を破る。 他の原因からキャパシティ駆動のブレークを分離する手順を与えます。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: If rotating a problem never changes its answer, one might expect its best model to be rotation-invariant; we show that this fails, predictably and by an exact amount, when capacity is limited. A symmetry groups a model's directions into blocks of equally strong directions, a symmetric model must use each block whole, and when the budget cuts a block every optimal model breaks the symmetry. For a Gaussian problem with a $k$-unit bilinear predictor, the log-loss price of symmetry is exactly $(U_k-I_k)/(2σ^2)$, the signal of the best $k$ directions minus that of the best whole blocks. Because an attention head compares tokens through a similarity of rank at most its head dimension, whatever computation precedes it, the same price governs heads fitted to a symmetric similarity by squared error, and heads trained this way on three-dimensional directions break symmetry at exactly the predicted head dimensions, with the predicted rotation sensitivity (RMSE 0.004). Under softmax attention, flatter attention restores the predicted symmetric head where tested, while with peaked attention broken heads beat every whole-shell symmetric head at 16 of 20 head dimensions. We give a procedure that separates capacity-driven breaking from other causes.
• Abstract（参考訳）: 問題を回転させると解が変わることがなければ、その最良のモデルが回転不変であると期待するかもしれない。 対称性はモデルの方向を等しく強い方向のブロックに分類し、対称モデルは各ブロック全体を使用しなければならない。 k$単位の双線形予測器を持つガウス問題の場合、対称性の対数損失の価格はちょうど$(U_k-I_k)/(2σ^2)$であり、最も良い$k$方向の信号はブロック全体から外れている。 注意ヘッドは、ほとんどの頭部次元においてランクの類似性を通じてトークンを比較するため、計算に先行する任意の計算は、同じ価格で2乗誤差によって対称的な類似性に適合し、この方法で訓練された頭部は、予測された頭部次元で正確に対称性を破る(RMSE 0.004)。 ソフトマックス・アテンションの下では、フラットなアテンションはテスト時に予測された対称ヘッドを復元し、ピーク時のアテンションが壊れたヘッドは、20のヘッド次元の16のシェル全対称ヘッドを打ち負かす。 他の原因からキャパシティ駆動のブレークを分離する手順を与えます。

関連論文リスト

• $\text{GSF-}χ$: Global Stereochemical Fields for Chiral Graph Transformers [49.85093436361195]
  GSF-$$は、全ての対の相互作用をステレオジェニック単位が変調するグラフ変換器である。 $C$プロジェクションはミラーオンのECDピークカウントと位置をミラーオードピークサインから分離する。 GSF-$$は全ての中央ECD出力をリードし、軸方向回転とシンボルを最強のベースラインで12.6%$と7.9%$で改善する。
  論文  参考訳（メタデータ） (2026-09-11T07:41:20Z)
• A single design choice determines whether machine learning models of materials make physically impossible predictions [2.3982445219832678]
  機械学習モデルは、材料発見における第一原理計算を置き換える。 対称性は特定の性質テンソルを正確に0に強制するので、非ゼロ予想は不正確ではなく物理的に不可能である。 モデルがそのような予測を下すことができるかどうかを、稀に報告される設計ビットによるトレーニング前に決定する。
  論文  参考訳（メタデータ） (2026-08-19T09:14:55Z)
• Symmetry-initialized quantum Gibbs sampling: a non-Abelian asymmetry cascade [0.0]
  混合ボトルネックが弱い対称性を持つ量子ギブスサンプリング器では、一般的なスピードアップ・逆因子二分法を証明します。 すると、ボトルネックが弱破壊対称性であるとき、それ以外指数関数的に高価なボトルネック固有ベクトルが対称性電荷であることを示す。 これらの結果は、$SU(2)$ Davies samplerで解析的および数値的に検証する。
  論文  参考訳（メタデータ） (2026-07-27T06:03:15Z)
• Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
  一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。 一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。 グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
  論文  参考訳（メタデータ） (2026-02-26T15:27:53Z)
• Entanglement Asymmetry and Quantum Mpemba Effect for Non-Abelian Global Symmetry [0.0]
  エンタングルメント非対称性(Entanglement asymmetric)は、サブシステムのレベルにおける対称性の破れの度合いを定量化する尺度である。 我々は、SU$(N)$対称性に対する量子Mpemba効果について論じる。
  論文  参考訳（メタデータ） (2025-09-06T05:01:12Z)
• Entanglement asymmetry in CFT and its relation to non-topological defects [0.0]
  エンタングルメント非対称性(英: entanglement asymmetric)は、拡張量子系の領域における対称性の破れの度合いを定量化する情報に基づく可観測性である。 CFTにより記述された1次元臨界系の基底状態におけるこの測定値について検討する。
  論文  参考訳（メタデータ） (2024-02-05T19:01:09Z)
• Towards Antisymmetric Neural Ansatz Separation [48.80300074254758]
  反対称関数の2つの基本モデル、すなわち $f(x_sigma(1), ldots, x_sigma(N)) の形の函数 $f$ の分離について研究する。 これらは量子化学の文脈で発生し、フェルミオン系の波動関数の基本的なモデリングツールである。
  論文  参考訳（メタデータ） (2022-08-05T16:35:24Z)
• Surface Code Design for Asymmetric Error Channels [55.41644538483948]
  量子系におけるビットフリップと位相フリップの誤差が非対称であるという事実に基づく表面符号設計を導入する。 我々は、対称曲面符号と比較して、我々の非対称曲面符号は擬似閾値率をほぼ2倍にすることができることを示した。 表面符号の非対称性が増加するにつれて、疑似閾値レートの利点はチャネル内の任意の非対称性の度合いで飽和し始める。
  論文  参考訳（メタデータ） (2021-11-02T10:41:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。