論文の概要: Sampling two-dimensional spin systems with transformers

• arxiv url: http://arxiv.org/abs/2604.27738v1
• Date: Thu, 30 Apr 2026 11:29:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:54.065035
• Title: Sampling two-dimensional spin systems with transformers
• Title（参考訳）: 変圧器を用いた二次元スピン系サンプリング
• Authors: Piotr Białas, Piotr Korcyl, Tomasz Stebel, Adam Stefański, Dawid Zapolski,
• Abstract要約: 本稿では, トランスフォーマーをベースとしたニューラルサンプリング手法を提案する。 我々のアプローチは、高密度ネットワークやCNNベースのアプローチよりも計算的に重いが、最大180ドルのスピンの180倍の大規模なシステムをサンプリングすることができた。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autoregressive Neural Networks based on dense or convolutional layers have recently been shown to be a viable strategy for generating classical spin systems. Unlike these methods, sampling with transformers is commonly considered to be computationally inefficient. In this work, we propose a novel approach to transformer-based neural samplers in which we generate not a single spin per step but groups of spins. As an additional improvement, we construct a model of approximated probabilities, further improving the efficiency of the algorithm. Despite our approach being computationally heavier than dense networks or CNN-based approaches, we were able to sample larger systems of up to $180 \times 180$ spins in case of the Ising model. The Effective Sample Size of our sampler is $\sim 20$ times larger than that of the previous state-of-the-art neural sampler when trained for the $128 \times 128$ Ising model at critical temperature. Finally, we also test our algorithm on the 2D Edwards-Anderson model, where we train $64\times 64$ spin systems.
• Abstract（参考訳）: 近年,高密度層や畳み込み層をベースとした自己回帰ニューラルネットワークは,古典的スピンシステムを生成する上で有効な戦略であることが示されている。 これらの方法とは異なり、変圧器を用いたサンプリングは計算的に非効率であると考えられている。 本研究では,1ステップごとに1スピンではなく,スピンのグループを生成するトランスフォーマーベースのニューラルサンプリング手法を提案する。 さらなる改良として、近似確率モデルを構築し、アルゴリズムの効率をさらに向上する。 我々のアプローチは高密度ネットワークやCNNベースのアプローチよりも計算量が多いが、Isingモデルの場合、最大180ドル(約1,800円)のスピンを持つ大規模システムをサンプリングすることができた。 サンプルの有効サンプルサイズは、臨界温度で128ドル(約1万2000円)のIsingモデルでトレーニングされた場合、前回の最先端のニューラルサンプルよりも20ドル(約2万2000円)大きい。 最後に、我々はアルゴリズムを2D Edwards-Andersonモデルでテストし、6,4\times 64$ spin systemを訓練した。

関連論文リスト

• ReSplat: Learning Recurrent Gaussian Splats [98.14472247275512]
  ReSplatはフィードフォワードリカレントガウシアンスプラッティングモデルであり、明示的に勾配を計算せずに3Dガウシアンを反復的に洗練する。 我々は16倍のサブサンプル空間で動作するコンパクトな再構成モデルを導入し、以前のピクセルごとのガウスモデルよりも16倍のガウスモデルを生成する。 提案手法は,ガウス数を大幅に削減し,レンダリング速度を向上させるとともに,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2025-10-09T17:59:59Z)
• Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
  本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。 本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Sampling weights of deep neural networks [1.2370077627846041]
  完全に接続されたニューラルネットワークの重みとバイアスに対して,効率的なサンプリングアルゴリズムと組み合わせた確率分布を導入する。 教師付き学習環境では、内部ネットワークパラメータの反復最適化や勾配計算は不要である。 サンプルネットワークが普遍近似器であることを証明する。
  論文  参考訳（メタデータ） (2023-06-29T10:13:36Z)
• Simulating first-order phase transition with hierarchical autoregressive networks [0.04588028371034406]
  階層型自己回帰ニューラルネットワーク(HAN)ネットワークサンプリングアルゴリズムを2次元の$Q$状態ポッツモデルに適用する。 本稿では,一階相転移近傍のアプローチの性能を定量化し,Wolffクラスタアルゴリズムと比較する。
  論文  参考訳（メタデータ） (2022-12-09T16:04:56Z)
• Hierarchical autoregressive neural networks for statistical systems [0.05156484100374058]
  我々は、例えばスピンのような物理的自由度の階層的な結合を、システムの線形範囲$L$のスケーリングに置き換えるニューロンに提案する。 我々は,2次元Isingモデルに対して,最大128×128$スピンの格子をシミュレートし,時間ベンチマークを512×512$の格子に到達させることで,その2次元Isingモデルに対するアプローチを実証した。
  論文  参考訳（メタデータ） (2022-03-21T13:55:53Z)
• Neural Capacitance: A New Perspective of Neural Network Selection via Edge Dynamics [85.31710759801705]
  現在の実践は、性能予測のためのモデルトレーニングにおいて高価な計算コストを必要とする。 本稿では,学習中のシナプス接続(エッジ)上の制御ダイナミクスを解析し,ニューラルネットワーク選択のための新しいフレームワークを提案する。 我々のフレームワークは、ニューラルネットワークトレーニング中のバックプロパゲーションがシナプス接続の動的進化と等価であるという事実に基づいて構築されている。
  論文  参考訳（メタデータ） (2022-01-11T20:53:15Z)
• Exploring Sparse Expert Models and Beyond [51.90860155810848]
  Mixture-of-Experts (MoE) モデルは、無数のパラメータを持つが、一定の計算コストで有望な結果が得られる。 本稿では,専門家を異なるプロトタイプに分割し,上位1ドルのルーティングに$k$を適用する,エキスパートプロトタイピングというシンプルな手法を提案する。 この戦略は, モデル品質を向上させるが, 一定の計算コストを維持するとともに, 大規模モデルのさらなる探索により, 大規模モデルの訓練に有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-05-31T16:12:44Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。