論文の概要: Using Transformers to Generate 3-Manifold Triangulations

• arxiv url: http://arxiv.org/abs/2611.07514v1
• Date: Thu, 05 Nov 2026 06:20:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.566422
• Title: Using Transformers to Generate 3-Manifold Triangulations
• Title（参考訳）: 変圧器を用いた3次元三角形の生成
• Abstract要約: GPT-2型変圧器を3次元多様体の三角形を生成するために訓練する。 私たちのメインランはおよそ3つのexaFLOPを使用しており、600万球三角測量でトレーニングされた2億のパラメータモデルにまたがっています。 また、変換器は1度のエッジをほぼ完璧に数えることができるが、高次のエッジを数えると徐々に悪化する証拠も提示する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Using dehydration signatures as an encoding, we train GPT-2-style transformers to generate triangulations of 3-dimensional manifolds. Our main runs each use approximately 3 exaFLOPs, spanning a 200 million parameter model trained on 60 million sphere triangulations to an 11 million parameter model trained on 1.1 billion sphere triangulations. The optimal model has 10 blocks, width 640 and generates dehydration signatures of closed manifolds of various topological types at a rate of 6.9%, 82% of which are spheres. To investigate how our method scales, we use the technique of IsoFLOP curves on 15-tetrahedron triangulations of the 3-sphere, over a compute range of 6 to 3000 petaFLOPs, and observe neural scaling behaviour. We extract a parameter scaling exponent of $α= 0.49$ ($[0.48, 0.50]$ stat, $\pm 0.02$ syst), and an optimal ratio of 234 tokens per parameter for training. In addition, we present a number of smaller experiments, including evidence that transformers are able to learn to count degree-one edges near-perfectly, but get progressively worse when counting edges with higher degrees.
• Abstract（参考訳）: 復水シグネチャを符号化として,GPT-2型変圧器を用いて3次元多様体の三角形を生成する。 私たちのメインランはおよそ3つのexaFLOPを使用しており、600万球三角法で訓練された2億のパラメータモデルと11億球三角法で訓練された1100万のパラメータモデルにまたがっています。 最適モデルは10ブロック、幅640で、様々な位相型の閉多様体の6.9%の速度で脱水シグネチャを生成し、そのうち82%は球体である。 本研究では,3次元球面の15-テトラエドロン三角測量におけるIsoFLOP曲線の手法を用いて,6から3000ペタFLOPの計算範囲を計算し,神経スケーリングの挙動を観察する。 パラメータスケーリング指数として$α= 0.49$$[0.48, 0.50]$ stat, $\pm 0.02$ systを抽出し, パラメータ毎に234トークンの最適比を抽出する。 さらに、変換器がほぼ完璧に1つのエッジを数えることができるが、高次エッジを数えると徐々に悪化する証拠を含む、より小さな実験をいくつか提示する。

関連論文リスト

• TriFlow: Generating Artist-Like 3D Mesh Topology via Nearest-Vertex Vector Fields [72.76537377865192]
  TriFlowは、署名された距離場などの入力幾何学条件から直接アーティストのような三角形のトポロジーを持つコンパクトな3Dメッシュを作成するための新しい生成手法である。 実験により、TriFlowは最先端の学習ベースアプローチと比較して、より高度な一般化とトポロジ品質の向上を実現していることが示された。
  論文  参考訳（メタデータ） (2026-06-18T11:55:00Z)
• Trajectory Geometry of Transformer Representations Across Layers [0.5599792629509229]
  我々は、トランスフォワードパスを高次元表現多様体を通して離散的な集団軌道として再キャストする。 周辺空間で直接計算された5つの測度を用いて軌道幾何学を特徴付ける。
  論文  参考訳（メタデータ） (2026-06-08T09:54:07Z)
• Characterizing AlphaEarth Embedding Geometry for Agentic Environmental Reasoning [0.21847754147782883]
  1210万サンプルにわたるGoogle AlphaEarthの埋め込みの多様体幾何学を特徴づける。 本研究では,FAISSをインデックス化した埋め込みデータベース上で,環境問合せを推論チェーンに分解するエージェントシステムを開発した。
  論文  参考訳（メタデータ） (2026-04-20T18:14:33Z)
• Spectral Edge Dynamics of Training Trajectories: Signal--Noise Geometry Across Scales [0.0]
  コンヒーレントな方向のみにおいてトランスフォーマー訓練軌道が発展することを示す。 共同作業では、同じスペクトル幾何学がグラッキングの早期警戒信号を提供する。
  論文  参考訳（メタデータ） (2026-03-14T04:46:05Z)
• Geometry-Informed Neural Operator for Large-Scale 3D PDEs [76.06115572844882]
  大規模偏微分方程式の解演算子を学習するために,幾何インフォームド・ニューラル演算子(GINO)を提案する。 我々はGINOを訓練し、わずか500点のデータポイントで車両表面の圧力を予測することに成功した。
  論文  参考訳（メタデータ） (2023-09-01T16:59:21Z)
• GeoTransformer: Fast and Robust Point Cloud Registration with Geometric Transformer [63.85771838683657]
  点雲登録のための正確な対応を抽出する問題について検討する。 最近のキーポイントフリー法は、繰り返し可能なキーポイントの検出をバイパスすることで大きなポテンシャルを示している。 そこで我々は,Geometric Transformer (Geo Transformer) を略して提案し,ロバストなスーパーポイントマッチングのための幾何学的特徴を学習する。
  論文  参考訳（メタデータ） (2023-07-25T02:36:04Z)
• PanGu-{\Sigma}: Towards Trillion Parameter Language Model with Sparse Heterogeneous Computing [64.53242758625922]
  PanGu-SigmaはAscend 910 AIプロセッサとMindSporeフレームワークのクラスタでトレーニングされている。 さまざまな中国のNLPダウンストリームタスクのゼロショット学習において、最先端のパフォーマンスを提供する。
  論文  参考訳（メタデータ） (2023-03-20T03:39:27Z)
• DeepNet: Scaling Transformers to 1,000 Layers [106.33669415337135]
  トランスフォーマーの残差接続を修正するための新しい正規化関数(DeepNorm)を導入する。 詳細な理論解析により、モデル更新は安定な方法でバウンドできることが示されている。 トランスフォーマーを1,000層まで拡張することに成功したが、これは従来のディープトランスフォーマーよりも1桁も深い。
  論文  参考訳（メタデータ） (2022-03-01T15:36:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。