論文の概要: Scaling Up Thermodynamic AI Models
- arxiv url: http://arxiv.org/abs/2607.00170v1
- Date: Tue, 30 Jun 2026 20:44:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.635841
- Title: Scaling Up Thermodynamic AI Models
- Title(参考訳): 熱力学AIモデルのスケールアップ
- Abstract要約: 我々はIsingマシンハードウェア上で熱力学推論のための深層畳み込みネットワークを訓練する。
画像分類モデルでは, CIFAR-10では94.9%, CIFAR-100では76.4%の精度が得られた。
ハードウェア開発の意義と高温熱力学AIモデルの将来について論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Thermodynamic computing devices based on the Ising model show great promise for low-power AI inference and edge computing, but scalable methods for training large models for such hardware remain limited. Prior theory shows that the time-averaged behavior of high-temperature Gibbs-sampled Ising systems can implement feed-forward neural inference. We turn this theoretical correspondence into a scalable and purely backpropagation-based algorithm for training deep convolutional networks for thermodynamic inference on Ising machine hardware. Our image classification models achieve accuracies of 94.9% on CIFAR-10 and 76.0% on CIFAR-100 under binary Gibbs sampling. We then develop and experimentally validate a mathematical theory relating inference cost to accuracy and controlling autocorrelation times. Subsequently, we calculate asymptotic results showing that inference cost is bounded by a well-controlled tradeoff with performance and exhibit algorithms for computing optimal inference schedules. Finally, we discuss implications for hardware development and the future of high-temperature thermodynamic AI models.
- Abstract(参考訳): Isingモデルに基づく熱力学コンピューティングデバイスは、低消費電力のAI推論とエッジコンピューティングに大いに期待できるが、そのようなハードウェアのために大規模なモデルをトレーニングするためのスケーラブルな方法はまだ限られている。
先行理論は、高温ギブスサンプリングイジングシステムの時間平均挙動がフィードフォワード神経推論を実装することを示している。
我々は、この理論対応をスケーラブルで純粋にバックプロパゲーションに基づくアルゴリズムに変換し、Isingマシンハードウェア上で熱力学推論のための深層畳み込みネットワークを訓練する。
画像分類モデルでは, CIFAR-10では94.9%, CIFAR-100では76.0%の精度が得られた。
そこで我々は,推測コストを精度に関連付ける数学的理論を開発し,検証し,自己相関時間を制御する。
次に,予測コストが性能とのトレードオフによって制限されていることを示す漸近的な結果を計算し,最適な推論スケジュールを計算するためのアルゴリズムを示す。
最後に、ハードウェア開発の意義と高温熱力学AIモデルの将来について論じる。
関連論文リスト
- A Physics-Aware Framework for Short-Term GPU Power Forecasting of AI Data Centers [7.256390775982009]
本稿では,今後5~80分でAIデータセンターの電力利用を正確に予測できる物理インフォームド時系列モデルを提案する。
このモデルは、実際のAIデータセンタデータセットでトレーニングされ、評価され、テストされた最先端(SOTA)モデルよりも正確である。
SOTAトランスおよび非トランスフォーマーベースのモデルと比較して、予測精度の改善はMSEの0.782%-39.08%、MAEの0.993%-51.82%、RMSEの0.370%-22.28%である。
論文 参考訳(メタデータ) (2026-04-14T04:14:32Z) - Training thermodynamic computers by gradient descent [0.0]
所望の計算を行うために,熱力学コンピュータのパラメータを降下によって調整する方法を示す。
我々は、デジタルおよび熱力学的実装のエネルギーコストの比率である熱力学的優位性を7桁を超えると見積もる。
論文 参考訳(メタデータ) (2025-09-18T18:12:55Z) - Towards Reasoning for PDE Foundation Models: A Reward-Model-Driven Inference-Time-Scaling Algorithm [2.203009896164144]
本稿では,シミュレーション中に計算資源を利用するPDEのためのテスト時間コンピューティング(TTC)戦略を導入し,より正確な予測を行う。
TTCは、標準の非適応的自己回帰推論に対して改善された相対予測をキャプチャする。
このフレームワークは、より高度な推論アルゴリズムやPDEモデリングへの基礎的なステップであり、強化学習に基づくアプローチを取り入れている。
論文 参考訳(メタデータ) (2025-09-02T21:31:32Z) - Noise Hypernetworks: Amortizing Test-Time Compute in Diffusion Models [57.49136894315871]
テストタイムスケーリングの新しいパラダイムは、推論モデルと生成視覚モデルにおいて驚くべきブレークスルーをもたらした。
本稿では,テスト時間スケーリングの知識をモデルに組み込むことの課題に対する1つの解決策を提案する。
拡散モデルにおいて、初期入力ノイズを変調するノイズハイパーネットワークにより、報酬誘導試験時間雑音の最適化を行う。
論文 参考訳(メタデータ) (2025-08-13T17:33:37Z) - Supervised Score-Based Modeling by Gradient Boosting [49.556736252628745]
本稿では,スコアマッチングを組み合わせた勾配向上アルゴリズムとして,SSM(Supervised Score-based Model)を提案する。
推測時間と予測精度のバランスをとるため,SSMの学習とサンプリングに関する理論的解析を行った。
我々のモデルは、精度と推測時間の両方で既存のモデルより優れています。
論文 参考訳(メタデータ) (2024-11-02T07:06:53Z) - Computation-Aware Gaussian Processes: Model Selection And Linear-Time Inference [55.150117654242706]
我々は、1.8万のデータポイントでトレーニングされた計算対応GPのモデル選択が、1つのGPU上で数時間以内に可能であることを示す。
この研究の結果、ガウス過程は、不確実性を定量化する能力を著しく妥協することなく、大規模なデータセットで訓練することができる。
論文 参考訳(メタデータ) (2024-11-01T21:11:48Z) - A Dynamical Model of Neural Scaling Laws [79.59705237659547]
ネットワークトレーニングと一般化の解決可能なモデルとして,勾配降下で訓練されたランダムな特徴モデルを分析する。
我々の理論は、データの繰り返し再利用により、トレーニングとテスト損失のギャップが徐々に増大することを示している。
論文 参考訳(メタデータ) (2024-02-02T01:41:38Z) - Towards a Better Theoretical Understanding of Independent Subnetwork Training [56.24689348875711]
独立サブネットワークトレーニング(IST)の理論的考察
ISTは、上記の問題を解決するための、最近提案され、非常に効果的である。
圧縮通信を用いた分散手法など,ISTと代替手法の基本的な違いを同定する。
論文 参考訳(メタデータ) (2023-06-28T18:14:22Z) - Gibbs-Duhem-Informed Neural Networks for Binary Activity Coefficient
Prediction [45.84205238554709]
本稿では,Gibs-Duhem-informed Neural Network を用いて,様々な組成における二成分活性係数の予測を行う。
ニューラルネットワークの学習における損失関数にギブス・デュヘム方程式を明示的に含んでいる。
論文 参考訳(メタデータ) (2023-05-31T07:36:45Z) - Symbolic Regression on FPGAs for Fast Machine Learning Inference [2.0920303420933273]
高エネルギー物理コミュニティは、FPGA(Field-Programmable Gate Arrays)上に機械学習ベースのソリューションをデプロイする可能性を探っている
シンボリックレグレッション(SR)と呼ばれる機械学習技術を利用した新しいエンドツーエンドプロシージャを提案する。
提案手法は,最大で5 nsまでの実行時間を最大13倍に抑えながら,90%以上の近似精度を維持した推論モデルを用いて3層ニューラルネットワークを近似できることを示す。
論文 参考訳(メタデータ) (2023-05-06T17:04:02Z) - Deep Physics Corrector: A physics enhanced deep learning architecture
for solving stochastic differential equations [0.0]
微分方程式(SDE)によって制御される物理系に対する新しいグレーボックスモデリングアルゴリズムを提案する。
提案手法はDeep Physics Corrector(DPC)と呼ばれ、SDEとDeep Neural Network(DNN)で表される近似物理学をブレンドする。
本論文では,本論文の4つのベンチマーク例について,提案したDPCの性能について述べる。
論文 参考訳(メタデータ) (2022-09-20T14:30:07Z) - Advancing Reacting Flow Simulations with Data-Driven Models [50.9598607067535]
マルチ物理問題における機械学習ツールの効果的な利用の鍵は、それらを物理モデルとコンピュータモデルに結合することである。
本章では, 燃焼システムにおけるデータ駆動型低次モデリングの適用可能性について概説する。
論文 参考訳(メタデータ) (2022-09-05T16:48:34Z) - Denoising Diffusion Probabilistic Models [91.94962645056896]
拡散確率モデルを用いて高品質な画像合成結果を示す。
本研究は,拡散確率モデルとランゲヴィン力学と整合したデノイングスコアとの新たな接続に基づいて設計した重み付き変分境界のトレーニングにより得られた。
論文 参考訳(メタデータ) (2020-06-19T17:24:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。