論文の概要: HcNet: Image Modeling with Heat Conduction Equation

• arxiv url: http://arxiv.org/abs/2408.05901v1
• Date: Mon, 12 Aug 2024 02:48:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-13 14:55:41.224323
• Title: HcNet: Image Modeling with Heat Conduction Equation
• Title（参考訳）: HcNet:熱伝導方程式を用いた画像モデリング
• Authors: Zhemin Zhang, Xun Gong,
• Abstract要約: 本稿では,モデル全体のアーキテクチャ設計を熱伝導理論フレームワークに統合することを目的とする。 私たちのHeat Conduction Network(HcNet)は競争力のあるパフォーマンスを示しています。
• 参考スコア（独自算出の注目度）: 6.582336726258388
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Foundation models, such as CNNs and ViTs, have powered the development of image modeling. However, general guidance to model architecture design is still missing. The design of many modern model architectures, such as residual structures, multiplicative gating signal, and feed-forward networks, can be interpreted in terms of the heat conduction equation. This finding inspired us to model images by the heat conduction equation, where the essential idea is to conceptualize image features as temperatures and model their information interaction as the diffusion of thermal energy. We can take advantage of the rich knowledge in the heat conduction equation to guide us in designing new and more interpretable models. As an example, we propose Heat Conduction Layer and Refine Approximation Layer inspired by solving the heat conduction equation using Finite Difference Method and Fourier series, respectively. This paper does not aim to present a state-of-the-art model; instead, it seeks to integrate the overall architectural design of the model into the heat conduction theory framework. Nevertheless, our Heat Conduction Network (HcNet) still shows competitive performance. Code available at \url{https://github.com/ZheminZhang1/HcNet}.
• Abstract（参考訳）: CNNやViTのような基礎的なモデルは、画像モデリングの開発に力を入れている。 しかし、モデルアーキテクチャ設計に関する一般的なガイダンスはいまだに欠けている。 残差構造、乗算ゲーティング信号、フィードフォワードネットワークなど、現代の多くのモデルアーキテクチャの設計は、熱伝導方程式の観点から解釈できる。 この発見は、熱伝導方程式による画像のモデル化にインスピレーションを与え、そこでは、画像の特徴を温度として概念化し、その情報相互作用を熱エネルギーの拡散としてモデル化する。 熱伝導方程式の豊富な知識を利用して、新しいより解釈可能なモデルの設計を導くことができる。 一例として, 有限差分法とフーリエ級数を用いた熱伝導方程式の解法に着想を得た熱伝導層とRefine Approximation Layerを提案する。 本論文は, 最先端モデルを提示することではなく, その代わりに, モデル全体のアーキテクチャ設計を熱伝導理論の枠組みに統合することを目的としている。 それでも、私たちのHeat Conduction Network(HcNet)は競争力のあるパフォーマンスを示しています。 コードは \url{https://github.com/ZheminZhang1/HcNet} で公開されている。

関連論文リスト

• Physics Informed Distillation for Diffusion Models [21.173298037358954]
  本研究では,教師の拡散モデルに対応するODEシステムの解法を表現するために,学生モデルを用いた物理インフォームド蒸留(PID)を導入する。 PIDの性能は最近の蒸留法と同等である。
  論文  参考訳（メタデータ） (2024-11-13T07:03:47Z)
• IFH: a Diffusion Framework for Flexible Design of Graph Generative Models [53.219279193440734]
  グラフ生成モデルは,1行にグラフを生成するワンショットモデルと,ノードとエッジの連続的な付加によるグラフを生成するシーケンシャルモデルという,2つの顕著なファミリーに分類される。 本稿では,逐次度を規定するグラフ生成モデルであるInsert-Fill-Halt(IFH)を提案する。
  論文  参考訳（メタデータ） (2024-08-23T16:24:40Z)
• Finite-temperature properties of string-net models [0.0]
  弦-ネットモデルの分割関数を計算し,いくつかの熱力学量について検討する。 熱力学の限界では、分配関数は純粋フラクトンと呼ばれる特別な粒子の寄与によって支配されることを示す。 また、励起に付随するウェグナー・ウィルソンループの挙動を解析し、それらが領域法則に従うことを示す。
  論文  参考訳（メタデータ） (2024-06-28T07:51:58Z)
• vHeat: Building Vision Models upon Heat Conduction [63.00030330898876]
  vHeatは、高い計算効率とグローバルな受容場の両方を同時に達成する、新しいビジョンバックボーンモデルである。 基本的な考え方は、画像パッチを熱源として概念化し、それらの相関の計算を熱エネルギーの拡散としてモデル化することである。
  論文  参考訳（メタデータ） (2024-05-26T12:58:04Z)
• FluxGAN: A Physics-Aware Generative Adversarial Network Model for Generating Microstructures That Maintain Target Heat Flux [0.0]
  本稿では,大規模構造物の高品質な画像を同時に生成できる物理認識型生成逆ネットワークモデルFluxGANを提案する。 このモデルは2次元(2次元)の例で訓練した後、3次元(3次元)ドメインでコーティングミクロ組織と物理プロセスを生成することができる。 本手法は, 溶射皮膜の設計と最適化を, 様々な用途に応用できる可能性を持っている。
  論文  参考訳（メタデータ） (2023-10-06T23:13:40Z)
• Unifying Diffusion Models' Latent Space, with Applications to CycleDiffusion and Guidance [95.12230117950232]
  関係領域で独立に訓練された2つの拡散モデルから共通潜時空間が現れることを示す。 テキスト・画像拡散モデルにCycleDiffusionを適用することで、大規模なテキスト・画像拡散モデルがゼロショット画像・画像拡散エディタとして使用できることを示す。
  論文  参考訳（メタデータ） (2022-10-11T15:53:52Z)
• InvGAN: Invertible GANs [88.58338626299837]
  InvGANはInvertible GANの略で、高品質な生成モデルの潜在空間に実際の画像を埋め込むことに成功した。 これにより、画像のインペイント、マージ、オンラインデータ拡張を実行できます。
  論文  参考訳（メタデータ） (2021-12-08T21:39:00Z)
• Sparse Flows: Pruning Continuous-depth Models [107.98191032466544]
  生成モデルにおいて,プルーニングによりニューラルネットワークの一般化が向上することを示す。 また、プルーニングは、元のネットワークに比べて最大98%少ないパラメータで、精度を損なうことなく、最小かつ効率的なニューラルODE表現を見出すことを示した。
  論文  参考訳（メタデータ） (2021-06-24T01:40:17Z)
• Learning Manifold Implicitly via Explicit Heat-Kernel Learning [63.354671267760516]
  そこで,本研究では,熱カーネルを学習することで,多様体情報を暗黙的に取得する,暗黙的多様体学習の概念を提案する。 学習した熱カーネルは、データ生成のための深層生成モデル(DGM)やベイズ推論のためのスタイン変分勾配Descentなど、さまざまなカーネルベースの機械学習モデルに適用することができる。
  論文  参考訳（メタデータ） (2020-10-05T03:39:58Z)
• An unsupervised learning approach to solving heat equations on chip based on Auto Encoder and Image Gradient [0.43512163406551996]
  チップ上での熱伝達方程式を解くことは、今後の5GおよびAIチップパッケージシステムにおいて非常に重要になる。 データ駆動方式はデータ飢餓に対処するため,物理情報ニューラルネットワーク(PINN)が提案されている。 本稿では,データを用いずにチップ上での熱伝達方程式を解くための教師なし学習手法について検討する。
  論文  参考訳（メタデータ） (2020-07-19T15:01:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。