論文の概要: Ghost Features and Spooky Transfer Learning for Hypercomplex-Valued Neural Networks
- arxiv url: http://arxiv.org/abs/2608.07735v1
- Date: Fri, 07 Aug 2026 19:56:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.49089
- Title: Ghost Features and Spooky Transfer Learning for Hypercomplex-Valued Neural Networks
- Title(参考訳): 超複素値ニューラルネットワークのゴースト特徴とスポーキー伝達学習
- Abstract要約: 超複素数は、追加の虚数成分を導入することで複素数の概念を拡張する。
従来の実数値階層の出力に対応する超複素数値ニューラルネットワーク層を構築する方法を示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hypercomplex numbers extend the concept of complex numbers by introducing additional imaginary components. Besides increasing dimensionality, operations on the imaginary parts provide algebraic and geometrical properties that can be beneficial for solving machine learning problems. In this paper, we show how to create hypercomplex-valued neural network layers where the real part corresponds to the output of a traditional real-valued layer. The additional imaginary parts of these hypercomplex-valued layers produce what we call ``ghost features,'' which contain enhanced information that is not present in the output of the real-valued layer. Moreover, ghost features can be effectively integrated into a trained neural network through a process we refer to as ``spooky transfer learning.'' This approach allows us to harness the richness of ghost features, leading to more efficient neural networks. The source code and Jupyter Notebook are available at https://github.com/mevalle/v-nets/.
- Abstract(参考訳): 超複素数は、追加の虚数成分を導入することで複素数の概念を拡張する。
次元性の増大に加えて、虚部上の演算は代数的および幾何学的性質を提供し、機械学習の問題を解決するのに有用である。
本稿では,従来の実数値階層の出力に対応する超複素数値ニューラルネットワーク層を構築する方法について述べる。
これらの超複素値層の追加の想像的部分は、実数値層の出力に存在しない拡張情報を含む'ghost features''と呼ばれるものを生成します。
さらに、我々は ``spooky transfer learning' と呼ぶプロセスを通じて、ゴースト機能をトレーニングされたニューラルネットワークに効果的に統合することができる。
このアプローチではゴースト機能の豊かさを活用でき、より効率的なニューラルネットワークが実現できます。
ソースコードとJupyter Notebookはhttps://github.com/mevalle/v-nets/で入手できる。
関連論文リスト
- Entangling power of neural networks [0.0]
本稿では,サブシステム間の絡み合いを発生させるエンコーダデコーダニューラルネットワークの絡み合い能力について述べる。
我々の研究は、絡み合い理論におけるシュミットランクの概念を一般化する機械学習における相関解析の枠組みを提供する。
論文 参考訳(メタデータ) (2026-08-05T18:00:06Z) - Topology-Aware Activation Functions in Neural Networks [0.0]
本研究では、ニューラルネットワークがトレーニング中にデータトポロジを操作する能力を高める新しいアクティベーション機能について検討する。
我々は、トポロジの「カット」機能を導入した$mathrmSmoothSplit$と$mathrmParametricSplit$を提案する。
ニューラルネットワークアーキテクチャの進展におけるトポロジカル・アウェア・アクティベーション機能の可能性について検討した。
論文 参考訳(メタデータ) (2025-07-17T07:48:36Z) - Global Convergence and Rich Feature Learning in $L$-Layer Infinite-Width Neural Networks under $μ$P Parametrization [66.03821840425539]
本稿では, テンソル勾配プログラム(SGD)フレームワークを用いた$L$層ニューラルネットワークのトレーニング力学について検討する。
SGDにより、これらのネットワークが初期値から大きく逸脱する線形独立な特徴を学習できることを示す。
このリッチな特徴空間は、関連するデータ情報をキャプチャし、トレーニングプロセスの収束点が世界最小であることを保証する。
論文 参考訳(メタデータ) (2025-03-12T17:33:13Z) - Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。
本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
論文 参考訳(メタデータ) (2024-09-17T04:48:45Z) - Towards Explaining Hypercomplex Neural Networks [6.543091030789653]
ハイパーコンプレックスニューラルネットワークは、ディープラーニングコミュニティへの関心が高まっている。
本稿では,本質的に解釈可能なPHNNと4元ネットワークを提案する。
我々は、このユニークなニューラルネットワークのブランチがどのように機能するかを洞察する。
論文 参考訳(メタデータ) (2024-03-26T17:58:07Z) - Super Consistency of Neural Network Landscapes and Learning Rate Transfer [72.54450821671624]
我々は、失われたヘッセンのレンズを通して風景を研究する。
我々は、$mu$P のスペクトル特性がネットワークの大きさに大きく依存していることを発見した。
ニューラルタンジェントカーネル(NTK)や他のスケーリングシステムでは、シャープネスは異なるスケールで非常に異なるダイナミクスを示す。
論文 参考訳(メタデータ) (2024-02-27T12:28:01Z) - Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳(メタデータ) (2024-02-26T15:01:54Z) - Hierarchical Associative Memory [2.66512000865131]
Associative Memories や Modern Hopfield Networks は、多くの魅力的な特性を持っている。
パターン補完を行い、多数のメモリを格納し、リカレントニューラルネットワークを使用して記述することができる。
本稿では,任意の数のレイヤを持つ連想メモリの完全再帰モデルについて述べる。
論文 参考訳(メタデータ) (2021-07-14T01:38:40Z) - DecisiveNets: Training Deep Associative Memories to Solve Complex
Machine Learning Problems [4.83420384410068]
本稿では,ディープニューラルネットワークモデルからディープ連想記憶への変換手法を提案する。
結果として生じる深い連想記憶は、人工知能の優れた候補である。
論文 参考訳(メタデータ) (2020-12-02T20:22:25Z) - Learning compositional functions via multiplicative weight updates [97.9457834009578]
乗算重み更新は構成関数に合わせた降下補題を満たすことを示す。
マダムは、学習率のチューニングなしに、最先端のニューラルネットワークアーキテクチャをトレーニングできることを示す。
論文 参考訳(メタデータ) (2020-06-25T17:05:19Z) - Neural Sparse Representation for Image Restoration [116.72107034624344]
スパース符号化に基づく画像復元モデルの堅牢性と効率に触発され,深部ネットワークにおけるニューロンの空間性について検討した。
本手法は,隠れたニューロンに対する空間的制約を構造的に強制する。
実験により、複数の画像復元タスクのためのディープニューラルネットワークではスパース表現が不可欠であることが示されている。
論文 参考訳(メタデータ) (2020-06-08T05:15:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。