論文の概要: Kuramoto Oscillatory Phase Encoding: Neuro-inspired Synchronization for Improved Learning Efficiency
- arxiv url: http://arxiv.org/abs/2604.07904v1
- Date: Thu, 09 Apr 2026 07:19:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:05.76204
- Title: Kuramoto Oscillatory Phase Encoding: Neuro-inspired Synchronization for Improved Learning Efficiency
- Title(参考訳): 倉本振動位相符号化:学習効率向上のための神経誘発同期
- Authors: Mingqing Xiao, Yansen Wang, Dongqi Han, Caihua Shan, Dongsheng Li,
- Abstract要約: 視覚変換器に追加の進化相状態として, 内蔵型位相パティオ(KoPE)を導入する。
KoPEは、同期強化構造学習により、視覚モデルのトレーニング、パラメータ、およびデータ効率を改善することができる。
KoPEは、意味的・単眼的セグメンテーション、言語との表現アライメント、および少数ショット抽象的視覚的推論(ARC-AGI)を含む構造化された理解の恩恵を受ける
- 参考スコア(独自算出の注目度): 36.59266308852368
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Spatiotemporal neural dynamics and oscillatory synchronization are widely implicated in biological information processing and have been hypothesized to support flexible coordination such as feature binding. By contrast, most deep learning architectures represent and propagate information through activation values, neglecting the joint dynamics of rate and phase. In this work, we introduce Kuramoto oscillatory Phase Encoding (KoPE) as an additional, evolving phase state to Vision Transformers, incorporating a neuro-inspired synchronization mechanism to advance learning efficiency. We show that KoPE can improve training, parameter, and data efficiency of vision models through synchronization-enhanced structure learning. Moreover, KoPE benefits tasks requiring structured understanding, including semantic and panoptic segmentation, representation alignment with language, and few-shot abstract visual reasoning (ARC-AGI). Theoretical analysis and empirical verification further suggest that KoPE can accelerate attention concentration for learning efficiency. These results indicate that synchronization can serve as a scalable, neuro-inspired mechanism for advancing state-of-the-art neural network models.
- Abstract(参考訳): 時空間の神経力学と振動同期は生物学的情報処理に広く関与しており、特徴結合のような柔軟な調整をサポートすると仮定されている。
対照的に、ほとんどのディープラーニングアーキテクチャは、アクティベーション値を通じて情報を表現し、伝播し、レートとフェーズのジョイントダイナミクスを無視している。
本研究では,視覚変換器に新たな位相状態として,内蔵本発振位相符号化(KoPE)を導入し,学習効率を向上させるために神経インスパイアされた同期機構を取り入れた。
我々は,同期強化構造学習により,視覚モデルのトレーニング,パラメータ,データ効率を向上させることができることを示す。
さらに、KoPEは、セマンティックとパノプティクスのセグメンテーション、言語との表現のアライメント、少数ショットの抽象的視覚的推論(ARC-AGI)など、構造化された理解を必要とするタスクの恩恵を受ける。
理論的解析と実証的検証は、KoPEが学習効率の注意集中を加速できることを示唆している。
これらの結果は、同期が、最先端のニューラルネットワークモデルを進めるためのスケーラブルで神経にインスパイアされたメカニズムとして機能することを示している。
関連論文リスト
- Kirchhoff-Inspired Neural Networks for Evolving High-Order Perception [51.28469959548178]
我々はKirchhoff-Inspired Neural Network (KINN)を提案する。
KINNは、基本的な常微分方程式から数値的に安定な状態更新を導き、より高階の進化成分の明示的な分離と符号化を可能にする。
論文 参考訳(メタデータ) (2026-03-25T06:17:31Z) - SynBrain: Enhancing Visual-to-fMRI Synthesis via Probabilistic Representation Learning [54.390403684665834]
視覚刺激が皮質反応にどのように変換されるかを理解することは、計算神経科学の基本的な課題である。
視覚的意味論から神経反応への変換を確率的かつ生物学的に解釈可能な方法でシミュレートする生成フレームワークであるSynBrainを提案する。
実験結果から,SynBrainは被写体特異的視覚-fMRI符号化性能において最先端の手法を超越していることが示された。
論文 参考訳(メタデータ) (2025-08-14T03:01:05Z) - Zero-Shot EEG-to-Gait Decoding via Phase-Aware Representation Learning [9.49131859415923]
ドメイン一般化型脳波-モーションデコーディングフレームワークであるNeuroDyGaitを提案する。
構造化されたコントラスト表現学習とリレーショナルドメインモデリングを使用して、脳波とモーション埋め込みのセマンティックアライメントを実現する。
ベンチマークデータセットのクロスオブジェクト歩行復号における適応や優れた性能を必要とせずに、見えない個人に対するゼロショットモーション予測を実現する。
論文 参考訳(メタデータ) (2025-06-24T06:03:49Z) - Enhancing deep neural networks through complex-valued representations and Kuramoto synchronization dynamics [13.611995923070426]
視覚的分類のために訓練された人工モデルにおいて、同期型メカニズムがオブジェクト符号化を向上できるかどうかを検討する。
複素数値表現と倉本ダイナミクスを組み合わせ、位相アライメントを促進し、同一対象に属する特徴のグルーピングを容易にする。
本研究は,ディープラーニングモデルの向上,性能の向上,堅牢性,一般化のための同期駆動機構の可能性を明らかにする。
論文 参考訳(メタデータ) (2025-02-28T14:10:42Z) - Exploring neural oscillations during speech perception via surrogate gradient spiking neural networks [59.38765771221084]
本稿では、ディープラーニングフレームワークと互換性があり、スケーラブルな、生理学的にインスパイアされた音声認識アーキテクチャを提案する。
本研究では, 終末から終末までの勾配降下訓練が, 中枢スパイク神経ネットワークにおける神経振動の出現に繋がることを示す。
本研究は, スパイク周波数適応やリカレント接続などのフィードバック機構が, 認識性能を向上させるために, 神経活動の調節と同期に重要な役割を担っていることを明らかにする。
論文 参考訳(メタデータ) (2024-04-22T09:40:07Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳(メタデータ) (2023-03-30T02:40:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。