論文の概要: Local Synaptic Rules Can Implement a SIGReg Gradient Without Backpropagation
- arxiv url: http://arxiv.org/abs/2607.21622v1
- Date: Fri, 03 Jul 2026 19:05:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:38.948692
- Title: Local Synaptic Rules Can Implement a SIGReg Gradient Without Backpropagation
- Title(参考訳): 局所シナプスルールは、バックプロパゲーションなしでSIGRegのグラディエントを実装できる
- Abstract要約: 本研究では,2つの標準的局所的シナプス学習規則,スパイクタイピング依存可塑性の増強アーム(STDP$+$)とホメオスタティック可塑性(STDP$+$)を併用することにより,SIGRegのような自己教師型学習目標の正確な勾配を実現できることを示す。
等価性は勾配計算もグローバルエラー信号もウェイトトランスポートもラベル情報も不要である。
時間的に順序付けられたMNISTでは、これらの規則で完全に訓練された2層ネットワークが87.3%の線形プローブ精度を達成し、メカニズムがエンドツーエンドで機能することを示した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We prove that two canonical local synaptic learning rules, the potentiation arm of spike-timing-dependent plasticity (STDP$^+$) and homeostatic plasticity (instantiated here via flashlight granule-cell-like neurons), together can implement the exact gradient of a SIGReg-like self-supervised learning objective. The equivalence requires no gradient calculations, no global error signals, no weight transport, and no label information: the only inputs are pre- and post-synaptic firing rates, local firing statistics, and the temporal contiguity of natural sensory streams. On a synthetic clustering task designed to probe whether class structure can be recovered from temporal ordering of inputs alone, ordered presentation raised cluster separation (CSR) to 2.49 while random ordering left it near baseline (0.83), a roughly threefold ($\approx 3.5σ$) separation attributable solely to input ordering. On temporally ordered MNIST, a two-layer network trained entirely with these rules achieved 87.3% linear-probe accuracy, showing that the mechanism functions end-to-end.
- Abstract(参考訳): 局所的な局所的なシナプス学習規則として,スパイクタイピング依存的可塑性(STDP$^+$)の増強アームと,フラッシュライトグラニュラー細胞様ニューロンを介するホメオスタティック可塑性(ここでは,フラッシュライトグラニュラー細胞様ニューロン)を併用することにより,SIGRegライクな自己教師学習目標の正確な勾配を実現できることを証明した。
等価性は勾配計算もグローバルエラー信号もウェイトトランスポートもラベル情報も必要とせず、入力はシナプス前後の発射速度、局所的な発射統計、自然感覚ストリームの時間的連続性のみである。
入力のみの時間的順序付けからクラス構造を復元できるかどうかを調査するために設計された合成クラスタリングタスクにおいて、ランダムな順序付けがベースライン(0.83)付近に残され、入力順序付けのみに起因する約3倍(3.5σ$)の分離が行われる。
時間的に順序付けられたMNISTでは、これらの規則で完全に訓練された2層ネットワークが87.3%の線形プローブ精度を達成し、メカニズムがエンドツーエンドで機能することを示した。
関連論文リスト
- Linearized PINN with pretrained nonlinear layers [48.01541150431857]
lPINNは、前方および逆微分方程式の低次ニューラルネットワーク基底法である。
我々は, 対流拡散方程式, バーガーズ方程式, 非線形振り子方程式に対する逆問題に対する lPINN の評価を行った。
論文 参考訳(メタデータ) (2026-09-14T02:18:00Z) - SeGDeP: Semantic- and Geometric-Aware Decoupled Prompts for Reasoning Segmentation [51.46828526392219]
推論セグメンテーションは暗黙の言語学的結論を正確なマスクに変換する。
既存のMLLMセグメンタインタフェースでは、特別なトリガーを使用するか、両方の信号を1つのコンテキストに圧縮する。
明示的なWhat-whereインターフェースであるSeGDePを提示する。
論文 参考訳(メタデータ) (2026-09-08T15:11:32Z) - Propensity Straight-Through Gradients for Discrete Stochastic Systems [0.0]
我々は、アフィン状態の更新を利用して、正確に1段階の条件平均感度を得る。
イベント間で構成される1段階の感度は、正確に多段階の感度から逸脱する可能性があることを示す。
論文 参考訳(メタデータ) (2026-08-26T10:59:25Z) - Physics from Video: Identifiability of Time-Invariant Second-Order ODEs under Minimal Trajectory Conditions [60.2784641643737]
ビジュアルリアリズムと物理的な理解のギャップを埋めることは、ビデオベースの世界モデルにとって重要な課題である。
原画素からの連続時間物理法則の構造識別可能性について検討した。
レベルセットの傾斜被覆条件は、学習された潜伏空間が真の物理的状態に局所的に親和的であることを証明する。
論文 参考訳(メタデータ) (2026-05-27T13:22:29Z) - Monitoring Neural Training with Topology: A Footprint-Predictable Collapse Index [51.56484100374058]
我々は,MHM(Modular Morse Homology maintenance)とCI(Composite Collapse Index)を併用したオンライントポロジ対応型神経表現モニタを提案する。
コンプレックスを再構築する代わりに、スパース編集を一定のスケールで適用し、離散的なモースマッチングを維持し、高速でインクリメンタルな更新をもたらす。
論文 参考訳(メタデータ) (2026-04-28T19:21:21Z) - Towards Causally Interpretable Wi-Fi CSI-Based Human Activity Recognition with Discrete Latent Compression and LTL Rule Extraction [10.0678616164414]
We address Human Activity Recognition (HAR) using Wi-Fi Channel State Information (CSI)
深部神経モデルによるCSIに基づくHAR(CHAR)の予測性能の向上
そこで本研究では,CSI級のウィンドウをカテゴリ型変分オートエンコーダで圧縮する,完全自動かつ厳密に分離したパイプラインを提案する。
論文 参考訳(メタデータ) (2026-04-24T19:45:49Z) - Relaxation-Informed Training of Neural Network Surrogate Models [3.9722979176564763]
ReLUニューラルネットワーク訓練サロゲートモデルは、MILP(mixed-integer linear program)に正確に埋め込まれる。
結果として得られるMILPのトラクタビリティは、ネットワークの構造的特性に依存する。
提案した正規化器は, 最大4桁のMILP時間を非正規化ベースラインに短縮できることを示す。
論文 参考訳(メタデータ) (2026-04-24T17:46:55Z) - Zero-Shot Detection of Elastic Transient Morphology Across Physical Systems [0.0]
干渉ひずみの過渡度から学習した表現は、未知のセンサのモルフォロジーに敏感な演算子として機能することを示す。
非ガウス楽器のグリッチを専門に訓練したニューラルエンコーダを用いて、圧延要素の軸受に対して厳密なゼロショット異常解析を行う。
論文 参考訳(メタデータ) (2026-01-16T16:35:07Z) - DiffeoMorph: Learning to Morph 3D Shapes Using Differentiable Agent-Based Simulations [2.174820084855635]
DiffeoMorphは、形態形成プロトコルを学ぶためのエンドツーエンドの差別化可能なフレームワークである。
エージェントの集団がターゲットの3D形状に変化するように誘導する。
DiffeoMorph は最小限のキューのみを用いて様々な形状を形成可能であることを示す。
論文 参考訳(メタデータ) (2025-12-18T23:50:42Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳(メタデータ) (2025-09-26T23:40:47Z) - Growing Steerable Neural Cellular Automata [63.91346650159648]
元々のNeural Cellular Automataの実装では、細胞は自身の向きを調整することができない。
調整可能な内部状態によって決定されるように、各セルが自身の配向に責任を負うようにします。
我々は,(1)2つの種のみを用いて対称性を破る,(2)回転不変の訓練目標を導入することにより,ステアブル NCA を等方的変種と類似しているが単純な方法で訓練することができることを示す。
論文 参考訳(メタデータ) (2023-02-19T09:45:46Z) - RankSim: Ranking Similarity Regularization for Deep Imbalanced
Regression [48.58405556678924]
RankSimはインダクティブバイアスを符号化し、ラベル空間に近くサンプルが特徴空間に近くなる。
RankSimは従来の不均衡学習手法を補完するものである。
論文 参考訳(メタデータ) (2022-05-30T16:51:25Z) - Biologically Plausible Training Mechanisms for Self-Supervised Learning
in Deep Networks [14.685237010856953]
我々は,深層ネットワークにおける自己教師付き学習(SSL)のための生物学的に妥当なトレーニング機構を開発する。
バックパゲーションの2つの選択肢のうちの1つを用いて学習を行うことができることを示す。
論文 参考訳(メタデータ) (2021-09-30T12:56:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。