論文の概要: Beyond the Hamming Cliff: Compact Spatial Encodings Preserving Semantic Distance in Spiking Neural Networks

• arxiv url: http://arxiv.org/abs/2610.22083v1
• Date: Thu, 15 Oct 2026 15:38:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.163526
• Title: Beyond the Hamming Cliff: Compact Spatial Encodings Preserving Semantic Distance in Spiking Neural Networks
• Title（参考訳）: ハミングクリフを超えて:スパイクニューラルネットワークのセマンティック距離を保存するコンパクトな空間符号化
• Abstract要約: 連続的なセマンティックパターンは入力層における同時スパイクのセットとして提示され、超低レイテンシ処理を保存する。 各スキームの下で複数の連続値に基づいてネットワークをトレーニングし、精度を計測するためには、ホメオスタティックスケーリングと偽陽性率が必要であった。
• 参考スコア（独自算出の注目度）: 39.768483176912945
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: By pre-processing input signals with Gray, Thermometer, Johnson and hybrid encodings before passing them to spiking neural networks running on SpiNNaker hardware, Davies et al.(2025) address the semantic-spatial disparity that causes the ``Hamming cliff'' in standard binary representations. Continuous semantic patterns are presented as a set of simultaneous spikes at the input layer, preserving ultra-low latency processing. Training the network on multiple continuous values under each scheme, and measuring accuracy, required homeostatic scaling and false-positive rates, shows that removing the cliff is necessary but not sufficient: Gray encoding removes it yet retains little global distance structure, whereas Thermometer and Johnson preserve semantic distance at a code width that grows with the value range. The proposed hybrid encodings contain all three as limiting cases of a single parameter, recovering most of that structure at a fraction of the width. The homeostatic factor is shown to set a radius of tolerance around each trained pattern, so that the choice of encoding alone decides which values the network treats as similar.
• Abstract（参考訳）: 入力信号をグレー、サーモメータ、ジョンソン、ハイブリッドエンコーディングで前処理し、SpiNNakerハードウェア上で動作するニューラルネットワークに渡すことで、Daviesらは標準的なバイナリ表現で‘Hamming cliff’を引き起こす意味と空間の格差に対処する。 連続的なセマンティックパターンは入力層における同時スパイクのセットとして提示され、超低レイテンシ処理を保存する。 各スキームの下で複数の連続した値に基づいてネットワークをトレーニングし、その精度を測るには、水平スケーリングと偽陽性率が必要であり、崖の除去は必要だが不十分である。 提案したハイブリット符号化は,3つ全てを1つのパラメータの制限事例として含み,その構造の大部分を幅のごく一部で復元する。 ホメオスタティック因子は、トレーニングされた各パターンの周囲に許容半径を設定することで、符号化のみを選択することで、ネットワークが処理する値が類似するかどうかを判断する。

関連論文リスト

• Residual-Stream Burden Shapes Representation Learning in Diffusion Transformers [74.0530486095232]
  拡散ベースの生成では、ニューラルネットワークをトレーニングして、ノイズやノイズの入力からクリーンなデータを予測することができる。 最終読み出しの深さを通したノイズ依存入力変動を維持するために,雑音のターゲットは残差ストリームを必要とすると論じる。 スペクトル集中されたクリーンターゲットは、より軽量な要求を課し、その後の計算のために隠れた表現を整理する自由を保ちます。
  論文  参考訳（メタデータ） (2026-09-27T20:17:39Z)
• Hierarchical Adaptive Feature Refinement Network for VHR Remote Sensing Image Segmentation [15.24999553337715]
  本稿では,階層的表現を適応的に整理・洗練する進歩的改良フレームワークHAFR-Netを提案する。 マッチしたSwin-Bトレーニングとシングルスケール推論プロトコルの下で、HAFR-Netは84.12%、87.86%、55.17%、67.70%mIoUを達成した。
  論文  参考訳（メタデータ） (2026-08-16T09:26:58Z)
• Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
  有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。 このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。 Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
  論文  参考訳（メタデータ） (2026-07-08T05:48:57Z)
• Closed-form predictive coding via hierarchical Gaussian filters [33.92034506804344]
  予測符号化は、ニューラルネットワークのトレーニングにおけるバックプロパゲーションに代わる、局所的かつ生物学的に基礎付けられた代替手段を提供する。 FashionMNISTでは,エピックレベルの壁面コストを低く抑えながらバックプロパゲーションにアプローチする。 オンライン精度学習によるクローズドフォーム変分推論は、深層予測符号ネットワークの抽出可能な基盤を提供する。
  論文  参考訳（メタデータ） (2026-05-19T10:11:41Z)
• Latent Point Collapse on a Low Dimensional Embedding in Deep Neural Network Classifiers [0.0]
  同一クラスに属する潜在表現の崩壊を単一点に誘導する手法を提案する。 提案されたアプローチは実装が簡単で、非ネイティブな機能埋め込みを大幅に改善する。
  論文  参考訳（メタデータ） (2023-10-12T11:16:57Z)
• HYVE: Hybrid Vertex Encoder for Neural Distance Fields [9.40036617308303]
  本稿では,1つの前方パスにおける3次元形状の正確な符号化に適したニューラルネットワークアーキテクチャを提案する。 我々のネットワークは、非ゼロ距離値や形状占有の事前知識を明示することなく、有効な符号付き距離場を出力することができる。
  論文  参考訳（メタデータ） (2023-10-10T14:07:37Z)
• NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
  本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。 所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。 ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
  論文  参考訳（メタデータ） (2022-09-29T04:06:00Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)
• Meta-Learning Sparse Implicit Neural Representations [69.15490627853629]
  入射神経表現は、一般的な信号を表す新しい道である。 現在のアプローチは、多数の信号やデータセットに対してスケールすることが難しい。 メタ学習型スパースニューラル表現は,高密度メタ学習モデルよりもはるかに少ない損失が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-27T18:02:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。