論文の概要: Fractional-order hardware for neuromorphic computing: Is the order really the problem?

• arxiv url: http://arxiv.org/abs/2609.10882v1
• Date: Wed, 09 Sep 2026 22:38:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.158682
• Title: Fractional-order hardware for neuromorphic computing: Is the order really the problem?
• Title（参考訳）: ニューロモルフィックコンピューティングのためのフラクショナルオーダーハードウェア:秩序は本当に問題なのか?
• Abstract要約: ニューロモルフィックシステムは、一度に多くの時間スケールにまたがる信号を処理します。 このレビューは、そのコストに関するハードウェアを整理する。 残るのが、周波数帯域のギャップで、ローエンドでは30年ほどになる。
• 参考スコア（独自算出の注目度）: 0.609170287691728
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Does a neuromorphic system need a true power-law memory kernel, and if so, can anyone build one? Neuromorphic systems process signals spanning many timescales at once, from milliseconds to tens of seconds. Integer-order circuits buy each additional timescale with an additional state variable. Fractional-order dynamics offer a different bargain: one operator whose power-law kernel carries a continuum of timescales, tuned by one parameter, the order alpha. A fractional derivative is non-local, so evaluating it costs storage and arithmetic that grow with the retained history, where an integer-order derivative costs a constant. This review organizes the hardware literature around that cost. We derive the retained history needed to hold the truncation error below a tolerance epsilon, show that it scales as epsilon^(-1/alpha), and set beside it a second and independent limit on the direct form: in fixed point the weights themselves underflow, so word length caps the usable history however long the buffer is. The two limits move at very different rates with the order, and where they cross decides whether a word length can serve an order at all. We use both to sort published hardware into three strategies, note a fourth the numerical literature has developed and this hardware has not, and survey digital, analog and device work. Along the way we ask whether the field is worried about the right obstacle. It is not. Fabricated constant-phase devices already span the orders two groups identify as task-optimal, so the order gap has largely closed, leaving a residual gap near 0.1 and at the lower order describing cortical adaptation. What remains is a frequency-band gap of about three decades at the low end. That corner is not empty, since double-layer electrodes work there, but every device in it is discrete, and no integrable thin-film element has been characterized there.
• Abstract（参考訳）: ニューロモルフィックシステムは真のパワーローメモリカーネルを必要としているのだろうか。 ニューロモルフィックシステムは、ミリ秒から数秒の間、複数のタイムスケールにまたがる信号を処理する。 整数順序回路は、追加の状態変数で各追加の時間スケールを購入する。 フラクショナルオーダーダイナミクスは、異なるバーゲンを提供する: パワーローカーネルが1つのパラメータによって調整された1つの時間スケールの連続体を持つ1つの演算子、オーダーアルファ。 分数導関数は非局所的であるため、整数階微分が定数となるような保持履歴とともに成長する記憶と算術のコストが評価される。 このレビューは、そのコストに関するハードウェアの文献を整理する。 我々は、トレランス・エプシロンの下のトラクション誤差を保持するために必要な保持履歴を導出し、エプシロン^(-1/アルファ)としてスケールし、その横に直交する2番目の独立した制限をセットする。 2つの制限は順序と全く異なる速度で移動し、それらが交差する場所は単語の長さが順番に役立てられるかどうかを決定する。 筆者らは, 公開ハードウェアを3つの戦略に分類し, 数値文献の4分の1と, このハードウェアが未開発であること, デジタル, アナログ, デバイスワークを調査した。 その過程で、フィールドが正しい障害を心配しているか尋ねる。 それは違う。 作製された定相デバイスは、既に2つの群がタスク最適であると同定した順序にまたがっているため、順序ギャップは概ね閉じており、残りギャップは0.1付近で、下位の順で皮質適応を記述する。 残るのが、周波数帯域のギャップで、ローエンドでは30年ほどになる。 この角は、二重層電極が機能するので空ではないが、その中のすべてのデバイスは離散的であり、そこでは積分可能な薄膜素子が特徴付けられていない。

関連論文リスト

• HEAT: Faster Fully Homomorphic Inference via Approximations-Weights Co-Adaptation [56.14416807766864]
  同型暗号化により、サーバは暗号化されたユーザープロンプト上で言語モデルを直接実行することができる。 既存のアプローチでは、各サイトのエラー許容度を調整するのではなく、モデル全体のイテレーションカウントを均一に修正する。 非線形反復回数を学習可能にする微調整法であるHAT(Hymomorphic Encryption-Aware Training)を導入する。
  論文  参考訳（メタデータ） (2026-09-01T18:02:02Z)
• Fast Weight Attention for Continual Learning [75.34672054079408]
  リカレント高速記憶と選択状態空間モデルは、拡張コンテキストを固定サイズのリカレント状態に圧縮する。 正則化された二乗誤差回帰と負の内積目標の1次更新を導出する。 我々は、数値的に安定な正のデカイ再正規化とともに、繰り返し、マスクパラレル、チャンクパラレル形式を提供する。
  論文  参考訳（メタデータ） (2026-08-27T22:55:11Z)
• Naju: A Native Discrete State-Space Model with Independent Retention and Writing for Long-Sequence Memory [7.4750926696730895]
  Najuはリカレント更新を、スキーマ的に$x_n = f_nodot x_n-1 + i_nodot(B_n u_n)$に分解する。 ナジュは、強い長距離メモリと競争力や優れたパフォーマンスを一貫して組み合わせている。
  論文  参考訳（メタデータ） (2026-07-23T07:34:07Z)
• Grokking Is Conditional and Fragile: A Fully-Tractable, Multi-Seed Study at 12K Parameters [0.0]
  グルーキングは単一の結果ではなく、マルチシードレートとして研究する。 この完全に牽引可能な状態グルーキングは条件付き、脆弱な相転移である。
  論文  参考訳（メタデータ） (2026-07-06T13:58:31Z)
• LongSpike: Fractional Order Spiking State Space Models for Efficient Long Sequence Learning [53.855185131868446]
  スパイキングニューラルネットワーク(SNN)は、シーケンシャルデータを処理する際の生物学的な妥当性とエネルギー効率を十分に考慮している。 本研究では,数次状態空間モデリングを統合した新しいSNNフレームワークであるLongSpikeを提案する。 従来の整数階数 SSM を分数計算系に拡張することにより、LongSpike は長いメモリカーネルとニューロンダイナミクスの階層的な統合を可能にする。
  論文  参考訳（メタデータ） (2026-06-11T04:54:07Z)
• Don't Read Everything: A Curvature-Conditioned Query for Linear Attention [42.02790959450039]
  リニアアテンションは、繰り返し発生する高速な状態を維持することでソフトマックスアテンションの二次コストを低減する。 既存のリメディエーションは、ゲーティング、デルタ更新、カーネル機能マップを通じて、メモリの書き込み側に作用する。 我々は、より安価なクエリの読み取り時間縮約を構築するために、Softmaxの幾何学の特定の部分を借りる。 このメカニズムを Curvature-Conditioned Query (CCQ) と呼ぶ。 S-NIAHはトレーニングコンテキストの前後でのパープレキシティ、ゼロショットダウンストリーム精度、S-NIAH検索、4Kから20Kまでの長さのパープレキシティ、Longを改善する
  論文  参考訳（メタデータ） (2026-05-31T15:25:42Z)
• On the Mirage of Long-Range Dependency, with an Application to Integer Multiplication [0.0]
  計算の乗算は長い間 ニューラルネットワークにとって難しい問題と考えられてきました 我々は、長距離依存は乗法の本質的な性質ではなく、時空の選択によって生成されるミラージュであると主張する。
  論文  参考訳（メタデータ） (2026-03-30T23:15:21Z)
• Gated KalmaNet: A Fading Memory Layer Through Test-Time Ridge Regression [53.48692193399171]
  Gated KalmaNet(GKA)は、次のトークンを予測する際に、すべての過去を説明することによってギャップを低減するレイヤである。 テスト時間におけるオンラインリッジ回帰問題を一定メモリと線形計算コストで解決する。 ロングコンテキストでは、GKAは現実世界のRAGタスクとLongQAタスクを最大128kトークンまで拡張し、他の薄型メモリベースラインよりも10ドル%以上の相対的な改善を実現している。
  論文  参考訳（メタデータ） (2025-11-26T03:26:37Z)
• On-the-Fly Adaptive Distillation of Transformer to Dual-State Linear Attention [53.22963042513293]
  大規模言語モデル(LLM)は、自己アテンションを通じてグローバルトークンの依存関係をキャプチャするが、長い入力に対する計算とメモリコストに直面する。 まず,二状態線形注意(Dual-state linear attention, A)を提案する。これは2つの隠れ状態を保持する設計であり,その1つは,リニアアテンションアーキテクチャの典型的な短距離バイアスを緩和し,リニアアテンションを追尾するものである。 本稿では,DSLA層を段階的に置き換えるオンライン適応蒸留フレームワークであるDSLA-Serveを紹介する。
  論文  参考訳（メタデータ） (2025-06-11T01:25:06Z)
• Near-continuous time Reinforcement Learning for continuous state-action spaces [3.5527561584422456]
  本研究では,未知の力学系を制御することによる強化学習の問題点を考察し,一つの軌道に沿った長期平均報酬を最大化する。 文献の多くは、離散時間と離散状態-作用空間で発生するシステム相互作用を考察している。 本稿では,サブタスク(学習と計画)を効果的に行うことができれば,有望なオプティミズムプロトコルが適用可能であることを示す。
  論文  参考訳（メタデータ） (2023-09-06T08:01:17Z)
• LongNet: Scaling Transformers to 1,000,000,000 Tokens [146.4077038371075]
  LongNetはTransformerの変種で、シーケンス長を10億以上のトークンに拡張できる。 我々の研究は、例えば、コーパス全体やインターネット全体をシーケンスとして扱うなど、非常に長いシーケンスをモデリングする新たな可能性を開く。
  論文  参考訳（メタデータ） (2023-07-05T17:59:38Z)
• Bridging Discrete and Backpropagation: Straight-Through and Beyond [62.46558842476455]
  本稿では,離散潜在変数の生成に関わるパラメータの勾配を近似する新しい手法を提案する。 本稿では,Hunの手法とODEを解くための2次数値法を統合することで,2次精度を実現するReinMaxを提案する。
  論文  参考訳（メタデータ） (2023-04-17T20:59:49Z)
• Zeroth-Order Algorithms for Smooth Saddle-Point Problems [117.44028458220427]
  ゼロオーダーのオラクルを用いてサドルポイント問題を解くアルゴリズムをいくつか提案する。 解析により、この項の収束率は、一階法よりも$log n$因子の方が悪いことが示されている。 また、混合構成を考慮し、その部分に対してゼロ階のオラクルを使用する1/2階法を開発する。
  論文  参考訳（メタデータ） (2020-09-21T14:26:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。