論文の概要: K-Inverse-RFM: A Modified RFM that Bridges the Gap to Neural Networks for Data-Corrupted Mathematical Tasks

• arxiv url: http://arxiv.org/abs/2607.00329v1
• Date: Wed, 01 Jul 2026 02:08:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.681118
• Title: K-Inverse-RFM: A Modified RFM that Bridges the Gap to Neural Networks for Data-Corrupted Mathematical Tasks
• Title（参考訳）: K-Inverse-RFM:データ計算処理のためのニューラルネットワークへのギャップを橋渡しする改良RAM
• Abstract要約: Recursive Feature Machines (RFM) は、Average Gradient Outer Product (AGOP) を機能学習のメカニズムとして利用するカーネルマシンである。 RFMは、特定のデータ破壊シナリオにおいて、ニューラルネットワークよりも著しく低い性能を示す。 本稿では,雑音,複雑に表現されたデータ,およびクラス不均衡なデータの学習を促進する訓練ラベルに適用した,極めて効果的な変換を提案する。
• 参考スコア（独自算出の注目度）: 0.16921396880325779
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recursive Feature Machines (RFMs) are a class of kernel machines that utilize the Average Gradient Outer Product (AGOP) as a mechanism for feature learning. They have been shown to effectively replicate the learning dynamics and feature representations of Feedforward Neural Networks (FNNs) across various settings. However, despite comparable capacity for feature learning and the similarities in the features they acquire, RFMs exhibit significantly lower performance than neural networks in certain data-corrupted scenarios. In this work, we investigate these limitations in mathematical problems. As a solution, we introduce a remarkably effective transformation applied to the training labels which promotes learning in noisy, complexly represented, and class-imbalanced data. This simple yet powerful adjustment enables RFMs to close the performance gap with FNNs and, in some cases, even surpass them.
• Abstract（参考訳）: Recursive Feature Machines (RFMs) は、Average Gradient Outer Product (AGOP) を機能学習のメカニズムとして利用するカーネルマシンのクラスである。 フィードフォワードニューラルネットワーク(FNN)の学習力学と特徴表現を、さまざまな設定で効果的に再現することが示されている。 しかしながら、機能学習の能力に匹敵する能力と、彼らが獲得した機能の類似性にもかかわらず、RAMは特定のデータ破損シナリオにおいて、ニューラルネットワークよりも大幅にパフォーマンスが低下する。 本研究では,数理問題におけるこれらの限界について検討する。 そこで本研究では,雑音,複雑に表現されたデータ,およびクラス不均衡なデータの学習を促進するトレーニングラベルに適用した,極めて効果的な変換を提案する。 このシンプルで強力な調整により、RAMはFNNのパフォーマンスギャップを埋めることができ、場合によってはそれを超えることもある。

関連論文リスト

• Self-Supervised Learning via Flow-Guided Neural Operator on Time-Series Data [57.85958428020496]
  Flow-Guided Neural Operator (FGNO)は、演算子学習とフローマッチングを組み合わせた新しいフレームワークである。 FGNOは、短時間フーリエ変換を用いて関数空間のマッピングを学習し、異なる時間分解能を統一する。 推論中にノイズのある入力を使用する以前の生成SSL法とは異なり、ノイズのある表現を学習しながら、クリーンな入力を用いて表現抽出を行う。
  論文  参考訳（メタデータ） (2026-02-12T18:54:57Z)
• The Features at Convergence Theorem: a first-principles alternative to the Neural Feature Ansatz for how networks learn representations [16.67524623230699]
  主要なアプローチはニューラル・フィーチャー・アンザッツ(NFA)である。 NFAは経験的に検証されているが、教育された推測であり、理論的な基礎が欠落している。 我々は、この観察がなぜ、いつ、そうでないのかを理解するために、第一原理のアプローチをとる。
  論文  参考訳（メタデータ） (2025-07-08T03:52:48Z)
• Neural Reasoning Networks: Efficient Interpretable Neural Networks With Automatic Textual Explanations [45.974930902038494]
  本稿では,新しいニューラルシンボリックアーキテクチャであるニューラル推論ネットワーク(NRN)を提案する。 トレーニングアルゴリズム(R-NRN)は、バックプロップによる降下最適化を用いて、通常通りネットワークの重みを学習するが、また、帯域ベース最適化を用いてネットワーク構造自体を学習する。 R-NRNの説明は、比較したアプローチよりも短いが、より正確な特徴重要度スコアを生成する。
  論文  参考訳（メタデータ） (2024-10-10T14:27:12Z)
• Emergence in non-neural models: grokking modular arithmetic via average gradient outer product [16.911836722312152]
  グラッキングはニューラルネットワークや勾配降下に基づく最適化に特有ではないことを示す。 この現象はRecursive Feature Machinesを用いてモジュラー算術を学習する際に発生する。 この結果から,タスク関連の特徴を学習することで,創発が純粋に引き起こされることが示された。
  論文  参考訳（メタデータ） (2024-07-29T17:28:58Z)
• Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
  レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。 LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。 提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
  論文  参考訳（メタデータ） (2023-08-23T10:48:28Z)
• On Feature Scaling of Recursive Feature Machines [0.0]
  再帰的特徴機械(RFM)の挙動について検討する RFMは平均外積勾配によって特徴を学習する。 平均正方形誤差(MSE)曲線の興味あるパターンをMSE試験で観察し, 増加・減少パターンを示した。
  論文  参考訳（メタデータ） (2023-03-28T06:00:41Z)
• Inducing Gaussian Process Networks [80.40892394020797]
  本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。 特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。 実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
  論文  参考訳（メタデータ） (2022-04-21T05:27:09Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Rank-R FNN: A Tensor-Based Learning Model for High-Order Data Classification [69.26747803963907]
  Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。 まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。 Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
  論文  参考訳（メタデータ） (2021-04-11T16:37:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。