論文の概要: Weight-Space Mixture-of-Experts for Implicit Neural Representation Classification

• arxiv url: http://arxiv.org/abs/2607.29463v1
• Date: Fri, 31 Jul 2026 14:28:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 16:35:22.246457
• Title: Weight-Space Mixture-of-Experts for Implicit Neural Representation Classification
• Title（参考訳）: 暗黙的ニューラル表現分類のための重み付き混合実験
• Authors: Stanislaw Janik, Michal Byra,
• Abstract要約: Inlicit Neural Representation (INR)は、座標ベースのニューラルネットワークの重みとして信号を符号化する。 将来性はあるものの、INRパラメータの高次元と複雑な構造のため、重量空間における直接の分類は難しいままである。 本稿では,INR重み処理を行う階層型Mixture-of-Experts(HMoE)変換器を提案する。
• 参考スコア（独自算出の注目度）: 0.20625936401496228
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Implicit Neural Representations (INRs) encode signals as the weights of a coordinate-based neural network and have recently been proposed as an alternative domain for downstream learning. While promising, classification directly in weight space remains challenging due to the high dimensionality and complex structure of INR parameters. Furthermore, the way discriminative information is distributed across INR weights remains poorly understood. We propose a hierarchical Mixture-of-Experts (HMoE) Transformer that processes INR weights using conditional computation aligned with the structure of the underlying implicit network. Coupled with a meta-learning framework that shapes INR parameters for downstream tasks, our model achieves state-of-the-art accuracy across standard benchmarks, ranging from low-resolution datasets to high-resolution ImageNet-1K. To gain insight into how INRs encode discriminative information, we develop weight-space attribution and pruning methods that identify parameters most relevant for classification. These analyses reveal how class-specific structure emerges within INR layers and support the suitability of MoE architectures for weight-space learning. Our approach advances both the performance and interpretability of weight-space classifiers.
• Abstract（参考訳）: Inlicit Neural Representation (INR)は、座標ベースのニューラルネットワークの重みとして信号を符号化し、最近下流学習の代替ドメインとして提案されている。 将来性はあるものの、INRパラメータの高次元と複雑な構造のため、重量空間における直接の分類は難しいままである。 さらに、INR重みにまたがる識別情報が分散される方法については、いまだに理解されていない。 InR重み処理を行う階層型混合演算器(HMoE)を提案する。 下流タスクのINRパラメータを形作るメタラーニングフレームワークと組み合わせて、私たちのモデルは、低解像度データセットから高解像度の画像Net-1Kまで、標準ベンチマーク全体にわたって最先端の精度を達成する。 InRが識別情報をエンコードする方法についての知見を得るため、我々は、分類に最も関係のあるパラメータを識別する重み空間属性とプルーニング法を開発した。 これらの分析により、INR層内でクラス固有の構造がどのように出現し、重み空間学習のためのMoEアーキテクチャの適合性をサポートすることが明らかになった。 本手法は,重み空間分類器の性能と解釈可能性の両立を図っている。

関連論文リスト

• Compositional Sparsity as an Inductive Bias for Neural Architecture Design [35.06894725394093]
  我々は、ディープニューラルネットワークが次元の呪いを克服できる構造的先行性を特定する。 本稿では,階層的な構成によって抽象化が生じる解釈可能なパイプラインを提案する。 現実世界のデータセットの幅広いスイートの中で、HNNは、はるかに少ないパラメータを使用しながら、常に密なベースラインにマッチまたは性能を向上する。
  論文  参考訳（メタデータ） (2026-05-14T12:26:50Z)
• Ensuring Semantics in Weights of Implicit Neural Representations through the Implicit Function Theorem [4.650983048077127]
  Inlicit Neural Representation (INR)は、軽量空間学習(WSL)のための便利なテストベッドを提供する 我々は、データ空間とその潜在重み表現空間の間の厳密なマッピングを確立するために、IFT(Implicit Function Theorem)をデプロイする。 我々は、インスタンス固有の埋め込みを共有ハイパーネットワークを介してINR重みにマッピングするフレームワークを分析する。
  論文  参考訳（メタデータ） (2026-01-30T17:05:37Z)
• Interpretability of the Intent Detection Problem: A New Approach [0.0]
  リカレントニューラルネットワークが意図検出タスクを解くための内部メカニズムは理解されていない。 動的システム理論を用いて、RNNアーキテクチャがこの問題にどのように対処するかを分析する。 我々のフレームワークは、読み出しアライメントから幾何学的分離を分離し、実世界の性能格差に対する新しいメカニスティックな説明を提供する。
  論文  参考訳（メタデータ） (2026-01-23T20:27:47Z)
• Knowledge-Informed Neural Network for Complex-Valued SAR Image Recognition [51.03674130115878]
  本稿では,新しい「圧縮集約圧縮」アーキテクチャ上に構築された軽量なフレームワークであるKnowledge-Informed Neural Network(KINN)を紹介する。 KINNはパラメータ効率の認識における最先端を確立し、データスカースとアウト・オブ・ディストリビューションのシナリオにおいて例外的な一般化を提供する。
  論文  参考訳（メタデータ） (2025-10-23T07:12:26Z)
• Detail Across Scales: Multi-Scale Enhancement for Full Spectrum Neural Representations [4.899720537787801]
  Inlicit Neural representations (INR) は、離散配列ベースのデータ表現に代わるコンパクトでパラメトリックな代替品として登場した。 本稿では,ウェーブレットをインフォームした暗黙的ニューラル表現であるWIEN-INRを提案する。 WIEN-INRは,コンパクトなモデルサイズを維持しながら,より優れた再現性を実現する。
  論文  参考訳（メタデータ） (2025-09-19T00:15:39Z)
• SINR: Sparsity Driven Compressed Implicit Neural Representations [25.489983863030556]
  Inlicit Neural Representation (INR) は、識別された信号を表現するための汎用データモダリティとして、ますます認識されている。 INRの既存の信号圧縮アプローチは、2つの戦略の1つである。 InRの重みによって形成されるベクトル空間のパターンを利用する,革新的な圧縮アルゴリズムであるSINRを導入する。
  論文  参考訳（メタデータ） (2025-03-25T11:53:51Z)
• End-to-End Implicit Neural Representations for Classification [57.55927378696826]
  Inlicit Neural representations (INRs) は、ニューラルネットワークパラメータの信号を符号化し、信号再構成に優れた結果を示す。 INRをベースとした分類は、CNNのようなピクセルベースの手法に比べて、依然としてかなり低性能である。 本研究は,SIRENを学習段階のスキームとともに初期化するエンド・ツー・エンドの戦略を提案する。
  論文  参考訳（メタデータ） (2025-03-23T16:02:23Z)
• ARC: Anchored Representation Clouds for High-Resolution INR Classification [49.11170948406405]
  暗黙的な神経表現は、ニューラルネットワークの重みの信号をメモリ効率の表現としてエンコードする。 現在のINR画像分類法は画像空間変換に敏感である。 我々はARC: Anchored Representation Cloudsを提案する。これは画像空間内の潜在ベクトルを局所的にアンカーする新しいINRアーキテクチャである。
  論文  参考訳（メタデータ） (2025-03-19T12:24:29Z)
• Signal Processing for Implicit Neural Representations [80.38097216996164]
  Inlicit Neural Representation (INR)は、マルチ層パーセプトロンを介して連続したマルチメディアデータを符号化する。 既存の作業は、その離散化されたインスタンスの処理を通じて、そのような連続的な表現を操作する。 本稿では,INSP-Netと呼ばれる暗黙的ニューラル信号処理ネットワークを提案する。
  論文  参考訳（メタデータ） (2022-10-17T06:29:07Z)
• Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for sparse recover [87.28082715343896]
  我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。 我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。 提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
  論文  参考訳（メタデータ） (2021-10-20T06:15:45Z)
• A Fully Tensorized Recurrent Neural Network [48.50376453324581]
  重み付けされたRNNアーキテクチャを導入し、各リカレントセル内の個別の重み付け行列を共同で符号化する。 このアプローチはモデルのサイズを数桁削減するが、通常のRNNと同等あるいは優れた性能を維持している。
  論文  参考訳（メタデータ） (2020-10-08T18:24:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。