論文の概要: Is Class Signal Clustered or Routed in Task-Induced Implicit Neural Representation Weight Spaces?
- arxiv url: http://arxiv.org/abs/2605.08281v1
- Date: Fri, 08 May 2026 07:32:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.52695
- Title: Is Class Signal Clustered or Routed in Task-Induced Implicit Neural Representation Weight Spaces?
- Title(参考訳): タスク誘発ニューラル表現重み空間におけるクラス信号のクラスタ化と経路化は可能か?
- Authors: Xinyi Guo, Mingyi He, Haobin Ding, Weiming Chen, Xinrui Chen, Jiawen Li, Di Zhang, Minxi Ouyang, Yizhi Wang, Xitong Ling,
- Abstract要約: 入射神経表現(INR)は、画像をニューラルネットワークの重みとしてエンコードし、画像分類を重み空間の分類可能性の問題にする。
我々は、分類器のフィードバックが共有アンカー座標のクラスごとに画像固有の重みをクラスタ化するべきであるという自然な幾何学的仮説を検証した。
重み空間幾何と教師付きクラスタリング圧力は、トレーニング済みリーダの精度を確実に追跡しない。
重み付きトークンのネイティブSIRENバイアス列を、トレーニングされた読者のための低次元のサンプル依存因果読み出し経路として同定する。
- 参考スコア(独自算出の注目度): 19.855923334395197
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Implicit neural representations (INRs) encode images as neural-network weights, making image classification a problem of weight-space classifiability. A natural geometric hypothesis is that classifier feedback should make image-specific weights cluster by class in the shared-anchor coordinate. We test this hypothesis in the SIREN-based Meta Weight Transformer (MWT) regime, where end-to-end training meta-learns a shared initialization and inner-loop update schedule for fitting image-specific SIRENs. We find that this prediction fails. Exposed weight-space geometry and supervised clustering pressure do not reliably track trained-reader accuracy; clustering can even make local neighborhoods more class-consistent while making the trained reader worse. Crucially, the reader constructs rather than inherits class-aligned geometry: token-flow diagnostics show that class-aligned neighborhoods become strongly predictive of trained-reader accuracy only after late reader interactions, not in the input coordinate. We further identify the native SIREN bias column in the augmented weight token as a low-dimensional, sample-dependent causal readout route for the trained reader; targeted controls rule out generic scalar-column and marginal-distribution artifacts. The diagnosis motivates interventions that strengthen reader routing, add an explicit bias route, or use denser inner-loop fitting; under the lane-specific training conventions used here, route-directed variants often outperform the shared-anchor baseline but interact non-additively. Task-induced INR weights are classifiable not because they form raw geometric clusters, but because their class signal is routed through the reader.
- Abstract(参考訳): 入射神経表現(INR)は、画像をニューラルネットワークの重みとしてエンコードし、画像分類を重み空間の分類可能性の問題にする。
自然な幾何学的仮説は、分類器のフィードバックは、共有アンカー座標のクラスごとに画像固有の重みをクラスタ化するべきであるというものである。
SIRENベースのMeta Weight Transformer(MWT)システムでは、画像固有のSIRENを適合させるために、エンドツーエンドのトレーニングメタラーナーが共有初期化およびインナーループ更新スケジュールを学習する。
この予測は失敗する。
露光した重量空間幾何学と教師付きクラスタリング圧力は、トレーニングされた読み出し精度を確実に追跡することができない。
トークンフロー診断は、入力座標ではなく、遅延読取者相互作用の後にのみ、クラス整列近傍がトレーニング読取者の精度を強く予測することを示している。
さらに,拡張重み付きトークンのネイティブSIRENバイアス列を,トレーニング対象読者の低次元サンプル依存因果読み出し経路として同定し,汎用スカラーカラムと限界分布アーティファクトを制御した。
この診断は、リードルーティングを強化したり、明示的なバイアスルートを追加したり、より密集したインナーループフィッティングを使用したりする介入を動機付けている。
タスク誘起INR重み付けは、生の幾何学的クラスタを形成するためではなく、そのクラス信号が読み手を通してルーティングされるため、分類可能である。
関連論文リスト
- ACD-U: Asymmetric co-teaching with machine unlearning for robust learning with noisy labels [2.0391237204597363]
深層ニューラルネットワークはトレーニング中に誤ったラベルを記憶する傾向があるため、一般化性が低下する。
本稿では、異なるモデルアーキテクチャを用いて機械学習を組み込んだ非対称なコティーチングフレームワークである、異なるアーキテクチャ(ACD)を用いた非対称コティーチングを提案する。
ACD-Uは2つのコアメカニズムを通じてこの制限に対処する。第一に、その非対称なコティーチングペアは、畳み込みニューラルネットワーク(CNN)を備えたコントラッシブ言語イメージ事前学習(CLIP)プリトレーニング(英語版))である。
第二に、選択的アンラーニングは、損失軌跡解析とCLIによる誤記憶標本の同定により、ホット後の誤り訂正を可能にする
論文 参考訳(メタデータ) (2026-03-07T12:13:14Z) - Exploiting Discriminative Codebook Prior for Autoregressive Image Generation [54.14166700058777]
トークンベースの自己回帰画像生成システムは、まずトークンインデックスのシーケンスをコードブックでトークン化し、次にこれらのシーケンスを自己回帰パラダイムでモデル化する。
自己回帰生成モデルはインデックス値のみに基づいて訓練されるが、豊富なトークン類似性情報を含むコードブックにエンコードされた前者は利用されない。
近年の研究では、トークン上に単純なk平均クラスタリングを行い、コードブックを減らした生成モデルのトレーニングを容易にすることで、これを先に組み込もうとしている。
k-meansの代替として、差別的コードブック先駆者(DCPE)を提案する。
論文 参考訳(メタデータ) (2025-08-14T15:00:00Z) - Find A Winning Sign: Sign Is All We Need to Win the Lottery [52.63674911541416]
既存のIP手法によって訓練されたスパースネットワークは,パラメータ記号と正規化層パラメータが保存されている場合,アトラクションの基盤を保持することができることを示す。
本手法により訓練されたスパースネットワークと正規化層パラメータとの線形経路における高い誤差障壁を防止し, 正規化層パラメータへの依存を緩和する。
論文 参考訳(メタデータ) (2025-04-07T09:30:38Z) - Prediction Calibration for Generalized Few-shot Semantic Segmentation [101.69940565204816]
汎用Few-shot Semantic (GFSS) は、各画像ピクセルを、豊富なトレーニング例を持つベースクラスか、クラスごとにわずかに(例: 1-5)のトレーニングイメージを持つ新しいクラスのいずれかに分割することを目的としている。
我々は、融合したマルチレベル機能を用いて、分類器の最終予測をガイドするクロスアテンションモジュールを構築する。
私たちのPCNは、最先端の代替品よりも大きなマージンで優れています。
論文 参考訳(メタデータ) (2022-10-15T13:30:12Z) - Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。
プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。
我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
論文 参考訳(メタデータ) (2021-10-22T01:55:01Z) - Adaptive Low-Rank Regularization with Damping Sequences to Restrict Lazy
Weights in Deep Networks [13.122543280692641]
本稿では,過適合の原因となる重み付け層のサブセットを検出し,重み付けは行列およびテンソル条件数によって認識する。
重み付け層のサブセットを低ランク因子化(LRF)に収束させる適応型低ランク法(ALR)を提案する。
実験の結果、ALRは訓練速度とリソース使用量の少ない深層ネットワークをよく正規化していることがわかった。
論文 参考訳(メタデータ) (2021-06-17T17:28:14Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳(メタデータ) (2021-05-30T22:07:13Z) - Cherry-Picking Gradients: Learning Low-Rank Embeddings of Visual Data
via Differentiable Cross-Approximation [53.95297550117153]
本稿では,大規模な視覚データテンソルの処理を行うエンドツーエンドのトレーニング可能なフレームワークを提案する。
提案手法は大規模多次元グリッドデータや,大規模受容領域上のコンテキストを必要とするタスクに特に有用である。
論文 参考訳(メタデータ) (2021-05-29T08:39:57Z) - Computing the Information Content of Trained Neural Networks [46.34988166338264]
トレーニングデータよりも重みを持つニューラルネットワークは、まだ一般化しているのだろうか?
本論文では,無限に広がったニューラルネットワークの情報内容に対する整合性推定器と閉形式上界の両方を導出する。
論文 参考訳(メタデータ) (2021-03-01T14:38:25Z) - Improving Generalization by Controlling Label-Noise Information in
Neural Network Weights [33.85101318266319]
ノイズや誤ったラベルが存在する場合、ニューラルネットワークはノイズに関する情報を記憶する好ましくない傾向にある。
ドロップアウト、ウェイト崩壊、データ増大といった標準的な正則化技術は、時折役立つが、そのような振舞いを防げない。
任意のトレーニングアルゴリズムに対して、この項の低値はラベルノイズの記憶の減少とより良い境界の減少に対応していることを示す。
論文 参考訳(メタデータ) (2020-02-19T00:08:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。