論文の概要: MSNN-LINet: Cross-Modal Learning via Continuous Linear Integration
- arxiv url: http://arxiv.org/abs/2606.31135v1
- Date: Tue, 30 Jun 2026 05:06:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.077062
- Title: MSNN-LINet: Cross-Modal Learning via Continuous Linear Integration
- Title(参考訳): MSNN-LINet: 継続的線形統合によるクロスモーダルラーニング
- Abstract要約: RGB-Dシーン分類のためのマルチストリームニューラルネットワーク(MSNN)LINetを提案する。
liconv2dオペレータは、各レイヤで連続的なクロスモーダル学習を可能にする。
LINetは、ResNet18スケールで45.2%の平均クラス精度に達し、非スクラッチ結果よりも優れ、ドメイン内RGB-D(ScanNet)事前トレーニングで49.6%向上した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present LINet (Linear Integration Network), a Multi-Stream Neural Network (MSNN) for RGB-D scene classification. Current multi-modal architectures treat feature fusion as a discrete, ad-hoc event: early fusion entangles representations prematurely, late fusion isolates them until the final layer, and hybrid or attention-based methods require architectural guesswork to place intermediate fusion blocks. LINet addresses this structural compromise by maintaining three dedicated parallel streams (RGB, depth, and integration) where a novel Linear Integration Convolution (LIConv2d) operator enables continuous cross-modal learning at every layer. The integration stream receives raw filtered signals from both modality streams and combines them before the nonlinear activation threshold, conceptually inspired by somatic integration preceding the neuronal firing decision. Implementing continuous integration exposes a critical initialization pathology: Kaiming initialization of the bridging weights scrambles gradients before they reach the stream backbones, producing a failure mode that resembles overfitting but is corrupted gradient flow. A 1/N constant initialization mitigates this. We employ progressive modality dropout, a curriculum adapted to continuous fusion in which blanking probability increases from zero, preventing pathway collapse, a form of negative co-learning, by forcing robust independent stream representations. Trained from scratch on SUN RGB-D 19-class scene classification, LINet reaches 45.2% mean class accuracy at ResNet18 scale, outperforming prior from-scratch results, and rises to 49.6% with in-domain RGB-D (ScanNet) pretraining.
- Abstract(参考訳): RGB-Dシーン分類のためのマルチストリームニューラルネットワーク(MSNN)であるLINet(Linear Integration Network)を提案する。
現在のマルチモーダルアーキテクチャでは、フィーチャーフュージョンを離散的でアドホックなイベントとして扱う:早期フュージョンエンタングルは早期に表現し、後期フュージョンは最終層までそれらを分離し、ハイブリッドまたはアテンションベースの手法は中間フュージョンブロックを配置するためにアーキテクチャの推測を必要とする。
LINetは、3つの専用並列ストリーム(RGB、深さ、統合)を維持することで、この構造上の妥協に対処する。
統合ストリームは、両モードストリームから生のフィルタリング信号を受信し、非線形アクティベーション閾値の前に結合する。
ブリッジウェイトの初期化は、ストリームバックボーンに到達する前にグラデーションをスクランブルし、オーバーフィッティングに似ているが、グラデーションフローの破損した障害モードを生成します。
1/N定数初期化は、これを緩和する。
我々は,ゼロから空白確率が増加し,負のコラーニングの形式である経路崩壊を防止し,頑健な独立ストリーム表現を強制する連続的融合に適応した漸進的モダリティ・ドロップアウト(Progressive modality dropout)を採用する。
SUN RGB-D 19クラスのシーン分類でスクラッチからトレーニングされたLINetは、ResNet18スケールで45.2%の平均クラス精度に達し、非スクラッチ結果よりも優れ、ドメイン内RGB-D(ScanNet)プリトレーニングで49.6%まで上昇した。
関連論文リスト
- Kernel Reboot: Breaking the Boundaries of Neural Tangent Kernels for Neural Fields [87.10527266147078]
スパース観測からニューラルネットワークを高速に再構築するための3つのアルゴリズムを開発した。
NTK-KIPは、有限のNTKが大きな欠損領域を塗ることができるように、蒸留された座標の支持セットを学習する。
MetaQuill-KIPは、KIPスタイルの非線形ウォームスタートでタスクをシードし、その小さなオフセットだけを洗練する。
このことは、NTK駆動のニューラルネットワークを非線形とメタ学習の両方にすることができることを示している。
論文 参考訳(メタデータ) (2026-09-02T19:53:32Z) - Rethinking Pixel Mean Flows via Interval Denoiser [95.11499828543344]
潜在自由生成のためのフレームワークであるInterval Denoiserを提案する。
その結果,FIDは1ステップ (1-NFE) で4.55, 2ステップ (2-NFE) で3.98であった。
論文 参考訳(メタデータ) (2026-08-05T13:22:43Z) - Current Injection Spiking Neural Network for Infrared and Visible Image Fusion [55.20584003351512]
赤外線および可視画像融合(IVIF)は、2つのモードの相補的な情報をよりリッチなシーン内容の単一の画像に統合する。
膜電位レベルで直接クロスモーダル核融合を行うスパイクネットワークであるCIS-Fuseを提案する。
4つのIVIFベンチマークと下流検出とセグメンテーションの実験により、CIS-Fuseは最先端のANN法と同等の核融合品質が得られることが示された。
論文 参考訳(メタデータ) (2026-07-22T08:10:02Z) - Layerwise Progressive Freezing: A Training Scaffold for Depth-Scalable Binary Networks [1.1516147824168732]
スクラッチからのバイナリニューラルネットワーク(BNN)のトレーニングは、ストレートスルー推定器(STE)が支配している
我々はStoMPPを導入し、クリップされた重みとアクティベーションを、入力から出力までの層ごとにハードバイナリの層に徐々に置き換える。
スタンドアロンのトレーニングルールとして、完全なSTEフリープロシージャを提供し、バニラSTEよりも深く成長するゲインを改善している。
論文 参考訳(メタデータ) (2026-06-26T06:37:57Z) - AeTHERON: Autoregressive Topology-aware Heterogeneous Graph Operator Network for Fluid-Structure Interaction [0.0]
AeTHERONは共有高次元潜在空間における非線形流体-構造結合を学習する。
AeTHERONは、大規模渦トポロジーとウェイク構造を定性的忠実度で捉えている。
推論には1つのGPUで1時間に1ミリ秒かかるが、同等のDNS計算では数時間かかる。
論文 参考訳(メタデータ) (2026-04-15T00:31:20Z) - Rethinking Vector Field Learning for Generative Segmentation [50.08025820235397]
生成的セグメンテーションのためのモデリング拡散モデルが注目されている。
ベクトル場学習の観点から拡散セグメンテーションを再考する。
本稿では,学習した消滅速度場を距離認識補正項で拡張するベクトル場再構成手法を提案する。
この補正は、誘引的相互作用と反発的相互作用の両方を導入し、元の拡散訓練フレームワークを保ちながら、セントロイド付近の勾配等級を増大させる。
論文 参考訳(メタデータ) (2026-03-19T17:58:19Z) - Diffusion As Self-Distillation: End-to-End Latent Diffusion In One Model [53.77953728335891]
ラテント拡散モデルは、独立したエンコーダ、デコーダ、拡散ネットワークからなる複雑な3部アーキテクチャに依存している。
本研究では,潜伏空間を安定化させる学習目標に重要な変更を加えた新たなフレームワークであるDeffusion as Self-Distillation (DSD)を提案する。
このアプローチにより、単一のネットワークの安定したエンドツーエンドトレーニングが初めて実現され、同時にエンコード、デコード、拡散の実行を学ぶことができる。
論文 参考訳(メタデータ) (2025-11-18T17:58:16Z) - NeRF-based CBCT Reconstruction needs Normalization and Initialization [53.58395475423445]
NeRFベースの手法は、ハッシュエンコーダとニューラルネットワークという2つの主要なコンポーネント間の局所的な訓練ミスマッチに悩まされる。
特徴整合性を高め、ミスマッチを緩和する正規化ハッシュを導入する。
ニューラルネットワークは早期トレーニング中に安定性が向上し、より高速な収束と再構築性能が向上する。
論文 参考訳(メタデータ) (2025-06-24T16:01:45Z) - SSRFlow: Semantic-aware Fusion with Spatial Temporal Re-embedding for Real-world Scene Flow [6.995663556921384]
シーンフローは、2つの連続する点雲から第1フレームの3次元運動場を提供する。
本稿では,2つのフレーム間の融合とアライメントのためのDCA(Dual Cross Attentive)という新しい手法を提案する。
我々は、新しいドメイン適応損失を利用して、合成から実世界への動き推論のギャップを効果的に橋渡しする。
論文 参考訳(メタデータ) (2024-07-31T02:28:40Z) - Self-Supervised Generative-Contrastive Learning of Multi-Modal Euclidean Input for 3D Shape Latent Representations: A Dynamic Switching Approach [53.376029341079054]
本稿では,3次元形状の潜在表現を学習するための,生成型とコントラスト型を組み合わせたニューラルアーキテクチャを提案する。
このアーキテクチャでは、2つのエンコーダブランチをボクセルグリッドと、同じ形状のマルチビューイメージに使用している。
論文 参考訳(メタデータ) (2023-01-11T18:14:24Z) - Implicit Bias in Leaky ReLU Networks Trained on High-Dimensional Data [63.34506218832164]
本研究では,ReLUを活性化した2層完全連結ニューラルネットワークにおける勾配流と勾配降下の暗黙的バイアスについて検討する。
勾配流には、均一なニューラルネットワークに対する暗黙のバイアスに関する最近の研究を活用し、リーク的に勾配流が2つ以上のランクを持つニューラルネットワークを生成することを示す。
勾配降下は, ランダムな分散が十分小さい場合, 勾配降下の1ステップでネットワークのランクが劇的に低下し, トレーニング中もランクが小さくなることを示す。
論文 参考訳(メタデータ) (2022-10-13T15:09:54Z) - Improved Overparametrization Bounds for Global Convergence of Stochastic
Gradient Descent for Shallow Neural Networks [1.14219428942199]
本研究では,1つの隠れ層フィードフォワードニューラルネットワークのクラスに対して,勾配降下アルゴリズムのグローバル収束に必要な過パラメトリゼーション境界について検討する。
論文 参考訳(メタデータ) (2022-01-28T11:30:06Z) - On the Explicit Role of Initialization on the Convergence and Implicit
Bias of Overparametrized Linear Networks [1.0323063834827415]
勾配流下で訓練された単層線形ネットワークの新たな解析法を提案する。
正方形損失はその最適値に指数関数的に収束することを示す。
我々は、トレーニングされたネットワークとmin-norm解の間の距離に基づいて、新しい非漸近上界を導出する。
論文 参考訳(メタデータ) (2021-05-13T15:13:51Z) - Learning to Hash with Graph Neural Networks for Recommender Systems [103.82479899868191]
グラフ表現学習は、大規模に高品質な候補探索をサポートすることに多くの注目を集めている。
ユーザ・イテム相互作用ネットワークにおけるオブジェクトの埋め込みベクトルの学習の有効性にもかかわらず、連続的な埋め込み空間におけるユーザの好みを推測する計算コストは膨大である。
連続的かつ離散的なコードとを協調的に学習するための,単純かつ効果的な離散表現学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-03-04T06:59:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。