論文の概要: Beyond Quadratic: Linear-Time Change Detection with RWKV
- arxiv url: http://arxiv.org/abs/2603.19606v1
- Date: Fri, 20 Mar 2026 03:23:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 19:48:38.966427
- Title: Beyond Quadratic: Linear-Time Change Detection with RWKV
- Title(参考訳): RWKVを用いた2次方向の線形時間変化検出
- Abstract要約: ChangeRWKVは、リモートセンシングによる変更検出のための新しいアーキテクチャである。
トランスフォーマーの並列化可能なトレーニングとRNNの線形時間推論を組み合わせる。
LEVIR-CDベンチマークでは85.46%のIoUと92.16%のF1スコアで最先端のパフォーマンスを達成した。
- 参考スコア(独自算出の注目度): 48.3313296326424
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing paradigms for remote sensing change detection are caught in a trade-off: CNNs excel at efficiency but lack global context, while Transformers capture long-range dependencies at a prohibitive computational cost. This paper introduces ChangeRWKV, a new architecture that reconciles this conflict. By building upon the Receptance Weighted Key Value (RWKV) framework, our ChangeRWKV uniquely combines the parallelizable training of Transformers with the linear-time inference of RNNs. Our approach core features two key innovations: a hierarchical RWKV encoder that builds multi-resolution feature representation, and a novel Spatial-Temporal Fusion Module (STFM) engineered to resolve spatial misalignments across scales while distilling fine-grained temporal discrepancies. ChangeRWKV not only achieves state-of-the-art performance on the LEVIR-CD benchmark, with an 85.46% IoU and 92.16% F1 score, but does so while drastically reducing parameters and FLOPs compared to previous leading methods. This work demonstrates a new, efficient, and powerful paradigm for operational-scale change detection. Our code and model are publicly available.
- Abstract(参考訳): CNNは効率が優れているが、グローバルなコンテキストが欠如しているのに対して、Transformerは計算コストの禁止によって、長距離依存関係をキャプチャする。
本稿では、この対立を和らげる新しいアーキテクチャであるChangeRWKVを紹介する。
Receptance Weighted Key Value (RWKV) フレームワークを基盤として,我々のChangeRWKVはトランスフォーマーの並列化可能なトレーニングとRNNの線形時間推論を一意に組み合わせている。
提案手法は,マルチレゾリューション特徴表現を構築する階層的RWKVエンコーダと,微細な時間的不一致を蒸留しながら空間的不整合を解決するために設計された新しい時空間融合モジュール(STFM)である。
ChangeRWKVは、LIVIR-CDベンチマークで85.46%のIoUと92.16%のF1スコアで最先端のパフォーマンスを達成するだけでなく、従来の先行手法と比較してパラメータとFLOPを大幅に削減した。
この研究は、運用規模の変更検出のための、新しい、効率的で強力なパラダイムを示します。
私たちのコードとモデルは公開されています。
関連論文リスト
- TRaM-VSR: Importance-Aware Token Routing and Merging for One-Step Diffusion Video Super-Resolution [52.96050253456634]
TRaM-VSRは、コンテキスト対応のビデオプリエントとネットワークレベルを用いた適応トークンアロケーションのためのフレームワークである。
その結果、TRaM-VSRは、最先端の復元品質と頑健な時間的整合性を維持しつつ、推論を著しく加速することがわかった。
論文 参考訳(メタデータ) (2026-07-24T11:57:26Z) - Efficient RWKV-based Representation Learning for 3D Point Clouds [53.911842457391636]
textbfP-RWKVブロックは、シーケンスモデリングと不規則な3次元幾何学の間のギャップを埋める。
P-RWKVブロックとそのキーサブモジュールは、計算コストと推論遅延の少ない様々なタスクで競合性能を達成する。
論文 参考訳(メタデータ) (2026-06-09T04:16:39Z) - LiteVSR: Lightweight Adaptation of Frozen Diffusion Transformers for Video Super-Resolution [73.85089704122315]
軽量な状態認識適応器を備えた冷凍トランスフォーマーを用いて,ビデオ超解法(VSR)を実現するミニマリストフレームワークを提案する。
LiteVSRは、たった11.25%のトレーニング可能なパラメータと1つのA100での12GPU時間のトレーニングで競争力のある復元品質を実現し、高速サンプリング(単一ステップまで)の互換性を維持している。
論文 参考訳(メタデータ) (2026-06-08T09:23:42Z) - VARestorer: One-Step VAR Distillation for Real-World Image Super-Resolution [76.19751531910039]
本稿では,事前学習したテキストから画像へのVARモデルを,ワンステップのISRモデルに変換するフレームワークであるVARestorerを提案する。
VARestorerは、DIV2Kデータセット上で72.32 MUSIQと0.7669 CLIPIQAで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-04-23T09:09:36Z) - RWKV-UNet: Improving UNet with Long-Range Cooperation for Effective Medical Image Segmentation [70.79072961974141]
本稿では,RWKV構造をU-Netアーキテクチャに統合する新しいモデルであるRWKV-UNetを提案する。
この統合により、長い範囲の依存関係をキャプチャし、コンテキスト理解を改善するモデルの能力が向上する。
11のベンチマークデータセットの実験により、RWKV-UNetは様々なタイプの医用画像セグメンテーションタスクで最先端のパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2025-01-14T22:03:00Z) - Exploring Real&Synthetic Dataset and Linear Attention in Image Restoration [47.26304397935705]
画像復元は、劣化した入力から高品質な画像を復元することを目的としている。
既存のメソッドにはイテレーションと設定のための統一的なトレーニングベンチマークがない。
本稿では,画像複雑性に基づいた新しい画像フィルタリング手法であるReSynという大規模IRデータセットを提案する。
論文 参考訳(メタデータ) (2024-12-05T02:11:51Z) - RRWKV: Capturing Long-range Dependencies in RWKV [0.0]
本稿では、RWKVにレトロスペクション機能を組み込むことで、効率的に情報を吸収することで、Retrospected Receptance Weighted Key Valueアーキテクチャを考案する。
RWKVは、線形にテンソル積の注意機構を利用して、時間列モードをデプロイすることで並列化された計算を実現している。
論文 参考訳(メタデータ) (2023-06-08T13:17:06Z) - RWKV: Reinventing RNNs for the Transformer Era [54.716108899349614]
本稿では,変換器の効率的な並列化学習とRNNの効率的な推論を組み合わせた新しいモデルアーキテクチャを提案する。
モデルを最大14億のパラメータにスケールし、トレーニングされたRNNの中では最大で、同じサイズのTransformerと同等のRWKVのパフォーマンスを実現しています。
論文 参考訳(メタデータ) (2023-05-22T13:57:41Z) - Efficient Image Super-Resolution with Feature Interaction Weighted Hybrid Network [101.53907377000445]
軽量画像超解像は、低解像度画像から低計算コストで高解像度画像を再構成することを目的としている。
既存の方法では、活性化関数による中間層の特徴が失われる。
本稿では,中間的特徴損失が再構成品質に与える影響を最小限に抑えるために,特徴相互作用重み付きハイブリッドネットワーク(FIWHN)を提案する。
論文 参考訳(メタデータ) (2022-12-29T05:57:29Z) - Magic ELF: Image Deraining Meets Association Learning and Transformer [63.761812092934576]
本稿では,CNN と Transformer を統合化して,画像デライニングにおける学習のメリットを活用することを目的とする。
降雨除去と背景復旧を関連づける新しいマルチインプット・アテンション・モジュール (MAM) を提案する。
提案手法(ELF)は,最先端手法(MPRNet)を平均0.25dB向上させる。
論文 参考訳(メタデータ) (2022-07-21T12:50:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。