論文の概要: C3RL: Rethinking the Combination of Channel-independence and Channel-mixing from Representation Learning
- arxiv url: http://arxiv.org/abs/2507.17454v1
- Date: Wed, 23 Jul 2025 12:21:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-24 22:33:14.985986
- Title: C3RL: Rethinking the Combination of Channel-independence and Channel-mixing from Representation Learning
- Title(参考訳): C3RL:表現学習からのチャネル独立性とチャネル混合の組合せを再考する
- Authors: Shusen Ma, Yun-Bo Zhao, Yu Kang,
- Abstract要約: C3RLは,CMとCIの両戦略を共同でモデル化する新しい表現学習フレームワークである。
コンピュータビジョンにおける対照的な学習によって動機づけられたC3RLは、2つの戦略の入力を変換ビューとして扱う。
実験の結果、C3RLはCI戦略に基づくモデルでは81.4%、CM戦略に基づくモデルでは76.3%に、ベストケースのパフォーマンスは81.4%に向上した。
- 参考スコア(独自算出の注目度): 6.721469202640282
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multivariate time series forecasting has drawn increasing attention due to its practical importance. Existing approaches typically adopt either channel-mixing (CM) or channel-independence (CI) strategies. CM strategy can capture inter-variable dependencies but fails to discern variable-specific temporal patterns. CI strategy improves this aspect but fails to fully exploit cross-variable dependencies like CM. Hybrid strategies based on feature fusion offer limited generalization and interpretability. To address these issues, we propose C3RL, a novel representation learning framework that jointly models both CM and CI strategies. Motivated by contrastive learning in computer vision, C3RL treats the inputs of the two strategies as transposed views and builds a siamese network architecture: one strategy serves as the backbone, while the other complements it. By jointly optimizing contrastive and prediction losses with adaptive weighting, C3RL balances representation and forecasting performance. Extensive experiments on seven models show that C3RL boosts the best-case performance rate to 81.4\% for models based on CI strategy and to 76.3\% for models based on CM strategy, demonstrating strong generalization and effectiveness. The code will be available once the paper is accepted.
- Abstract(参考訳): 多変量時系列予測は実用的重要性から注目を集めている。
既存のアプローチは通常、チャネル混合(CM)またはチャネル独立(CI)戦略を採用する。
CM戦略は、変数間の依存関係をキャプチャできるが、変数固有の時間パターンを識別できない。
CI戦略はこの点を改善するが、CMのようなクロス変数の依存関係を完全に活用できない。
特徴融合に基づくハイブリッド戦略は、限定的な一般化と解釈可能性を提供する。
これらの課題に対処するため,CMとCIの両戦略を共同でモデル化する新しい表現学習フレームワークであるC3RLを提案する。
コンピュータビジョンにおける対照的な学習によって動機づけられたC3RLは、2つの戦略の入力を変換ビューとして扱い、1つの戦略がバックボーンとして機能し、もう1つの戦略がそれを補完する。
適応重み付けによるコントラストと予測損失を共同最適化することにより、C3RLは表現と予測性能のバランスをとる。
C3RLはCI戦略に基づくモデルでは81.4\%、CM戦略に基づくモデルでは76.3\%となり、強力な一般化と有効性を示す。
論文が受理されれば、コードは利用可能になる。
関連論文リスト
- WSM: Decay-Free Learning Rate Schedule via Checkpoint Merging for LLM Pre-training [64.0932926819307]
本稿では,学習速度減衰とモデルマージの正式な関係を確立するフレームワークであるWarmup-Stable and Merge(WSM)を紹介する。
WSMは様々な崩壊戦略をエミュレートするための統一された理論基盤を提供する。
私たちのフレームワークは、複数のベンチマークで広く採用されているWarmup-Stable-Decay(WSD)アプローチよりも一貫して優れています。
論文 参考訳(メタデータ) (2025-07-23T16:02:06Z) - Interpretable Few-Shot Image Classification via Prototypical Concept-Guided Mixture of LoRA Experts [79.18608192761512]
自己説明可能なモデル(SEM)は、視覚認識プロセスをより解釈可能なものにするために、プロトタイプ概念学習(PCL)に依存している。
パラメトリック不均衡と表現の不整合という2つの重要な課題を緩和するFew-Shotプロトタイプ概念分類フレームワークを提案する。
我々のアプローチは、既存のSEMを顕著な差で常に上回っており、5-way 5-shot分類では4.2%-8.7%の相対的な利得がある。
論文 参考訳(メタデータ) (2025-06-05T06:39:43Z) - ReAgent-V: A Reward-Driven Multi-Agent Framework for Video Understanding [71.654781631463]
ReAgent-Vは、新しいエージェントビデオ理解フレームワークである。
推論中に効率の良いフレーム選択とリアルタイムの報酬生成を統合する。
12のデータセットに対する大規模な実験は、一般化と推論において大きな成果を上げている。
論文 参考訳(メタデータ) (2025-06-02T04:23:21Z) - Activation-Guided Consensus Merging for Large Language Models [25.68958388022476]
textbfActivation-Guided textbfConsensus textbfMerging(textbfACM)は,層固有のマージ係数を決定するプラグインとプレイのマージフレームワークである。
L2S(Long-to-Short)と一般的なマージタスクの実験は、ACMが全てのベースラインメソッドを一貫して上回ることを示した。
論文 参考訳(メタデータ) (2025-05-20T07:04:01Z) - TimeCHEAT: A Channel Harmony Strategy for Irregularly Sampled Multivariate Time Series Analysis [45.34420094525063]
チャネル非依存(CI)とチャネル依存(CD)戦略は、ローカルおよびグローバルに適用することができる。
本稿では,Channel Harmony ISMTS Transformer(TimeCHEAT)を紹介する。
グローバルに、CI戦略はパッチを越えて適用され、Transformerは各チャネルの個別の注意パターンを学ぶことができる。
実験の結果,提案するTimeCHEATは,3つのメインストリームタスクにまたがる競合SOTA性能を示すことがわかった。
論文 参考訳(メタデータ) (2024-12-17T13:10:02Z) - Channel-Aware Low-Rank Adaptation in Time Series Forecasting [43.684035409535696]
2つの代表的なチャネル戦略は、モデル表現性とロバスト性に密接に関連している。
本稿では,チャネル対応の低ランク適応手法を,アイデンティティ対応の個別コンポーネント上での条件付きCDモデルに適用する。
論文 参考訳(メタデータ) (2024-07-24T13:05:17Z) - From Similarity to Superiority: Channel Clustering for Time Series Forecasting [61.96777031937871]
CCM(Channel Clustering Module)を開発した。
CCMは、固有の類似性を特徴とするチャネルを動的にグループ化し、個々のチャネルのアイデンティティの代わりにクラスタ情報を活用する。
CCMは、CIモデルとCDモデルのパフォーマンスを、それぞれ長期および短期の予測において平均利率2.4%と7.2%で向上させることができる。
論文 参考訳(メタデータ) (2024-03-31T02:46:27Z) - MCformer: Multivariate Time Series Forecasting with Mixed-Channels Transformer [8.329947472853029]
Channel Independence(CI)戦略は、すべてのチャネルを単一のチャネルとして扱い、データセットを拡張する。
Mixed Channels戦略は、CI戦略のデータ拡張アドバンテージと、チャネル間の相関を忘れないように対処する機能を組み合わせたものだ。
モデルは特定の数のチャネルをブレンドし、チャネル間の相関情報を効果的に取得するための注意機構を活用する。
論文 参考訳(メタデータ) (2024-03-14T09:43:07Z) - Unleashing Network Potentials for Semantic Scene Completion [50.95486458217653]
本稿では,新しいSSCフレームワーク - Adrial Modality Modulation Network (AMMNet)を提案する。
AMMNetは、モダリティ間の勾配流の相互依存性を可能にするクロスモーダル変調と、動的勾配競争を利用するカスタマイズされた逆トレーニングスキームの2つのコアモジュールを導入している。
AMMNetは最先端のSSC法よりも大きなマージンで優れていた。
論文 参考訳(メタデータ) (2024-03-12T11:48:49Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳(メタデータ) (2023-04-11T13:15:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。