論文の概要: ZAYAN: Disentangled Contrastive Transformer for Tabular Remote Sensing Data
- arxiv url: http://arxiv.org/abs/2604.27606v1
- Date: Thu, 30 Apr 2026 08:58:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 16:31:54.007908
- Title: ZAYAN: Disentangled Contrastive Transformer for Tabular Remote Sensing Data
- Title(参考訳): ZAYAN: タブラルリモートセンシングデータのための異方性コントラスト変換器
- Authors: Al Zadid Sultan Bin Habib, Tanpia Tasnim, Md. Ekramul Islam, Muntasir Tabasum,
- Abstract要約: ZAYAN(Zero-Anchor dYnamic feature eNcoding)は、表データのための自己教師付き特徴中心のコントラスト型フレームワークである。
サンプルレベルではなく機能で対照的な学習を行い、明示的なアンカー選択の必要性を取り除く。
8つのデータセットにおいて、ディープラーニングベースラインよりも優れた精度、堅牢性、一般化を実現する。
- 参考スコア(独自算出の注目度): 0.6515143347794391
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning informative representations from tabular data in remote sensing and environmental science is challenging due to heterogeneity, scarce labels, and redundancy among features. We present ZAYAN (Zero-Anchor dYnamic feAture eNcoding), a self-supervised, feature-centric contrastive framework for tabular data. ZAYAN performs contrastive learning at the feature rather than sample level, removing the need for explicit anchor selection and any reliance on class labels, while encouraging a redundancy-minimized, disentangled embedding space. The framework has two modules: ZAYAN-CL, which pretrains feature embeddings via a zero-anchor contrastive objective with dynamic perturbations and masking, and ZAYAN-T, a Transformer that conditions on these embeddings for downstream classification. Across eight datasets, including six remote-sensing tabular benchmarks and two remote-sensing-driven flood-prediction tables from satellite and GIS products, ZAYAN achieves superior accuracy, robustness, and generalization over tabular deep learning baselines, with consistent gains under label scarcity and distribution shift. These results indicate that feature-level contrastive learning and dynamic feature encoding provide an effective recipe for learning from tabular sensing data.
- Abstract(参考訳): リモートセンシングおよび環境科学における表層データからの情報表現の学習は,特徴間の不均一性,ラベルの不足,冗長性により困難である。
本稿では,ZAYAN(Zero-Anchor dYnamic feature eNcoding)について述べる。
ZAYANは、サンプルレベルではなく、機能を対照的に学習し、明示的なアンカー選択とクラスラベルへの依存を排除し、冗長性を最小化し、アンカーをアンカーに含まない埋め込みスペースを奨励する。
フレームワークには2つのモジュールがある。ZAYAN-CLは、動的摂動とマスキングによるゼロアンカーのコントラストな目的を通じて特徴埋め込みを事前訓練する。
衛星やGIS製品からの6つのリモートセンシング表と2つのリモートセンシング駆動の洪水予報表を含む8つのデータセットにわたって、ZAYANは、ラベルの不足と分散シフトの下で一貫したゲインとともに、表型ディープラーニングベースラインよりも優れた精度、堅牢性、一般化を実現している。
これらの結果は,特徴レベルのコントラスト学習と動的特徴符号化が,表層センシングデータから学習するための効果的なレシピを提供することを示している。
関連論文リスト
- Self-Improving Tabular Language Models via Iterative Group Alignment [76.43372236405664]
自動フィードバックによるデータ生成のための,最初の自己改善フレームワークであるTabGRAAを紹介する。
新たに生成されたサンプルを高品質なグループと低品質なグループに分割し、グループ相対的な有利な目標を優先順位付けする。
実験では、TabGRAAは、忠実さ、ユーティリティ、プライバシにおいて、既存のメソッドよりも優れています。
論文 参考訳(メタデータ) (2026-04-21T01:29:52Z) - Orion-Bix: Bi-Axial Attention for Tabular In-Context Learning [3.884856136722027]
オリオンビクス(Orion-Bix)は、二軸的注意とメタ学習した文脈内推論を組み合わせた基礎モデルである。
エンコーダは、標準、グループ化、階層化、およびリレーショナルアテンションを交互に行い、多軸の要約を通じて出力を融合させる。
ラベルを意識したICLヘッドは、階層的な決定ルーティングを通じて大きなラベル空間に適応し、スケールする。
論文 参考訳(メタデータ) (2025-11-28T19:42:09Z) - TabNSA: Native Sparse Attention for Efficient Tabular Data Learning [13.110156202816112]
TabNSAは、Native Sparse Attention(NSA)とTabMixerのバックボーンを統合する、新しいディープラーニングフレームワークである。
NSAは、トークン圧縮、選択的保存、局所的なスライディングウィンドウなど、階層的なスパークアテンション機構を採用している。
実験によると、TabNSAは最先端のディープラーニングモデルより一貫して優れている。
論文 参考訳(メタデータ) (2025-03-12T21:13:41Z) - Class-aware and Augmentation-free Contrastive Learning from Label Proportion [19.41511190742059]
Label Proportion(LLP)からの学習(Learning from Label Proportion)は、トレーニングデータを事前定義されたインスタンスのバッグに整理する、弱教師付き学習シナリオである。
本稿では,インスタンスレベルでのクラス認識管理を導入した拡張フリーコントラストフレームワークTabLLP-BDCを提案する。
我々のソリューションは、2段階のBag Different Contrastive(BDC)学習機構を備えており、堅牢なクラス認識インスタンスレベルの監視を確立する。
論文 参考訳(メタデータ) (2024-08-13T09:04:47Z) - Downstream-Pretext Domain Knowledge Traceback for Active Learning [138.02530777915362]
本稿では、下流知識と事前学習指導のデータ相互作用をトレースするダウンストリーム・プレテキスト・ドメイン知識トレース(DOKT)手法を提案する。
DOKTは、トレースバックの多様性指標とドメインベースの不確実性推定器から構成される。
10のデータセットで行った実験は、我々のモデルが他の最先端の手法よりも優れていることを示している。
論文 参考訳(メタデータ) (2024-07-20T01:34:13Z) - Making Pre-trained Language Models Great on Tabular Prediction [50.70574370855663]
ディープニューラルネットワーク(DNN)の転送性は、画像および言語処理において著しく進歩している。
本稿では,表型データ予測のための訓練済みLMであるTP-BERTaを提案する。
新たな相対等級トークン化では、スカラー数値の特徴値を細分化した高次元トークンに変換し、特徴値と対応する特徴名を統合する。
論文 参考訳(メタデータ) (2024-03-04T08:38:56Z) - Tabular Few-Shot Generalization Across Heterogeneous Feature Spaces [43.67453625260335]
異種特徴空間を持つデータセット間での知識共有を含む数ショット学習のための新しいアプローチを提案する。
FLATはデータセットとその個々の列の低次元埋め込みを学習し、それまで見つからなかったデータセットへの知識伝達と一般化を容易にする。
デコーダネットワークは、グラフ注意ネットワークとして実装された予測対象ネットワークをパラメータ化して、表形式のデータセットの不均一性に対応する。
論文 参考訳(メタデータ) (2023-11-16T17:45:59Z) - Rethinking Pre-Training in Tabular Data: A Neighborhood Embedding Perspective [71.45945607871715]
メタ表現(TabPTM)を用いたタブラルデータ事前学習を提案する。
中心となる考え方は、データインスタンスを共有機能空間に埋め込むことで、各インスタンスは、近隣の固定数とそのラベルまでの距離で表現される。
101データセットの大規模な実験は、微調整の有無にかかわらず、分類タスクと回帰タスクの両方においてTabPTMの有効性を確認した。
論文 参考訳(メタデータ) (2023-10-31T18:03:54Z) - SCARF: Self-Supervised Contrastive Learning using Random Feature
Corruption [72.35532598131176]
本稿では,特徴のランダムなサブセットを乱してビューを形成するコントラスト学習手法であるSCARFを提案する。
SCARFは既存の戦略を補完し、オートエンコーダのような代替手段より優れていることを示す。
論文 参考訳(メタデータ) (2021-06-29T08:08:33Z) - ORDisCo: Effective and Efficient Usage of Incremental Unlabeled Data for
Semi-supervised Continual Learning [52.831894583501395]
連続学習は、入力されたデータが完全にラベル付けされていると仮定し、実際のアプリケーションでは適用できないかもしれない。
我々は、条件付き生成逆数ネットワーク(GAN)を用いた分類器を相互に学習するために、識別器整合(ORDisCo)を用いたディープオンライン再生を提案する。
ORDisCo が SSCL の様々な半教師付き学習ベンチマークデータセットで大幅なパフォーマンス向上を達成していることを示します。
論文 参考訳(メタデータ) (2021-01-02T09:04:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。