論文の概要: Hodge-Aware Contrastive Learning

• arxiv url: http://arxiv.org/abs/2309.07364v1
• Date: Thu, 14 Sep 2023 00:40:07 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-15 16:39:49.955818
• Title: Hodge-Aware Contrastive Learning
• Title（参考訳）: ホッジアウェアのコントラスト学習
• Authors: Alexander M\"ollers, Alexander Immer, Vincent Fortuin, Elvin Isufi
• Abstract要約: 単純コンプレックスは、マルチウェイ依存によるデータのモデリングに有効である。 我々は、単純なデータを処理するための対照的な自己教師付き学習手法を開発した。
• 参考スコア（独自算出の注目度）: 101.56637264703058
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Simplicial complexes prove effective in modeling data with multiway dependencies, such as data defined along the edges of networks or within other higher-order structures. Their spectrum can be decomposed into three interpretable subspaces via the Hodge decomposition, resulting foundational in numerous applications. We leverage this decomposition to develop a contrastive self-supervised learning approach for processing simplicial data and generating embeddings that encapsulate specific spectral information.Specifically, we encode the pertinent data invariances through simplicial neural networks and devise augmentations that yield positive contrastive examples with suitable spectral properties for downstream tasks. Additionally, we reweight the significance of negative examples in the contrastive loss, considering the similarity of their Hodge components to the anchor. By encouraging a stronger separation among less similar instances, we obtain an embedding space that reflects the spectral properties of the data. The numerical results on two standard edge flow classification tasks show a superior performance even when compared to supervised learning techniques. Our findings underscore the importance of adopting a spectral perspective for contrastive learning with higher-order data.
• Abstract（参考訳）: 単純なコンプレックスは、ネットワークのエッジに沿って定義されたデータや、他の高次構造を含む、マルチウェイ依存のデータモデリングに有効である。 これらのスペクトルはホッジ分解によって3つの解釈可能な部分空間に分解され、多くの応用の基礎となる。 我々は,この分解を利用して,単純化されたデータを処理するための対比的自己教師付き学習手法を開発し,特定のスペクトル情報をカプセル化する埋め込みを生成する。 さらに,Hodge成分とアンカーとの類似性を考慮して,対照的な損失における負の例の重要性を再評価する。 類似しないインスタンス間のより強い分離を奨励することにより、データのスペクトル特性を反映した埋め込み空間を得る。 2つの標準エッジフロー分類タスクの数値結果は,教師付き学習手法と比較しても優れた性能を示す。 本研究は,高次データとの対比学習にスペクトルパースペクティブを採用することの重要性を強調する。

関連論文リスト

• Datacube segmentation via Deep Spectral Clustering [76.48544221010424]
  拡張ビジョン技術は、しばしばその解釈に挑戦する。 データ立方体スペクトルの巨大な次元性は、その統計的解釈において複雑なタスクを生じさせる。 本稿では,符号化空間における教師なしクラスタリング手法の適用の可能性について検討する。 統計的次元削減はアドホック訓練(可変)オートエンコーダで行い、クラスタリング処理は(学習可能な)反復K-Meansクラスタリングアルゴリズムで行う。
  論文  参考訳（メタデータ） (2024-01-31T09:31:28Z)
• DiffSpectralNet : Unveiling the Potential of Diffusion Models for Hyperspectral Image Classification [6.521187080027966]
  我々は拡散と変圧器技術を組み合わせたDiffSpectralNetと呼ばれる新しいネットワークを提案する。 まず,拡散モデルに基づく教師なし学習フレームワークを用いて,高レベル・低レベルのスペクトル空間的特徴を抽出する。 この拡散法はスペクトル空間の特徴を多様かつ有意義に抽出し,HSI分類の改善につながる。
  論文  参考訳（メタデータ） (2023-10-29T15:26:37Z)
• Learning Curves for Noisy Heterogeneous Feature-Subsampled Ridge Ensembles [34.32021888691789]
  雑音の多い最小二乗尾根アンサンブルにおける特徴バッグングの理論を開発する。 サブサンプリングは線形予測器の2Dピークをシフトすることを示した。 特徴サブサンプリングアンサンブルの性能を1つの線形予測器と比較する。
  論文  参考訳（メタデータ） (2023-07-06T17:56:06Z)
• Linking data separation, visual separation, and classifier performance using pseudo-labeling by contrastive learning [125.99533416395765]
  最終分類器の性能は、潜在空間に存在するデータ分離と、射影に存在する視覚的分離に依存すると論じる。 本研究は,ヒト腸管寄生虫の5つの現実的課題の画像データセットを1%の教師付きサンプルで分類し,その結果を実証する。
  論文  参考訳（メタデータ） (2023-02-06T10:01:38Z)
• Deep Semi-supervised Learning with Double-Contrast of Features and Semantics [2.2230089845369094]
  本稿では,エンド・ツー・エンドの半教師あり学習における意味と特徴の二重コントラストを提案する。 我々は情報理論を活用し、意味論と特徴の二重コントラストの合理性を説明する。
  論文  参考訳（メタデータ） (2022-11-28T09:08:19Z)
• Dataset Distillation via Factorization [58.8114016318593]
  既存のデータセット蒸留(DD)ベースラインに移植可能なプラグ・アンド・プレイ戦略であるEmphHaBaと呼ばれるEmphdataset Factorizationアプローチを導入する。 emphHaBaは、データセットをデータemphHallucinationネットワークとemphBaseの2つのコンポーネントに分解する方法を探っている。 提案手法は, 圧縮パラメータの総数を最大65%削減しつつ, 下流の分類タスクを従来に比べて大幅に改善することができる。
  論文  参考訳（メタデータ） (2022-10-30T08:36:19Z)
• Correlation between Alignment-Uniformity and Performance of Dense Contrastive Representations [11.266613717084788]
  我々は,標準CNNと簡単な特徴マッチング方式を用いて,高密度コントラスト学習の理論的アイデアを分析する。 正の高密度な特徴のペアを構築する際の基本原理を発見し、その妥当性を実証的に証明した。 また、アライメント・アンド・ユニフォーム性と下流性能の相関関係を要約した新しいスカラー計量を導入する。
  論文  参考訳（メタデータ） (2022-10-17T08:08:37Z)
• Spectral Analysis Network for Deep Representation Learning and Image Clustering [53.415803942270685]
  本稿ではスペクトル分析に基づく教師なし深層表現学習のための新しいネットワーク構造を提案する。 パッチレベルで画像間の局所的な類似性を識別できるため、閉塞に対してより堅牢である。 クラスタリングに親しみやすい表現を学習し、データサンプル間の深い相関を明らかにすることができる。
  論文  参考訳（メタデータ） (2020-09-11T05:07:15Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)
• Improving Deep Hyperspectral Image Classification Performance with Spectral Unmixing [3.84448093764973]
  本稿では,多元HSI分類法を提案する。 我々は、データセット固有のオートエンコーダにより、スペクトル領域から豊富な領域へのすべてのHSIを変換する。 次に、複数のHSIからの豊富な表現を収集して拡大データセットを形成する。
  論文  参考訳（メタデータ） (2020-04-01T17:14:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。