論文の概要: Beyond Accuracy: Uncovering the Role of Similarity Perception and its Alignment with Semantics in Supervised Learning
- arxiv url: http://arxiv.org/abs/2505.21338v1
- Date: Tue, 27 May 2025 15:32:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-28 17:05:58.763289
- Title: Beyond Accuracy: Uncovering the Role of Similarity Perception and its Alignment with Semantics in Supervised Learning
- Title(参考訳): 正確性を超えて: 教師付き学習における類似認識の役割と意味論との整合性を明らかにする
- Authors: Katarzyna Filus, Mateusz Żarski,
- Abstract要約: 本稿では,Deep similarity Inspector(DSI)について紹介する。
実験の結果,畳み込みニューラルネットワーク (CNN) とビジョントランスフォーマー (ViT) の両方が,3段階のトレーニングにおいて,リッチな類似性知覚を発達させることがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Similarity manifests in various forms, including semantic similarity that is particularly important, serving as an approximation of human object categorization based on e.g. shared functionalities and evolutionary traits. It also offers practical advantages in computational modeling via lexical structures such as WordNet with constant and interpretable similarity. As in the domain of deep vision, there is still not enough focus on the phenomena regarding the similarity perception emergence. We introduce Deep Similarity Inspector (DSI) -- a systematic framework to inspect how deep vision networks develop their similarity perception and its alignment with semantic similarity. Our experiments show that both Convolutional Neural Networks' (CNNs) and Vision Transformers' (ViTs) develop a rich similarity perception during training with 3 phases (initial similarity surge, refinement, stabilization), with clear differences between CNNs and ViTs. Besides the gradual mistakes elimination, the mistakes refinement phenomenon can be observed.
- Abstract(参考訳): 類似性は、特に重要な意味的類似性を含む様々な形態で現れ、eg共有機能と進化的特徴に基づく人間の対象分類の近似として機能する。
また、一定かつ解釈可能な類似性を持つWordNetのような語彙構造による計算モデルにおいて、実用的な利点を提供する。
深い視界の領域のように、類似性知覚の出現に関する現象には、まだ十分に焦点が当てられていない。
本稿では,Deep similarity Inspector(DSI)について紹介する。ディープ・ビジョン・ネットワークが,その類似性知覚とセマンティック・類似性との整合性をどのように発達させるかを調べるための体系的なフレームワークである。
実験の結果,畳み込みニューラルネットワーク(CNN)とビジョントランスフォーマー(ViT)は3段階(初期類似度サージ,精細化,安定化)のトレーニングにおいて,CNNとViTの明確な相違が認められた。
段階的なミス除去に加えて、ミス修正現象も観察できる。
関連論文リスト
- Decoupling Semantic Similarity from Spatial Alignment for Neural Networks [4.801683210246596]
意味オブジェクトの空間的位置は人間の知覚や深層学習の分類に影響を与えない。
これはコンピュータビジョンシステムにおける画像応答の類似性の定義に反映されるべきである。
入力応答間の意味的類似性を,集合マッチング問題として定式化することで測定する。
論文 参考訳(メタデータ) (2024-10-30T15:17:58Z) - Hierarchical Invariance for Robust and Interpretable Vision Tasks at Larger Scales [54.78115855552886]
本稿では、畳み込みニューラルネットワーク(CNN)のような階層型アーキテクチャを用いて、オーバーコンプリート不変量を構築する方法を示す。
オーバーコンプリート性により、そのタスクはニューラルアーキテクチャサーチ(NAS)のような方法で適応的に形成される。
大規模で頑健で解釈可能な視覚タスクの場合、階層的不変表現は伝統的なCNNや不変量に対する効果的な代替物とみなすことができる。
論文 参考訳(メタデータ) (2024-02-23T16:50:07Z) - Going Beyond Neural Network Feature Similarity: The Network Feature
Complexity and Its Interpretation Using Category Theory [64.06519549649495]
機能的に等価な機能と呼ぶものの定義を提供します。
これらの特徴は特定の変換の下で等価な出力を生成する。
反復的特徴マージ(Iterative Feature Merging)というアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-10T16:27:12Z) - Similarity of Neural Architectures using Adversarial Attack Transferability [47.66096554602005]
ニューラルネットワーク間の定量的かつスケーラブルな類似度尺度を設計する。
我々は69の最先端画像ネット分類器を大規模に解析する。
我々の結果は、異なるコンポーネントを持つ多様なニューラルアーキテクチャの開発がなぜ必要かについての洞察を提供する。
論文 参考訳(メタデータ) (2022-10-20T16:56:47Z) - Attributable Visual Similarity Learning [90.69718495533144]
本稿では、画像間のより正確で説明可能な類似度測定のための帰属的視覚類似度学習(AVSL)フレームワークを提案する。
人間の意味的類似性認知に動機づけられた2つの画像とグラフとの類似性を表現するために,一般化された類似性学習パラダイムを提案する。
CUB-200-2011、Cars196、Stanford Online Productsデータセットの実験は、既存の深い類似性学習方法よりも大幅に改善されたことを示している。
論文 参考訳(メタデータ) (2022-03-28T17:35:31Z) - Deconfounded Representation Similarity for Comparison of Neural Networks [16.23053104309891]
類似度指標は、入力空間内のデータ項目の集団構造によって構成される。
類似度指標を分解することで,意味論的に類似したニューラルネットワークを検出する分解能が向上することを示す。
論文 参考訳(メタデータ) (2022-01-31T21:25:02Z) - Comparing Deep Neural Nets with UMAP Tour [12.910602784766562]
UMAP Tourは、現実世界のニューラルネットワークモデルの内部動作を視覚的に検査し、比較するために構築されている。
最先端のモデルで学んだ概念と、GoogLeNetやResNetといった両者の相違点を見出す。
論文 参考訳(メタデータ) (2021-10-18T15:59:13Z) - Contrastive Similarity Matching for Supervised Learning [13.750624267664156]
本稿では,腹側視覚路の観察と深部神経回路の訓練によって動機付けられた,生物学的に有望な信用代入問題の解法を提案する。
どちらの場合も、同じ圏に属する対象の表現は徐々に類似し、異なる圏に属する対象はより類似しなくなる。
我々は、この概念を、目的関数と対比した対照的な類似性を用いて定式化し、フィードフォワード、横、フィードバック接続を持つ深層ニューラルネットワークから導出する。
論文 参考訳(メタデータ) (2020-02-24T17:10:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。