論文の概要: Using a Cross-Task Grid of Linear Probes to Interpret CNN Model Predictions On Retinal Images

• arxiv url: http://arxiv.org/abs/2107.11468v1
• Date: Fri, 23 Jul 2021 21:30:27 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-28 12:12:38.175648
• Title: Using a Cross-Task Grid of Linear Probes to Interpret CNN Model Predictions On Retinal Images
• Title（参考訳）: 線形プローブのクロスタスクグリッドを用いた網膜画像上のCNNモデル予測の解釈
• Authors: Katy Blumer, Subhashini Venugopalan, Michael P. Brenner, Jon Kleinberg
• Abstract要約: 我々は、線形プローブを用いて網膜画像のデータセットを分析し、ある「ターゲット」タスクで訓練された線形回帰モデル、ある「ソース」タスクで訓練された深部畳み込み(CNN)モデルからの埋め込みを入力として分析する。 我々はこの手法を、UK Biobankの網膜画像データセットにおける93のタスクの可能な全てのペアリングに使用し、164kの異なるモデルに導いた。
• 参考スコア（独自算出の注目度）: 3.5789352263336847
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We analyze a dataset of retinal images using linear probes: linear regression models trained on some "target" task, using embeddings from a deep convolutional (CNN) model trained on some "source" task as input. We use this method across all possible pairings of 93 tasks in the UK Biobank dataset of retinal images, leading to ~164k different models. We analyze the performance of these linear probes by source and target task and by layer depth. We observe that representations from the middle layers of the network are more generalizable. We find that some target tasks are easily predicted irrespective of the source task, and that some other target tasks are more accurately predicted from correlated source tasks than from embeddings trained on the same task.
• Abstract（参考訳）: 網膜画像のデータセットを線形プローブを用いて解析する: ある"ターゲット"タスクでトレーニングされた線形回帰モデル、ある"ソース"タスクでトレーニングされたディープ畳み込み(cnn)モデルからの埋め込みを入力として使用する。 我々はこの手法を、UK Biobankの網膜画像データセットにおける93タスクの可能な全てのペアリングに使用し、約164kの異なるモデルに導いた。 我々は,これらの線形プローブの性能を,震源および対象タスクと層深さで解析する。 ネットワークの中間層からの表現がより一般化可能であることを観察する。 対象タスクのいくつかは、ソースタスクに関係なく容易に予測でき、他の対象タスクは、同じタスクでトレーニングされた組込みよりも、相関したソースタスクからより正確に予測できる。

関連論文リスト

• MTP: Advancing Remote Sensing Foundation Model via Multi-Task Pretraining [73.81862342673894]
  ファンデーションモデルは、様々な画像解釈タスクを強化することで、リモートセンシング(RS)のランドスケープを再構築した。 事前訓練されたモデルを下流のタスクに転送することは、イメージ分類やオブジェクト識別タスクとして事前訓練の定式化によるタスクの相違に遭遇する可能性がある。 SAMRSデータセット上で、セマンティックセグメンテーション、インスタンスセグメンテーション、回転オブジェクト検出を含むマルチタスクによる事前トレーニングを行う。 我々のモデルは、シーン分類、水平・回転物体検出、セマンティックセグメンテーション、変化検出など、様々なRS下流タスクに基づいて微調整される。
  論文  参考訳（メタデータ） (2024-03-20T09:17:22Z)
• Provable Multi-Task Representation Learning by Two-Layer ReLU Neural Networks [69.38572074372392]
  本稿では,複数タスクにおける非線形モデルを用いたトレーニング中に特徴学習が発生することを示す最初の結果を示す。 私たちのキーとなる洞察は、マルチタスク事前トレーニングは、通常タスク間で同じラベルを持つポイントを整列する表現を好む擬似コントラスト的損失を誘導するということです。
  論文  参考訳（メタデータ） (2023-07-13T16:39:08Z)
• Diffused Redundancy in Pre-trained Representations [98.55546694886819]
  事前訓練された表現で機能がどのようにコード化されているか、より詳しく見ていきます。 与えられた層における学習された表現は拡散冗長性を示す。 我々の発見は、事前訓練されたディープニューラルネットワークによって学習された表現の性質に光を当てた。
  論文  参考訳（メタデータ） (2023-05-31T21:00:50Z)
• TRAK: Attributing Model Behavior at Scale [79.56020040993947]
  本稿では,大規模な微分モデルに対して有効かつ計算的に抽出可能なデータ属性法であるTRAK(Tracing with Randomly-trained After Kernel)を提案する。
  論文  参考訳（メタデータ） (2023-03-24T17:56:22Z)
• Task Discovery: Finding the Tasks that Neural Networks Generalize on [1.4043229953691112]
  ニューラルネットワークが一般化する多くのタスクを、ひとつのイメージセットが引き起こす可能性があることを示す。 一例として、検出したタスクを使用して、逆行テストの分割を自動的に生成できることが示される。
  論文  参考訳（メタデータ） (2022-12-01T03:57:48Z)
• TransformNet: Self-supervised representation learning through predicting geometric transformations [0.8098097078441623]
  入力データに適用された幾何変換の認識のための教師なし意味特徴学習手法について述べる。 我々のアプローチの基本概念は、画像中の物体を知らない人が、それらに適用された幾何学的変換を定量的に予測できないことである。
  論文  参考訳（メタデータ） (2022-02-08T22:41:01Z)
• Active Multi-Task Representation Learning [50.13453053304159]
  本研究は,アクティブラーニングの手法を活用することで,資源タスクのサンプリングに関する最初の公式な研究を行う。 提案手法は, 対象タスクに対する各ソースタスクの関連性を反復的に推定し, その関連性に基づいて各ソースタスクからサンプルを抽出するアルゴリズムである。
  論文  参考訳（メタデータ） (2022-02-02T08:23:24Z)
• Learning Co-segmentation by Segment Swapping for Retrieval and Discovery [67.6609943904996]
  この研究の目的は、一対のイメージから視覚的に類似したパターンを効率的に識別することである。 画像中のオブジェクトセグメントを選択し、それを別の画像にコピーペーストすることで、合成トレーニングペアを生成する。 提案手法は,Brueghelデータセット上でのアートワークの詳細検索に対して,明確な改善をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-10-29T16:51:16Z)
• Dataset for eye-tracking tasks [0.0]
  本稿では、視線追跡タスクのための畳み込みニューラルネットワークのカスタムモデルのトレーニングに適したデータセットを提案する。 このデータセットは1万枚の眼画像を416ピクセルから416ピクセルに拡張している。 この原稿は、視線追跡装置用のデータセットを作成するためのガイドとみなすことができる。
  論文  参考訳（メタデータ） (2021-06-01T23:54:23Z)
• Representation Learning Beyond Linear Prediction Functions [33.94130046391917]
  そこで本研究では,音源タスクと対象タスクが線形関数以外の異なる予測関数空間を使用する場合,多様性が達成可能であることを示す。 一般関数クラスの場合、エローダ次元は多様性に必要なタスクの数に低い境界を与える。
  論文  参考訳（メタデータ） (2021-05-31T14:21:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。