Fugu-MT 論文翻訳(概要): Training Better Deep Learning Models Using Human Saliency

論文の概要: Training Better Deep Learning Models Using Human Saliency

arxiv url: http://arxiv.org/abs/2410.16190v1
Date: Mon, 21 Oct 2024 16:52:44 GMT
ステータス: 翻訳完了
システム内更新日: 2024-10-22 13:18:17.272230
Title: Training Better Deep Learning Models Using Human Saliency
Title（参考訳）: 人力によるより優れた深層学習モデルの訓練
Authors: Aidan Boyd, Patrick Tinsley, Kevin W. Bowyer, Adam Czajka,
Abstract要約: 本研究では、画像の正常領域に関する人間の判断が、ディープ畳み込みニューラルネットワーク(DCNN)トレーニングにどのように導入できるかを考察する。本稿では,ConveYs Brain Oversight to raise Generalization (CYBORG) における損失関数の新たな構成要素を提案する。
参考スコア（独自算出の注目度）: 11.295653130022156
License:
Abstract: This work explores how human judgement about salient regions of an image can be introduced into deep convolutional neural network (DCNN) training. Traditionally, training of DCNNs is purely data-driven. This often results in learning features of the data that are only coincidentally correlated with class labels. Human saliency can guide network training using our proposed new component of the loss function that ConveYs Brain Oversight to Raise Generalization (CYBORG) and penalizes the model for using non-salient regions. This mechanism produces DCNNs achieving higher accuracy and generalization compared to using the same training data without human salience. Experimental results demonstrate that CYBORG applies across multiple network architectures and problem domains (detection of synthetic faces, iris presentation attacks and anomalies in chest X-rays), while requiring significantly less data than training without human saliency guidance. Visualizations show that CYBORG-trained models' saliency is more consistent across independent training runs than traditionally-trained models, and also in better agreement with humans. To lower the cost of collecting human annotations, we also explore using deep learning to provide automated annotations. CYBORG training of CNNs addresses important issues such as reducing the appetite for large training sets, increasing interpretability, and reducing fragility by generalizing better to new types of data.
Abstract（参考訳）: 本研究では、画像の正常領域に関する人間の判断が、ディープ畳み込みニューラルネットワーク(DCNN)トレーニングにどのように導入できるかを考察する。伝統的に、DCNNのトレーニングは純粋にデータ駆動である。これはしばしば、クラスラベルと偶然に相関したデータの特徴を学習する。 ConveYs Brain Oversight to Raise Generalization (CYBORG) が提案した損失関数の新たな構成要素を用いて, ネットワークトレーニングを導出し, 非塩分領域を用いたモデルのペナルティ化を行うことができる。このメカニズムは、人間のサリエンスを伴わない同じトレーニングデータを使用する場合と比較して、DCNNの精度と一般化を達成する。実験の結果、CYBORGは複数のネットワークアーキテクチャや問題領域(胸部X線における合成顔の検出、虹彩の提示攻撃、異常)にまたがって適用され、人間の唾液摂取指導を伴わないトレーニングよりもはるかに少ないデータを必要とすることがわかった。可視化によると、CYBORGで訓練されたモデルの正当性は、従来の訓練されたモデルよりも独立したトレーニング実行間でより一貫性があり、人間との合意も良好である。人間のアノテーションを収集するコストを下げるために、ディープラーニングを使って自動アノテーションを提供する方法についても検討する。 CNNのCYBORGトレーニングは、大規模なトレーニングセットに対する食欲の低下、解釈可能性の向上、新しいタイプのデータへの一般化による脆弱性の低減など、重要な問題に対処する。

関連論文リスト

Stealing Training Graphs from Graph Neural Networks [54.52392250297907]
グラフニューラルネットワーク(GNN)は、様々なタスクにおけるグラフのモデリングにおいて有望な結果を示している。ニューラルネットワークがトレーニングサンプルを記憶できるため、GNNのモデルパラメータはプライベートトレーニングデータをリークするリスクが高い。訓練されたGNNからグラフを盗むという新しい問題について検討する。
論文参考訳（メタデータ） (2024-11-17T23:15:36Z)
MENTOR: Human Perception-Guided Pretraining for Increased Generalization [5.596752018167751]
MENTOR (huMan pErceptioN-guided preTraining fOr increased geneRalization) を紹介する。我々は、クラスラベルを使わずに、入力された画像からヒトの唾液マップを学習するためにオートエンコーダを訓練する。我々は、デコーダ部分を取り除き、エンコーダの上に分類層を追加し、従来の新しいモデルを微調整する。
論文参考訳（メタデータ） (2023-10-30T13:50:44Z)
Relearning Forgotten Knowledge: on Forgetting, Overfit and Training-Free Ensembles of DNNs [9.010643838773477]
本稿では,検証データ上での深層モデルの忘れ度をモニタする,過剰適合度定量化のための新しいスコアを提案する。オーバーフィットは検証精度を低下させることなく発生しうることを示し,従来よりも一般的である可能性が示唆された。我々は,1つのネットワークのトレーニング履歴のみに基づいて,新たなアンサンブル法を構築するために,我々の観測結果を用いて,トレーニング時間に追加のコストを要さず,大幅な改善を実現する。
論文参考訳（メタデータ） (2023-10-17T09:22:22Z)
Label Deconvolution for Node Representation Learning on Large-scale Attributed Graphs against Learning Bias [75.44877675117749]
本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
論文参考訳（メタデータ） (2023-09-26T13:09:43Z)
DCLP: Neural Architecture Predictor with Curriculum Contrastive Learning [5.2319020651074215]
ニューラル予測器(DCLP)のためのカリキュラム誘導型コントラスト学習フレームワークを提案する。本手法は,新たなカリキュラムを設計し,ラベルのないトレーニングデータ分布の安定性を高めることで,対照的なタスクを単純化する。我々は既存の予測器と比較してDCLPの精度と効率が優れていることを実験的に実証した。
論文参考訳（メタデータ） (2023-02-25T08:16:21Z)
Adversarial training with informed data selection [53.19381941131439]
アドリアリトレーニングは、これらの悪意のある攻撃からネットワークを守るための最も効率的なソリューションである。本研究では,ミニバッチ学習に適用すべきデータ選択戦略を提案する。シミュレーションの結果,ロバスト性および標準精度に関して良好な妥協が得られることがわかった。
論文参考訳（メタデータ） (2023-01-07T12:09:50Z)
Neural networks trained with SGD learn distributions of increasing complexity [78.30235086565388]
勾配降下法を用いてトレーニングされたニューラルネットワークは、まず低次入力統計を用いて入力を分類する。その後、トレーニング中にのみ高次の統計を利用する。本稿では,DSBと他の単純度バイアスとの関係について論じ,学習における普遍性の原理にその意味を考察する。
論文参考訳（メタデータ） (2022-11-21T15:27:22Z)
On-Device Domain Generalization [93.79736882489982]
ドメインの一般化はデバイス上の機械学習アプリケーションにとって重要である。知識蒸留がこの問題の解決の有力な候補であることがわかった。本研究では,教師が配布外データをどのように扱えるかを学生に教えることを目的とした,配布外知識蒸留(OKD)という簡単なアイデアを提案する。
論文参考訳（メタデータ） (2022-09-15T17:59:31Z)
Efficient Augmentation for Imbalanced Deep Learning [8.38844520504124]
本研究では、畳み込みニューラルネットワークの内部表現である不均衡画像データについて検討する。モデルの特徴埋め込みとテストセットの一般化ギャップを測定し、マイノリティクラスではそのギャップが広いことを示す。この洞察により、不均衡なデータのための効率的な3相CNNトレーニングフレームワークを設計できる。
論文参考訳（メタデータ） (2022-07-13T09:43:17Z)
One Representative-Shot Learning Using a Population-Driven Template with Application to Brain Connectivity Classification and Evolution Prediction [0.0]
グラフニューラルネットワーク(GNN)は、ネットワーク神経科学の分野に導入されている。私たちは、GNNのトレーニングにおいて、まったく異なるアプローチを取っています。我々は、GNNが単一集団駆動型テンプレートで訓練される最初のワンショットパラダイムを示す。
論文参考訳（メタデータ） (2021-10-06T08:36:00Z)
S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural Networks via Guided Distribution Calibration [74.5509794733707]
本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
論文参考訳（メタデータ） (2021-02-17T18:59:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。