Fugu-MT 論文翻訳(概要): Effectiveness of Function Matching in Driving Scene Recognition

論文の概要: Effectiveness of Function Matching in Driving Scene Recognition

arxiv url: http://arxiv.org/abs/2208.09694v1
Date: Sat, 20 Aug 2022 14:32:20 GMT
ステータス: 処理完了
システム内更新日: 2022-08-23 12:43:55.612334
Title: Effectiveness of Function Matching in Driving Scene Recognition
Title（参考訳）: 運転シーン認識における機能マッチングの有効性
Authors: Shingo Yashima
Abstract要約: 本研究では, 大量の未ラベルデータを用いた蒸留が学生モデルの性能に及ぼす影響を実験的に検討した。コンパクトな学生モデルの性能は劇的に向上し、大規模教師のパフォーマンスに匹敵することを示した。
参考スコア（独自算出の注目度）: 0.571097144710995
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Knowledge distillation is an effective approach for training compact recognizers required in autonomous driving. Recent studies on image classification have shown that matching student and teacher on a wide range of data points is critical for improving performance in distillation. This concept (called function matching) is suitable for driving scene recognition, where generally an almost infinite amount of unlabeled data are available. In this study, we experimentally investigate the impact of using such a large amount of unlabeled data for distillation on the performance of student models in structured prediction tasks for autonomous driving. Through extensive experiments, we demonstrate that the performance of the compact student model can be improved dramatically and even match the performance of the large-scale teacher by knowledge distillation with massive unlabeled data.
Abstract（参考訳）: 知識蒸留は、自動運転に必要なコンパクト認識を訓練するための効果的なアプローチである。近年の画像分類研究では,幅広いデータポイントにおける学生と教師のマッチングが蒸留性能の向上に不可欠であることが示されている。この概念(関数マッチングと呼ばれる)はシーン認識の駆動に適している。本研究では,このような大量の無ラベルデータを用いた蒸留が,自律運転のための構造化予測タスクにおける学生モデルの性能に与える影響を実験的に検討した。大規模実験により, 大規模非ラベルデータを用いた知識蒸留による大規模教員の成果に匹敵する, コンパクトな学生モデルの性能を劇的に改善できることを実証した。

関連論文リスト

Guiding Attention in End-to-End Driving Models [49.762868784033785]
模倣学習によって訓練された視覚ベースのエンドツーエンドの運転モデルは、自動運転のための安価なソリューションにつながる可能性がある。トレーニング中に損失項を追加することにより、これらのモデルの注意を誘導し、運転品質を向上させる方法について検討する。従来の研究とは対照的に,本手法では,テスト期間中にこれらの有意義なセマンティックマップを利用できない。
論文参考訳（メタデータ） (2024-04-30T23:18:51Z)
TSCM: A Teacher-Student Model for Vision Place Recognition Using Cross-Metric Knowledge Distillation [6.856317526681759]
視覚的位置認識は、移動ロボットの自律的な探索とナビゲーションにおいて重要な役割を果たす。既存の手法では、強力だが大規模なネットワークを利用することでこれを克服している。本稿では,TSCMと呼ばれる高性能な教師と軽量な学生蒸留フレームワークを提案する。
論文参考訳（メタデータ） (2024-04-02T02:29:41Z)
Understanding the Role of the Projector in Knowledge Distillation [22.698845243751293]
機能マッチングとメートル法学習問題としての知識蒸留の有効性を再考する。我々は3つの重要な設計決定、すなわち正規化、ソフト最大関数、投影層を検証する。 ImageNetのDeiT-Tiで、77.2%のトップ1の精度を実現しました。
論文参考訳（メタデータ） (2023-03-20T13:33:31Z)
Teaching What You Should Teach: A Data-Based Distillation Method [20.595460553747163]
知識蒸留フレームワークに「教えるべきものを教える」戦略を導入する。本稿では,より効率的かつ合理的な蒸留を支援するために,望まれる増補サンプルを探索するデータベース蒸留手法"TST"を提案する。具体的には,教師の強みと生徒の弱みを補うことを支援する,優先バイアス付きニューラルネットワークベースのデータ拡張モジュールを設計する。
論文参考訳（メタデータ） (2022-12-11T06:22:14Z)
Directed Acyclic Graph Factorization Machines for CTR Prediction via Knowledge Distillation [65.62538699160085]
本稿では,既存の複雑な相互作用モデルから,知識蒸留によるCTR予測のための高次特徴相互作用を学習するための非巡回グラフファクトリゼーションマシン(KD-DAGFM)を提案する。 KD-DAGFMは、オンラインとオフラインの両方の実験において、最先端のFLOPの21.5%未満で最高の性能を達成する。
論文参考訳（メタデータ） (2022-11-21T03:09:42Z)
Exploring Inconsistent Knowledge Distillation for Object Detection with Data Augmentation [66.25738680429463]
物体検出のための知識蒸留(KD)は、教師モデルから知識を伝達することで、コンパクトな検出器を訓練することを目的としている。教師モデルの反直感的知覚に固有の知識を蒸留することを目的とした,一貫性のない知識蒸留(IKD)を提案する。本手法は, 1段, 2段, アンカーフリーの物体検出器において, 最先端のKDベースラインより優れる。
論文参考訳（メタデータ） (2022-09-20T16:36:28Z)
Adaptive Instance Distillation for Object Detection in Autonomous Driving [3.236217153362305]
本稿では,教師の知識を学生に選択的に付与し,知識蒸留の性能を向上させるための適応型インスタンス蒸留(AID)を提案する。また,AIDは教師モデルの性能向上に有効であることが示された。
論文参考訳（メタデータ） (2022-01-26T18:06:33Z)
Knowledge distillation: A good teacher is patient and consistent [71.14922743774864]
最先端のパフォーマンスを実現する大規模モデルと、実用的な用途で手頃な価格のモデルとの間には、コンピュータビジョンの相違が増えている。蒸留の有効性に大きな影響を及ぼす可能性のある,特定の暗黙的な設計選択を同定する。 ImageNetの最先端ResNet-50モデルが82.8%の精度で実現されている。
論文参考訳（メタデータ） (2021-06-09T17:20:40Z)
SelfHAR: Improving Human Activity Recognition through Self-training with Unlabeled Data [9.270269467155547]
SelfHARは、ラベルなしデータセットを利用して小さなラベル付きデータセットを補完する半教師付きモデルである。提案手法は教師による自己学習と,ラベル付きデータセットとラベル付きデータセットの知識を融合する。 SelfHARはデータ効率が高く、教師付きアプローチの10倍のラベル付きデータを使用して、同様のパフォーマンスを実現する。
論文参考訳（メタデータ） (2021-02-11T15:40:35Z)
Diverse Complexity Measures for Dataset Curation in Self-driving [80.55417232642124]
トラフィックシーンの面白さを定量化する多様な基準を活用した新たなデータ選択手法を提案する。実験の結果,提案するキュレーションパイプラインは,より汎用的で高いパフォーマンスをもたらすデータセットを選択できることが判明した。
論文参考訳（メタデータ） (2021-01-16T23:45:02Z)
Circumventing Outliers of AutoAugment with Knowledge Distillation [102.25991455094832]
AutoAugmentは多くの視覚タスクの精度を向上させる強力なアルゴリズムである。本論文は作業機構を深く掘り下げ,AutoAugmentがトレーニング画像から識別情報の一部を除去できることを明らかにする。教師モデルの出力に言及した知識蒸留を用いて,ネットワークトレーニングの指導を行う。
論文参考訳（メタデータ） (2020-03-25T11:51:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。