Fugu-MT 論文翻訳(概要): Neural Architecture Search From Task Similarity Measure

論文の概要: Neural Architecture Search From Task Similarity Measure

arxiv url: http://arxiv.org/abs/2103.00241v2
Date: Wed, 3 Mar 2021 14:53:53 GMT
ステータス: 処理完了
システム内更新日: 2021-03-06 08:48:07.311810
Title: Neural Architecture Search From Task Similarity Measure
Title（参考訳）: タスク類似度測定によるニューラルアーキテクチャ検索
Authors: Cat P. Le, Mohammadreza Soltani, Robert Ravier, Vahid Tarokh
Abstract要約: フィッシャー情報の観点から定義された様々なタスク間の類似度測定に基づくニューラルネットワークアーキテクチャ検索フレームワークを提案する。目標と既存のタスクの集合との関係を利用することで、アーキテクチャの探索空間を大幅に削減することができる。
参考スコア（独自算出の注目度）: 28.5184196829547
License: http://creativecommons.org/licenses/by/4.0/
Abstract: In this paper, we propose a neural architecture search framework based on a similarity measure between various tasks defined in terms of Fisher information. By utilizing the relation between a target and a set of existing tasks, the search space of architectures can be significantly reduced, making the discovery of the best candidates in the set of possible architectures tractable. This method eliminates the requirement for training the networks from scratch for the target task. Simulation results illustrate the efficacy of our proposed approach and its competitiveness with state-of-the-art methods.
Abstract（参考訳）: 本稿では,フィッシャー情報を用いて定義された各種タスク間の類似度尺度に基づくニューラルアーキテクチャ探索フレームワークを提案する。対象と既存のタスクの集合との関係を利用することで、アーキテクチャの探索空間を大幅に削減することができ、可能なアーキテクチャの集合における最適な候補の発見が容易になる。このメソッドは、対象タスクのネットワークをゼロからトレーニングする要件を排除します。シミュレーションの結果,提案手法の有効性と最先端手法との競合性を示す。

関連論文リスト

Surrogate-assisted Multi-objective Neural Architecture Search for Real-time Semantic Segmentation [11.866947846619064]
ニューラルアーキテクチャサーチ(NAS)は、アーキテクチャ設計を自動化するための有望な道として登場した。セマンティックセグメンテーションにNASを適用する際の課題を解決するために,サロゲート支援多目的手法を提案する。提案手法は,人手による設計と他のNAS手法による自動設計の両方により,既存の最先端アーキテクチャを著しく上回るアーキテクチャを同定することができる。
論文参考訳（メタデータ） (2022-08-14T10:18:51Z)
Search Space Adaptation for Differentiable Neural Architecture Search in Image Classification [15.641353388251465]
微分可能なニューラルネットワークサーチ(NAS)は、検索コストを単一のネットワークをトレーニングするレベルに削減することで大きな影響を与える。本稿では,探索範囲を導入することで,探索空間の適応スキームを提案する。画像分類タスクにおいて, ProxylessNAS を用いて提案手法の有効性を示す。
論文参考訳（メタデータ） (2022-06-05T05:27:12Z)
A Framework for Verifiable and Auditable Federated Anomaly Detection [3.639790324866155]
フェデレート・リーン(Federated Leaning)は、機械学習タスクのソリューションのためのエージェントのグループ間の協力を管理する新しいアプローチである。本稿では,異常検出の特定の場合において,この問題に対処する新しいアルゴリズムアーキテクチャを提案する。
論文参考訳（メタデータ） (2022-03-15T11:34:02Z)
RANK-NOSH: Efficient Predictor-Based Architecture Search via Non-Uniform Successive Halving [74.61723678821049]
予算の浪費を回避するため,早期に性能の低いアーキテクチャのトレーニングを終了する階層的スケジューリングアルゴリズムであるNOn-uniform Successive Halving (NOSH)を提案する。予測器に基づくアーキテクチャ探索をペア比較でランク付けする学習として定式化する。その結果、RANK-NOSHは検索予算を5倍に削減し、様々な空間やデータセットにおける従来の最先端予測手法よりも、競争力やパフォーマンスの向上を実現した。
論文参考訳（メタデータ） (2021-08-18T07:45:21Z)
Elastic Architecture Search for Diverse Tasks with Different Resources [87.23061200971912]
本研究では,異なるリソースを持つ多様なタスクを効率的に配置する上で,クラス群に対応するリソース制約や関心のタスクをテスト時に動的に指定する,新たな課題について検討する。従来のNASアプローチでは、全てのクラスのアーキテクチャを同時に設計することを模索しており、これはいくつかの個別のタスクに最適ではないかもしれない。本稿では、様々なリソース制約のある多様なタスクに対して、実行時に即時特殊化を可能にする、Elastic Architecture Search (EAS)と呼ばれる斬新で一般的なフレームワークを提案する。
論文参考訳（メタデータ） (2021-08-03T00:54:27Z)
Neural Architecture Search From Fr\'echet Task Distance [50.9995960884133]
与えられたベースラインタスクのセット内の対象タスクと各タスクの間の距離を、ターゲットタスクのニューラルネットワークアーキテクチャ検索スペースを減らすためにどのように使用できるかを示す。タスク固有のアーキテクチャに対する検索空間の複雑さの低減は、このサイド情報を用いることなく完全な検索を行う代わりに、類似したタスクのために最適化されたアーキテクチャ上に構築することで達成される。
論文参考訳（メタデータ） (2021-03-23T20:43:31Z)
Task-Aware Neural Architecture Search [33.11791812491669]
本稿では,ベースタスクのモデル辞書と対象タスクと辞書の原子との類似性を利用して,ニューラルアーキテクチャ探索のための新しいフレームワークを提案する。勾配に基づく探索アルゴリズムを導入することにより、ネットワークを完全に訓練することなく、検索空間の最良のアーキテクチャを評価し、発見することができる。
論文参考訳（メタデータ） (2020-10-27T00:10:40Z)
NAS-Navigator: Visual Steering for Explainable One-Shot Deep Neural Network Synthesis [53.106414896248246]
本稿では,分析者がドメイン知識を注入することで,解のサブグラフ空間を効果的に構築し,ネットワーク探索をガイドするフレームワークを提案する。このテクニックを反復的に適用することで、アナリストは、与えられたアプリケーションに対して最高のパフォーマンスのニューラルネットワークアーキテクチャに収束することができる。
論文参考訳（メタデータ） (2020-09-28T01:48:45Z)
Automated Search for Resource-Efficient Branched Multi-Task Networks [81.48051635183916]
我々は,多タスクニューラルネットワークにおける分岐構造を自動的に定義する,微分可能なニューラルネットワーク探索に根ざした原理的アプローチを提案する。本手法は,限られた資源予算内で高い性能の分岐構造を見いだすことができる。
論文参考訳（メタデータ） (2020-08-24T09:49:19Z)
MTL-NAS: Task-Agnostic Neural Architecture Search towards General-Purpose Multi-Task Learning [71.90902837008278]
汎用マルチタスク学習(GP-MTL)にニューラルアーキテクチャサーチ(NAS)を導入することを提案する。異なるタスクの組み合わせに対応するため、GP-MTLネットワークを単一タスクのバックボーンに分割する。また,探索されたアーキテクチャ間の性能ギャップを埋める単一ショット勾配に基づく探索アルゴリズムを提案する。
論文参考訳（メタデータ） (2020-03-31T09:49:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。