論文の概要: Automated Deep Learning: Neural Architecture Search Is Not the End
- arxiv url: http://arxiv.org/abs/2112.09245v1
- Date: Thu, 16 Dec 2021 23:02:29 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-20 15:58:12.778171
- Title: Automated Deep Learning: Neural Architecture Search Is Not the End
- Title（参考訳）: ディープラーニングの自動化 - ニューラルネットワークの検索は終わりではない
- Authors: Xuanyi Dong, David Jacob Kedziora, Katarzyna Musial, Bogdan Gabrys
- Abstract要約: 本稿では,従来型ディープラーニング(DL)ワークフロー全体にわたる自動化研究の取り組みを概観する。
また、個々の出版物と広範な研究分野の両方において、既存の作業を評価するための10の基準の包括的なセットを提案する。
最終的に、このレビューは、2020年代初頭にAutoDLの評価的な概要を提供し、将来の進歩の機会がどこにあるかを特定する。
- 参考スコア（独自算出の注目度）: 31.0093367527288
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning (DL) has proven to be a highly effective approach for
developing models in diverse contexts, including visual perception, speech
recognition, and machine translation. However, the end-to-end process for
applying DL is not trivial. It requires grappling with problem formulation and
context understanding, data engineering, model development, deployment,
continuous monitoring and maintenance, and so on. Moreover, each of these steps
typically relies heavily on humans, in terms of both knowledge and
interactions, which impedes the further advancement and democratization of DL.
Consequently, in response to these issues, a new field has emerged over the
last few years: automated deep learning (AutoDL). This endeavor seeks to
minimize the need for human involvement and is best known for its achievements
in neural architecture search (NAS), a topic that has been the focus of several
surveys. That stated, NAS is not the be-all and end-all of AutoDL. Accordingly,
this review adopts an overarching perspective, examining research efforts into
automation across the entirety of an archetypal DL workflow. In so doing, this
work also proposes a comprehensive set of ten criteria by which to assess
existing work in both individual publications and broader research areas. These
criteria are: novelty, solution quality, efficiency, stability,
interpretability, reproducibility, engineering quality, scalability,
generalizability, and eco-friendliness. Thus, ultimately, this review provides
an evaluative overview of AutoDL in the early 2020s, identifying where future
opportunities for progress may exist.
- Abstract（参考訳）: ディープラーニング(DL)は、視覚認識、音声認識、機械翻訳など様々な文脈でモデルを開発する上で、非常に効果的なアプローチであることが証明されている。
しかし、dlを適用するエンドツーエンドのプロセスは自明ではない。
問題定式化やコンテキスト理解,データエンジニアリング,モデル開発,デプロイメント,継続的監視やメンテナンスなど,さまざまな作業が必要です。
さらに、これらのステップは知識と相互作用の両方の観点から人間に大きく依存しており、DLのさらなる進歩と民主化を妨げる。
その結果、これらの問題に対応するために、ここ数年で新たな分野としてautomated deep learning(autodl)が出現した。
この取り組みは、人間の関与を最小化することを目的としており、いくつかの調査の焦点となっているneural architecture search(nas)での成果で最もよく知られている。
とは言っても、NASはAutoDLのすべてと終わりではない。
したがって、本レビューでは、アーキティパルDLワークフロー全体にわたる自動化研究の取り組みを概観する。
そこで本研究では,個々の出版物とより広い研究領域における既存の作業を評価するための総合的な10項目の基準を提案する。
新規性、ソリューション品質、効率性、安定性、解釈性、再現性、エンジニアリング品質、スケーラビリティ、一般化性、エコフレンドリー性である。
最終的に、このレビューは、2020年代初頭にAutoDLの評価的な概要を提供し、将来の進歩の機会がどこにあるかを特定する。
関連論文リスト
- WorkArena++: Towards Compositional Planning and Reasoning-based Common Knowledge Work Tasks [85.95607119635102]
大型言語モデル(LLM)は人間のような知性を模倣することができる。
WorkArena++は、Webエージェントの計画、問題解決、論理的/論理的推論、検索、コンテキスト的理解能力を評価するように設計されている。
論文 参考訳（メタデータ） (2024-07-07T07:15:49Z) - Deep Learning-Based Object Pose Estimation: A Comprehensive Survey [73.74933379151419]
ディープラーニングに基づくオブジェクトポーズ推定の最近の進歩について論じる。
また、複数の入力データモダリティ、出力ポーズの自由度、オブジェクト特性、下流タスクについても調査した。
論文 参考訳（メタデータ） (2024-05-13T14:44:22Z) - A Survey on Robotics with Foundation Models: toward Embodied AI [30.999414445286757]
近年のコンピュータビジョン,自然言語処理,マルチモーダリティ学習の進歩は,基礎モデルが特定のタスクに対して超人的能力を持つことを示している。
この調査は、ロボット工学の基礎モデルの包括的で最新の概要を提供し、自律的な操作に焦点を当て、高レベルの計画と低レベルの制御を包含することを目的としている。
論文 参考訳（メタデータ） (2024-02-04T07:55:01Z) - Deep Transfer Learning for Automatic Speech Recognition: Towards Better
Generalization [3.6393183544320236]
深層学習(DL)における音声認識の課題
大規模なトレーニングデータセットと高い計算とストレージリソースが必要です。
ディープトランスファーラーニング(DTL)はこれらの問題を克服するために導入された。
論文 参考訳（メタデータ） (2023-04-27T21:08:05Z) - Survey on Unsupervised Domain Adaptation for Semantic Segmentation for
Visual Perception in Automated Driving [23.4168567262989]
ディープニューラルネットワーク(DNN)は、ロボット工学や自動運転など、過去数年間に多くの分野でその能力を証明してきた。
この進歩と膨大な研究努力にもかかわらず、自動運転におけるDNNの適用性を制限するいくつかの問題に対処する必要がある。
新しい、目に見えないドメインへのDNNの悪い一般化は、安全で大規模なアプリケーションへの道のりで大きな問題である。
論文 参考訳（メタデータ） (2023-04-24T09:13:23Z) - Human-Centric Multimodal Machine Learning: Recent Advances and Testbed
on AI-based Recruitment [66.91538273487379]
人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。
i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
論文 参考訳（メタデータ） (2023-02-13T16:44:44Z) - A Comprehensive Review of Trends, Applications and Challenges In
Out-of-Distribution Detection [0.76146285961466]
アウト・オブ・ディストリビューション・データ・サブセットの検出とより包括的な一般化の実現に焦点をあてた研究分野が誕生した。
多くのディープラーニングベースのモデルは、ベンチマークデータセットでほぼ完璧な結果を得たため、これらのモデルの信頼性と信頼性を評価する必要性は、これまで以上に強く感じられる。
本稿では,本分野における70以上の論文のレビューに加えて,今後の研究の課題と方向性を提示するとともに,データシフトの多種多様さを統一的に把握し,より一般化するためのソリューションを提案する。
論文 参考訳（メタデータ） (2022-09-26T18:13:14Z) - Robust Natural Language Processing: Recent Advances, Challenges, and
Future Directions [4.409836695738517]
文献を様々な次元にわたって体系的に要約することで,NLPロバストネス研究の構造化概要を述べる。
次に、テクニック、メトリクス、埋め込み、ベンチマークなど、堅牢性のさまざまな側面を深く掘り下げます。
論文 参考訳（メタデータ） (2022-01-03T17:17:11Z) - WenLan 2.0: Make AI Imagine via a Multimodal Foundation Model [74.4875156387271]
我々は,膨大なマルチモーダル(視覚的・テキスト的)データを事前学習した新しい基礎モデルを開発する。
そこで本研究では,様々な下流タスクにおいて,最先端の成果が得られることを示す。
論文 参考訳（メタデータ） (2021-10-27T12:25:21Z) - A Survey of Deep Active Learning [54.376820959917005]
アクティブラーニング(AL)は、最も少ないサンプルをマークすることで、モデルの性能向上を最大化しようとする。
ディープラーニング(DL)はデータに対して欲張りであり、大量のパラメータを最適化するために大量のデータ供給を必要とする。
ディープラーニング(Deep Active Learning, DAL)が誕生した。
論文 参考訳（メタデータ） (2020-08-30T04:28:31Z) - Survey on the Analysis and Modeling of Visual Kinship: A Decade in the
Making [66.72253432908693]
親和性認識は多くの実践的応用において難しい問題である。
我々は、多くの人にその見解を刺激した公開リソースとデータ課題についてレビューする。
10周年記念には、さまざまなkinベースのタスクのためのデモコードが用意されている。
論文 参考訳（メタデータ） (2020-06-29T13:25:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。