論文の概要: Landscape of Neural Architecture Search across sensors: how much do they
differ ?
- arxiv url: http://arxiv.org/abs/2201.06321v2
- Date: Thu, 20 Jan 2022 15:07:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-21 13:02:36.257319
- Title: Landscape of Neural Architecture Search across sensors: how much do they
differ ?
- Title(参考訳): センサ間を探索するニューラルアーキテクチャの展望:その違いはどの程度か?
- Authors: Kalifou Ren\'e Traor\'e, Andr\'es Camero, Xiao Xiang Zhu
- Abstract要約: 本稿では,So2Sat LCZ42の現実画像分類問題に対して,Fitness Landscape Footprintを適用した。
適合性の観点からは,全センサの探索空間に類似した挙動を示す。
検索結果はまた、サーチスペースに適切に取付けることができるセンサーの、非常に類似した検索行動を示している。
- 参考スコア(独自算出の注目度): 14.610038284393166
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: With the rapid rise of neural architecture search, the ability to understand
its complexity from the perspective of a search algorithm is desirable.
Recently, Traor\'e et al. have proposed the framework of Fitness Landscape
Footprint to help describe and compare neural architecture search problems. It
attempts at describing why a search strategy might be successful, struggle or
fail on a target task. Our study leverages this methodology in the context of
searching across sensors, including sensor data fusion. In particular, we apply
the Fitness Landscape Footprint to the real-world image classification problem
of So2Sat LCZ42, in order to identify the most beneficial sensor to our neural
network hyper-parameter optimization problem. From the perspective of
distributions of fitness, our findings indicate a similar behaviour of the
search space for all sensors: the longer the training time, the larger the
overall fitness, and more flatness in the landscapes (less ruggedness and
deviation). Regarding sensors, the better the fitness they enable (Sentinel-2),
the better the search trajectories (smoother, higher persistence). Results also
indicate very similar search behaviour for sensors that can be decently fitted
by the search space (Sentinel-2 and fusion).
- Abstract(参考訳): ニューラルネットワーク検索の急速な普及に伴い,探索アルゴリズムの観点からその複雑さを理解する能力が望ましい。
Traor\'eらは最近、ニューラルネットワークの検索問題を記述し比較するためのFitness Landscape Footprintのフレームワークを提案している。
検索戦略が成功したり、苦労したり、目的のタスクで失敗したりする理由を説明する。
本研究は,センサデータ融合を含むセンサ横断探索の文脈において,この手法を活用している。
特に、ニューラルネットワークのハイパーパラメータ最適化問題において最も有用なセンサを特定するために、実世界のS2Sat LCZ42画像分類問題にFitness Landscape Footprintを適用した。
フィットネスの分布から見れば、トレーニング時間が長ければ長いほど、全体のフィットネスが大きくなり、風景の平坦さ(頑丈さや偏りがない)が増す。
センサーに関しては、適合性が高いほど(Sentinel-2)、検索トラジェクトリ(スモザー、高持続性)が良くなる。
また、探索空間(Sentinel-2 と fusion)に適切に取付けることができるセンサーについても、非常に類似した探索挙動を示す。
関連論文リスト
- Optimizing Sensor Network Design for Multiple Coverage [0.9668407688201359]
本稿では,より効率的で堅牢なセンサネットワークを設計するgreedy (next-best-view)アルゴリズムの目的関数を提案する。
また、ほぼリアルタイムで計算を行うアルゴリズムを高速化するためのディープラーニングモデルも導入する。
論文 参考訳(メタデータ) (2024-05-15T05:13:20Z) - Active search and coverage using point-cloud reinforcement learning [50.741409008225766]
本稿では,目的探索とカバレッジのためのエンドツーエンドの深層強化学習ソリューションを提案する。
RLの深い階層的特徴学習は有効であり、FPS(Fastthest Point sample)を用いることで点数を削減できることを示す。
また、ポイントクラウドに対するマルチヘッドの注意がエージェントの学習を高速化する上で有効であるが、同じ結果に収束することを示す。
論文 参考訳(メタデータ) (2023-12-18T18:16:30Z) - Neural Inertial Localization [24.854242481051383]
53時間単位の慣性センサデータと関連する地中真理位置を含むリッチデータセットを提示する。
我々は、ニューラルネットワークの慣性ナビゲーション技術を用いて、センサ履歴をベロシティベクターのシーケンスに変換する、NILOC(Neural Inertial Localization)と呼ばれるソリューションを開発した。
フロアプランが必要で,20~30倍遅く動作する最先端の手法と比較しても,アプローチは極めて高速かつ競合的な結果が得られる。
論文 参考訳(メタデータ) (2022-03-29T18:45:27Z) - Fitness Landscape Footprint: A Framework to Compare Neural Architecture
Search Problems [12.901952926144258]
我々は、フィットネスランドスケープ分析を用いて、ニューラルアーキテクチャー探索問題を研究する。
本稿では,古典画像分類ベンチマークCIFAR-10とリモートセンシング問題So2Sat LCZ42の2つの問題について検討する。
論文 参考訳(メタデータ) (2021-11-02T13:20:01Z) - ViPNAS: Efficient Video Pose Estimation via Neural Architecture Search [94.90294600817215]
高速なオンラインビデオポーズ推定のための空間的・時間的ネットワークに対する新しいニューラルネットワーク探索(NAS)手法(ViPNAS)を提案する。
空間レベルでは,ネットワーク深さ,幅,カーネルサイズ,グループ数,注目度などの5つの異なる次元の探索空間を慎重に設計する。
時間レベルでは、一連の時間的特徴融合から検索し、複数のビデオフレームの合計精度と速度を最適化する。
論文 参考訳(メタデータ) (2021-05-21T06:36:40Z) - AutoSpace: Neural Architecture Search with Less Human Interference [84.42680793945007]
現在のニューラルネットワークアーキテクチャ検索(NAS)アルゴリズムは、ネットワーク構築のための検索空間を設計するための専門知識と努力を必要とします。
探索空間を最適なものに進化させる新しい微分可能な進化フレームワークであるAutoSpaceを提案する。
学習した検索空間では、最近のNASアルゴリズムの性能は、以前手作業で設計した空間に比べて大幅に改善できる。
論文 参考訳(メタデータ) (2021-03-22T13:28:56Z) - Neural Architecture Search on ImageNet in Four GPU Hours: A
Theoretically Inspired Perspective [88.39981851247727]
トレーニングフリーニューラルアーキテクチャサーチ(TE-NAS)という新しいフレームワークを提案する。
TE-NASは、ニューラルネットワークカーネル(NTK)のスペクトルと入力空間内の線形領域の数を分析することによってアーキテクチャをランク付けする。
1) この2つの測定はニューラルネットワークのトレーサビリティと表現性を示し, (2) ネットワークのテスト精度と強く相関することを示した。
論文 参考訳(メタデータ) (2021-02-23T07:50:44Z) - Towards Improving the Consistency, Efficiency, and Flexibility of
Differentiable Neural Architecture Search [84.4140192638394]
最も微分可能なニューラルアーキテクチャ探索法は、探索用のスーパーネットを構築し、そのサブグラフとしてターゲットネットを導出する。
本稿では,エンジンセルとトランジットセルからなるEnTranNASを紹介する。
また,検索処理の高速化を図るため,メモリや計算コストの削減も図っている。
論文 参考訳(メタデータ) (2021-01-27T12:16:47Z) - ISTA-NAS: Efficient and Consistent Neural Architecture Search by Sparse
Coding [86.40042104698792]
スパース符号問題としてニューラルアーキテクチャ探索を定式化する。
実験では、CIFAR-10の2段階法では、検索にわずか0.05GPUしか必要としない。
本手法は,CIFAR-10とImageNetの両方において,評価時間のみのコストで最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2020-10-13T04:34:24Z) - Can weight sharing outperform random architecture search? An
investigation with TuNAS [28.748052125895285]
ImageNet と COCO における画像分類と検出のための効率的でランダムな探索手法の比較を行った。
両手法の効率性は問題に依存しているが,本実験では,効率的な探索手法がランダム探索よりも大幅に向上できるような,大規模で現実的なタスクが存在することを示した。
論文 参考訳(メタデータ) (2020-08-13T21:32:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。