論文の概要: You can have your ensemble and run it too -- Deep Ensembles Spread Over Time

• arxiv url: http://arxiv.org/abs/2309.11333v1
• Date: Wed, 20 Sep 2023 14:09:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-21 15:50:57.246696
• Title: You can have your ensemble and run it too -- Deep Ensembles Spread Over Time
• Title（参考訳）: アンサンブルを使って実行することもできます -- Deep Ensembles Spread Over Time
• Authors: Isak Meding, Alexander Bodin, Adam Tonderski, Joakim Johnander, Christoffer Petersson, Lennart Svensson
• Abstract要約: 独立に訓練されたディープニューラルネットワークのアンサンブルは、ベイズ的ネットワークが性能において競合する不確実性を推定する。 深層アンサンブルは計算予算が限られている環境では一般的には使われない。 我々はDESOT(Deep Ensembles Spread Over Time)を提案する。
• 参考スコア（独自算出の注目度）: 44.11683942514532
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Ensembles of independently trained deep neural networks yield uncertainty estimates that rival Bayesian networks in performance. They also offer sizable improvements in terms of predictive performance over single models. However, deep ensembles are not commonly used in environments with limited computational budget -- such as autonomous driving -- since the complexity grows linearly with the number of ensemble members. An important observation that can be made for robotics applications, such as autonomous driving, is that data is typically sequential. For instance, when an object is to be recognized, an autonomous vehicle typically observes a sequence of images, rather than a single image. This raises the question, could the deep ensemble be spread over time? In this work, we propose and analyze Deep Ensembles Spread Over Time (DESOT). The idea is to apply only a single ensemble member to each data point in the sequence, and fuse the predictions over a sequence of data points. We implement and experiment with DESOT for traffic sign classification, where sequences of tracked image patches are to be classified. We find that DESOT obtains the benefits of deep ensembles, in terms of predictive and uncertainty estimation performance, while avoiding the added computational cost. Moreover, DESOT is simple to implement and does not require sequences during training. Finally, we find that DESOT, like deep ensembles, outperform single models for out-of-distribution detection.
• Abstract（参考訳）: 独立に訓練されたディープニューラルネットワークのアンサンブルは、ライバルのベイズネットワークのパフォーマンスに不確実性をもたらす。 単一モデルに対する予測パフォーマンスの面でも大幅に改善されている。 しかし、深層アンサンブルは、アンサンブルメンバーの数とともに複雑さが直線的に増加するため、自律運転のような限られた計算予算を持つ環境では一般的には使われない。 自動運転のようなロボット工学の応用に応用できる重要な観察は、データが一般的にシーケンシャルであることだ。 例えば、物体が認識されるとき、自動運転車は通常、単一の画像ではなく、一連の画像を観察します。 これにより、深いアンサンブルが時間とともに広がるのかという疑問が持ち上がる。 本研究では,時間とともに広がる深層アンサンブル(desot)の提案と解析を行う。 このアイデアは、シーケンスの各データポイントに1つのアンサンブルメンバーのみを適用し、一連のデータポイントに予測を融合させることである。 我々は,追跡画像パッチのシーケンスを分類する交通標識分類のためのdesotを実装し,実験を行った。 desotは計算コストの増加を回避しつつ,予測および不確実性推定性能の観点から,深いアンサンブルの利点を享受できることがわかった。 さらに、DESOTは実装が簡単で、トレーニング中にシーケンスを必要としない。 最後に、デソットは深いアンサンブルと同様に、分散検出のために単一のモデルよりも優れています。

関連論文リスト

• RandomNet: Clustering Time Series Using Untrained Deep Neural Networks [1.5860429142045245]
  我々は、訓練されていないディープニューラルネットワークをクラスタ時系列に利用する新しいアプローチRandomNetを提案する。 我々は、よく知られたUCR時系列アーカイブにおいて、128のデータセット全てについて広範な実験を行う。 実験の結果,提案手法は既存の最先端手法と競合することがわかった。
  論文  参考訳（メタデータ） (2024-08-15T06:09:19Z)
• XLD: A Cross-Lane Dataset for Benchmarking Novel Driving View Synthesis [84.23233209017192]
  本稿では,自律走行シミュレーションに特化して設計された新しい駆動ビュー合成データセットとベンチマークを提案する。 データセットには、トレーニング軌跡から1-4mずれて取得した画像のテストが含まれているため、ユニークなものだ。 我々は、フロントオンリーおよびマルチカメラ設定下で、既存のNVSアプローチを評価するための最初の現実的なベンチマークを確立する。
  論文  参考訳（メタデータ） (2024-06-26T14:00:21Z)
• LoRA-Ensemble: Efficient Uncertainty Modelling for Self-attention Networks [52.46420522934253]
  本稿では,自己注意ネットワークのためのパラメータ効率の高いディープアンサンブル手法であるLoRA-Ensembleを紹介する。 全メンバー間で重みを共有できる1つの事前学習型自己注意ネットワークを利用することで、注意投影のために、メンバー固有の低ランク行列を訓練する。 提案手法は明示的なアンサンブルよりも優れたキャリブレーションを示し,様々な予測タスクやデータセットに対して類似あるいは良好な精度を実現する。
  論文  参考訳（メタデータ） (2024-05-23T11:10:32Z)
• Self-Supervised Multi-Object Tracking For Autonomous Driving From Consistency Across Timescales [53.55369862746357]
  自己管理型マルチオブジェクトトラッカーは、生のドメイン固有データから学習できるという大きな可能性を秘めている。 しかし、その再識別精度は、監督対象よりも低い。 本稿では,複数の連続フレームから再同定特徴を自己教師付きで学習できる学習目標を提案する。
  論文  参考訳（メタデータ） (2023-04-25T20:47:29Z)
• STDepthFormer: Predicting Spatio-temporal Depth from Video with a Self-supervised Transformer Model [0.0]
  ビデオ入力と空間的時間的注意ネットワークから,映像のフレーム列を同時に予測する自己教師型モデルを提案する。 提案モデルでは,物体形状やテクスチャなどの事前のシーン知識を,単一画像深度推定法に類似した手法で活用する。 マルチオブジェクト検出、セグメンテーション、トラッキングを含む複雑なモデルを必要とするのではなく、暗黙的にシーン内のオブジェクトの動きを予測することができる。
  論文  参考訳（メタデータ） (2023-03-02T12:22:51Z)
• Seasonal Encoder-Decoder Architecture for Forecasting [1.9188864062289432]
  本稿では,季節相関をインテリジェントに捉えた新しいRNNアーキテクチャを提案する。 それはよく知られたエンコーダ・デコーダ(ED)アーキテクチャと乗法的季節自動回帰モデルから動機付けられている。 単一または複数のシーケンスデータに使用できる。
  論文  参考訳（メタデータ） (2022-07-08T20:06:45Z)
• Predicting Pedestrian Crossing Intention with Feature Fusion and Spatio-Temporal Attention [0.0]
  歩行者の交差の意図は都市運転のためにリアルタイムで認識されるべきです。 最近の研究は、このタスクに視覚ベースのディープニューラルネットワークモデルを使用することの可能性を示している。 本研究は,歩行者横断意図予測において,本質的に異なる時間的特徴を融合するニューラルネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-04-12T14:10:25Z)
• Predicting Temporal Sets with Deep Neural Networks [50.53727580527024]
  本稿では,時間集合予測のためのディープニューラルネットワークに基づく統合解を提案する。 ユニークな視点は、セットレベルの共起グラフを構築することで要素関係を学ぶことである。 我々は,要素や集合の時間依存性を適応的に学習するアテンションベースのモジュールを設計する。
  論文  参考訳（メタデータ） (2020-06-20T03:29:02Z)
• Spatiotemporal Relationship Reasoning for Pedestrian Intent Prediction [57.56466850377598]
  視覚データに対する推論は、ロボティクスとビジョンベースのアプリケーションにとって望ましい能力である。 本稿では,歩行者の意図を推論するため,現場の異なる物体間の関係を明らかにするためのグラフ上でのフレームワークを提案する。 歩行者の意図は、通りを横切る、あるいは横断しない将来の行動として定義され、自動運転車にとって非常に重要な情報である。
  論文  参考訳（メタデータ） (2020-02-20T18:50:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。