論文の概要: Assurance for Deployed Continual Learning Systems
- arxiv url: http://arxiv.org/abs/2311.10787v1
- Date: Thu, 16 Nov 2023 22:22:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-22 14:22:08.869730
- Title: Assurance for Deployed Continual Learning Systems
- Title（参考訳）: 展開型継続的学習システムの保証
- Authors: Ari Goodman, Ryan O'Shea, Noam Hirschorn, Hubert Chrostowski
- Abstract要約: 著者らは、ディープラーニングコンピュータビジョンアルゴリズムを用いて、連続学習を安全に実行するための新しいフレームワークを開発した。
安全フレームワークには、画像分類を実行する畳み込みニューラルネットワークのアンサンブルなど、いくつかの機能が含まれている。
結果は、システムが安全に動作していないことをフレームワークが検出できることを示している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The future success of the Navy will depend, in part, on artificial
intelligence. In practice, many artificially intelligent algorithms, and in
particular deep learning models, rely on continual learning to maintain
performance in dynamic environments. The software requires adaptation to
maintain its initial level of performance in unseen situations. However, if not
monitored properly, continual learning may lead to several issues including
catastrophic forgetting in which a trained model forgets previously learned
tasks when being retrained on new data. The authors created a new framework for
safely performing continual learning with the goal of pairing this safety
framework with a deep learning computer vision algorithm to allow for safe and
high-performing automatic deck tracking on carriers and amphibious assault
ships. The safety framework includes several features, such as an ensemble of
convolutional neural networks to perform image classification, a manager to
record confidences and determine the best answer from the ensemble, a model of
the environment to predict when the system may fail to meet minimum performance
metrics, a performance monitor to log system and domain performance and check
against requirements, and a retraining component to update the ensemble and
manager to maintain performance. The authors validated the proposed method
using extensive simulation studies based on dynamic image classification. The
authors showed the safety framework could probabilistically detect out of
distribution data. The results also show the framework can detect when the
system is no longer performing safely and can significantly extend the working
envelope of an image classifier.
- Abstract（参考訳）: 将来の海軍の成功は、部分的には人工知能に依存するだろう。
実際、多くの人工知能アルゴリズム、特にディープラーニングモデルは、動的環境におけるパフォーマンスを維持するために連続的な学習に依存している。
ソフトウェアは、目に見えない状況で最初のレベルのパフォーマンスを維持するために適応が必要である。
しかし、適切に監視されていない場合、継続学習は、トレーニングされたモデルが新しいデータで再訓練された際に、以前の学習されたタスクを忘れてしまう破滅的な忘れ込みなど、いくつかの問題を引き起こす可能性がある。
著者らは、この安全性フレームワークをディープラーニングコンピュータビジョンアルゴリズムと組み合わせることで、空母や水陸両用攻撃船の安全かつ高性能な自動デッキトラッキングを可能にする、安全な継続的学習のための新しいフレームワークを開発した。
安全性フレームワークには、画像分類を行うための畳み込みニューラルネットワークのアンサンブル、自信を記録し、アンサンブルから最良の回答を決定するマネージャ、システムが最小パフォーマンスのメトリクスを満たすことができないかどうかを予測する環境のモデル、ログシステムへのパフォーマンスモニタとドメインパフォーマンスと要求に対するチェック、アンサンブルとマネージャを更新してパフォーマンスを維持するリトレーニングコンポーネントなど、いくつかの機能が含まれている。
著者らは動的画像分類に基づく広範囲なシミュレーション研究を用いて提案手法を検証した。
著者らは、安全フレームワークが分布データから確率的に検出できることを示した。
結果は、システムがもはや正常に動作していないことを検知し、画像分類器の動作エンベロープを著しく拡張することができることも示している。
関連論文リスト
- Data-Aware Training Quality Monitoring and Certification for Reliable Deep Learning [13.846014191157405]
我々は、ニューラルネットワークトレーニングのリアルタイム、データ認識認証、監視のための新しいフレームワークであるYESトレーニングバウンドを紹介する。
我々は,YESバウンダリが,最適地域におけるトレーニング損失高原の特定など,従来の局所最適化の視点を超えた洞察を提供することを示した。
私たちはリアルタイム評価のための強力なツールを提供し、ディープラーニングにおける品質保証をトレーニングするための新しい標準を設定しています。
論文 参考訳（メタデータ） (2024-10-14T18:13:22Z) - Semi-Supervised Multi-Task Learning Based Framework for Power System Security Assessment [0.0]
本稿では,Semi-Supervised Multi-Task Learning (SS-MTL) を用いた,電力系統の動的セキュリティ評価のための新しい機械学習フレームワークを開発する。
提案フレームワークの基盤となる学習アルゴリズムは条件付きマスク付きエンコーダを統合し,マルチタスク学習を用いて特徴表現を分類する。
IEEE 68-busシステムに関する様々な実験を行い,提案手法の有効性を検証した。
論文 参考訳（メタデータ） (2024-07-11T22:42:53Z) - Model-Based Runtime Monitoring with Interactive Imitation Learning [30.70994322652745]
本研究は,タスク実行中のエラーを監視し,検出する能力を備えたロボットの実現を目的とする。
本稿では,デプロイメントデータからシステム異常を検出し,障害を予測するためのモデルベースランタイム監視アルゴリズムを提案する。
本手法は, シミュレーションおよび物理ハードウェアにおいて, 23%, 40%高い成功率で, システムレベルおよび単体テストの基準線を上回り, 性能を向上する。
論文 参考訳（メタデータ） (2023-10-26T16:45:44Z) - Self-Supervised Representation Learning from Temporal Ordering of
Automated Driving Sequences [49.91741677556553]
本研究では、認識タスクのための地域レベルの特徴表現を事前学習するための時間順述前文タスクであるTempOを提案する。
我々は各フレームを、オブジェクト検出やトラッキングシステムにとって自然な表現である、未順序な特徴ベクトルのセットで埋め込む。
BDD100K、nu Images、MOT17データセットの大規模な評価は、私たちのTempO事前学習アプローチがシングルフレームの自己教師型学習方法よりも優れていることを示している。
論文 参考訳（メタデータ） (2023-02-17T18:18:27Z) - ConCerNet: A Contrastive Learning Based Framework for Automated
Conservation Law Discovery and Trustworthy Dynamical System Prediction [82.81767856234956]
本稿では,DNNに基づく動的モデリングの信頼性を向上させるために,ConCerNetという新しい学習フレームワークを提案する。
本手法は, 座標誤差と保存量の両方において, ベースラインニューラルネットワークよりも一貫して優れていることを示す。
論文 参考訳（メタデータ） (2023-02-11T21:07:30Z) - Software Vulnerability Detection via Deep Learning over Disaggregated
Code Graph Representation [57.92972327649165]
この研究は、コードコーパスから安全でないパターンを自動的に学習するためのディープラーニングアプローチを探求する。
コードには解析を伴うグラフ構造が自然に認められるため,プログラムの意味的文脈と構造的規則性の両方を利用する新しいグラフニューラルネットワーク(GNN)を開発する。
論文 参考訳（メタデータ） (2021-09-07T21:24:36Z) - Neural Network Repair with Reachability Analysis [10.384532888747993]
安全は次世代の自律性にとって重要な問題であり、知覚と制御のためにディープニューラルネットワークに大きく依存する可能性が高い。
本研究は,安全クリティカルシステムにおける安全でないDNNを到達可能性解析で修復する枠組みを提案する。
論文 参考訳（メタデータ） (2021-08-09T17:56:51Z) - Improving Music Performance Assessment with Contrastive Learning [78.8942067357231]
本研究では,既存のMPAシステムを改善するための潜在的手法として,コントラスト学習について検討する。
畳み込みニューラルネットワークに適用された回帰タスクに適した重み付きコントラスト損失を導入する。
この結果から,MPA回帰タスクにおいて,コントラッシブ・ベースの手法がSoTA性能に適合し,超越できることが示唆された。
論文 参考訳（メタデータ） (2021-08-03T19:24:25Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳（メタデータ） (2021-07-28T10:28:05Z) - Safe Active Dynamics Learning and Control: A Sequential
Exploration-Exploitation Framework [30.58186749790728]
本研究では,力学の不確実性の存在下での安全性を維持するための理論的に正当なアプローチを提案する。
我々のフレームワークは、常に全ての制約の高確率満足度を保証します。
この理論解析は、オンライン適応能力を改善する最終層メタラーニングモデルの2つの正則化を動機付けている。
論文 参考訳（メタデータ） (2020-08-26T17:39:58Z) - Chance-Constrained Trajectory Optimization for Safe Exploration and
Learning of Nonlinear Systems [81.7983463275447]
学習に基づく制御アルゴリズムは、訓練のための豊富な監督を伴うデータ収集を必要とする。
本稿では,機会制約付き最適制御と動的学習とフィードバック制御を統合した安全な探索による最適動作計画のための新しいアプローチを提案する。
論文 参考訳（メタデータ） (2020-05-09T05:57:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。