Fugu-MT 論文翻訳(概要): Monitor and Recover: A Paradigm for Future Research on Distribution Shift in Learning-Enabled Cyber-Physical Systems

論文の概要: Monitor and Recover: A Paradigm for Future Research on Distribution Shift in Learning-Enabled Cyber-Physical Systems

arxiv url: http://arxiv.org/abs/2504.13484v1
Date: Fri, 18 Apr 2025 05:48:35 GMT
ステータス: 翻訳完了
システム内更新日: 2025-04-28 18:58:54.59937
Title: Monitor and Recover: A Paradigm for Future Research on Distribution Shift in Learning-Enabled Cyber-Physical Systems
Title（参考訳）: モニタリングとリカバリ:学習型サイバー物理システムにおける配電シフト研究のパラダイム
Authors: Vivian Lin, Insup Lee,
Abstract要約: 本稿では,今後の研究の方向性として,モニタリングとリカバリのパラダイムを提案する。この哲学は,1) 分布シフト検出ではなく, 頑健な安全監視, 2) 停止ではなく, 分布シフト回復を重視している。
参考スコア（独自算出の注目度）: 4.593041747569581
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: With the known vulnerability of neural networks to distribution shift, maintaining reliability in learning-enabled cyber-physical systems poses a salient challenge. In response, many existing methods adopt a detect and abstain methodology, aiming to detect distribution shift at inference time so that the learning-enabled component can abstain from decision-making. This approach, however, has limited use in real-world applications. We instead propose a monitor and recover paradigm as a promising direction for future research. This philosophy emphasizes 1) robust safety monitoring instead of distribution shift detection and 2) distribution shift recovery instead of abstention. We discuss two examples from our recent work.
Abstract（参考訳）: ニューラルネットワークの分散シフトに対する脆弱性が既知のことから、学習可能なサイバー物理システムの信頼性を維持することは、大きな課題となる。これに対し,既存の多くの手法では,学習可能なコンポーネントが意思決定を妨げないように,推論時に分布シフトを検出することを目的とした,検出および棄却の手法が採用されている。しかし、このアプローチは現実世界のアプリケーションでしか使われない。そこで我々は,将来的な研究の方向性として,モニタリングとリカバリのパラダイムを提案する。この哲学は強調する 1)配電シフト検出・監視に代えて頑健な安全監視 2) 断念の代わりに分布シフト回復を行う。最近の研究の2つの例について論じる。

関連論文リスト

Lie Detector: Unified Backdoor Detection via Cross-Examination Framework [68.45399098884364]
半正直な設定で一貫したバックドア検出フレームワークを提案する。本手法は,SoTAベースラインよりも5.4%,1.6%,11.9%の精度で検出性能が向上する。特に、マルチモーダルな大規模言語モデルにおいて、バックドアを効果的に検出するのは、これが初めてである。
論文参考訳（メタデータ） (2025-03-21T06:12:06Z)
A ghost mechanism: An analytical model of abrupt learning [6.509233267425589]
一次元のシステムでさえ、分岐よりもゴーストポイントを通して突然学習できることを示す。本モデルは,突発学習のための分岐のない機構を明らかにし,学習力学の安定化における意図的不確実性と冗長性の両方の重要性を示す。
論文参考訳（メタデータ） (2025-01-04T20:49:20Z)
Safe Multi-agent Learning via Trapping Regions [89.24858306636816]
我々は、動的システムの定性理論から知られているトラップ領域の概念を適用し、分散学習のための共同戦略空間に安全セットを作成する。本稿では,既知の学習力学を持つシステムにおいて,候補がトラップ領域を形成することを検証するための二分分割アルゴリズムと,学習力学が未知のシナリオに対するサンプリングアルゴリズムを提案する。
論文参考訳（メタデータ） (2023-02-27T14:47:52Z)
Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文参考訳（メタデータ） (2022-08-23T05:02:09Z)
Learning Dynamics and Generalization in Reinforcement Learning [59.530058000689884]
時間差学習は, エージェントが訓練の初期段階において, 値関数の非平滑成分を適合させるのに役立つことを理論的に示す。本研究では,高密度報酬タスクの時間差アルゴリズムを用いて学習したニューラルネットワークが,ランダムなネットワークや政策手法で学習した勾配ネットワークよりも,状態間の一般化が弱いことを示す。
論文参考訳（メタデータ） (2022-06-05T08:49:16Z)
Anomaly Detection in Cybersecurity: Unsupervised, Graph-Based and Supervised Learning Methods in Adversarial Environments [63.942632088208505]
現在の運用環境に固有ののは、敵対的機械学習の実践である。本研究では,教師なし学習とグラフに基づく異常検出の可能性を検討する。我々は,教師付きモデルの訓練時に,現実的な対人訓練機構を組み込んで,対人環境における強力な分類性能を実現する。
論文参考訳（メタデータ） (2021-05-14T10:05:10Z)
Multivariate Deep Evidential Regression [77.34726150561087]
不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
論文参考訳（メタデータ） (2021-04-13T12:20:18Z)
Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
論文参考訳（メタデータ） (2021-01-28T16:38:26Z)
Variational Beam Search for Learning with Distribution Shifts [26.345665980534374]
i)最小限の連続観測に基づく微妙な分布シフトの推論が可能であり、(ii)それに応じてモデルをオンライン方式で適応できるベイズ式メタアルゴリズムを提案する。私たちの提案するアプローチはモデルに依存しず、教師なしと教師なしの両方の学習に適用可能であり、最先端のベイズオンライン学習アプローチよりも大幅に改善されます。
論文参考訳（メタデータ） (2020-12-15T05:28:47Z)
Lifelong Object Detection [28.608982224098565]
私たちは、新しいトレーニングクラスが逐次的に到着し、モデルを漸進的に洗練するという事実を活用します。我々は、高精度かつ効率的な予測のために、代表対象検出器であるFaster R-CNNを検討する。
論文参考訳（メタデータ） (2020-09-02T15:08:51Z)
Continual Learning for Anomaly Detection in Surveillance Videos [36.24563211765782]
本稿では,移動学習と連続学習を用いた監視ビデオのオンライン異常検出手法を提案する。提案アルゴリズムは,移動学習のためのニューラルネットワークモデルの特徴抽出能力と,統計的検出手法の連続学習能力を利用する。
論文参考訳（メタデータ） (2020-04-15T16:41:20Z)
Any-Shot Sequential Anomaly Detection in Surveillance Videos [36.24563211765782]
本稿では,トランスファーラーニングとノンショットラーニングを用いた監視ビデオのオンライン異常検出手法を提案する。提案アルゴリズムは,トランスファー学習のためのニューラルネットワークモデルの特徴抽出能力と,統計的検出手法のノンショット学習能力を利用する。
論文参考訳（メタデータ） (2020-04-05T02:15:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。