Fugu-MT 論文翻訳(概要): Gaussian-Based and Outside-the-Box Runtime Monitoring Join Forces

論文の概要: Gaussian-Based and Outside-the-Box Runtime Monitoring Join Forces

arxiv url: http://arxiv.org/abs/2410.06051v1
Date: Tue, 8 Oct 2024 13:50:26 GMT
ステータス: 処理完了
システム内更新日: 2024-11-01 11:20:35.664523
Title: Gaussian-Based and Outside-the-Box Runtime Monitoring Join Forces
Title（参考訳）: Gaussianベースとアウトサイド・ザ・ボックスのランタイム監視が協力
Authors: Vahid Hashemi, Jan Křetínský, Sabine Rieder, Torsten Schön, Jan Vorhoff,
Abstract要約: 隠れたニューロンの活性化値の観測に基づく従来のモニタリング手法のアイデアを組み合わせる。特に、計測された各ニューロンの現在の値がトレーニング中に観察される典型的な値と似ているかどうかを観察するガウス的アプローチと、許容されるアクティベーション値のクラスタを生成するOutside-the-Boxモニタを組み合わせる。
参考スコア（独自算出の注目度）: 0.6291443816903801
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Since neural networks can make wrong predictions even with high confidence, monitoring their behavior at runtime is important, especially in safety-critical domains like autonomous driving. In this paper, we combine ideas from previous monitoring approaches based on observing the activation values of hidden neurons. In particular, we combine the Gaussian-based approach, which observes whether the current value of each monitored neuron is similar to typical values observed during training, and the Outside-the-Box monitor, which creates clusters of the acceptable activation values, and, thus, considers the correlations of the neurons' values. Our experiments evaluate the achieved improvement.
Abstract（参考訳）: ニューラルネットワークは信頼性が高くても誤った予測をすることができるため、特に自律運転のような安全クリティカルな領域では、実行時の動作を監視することが重要である。本稿では,隠れニューロンの活性化値の観測に基づく従来のモニタリング手法の考え方を組み合わせる。特に、計測された各ニューロンの現在の値が、トレーニング中に観察される典型的な値に類似しているかどうかを観察するガウス的アプローチと、許容される活性化値のクラスタを生成するOutside-the-Boxモニターを組み合わせることで、ニューロンの値の相関を考察する。我々の実験は達成された改善を評価した。

関連論文リスト

Learning a Neural Association Network for Self-supervised Multi-Object Tracking [34.07776597698471]
本稿では,多目的追跡のためのデータアソシエーションを自己管理的に学習するための新しいフレームワークを提案する。実世界のシナリオでは、オブジェクトの動きが通常マルコフプロセスで表現できるという事実により、我々は、トラッキングのための検出を関連付けるためにニューラルネットワークをトレーニングする新しい期待(EM)アルゴリズムを提案する。我々は,挑戦的なMOT17とMOT20データセットに対するアプローチを評価し,自己教師付きトラッカーと比較して最先端の結果を得る。
論文参考訳（メタデータ） (2024-11-18T12:22:29Z)
Confidence Regulation Neurons in Language Models [91.90337752432075]
本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
論文参考訳（メタデータ） (2024-06-24T01:31:03Z)
Can we Defend Against the Unknown? An Empirical Study About Threshold Selection for Neural Network Monitoring [6.8734954619801885]
実行時モニタリングは、推論中に安全でない予測を拒否するために必須である。安全と安全でない予測の分布の分離性を最大化する拒絶スコアを確立するために様々な技術が出現している。実世界のアプリケーションでは、効果的なモニターは、これらのスコアを意味のあるバイナリ決定に変換するための適切なしきい値を特定する必要がある。
論文参考訳（メタデータ） (2024-05-14T14:32:58Z)
Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文参考訳（メタデータ） (2023-10-02T03:25:32Z)
Robust alignment of cross-session recordings of neural population activity by behaviour via unsupervised domain adaptation [1.2617078020344619]
本研究では,同じ動物から記録された未確認データから行動関連潜伏動態を推定できるモデルを提案する。教師なし領域適応と、複数のセッションで訓練された逐次変分オートエンコーダを組み合わせることで、見つからないデータに対して優れた一般化が達成できることを示す。
論文参考訳（メタデータ） (2022-02-12T22:17:30Z)
Learning Personal Representations from fMRIby Predicting Neurofeedback Performance [52.77024349608834]
機能的MRI(fMRI)によって導かれる自己神経変調タスクを行う個人のための個人表現を学習するためのディープニューラルネットワーク手法を提案する。この表現は、直近のfMRIフレームが与えられた次のfMRIフレームにおける扁桃体活動を予測する自己教師型リカレントニューラルネットワークによって学習され、学習された個々の表現に条件付けされる。
論文参考訳（メタデータ） (2021-12-06T10:16:54Z)
The Compact Support Neural Network [6.47243430672461]
本研究では, 標準ドット生成物に基づくニューロンとRBFニューロンを, 形状パラメータの2つの極端な場合として提示する。トレーニングされた標準ニューラルネットワークから始めて、必要な値まで形状パラメータを徐々に増加させることで、そのようなニューロンによるニューラルネットワークのトレーニングの難しさを回避する方法を示す。
論文参考訳（メタデータ） (2021-04-01T06:08:09Z)
Adaptive Rational Activations to Boost Deep Reinforcement Learning [68.10769262901003]
我々は、合理的が適応可能なアクティベーション機能に適合する理由と、ニューラルネットワークへの含意が重要である理由を動機付けている。人気アルゴリズムに(繰り返しの)アクティベーションを組み込むことで,アタリゲームにおいて一貫した改善がもたらされることを実証する。
論文参考訳（メタデータ） (2021-02-18T14:53:12Z)
And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
論文参考訳（メタデータ） (2021-02-15T08:19:05Z)
Provably-Robust Runtime Monitoring of Neuron Activation Patterns [0.0]
ディープニューラルネットワークの入力がトレーニングで使用されるデータと似ている場合、運用時間で監視することが望ましい。モニタ構築プロセス内に公式な記号的推論を統合することで,この問題に対処する。証明可能な堅牢性は、単一のニューロンの監視が複数のビット以上を使用する場合にさらに一般化される。
論文参考訳（メタデータ） (2020-11-24T08:37:18Z)
Neural Networks with Recurrent Generative Feedback [61.90658210112138]
畳み込みニューラルネットワーク(CNN)でこの設計をインスタンス化する実験では、標準ベンチマーク上の従来のフィードフォワードCNNに対して、CNN-Fは敵のロバスト性を大幅に改善した。
論文参考訳（メタデータ） (2020-07-17T19:32:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。