論文の概要: Logically Sound Arguments for the Effectiveness of ML Safety Measures
- arxiv url: http://arxiv.org/abs/2111.02649v1
- Date: Thu, 4 Nov 2021 06:09:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-05 15:45:27.334518
- Title: Logically Sound Arguments for the Effectiveness of ML Safety Measures
- Title（参考訳）: MLの安全対策の有効性に関する論理的考察
- Authors: Chih-Hong Cheng, Tobias Schuster, Simon Burton
- Abstract要約: 本稿では,機械学習機能の安全性に関する議論において,十分な厳格性を達成するための課題について検討する。
安全目標に関連付けることにより,不正確な歩行者位置決めの指標を明確化する。
次に,ポストプロセッサの有効性を議論するための半形式保証事例を提案する。
- 参考スコア（独自算出の注目度）: 0.1657441317977376
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate the issues of achieving sufficient rigor in the arguments for
the safety of machine learning functions. By considering the known weaknesses
of DNN-based 2D bounding box detection algorithms, we sharpen the metric of
imprecise pedestrian localization by associating it with the safety goal. The
sharpening leads to introducing a conservative post-processor after the
standard non-max-suppression as a counter-measure. We then propose a
semi-formal assurance case for arguing the effectiveness of the post-processor,
which is further translated into formal proof obligations for demonstrating the
soundness of the arguments. Applying theorem proving not only discovers the
need to introduce missing claims and mathematical concepts but also reveals the
limitation of Dempster-Shafer's rules used in semi-formal argumentation.
- Abstract（参考訳）: 本稿では,機械学習機能の安全性に関する議論において,十分な厳格性を達成するための課題について検討する。
dnnベースの2dバウンディングボックス検出アルゴリズムの既知の弱点を考慮し,安全目標と関連付けることで,歩行者位置推定の精度を向上させる。
シャープ化は、標準の非最大圧縮後の保守的なポストプロセッサの導入を対策として導く。
次に,議論の健全性を示すための形式的証明義務に翻訳されるポストプロセッサの有効性を議論するための半形式保証ケースを提案する。
定理証明を適用することで、不足するクレームや数学的概念を導入する必要性だけでなく、半形式的議論で使われるデンプスター・シェーファーの規則の限界も明らかになる。
関連論文リスト
- NLP Verification: Towards a General Methodology for Certifying Robustness [9.897538432223714]
検証された部分空間のセマンティック・ジェネリシビリティの技術的課題について論じる。
埋め込みギャップの効果を解析するための一般的な手法を提案する。
我々は,NLP検証パイプラインの一部として報告すべきもう一つの基本指標として,意味的部分空間のファルシフィビリティの尺度を提案する。
論文 参考訳（メタデータ） (2024-03-15T09:43:52Z) - CASA: Causality-driven Argument Sufficiency Assessment [79.13496878681309]
ゼロショット因果関係に基づく議論十分性評価フレームワークであるCASAを提案する。
PSは前提イベントの導入が前提イベントと結論イベントの両方が欠落した場合の結論につながる可能性を測っている。
2つの論理的誤り検出データセットの実験により、CASAは不十分な議論を正確に識別することを示した。
論文 参考訳（メタデータ） (2024-01-10T16:21:18Z) - The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural
Networks [94.63547069706459]
#DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。
違反の正確な数を返す新しい手法を提案する。
安全クリティカルなベンチマークのセットに関する実験結果を示す。
論文 参考訳（メタデータ） (2023-01-17T18:32:01Z) - Information-Theoretic Safe Exploration with Gaussian Processes [89.31922008981735]
未知の(安全でない)制約に反するパラメータを評価できないような、逐次的な意思決定タスクについて検討する。
現在のほとんどのメソッドはドメインの離散化に依存しており、連続ケースに直接拡張することはできない。
本稿では,GP後部を直接利用して,最も情報に富む安全なパラメータを識別する情報理論的安全な探索基準を提案する。
論文 参考訳（メタデータ） (2022-12-09T15:23:58Z) - Safe Exploration Method for Reinforcement Learning under Existence of
Disturbance [1.1470070927586016]
我々は、障害の存在下での強化学習における安全な探索問題に対処する。
制御対象と外乱の部分的事前知識を用いた安全な探索手法を提案する。
逆振り子と4バー並列リンクロボットマニピュレータの数値シミュレーションにより,提案手法の有効性と有効性について述べる。
論文 参考訳（メタデータ） (2022-09-30T13:00:33Z) - Logical Satisfiability of Counterfactuals for Faithful Explanations in
NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。
これは、説明に表される論理述語に基づいて、反実仮説を生成する。
そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文 参考訳（メタデータ） (2022-05-25T03:40:59Z) - Quantifying Robustness to Adversarial Word Substitutions [24.164523751390053]
深層学習に基づくNLPモデルは単語置換摂動に弱いことが判明した。
単語レベルの堅牢性を評価するための形式的枠組みを提案する。
メトリックは、BERTのような最先端のモデルが、いくつかの単語置換によって簡単に騙される理由を理解するのに役立ちます。
論文 参考訳（メタデータ） (2022-01-11T08:18:39Z) - Finding Good Proofs for Description Logic Entailments Using Recursive
Quality Measures (Extended Technical Report) [15.150938933215906]
証明がいかに理解可能であるかは、使用する計算量だけでなく、特定の証明の性質にも依存する。
我々は、計算と測度の幅広いクラスを対象とする一般的な結果を目指す。
論文 参考訳（メタデータ） (2021-04-27T12:34:13Z) - Incremental Verification of Fixed-Point Implementations of Neural
Networks [0.19573380763700707]
インクリメンタル境界モデル検査(BMC)、満足度変調理論(SMT)、不変推論を用いた新しいシンボル検証フレームワークの開発と評価を行った。
提案手法は,異なる入力画像を考慮した21の試験事例の85.8%,カバー手法に関連する特性の100%を検証・生成することができた。
論文 参考訳（メタデータ） (2020-12-21T10:03:44Z) - Semantic Security for Quantum Wiretap Channels [68.24747267214373]
本稿では,古典的量子および量子的通信路によるセマンティックセキュリティの課題について考察する。
非セキュアなコードをセマンティックにセキュアなコードに変換するために、明示的な構造を使い、二正規の既約関数によってキャパシティを達成します。
論文 参考訳（メタデータ） (2020-01-16T09:55:49Z) - Quantum-secure message authentication via blind-unforgeability [74.7729810207187]
我々は、ブラインド・アンフォージェビリティ(英語版)と呼ばれる量子敵に対する非フォージェビリティ(英語版)の自然な定義を提案する。
この概念は、予測値に「部分的に盲目」アクセスを使用できる敵が存在する場合、関数を予測可能と定義する。
標準構造と減量支援のためのブラインド・アンフォージェビリティの適合性を示す。
論文 参考訳（メタデータ） (2018-03-10T05:31:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。