論文の概要: A Review of Formal Methods applied to Machine Learning
- arxiv url: http://arxiv.org/abs/2104.02466v1
- Date: Tue, 6 Apr 2021 12:48:17 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-07 18:12:26.293202
- Title: A Review of Formal Methods applied to Machine Learning
- Title（参考訳）: 機械学習における形式的手法の検討
- Authors: Caterina Urban and Antoine Min\'e
- Abstract要約: 機械学習システムの検証の新たな分野に適用される最先端の形式的手法を検討します。
我々はまず,安全クリティカルな分野であるavionic softwareにおいて確立された形式的手法とその現状を思い出す。
次に、機械学習のためにこれまでに開発された形式的手法を包括的かつ詳細にレビューし、その強みと限界を強調します。
- 参考スコア（独自算出の注目度）: 0.6853165736531939
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We review state-of-the-art formal methods applied to the emerging field of
the verification of machine learning systems. Formal methods can provide
rigorous correctness guarantees on hardware and software systems. Thanks to the
availability of mature tools, their use is well established in the industry,
and in particular to check safety-critical applications as they undergo a
stringent certification process. As machine learning is becoming more popular,
machine-learned components are now considered for inclusion in critical
systems. This raises the question of their safety and their verification. Yet,
established formal methods are limited to classic, i.e. non machine-learned
software. Applying formal methods to verify systems that include machine
learning has only been considered recently and poses novel challenges in
soundness, precision, and scalability.
We first recall established formal methods and their current use in an
exemplar safety-critical field, avionic software, with a focus on abstract
interpretation based techniques as they provide a high level of scalability.
This provides a golden standard and sets high expectations for machine learning
verification. We then provide a comprehensive and detailed review of the formal
methods developed so far for machine learning, highlighting their strengths and
limitations. The large majority of them verify trained neural networks and
employ either SMT, optimization, or abstract interpretation techniques. We also
discuss methods for support vector machines and decision tree ensembles, as
well as methods targeting training and data preparation, which are critical but
often neglected aspects of machine learning. Finally, we offer perspectives for
future research directions towards the formal verification of machine learning
systems.
- Abstract（参考訳）: 本稿では,機械学習システム検証の新たな分野に適用する,最先端の形式的手法について検討する。
形式的手法はハードウェアやソフトウェアシステムに対して厳密な正当性を保証する。
成熟したツールが利用可能になったことにより、業界では十分に確立されており、特に、厳格な認証プロセスの実施に伴って、安全クリティカルなアプリケーションをチェックするために利用されています。
機械学習が普及するにつれて、機械学習コンポーネントが重要なシステムに組み込まれると考えられている。
これは、彼らの安全と検証に関する疑問を提起する。
しかし、確立された形式的手法は古典に限られている。
非機械学習ソフトウェア。
機械学習を含むシステムを検証するフォーマルな方法の適用は、最近のみ検討され、音質、精度、スケーラビリティに新たな課題を提起している。
我々はまず,高レベルなスケーラビリティを提供するための抽象的解釈に基づく手法に焦点をあてた,安全クリティカルな分野であるavionic softwareにおいて確立された形式的手法とその使用を思い起こさせた。
これはゴールデンスタンダードを提供し、機械学習の検証に高い期待を抱かせる。
次に、機械学習のためにこれまでに開発された形式的手法を包括的かつ詳細にレビューし、その強みと限界を強調します。
その多くはトレーニングされたニューラルネットワークを検証し、smt、最適化、抽象的な解釈技術を使用している。
また、ベクターマシンや決定木アンサンブルをサポートする手法や、機械学習の重要だがしばしば無視される側面であるトレーニングやデータ準備を対象とする手法についても論じる。
最後に,機械学習システムの形式的検証に向けた今後の研究の方向性について述べる。
関連論文リスト
- Formal Methods for Autonomous Systems [21.989467515686858]
形式的手法は安全クリティカルシステムの正当性を確立する上で重要な役割を果たしてきた。
形式的なメソッドの主なビルディングブロックはモデルと仕様です。
様々な定式化の下で, 正しい構成合成を考察する。
論文 参考訳（メタデータ） (2023-11-02T14:18:43Z) - Formal and Practical Elements for the Certification of Machine Learning
Systems [0.9217021281095907]
機械学習モデルのパラメータは、手書きではなく、物理から派生したもので、データから学習されていることを示す。
その結果、要件を直接コード行にトレースすることはできず、現在のボトムアップの航空宇宙認証パラダイムを妨げることになる。
拡張性のある統計的検証器に基づいて,提案するフレームワークは,モデルに依存しないツールに依存しない。
論文 参考訳（メタデータ） (2023-10-05T00:20:59Z) - Lessons from Formally Verified Deployed Software Systems (Extended version) [65.69802414600832]
本稿は、正式に認証されたシステムを作成し、実際に使用するためにデプロイした各種のアプリケーション分野のプロジェクトについて検討する。
使用する技術、適用の形式、得られた結果、そしてソフトウェア産業が形式的な検証技術やツールの恩恵を受ける能力について示すべき教訓を考察する。
論文 参考訳（メタデータ） (2023-01-05T18:18:46Z) - An Overview and Prospective Outlook on Robust Training and Certification
of Machine Learning Models [12.012612885618436]
データ駆動制御システムで学習アルゴリズムが普及するにつれて、信頼性の高い安全クリティカルな操作を維持するために、データの不確実性に対する堅牢性を確保する必要がある。
まず、このような堅牢性のための一般的なフォーマリズムをレビューし、続いて、堅牢な機械学習モデルをトレーニングするためのポピュラーで最先端のテクニックについて議論する。
論文 参考訳（メタデータ） (2022-08-15T23:09:54Z) - Learning Physical Concepts in Cyber-Physical Systems: A Case Study [72.74318982275052]
本稿では,時系列データにおける物理概念の学習方法に関する研究の現状について概説する。
また,3タンクシステムの例を用いて,最先端技術から最も重要な手法を分析した。
論文 参考訳（メタデータ） (2021-11-28T14:24:52Z) - A Practical Tutorial on Explainable AI Techniques [5.671062637797752]
このチュートリアルは、コンピュータサイエンスのバックグラウンドを持つすべての読者にとって、手書きの教科書となることを意図している。
機械学習モデルの直感的な洞察を得ることを目標としている。
論文 参考訳（メタデータ） (2021-11-13T17:47:31Z) - Human-in-the-Loop Disinformation Detection: Stance, Sentiment, or
Something Else? [93.91375268580806]
政治とパンデミックは、機械学習対応の偽ニュース検出アルゴリズムの開発に十分な動機を与えている。
既存の文献は、主に完全自動化されたケースに焦点を当てているが、その結果得られた技術は、軍事応用に必要な様々なトピック、ソース、時間スケールに関する偽情報を確実に検出することはできない。
既に利用可能なアナリストを人間のループとして活用することにより、感情分析、アスペクトベースの感情分析、姿勢検出といった標準的な機械学習技術は、部分的に自動化された偽情報検出システムに使用するためのもっとも有効な方法となる。
論文 参考訳（メタデータ） (2021-11-09T13:30:34Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳（メタデータ） (2021-07-28T10:28:05Z) - Trusted Artificial Intelligence: Towards Certification of Machine
Learning Applications [5.7576910363986]
T"UV AUSTRIA Groupは、Johannes Kepler University LinzのInstitute for Machine Learningと協力して、認定プロセスを提案する。
全体的なアプローチは、セキュアなソフトウェア開発、機能要件、データ品質、データ保護、倫理の側面を評価し検証しようとするものである。
監査カタログは教師あり学習の範囲内の低リスクアプリケーションに適用することができる。
論文 参考訳（メタデータ） (2021-03-31T08:59:55Z) - Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。
私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。
当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
論文 参考訳（メタデータ） (2021-01-11T15:54:48Z) - Towards CRISP-ML(Q): A Machine Learning Process Model with Quality
Assurance Methodology [53.063411515511056]
本稿では,機械学習アプリケーション開発のためのプロセスモデルを提案する。
第1フェーズでは、データの可用性がプロジェクトの実現可能性に影響を与えることが多いため、ビジネスとデータの理解が結合されます。
第6フェーズでは、機械学習アプリケーションの監視とメンテナンスに関する最先端のアプローチがカバーされている。
論文 参考訳（メタデータ） (2020-03-11T08:25:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。