論文の概要: Probabilistic ML Verification via Weighted Model Integration

• arxiv url: http://arxiv.org/abs/2402.04892v2
• Date: Wed, 23 Oct 2024 09:04:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-24 13:53:38.000154
• Title: Probabilistic ML Verification via Weighted Model Integration
• Title（参考訳）: 重み付きモデル統合による確率的ML検証
• Authors: Paolo Morettin, Andrea Passerini, Roberto Sebastiani,
• Abstract要約: 機械学習モデルの確率形式検証(PFV)はその初期段階にある。 重み付きモデル統合(WMI)に基づくMLシステムのPFV統合フレームワークを提案する。 ML検証文献におけるスケーリング手法が,本来の範囲を超えていかに一般化できるかを示す。
• 参考スコア（独自算出の注目度）: 11.812078181471634
• License:
• Abstract: In machine learning (ML) verification, the majority of procedures are non-quantitative and therefore cannot be used for verifying probabilistic models, or be applied in domains where hard guarantees are practically unachievable. The probabilistic formal verification (PFV) of ML models is in its infancy, with the existing approaches limited to specific ML models, properties, or both. This contrasts with standard formal methods techniques, whose successful adoption in real-world scenarios is also due to their support for a wide range of properties and diverse systems. We propose a unifying framework for the PFV of ML systems based on Weighted Model Integration (WMI), a relatively recent formalism for probabilistic inference with algebraic and logical constraints. Crucially, reducing the PFV of ML models to WMI enables the verification of many properties of interest over a wide range of systems, addressing multiple limitations of deterministic verification and ad-hoc algorithms. We substantiate the generality of the approach on prototypical tasks involving the verification of group fairness, monotonicity, robustness to noise, probabilistic local robustness and equivalence among predictors. We characterize the challenges related to the scalability of the approach and, through our WMI-based perspective, we show how successful scaling techniques in the ML verification literature can be generalized beyond their original scope.
• Abstract（参考訳）: 機械学習(ML)検証では、ほとんどの手順は定量的ではないため、確率的モデルの検証には使用できない。 MLモデルの確率的形式検証(PFV)は、その初期段階にあり、既存のアプローチは特定のMLモデル、プロパティ、あるいは両方に限定されている。 これは、現実世界のシナリオで成功している標準的な形式的手法とは対照的である。 Weighted Model Integration (WMI) に基づくMLシステムのPFV統合フレームワークを提案する。 重要なことに、MLモデルのPFVをWMIに還元することで、決定論的検証とアドホックアルゴリズムの複数の制限に対処し、幅広いシステムにおいて多くの利害関係の検証が可能になる。 我々は,群フェアネス,単調性,雑音に対する頑健性,確率的局所ロバスト性,および予測値の検証を含む原型的タスクに対するアプローチの一般化を実証する。 我々は、アプローチのスケーラビリティに関する課題を特徴付け、WMIをベースとした視点から、ML検証文学におけるスケーリング技術の成功が、元のスコープを超えていかに一般化できるかを示す。

関連論文リスト

• Amortized Bayesian Multilevel Models [9.831471158899644]
  マルチレベルモデル(MLM)はベイズワークフローの中心的なビルディングブロックである。 MLMは重要な計算上の課題を生じさせ、しばしばその推定と評価は合理的な時間制約の中で難解である。 シミュレーションに基づく推論の最近の進歩は、深層生成ネットワークを用いた複雑な確率モデルに対処するための有望な解決策を提供する。 我々は、マルチレベルモデルの確率的分解を利用して、効率的なニューラルネットワークトレーニングと、未知のデータセットに対する後続の即時推論を容易にするニューラルネットワークアーキテクチャのファミリーを探索する。
  論文  参考訳（メタデータ） (2024-08-23T17:11:04Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• Chain-of-Thought Prompting for Demographic Inference with Large Multimodal Models [58.58594658683919]
  大規模マルチモーダルモデル (LMM) は、様々な研究課題において変換可能性を示している。 以上の結果から,LMMはゼロショット学習,解釈可能性,未修正入力の処理に長所があることが示唆された。 本稿では,目標外予測問題を効果的に緩和するChain-of-Thought拡張プロンプト手法を提案する。
  論文  参考訳（メタデータ） (2024-05-24T16:26:56Z)
• OSM: Leveraging Model Checking for Observing Dynamic 1 behaviors in Aspect-Oriented Applications [0.0]
  観測ベース統計モデルチェック(OSM)フレームワークは、基本的なシステムコードから直接実行可能な形式モデルを構築するために開発された。 これにより、プリコンディションシフト中の電子健康記録システムの未収量性能が保証される。
  論文  参考訳（メタデータ） (2024-03-03T00:03:34Z)
• Model Composition for Multimodal Large Language Models [71.5729418523411]
  本稿では,既存のMLLMのモデル構成による新しいパラダイムを提案する。 我々の基本的な実装であるNaiveMCは、モダリティエンコーダを再利用し、LLMパラメータをマージすることで、このパラダイムの有効性を実証する。
  論文  参考訳（メタデータ） (2024-02-20T06:38:10Z)
• Machine learning for structure-property relationships: Scalability and limitations [3.664479980617018]
  本稿では,多体システムの集中特性,特に分類フェーズを予測するためのスケーラブル機械学習(ML)フレームワークを提案する。 局所性仮定に基づいて,有限サイズのブロックの集中特性の予測のためにMLモデルを開発した。 本手法の適用性は,MLモデルのブロックサイズがシステムの特徴的長さスケールよりも大きいかどうかに依存する。
  論文  参考訳（メタデータ） (2023-04-11T21:17:28Z)
• Provable Generalization of Overparameterized Meta-learning Trained with SGD [62.892930625034374]
  我々は、広く使われているメタラーニング手法、モデル非依存メタラーニング(MAML)の一般化について研究する。 我々は、MAMLの過大なリスクに対して、上界と下界の両方を提供し、SGDダイナミクスがこれらの一般化境界にどのように影響するかをキャプチャする。 理論的知見は実験によってさらに検証される。
  論文  参考訳（メタデータ） (2022-06-18T07:22:57Z)
• Algorithmic Fairness Verification with Graphical Models [24.8005399877574]
  本稿では,ベイズネットワークのような特徴間の相関を符号化する,FVGMと呼ばれる効率の良いフェアネス検証手法を提案する。 FVGMは、より多様なフェアネス向上アルゴリズムのファミリーに対して、正確でスケーラブルな評価をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-09-20T12:05:14Z)
• Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
  自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。 一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。 我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
  論文  参考訳（メタデータ） (2021-06-09T05:56:42Z)
• Fair Bayesian Optimization [25.80374249896801]
  機械学習(ML)モデルの性能を最適化するために、一般的な制約付きベイズ最適化フレームワークを導入する。 我々は、ランダムな森林、ブースティング、ニューラルネットワークなど、さまざまな人気モデルに公平性制約のあるBOを適用した。 提案手法は,モデル固有の公正性制約を強制する特殊な手法と競合することを示す。
  論文  参考訳（メタデータ） (2020-06-09T08:31:08Z)
• Theoretical Convergence of Multi-Step Model-Agnostic Meta-Learning [63.64636047748605]
  一般的なマルチステップMAMLアルゴリズムに対して収束保証を提供するための新しい理論フレームワークを開発する。 特に,本研究の結果は,収束を保証するためには,内部段階のステップを逆比例して$N$の内段ステップを選択する必要があることを示唆している。
  論文  参考訳（メタデータ） (2020-02-18T19:17:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。