論文の概要: A Unified Framework for Probabilistic Verification of AI Systems via Weighted Model Integration

• arxiv url: http://arxiv.org/abs/2402.04892v1
• Date: Wed, 7 Feb 2024 14:24:04 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-08 15:02:54.365441
• Title: A Unified Framework for Probabilistic Verification of AI Systems via Weighted Model Integration
• Title（参考訳）: 重み付きモデル統合によるAIシステムの確率的検証のための統一フレームワーク
• Authors: Paolo Morettin, Andrea Passerini and Roberto Sebastiani
• Abstract要約: AIシステムの確率形式検証(PFV)はその初期段階にある。 Weighted Model Integration (WMI)に基づくAIシステムのPFV統合フレームワークを提案する。 この削減により、幅広い機械学習モデルに対して、公正性、ロバスト性、モノトニック性など、多くの興味のある性質の検証が可能になる。
• 参考スコア（独自算出の注目度）: 13.275592130089953
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The probabilistic formal verification (PFV) of AI systems is in its infancy. So far, approaches have been limited to ad-hoc algorithms for specific classes of models and/or properties. We propose a unifying framework for the PFV of AI systems based onWeighted Model Integration (WMI), which allows to frame the problem in very general terms. Crucially, this reduction enables the verification of many properties of interest, like fairness, robustness or monotonicity, over a wide range of machine learning models, without making strong distributional assumptions. We support the generality of the approach by solving multiple verification tasks with a single, off-the-shelf WMI solver, then discuss the scalability challenges and research directions related to this promising framework.
• Abstract（参考訳）: AIシステムの確率論的形式検証(PFV)はその初期段階にある。 これまで、アプローチはモデルやプロパティの特定のクラスに対するアドホックアルゴリズムに限られてきた。 本稿では,aiシステムのpfvのための統一フレームワークとして,重み付きモデル統合(wmi)を提案する。 この削減は、公平性、堅牢性、モノトニック性といった関心のある多くの性質を、強い分布的仮定をすることなく、幅広い機械学習モデル上で検証可能にする。 我々は,複数の検証タスクを1つの既製のWMIソルバで解くことによって,このアプローチの汎用性をサポートし,このフレームワークに関連するスケーラビリティの課題と研究の方向性について議論する。

関連論文リスト

• Amortized Bayesian Multilevel Models [9.831471158899644]
  マルチレベルモデル(MLM)はベイズワークフローの中心的なビルディングブロックである。 MLMは重要な計算上の課題を生じさせ、しばしばその推定と評価は合理的な時間制約の中で難解である。 シミュレーションに基づく推論の最近の進歩は、深層生成ネットワークを用いた複雑な確率モデルに対処するための有望な解決策を提供する。 我々は、マルチレベルモデルの確率的分解を利用して、効率的なニューラルネットワークトレーニングと、未知のデータセットに対する後続の即時推論を容易にするニューラルネットワークアーキテクチャのファミリーを探索する。
  論文  参考訳（メタデータ） (2024-08-23T17:11:04Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• Chain-of-Thought Prompting for Demographic Inference with Large Multimodal Models [58.58594658683919]
  大規模マルチモーダルモデル (LMM) は、様々な研究課題において変換可能性を示している。 以上の結果から,LMMはゼロショット学習,解釈可能性,未修正入力の処理に長所があることが示唆された。 本稿では,目標外予測問題を効果的に緩和するChain-of-Thought拡張プロンプト手法を提案する。
  論文  参考訳（メタデータ） (2024-05-24T16:26:56Z)
• OSM: Leveraging Model Checking for Observing Dynamic 1 behaviors in Aspect-Oriented Applications [0.0]
  観測ベース統計モデルチェック(OSM)フレームワークは、基本的なシステムコードから直接実行可能な形式モデルを構築するために開発された。 これにより、プリコンディションシフト中の電子健康記録システムの未収量性能が保証される。
  論文  参考訳（メタデータ） (2024-03-03T00:03:34Z)
• Model Composition for Multimodal Large Language Models [71.5729418523411]
  本稿では,既存のMLLMのモデル構成による新しいパラダイムを提案する。 我々の基本的な実装であるNaiveMCは、モダリティエンコーダを再利用し、LLMパラメータをマージすることで、このパラダイムの有効性を実証する。
  論文  参考訳（メタデータ） (2024-02-20T06:38:10Z)
• Machine learning for structure-property relationships: Scalability and limitations [3.664479980617018]
  本稿では,多体システムの集中特性,特に分類フェーズを予測するためのスケーラブル機械学習(ML)フレームワークを提案する。 局所性仮定に基づいて,有限サイズのブロックの集中特性の予測のためにMLモデルを開発した。 本手法の適用性は,MLモデルのブロックサイズがシステムの特徴的長さスケールよりも大きいかどうかに依存する。
  論文  参考訳（メタデータ） (2023-04-11T21:17:28Z)
• Provable Generalization of Overparameterized Meta-learning Trained with SGD [62.892930625034374]
  我々は、広く使われているメタラーニング手法、モデル非依存メタラーニング(MAML)の一般化について研究する。 我々は、MAMLの過大なリスクに対して、上界と下界の両方を提供し、SGDダイナミクスがこれらの一般化境界にどのように影響するかをキャプチャする。 理論的知見は実験によってさらに検証される。
  論文  参考訳（メタデータ） (2022-06-18T07:22:57Z)
• Algorithmic Fairness Verification with Graphical Models [24.8005399877574]
  本稿では,ベイズネットワークのような特徴間の相関を符号化する,FVGMと呼ばれる効率の良いフェアネス検証手法を提案する。 FVGMは、より多様なフェアネス向上アルゴリズムのファミリーに対して、正確でスケーラブルな評価をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-09-20T12:05:14Z)
• Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
  自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。 一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。 我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
  論文  参考訳（メタデータ） (2021-06-09T05:56:42Z)
• Fair Bayesian Optimization [25.80374249896801]
  機械学習(ML)モデルの性能を最適化するために、一般的な制約付きベイズ最適化フレームワークを導入する。 我々は、ランダムな森林、ブースティング、ニューラルネットワークなど、さまざまな人気モデルに公平性制約のあるBOを適用した。 提案手法は,モデル固有の公正性制約を強制する特殊な手法と競合することを示す。
  論文  参考訳（メタデータ） (2020-06-09T08:31:08Z)
• Theoretical Convergence of Multi-Step Model-Agnostic Meta-Learning [63.64636047748605]
  一般的なマルチステップMAMLアルゴリズムに対して収束保証を提供するための新しい理論フレームワークを開発する。 特に,本研究の結果は,収束を保証するためには,内部段階のステップを逆比例して$N$の内段ステップを選択する必要があることを示唆している。
  論文  参考訳（メタデータ） (2020-02-18T19:17:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。