論文の概要: A Unified Framework for Probabilistic Verification of AI Systems via Weighted Model Integration

• arxiv url: http://arxiv.org/abs/2402.04892v1
• Date: Wed, 7 Feb 2024 14:24:04 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-08 15:02:54.365441
• Title: A Unified Framework for Probabilistic Verification of AI Systems via Weighted Model Integration
• Title（参考訳）: 重み付きモデル統合によるAIシステムの確率的検証のための統一フレームワーク
• Authors: Paolo Morettin, Andrea Passerini and Roberto Sebastiani
• Abstract要約: AIシステムの確率形式検証(PFV)はその初期段階にある。 Weighted Model Integration (WMI)に基づくAIシステムのPFV統合フレームワークを提案する。 この削減により、幅広い機械学習モデルに対して、公正性、ロバスト性、モノトニック性など、多くの興味のある性質の検証が可能になる。
• 参考スコア（独自算出の注目度）: 13.275592130089953
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The probabilistic formal verification (PFV) of AI systems is in its infancy. So far, approaches have been limited to ad-hoc algorithms for specific classes of models and/or properties. We propose a unifying framework for the PFV of AI systems based onWeighted Model Integration (WMI), which allows to frame the problem in very general terms. Crucially, this reduction enables the verification of many properties of interest, like fairness, robustness or monotonicity, over a wide range of machine learning models, without making strong distributional assumptions. We support the generality of the approach by solving multiple verification tasks with a single, off-the-shelf WMI solver, then discuss the scalability challenges and research directions related to this promising framework.
• Abstract（参考訳）: AIシステムの確率論的形式検証(PFV)はその初期段階にある。 これまで、アプローチはモデルやプロパティの特定のクラスに対するアドホックアルゴリズムに限られてきた。 本稿では,aiシステムのpfvのための統一フレームワークとして,重み付きモデル統合(wmi)を提案する。 この削減は、公平性、堅牢性、モノトニック性といった関心のある多くの性質を、強い分布的仮定をすることなく、幅広い機械学習モデル上で検証可能にする。 我々は,複数の検証タスクを1つの既製のWMIソルバで解くことによって,このアプローチの汎用性をサポートし,このフレームワークに関連するスケーラビリティの課題と研究の方向性について議論する。

関連論文リスト

• Investigating the Role of Instruction Variety and Task Difficulty in Robotic Manipulation Tasks [50.75902473813379]
  本研究は、そのようなモデルの一般化能力における命令と入力の役割を体系的に検証する包括的評価フレームワークを導入する。 提案フレームワークは,極度の命令摂動に対するマルチモーダルモデルのレジリエンスと,観測的変化に対する脆弱性を明らかにする。
  論文  参考訳（メタデータ） (2024-07-04T14:36:49Z)
• LoRA-Ensemble: Efficient Uncertainty Modelling for Self-attention Networks [52.46420522934253]
  本稿では,自己注意ネットワークのためのパラメータ効率の高いディープアンサンブル手法であるLoRA-Ensembleを紹介する。 全メンバー間で重みを共有できる1つの事前学習型自己注意ネットワークを利用することで、注意投影のために、メンバー固有の低ランク行列を訓練する。 提案手法は明示的なアンサンブルよりも優れたキャリブレーションを示し,様々な予測タスクやデータセットに対して類似あるいは良好な精度を実現する。
  論文  参考訳（メタデータ） (2024-05-23T11:10:32Z)
• A General Framework for Learning from Weak Supervision [93.89870459388185]
  本稿では、新しいアルゴリズムを用いて、弱監督(GLWS)から学習するための一般的な枠組みを紹介する。 GLWSの中心は期待最大化(EM)の定式化であり、様々な弱い監督源を順応的に収容している。 また,EM計算要求を大幅に単純化する高度なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-02-02T21:48:50Z)
• Multi-Agent Verification and Control with Probabilistic Model Checking [4.56877715768796]
  確率的モデルチェック(probabilistic model check)は、ソフトウェアやハードウェアシステムに関する公式な自動推論手法である。 論理学、オートマトン、グラフ理論から最適化、数値法、制御に至るまで、様々な分野のアイデアと技術に基づいて構築される。 近年ではゲーム理論のアイデアを統合するために確率的モデル検査も拡張されている。
  論文  参考訳（メタデータ） (2023-08-05T09:31:32Z)
• GLUECons: A Generic Benchmark for Learning Under Constraints [102.78051169725455]
  本研究では,自然言語処理とコンピュータビジョンの分野における9つのタスクの集合であるベンチマークを作成する。 外部知識を制約としてモデル化し、各タスクの制約のソースを特定し、これらの制約を使用するさまざまなモデルを実装します。
  論文  参考訳（メタデータ） (2023-02-16T16:45:36Z)
• Enhancing SMT-based Weighted Model Integration by Structure Awareness [10.812681884889697]
  重み付きモデル統合(WMI)は、ハイブリッドドメインにおける確率的推論の統一形式として登場した。 本研究では,SMTに基づく列挙法と問題構造を効果的に符号化するアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-02-13T08:55:12Z)
• On Robust Numerical Solver for ODE via Self-Attention Mechanism [82.95493796476767]
  我々は,内在性雑音障害を緩和し,AIによって強化された数値解法を,データサイズを小さくする訓練について検討する。 まず,教師付き学習における雑音を制御するための自己認識機構の能力を解析し,さらに微分方程式の数値解に付加的な自己認識機構を導入し,簡便かつ有効な数値解法であるAttrを提案する。
  論文  参考訳（メタデータ） (2023-02-05T01:39:21Z)
• SMT-based Weighted Model Integration with Structure Awareness [18.615397594541665]
  本研究では,SMTに基づく列挙法と問題構造を効果的に符号化するアルゴリズムを開発した。 これにより,冗長モデルの生成を回避し,計算コストを大幅に削減できる。
  論文  参考訳（メタデータ） (2022-06-28T09:46:17Z)
• Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
  マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。 我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。 コア最適化問題の実用的なパラメトリゼーションを提供する。
  論文  参考訳（メタデータ） (2021-07-08T18:01:02Z)
• A general framework for modeling and dynamic simulation of multibody systems using factor graphs [0.8701566919381223]
  本稿では,多体系の運動学的および動的問題を解くために,因子グラフ理論に基づく新しい汎用フレームワークを提案する。 独立座標と依存座標の両方を用いて多体系をモデル化・シミュレートするための因子グラフの構築方法について述べる。 提案されたフレームワークは広範なシミュレーションでテストされ、商用のマルチボディソフトウェアに対して検証されている。
  論文  参考訳（メタデータ） (2021-01-08T06:45:45Z)
• Bayesian Stress Testing of Models in a Classification Hierarchy [0.0]
  現実のアプリケーションで機械学習ソリューションを構築するには、しばしば、問題を様々な複雑さの複数のモデルに分解する。 このような階層内のモデル間の相互作用をモデル化するためのベイズ的枠組みを提案する。 我々は、このフレームワークが全体的なソリューションのストレステストを容易にし、アクティブなデプロイ前に期待されるパフォーマンスをより信頼できることを示した。
  論文  参考訳（メタデータ） (2020-05-25T18:22:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。