論文の概要: Optimizing Ethical Risk Reduction for Medical Intelligent Systems with Constraint Programming

• arxiv url: http://arxiv.org/abs/2510.07491v1
• Date: Wed, 08 Oct 2025 19:40:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-10 17:54:14.699967
• Title: Optimizing Ethical Risk Reduction for Medical Intelligent Systems with Constraint Programming
• Title（参考訳）: 制約プログラミングによる医療知能システムの倫理的リスク低減の最適化
• Authors: Clotilde Brayé, Aurélien Bricout, Arnaud Gotlieb, Nadjib Lazaar, Quentin Vallet,
• Abstract要約: 医療知能システム(MIS)は、医療にますます統合され、重要な利益を提供するとともに、重要な安全と倫理上の懸念を提起している。 ほとんどのMISはリスクの高いシステムに分類され、信頼できるAIの倫理的要件に準拠するためには、正式なリスク管理プロセスが必要である。 我々は,倫理的考察によるリスク低減を目的としたリスク低減最適化問題に焦点をあてる。
• 参考スコア（独自算出の注目度）: 4.283774189998498
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Medical Intelligent Systems (MIS) are increasingly integrated into healthcare workflows, offering significant benefits but also raising critical safety and ethical concerns. According to the European Union AI Act, most MIS will be classified as high-risk systems, requiring a formal risk management process to ensure compliance with the ethical requirements of trustworthy AI. In this context, we focus on risk reduction optimization problems, which aim to reduce risks with ethical considerations by finding the best balanced assignment of risk assessment values according to their coverage of trustworthy AI ethical requirements. We formalize this problem as a constrained optimization task and investigate three resolution paradigms: Mixed Integer Programming (MIP), Satisfiability (SAT), and Constraint Programming(CP).Our contributions include the mathematical formulation of this optimization problem, its modeling with the Minizinc constraint modeling language, and a comparative experimental study that analyzes the performance, expressiveness, and scalability of each approach to solving. From the identified limits of the methodology, we draw some perspectives of this work regarding the integration of the Minizinc model into a complete trustworthy AI ethical risk management process for MIS.
• Abstract（参考訳）: 医療知能システム(MIS)は、医療ワークフローにますます統合され、大きなメリットを提供するとともに、重要な安全と倫理的懸念を提起している。 欧州連合のAI法によると、ほとんどのMISはハイリスクシステムに分類され、信頼できるAIの倫理的要件に準拠するために正式なリスク管理プロセスが必要になる。 この文脈では、信頼に値するAI倫理的要件のカバレッジに基づいて、リスク評価値の最適なバランスの確保を行うことにより、倫理的考察によるリスク低減を目標とするリスク低減最適化問題に焦点をあてる。 本稿では,この問題を制約付き最適化タスクとして形式化し,MIP(Mixed Integer Programming),SAT(Satisfiability),CP(Constraint Programming)の3つのパラダイムについて検討する。 我々の貢献には、この最適化問題の数学的定式化、Minizinc制約モデリング言語を用いたモデリング、および各解法の性能、表現性、拡張性を分析するための比較実験が含まれる。 方法論の特定された限界から、MISの信頼性の高いAI倫理的リスク管理プロセスへのMinizincモデルの統合に関して、この研究のいくつかの視点を導き出す。

関連論文リスト

• Human services organizations and the responsible integration of AI: Considering ethics and contextualizing risk(s) [0.0]
  著者らは、AIデプロイメントに関する倫理的懸念は、実装コンテキストや特定のユースケースによって大きく異なると主張している。 彼らは、データ感度、専門的な監視要件、クライアントの幸福に対する潜在的影響などの要因を考慮に入れた、次元的リスクアセスメントアプローチを提案する。
  論文  参考訳（メタデータ） (2025-01-20T19:38:21Z)
• Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
  信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。 私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
  論文  参考訳（メタデータ） (2024-10-25T07:53:32Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• Application of the NIST AI Risk Management Framework to Surveillance Technology [1.5442389863546546]
  本研究は、NIST AI RMF(National Institute of Standards and Technology's AI Risk Management Framework)の応用と意義を詳細に分析する。 本研究は, 顔認識システムのリスクが高く, 連続性が高いことから, 本分野におけるリスク管理への構造的アプローチの必要性を強調している。
  論文  参考訳（メタデータ） (2024-03-22T23:07:11Z)
• RiskQ: Risk-sensitive Multi-Agent Reinforcement Learning Value Factorization [49.26510528455664]
  本稿では,リスクに敏感な個人・グローバル・マックス(RIGM)の原則を,個人・グローバル・マックス(IGM)と分散IGM(DIGM)の原則の一般化として紹介する。 RiskQは広範な実験によって有望な性能が得られることを示す。
  論文  参考訳（メタデータ） (2023-11-03T07:18:36Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。