論文の概要: AI Model Passport: Data and System Traceability Framework for Transparent AI in Health

• arxiv url: http://arxiv.org/abs/2506.22358v1
• Date: Fri, 27 Jun 2025 16:16:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-30 21:12:23.280572
• Title: AI Model Passport: Data and System Traceability Framework for Transparent AI in Health
• Title（参考訳）: AIモデルパスポート:健康における透明AIのためのデータとシステムのトレーサビリティフレームワーク
• Authors: Varvara Kalokyri, Nikolaos S. Tachos, Charalampos N. Kalantzopoulos, Stelios Sfakianakis, Haridimos Kondylakis, Dimitrios I. Zaridis, Sara Colantonio, Daniele Regge, Nikolaos Papanikolaou, The ProCAncer-I consortium, Konstantinos Marias, Dimitrios I. Fotiadis, Manolis Tsiknakis,
• Abstract要約: 本稿では,構造化および標準化されたドキュメントフレームワークであるAI Model Passportの概念を紹介する。 ライフサイクル全体にわたってAIモデルを特定し、検証し、追跡し、監視するために必要なメタデータをキャプチャする。 このフレームワークの実装は、医療画像アプリケーションのためのProCAncer-I EUプロジェクト内で開発されたMLOpsツールであるAIPassportを通じて提示される。
• 参考スコア（独自算出の注目度）: 4.024232575199211
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The increasing integration of Artificial Intelligence (AI) into health and biomedical systems necessitates robust frameworks for transparency, accountability, and ethical compliance. Existing frameworks often rely on human-readable, manual documentation which limits scalability, comparability, and machine interpretability across projects and platforms. They also fail to provide a unique, verifiable identity for AI models to ensure their provenance and authenticity across systems and use cases, limiting reproducibility and stakeholder trust. This paper introduces the concept of the AI Model Passport, a structured and standardized documentation framework that acts as a digital identity and verification tool for AI models. It captures essential metadata to uniquely identify, verify, trace and monitor AI models across their lifecycle - from data acquisition and preprocessing to model design, development and deployment. In addition, an implementation of this framework is presented through AIPassport, an MLOps tool developed within the ProCAncer-I EU project for medical imaging applications. AIPassport automates metadata collection, ensures proper versioning, decouples results from source scripts, and integrates with various development environments. Its effectiveness is showcased through a lesion segmentation use case using data from the ProCAncer-I dataset, illustrating how the AI Model Passport enhances transparency, reproducibility, and regulatory readiness while reducing manual effort. This approach aims to set a new standard for fostering trust and accountability in AI-driven healthcare solutions, aspiring to serve as the basis for developing transparent and regulation compliant AI systems across domains.
• Abstract（参考訳）: 人工知能(AI)の健康・医療システムへの統合は、透明性、説明責任、倫理的コンプライアンスのための堅牢なフレームワークを必要とする。 既存のフレームワークは、拡張性、可視性、およびプロジェクトやプラットフォーム間のマシン解釈性を制限する、人間可読で手動のドキュメントに依存していることが多い。 また、システムやユースケース間の証明と信頼性を保証するために、AIモデルにユニークな検証可能なアイデンティティを提供していないため、再現性やステークホルダ信頼を制限している。 本稿では,AIモデルのデジタルIDと検証ツールとして機能する,構造化および標準化されたドキュメントフレームワークであるAI Model Passportの概念を紹介する。 データ取得や前処理からモデル設計、開発、デプロイメントに至るまで、ライフサイクルを通じてAIモデルを特定し、検証し、追跡し、監視するために必要なメタデータをキャプチャする。 さらに、このフレームワークの実装は、医療画像アプリケーションのためのProCAncer-I EUプロジェクト内で開発されたMLOpsツールであるAIPassportを通じて提示される。 AIPassportはメタデータの収集を自動化し、適切なバージョニングを保証し、ソーススクリプトから結果を分離し、様々な開発環境と統合する。 その効果は、ProCAncer-Iデータセットのデータを使用した病変セグメンテーションユースケースを通じて示され、AI Model Passportが透明性、再現性、規制の即応性を向上し、手作業の削減を図っている。 このアプローチは、AI駆動型ヘルスケアソリューションにおける信頼と説明責任を促進するための新しい標準を確立することを目的としている。

関連論文リスト

• Confidence-Regulated Generative Diffusion Models for Reliable AI Agent Migration in Vehicular Metaverses [55.70043755630583]
  車両用AIエージェントには、環境認識、意思決定、行動実行能力が与えられている。 本稿では、信頼性の高い車両用AIエージェントマイグレーションフレームワークを提案し、信頼性の高い動的マイグレーションと効率的なリソーススケジューリングを実現する。 我々は,AIエージェントのマイグレーション決定を効率的に生成する信頼性制御型生成拡散モデル(CGDM)を開発した。
  論文  参考訳（メタデータ） (2025-05-19T05:04:48Z)
• A Framework for Cryptographic Verifiability of End-to-End AI Pipelines [0.8075866265341175]
  本稿では,AIパイプラインの完全検証,鍵コンポーネントの同定,既存の暗号手法の解析を行うフレームワークを提案する。 このフレームワークは、AI生成資産と共に暗号証明を提供することで、誤情報に対処するために使用することができる。
  論文  参考訳（メタデータ） (2025-03-28T16:20:57Z)
• AIDE: An Automatic Data Engine for Object Detection in Autonomous Driving [68.73885845181242]
  本稿では,問題を自動的に識別し,データを効率よくキュレートし,自動ラベル付けによりモデルを改善する自動データエンジン(AIDE)を提案する。 さらに,AVデータセットのオープンワールド検出のためのベンチマークを構築し,様々な学習パラダイムを包括的に評価し,提案手法の優れた性能を低コストで実証する。
  論文  参考訳（メタデータ） (2024-03-26T04:27:56Z)
• Towards a Responsible AI Metrics Catalogue: A Collection of Metrics for AI Accountability [28.67753149592534]
  本研究は,包括的メトリクスカタログへの取り組みを導入することで,説明責任のギャップを埋めるものである。 我々のカタログは、手続き的整合性を支えるプロセスメトリクス、必要なツールやフレームワークを提供するリソースメトリクス、AIシステムのアウトプットを反映する製品メトリクスを記述しています。
  論文  参考訳（メタデータ） (2023-11-22T04:43:16Z)
• AI-Generated Images as Data Source: The Dawn of Synthetic Era [61.879821573066216]
  生成AIは、現実世界の写真によく似た合成画像を作成する可能性を解き放った。 本稿では、これらのAI生成画像を新しいデータソースとして活用するという革新的な概念を探求する。 実際のデータとは対照的に、AI生成データには、未整合のアブリダンスやスケーラビリティなど、大きなメリットがある。
  論文  参考訳（メタデータ） (2023-10-03T06:55:19Z)
• Guiding AI-Generated Digital Content with Wireless Perception [69.51950037942518]
  本稿では,AIGC(AIGC)と無線認識を統合し,デジタルコンテンツ制作の質を向上させる。 このフレームワークは、単語の正確な記述が難しいユーザの姿勢を読み取るために、新しいマルチスケール認識技術を採用し、それをスケルトン画像としてAIGCモデルに送信する。 生産プロセスはAIGCモデルの制約としてユーザの姿勢を強制するため、生成されたコンテンツはユーザの要求に適合する。
  論文  参考訳（メタデータ） (2023-03-26T04:39:03Z)
• Providing Assurance and Scrutability on Shared Data and Machine Learning Models with Verifiable Credentials [0.0]
  実践者は、関連する信頼できるデータを使用することにAI開発者を頼っている。 科学者は、データリソースの品質を証明する署名された認証情報を発行できます。 BOMは、AIシステムのサプライチェーンの追跡可能な記録を提供します。
  論文  参考訳（メタデータ） (2021-05-13T15:58:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。