論文の概要: Verifying Machine Learning Interpretability Requirements through Provenance

• arxiv url: http://arxiv.org/abs/2604.21599v1
• Date: Thu, 23 Apr 2026 12:22:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-24 14:40:06.488833
• Title: Verifying Machine Learning Interpretability Requirements through Provenance
• Title（参考訳）: Provenanceによる機械学習の解釈可能性要件の検証
• Authors: Lynn Vonderhaar, Juan Couder, Daryela Cisneros, Omar Ochoa,
• Abstract要約: 本稿では、MLの解釈可能性要件の検証にMLの証明をどのように利用できるかを示す。 MLエンジニアは、モデルの振る舞いを透過的で解釈可能なものにするために、さまざまなタイプのモデルとデータ前例を保存できるアプローチを提供する。
• 参考スコア（独自算出の注目度）: 0.7466390172678973
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine Learning (ML) Engineering is a growing field that necessitates an increase in the rigor of ML development. It draws many ideas from software engineering and more specifically, from requirements engineering. Existing literature on ML Engineering defines quality models and Non-Functional Requirements (NFRs) specific to ML, in particular interpretability being one such NFR. However, a major challenge occurs in verifying ML NFRs, including interpretability. Although existing literature defines interpretability in terms of ML, it remains an immeasurable requirement, making it impossible to definitively confirm whether a model meets its interpretability requirement. This paper shows how ML provenance can be used to verify ML interpretability requirements. This work provides an approach for how ML engineers can save various types of model and data provenance to make the model's behavior transparent and interpretable. Saving this data forms the basis of quantifiable Functional Requirements (FRs) whose verification in turn verifies the interpretability NFR. Ultimately, this paper contributes a method to verify interpretability NFRs for ML models.
• Abstract（参考訳）: 機械学習(ML)エンジニアリングは、ML開発の厳格さを増大させる必要のある成長分野である。 ソフトウェア工学、特に要求工学から多くのアイデアを引き出す。 既存のMLエンジニアリングに関する文献では、ML固有の品質モデルと非Functional Requirements(NFR)を定義している。 しかし、解釈可能性を含むML NFRの検証には大きな課題がある。 既存の文献ではMLの観点から解釈可能性を定義しているが、まだ測定不可能な要件であり、モデルがその解釈可能性要件を満たしているかどうかを確定することは不可能である。 本稿では、MLの解釈可能性要件の検証にMLの証明をどのように利用できるかを示す。 この作業は、MLエンジニアがさまざまなタイプのモデルとデータ証明を保存して、モデルの振る舞いを透過的かつ解釈可能なものにするためのアプローチを提供する。 このデータを保存することは、定量機能要求(FR)の基礎を形成し、その検証によって解釈可能性 NFR が検証される。 そこで本研究では,MLモデルの解釈可能性NFRを検証する手法を提案する。

関連論文リスト

• From Machine Learning Documentation to Requirements: Bridging Processes with Requirements Languages [2.2012529546432633]
  本研究ではまず,一般公開されている20のModelCardsとDataSheetsにおけるRE関連情報の量と性質について検討する。 次に、3つの確立されたRE表現(EARS, Ruppのテンプレート, Volere)が、この知識をいかに効果的に要求に構造化できるかを評価する。
  論文  参考訳（メタデータ） (2025-11-19T10:59:28Z)
• Uncertainty Quantification for Data-Driven Machine Learning Models in Nuclear Engineering Applications: Where We Are and What Do We Need? [2.026805178426999]
  機械学習(ML)は、核工学のほとんどすべての分野において、多様なタスクに取り組むために利用されてきた。 重要なが下位評価の領域は、MLの不確実性定量化(UQ)である。 物理モデルとデータ駆動MLモデルの基本概念の違いを解明する。
  論文  参考訳（メタデータ） (2025-03-16T19:54:55Z)
• Verbalized Machine Learning: Revisiting Machine Learning with Language Models [63.10391314749408]
  言語化機械学習(VML)の枠組みを紹介する。 VMLはパラメータ空間を人間の解釈可能な自然言語に制限する。 我々は,VMLの有効性を実証的に検証し,VMLがより強力な解釈可能性を実現するためのステップストーンとして機能することを期待する。
  論文  参考訳（メタデータ） (2024-06-06T17:59:56Z)
• ML-On-Rails: Safeguarding Machine Learning Models in Software Systems A Case Study [4.087995998278127]
  機械学習モデルを保護するためのプロトコルであるML-On-Railsを紹介する。 ML-On-Railsは、さまざまなMLタスクのための明確に定義されたエンドポイントインターフェースを確立し、MLプロバイダとMLコンシューマ間のコミュニケーションを明確にする。 実世界のMoveReminderアプリケーションのケーススタディを通じてプロトコルを評価する。
  論文  参考訳（メタデータ） (2024-01-12T11:27:15Z)
• Simultaneous Machine Translation with Large Language Models [51.470478122113356]
  我々は,SimulMTタスクに大規模言語モデルを適用する可能性を検討する。 MUST-Cデータセットと異なる9言語でtextttLlama2-7b-chatモデルを用いて実験を行った。 その結果,LLM は BLEU と LAAL の指標で専用MT モデルよりも優れていた。
  論文  参考訳（メタデータ） (2023-09-13T04:06:47Z)
• MLGuard: Defend Your Machine Learning Model! [3.4069804433026314]
  機械学習アプリケーションのコントラクトを指定する新しいアプローチであるMLGuardを提案する。 私たちの仕事は、MLアプリケーションの構築と安全性の監視に必要な、包括的なフレームワークを提供することを目的としています。
  論文  参考訳（メタデータ） (2023-09-04T06:08:11Z)
• The Need for Interpretable Features: Motivation and Taxonomy [69.07189753428553]
  我々は、「解釈可能な特徴」という用語は、機械学習の説明の有用性に影響を与える機能の全範囲を捉えるのに十分な具体的あるいは詳細ではないと主張している。 本稿では,(1)解釈可能な機能空間と呼ぶもの,あるいはドメインの専門家が現実の行動を取る上で有用な機能の現状に,より注意を払わなければならない,という3つの重要な教訓を論じる。
  論文  参考訳（メタデータ） (2022-02-23T19:19:14Z)
• Transfer Learning without Knowing: Reprogramming Black-box Machine Learning Models with Scarce Data and Limited Resources [78.72922528736011]
  そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。 ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。 BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
  論文  参考訳（メタデータ） (2020-07-17T01:52:34Z)
• Insights into Performance Fitness and Error Metrics for Machine Learning [1.827510863075184]
  機械学習(ML)は、高いレベルの認知を達成し、人間のような分析を行うための訓練機械の分野である。 本稿では、回帰アルゴリズムや分類アルゴリズムにおいて、最もよく使われている性能適合度と誤差の測定値について検討する。
  論文  参考訳（メタデータ） (2020-05-17T22:59:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。