論文の概要: A Game-theoretic Understanding of Repeated Explanations in ML Models

• arxiv url: http://arxiv.org/abs/2202.02659v1
• Date: Sat, 5 Feb 2022 23:55:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-10 10:30:13.607719
• Title: A Game-theoretic Understanding of Repeated Explanations in ML Models
• Title（参考訳）: MLモデルにおける繰り返し説明のゲーム理論的理解
• Authors: Kavita Kumari (1), Murtuza Jadliwala (1), Sumit Kumar Jha (1), Anindya Maiti (2) ((1) University of Texas, San Antonio, (2) University of Oklahoma)
• Abstract要約: 本稿では,システムとエンドユーザー間の戦略的反復的な相互作用を形式的にモデル化する。 このゲームでは、悪意のあるエンドユーザーがいつクェリをやめるかを戦略的に決定し、システムを侵害しようとする。 本稿では,このような枠組みにおける完全平衡状態の特徴について述べる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper formally models the strategic repeated interactions between a system, comprising of a machine learning (ML) model and associated explanation method, and an end-user who is seeking a prediction/label and its explanation for a query/input, by means of game theory. In this game, a malicious end-user must strategically decide when to stop querying and attempt to compromise the system, while the system must strategically decide how much information (in the form of noisy explanations) it should share with the end-user and when to stop sharing, all without knowing the type (honest/malicious) of the end-user. This paper formally models this trade-off using a continuous-time stochastic Signaling game framework and characterizes the Markov perfect equilibrium state within such a framework.
• Abstract（参考訳）: 本稿では,機械学習(ml)モデルと関連する説明法からなるシステムと,ゲーム理論を用いて予測・ラベルと問合せ/入力の説明を求めるエンドユーザとの戦略的反復インタラクションを形式的にモデル化する。 このゲームでは、悪意のあるエンドユーザは、いつクエリを停止し、システムの妥協を試みるのかを戦略的に決定しなければならないが、システムでは、エンドユーザーと(騒がしい説明の形で)共有すべき情報量と、いつ共有を停止すべきかを戦略的に決定しなければならない。 本稿では,連続時間確率的シグナリングゲームフレームワークを用いて,このトレードオフを形式的にモデル化し,マルコフ完全平衡状態の特徴付けを行う。

関連論文リスト

• Towards a Game-theoretic Understanding of Explanation-based Membership Inference Attacks [8.06071340190569]
  ブラックボックス機械学習(ML)モデルは、メンバーシップ推論攻撃(MIA)のようなプライバシ脅威を実行するために利用することができる。 既存の作業は、敵とターゲットMLモデルの間の単一の"What if"相互作用シナリオにおいてのみ、MIAを分析している。 このような最適しきい値が存在することを証明し、MIAの起動に使用できる音響数学的定式化を提案する。
  論文  参考訳（メタデータ） (2024-04-10T16:14:05Z)
• Representing Timed Automata and Timing Anomalies of Cyber-Physical Production Systems in Knowledge Graphs [51.98400002538092]
  本稿では,学習されたタイムドオートマトンとシステムに関する公式知識グラフを組み合わせることで,CPPSのモデルベース異常検出を改善することを目的とする。 モデルと検出された異常の両方を知識グラフに記述し、モデルと検出された異常をより容易に解釈できるようにする。
  論文  参考訳（メタデータ） (2023-08-25T15:25:57Z)
• Finding mixed-strategy equilibria of continuous-action games without gradients using randomized policy networks [83.28949556413717]
  グラデーションへのアクセスを伴わない連続アクションゲームのナッシュ平衡を近似的に計算する問題について検討する。 ニューラルネットワークを用いてプレイヤーの戦略をモデル化する。 本論文は、制約のない混合戦略と勾配情報のない一般的な連続アクションゲームを解決する最初の方法である。
  論文  参考訳（メタデータ） (2022-11-29T05:16:41Z)
• SMACE: A New Method for the Interpretability of Composite Decision Systems [3.1542695050861544]
  決定システムのための新しい解釈可能性手法であるSMACE, Semi-Model-Agnostic Contextual Explainerを提案する。 確立されたモデルに依存しないアプローチが、このフレームワークで不十分な結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-11-16T19:37:35Z)
• A Holistic Approach to Interpretability in Financial Lending: Models, Visualizations, and Summary-Explanations [25.05825112699133]
  そのような機密性のない未来の世界では、正当な融資決定にどのような意思決定支援ツールを使いたいのか? 本稿では,グローバルな解釈可能な機械学習モデル,インタラクティブな可視化,および任意の決定に対するいくつかの要約と説明を含む,そのような決定のためのフレームワークを提案する。 私たちのフレームワークは、Explainable Machine Learning ChallengeでFICO認識賞を受賞しました。
  論文  参考訳（メタデータ） (2021-06-04T17:05:25Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Bandit Linear Optimization for Sequential Decision Making and Extensive-Form Games [102.23975166536326]
  tree-form sequential decision making (tfsdm) は、エージェントと潜在的に敵対的な環境の間のツリー形式の相互作用をモデル化することで、古典的なワンショット意思決定を拡張する。 これは、各プレイヤーが幅広い形式のゲームで直面するオンライン意思決定問題、およびマルコフ決定プロセス、およびエージェントが観測された履歴を条件とする部分観察可能なマルコフ決定プロセスをキャプチャする。 本稿では, (i) 線形時間損失と (ii) $o(sqrtt)$ cumulative regret の両方を提供する拡張dmのバンディット線形最適化問題に対する最初のアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-08T05:00:13Z)
• Using Data Assimilation to Train a Hybrid Forecast System that Combines Machine-Learning and Knowledge-Based Components [52.77024349608834]
  利用可能なデータがノイズの多い部分測定の場合,カオスダイナミクスシステムのデータ支援予測の問題を検討する。 動的システムの状態の部分的測定を用いることで、不完全な知識ベースモデルによる予測を改善するために機械学習モデルを訓練できることを示す。
  論文  参考訳（メタデータ） (2021-02-15T19:56:48Z)
• Toward Machine-Guided, Human-Initiated Explanatory Interactive Learning [9.887110107270196]
  最近の研究は、ブラックボックスモデルの理解と監視のために、局所的な説明と活発な学習を組み合わせるという約束を実証している。 ここでは、特定の条件下では、これらのアルゴリズムが学習されるモデルの質を誤って表現する可能性があることを示す。 説明的指導型学習を導入することで、この物語バイアスに対処する。
  論文  参考訳（メタデータ） (2020-07-20T11:51:31Z)
• An Information-Theoretic Approach to Personalized Explainable Machine Learning [92.53970625312665]
  本稿では,予測とユーザ知識のための簡易確率モデルを提案する。 説明と予測の間の条件付き相互情報による説明の効果を定量化する。
  論文  参考訳（メタデータ） (2020-03-01T13:06:29Z)
• Bridging the Gap: Providing Post-Hoc Symbolic Explanations for Sequential Decision-Making Problems with Inscrutable Representations [44.016120003139264]
  本稿では、逐次的意思決定設定のためのユーザ特定概念の観点から、コントラスト的な説明を提供する手法を提案する。 ユーザクエリに応答するために利用可能なタスクの局所近似の部分的記号モデルを構築することで、これを実現する。
  論文  参考訳（メタデータ） (2020-02-04T01:37:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。