Fugu-MT 論文翻訳(概要): The Balancing Act of Policies in Developing Machine Learning Explanations

論文の概要: The Balancing Act of Policies in Developing Machine Learning Explanations

arxiv url: http://arxiv.org/abs/2504.13946v1
Date: Wed, 16 Apr 2025 04:46:52 GMT
ステータス: 翻訳完了
システム内更新日: 2025-04-30 08:30:34.452019
Title: The Balancing Act of Policies in Developing Machine Learning Explanations
Title（参考訳）: 機械学習説明書作成における政策のバランス法
Authors: Jacob Tjaden,
Abstract要約: 本研究では、政策設計が機械学習モデルにおける説明の質にどのように影響するかを検討する。政策長はいくつかの要件への関与に影響を与えるが、政策目的には効果がなく、説明の質は概して劣っている。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Machine learning models are often criticized as opaque from a lack of transparency in their decision-making process. This study examines how policy design impacts the quality of explanations in ML models. We conducted a classroom experiment with 124 participants and analyzed the effects of policy length and purpose on developer compliance with policy requirements. Our results indicate that while policy length affects engagement with some requirements, policy purpose has no effect, and explanation quality is generally poor. These findings highlight the challenge of effective policy development and the importance of addressing diverse stakeholder perspectives within explanations.
Abstract（参考訳）: 機械学習モデルは、意思決定プロセスにおける透明性の欠如から不透明であるとしばしば批判される。本研究では,政策設計がMLモデルにおける説明の質にどのように影響するかを検討する。我々は124人の参加者を対象に教室実験を行い、政策長と目的が政策要件に準拠する開発者に与える影響を分析した。以上の結果から,政策長が要件の関与に影響を及ぼすが,政策目的には効果がなく,説明の質は概して劣っていることが示唆された。これらの知見は、効果的な政策展開の課題と、説明の中で多様な利害関係者の視点に対処することの重要性を浮き彫りにしている。

関連論文リスト

A Large-Scale Simulation on Large Language Models for Decision-Making in Political Science [18.521101885334673]
我々は,大規模投票者の意思決定をシミュレートする理論駆動多段階推論フレームワークを開発した。我々は、現実の有権者データに校正された合成人格を用いて、最近のアメリカ合衆国大統領選挙の大規模なシミュレーションを行う。
論文参考訳（メタデータ） (2024-12-19T07:10:51Z)
Taking Action Towards Graceful Interaction: The Effects of Performing Actions on Modelling Policies for Instruction Clarification Requests [23.405917899107767]
Transformerベースのモデルは、インストラクションCRを問うときの適切なポリシを学ばない。本稿では,メタコミュニケーション行動の学習におけるデータ駆動パラダイムの欠点について論じる。
論文参考訳（メタデータ） (2024-01-30T14:18:31Z)
Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
論文参考訳（メタデータ） (2023-11-15T00:02:25Z)
Signal Temporal Logic-Guided Apprenticeship Learning [6.8500997328311]
本稿では,高レベルタスクの目的を記述した時間論理仕様をグラフにエンコードして,時間的基準を定義する方法を示す。制御ポリシの学習に必要な実演回数を大幅に改善することで,従来の文献の欠点を克服する方法について述べる。
論文参考訳（メタデータ） (2023-11-09T00:59:28Z)
Invariant Causal Imitation Learning for Generalizable Policies [87.51882102248395]
Invariant Causal Learning (ICIL) を提案する。 ICILはノイズ変数の特定の表現から切り離された因果的特徴の表現を学習する。 ICILは、目に見えない環境に一般化可能な模倣ポリシーの学習に有効であることを示す。
論文参考訳（メタデータ） (2023-11-02T16:52:36Z)
Explaining by Imitating: Understanding Decisions by Interpretable Policy Learning [72.80902932543474]
観察されたデータから人間の行動を理解することは、意思決定における透明性と説明責任にとって重要である。意思決定者の方針をモデル化することが困難である医療などの現実的な設定を考えてみましょう。本稿では, 設計による透明性の向上, 部分観測可能性の確保, 完全にオフラインで動作可能なデータ駆動型意思決定行動の表現を提案する。
論文参考訳（メタデータ） (2023-10-28T13:06:14Z)
On the Value of Myopic Behavior in Policy Reuse [67.37788288093299]
未知のシナリオで学習戦略を活用することは、人間の知性の基本である。本稿では,Selectivemyopic bEhavior Control(SMEC)というフレームワークを提案する。 SMECは、事前ポリシーの共有可能な短期的行動とタスクポリシーの長期的行動を適応的に集約し、協調的な決定につながる。
論文参考訳（メタデータ） (2023-05-28T03:59:37Z)
Policy Dispersion in Non-Markovian Environment [53.05904889617441]
本稿では,非マルコフ環境下での国家行動ペアの歴史から,多様な政策の学習を試みる。まず、ポリシー埋め込みを学習するために、トランスフォーマーベースの手法を採用する。次に,政策埋め込みを積み重ねて分散行列を構築し,多様な政策の集合を誘導する。
論文参考訳（メタデータ） (2023-02-28T11:58:39Z)
Experiential Explanations for Reinforcement Learning [18.039927414134088]
強化学習システムは複雑で解釈不能である。本稿では,実証説明手法を提案する。
論文参考訳（メタデータ） (2022-10-10T14:27:53Z)
Towards A Unified Policy Abstraction Theory and Representation Learning Approach in Markov Decision Processes [39.94472154078338]
本稿では,異なるレベルでの政策特徴に関連する3種類の政策抽象化を含む統一的な政策抽象化理論を提案する。そして、それらを3つの政策指標に一般化し、政策の距離(すなわち類似性)を定量化する。実証実験では,政策の差異を識別し,政策の一般化を伝達する上で,提案した政策指標と表現の有効性について検討する。
論文参考訳（メタデータ） (2022-09-16T03:41:50Z)
Building a Foundation for Data-Driven, Interpretable, and Robust Policy Design using the AI Economist [67.08543240320756]
AIエコノミストフレームワークは,2段階強化学習とデータ駆動型シミュレーションを用いて,効果的な,柔軟な,解釈可能なポリシー設計を可能にする。 RLを用いて訓練されたログリニア政策は、過去の結果と比較して、公衆衛生と経済の両面から社会福祉を著しく改善することがわかった。
論文参考訳（メタデータ） (2021-08-06T01:30:41Z)
Privacy-Constrained Policies via Mutual Information Regularized Policy Gradients [54.98496284653234]
報酬を最大化しつつ、行動を通じて特定の機密状態変数の開示を最小限に抑えながら、報酬を最大化する政策を訓練する課題を考察する。本稿では, 感性状態と行動の相互情報に基づく正則化器を導入することで, この問題を解決する。プライバシ制約のあるポリシーを最適化するためのモデルベース推定器を開発した。
論文参考訳（メタデータ） (2020-12-30T03:22:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。