論文の概要: Discovering the Rationale of Decisions: Experiments on Aligning Learning
and Reasoning
- arxiv url: http://arxiv.org/abs/2105.06758v1
- Date: Fri, 14 May 2021 10:37:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-17 12:52:56.648972
- Title: Discovering the Rationale of Decisions: Experiments on Aligning Learning
and Reasoning
- Title(参考訳): 決定の合理化:学習と推論の調整に関する実験
- Authors: Cor Steging, Silja Renooij, Bart Verheij
- Abstract要約: 専用テストケースを用いたモデル非依存な合理的評価のための知識駆動手法を提案する。
本手法は,ブラックボックス機械学習システムの理論的根拠を解析できることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In AI and law, systems that are designed for decision support should be
explainable when pursuing justice. In order for these systems to be fair and
responsible, they should make correct decisions and make them using a sound and
transparent rationale. In this paper, we introduce a knowledge-driven method
for model-agnostic rationale evaluation using dedicated test cases, similar to
unit-testing in professional software development. We apply this new method in
a set of machine learning experiments aimed at extracting known knowledge
structures from artificial datasets from fictional and non-fictional legal
settings. We show that our method allows us to analyze the rationale of
black-box machine learning systems by assessing which rationale elements are
learned or not. Furthermore, we show that the rationale can be adjusted using
tailor-made training data based on the results of the rationale evaluation.
- Abstract(参考訳): AIと法学では、正義を追求する際、意思決定支援のために設計されたシステムは説明可能であるべきである。
これらのシステムが公平で責任を負うためには、正しい判断をし、健全で透明な合理性を使って判断するべきです。
本稿では,専門的ソフトウェア開発における単体テストと同様に,専用テストケースを用いたモデル非依存的理性評価のための知識駆動手法を提案する。
本手法は,フィクションやノンフィクションの法的設定から,人工データセットから既知の知識構造を抽出する機械学習実験に適用する。
本手法により,ブラックボックス機械学習システムの理論的根拠を,どの要素が学習されているかを評価することで解析できることを示す。
また,理論評価の結果に基づいて,テーラーメイドのトレーニングデータを用いて合理性を調整できることを示した。
関連論文リスト
- Learning to Defer to a Population: A Meta-Learning Approach [4.980250354893495]
テスト時に目に見えない専門家に対処できるL2Dシステムを定式化します。
テストポイントに類似したコンテキストセット内のポイントを検索できるアテンションメカニズムを採用しています。
実験では,画像認識,交通標識検出,皮膚病変診断ベンチマークについて検討した。
論文 参考訳(メタデータ) (2024-03-05T06:10:28Z) - Towards Human Cognition Level-based Experiment Design for Counterfactual
Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。
認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。
本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文 参考訳(メタデータ) (2022-10-31T19:20:22Z) - Modelling Assessment Rubrics through Bayesian Networks: a Pragmatic
Approach [59.77710485234197]
本稿では,学習者モデルを直接評価ルーリックから導出する手法を提案する。
本稿では,コンピュータ思考のスキルをテストするために開発された活動の人的評価を自動化するために,この手法を適用する方法について述べる。
論文 参考訳(メタデータ) (2022-09-07T10:09:12Z) - Explainable Predictive Process Monitoring: A User Evaluation [62.41400549499849]
説明責任は、ブラックボックス機械学習アプローチの透明性の欠如によって動機付けられている。
予測プロセスモニタリングのための説明手法のユーザ評価を行う。
論文 参考訳(メタデータ) (2022-02-15T22:24:21Z) - Estimating and Improving Fairness with Adversarial Learning [65.99330614802388]
本研究では,深層学習に基づく医療画像解析システムにおけるバイアスの同時緩和と検出を目的としたマルチタスク・トレーニング戦略を提案する。
具体的には,バイアスに対する識別モジュールと,ベース分類モデルにおける不公平性を予測するクリティカルモジュールを追加することを提案する。
大規模で利用可能な皮膚病変データセットのフレームワークを評価します。
論文 参考訳(メタデータ) (2021-03-07T03:10:32Z) - Decision Rule Elicitation for Domain Adaptation [93.02675868486932]
ヒトインザループ機械学習は、専門家からラベルを引き出すために人工知能(AI)で広く使用されています。
この作業では、専門家が意思決定を説明する決定ルールを作成できるようにします。
決定規則の適用はアルゴリズムのドメイン適応を改善し、専門家の知識をAIモデルに広めるのに役立つことを示す。
論文 参考訳(メタデータ) (2021-02-23T08:07:22Z) - Detecting discriminatory risk through data annotation based on Bayesian
inferences [5.017973966200985]
本稿では,与えられたデータセットの判別結果のリスクについて警告することを目的としたデータアノテーション手法を提案する。
機械学習コミュニティが一般的にアクセスする3つのデータセット上で,我々のシステムを実証的にテストする。
論文 参考訳(メタデータ) (2021-01-27T12:43:42Z) - Leveraging Expert Consistency to Improve Algorithmic Decision Support [89.01584399789951]
歴史的専門家の意思決定を豊富な情報源として利用することを検討します。
観察されたラベルだけで学習する制限を緩和するために活用できることを示しています。
論文 参考訳(メタデータ) (2021-01-24T05:40:29Z) - How fair can we go in machine learning? Assessing the boundaries of
fairness in decision trees [0.12891210250935145]
本稿では,バイアス緩和介入の統計的限界を探索するための最初の方法論を提案する。
機械学習において広く受け入れられている決定木分類器に焦点をあてる。
本手法は, 分類誤差の少ない精度で, 決定木モデルの最適化が可能であることを実験的に結論付けた。
論文 参考訳(メタデータ) (2020-06-22T16:28:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。