論文の概要: Discovering the Rationale of Decisions: Experiments on Aligning Learning and Reasoning

• arxiv url: http://arxiv.org/abs/2105.06758v1
• Date: Fri, 14 May 2021 10:37:03 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-17 12:52:56.648972
• Title: Discovering the Rationale of Decisions: Experiments on Aligning Learning and Reasoning
• Title（参考訳）: 決定の合理化:学習と推論の調整に関する実験
• Authors: Cor Steging, Silja Renooij, Bart Verheij
• Abstract要約: 専用テストケースを用いたモデル非依存な合理的評価のための知識駆動手法を提案する。 本手法は,ブラックボックス機械学習システムの理論的根拠を解析できることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In AI and law, systems that are designed for decision support should be explainable when pursuing justice. In order for these systems to be fair and responsible, they should make correct decisions and make them using a sound and transparent rationale. In this paper, we introduce a knowledge-driven method for model-agnostic rationale evaluation using dedicated test cases, similar to unit-testing in professional software development. We apply this new method in a set of machine learning experiments aimed at extracting known knowledge structures from artificial datasets from fictional and non-fictional legal settings. We show that our method allows us to analyze the rationale of black-box machine learning systems by assessing which rationale elements are learned or not. Furthermore, we show that the rationale can be adjusted using tailor-made training data based on the results of the rationale evaluation.
• Abstract（参考訳）: AIと法学では、正義を追求する際、意思決定支援のために設計されたシステムは説明可能であるべきである。 これらのシステムが公平で責任を負うためには、正しい判断をし、健全で透明な合理性を使って判断するべきです。 本稿では,専門的ソフトウェア開発における単体テストと同様に,専用テストケースを用いたモデル非依存的理性評価のための知識駆動手法を提案する。 本手法は,フィクションやノンフィクションの法的設定から,人工データセットから既知の知識構造を抽出する機械学習実験に適用する。 本手法により,ブラックボックス機械学習システムの理論的根拠を,どの要素が学習されているかを評価することで解析できることを示す。 また,理論評価の結果に基づいて,テーラーメイドのトレーニングデータを用いて合理性を調整できることを示した。

関連論文リスト

• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• Explainable Predictive Process Monitoring: A User Evaluation [62.41400549499849]
  説明責任は、ブラックボックス機械学習アプローチの透明性の欠如によって動機付けられている。 予測プロセスモニタリングのための説明手法のユーザ評価を行う。
  論文  参考訳（メタデータ） (2022-02-15T22:24:21Z)
• Estimating and Improving Fairness with Adversarial Learning [65.99330614802388]
  本研究では,深層学習に基づく医療画像解析システムにおけるバイアスの同時緩和と検出を目的としたマルチタスク・トレーニング戦略を提案する。 具体的には,バイアスに対する識別モジュールと,ベース分類モデルにおける不公平性を予測するクリティカルモジュールを追加することを提案する。 大規模で利用可能な皮膚病変データセットのフレームワークを評価します。
  論文  参考訳（メタデータ） (2021-03-07T03:10:32Z)
• Decision Rule Elicitation for Domain Adaptation [93.02675868486932]
  ヒトインザループ機械学習は、専門家からラベルを引き出すために人工知能(AI)で広く使用されています。 この作業では、専門家が意思決定を説明する決定ルールを作成できるようにします。 決定規則の適用はアルゴリズムのドメイン適応を改善し、専門家の知識をAIモデルに広めるのに役立つことを示す。
  論文  参考訳（メタデータ） (2021-02-23T08:07:22Z)
• Detecting discriminatory risk through data annotation based on Bayesian inferences [5.017973966200985]
  本稿では,与えられたデータセットの判別結果のリスクについて警告することを目的としたデータアノテーション手法を提案する。 機械学習コミュニティが一般的にアクセスする3つのデータセット上で,我々のシステムを実証的にテストする。
  論文  参考訳（メタデータ） (2021-01-27T12:43:42Z)
• Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
  建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。 本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。 本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
  論文  参考訳（メタデータ） (2021-01-24T05:40:29Z)
• How fair can we go in machine learning? Assessing the boundaries of fairness in decision trees [0.12891210250935145]
  本稿では,バイアス緩和介入の統計的限界を探索するための最初の方法論を提案する。 機械学習において広く受け入れられている決定木分類器に焦点をあてる。 本手法は, 分類誤差の少ない精度で, 決定木モデルの最適化が可能であることを実験的に結論付けた。
  論文  参考訳（メタデータ） (2020-06-22T16:28:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。