論文の概要: A constraints-based approach to fully interpretable neural networks for detecting learner behaviors

• arxiv url: http://arxiv.org/abs/2504.20055v1
• Date: Thu, 10 Apr 2025 16:58:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-05 01:46:36.926963
• Title: A constraints-based approach to fully interpretable neural networks for detecting learner behaviors
• Title（参考訳）: 制約に基づく完全解釈型ニューラルネットワークによる学習者の行動検出
• Authors: Juan D. Pinto, Luc Paquette,
• Abstract要約: 本稿では,ニューラルネットワークに基づく行動検出モデルを構築するための新しいアプローチについて述べる。 我々のモデルは、完全に解釈可能であり、つまり、説明のために抽出するパラメータは明確な解釈を持つ。 このモデルを用いて,ゲーム・ザ・システム動作の検出,タスクの性能評価を行い,学習パターンを人間の専門家が特定したパターンと比較する。
• 参考スコア（独自算出の注目度）: 0.6138671548064356
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The increasing use of complex machine learning models in education has led to concerns about their interpretability, which in turn has spurred interest in developing explainability techniques that are both faithful to the model's inner workings and intelligible to human end-users. In this paper, we describe a novel approach to creating a neural-network-based behavior detection model that is interpretable by design. Our model is fully interpretable, meaning that the parameters we extract for our explanations have a clear interpretation, fully capture the model's learned knowledge about the learner behavior of interest, and can be used to create explanations that are both faithful and intelligible. We achieve this by implementing a series of constraints to the model that both simplify its inference process and bring it closer to a human conception of the task at hand. We train the model to detect gaming-the-system behavior, evaluate its performance on this task, and compare its learned patterns to those identified by human experts. Our results show that the model is successfully able to learn patterns indicative of gaming-the-system behavior while providing evidence for fully interpretable explanations. We discuss the implications of our approach and suggest ways to evaluate explainability using a human-grounded approach.
• Abstract（参考訳）: 教育における複雑な機械学習モデルの利用の増加は、その解釈可能性に対する懸念を招き、モデルの内部動作に忠実であり、人間のエンドユーザーには理解できない説明可能性技術開発への関心を喚起した。 本稿では,ニューラルネットワークに基づく行動検出モデルを構築するための新しいアプローチについて述べる。 我々のモデルは、完全に解釈可能であり、つまり、我々が説明のために抽出するパラメータは明確な解釈を持ち、関心の学習者行動に関する学習知識を完全に把握し、忠実かつ理解可能な説明を作成するのに使用できる。 我々は、モデルに一連の制約を実装し、推論プロセスを単純化し、目の前のタスクの人間的な概念に近づけることで、これを実現する。 このモデルを用いて,ゲーム・ザ・システム動作の検出,タスクの性能評価を行い,学習パターンを人間の専門家が特定したパターンと比較する。 本結果から,本モデルでは,ゲーム・ザ・システム動作を示すパターンの学習に成功し,完全に解釈可能な説明の証拠を提供することができた。 提案手法の意義を考察し,人為的アプローチによる説明可能性の評価方法を提案する。

関連論文リスト

• Exploring the Trade-off Between Model Performance and Explanation Plausibility of Text Classifiers Using Human Rationales [3.242050660144211]
  ホック後説明可能性法は、ますます複雑なNLPモデルを理解するための重要なツールである。 本稿では,人間の判断を説明するテキストアノテーションをテキスト分類モデルに組み込む手法を提案する。
  論文  参考訳（メタデータ） (2024-04-03T22:39:33Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Towards Interpretable Deep Reinforcement Learning Models via Inverse Reinforcement Learning [27.841725567976315]
  本稿では,逆逆強化学習を利用した新しいフレームワークを提案する。 このフレームワークは、強化学習モデルによる決定のグローバルな説明を提供する。 モデルの意思決定過程を要約することで、モデルが従う直感的な傾向を捉える。
  論文  参考訳（メタデータ） (2022-03-30T17:01:59Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Human-Understandable Decision Making for Visual Recognition [30.30163407674527]
  モデル学習プロセスに人間の知覚の優先順位を組み込むことにより,深層ニューラルネットワークを訓練する新たなフレームワークを提案する。 提案モデルの有効性を2つの古典的視覚認識タスクで評価する。
  論文  参考訳（メタデータ） (2021-03-05T02:07:33Z)
• A Diagnostic Study of Explainability Techniques for Text Classification [52.879658637466605]
  既存の説明可能性技術を評価するための診断特性のリストを作成する。 そこで本研究では, モデルの性能と有理性との整合性の関係を明らかにするために, 説明可能性手法によって割り当てられた有理性スコアと有理性入力領域の人間のアノテーションを比較した。
  論文  参考訳（メタデータ） (2020-09-25T12:01:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。