論文の概要: Integrating Fairness and Explainability in a Multiple Instance Reinforcement Learning System

• arxiv url: http://arxiv.org/abs/2610.00035v1
• Date: Wed, 02 Sep 2026 17:30:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.320807
• Title: Integrating Fairness and Explainability in a Multiple Instance Reinforcement Learning System
• Title（参考訳）: 複数インスタンス強化学習システムにおける公平性と説明可能性の統合
• Abstract要約: 本研究では、強化学習に基づくマルチインスタンス学習(RL-MIL)、対向的デバイアス、リスク予測のための嗜好条件付きハイパーネットを組み合わせた多目的フレームワークについて検討する。 その結果、公平性は解釈可能なRL-MILパイプラインに組み込むことができるが、優先条件だけでは制御可能な多目的動作は保証されない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Predicting student performance from educational interaction data requires models that are both accurate and sufficiently transparent to support meaningful intervention, while demographic information introduces an additional risk of unfair predictions. This study investigates a multi-objective framework that combines reinforcement learning-based multiple instance learning (RL-MIL), adversarial debiasing, and preference-conditioned hypernetworks for student-at-risk prediction. MIL represents each student as a bag of weakly labeled interactions, while an RL agent selects informative instances for downstream classification. Two hypernetwork variants are evaluated to determine whether a user-defined preference scalar can continuously control the trade-off between predictive performance and Equalized Odds. The underlying RL-MIL baseline achieves strong classification performance, but both hypernetwork extensions exhibit mode collapse: changing the preference weight produces little systematic movement along the intended fairness-performance frontier. The failure is associated with objective dominance, weak gradient propagation through the conditioning mechanism, and interactions between dynamically generated parameters. The results show that fairness objectives can be incorporated into an interpretable RL-MIL pipeline, but preference conditioning alone does not guarantee controllable multi-objective behavior. Robust fair RL-MIL therefore requires explicit mechanisms for gradient balancing, objective separation, and stability analysis.
• Abstract（参考訳）: 教育交流データから学生のパフォーマンスを予測するには、意味のある介入を支援するために正確かつ十分に透明なモデルが必要であるが、人口統計情報には不公平な予測のリスクが伴う。 本研究では、強化学習に基づくマルチインスタンス学習(RL-MIL)、対向的デバイアス、リスク予測のための嗜好条件付きハイパーネットを組み合わせた多目的フレームワークについて検討する。 MILは、各学生を弱いラベル付けされた相互作用の袋として表現し、RLエージェントは下流分類のための情報的インスタンスを選択する。 ユーザ定義の選好スカラーが予測性能と等化オッドとのトレードオフを連続的に制御できるかどうかを判定するために、2つのハイパーネットワーク変種を評価する。 基礎となるRL-MILベースラインは、強い分類性能を達成するが、両方のハイパーネットワーク拡張はモード崩壊を示す。 障害は、客観的支配、条件付け機構による弱い勾配伝播、動的に生成されたパラメータ間の相互作用と関連している。 その結果, 公平性は解釈可能なRL-MILパイプラインに組み込むことができるが, 優先条件だけでは制御可能な多目的動作は保証されないことがわかった。 したがって、ロバスト公正なRL-MILは、勾配バランス、目的分離、安定性解析の明確なメカニズムを必要とする。

関連論文リスト

• Multi-Objective Reference-Aligned Machine Unlearning [0.6299766708197883]
  機械学習は、モデルの有用性を維持しながら、特定のトレーニングサンプルの影響を取り除くことを目的としている。 既存の単目的のアプローチ、例えば昇華やランダムレバーベリングは、しばしば矛盾する最適化のダイナミクスと非有界な忘れの目的のために、忘れを誘発する。 本稿では, 損失を, 忘れられたサンプルに対する予測の有界なKLアライメントに置き換えることで, 忘れと保持を共同で最適化する多目的フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-29T22:32:40Z)
• Harmonizing Multi-Objective LLM Unlearning via Unified Domain Representation and Bidirectional Logit Distillation [11.723777730116831]
  大規模言語モデル(LLM)のアンラーニングは、モデルから有害またはプライバシをリードする情報を除去するために不可欠である。 既存の未学習の手法は主にこれらの目標の限られたサブセットに焦点を当てている。 複数の未学習目標を調和させる新しい多目的学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-16T19:09:17Z)
• Reshaping Action Error Distributions for Reliable Vision-Language-Action Models [69.38615670891038]
  ロボット操作において、視覚言語アクション(VLA)モデルは、一般化可能でスケーラブルなロボットポリシーを学ぶための有望なパラダイムとして登場した。 連続動作型VLAモデルに焦点をあて、トレーニング中の動作誤差分布を再構成することにより、従来のMSEベースの回帰を超越する。 複数の代表的VLAアーキテクチャ上で、標準、少数ショット、ノイズの多い設定にまたがるアプローチを評価します。
  論文  参考訳（メタデータ） (2026-02-04T05:37:09Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• Fairness-Aware Meta-Learning via Nash Bargaining [63.44846095241147]
  本稿では,機械学習におけるグループレベルの公平性の問題に対処する2段階のメタ学習フレームワークを提案する。 第1段階では、過度な競合を解決するためにNash Bargaining Solution(NBS)を使用して、モデルをステアリングする。 6つのキーフェアネスデータセットと2つの画像分類タスクにおいて、様々なフェアネス目標に対して経験的効果を示す。
  論文  参考訳（メタデータ） (2024-06-11T07:34:15Z)
• LoRA-Ensemble: Efficient Uncertainty Modelling for Self-Attention Networks [52.46420522934253]
  本稿では,自己注意ネットワークのためのパラメータ効率のよいアンサンブル手法であるLoRA-Ensembleを紹介する。 この方法は、BatchEnsembleのような最先端の暗黙のテクニックを上回るだけでなく、Explicit Ensembleの正確さにマッチするか超える。
  論文  参考訳（メタデータ） (2024-05-23T11:10:32Z)
• Enhancing Fairness and Performance in Machine Learning Models: A Multi-Task Learning Approach with Monte-Carlo Dropout and Pareto Optimality [1.5498930424110338]
  本研究では,モデル不確実性を利用した機械学習におけるバイアス軽減手法を提案する。 提案手法では,モンテカルロ・ドロップアウト(MC)と組み合わせたマルチタスク学習(MTL)フレームワークを用いて,保護ラベルに関連する予測の不確実性を評価・緩和する。
  論文  参考訳（メタデータ） (2024-04-12T04:17:50Z)
• Dynamic Environment Responsive Online Meta-Learning with Fairness Awareness [30.44174123736964]
  本稿では,FairSAOMLと呼ばれる,適応フェアネスを考慮したオンラインメタ学習アルゴリズムを提案する。 動的環境下での様々な実世界のデータセットに対する実験評価により,提案アルゴリズムが一貫した代替手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-02-19T17:44:35Z)
• Learning Prompt-Enhanced Context Features for Weakly-Supervised Video Anomaly Detection [37.99031842449251]
  弱い監督下での映像異常検出は重大な課題を呈する。 本稿では,効率的なコンテキストモデリングとセマンティック識別性の向上に焦点をあてた,弱教師付き異常検出フレームワークを提案する。 提案手法は,特定の異常なサブクラスの検出精度を大幅に向上させ,その実用的価値と有効性を裏付けるものである。
  論文  参考訳（メタデータ） (2023-06-26T06:45:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。