論文の概要: Reconciling Privacy and Explainability in High-Stakes: A Systematic Inquiry

• arxiv url: http://arxiv.org/abs/2412.20798v4
• Date: Thu, 22 May 2025 14:09:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-23 14:49:21.321024
• Title: Reconciling Privacy and Explainability in High-Stakes: A Systematic Inquiry
• Title（参考訳）: ハイテイクにおけるプライバシと説明可能性の再構築: 体系的調査
• Authors: Supriya Manna, Niladri Sett,
• Abstract要約: 科学分野におけるディープラーニングの優位性は、高い意思決定を形作っている。 本稿では,RTP(Right-to-Privacy)とRTE(Right-to-Explanation)を組み合わせる複雑さについて検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Deep learning's preponderance across scientific domains has reshaped high-stakes decision-making, making it essential to follow rigorous operational frameworks that include both Right-to-Privacy (RTP) and Right-to-Explanation (RTE). This paper examines the complexities of combining these two requirements. For RTP, we focus on `Differential privacy` (DP), which is considered the current gold standard for privacy-preserving machine learning due to its strong quantitative guarantee of privacy. For RTE, we focus on post-hoc explainers: they are the go-to option for model auditing as they operate independently of model training. We formally investigate DP models and various commonly-used post-hoc explainers: how to evaluate these explainers subject to RTP, and analyze the intrinsic interactions between DP models and these explainers. Furthermore, our work throws light on how RTP and RTE can be effectively combined in high-stakes applications. Our study concludes by outlining an industrial software pipeline, with the example of a wildly used use-case, that respects both RTP and RTE requirements.
• Abstract（参考訳）: 科学的領域におけるディープラーニングの優位性は、高い意思決定を形作っており、RTP(Right-to-Privacy)とRTE(Right-to-Explanation)の両方を含む厳格な運用フレームワークに従うことが不可欠である。 本稿では,これら2つの要件を組み合わせる複雑さについて検討する。 RTPでは、プライバシーの量的保証が強いため、プライバシ保存機械学習の現在のゴールドスタンダードと考えられている 'Differential Privacy‘ (DP) に注目します。 RTEでは、モデルトレーニングとは独立して機能するので、モデル監査の選択肢として、ポストホックな説明に重点を置いています。 本稿では, DPモデルと多種多種多種多種多種多種多種多種多種多種多種多種多型について検討し, DPモデルと多種多種多種多種多種多種多種多型・多種多種多種多型・多種多種多型・多種多種多種多型・多種多種多種多型・多種多種多種多型・多種多種多型・多種多種多種多種多種多型・多種多種多種多種多型・多種多種多種多種多種多型・多種多種多種多種多種多種多種多種多種多型・多種多種多種多種多種多種多種多種多種 さらに、我々の研究は、RTPとRTEを高精細なアプリケーションで効果的に組み合わせられる方法に光を当てています。 我々の研究は、産業用ソフトウェアパイプラインの概要を、RTPとRTEの要件の両方を尊重する、非常に使われているユースケースの例にまとめて締めくくります。

関連論文リスト

• Towards Agentic RAG with Deep Reasoning: A Survey of RAG-Reasoning Systems in LLMs [69.10441885629787]
  Retrieval-Augmented Generation (RAG) は、外部知識を注入することによって、Large Language Models (LLM) の事実性を高める。 逆に、純粋に推論指向のアプローチは、しばしば幻覚的あるいは誤った事実を必要とする。 この調査は両鎖を統一的推論-検索の観点から合成する。
  論文  参考訳（メタデータ） (2025-07-13T03:29:41Z)
• Federated Item Response Theory Models [8.125608919874074]
  我々は、従来のIRTモデルをさらなるプライバシーで推定できる新しいフレームワークであるIRT(Federated Item Response Theory)を提案する。 実験により,FedIRTは一般的なRパッケージを用いたIRT推定と同様の統計的精度を実現することを確認した。 この新しいフレームワークは、IRTの分散設定への適用性、例えばマルチスクールアセスメントを、正確さやセキュリティを犠牲にすることなく拡張する。
  論文  参考訳（メタデータ） (2025-06-26T20:01:18Z)
• Position: Pause Recycling LoRAs and Prioritize Mechanisms to Uncover Limits and Effectiveness [6.3575026653686315]
  ローランクアダプタ(LoRA)のマージやルーティングは,大規模言語モデルの拡張手段として人気がある。 本稿は,新たなマージアルゴリズムやルーティングアルゴリズムの開発から,LoRAの再利用が本当に効果的である条件の理解へと,研究コミュニティの焦点を移すことを主張する。
  論文  参考訳（メタデータ） (2025-06-16T13:35:22Z)
• Divide-Then-Align: Honest Alignment based on the Knowledge Boundary of RAG [51.120170062795566]
  本稿では,問合せが知識境界外にある場合の"I don't know"で応答する機能を備えたRAGシステムを実現するためのDTAを提案する。 DTAは適切な棄権と精度のバランスをとり、検索強化システムの信頼性と信頼性を高める。
  論文  参考訳（メタデータ） (2025-05-27T08:21:21Z)
• Crossing the Reward Bridge: Expanding RL with Verifiable Rewards Across Diverse Domains [92.36624674516553]
  検証可能な報酬付き強化学習(RLVR)は、大規模言語モデル(LLM)の数学的推論と符号化性能の向上に成功している。 本稿では,医学,化学,心理学,経済学,教育など,さまざまな現実世界領域におけるRLVRの有効性と拡張性について検討する。 我々は,2値検証による制限を克服するために,ソフトなモデルに基づく報酬信号を生成する生成的スコアリング手法を利用する。
  論文  参考訳（メタデータ） (2025-03-31T08:22:49Z)
• ExpertRAG: Efficient RAG with Mixture of Experts -- Optimizing Context Retrieval for Adaptive LLM Responses [0.0]
  ExpertRAGは、Mixture-of-Experts (MoE)アーキテクチャとRetrieval Augmented Generation (RAG)を統合する新しい理論フレームワークである 本稿では,エキスパートルーティングと組み合わせた動的検索ゲーティング機構を提案し,モデルが外部知識ストアを選択的に参照したり,専門的な内部エキスパートに依存したりすることを可能にする。 本稿では,選択検索による計算コストの削減と,スパース専門家の利用によるキャパシティゲインの定量化を行う。
  論文  参考訳（メタデータ） (2025-03-23T17:26:23Z)
• Learning Neural Strategy-Proof Matching Mechanism from Examples [24.15688619889342]
  本稿では,常に戦略保護性を満足し,任意の数のエージェントに適用可能な新しいマッチング機構のファミリーを提案し,エージェントの公開コンテキスト情報を扱う。 提案手法は, 整合性を満足しながら, 整合性を学習するための実験である。 提案手法は,マッチング予測における基準値よりも優れており,マッチング結果の良さを示す指標がいくつかあることを実証した。
  論文  参考訳（メタデータ） (2024-10-25T08:34:25Z)
• ReasoningRank: Teaching Student Models to Rank through Reasoning-Based Knowledge Distillation [11.756344944226495]
  本稿では、透明性を高める新しいオープンソースリグレードアプローチであるReason-to-Rank(R2R)を提案する。 R2Rは2つのタイプの推論を生成する: 直接関連推論(direct relevance reasoning) - ドキュメントがクエリにどのように対処するかを説明する。 学生モデルは、有意義な推論と文書の書き直しを訓練し、複数のデータセットにまたがる競争性能を達成する。
  論文  参考訳（メタデータ） (2024-10-07T16:25:39Z)
• SFR-RAG: Towards Contextually Faithful LLMs [57.666165819196486]
  Retrieval Augmented Generation (RAG) は、外部コンテキスト情報を大言語モデル(LLM)と統合し、事実の精度と妥当性を高めるパラダイムである。 SFR-RAG(SFR-RAG)について述べる。 また、複数の人気かつ多様なRAGベンチマークをコンパイルする新しい評価フレームワークであるConBenchについても紹介する。
  論文  参考訳（メタデータ） (2024-09-16T01:08:18Z)
• Tractable Offline Learning of Regular Decision Processes [50.11277112628193]
  この研究は、正則決定過程(RDP)と呼ばれる非マルコフ環境のクラスにおけるオフライン強化学習(RL)を研究する。 インスは、未来の観測と過去の相互作用からの報酬の未知の依存を実験的に捉えることができる。 多くのアルゴリズムは、まずこの未知の依存関係を自動学習技術を用いて再構築する。
  論文  参考訳（メタデータ） (2024-09-04T14:26:58Z)
• Demystifying Reinforcement Learning in Production Scheduling via Explainable AI [0.7515066610159392]
  深層強化学習(Dep Reinforcement Learning, DRL)はスケジューリング問題の解法としてよく用いられる手法である。 DRLエージェントは、短い計算時間で実行可能な結果を提供するのが得意だが、その推論はいまだに不透明である。 フロー生産における特殊DRLエージェントのスケジューリング決定の背後にある理由を説明するために,2つの説明可能なAI(xAI)フレームワークを適用した。
  論文  参考訳（メタデータ） (2024-08-19T09:39:01Z)
• A Thorough Performance Benchmarking on Lightweight Embedding-based Recommender Systems [67.52782366565658]
  State-of-the-art recommender system (RS) は、埋め込みベクトルによって符号化される分類的特徴に依存し、結果として非常に大きな埋め込みテーブルとなる。 軽量埋め込み型RSの繁栄にもかかわらず、評価プロトコルには幅広い多様性が見られる。 本研究では, LERSの性能, 効率, クロスタスク転送性について, 徹底的なベンチマークによる検討を行った。
  論文  参考訳（メタデータ） (2024-06-25T07:45:00Z)
• Not All Prompts Are Made Equal: Prompt-based Pruning of Text-to-Image Diffusion Models [59.16287352266203]
  本稿では,テキスト・ツー・イメージ(T2I)モデルのための新しいプロンプトベースのプルーニング手法であるAdaptive Prompt-Tailored Pruning (APTP)を紹介する。 APTPは入力テキストプロンプトに必要な容量を決定することを学び、それをアーキテクチャコードにルーティングする。 APTPはFID、CLIP、CMMDスコアの点でシングルモデルプルーニングベースラインを上回っている。
  論文  参考訳（メタデータ） (2024-06-17T19:22:04Z)
• CELA: Cost-Efficient Language Model Alignment for CTR Prediction [70.65910069412944]
  CTR(Click-Through Rate)予測は、レコメンダシステムにおいて最重要位置を占める。 最近の取り組みは、プレトレーニング言語モデル(PLM)を統合することでこれらの課題を緩和しようとしている。 CTR予測のためのtextbfCost-textbfEfficient textbfLanguage Model textbfAlignment (textbfCELA)を提案する。
  論文  参考訳（メタデータ） (2024-05-17T07:43:25Z)
• Leveraging Counterfactual Paths for Contrastive Explanations of POMDP Policies [2.4332936182093197]
  XAIは、エージェント行動の説明を提供することで、混乱を減らし、システムの信頼を高めることを目的としている。 POMDPは、遷移と状態の不確実性を推論できる柔軟なフレームワークを提供する。 本研究は,POMDPポリシーの対照的な説明を生成するために,ユーザが提供する反ファクトファクトの活用について検討する。
  論文  参考訳（メタデータ） (2024-03-28T18:19:38Z)
• Benchmarking Deep Facial Expression Recognition: An Extensive Protocol with Balanced Dataset in the Wild [5.044138778500218]
  顔表情認識(FER)は、人間とコンピュータの相互作用において重要な部分である。 我々は,クロスドメイン検証のための新しい顔表情データセットを収集した。 ネットワークアーキテクチャを分類し、実際のシナリオにディープFERメソッドをデプロイする際の推奨事項をまとめた。
  論文  参考訳（メタデータ） (2023-11-06T06:48:49Z)
• Generative Judge for Evaluating Alignment [84.09815387884753]
  本稿では,これらの課題に対処するために,13Bパラメータを持つ生成判断器Auto-Jを提案する。 我々のモデルは,大規模な実環境シナリオ下でのユーザクエリとLLM生成応答に基づいて訓練されている。 実験的に、Auto-Jはオープンソースモデルとクローズドソースモデルの両方を含む、強力なライバルのシリーズを上回っている。
  論文  参考訳（メタデータ） (2023-10-09T07:27:15Z)
• Flexible Job Shop Scheduling via Dual Attention Network Based Reinforcement Learning [73.19312285906891]
  フレキシブルなジョブショップスケジューリング問題(FJSP)では、複数のマシンで操作を処理でき、操作とマシンの間の複雑な関係が生じる。 近年, 深層強化学習(DRL)を用いて, FJSP解決のための優先派遣規則(PDR)を学習している。 本稿では,Deep機能抽出のための自己注意モデルと,スケーラブルな意思決定のためのDRLの利点を生かした,エンドツーエンド学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-09T01:35:48Z)
• Towards End-to-End Open Conversational Machine Reading [57.18251784418258]
  オープン検索型会話機械読解(OR-CMR)タスクでは,機械は対話履歴とテキスト知識ベースに応答するマルチターン質問を行う必要がある。 OR-CMRを完全エンドツーエンドで統一されたテキスト・ツー・テキスト・タスクとしてモデル化し、ShARCおよびOR-ShARCデータセットを用いた実験により、提案したエンドツーエンド・フレームワークの有効性を示す。
  論文  参考訳（メタデータ） (2022-10-13T15:50:44Z)
• Benchmarking Constraint Inference in Inverse Reinforcement Learning [19.314352936252444]
  多くの実世界の問題において、専門家が従う制約は、RLエージェントに数学的に、未知に指定することがしばしば困難である。 本稿では,ロボット制御と自律運転という2つの主要なアプリケーション領域の文脈において,CIRLベンチマークを構築する。 CIRLアルゴリズムのパフォーマンスを再現するための情報を含むこのベンチマークは、https://github.com/Guiliang/CIRL-benchmarks-publicで公開されている。
  論文  参考訳（メタデータ） (2022-06-20T09:22:20Z)
• Relational-Grid-World: A Novel Relational Reasoning Environment and An Agent Model for Relational Information Extraction [0.0]
  強化学習(RL)エージェントは特定の問題のために特別に設計され、一般的には解釈不能な作業プロセスを持つ。 統計的手法に基づくRLアルゴリズムは、論理プログラミングのようなシンボリック人工知能(AI)ツールを用いて、一般化可能性と解釈可能性の観点から改善することができる。 環境オブジェクトの明示的なリレーショナル表現をサポートするモデルフリーなRLアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-07-12T11:30:48Z)
• DEPARA: Deep Attribution Graph for Deep Knowledge Transferability [91.06106524522237]
  本稿では,PR-DNNから学んだ知識の伝達可能性を検討するために,DreP Attribution gRAph (DEPARA)を提案する。 DEPARAでは、ノードは入力に対応し、PR-DNNの出力に関してベクトル化された属性マップで表現される。 2つのPR-DNNの知識伝達性は、対応するDEPARAの類似性によって測定される。
  論文  参考訳（メタデータ） (2020-03-17T02:07:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。