論文の概要: Detecting Explanatory Insufficiency in Learned Representations: A Framework for Representational Vigilance

• arxiv url: http://arxiv.org/abs/2606.13172v1
• Date: Thu, 11 Jun 2026 10:42:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 15:55:27.730281
• Title: Detecting Explanatory Insufficiency in Learned Representations: A Framework for Representational Vigilance
• Title（参考訳）: 学習的表現における説明不全の検出:表現的ビジャランスのための枠組み
• Authors: Jacques Raynal, Pierre Slangen, Elsa Raynal, Jacques Margerit,
• Abstract要約: 本稿では、学習した表現における表現の妥当性を監視するための概念的フレームワークであるVERを紹介する。 表現不足を通常の予測誤差、不確実性、ノイズ、分布シフトと区別する。 VERは、機械学習における表現診断へのコントリビューションとして意図されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learned representations are central to modern machine learning and are commonly evaluated through predictive performance, robustness, uncertainty estimation, or generalization. However, a learned representation may remain operationally successful while progressively failing to organize persistent residual structures that are not fully captured by conventional evaluation metrics. This article introduces VER, the Vigilant Evaluator of Representations, a conceptual framework for monitoring representational adequacy in learned representations. VER does not propose a new learning algorithm, loss function, or model architecture. Instead, it formalizes a diagnostic process through which persistent residual structures may be identified, analyzed, and interpreted as potential indicators of explanatory insufficiency. The framework distinguishes representational inadequacy from ordinary prediction error, uncertainty, noise, and distribution shift. It introduces a monitoring sequence based on representation identification, explanatory-domain delimitation, residual-structure detection, explanatory-resistance evaluation, and vigilance signaling. VER is intended as a contribution to representation diagnostics in machine learning. Its objective is not to replace existing evaluation methods but to complement them by treating representational adequacy as an explicit object of inquiry. A path toward empirical evaluation through representational-vigilance benchmarks is also outlined.
• Abstract（参考訳）: 学習された表現は現代の機械学習の中心であり、予測性能、堅牢性、不確実性推定、一般化を通じて一般的に評価される。 しかし、学習された表現は、従来の評価指標で完全に捉えられていない永続的な構造を徐々に組織化できないまま、運用的に成功し続けるかもしれない。 本稿では、学習表現における表現の妥当性をモニタリングする概念的フレームワークであるVERについて紹介する。 VERは、新しい学習アルゴリズム、損失関数、モデルアーキテクチャを提案していない。 代わりに、持続的な残留構造を特定し、分析し、説明不全の潜在的指標として解釈する診断過程を定式化する。 このフレームワークは、通常の予測誤差、不確実性、ノイズ、分散シフトと表現の不適切さを区別する。 表現識別、説明領域の最小化、残留構造の検出、説明抵抗評価、警戒シグナリングに基づく監視シーケンスを導入する。 VERは、機械学習における表現診断へのコントリビューションとして意図されている。 その目的は、既存の評価手法を置き換えるのではなく、表現的妥当性を明確な調査対象として扱うことでそれらを補完することである。 表現ナビランスベンチマークによる経験的評価への道も概説する。

関連論文リスト

• Coverage, Not Averages: Semantic Stratification for Trustworthy Retrieval Evaluation [3.4588983513116065]
  検索向上世代(RAG)における検索品質は精度とロバスト性の主要なボトルネックである 我々は,評価を統計的推定問題として定式化し,評価セットの構成によってメートル法信頼性が根本的に制限されていることを示す。 その結果,(1)検索のセマンティック・システマティクスにまたがる形式的カバレッジ保証,(2)検索の失敗モードへの解釈可能な可視性を実現した。
  論文  参考訳（メタデータ） (2026-04-22T16:49:30Z)
• When Evaluation Becomes a Side Channel: Regime Leakage and Structural Mitigations for Alignment Assessment [0.0]
  高度なAIシステムの安全性評価は、評価の下で観察された振る舞いがデプロイメントの振る舞いを予測することを前提としている。 部分観測可能性下での情報流問題としてアライメント評価をリキャストする。 我々は、レギュラー・ブラインド・メカニズム、レギュラー・キューへのアクセスを制限する訓練時間介入について研究する。
  論文  参考訳（メタデータ） (2026-02-09T10:00:24Z)
• Beyond Predictive Uncertainty: Reliable Representation Learning with Structural Constraints [0.3948325938742681]
  信頼性は、学習した表現そのものの第一級の性質と見なされるべきである。 本稿では,表現レベルの不確実性を明示的にモデル化する信頼性のある表現学習のための原則的フレームワークを提案する。 提案手法では,不確実性を考慮した正規化が直接表現空間に導入され,予測的だけでなく,安定的で,校正的であり,ノイズや構造的摂動に対して頑健な表現が奨励される。
  論文  参考訳（メタデータ） (2026-01-22T18:19:52Z)
• Auditing Language Model Unlearning via Information Decomposition [68.48660428111593]
  部分的情報分解(PID)を用いたアンラーニング監査のための解釈可能な情報理論フレームワークを提案する。 非学習前後のモデル表現を比較することにより、相互情報と忘れられたデータとを別個の構成要素に分解し、未学習および残留知識の概念を定式化する。 我々の研究は、言語モデルのより安全なデプロイのための理論的洞察と実行可能なツールを提供する、アンラーニングのための原則付き表現レベル監査を導入している。
  論文  参考訳（メタデータ） (2026-01-21T15:51:19Z)
• Benchmarking Corruption Robustness of LVLMs: A Discriminative Benchmark and Robustness Alignment Metric [49.393713730706445]
  汚損の堅牢性を評価するための識別サンプルを強調したベンチマークであるBench-Cを紹介する。 本稿では,ロバストネスアライメントスコア(RAS)を提案する。
  論文  参考訳（メタデータ） (2025-11-24T12:07:56Z)
• Enhancing Pre-trained Representation Classifiability can Boost its Interpretability [112.296393156262]
  表現内の解釈可能な意味の比率との相関を利用して、表現解釈可能性の定量化を行う。 Inherent Interpretability Score(IIS)を提案し、情報損失を評価し、解釈可能なセマンティクスの比率を測定し、表現解釈可能性の定量化を行う。
  論文  参考訳（メタデータ） (2025-10-28T06:21:06Z)
• Understanding challenges to the interpretation of disaggregated evaluations of algorithmic fairness [49.35494016290887]
  関係する人口を表わすが、実世界の格差を反映するデータである場合、サブグループ間での平等なパフォーマンスは、信頼できない公平さの尺度であることを示す。 本フレームワークでは, 因果関係の明示的な仮定と分析を相補して, 相反や分布変化の制御を提案する。
  論文  参考訳（メタデータ） (2025-06-04T17:40:31Z)
• Towards Unsupervised Representation Learning: Learning, Evaluating and Transferring Visual Representations [1.8130068086063336]
  我々は3つの視点から教師なし(視覚的)表現学習の分野に貢献する。 我々は、教師なし、バックプロパゲーションのない畳み込み自己組織型ニューラルネットワーク(CSNN)を設計する。 我々は、プリテキストとターゲットオブジェクトに依存しないメトリクスを定義するために、広く使われている(非)線形評価プロトコルの上に構築する。 CARLANEは,2次元車線検出のための最初の3方向sim-to-realドメイン適応ベンチマークであり,自己教師付き学習に基づく手法である。
  論文  参考訳（メタデータ） (2023-11-30T15:57:55Z)
• Desiderata for Representation Learning: A Causal Perspective [104.3711759578494]
  我々は表現学習の因果的視点を採り、非純粋性と効率性(教師なし表現学習)と非教師なし表現学習(教師なし表現学習)を定式化する。 これは、関心のデシダータを満たす程度を計算可能なメトリクスで評価し、単一の観測データセットから不純物や不整合表現を学習する。
  論文  参考訳（メタデータ） (2021-09-08T17:33:54Z)
• On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
  決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。 DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
  論文  参考訳（メタデータ） (2021-07-01T17:59:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。