論文の概要: When Does Perturbation Consistency Add Information Beyond Softmax Confidence? Theory and Evidence for the Decision Consistency Framework
- arxiv url: http://arxiv.org/abs/2610.36640v1
- Date: Tue, 27 Oct 2026 04:59:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.485496
- Title: When Does Perturbation Consistency Add Information Beyond Softmax Confidence? Theory and Evidence for the Decision Consistency Framework
- Title（参考訳）: 摂動一貫性は、いつソフトマックス信頼を超えて情報を追加するのか? : 決定一貫性フレームワークの理論とエビデンス
- Abstract要約: 摂動一貫性は、予測が小さな入力変化に耐えられるかどうかを判断する。
決定一貫性フレームワーク(Decision Consistency Framework)は、ラベル安定性(LS)と信頼性偏差(CD)を6つの軽度演算子で評価する。
これらのスコアがクリーンなソフトマックス出力に欠けている情報を持っているかどうかを問う。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Perturbation consistency scores judge whether a prediction survives small input changes. The Decision Consistency Framework (DCF) scores each image by label stability (LS) and confidence deviation (CD) under six mild operators, combines them into a consistency score (CS), and summarises a model by the gap between accuracy and mean consistency (CAG). We ask when these scores carry information that the clean softmax output lacks. Across 201 evaluations with three seeds per configuration, CS detected misclassifications on clean data less well than the maximum softmax probability (MSP) in every model family. For frozen CNNs, the deficit was 0.057 in area under the ROC curve (AUROC; 95% CI 0.043 to 0.073), at 8 to 15 times the compute. A label flip requires the logit margin to be at most the square root of two times the logit displacement, and at a fixed margin, the displacement predicted errors at AUROC 0.515. The same inequality gives a label-free split-conformal no-flip certificate, never violated in 84 runs. Consistency did add information where confidence is misled: under noise corruptions of CIFAR-10-C, it beat the margin, and under projected gradient attacks, it separated clean from attacked inputs with AUROC 0.83 against 0.37 for MSP at a budget of 2/255, as pre-specified. The gain under noise did not transfer to unseen shift families. The large negative CAG on OCTMNIST persists under full fine-tuning and in-domain training and is partly a class-prior effect: correcting the prior recovers about 40% of the gap.
- Abstract（参考訳）: 摂動一貫性は、予測が小さな入力変化に耐えられるかどうかを判断する。
決定一貫性フレームワーク(DCF)は、ラベル安定性(LS)と信頼偏差(CD)を6つの穏やかな演算子の下でスコアし、それらを一貫性スコア(CS)に組み合わせ、精度と平均整合(CAG)のギャップでモデルを要約する。
これらのスコアがクリーンなソフトマックス出力に欠けている情報を持っているかどうかを問う。
CSは,各モデル群において,最大ソフトマックス確率 (MSP) よりも低い精度で,クリーンデータ上の誤分類を検出した。
凍結したCNNでは、ROC曲線(AUROC:95% CI 0.043〜0.073)の領域で0.057で、計算の8～15倍であった。
ラベルフリップでは、ロジットマージンはロジット変位の2倍の2乗根、固定マージンではAUROC 0.515の変位誤差を予測しなければならない。
同じ不等式はラベルなしのスプリットコンフォーマルなノンフリップ証明書を与え、84回のランで違反することはない。
CIFAR-10-Cのノイズ汚職で利得を上回り、予想される勾配攻撃で2/255の予算でAUROC 0.83で攻撃された入力からきれいに分離した。
騒音下での利得は目に見えないシフト・ファミリーに移行しなかった。
OCTMNIST上の大きな負のCAGは、完全な微調整とドメイン内トレーニングの下で持続し、部分的にはクラス優先の効果である。
関連論文リスト
- A Canary in the Neural Mine: Catching an Image Classifier's Silent, Confident Failures [5.053354418366577]
Canary(カナリア)は、極小特徴のPCA残差のクラス毎のkNN距離を計算する訓練不要検出器である。
カナリアは5つのバックボーンにまたがる385のシフト細胞382と一致または改善する。
論文 参考訳（メタデータ） (2026-10-19T14:41:03Z) - OSCC: Certified Observation-Safe Coupling Optimization for Gradient-Noise Control in Imperfect-Information Learning [23.835119696596095]
無効な結合は、隠された状態を隠蔽し、内因性ポリシーのランダム性を同期させ、または、偽の履歴が分岐した後の誤ったチャンスイベントを発生させる。
本稿では,限界保存,情報状態安全性,ブランチローカルなポリシーランダム性,セマンティックイベントアライメント,トレース・ビオークル・リプレイなどを通じて,許容可能なクラスを定義するフレームワークであるオブザーバセーフ・カウンタファクト・カップリング(O SCC)を紹介する。
我々は, 限界保存結合に対して, ポリシ・ヤコビアン重み付き対角外帰還共分散が雑音変化を決定することを示す勾配対応結合基準を導出する。
論文 参考訳（メタデータ） (2026-09-27T13:10:30Z) - Bounded Adjustment with Reliability-Guided Embedding for Imbalanced Learning with Noisy Labels [7.047239027940408]
本稿では,BARGE (Bounded Adjustment with Reliability-Guided Embeddings) を導入する。
CIFAR-10, CIFAR-100, Tiny ImageNetで, 長期・ステップ不均衡, クリーンラベル, 20%, 40%のランダムな不正ラベル置換条件下で評価を行った。
論文 参考訳（メタデータ） (2026-09-14T21:41:28Z) - Evidence-Order Calibration for Selective Visual Reasoning under Progressive Loss of Question-Critical Evidence [0.0]
本研究では,5段階の質問条件付エビデンス損失軌跡に沿った回答レベルの信頼性について検討する。
我々は、凍結した隠れ状態、シーケンスの信頼性、エントロピーに基づいて、軽量なポストホック信頼性ヘッドを訓練する。
論文 参考訳（メタデータ） (2026-08-29T20:29:03Z) - Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。
共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。
このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
論文 参考訳（メタデータ） (2026-08-08T13:22:14Z) - SAKI: Score-Aware Low-Rank Key Indexing with Random-Matrix Noise Correction for KV Retrieval [4.894648561808929]
キー再構成の品質よりも注意点を保存できる学習自由なKVキャッシュインデックスを開発した。
ランク32では、PCAの残るトップ64リコールエラーの13～30%を除去する。
1モデルあたりの注目度は68～99%向上し、より深い層で最大の増加率となる。
論文 参考訳（メタデータ） (2026-08-04T06:59:29Z) - Scaffold splits hide structural-frontier failures in ADMET models [25.408600489964726]
我々は,最も広く,最も物理化学的に遠隔的な足場群を予約するラベルフリーな構造フロンティアスプリットを導入する。
ADMETタスクを6つの公開実験またはキュレートしたADMETタスクで評価した。
論文 参考訳（メタデータ） (2026-07-12T12:25:50Z) - Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
テキスト検出器は、事前訓練された典型軸を増幅する。
タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。
RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
論文 参考訳（メタデータ） (2026-05-20T19:08:38Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - Knowing but Not Correcting: Routine Task Requests Suppress Factual Correction in LLMs [26.062372963777452]
LLMは、独立して提示された時に確実に偽のクレームを訂正するが、同じクレームがタスク指向のリクエストに埋め込まれている場合、そのクレームは正しいというよりも、従うことが多い。
我々は、この障害モードの誤り訂正を抑え、300の偽の前提のベンチマークを構築し、8つのモデルで体系的に評価する。
抑制率は19%から90%で、4つのモデルが80%を超え、修正抑制が一般的で深刻な現象として確立された。
論文 参考訳（メタデータ） (2026-05-07T10:04:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。