論文の概要: The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models

• arxiv url: http://arxiv.org/abs/2608.22876v2
• Date: Tue, 25 Aug 2026 04:49:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.164873
• Title: The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models
• Title（参考訳）: Maskはモデルではない - 注意、状態空間、ハイブリッドシーケンスモデルにおける事前修正不変性の検討
• Abstract要約: ライトウェイトな監査と2つのフォワードパス、トレーニングやグラデーションなし、因果関係が壊れる場所をローカライズするレイヤ毎のスコアを与えます。 192回中8回のチェックポイント試験ではマスク検査では検出されなかったが, 監査では全192/192を正確な層に局在させた。
• 参考スコア（独自算出の注目度）: 2.1763040274946337
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Hybrid sequence models must satisfy prefix invariance: representations at position t must not depend on future inputs, yet this is rarely verified. We formalize prefix invariance and give a lightweight audit, two forward passes, no training or gradients, yielding a per-layer score localizing where causality breaks. Attention-mask inspection, the field's default check, is incomplete: causality is a graph-level property, and leaks can occur via scans, aggregations, or normalization despite correct masks. Across 192 injected-fault trials on eight checkpoints, mask inspection detected none, while our audit localized all 192/192 to the exact layer. Static/dynamic analysis of chunked-scan code in transformers found the same defect in Zamba2 and Nemotron-H, an inter-chunk axis error fixed via the reference implementation. The method fits on one page and runs in seconds.
• Abstract（参考訳）: ハイブリッドシーケンスモデルはプレフィックス不変性を満たさなければならない: 位置 t での表現は将来の入力に依存してはならないが、これが証明されることは滅多にない。 我々はプレフィックス不変性を定式化し、軽量な監査を行い、2つの前進パス、トレーニングや勾配を行わず、因果関係が壊れる場所を階層ごとのスコアでローカライズする。 フィールドのデフォルトチェックであるアテンションマスク検査は不完全である。因果性はグラフレベルのプロパティであり、正しいマスクにもかかわらず、スキャン、集約、正規化によってリークが発生する可能性がある。 192回以上の検診試験では,マスク検査では検出されなかったが,監査では全192/192を正確な層に局在させた。 変圧器におけるチャンクスキャンコードの静的・動的解析により、Zamba2 と Nemotron-H に同じ欠陥が見つかった。 メソッドは1ページに収まり、数秒で実行される。

関連論文リスト

• Probabilistic Model Checking of Autoregressive Neural Sequence Models [4.570003973862485]
  自己回帰型ニューラルシークエンスモデルをデプロイする上で問題となる2つの問題に対して、テストセットの精度は静かである。 テスト対象のシステムの質量は、サンプリング時に到達可能な制約違反の代替品にどの程度の確率があるか。 確率論的モデル検査で両方答える。
  論文  参考訳（メタデータ） (2026-09-01T07:37:55Z)
• Prediction of Prediction (PoP): Inter-Layer Activation Fusion for Single-Pass Hallucination Detection in Large Language Models [0.0]
  この研究は、生成中の内部の隠れ状態遷移ダイナミクスが、補助的な復号呼び出しを伴わずに事実エラーを信号化できるかどうかを評価する。 本稿では,層間遷移の不確実性を捉えるメカニズムである予測予測(PoP)を導入する。 PoPは受信機動作特性曲線(AUROC)の領域を75.5%の精度で達成している。
  論文  参考訳（メタデータ） (2026-08-27T14:17:14Z)
• Distribution-free false-alarm calibration and chance-corrected spatial evaluation for industrial anomaly detection [2.5273986395975476]
  我々は、分布自由な上限値とペア化された最小交差空間テストを組み合わせる。 我々は,3つのISP-ADモダリティと3つの固定データ分割から120個の点欠陥画像上の3つの検出器を評価する。
  論文  参考訳（メタデータ） (2026-08-15T07:21:05Z)
• Temporal Leakage in LLM Backtesting: Measurement, Validation, and Adjusted Scores [6.428238071336693]
  LLMバックテストにおける汚染の標準チェックは非形式的であることを示す。 4つのフラッグシップモデルは、記憶できない質問で失敗します。 受動的バックテストが2つを本当のスキルから切り離すことができないことを証明しています。
  論文  参考訳（メタデータ） (2026-08-04T00:45:54Z)
• EditCLEVR: A Paired-Scene Intervention Benchmark for Compositional Faithfulness of Object-Centric Representations [0.0]
  対象中心学習のためのペア・シーン介入ベンチマークであるEditCLEVRを紹介する。 それぞれの例には、同じオブジェクトインデックスとシーンレイアウトを持つ、前/後対のレンダリングが含まれている。 これには、既知の1つのオブジェクトに対する、正確に1つの既知の変更属性と、ドリフト測定のためのno-edit re-renderが含まれる。
  論文  参考訳（メタデータ） (2026-07-19T16:11:43Z)
• Decoupled Single-Mask Annotation Noise Detection via Cross-Sectional Patch Self-Consistency [2.8923450209863955]
  単一マスクアノテーション雑音検出のための分離されたフレームワークを提案する。 我々は断面パッチの自己整合性を利用して、解釈可能かつ聴覚可能なノイズ証拠を生成する。 提案手法は,クロスセクションパッチを抽出し,スケーラブルなベクトル探索により強度等価な近傍を検索し,統計的マスクの不一致からパッチレベルのノイズスコアを算出する。
  論文  参考訳（メタデータ） (2026-07-07T08:02:27Z)
• Conformal calibration and look-elsewhere effect in anomaly detection for new-physics searches [0.0]
  機械学習による異常検出は、新しい物理学の探索を再構築している。 本稿では,共形予測に基づく校正層を提案する。
  論文  参考訳（メタデータ） (2026-06-11T18:00:02Z)
• Observation-Aligned Mask Priors for Learning Physical Dynamics from Authentic Occlusions [5.712248310668237]
  観測適応マスクプライオリティ(英: Observation-Aligned Mask Priors)は、観測マスクの分布を学習するフレームワークである。 この交叉に基づく分割は、すべての有効次元にクエリされる確率が厳密に正であることを示します。
  論文  参考訳（メタデータ） (2026-05-16T05:23:49Z)
• Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
  そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。 各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。 これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
  論文  参考訳（メタデータ） (2026-04-20T13:25:40Z)
• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• Universal Transformation of One-Class Classifiers for Unsupervised Anomaly Detection [51.73001988341294]
  異常検出は通常、一級分類問題として定式化される。 本稿では,任意の1クラス分類器に基づく異常検出器を,完全に教師なしの手法に変換するデータセット折り畳み方式を提案する。
  論文  参考訳（メタデータ） (2026-02-13T16:54:12Z)
• Semi-DETR: Semi-Supervised Object Detection with Detection Transformers [105.45018934087076]
  半教師付き物体検出(SSOD)におけるDETRに基づくフレームワークの解析 本報告では,第1次変圧器を用いたエンド・ツー・エンド半教師対象検出器であるSemi-DETRについて述べる。 我々の手法は、最先端の手法をクリアマージンで上回る。
  論文  参考訳（メタデータ） (2023-07-16T16:32:14Z)
• Hard-normal Example-aware Template Mutual Matching for Industrial Anomaly Detection [78.734927709231]
  異常検出器は、クエリー画像の未知の欠陥を検出し、ローカライズするために工業製造で広く使われている。 これらの検出器は異常のないサンプルで訓練され、ほとんどの通常のサンプルと区別された異常を成功させた。 しかし、ハードノーマルな例は、ほとんどの通常のサンプルから遠く離れており、しばしば既存の方法によって異常と誤認される。
  論文  参考訳（メタデータ） (2023-03-28T17:54:56Z)
• Uncertainty Estimation via Response Scaling for Pseudo-mask Noise Mitigation in Weakly-supervised Semantic Segmentation [29.464035548191895]
  Wakly-Supervised Semantic (WSSS) は、高密度アノテーションの重い負担なしにオブジェクトをセグメント化する。 本研究では,不確実性推定のための予測マップを複数回スケーリングすることで,応答の雑音変化をシミュレートする。 この不確実性は、ノイズの監視信号を緩和するためにセグメンテーション損失の重み付けに使用される。
  論文  参考訳（メタデータ） (2021-12-14T14:37:19Z)
• Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
  ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。 分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。 本手法は精度と不確実性の両方を向上することを示す。
  論文  参考訳（メタデータ） (2021-09-27T01:09:08Z)
• Reference-based Defect Detection Network [57.89399576743665]
  最初の問題はテクスチャシフトであり、これはトレーニングされた欠陥検出モデルが目に見えないテクスチャの影響を受けやすいことを意味する。 第2の問題は部分的な視覚的混乱であり、部分的な欠陥ボックスが完全なボックスと視覚的に類似していることを示している。 本稿では,これら2つの問題に対処する参照型欠陥検出ネットワーク(RDDN)を提案する。
  論文  参考訳（メタデータ） (2021-08-10T05:44:23Z)
• DAAIN: Detection of Anomalous and Adversarial Input using Normalizing Flows [52.31831255787147]
  我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。 本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。 当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
  論文  参考訳（メタデータ） (2021-05-30T22:07:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。