論文の概要: Calibrating Interpretability Instruments Before Trusting Their Verdicts
- arxiv url: http://arxiv.org/abs/2609.14754v1
- Date: Sun, 13 Sep 2026 19:37:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.957291
- Title: Calibrating Interpretability Instruments Before Trusting Their Verdicts
- Title（参考訳）: 検証を信頼する前に解釈可能性計器を校正する
- Abstract要約: Causal氏は、大きな言語モデル(LLM)の内部は測定にかかっていると主張している。
これらの測定は、エラーではなく可算数を返す特定の診断可能な方法で失敗する。
このノートは、拒絶と道徳的表現に関する因果的解釈可能性プログラムの6つの失敗を文書化している。
- 参考スコア（独自算出の注目度）: 1.0829694003408499
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Causal claims about large language model (LLM) internals rest on measurements. Those might include a projection, a cosine, an ablation delta, or an interchange patch among others. These measurements fail in specific, diagnosable ways that return a plausible number instead of an error, so a broken instrument can easily read as a finding. A covariance-matched null can saturate until every direction looks typical, a per-head attribution can overshoot the true residual write threefold on reordered-normalization architectures, an interchange patch can go sign-chaotic because its outcome is pinned at a ceiling, or a read-from verdict can be an artifact of measuring past the layer where the model already decided. This note documents six such failures from a causal interpretability program on refusal and moral representation, spanning several papers and a four-model open-weight panel; each mode is established on one or two of the four. For each we give the tell that catches it and a protocol keyed to a detectable trigger (reordered normalization, massive activations, a low-dimensional decision channel), so we and readers can check whether a given setup is exposed. The discipline reduces to four moves: calibrate against a positive-control ladder, certify with an orthogonal cell, compute power before spending compute, and state every read-from verdict at a depth referenced to the model's commitment. The evidence is four architectures across three families within a single program; external replication across programs is future work.
- Abstract（参考訳）: Causal氏は、大きな言語モデル(LLM)の内部は測定にかかっていると主張している。
これにはプロジェクション、コサイン、アブレーションデルタ、インターチェンジパッチなどが含まれる。
これらの測定は、エラーではなく可算数を返す特定の診断可能な方法で失敗するため、壊れた機器は発見として容易に読むことができる。
共分散マッチングされたnullは、すべての方向が典型的になるまで飽和し、頭ごとの属性は、順序付けされた正規化アーキテクチャ上の真の残留書き込み3倍をオーバーシュートし、交換パッチは、その結果が天井に固定されているため、サインカオスになり得る。
このノートは、いくつかの論文と4つのモデルのオープンウェイトパネルにまたがる、拒絶とモラル表現に関する因果的解釈可能性プログラムからの6つの失敗を文書化しており、各モードは4つのうち1つまたは2つに設定されている。
検出可能なトリガ(リオーダーされた正規化、大規模なアクティベーション、低次元の決定チャネル)にキーされたプロトコルと、それをキャッチする通知をそれぞれ与えます。
規律は、正制御のはしごに対して校正し、直交セルで認証し、計算に費やす前に電力を計算し、モデルのコミットメントに言及した深さで全ての読み出し判定をステートする。
この証拠は、1つのプログラム内の3つのファミリーにまたがる4つのアーキテクチャである。
関連論文リスト
- Semantic Fibers and Cross-Gram Interference: A Calculus of Safety Drift in Overcomplete Representations [0.0]
デプロイされた言語モデルは、英語の有害な要求を拒否するが、その忠実な翻訳に従う。
我々はこの現象を監査同値関係で定式化する。
定式化された商、表現、メートル法、特徴辞書、スコアリングヘッド、しきい値、コントラストモデルに対して、得られた安全ドリフトは正確な線形代数的特徴を持つことを示す。
論文 参考訳（メタデータ） (2026-09-14T00:23:32Z) - Architecture-Dependent Causal Transfer of Activation States Across Large Language Models [51.56484100374058]
内部言語アクティベーション状態は、異なる大きな言語モデル間で因果的に転送することができる。
生成中に投影された活性化をターゲットモデルに注入すると、統計的に有意で事前登録された因果効果が生じる。
現在実装されているLCM間のエンド・ツー・エンドのアクティベーション・ステート・トランスファーは、ユニバーサルではなくアーキテクチャに依存していると結論付けている。
論文 参考訳（メタデータ） (2026-08-17T09:53:27Z) - Split the Labor: Separating Evidence Interpretation from Decision Aggregation [0.0]
言語モデルに多くの情報源から結論に達するよう要求するシステムは通常、それらを1つのプロンプトに分割する。
提案する4分野のエビデンス(仮説,信頼性バケット,合理性,証明)は,両半減期を決定することを示す。
この修正はアーキテクチャよりも算術的であり、言語モデル以外のルールのクラスに適用される。
論文 参考訳（メタデータ） (2026-08-14T17:24:55Z) - Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability [51.56484100374058]
機械論的解釈可能性プリミティブに対する最初の識別可能性定理を証明した。
スペクトルは、正当性分解ではなく、記述されたエラーバーを持つ識別可能なモデル固有の指紋である。
論文 参考訳（メタデータ） (2026-08-10T19:42:01Z) - When Does Consensus Mean Correctness? Measuring the Agreement-Accuracy Coupling with Semantics-Preserving Re-Rendering [0.8594140167290097]
ラベルのない信頼性信号として、摂動入力間のモデルの合意が使用される。
レンダリングは正確さと信頼性の両方で再サンプリングする。
モデル自身のクロスレンダーコンセンサスインバータを微調整する。
論文 参考訳（メタデータ） (2026-08-06T07:08:05Z) - Encoder-Decoder Manifold Alignment for Idempotent Generation [51.959208893243776]
この失敗の主な理由は、エンコーダとデコーダによって学習された多様体間の幾何学的ミスマッチである。
我々は、エンコーダとデコーダに同じ基礎となるデータ多様体の一貫性のある表現を学習させ、このギャップを明示的に埋める新しいトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2026-06-21T02:14:37Z) - A Universal Cliff and a Design Fingerprint: Cross-Section Defect Detection Under LLM Orchestration [0.0]
生産言語モデルシステムは、労働者エージェントの目に見えないオーケストレーションにまたがってそれを拡大する要求に答える。
これは、単一のワーカーが見ることができない欠陥のクラスに何をもたらすか尋ねる。
1人の開発者から5世代にわたる10のシステムと、異なるアライメントパラダイムからの5つのプロバイダのみです。
論文 参考訳（メタデータ） (2026-05-25T05:09:48Z) - Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures [0.0]
我々は、モデルのエラーが出力コミット前に検出可能で、一度検出されると修正できる程度、統治性を導入します。
ベンチマーク精度は支配可能性を予測するものではなく、補正能力は検出と独立に異なり、同一のガバナンス足場はモデル間で逆の効果をもたらす。
本稿では,モデルとタスクの組み合わせをGovernable, Monitor Only, Steer Blind, Ungovernableの4つに分類する。
論文 参考訳（メタデータ） (2026-03-22T21:50:28Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳（メタデータ） (2025-10-02T06:25:10Z) - GLENet: Boosting 3D Object Detectors with Generative Label Uncertainty Estimation [70.75100533512021]
本稿では,対象物の潜在的可算有界箱の多様性として,ラベルの不確実性問題を定式化する。
本稿では,条件付き変分オートエンコーダを応用した生成フレームワークであるGLENetを提案する。
GLENetが生成するラベルの不確実性はプラグアンドプレイモジュールであり、既存のディープ3D検出器に便利に統合することができる。
論文 参考訳（メタデータ） (2022-07-06T06:26:17Z) - Tractable Inference in Credal Sentential Decision Diagrams [116.6516175350871]
確率感性決定図は、解離ゲートの入力が確率値によってアノテートされる論理回路である。
我々は、局所確率を質量関数のクレーダル集合に置き換えることができる確率の一般化である、クレーダル感性決定図を開発する。
まず,ノイズの多い7セグメント表示画像に基づく簡単なアプリケーションについて検討する。
論文 参考訳（メタデータ） (2020-08-19T16:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。