論文の概要: Semantic Fibers and Cross-Gram Interference: A Calculus of Safety Drift in Overcomplete Representations
- arxiv url: http://arxiv.org/abs/2609.14861v1
- Date: Mon, 14 Sep 2026 00:23:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.017667
- Title: Semantic Fibers and Cross-Gram Interference: A Calculus of Safety Drift in Overcomplete Representations
- Title（参考訳）: セマンティックファイバーとクロスグラム干渉--超完全表現における安全ドリフトの計算
- Abstract要約: デプロイされた言語モデルは、英語の有害な要求を拒否するが、その忠実な翻訳に従う。
我々はこの現象を監査同値関係で定式化する。
定式化された商、表現、メートル法、特徴辞書、スコアリングヘッド、しきい値、コントラストモデルに対して、得られた安全ドリフトは正確な線形代数的特徴を持つことを示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A deployed language model may refuse a harmful request in English yet comply with its faithful translation, revealing a cross-lingual safety failure that cannot be characterized reliably by output behavior alone. We formalize this phenomenon through an audited equivalence relation and show that, for a declared quotient, representation, metric, feature dictionary, scoring head, threshold, and contrast model, the resulting safety drift admits an exact linear-algebraic characterization. Specifically, the drift is a cross-Gram functional of the within-fiber contrast; its worst admissible value is a support function, while margin invariance is characterized by an annihilator condition. We introduce an intrinsic calibrated exposure measure, governed by the leverage duality $χ^2=1/\ell-1$, which separates observed drift into three diagnostically distinct regimes: a reader fault removable by recalibration, an exact correction that is too ill-conditioned to be reliable, and a representation-level collision that no readout-only intervention can remove. Thus, identical observed exposure can lead to fundamentally different remediation verdicts. The framework also extends to cone-valued safety heads. An untied order-swap identity provides a diagnostic for the linear control interface; its calibration-state residual predicts a distinct three-control composition error on unseen states and targets, achieving median Spearman correlation $0.964$, compared with $0.269$ for a static cross-Gram baseline. etc.....
- Abstract（参考訳）: デプロイされた言語モデルは、英語の有害な要求を拒否するが、その忠実な翻訳に従わない可能性がある。
評価された商、表現、メートル法、特徴辞書、スコアリングヘッド、しきい値、コントラストモデルに対して、得られた安全ドリフトが正確な線形代数的特徴を持つことを示す。
具体的には、ドリフトはファイバ内コントラストのクロスグラム関数であり、最悪の許容値は支持関数であり、マージン不変性はアニヒレータ条件によって特徴づけられる。
本稿では,レバレッジ双対性99^2=1/\ell-1$によって制御される内在的校正被曝対策を,再校正により除去可能な読影欠陥,信頼性に欠ける正確な補正,読み出しのみの介入を除去できない表現レベルの衝突の3つに分けて導入する。
したがって、同一の観察された露光は、根本的に異なる修復判定につながる可能性がある。
このフレームワークは、コーン値の安全ヘッドにも拡張されている。
キャリブレーション状態の残差は、目に見えない状態とターゲットに対して異なる3つの制御構成誤差を予測し、静的なクロスグラムベースラインに対して0.269$に対して、中央値のスピアマン相関を0.964$とする。
なんか...
関連論文リスト
- Guide, Not Bind: Why Defeasible Priors Fail in Augmented Lagrangian Causal Discovery [0.0]
異なる因果発見法は、拡張ラグランジアン罰によって強制される厳格な制約として専門家の事前を符号化する。
この設計は、結合ではなく、エンファングイドと呼ばれるもので、2つの独立した、正確に特徴づけられた理由で失敗することを示している。
論文 参考訳（メタデータ） (2026-09-03T06:53:34Z) - Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability [51.56484100374058]
機械論的解釈可能性プリミティブに対する最初の識別可能性定理を証明した。
スペクトルは、正当性分解ではなく、記述されたエラーバーを持つ識別可能なモデル固有の指紋である。
論文 参考訳（メタデータ） (2026-08-10T19:42:01Z) - The Knowing-Saying Gap: When Probes See Errors that Confidence Misses [20.46211358172975]
線形プローブは、ほぼ完全精度で言語モデルの劣化コンテキストを検知するが、信頼性の高い故障予測にはならない。
マルチホップ算術連鎖全体において、汚職を検出するプローブは最終解の正しさについて非形式的であることが判明した。
リアルタイムモニタとして、プローブベースの介入は、シャープにモデル化され、エラータイプに依存します。
論文 参考訳（メタデータ） (2026-07-21T12:13:10Z) - PerceptionRubrics: Calibrating Multimodal Evaluation to Human Perception [75.70273182182397]
PerceptionRubricsはルーブリックベースの評価フレームワークである。
飽和ベンチマークスコアと現実世界の脆さのギャップに対処する。
1,038枚のインフォメーションセンス画像と1万個以上のインスタンス固有のルーリックをペアリングする。
論文 参考訳（メタデータ） (2026-06-26T17:59:15Z) - What Accuracy and Gradient Cosine Miss: Evaluating Feedback Alignment via Scale Stability, Reference Validity, and Depth Utility [48.10132234701036]
本稿では,3つのチェック(スケール安定性,参照妥当性,深度ユーティリティ)に基づく診断評価プロトコルを提案する。
複数のアーキテクチャや手法にまたがって、我々のプロトコルは広い校正マージンを持つ全ての障害を識別する。
論文 参考訳（メタデータ） (2026-06-19T06:04:17Z) - When Attribution Patching Lies: Diagnosis and a Second-Order Correction [9.338965648455238]
本研究は, 下流ネットワークの非直線性に起因する誤差が, パッチ成分の局所曲率よりも大きいことを示す。
この洞察は、(i)信頼できない見積もりを検出するための信頼性スコア、(ii)エラー境界がポテンシャル属性の誤特定を定量化すること、(iii)Hessian-vector-product correctが1つの後進パスで先行エラーを除去すること、の3つの実用的なツールをもたらす。
論文 参考訳（メタデータ） (2026-06-05T05:20:32Z) - The conditional-mean barrier: From deterministic regression to conditional distribution learning [6.160113667162026]
このチュートリアルでは、条件-平均障壁を中心とした自己完結モジュールを開発する。
平方損失予測器に潜在ランダム性を加えると、条件平均に戻る。
我々は,否定的対数類似度,モーメントとオブザーバブルマッチング,変分目的,逆数分岐,スコアマッチングなどの共通分布目的を短時間に整理する。
論文 参考訳（メタデータ） (2026-05-27T07:31:42Z) - The Confidence Gate Theorem: When Should Ranked Decision Systems Abstain? [0.0]
ランク付けされた決定システムは、いつランク付けされたアウトプットに介入するか、いつ停止するかを判断しなければならない。
信頼に基づく棄権が意思決定の質を単調に改善し、いつ失敗するかを考察する。
論文 参考訳（メタデータ） (2026-03-10T17:44:10Z) - Robustness and Accuracy Could Be Reconcilable by (Proper) Definition [109.62614226793833]
強靭性と精度のトレードオフは、敵文学において広く研究されている。
局所的不変性の帰納的バイアスを課す不適切に定義された頑健な誤差に由来する可能性がある。
定義上、SCOREは、最悪のケースの不確実性に対処しながら、堅牢性と正確性の間の和解を促進する。
論文 参考訳（メタデータ） (2022-02-21T10:36:09Z) - Trust but Verify: Assigning Prediction Credibility by Counterfactual
Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。
これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。
この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文 参考訳（メタデータ） (2020-11-24T19:52:38Z) - Distribution-free binary classification: prediction sets, confidence
intervals and calibration [106.50279469344937]
分布自由条件における二項分類のための不確実性定量化(キャリブレーション、信頼区間、予測セット)の3つの概念について検討する。
固定幅と一様質量の両双対の双対確率に対する信頼区間を導出する。
我々の「三脚」定理の結果として、双有理確率に対するこれらの信頼区間は分布自由キャリブレーションに繋がる。
論文 参考訳（メタデータ） (2020-06-18T14:17:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。