論文の概要: Structural Rigidity and the 57-Token Predictive Window: A Physical Framework for Inference-Layer Governability in Large Language Models
- arxiv url: http://arxiv.org/abs/2604.03524v1
- Date: Sat, 04 Apr 2026 00:08:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.621109
- Title: Structural Rigidity and the 57-Token Predictive Window: A Physical Framework for Inference-Layer Governability in Large Language Models
- Title(参考訳): 構造剛性と57-token予測ウィンドウ:大規模言語モデルにおける推論-階層性に関する物理フレームワーク
- Authors: Gregory M. Ruddell,
- Abstract要約: 現在のAIの安全性は、行動監視とトレーニング後のアライメントに依存している。
実験的な測定は、これらのアプローチは検出可能な事前コミット信号を生成しないことを示している。
本稿では,トランスフォーマー推論のダイナミクスを制約満足度モデルに結合するエネルギーベースのガバナンスフレームワークを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Current AI safety relies on behavioral monitoring and post-training alignment, yet empirical measurement shows these approaches produce no detectable pre-commitment signal in a majority of instruction-tuned models tested. We present an energy-based governance framework connecting transformer inference dynamics to constraint-satisfaction models of neural computation, and apply it to a seven-model cohort across five geometric regimes. Using trajectory tension (rho = ||a|| / ||v||), we identify a 57-token pre-commitment window in Phi-3-mini-4k-instruct under greedy decoding on arithmetic constraint probes. This result is model-specific, task-specific, and configuration-specific, demonstrating that pre-commitment signals can exist but are not universal. We introduce a five-regime taxonomy of inference behavior: Authority Band, Late Signal, Inverted, Flat, and Scaffold-Selective. Energy asymmetry (Σ\r{ho}_misaligned / Σ\r{ho}_aligned) serves as a unifying metric of structural rigidity across these regimes. Across seven models, only one configuration exhibits a predictive signal prior to commitment; all others show silent failure, late detection, inverted dynamics, or flat geometry. We further demonstrate that factual hallucination produces no predictive signal across 72 test conditions, consistent with spurious attractor settling in the absence of a trained world-model constraint. These results establish that rule violation and hallucination are distinct failure modes with different detection requirements. Internal geometry monitoring is effective only where resistance exists; detection of factual confabulation requires external verification mechanisms. This work provides a measurable framework for inference-layer governability and introduces a taxonomy for evaluating deployment risk in autonomous AI systems.
- Abstract(参考訳): 現在のAIの安全性は、行動監視とトレーニング後のアライメントに依存しているが、実証的な測定では、これらのアプローチは、テストされたほとんどの命令チューニングモデルにおいて、検出可能な事前コミット信号を生成しないことを示している。
本稿では,トランスフォーマー推論のダイナミクスをニューラルネットワークの制約満足度モデルに結合するエネルギーベースのガバナンス・フレームワークを提案し,それを5つの幾何学的レジームの7モデルコホートに適用する。
軌道張力 (rho = ||a|| / ||v||) を用いて、算術的制約プローブ上の欲求復号の下で、Phi-3-mini-4k-インストラクト内の57個のプレコミット窓を同定する。
この結果はモデル固有であり、タスク固有であり、設定固有であり、プレコミット信号は存在するが普遍的ではないことを示す。
推定行動の5段階の分類法として、オーソリティ・バンド、レイト・シグナル、インバーテッド、フラット、スカポルド・セレクティブを導入する。
エネルギー非対称性 (Σ\r{ho}_misaligned / Σ\r{ho}_aligned) は、これらの状態における構造的剛性の統一計量である。
7つのモデルにまたがって、1つの構成だけがコミットメントの前に予測信号を表示し、他のすべての構成はサイレント障害、遅延検出、逆ダイナミクス、フラットジオメトリを示す。
さらに,実際の幻覚は72個のテスト条件にまたがる予測信号を生成せず,訓練された世界モデル制約が存在しない場合に,刺激的なアトラクションの沈静化と一致していることを示す。
これらの結果は、ルール違反と幻覚は、異なる検出要求を持つ異なる障害モードであることを示す。
内部幾何モニタリングは抵抗が存在する場所のみ有効であり、事実の折り畳みの検出には外部の検証機構が必要である。
この研究は、推論層支配性の測定可能なフレームワークを提供し、自律型AIシステムにおけるデプロイメントリスクを評価するための分類を導入している。
関連論文リスト
- Noise Titration: Exact Distributional Benchmarking for Probabilistic Time Series Forecasting [1.5939955861266883]
本稿では,介入主義的,厳密な統計的ベンチマークへのパラダイムシフトを提案する。
我々は,ブラックボックスシーケンスマッチングゲームから正確な分布推定タスクに予測を変換する。
我々は、最先端のゼロショットモデルがコンテキストパロッキング機構と一貫して振る舞うことを発見した。
論文 参考訳(メタデータ) (2026-03-23T17:14:11Z) - Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures [0.0]
我々は、モデルのエラーが出力コミット前に検出可能で、一度検出されると修正できる程度、統治性を導入します。
ベンチマーク精度は支配可能性を予測するものではなく、補正能力は検出と独立に異なり、同一のガバナンス足場はモデル間で逆の効果をもたらす。
本稿では,モデルとタスクの組み合わせをGovernable, Monitor Only, Steer Blind, Ungovernableの4つに分類する。
論文 参考訳(メタデータ) (2026-03-22T21:50:28Z) - The Emergence of Lab-Driven Alignment Signatures: A Psychometric Framework for Auditing Latent Bias and Compounding Risk in Generative AI [0.0]
本稿では,不確実性の下での潜在特性推定を定量化する新しい監査フレームワークを提案する。
この研究は最適化バイアス、Sycophancy、Status-Quo Legitimizationを含む9つの次元にわたる主要なモデルを監査している。
論文 参考訳(メタデータ) (2026-02-19T06:56:01Z) - Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。
累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。
主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文 参考訳(メタデータ) (2026-02-10T21:08:53Z) - CircuChain: Disentangling Competence and Compliance in LLM Circuit Analysis [0.0]
本稿では,電気回路解析における物理推論能力から命令コンプライアンスを遠ざけるように設計された診断ベンチマークであるCircuChainを紹介する。
シンボリック・ソルバ、SPICEシミュレーション、LLMに基づくエラー分類を組み合わせた多段階検証パイプラインは、エラーのきめ細かい帰属を可能にする。
評価された最強モデルは、ほぼ完全な物理的推論を示すが、Trap条件が意図的に自然のサインパターンを逆転させる場合、規約違反の頻度が高い。
論文 参考訳(メタデータ) (2026-01-29T06:13:44Z) - Signal in the Noise: Polysemantic Interference Transfers and Predicts Cross-Model Influence [46.548276232795466]
多意味性は言語モデルに広く浸透しており、解釈とモデル行動制御の大きな課題である。
2つの小さなモデルの多意味的トポロジをマッピングし、意味的に無関係だがモデル内の干渉を示す特徴対を同定する。
我々は4つのloci(prompt, token, feature, neuron)に介入し、次のトーケン予測分布における変化を計測し、これらのモデルに体系的な脆弱性を露呈する多意味構造を明らかにする。
論文 参考訳(メタデータ) (2025-05-16T18:20:42Z) - Toward Certified Robustness Against Real-World Distribution Shifts [65.66374339500025]
我々は、データから摂動を学ぶために生成モデルを訓練し、学習したモデルの出力に関して仕様を定義する。
この設定から生じるユニークな挑戦は、既存の検証者がシグモイドの活性化を厳密に近似できないことである。
本稿では,古典的な反例誘導的抽象的洗練の概念を活用するシグモイドアクティベーションを扱うための一般的なメタアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-06-08T04:09:13Z) - No Need to Know Physics: Resilience of Process-based Model-free Anomaly
Detection for Industrial Control Systems [95.54151664013011]
本稿では,システムの物理的特性に反する逆スプーフ信号を生成するための新しい枠組みを提案する。
トップセキュリティカンファレンスで公表された4つの異常検知器を分析した。
論文 参考訳(メタデータ) (2020-12-07T11:02:44Z) - Trust but Verify: Assigning Prediction Credibility by Counterfactual
Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。
これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。
この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文 参考訳(メタデータ) (2020-11-24T19:52:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。