論文の概要: Capability Emergence Can Be Forecast: Per-Seed, In Advance, With Calibrated Intervals, Certified False Alarms, and a Blind Pre-Registered Gate

• arxiv url: http://arxiv.org/abs/2609.19000v1
• Date: Fri, 17 Jul 2026 20:54:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.085238
• Title: Capability Emergence Can Be Forecast: Per-Seed, In Advance, With Calibrated Intervals, Certified False Alarms, and a Blind Pre-Registered Gate
• Title（参考訳）: キャリブレーションされたインターバル、認証された偽のアラーム、ブラインドされたプレ登録ゲート
• Abstract要約: 発生タイミングは前もって1ラン当たり予測可能であり,不確実性は校正される。 グラッキングモデルシステムや小言語モデルでは、発生タイミングは前もって1ラン当たり予測可能であり、キャリブレーションの不確実性がある。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Emergent capabilities are widely treated as unpredictable: loss improves smoothly while abilities appear abruptly. Prior work offers early-warning indicators but never scores them as forecasts: no lead time at controlled false-alarm rate, no calibration, no negatives, no blind tests. We supply that discipline and show that, in grokking model systems and small language models, emergence timing is forecastable per run, in advance, with calibrated uncertainty. Across 30 transformers at identical configuration, the formation time of the previous-token head forecasts each seed's induction-head emergence at Spearman rho=0.977 with median lead 975 steps (~15% of training); a best-case loss rule ties the ranking with 50-step lead (a nowcast). Conformal intervals covered 15/15 held-out seeds, and the frozen rule passed blind pre-registered gates on TWO never-seen configurations (10/10 and 9/10 coverage). A trap-language rung then attacked our own rule as pre-registered: where previous-token context pays for the task itself, the bare precursor false-alarms on 10/10 capability-blocked runs, while the mechanism-composed conjunction is certified in both language classes (0 false alarms) and times emergence at rho=1.000. Finally, a gap-origin study broke the fixed offset (both lr and batch move the gap ~2.3x; no external clock owns it) and revealed the law beneath: across 80 valid-anchor runs the anchor fires at 0.843 of time-to-emergence -- t_event ~= 1.19 x t_anchor -- and this multiplicative rule passed its own blind gate (5/5) at a third unseen configuration. False alarms are certified against 33 manufactured negatives. The precursor leads across 3 public model families (Pythia, OLMo, OLMo-2; 7 suites), with OLMo-2 at 1B tokens showing precursor formed, capability absent. Four pre-registered kill criteria fired and are reported. Every freeze precedes its data in a public commit chain.
• Abstract（参考訳）: 創発的な能力は予測不能として広く扱われる: 損失はスムーズに改善され、能力は突然に出現する。 事前の作業は、早期警戒指標を提供するが、予測として評価することはない: 制御された偽アラームレートでのリードタイム、キャリブレーションなし、ネガティブなし、ブラインドテストなし。 我々は、その規律を提供し、グラッキングモデルシステムや小さな言語モデルにおいて、事前にキャリブレーションされた不確実性のある実行毎に発生タイミングを予測可能であることを示す。 同一構成の30変圧器で、前兆頭部の形成時刻は、スピアマンrho=0.977における各種子の誘導頭発生を中央値975ステップ(トレーニングの15%)で予測し、最良の損失規則は50ステップリード(現在放送)でランク付けされる。 コンフォーマル間隔は15/15の保留種子をカバーし, 凍結条件は, TWOの未確認構成(10/10, 9/10)にブラインド事前登録ゲートを通過した。 10/10の能力ブロックされた実行において、素の先駆的な偽アラームは、メカニズムが組み込まれたアラームは、両方の言語クラス (0の偽アラーム) で認証され、rho=1.000の時刻が出現する。 最後に、ギャップオリジンの研究では、固定されたオフセット(lrとバッチの両方でギャップ ~2.3x、外部クロックは持っていない)を破り、80個の有効なアンカーが、時間からエマージェンス -- t_event ~= 1.19 x t_anchorでアンカー火を走らせ、この乗法則は第3の目に見えない構成で独自のブラインドゲート (5/5) を通過した。 偽アラームは33個の製造された陰性に対して認証される。 前駆体は3つのパブリックモデルファミリー(Pythia, OLMo, OLMo-2; 7 スイート)をリードし、1B トークンで OLMo-2 は前駆体形成、機能欠如を示す。 登録済みの4つの殺傷基準が発火し、報告されている。 各フリーズはパブリックコミットチェーンでデータに先行する。

関連論文リスト

• DeBERTa-ConPara: Attack-Aware and Deployment-Realistic Detection of AI-Generated Text [42.255101883505056]
  DeBERTa-ConParaは,HC3 Plus,M4,MAGE,RAIDで学習した文脈変換器エンコーダと,攻撃対応Unicode前処理を組み合わせたデプロイメント指向検出器である。 我々の中心的な発見は、前処理が適用された場所によって反対方向に作用することである。 2つの配置の因子的変化は、正規化推論による生のトレーニングを最高の設定として独立に識別する。 12種類の攻撃クラスのうち、ホモグリーフとゼロ幅空間の挿入は11.05%から1.12%から96.98%に増加した。
  論文  参考訳（メタデータ） (2026-10-01T00:57:33Z)
• Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
  マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。 標準的な最終精度評価は、これらの反対のメカニズムを詳述する。 複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
  論文  参考訳（メタデータ） (2026-09-28T14:31:19Z)
• DreamingGoose: Staged Distillation from Autoregressive Transformers to Bidirectional Recurrent Diffusion Language Models [41.99844472131922]
  我々はQwen3の教師を1.7Bと8Bで3段階に分けて、注意なし、双方向、ゲート・デルタ・ルール拡散学習者に変換する。 言語モデリングは部分的および非分配のみを転送する。 検索を学習するすべてのモデルは、検索エピソードに現れないトークンに対して0.000のスコアを獲得します。
  論文  参考訳（メタデータ） (2026-09-28T03:57:11Z)
• Clean Engineering, Unstable Measurement: A Preregistered Reliability Failure of Black-Box LLM Observers on Shared Endpoints [4.41537705949485]
  言語モデル審査員は、トレーニングデータをゲートし、世代をスコアし、リーダーボードを駆動する。 我々は、事前登録された2つのキャンペーンにおいて、すべてのしきい値が事前に固定された状態で、その仮定を監査した。 52,988件の要求を監査し、スピアマン0.400で0.90と一致した。 証拠を3段階のスナップショット識別はしご、8つの設計ルール、レポートチェックリストに抽出する。
  論文  参考訳（メタデータ） (2026-09-03T17:59:43Z)
• Gating Before Commitment: Anticipating Intent Divergence to Prevent Post-Interaction Decision Failures in Autonomous Driving [11.206758778146282]
  本研究では,言語誘導型インテントモジュールが構造化記述子を読み出し,スムーズなインテント・ジオメトリ・ダイバージェンススコアを計算し,コミット前に計画された操作をゲートする決定層について検討する。 リプレイされたオフロードの出発と、凍結して公表された実装の下での4つのクラッシュクリップで、ゲーティングは計画を修復する唯一のレイヤーである。 このモデルの実証された役割は、これらの失敗を最も早く検出し、幾何学的規則に対する不確実な拒否である。
  論文  参考訳（メタデータ） (2026-08-26T17:42:03Z)
• Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
  セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。 以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。 我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
  論文  参考訳（メタデータ） (2026-07-30T16:22:13Z)
• Catching One in Five: LLM-as-Judge Blind Spots in Production Multi-Turn Transaction Agents [45.148328075418156]
  デプロイされた多ターン食品・飲料注文エージェントについて検討し,実際の品質問題の数を測定した。 私たちの盲点分類は、失敗はランダムではなく構造化されていることを示している。 プロダクションマルチターンエージェントでは、自動判断はリグレッションフロアであり、人間のレビューの代わりにはならない。
  論文  参考訳（メタデータ） (2026-06-09T02:11:01Z)
• Silent Collapse in Recursive Learning Systems [24.578102943388256]
  トラジェクトリ統計をモニタし、遅い時間スケールの信頼変数を推定する軽量なメタ認知ループを提案する。 MTRは早期警告を提供し、実際のデータにアクセスすることなくサイレント崩壊を積極的に防止する。
  論文  参考訳（メタデータ） (2026-05-14T08:59:26Z)
• Architectural Observability Collapse in Transformers [0.0]
  トレーニングは、出力信頼が露呈しない内部的な意思決定品質のシグナルを保持します。 信頼制御は、平均60.3%の生プローブ信号を6つのファミリーの14モデルで吸収する。 Llama 3.1 8Bは、同じ32層、32頭、4096面の形状で崩壊する。
  論文  参考訳（メタデータ） (2026-04-27T02:39:02Z)
• TARG: Training-Free Adaptive Retrieval Gating for Efficient RAG [46.122203287541005]
  トレーニングフリーのAdaptive Retrieval Gating (TARG) は、ベースモデルからの短い非遅延ドラフトのみを使用していつ取得するかを決定する、単発のポリシーである。 NQ-Open、TriviaQA、PopQAでは、TARGは一貫して精度と効率のフロンティアをシフトさせる。
  論文  参考訳（メタデータ） (2025-11-12T23:09:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。