論文の概要: Target-Independent Micro-Interventions for Predicting Training Response Across Language-Model Families

• arxiv url: http://arxiv.org/abs/2609.08618v1
• Date: Tue, 08 Sep 2026 11:54:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.641135
• Title: Target-Independent Micro-Interventions for Predicting Training Response Across Language-Model Families
• Title（参考訳）: 言語モデルファミリ間のトレーニング応答予測のためのターゲット非依存型マイクロインターベンション
• Abstract要約: ベンチマークスコアは、現在チェックポイントに何ができるかを記述しているが、次のトレーニングエピソードにどのように反応するかは定かではない。 同じチェックポイントから4つの短い、標準化された、ターゲット非依存のマイクロインターベンションを分岐することで、この欠落状態を測定する。 パルスブロックはフレキシブルな直接読み出しと構造保存演算子読み出しをサポートする。
• 参考スコア（独自算出の注目度）: 6.314493350744026
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Benchmark scores describe what a checkpoint can do now, but they do not determine how it will respond to the next training episode. We measure this missing state by branching four short, standardized, target-independent micro-interventions from the same checkpoint and recording their effects in a common capability space. Together with current capability, these responses form L-State; its pulse block supports a flexible direct readout and a structure-preserving operator readout. Under smooth local dynamics, the operator construction admits an end-to-end cross-family bound with explicit source- and target-family coordinate heterogeneity. In three-family leave-one-family-out development, both pulse readouts reduce source-standardized MSE by 39.4% relative to capability alone, while separating the best response and direction estimates. On sealed GLM-4-9B, the direct and operator readouts reduce MSE by 71.8% and 78.3%, respectively, and the operator readout raises sign balanced accuracy from 0.366 to 0.754. On sealed Granite-3.1-8B, the direct readout reaches RMSE 0.544 and a development-fitted action-wise selector reaches 0.554, compared with 1.172 for capability alone. A five-family audit finds that the operator coordinate varies by action and family, and that modeling these deviations improves retrospective held-trajectory prediction. Target-independent interventions therefore expose training-response information that current capability misses, with direct and structured readouts covering complementary transfer regimes.
• Abstract（参考訳）: ベンチマークスコアは、現在チェックポイントに何ができるかを記述しているが、次のトレーニングエピソードにどのように反応するかは定かではない。 同じチェックポイントから4つの短い、標準化された、ターゲット非依存のマイクロインターベンションを分岐し、それらの効果を共通の機能空間で記録することで、この不足状態を計測する。 パルスブロックはフレキシブルな直接読み出しと構造保存演算子読み出しをサポートする。 スムーズな局所力学の下では、演算子の構成は、明示的なソースとターゲットのカテゴリの座標の不均一性によって、終端から終端のクロスセグメントが有界であることを認めている。 3つのファミリー・ワン・ファミリーアウト開発において、どちらのパルスリードアウトもソース標準のMSEを39.4%削減し、最高の応答と方向推定を分離する。 密閉GLM-4-9Bでは、直接読み出しと演算子読み出しはそれぞれ71.8%と78.3%減少し、演算子読み出しは符号バランスの精度を0.366から0.754に上げる。 密閉されたグラナイト-3.1-8Bでは、直接読み出しはRMSE0.544に達し、開発に適したアクションワイドセレクタは0.554に達する。 5家族の監査では、オペレータの座標は行動や家族によって変化し、これらの偏差をモデル化することで、リフレクションの軌跡予測が改善されている。 したがって、ターゲット非依存の介入は、現在の能力が欠落しているトレーニング応答情報を公開する。

関連論文リスト

• GenCoord: Skill-Path Commitments under Private Information [3.5348314201494517]
  GenCoordを紹介します。これは、そのようなプライベートな事実のタスクの結果を、実行可能なスキルパスのコミットメントに変換するものです。 ローカルQwen3.5-0.8Bモデルは、複数ステップのSELFプランとピアREQを出力する。 3つの独立して訓練された種子の中で、正しい能力フィードバックは、ペア化された局所情報ギャップを50%から100%に閉じる。
  論文  参考訳（メタデータ） (2026-08-22T17:41:25Z)
• A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination [51.06539604709775]
  本稿では、制御ユニットを表現編集からロール条件のエビデンスビューへシフトさせる自己進化型エージェントフレームワークであるA-SRを提案する。 A-SRは、コーディネートプロトコル、オンライン評価器・リワードロールポリシー、および状態制御プロセスメモリ間のルーティングによる公式発見をコーディネートする。
  論文  参考訳（メタデータ） (2026-08-05T14:01:10Z)
• Grounding latent algorithm routing in transformer reasoning [2.3977651066739374]
  インダクティブバイアスの異なる家族を対象としたエピソードレベルの適応を,トランスフォーマーが構成できるかどうかを検討した。 ROUTEBENCHは,大域的縮小,疎度,頑健性,局所性を重視した診断ベンチマークである。 44M-612Mパラメータでスクラッチからトレーニングされた高密度デコーダのみのトランスフォーマーでは、306Mモデルがオラクルルーティングギャップの80.9%を閉じ、84.1のルートF1を達成する。
  論文  参考訳（メタデータ） (2026-07-27T14:07:12Z)
• SingGuard-NSFA: Extensible Guardrails for Agentic AI via Generative Reasoning and Real-Time Classification [0.0]
  nsfaguardは、エージェントAIシステムを運用上の脅威から保護するためのガードレールフレームワークである。 まず,185種のリスク変異をCIA-Triad-grounded 階層に分類するNSFA分類について紹介する。 凍結したバックボーン上の識別的分類ヘッドと解釈可能なオフライン監査のためのSFTに基づく生成推論を組み合わせたデュアルモードアプローチを開発した。
  論文  参考訳（メタデータ） (2026-07-13T07:28:45Z)
• Output Vector Editing for Memorization Mitigation in Large Language Models [68.30351930772788]
  大規模な言語モデルは、トレーニングデータからシーケンスを記憶し、再現し、プライバシ、著作権、セキュリティリスクを生み出す。 既存のニューロンレベルの緩和方法は、ニューロンの活性化をゼロにすることで編集を等しくするが、活性化はニューロンが関与するかどうかのみを制御する。 記憶継続に責任を負うニューロンの小さな集合を探索する制約最適化編集である出力ベクトル編集を提案する。
  論文  参考訳（メタデータ） (2026-06-17T07:29:18Z)
• Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
  大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。 個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。 構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
  論文  参考訳（メタデータ） (2026-05-15T17:08:27Z)
• EvoLM: Self-Evolving Language Models through Co-Evolved Discriminative Rubrics [86.49781345669436]
  言語モデルは事前学習からかなりの評価知識を符号化する。 現在のポストトレーニング手法は、報酬信号を生成するために外部の監督に依存している。 EVOLMは、モデルの評価能力を明示的な識別的ルーブリックに構造化する手法である。
  論文  参考訳（メタデータ） (2026-05-05T15:31:00Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。