論文の概要: TwistedMerge: Certified Higher-Order Diagnostics and Abstention for Model Merging
- arxiv url: http://arxiv.org/abs/2607.20887v1
- Date: Thu, 23 Jul 2026 03:24:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.269026
- Title: TwistedMerge: Certified Higher-Order Diagnostics and Abstention for Model Merging
- Title(参考訳): TwistedMerge: モデルマージにおける高次診断と回避の認定
- Authors: Ting Gong, Shitan Xu,
- Abstract要約: 我々は、チェックポイントが局所対象、アライメントマップが遷移、サイクル積が残留する有限降下問題としてマージを定式化する。
提案手法は, 定数エッジのNo-go結果, フリーズ・コンプレックスの3方向およびプレファミリーの誤差制御定理, 比較・複雑感度の精査試験である。
訓練された低ランク適応型監査では, 平均化係数は選択したGLr代表に依存するが, 大域的因子同期と高密度デルタSVDは安定である。
- 参考スコア(独自算出の注目度): 0.48086260459837454
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Model merging combines independently trained or fine-tuned models, but pairwise alignability does not imply globally consistent alignment. We formulate merging as a finite descent problem in which checkpoints are local objects, alignment maps are transitions, and cycle products are residuals. TwistedMerge is a conservative certification pipeline that separates fixed-chart averaging, synchronization-removable gauge inconsistency, a certified central obstruction on a specified comparison complex, and nonabelian holonomy. A residual is promoted to a cohomology class only after inverse-consistency, coefficient-identification, centrality, and closure tests; otherwise the method abstains and returns an ordinary or synchronized fallback. We prove a constant-edge no-go result, frozen-complex three-way and predeclared-family error-control theorems, and a refinement test for comparison-complex sensitivity. A planted neural alignment defect is removed by cycle-consistent synchronization, showing that a nonzero cycle score alone is not a higher obstruction. Controlled central systems recover the predicted non-coboundary and projective-rank behavior, while noisy estimates move from certification to abstention without false lifts on the tested controls. A trained low-rank-adapter audit shows that naive factor averaging depends on the chosen GLr representative, whereas global factor synchronization and dense-delta SVD are stable. On natural checkpoint collections, cycle residuals do not predict merge degradation and no natural central or period-index class is certified. The results position descent theory as a falsifiable certification and abstention framework.
- Abstract(参考訳): モデルマージは、独立に訓練されたモデルや微調整されたモデルを組み合わせるが、ペアワイズ整合性は、一貫した整合性を暗示しない。
我々は、チェックポイントが局所対象、アライメントマップが遷移、サイクル積が残留する有限降下問題としてマージを定式化する。
TwistedMergeは、固定チャート平均化、同期除去可能なゲージの不整合、特定の比較複合体の認定された中心障害物、および非アーベルホロノミーを分離する保守的な認定パイプラインである。
残余は、逆整合性、係数識別、集中性、クロージャテストの後にのみコホモロジークラスに昇格する。
本研究では, 凍結複素三方向, 事前宣言された家族誤差制御定理, 比較複素感度の補正試験について検証した。
植込み型神経アライメント欠陥はサイクル一貫性同期によって除去され、非ゼロサイクルスコアだけでは高い障害ではないことを示す。
制御された中央システムは予測された非境界および投射的ランクの挙動を回復する一方、ノイズ推定はテストされた制御の誤認なしに認証から棄権へと移行する。
訓練された低ランク適応型監査では, 平均化係数は選択したGLr代表に依存するが, 大域的因子同期と高密度デルタSVDは安定である。
自然チェックポイントコレクションでは、サイクル残基はマージ劣化を予測せず、自然中心クラスや周期インデックスクラスは認定されない。
結果は、ファリザブルな証明と棄権の枠組みとして、降下理論を位置づけた。
関連論文リスト
- Neural Conjugate Aggregation: Identifiable Unsupervised Multi-Sensor Regression under Heterogeneous Sensor Bias [0.0]
本研究では,不確実性下での回帰に基づくデータ融合について検討する。
この設定は、センサーネットワーク、シミュレーションアンサンブル、そして監視が費用がかかるか不可能である科学的な監視システムで発生する。
本稿では,ニューラルネットワークと共役ガウス推論を組み合わせた階層型ベイズフレームワークであるニューラル共役凝集モデル(NCAM)を提案する。
論文 参考訳(メタデータ) (2026-06-20T19:30:21Z) - What Accuracy and Gradient Cosine Miss: Evaluating Feedback Alignment via Scale Stability, Reference Validity, and Depth Utility [48.10132234701036]
本稿では,3つのチェック(スケール安定性,参照妥当性,深度ユーティリティ)に基づく診断評価プロトコルを提案する。
複数のアーキテクチャや手法にまたがって、我々のプロトコルは広い校正マージンを持つ全ての障害を識別する。
論文 参考訳(メタデータ) (2026-06-19T06:04:17Z) - A Held-Out Transition-Pair Falsifier for Long-Horizon Non-Abelian State Tracking [0.5076419064097734]
有限非アベリア群追跡のためのホールドアウト遷移ペアファルシファイアを導入する。
制御された$S_3 times S_3$ベンチマークでは、長さ8列のみに基づいてトレーニングされた投影されたリカレント状態モデルがエラーのない最終状態予測を生成する。
論文 参考訳(メタデータ) (2026-06-05T13:26:41Z) - Measuring the Symmetry--Data Exchange Rate [0.2538209532048867]
同一の軌道サイズと一致した計算値を持つ間違った群制御は制約を伴わないよりも悪いことを示す。
相対交換率beta_diff = 1.28は、理論ブートストラップ1.0と符号と桁違いに一致している。
手法的貢献 -- 共有拡散の欠点をキャンセルする相対レート推定器、間違ったグループ制御、および予め特定された失敗分類 - は、強度をパラメータ化できる帰納バイアスに転送される。
論文 参考訳(メタデータ) (2026-05-31T08:17:40Z) - Beyond Consensus: Trace-Level Synthesis in Mixture of Agents [1.0195618602298682]
完全推論トレースを読み取るアグリゲータは,エージェントが全一致で同意した場合でも,正しい解を回復することを示す。
摂動によって引き起こされるトレース変動を持つ単一モデルは、構造的推論、PhDレベルの科学、競合数学、競争的プログラミングにまたがる異種モデルプールよりも優れる。
論文 参考訳(メタデータ) (2026-05-27T21:24:35Z) - Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - FACT-E: Causality-Inspired Evaluation for Trustworthy Chain-of-Thought Reasoning [49.65751420291115]
CoT(Chain-of-Thought)プロンプトはLSM推論を改善したが、モデルはしばしば不誠実な中間ステップを含むコヒーレントな説明を生成する。
我々は、CoTの品質を評価するための因果性に着想を得たフレームワークであるFACT-Eを提案する。
FACT-Eは推論・軌道選択を改善し、文脈内学習を強くすることを示す。
論文 参考訳(メタデータ) (2026-04-12T15:35:08Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳(メタデータ) (2026-04-11T10:47:22Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。