論文の概要: Witeness Overlap: Directional Provenance Inside Open-Weight Model Families
- arxiv url: http://arxiv.org/abs/2609.31784v1
- Date: Thu, 24 Sep 2026 21:41:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 12:52:31.110514
- Title: Witeness Overlap: Directional Provenance Inside Open-Weight Model Families
- Title（参考訳）: Witeness Overlap: オープンウェイトモデルファミリ内での方向性
- Abstract要約: 指向性証明のためのテストであるWitness Overlapを提案する。
16家族176件のチェックポイントでは、親子判定の95.3%がFrobenius cosineを用いている。
信号は重量雑音とスパースプルーニングに対して頑丈であり、提案されたSVD減量変種はフロベニウスコサインよりも頑丈である。
- 参考スコア（独自算出の注目度）: 56.26426392293672
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Open-weight models are often released, fine-tuned, aligned, merged, and re-released, making provenance audits ask not only whether checkpoints are related, but also which checkpoint came first. Many existing model-provenance methods are designed for a base-known audit setting: given a victim or source model, they test whether a suspect model is related to it. Although these audits are framed as source-to-suspect tests, their underlying evidence is often symmetric, relying on representation similarity, weight similarity, behavioral fingerprints, or correlation statistics. Symmetric pairwise comparisons can detect relatedness, but they cannot by themselves orient relationship between checkpoints A and B. We therefore introduce a local geometric comparison: instead of comparing two checkpoints directly, we add a third same-family checkpoint as a witness and compare the geometry around each candidate endpoint. Direction is inferred by asking which candidate behaves more like a branching parent. Motivated by this idea, and by the empirically observed asymmetry between parent-anchored and child-anchored witness-overlap distributions, we propose Witness Overlap, a prompt-free, training-free white-box test for directional provenance. On 176 LLM checkpoints from 16 families, our one-witness test orients 95.3\% of parent-child decisions using Frobenius cosine. We further evaluate root identification, sibling discrimination, generalizations to VLM and diffusion families, and chain-structured ordering. The signal is robust to weight noise and sparse pruning, with a proposed SVD weight reduction variant showing greater robustness than Frobenius cosine.
- Abstract（参考訳）: オープンウェイトモデルは、しばしばリリースされ、微調整され、整列され、マージされ、再リリースされる。
既存のモデル改善手法の多くは、基本的な監査設定のために設計されている: 被害者またはソースモデルが与えられた場合、疑似モデルが関連するかどうかをテストする。
これらの監査はソース・ツー・サスペクション・テスト(source-to-suspect test)とされているが、その基礎となる証拠は、表現類似性、体重類似性、行動指紋、相関統計に依存することが多い。
そこで我々は、2つのチェックポイントを直接比較する代わりに、3番目の同じ家族のチェックポイントを証人として追加し、各候補エンドポイントの幾何を比較する。
指示は、どの候補が分岐親のように振る舞うかを尋ねることで推測される。
この考え方に触発され,親子・子・子・子・子・子・子・子・子・子・子間の非対称性を実証的に観察し,早急な無訓練ホワイトボックステストであるWitness Overlapを提案する。
16の家系の176のLSMチェックポイントでは、Frobenius cosineを用いた親子判定の95.3\%が1人の知性検査の対象となっている。
さらに, 根の同定, 兄弟の識別, VLMおよび拡散族への一般化, 鎖状秩序について検討した。
信号は重量雑音とスパースプルーニングに対して頑丈であり、提案されたSVD減量変種はフロベニウスコサインよりも頑丈である。
関連論文リスト
- Beyond QA Matching: Perturbation-Response Fingerprinting via Probability Distributions for Large Language Models [12.84004924761875]
BReFは,4つの回答選択ラベルA/B/C/D上の確率分布を,制御摂動下での確率分布と比較した無訓練指紋である。
34個のチェックポイント、22個の直接親関係、および411個の疑似候補対を持つ統一されたベンチマークにおいて、BReFは22/22のケースで文書化された親を検索する。
同じ家族による差別は困難であり、ペアリングテストではTop-25コントロールよりも精度の高い精度が向上している。
論文 参考訳（メタデータ） (2026-09-06T01:35:07Z) - Training Leaves Traces: Centered Residual Signatures for Language Model Lineage Verification [0.14323566945483496]
オープンウェイト言語モデルは微調整され、量子化され、刈り取られ、マージされるが、その成果はしばしば文書化されていない。
重みだけで、2つの互換性のあるモデルチェックポイントが祖先を共有するかどうかを明らかにすることができるのか?
残差ブロック間でチェックポイント固有の構造を比較し、独立したチェックポイントに対して調整された対称なシークエンススコアを得る。
論文 参考訳（メタデータ） (2026-08-14T22:36:58Z) - Blind Symmetry Matching in Quantum States with Application to Shot-Count Reduction [1.3537117504260623]
対称性に適応した基底は、統計的答えを読むのに必要な繰り返しの測定を減少させる。
2つの条件が扱われ、どちらも異なる投射で同じスコアで検出される。
ブラインド対称性マッチング(Blind symmetric matching)は、一致した基底を事前に書き下すことができない場合の実践的なプリミティブである。
論文 参考訳（メタデータ） (2026-06-17T15:36:12Z) - Complexity-Aware Theory Testing from Bell Witnesses [0.0]
完全ベル試行の粗粒化から得られた目撃者は,データ処理により,Kulback-Leibler 距離を競合クラスに下限とすることを示す。
2連のベルゲームでは、これはベルヌーイ境界まで減少し、CHSHシナリオでは局所像は1つのしきい値に崩壊する。
論文 参考訳（メタデータ） (2026-04-10T03:28:10Z) - Beyond Raw Detection Scores: Markov-Informed Calibration for Boosting Machine-Generated Text Detection [105.14032334647932]
機械生成テキスト(MGT)は偽情報やフィッシングなどのリスクを生じさせ、信頼性の高い検出の必要性を強調している。
MGTの統計的に区別可能な特徴を抽出するメトリックベース法は、オーバーフィットしがちな複雑なモデルベース法よりも実用的であることが多い。
本稿では,2つのコンテキスト検出スコアの関係をモデル化したマルコフ情報を用いたスコアキャリブレーション手法を提案する。
論文 参考訳（メタデータ） (2026-02-08T16:06:12Z) - When Does Verification Pay Off? A Closer Look at LLMs as Solution Verifiers [11.937771430269201]
本稿では,37大言語モデル(LLM)の体系的研究について述べる。
自己検証と同一家族内および異なる家族間での検証を比較した。
検証者ゲインや偽陽性率尺度などのメトリクスをモデルサイズと後トレーニングで分析し,データセットの妥当性の違いを特徴付ける。
論文 参考訳（メタデータ） (2025-12-02T00:51:14Z) - CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。
ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
論文 参考訳（メタデータ） (2025-10-02T02:14:33Z) - TrustJudge: Inconsistencies of LLM-as-a-Judge and How to Alleviate Them [58.04324690859212]
自動評価器(LLM-as-a-judge)としての大規模言語モデル(LLM)は、現在の評価フレームワークにおいて重大な矛盾を明らかにしている。
スコア比較不整合とペアワイズ・トランジティビティ不整合という2つの基本的不整合を同定する。
我々は2つの重要なイノベーションを通じてこれらの制限に対処する確率的フレームワークであるTrustJudgeを提案する。
論文 参考訳（メタデータ） (2025-09-25T13:04:29Z) - Show Your Work with Confidence: Confidence Bands for Tuning Curves [51.12106543561089]
チューニング作業の関数としての曲線プロット検証性能。
そこで我々は,曲線のチューニングに有効な信頼帯域を構築するための最初の方法を提案する。
提案手法と比較し,提案手法の有効性を検証し,サンプルサイズの影響を解析し,モデルの比較に関するガイダンスを提供する。
論文 参考訳（メタデータ） (2023-11-16T00:50:37Z) - Analyzing and Mitigating Interference in Neural Architecture Search [96.60805562853153]
本研究では、異なる子モデルをサンプリングし、共有演算子の勾配類似度を計算することで干渉問題を解明する。
これら2つの観測から着想を得て、干渉を緩和するための2つのアプローチを提案する。
検索したアーキテクチャは、RoBERTa$_rmbase$が1.1、0.6、ELECTRA$_rmbase$が1.6、テストセットであるGLUEベンチマークで1.1より優れています。
論文 参考訳（メタデータ） (2021-08-29T11:07:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。