論文の概要: Paired Geometric Supervision for Generalizable Deepfake Detection
- arxiv url: http://arxiv.org/abs/2611.14851v1
- Date: Wed, 11 Nov 2026 00:02:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.969649
- Title: Paired Geometric Supervision for Generalizable Deepfake Detection
- Title(参考訳): 一般化可能なディープフェイク検出のためのペア付き幾何学的スーパービジョン
- Abstract要約: クロスドメインディープフェイク検出のためのトレーニングフレームワークOrthoPairGTLを提案する。
部分的に凍結したDINOv3のバックボーン上に構築されている。
- 参考スコア(独自算出の注目度): 21.473788119961018
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present OrthoPairGTL, a geometric training framework for cross-domain deepfake detection, built on a partially frozen DINOv3 backbone ($\sim$300M parameters), and make three contributions: (1) We re-evaluate six recent transfer-learning detectors (Forensics Adapter, Effort, three GenD variants and FakeSTormer) using the authors' released checkpoints under a single preprocessing pipeline across 17 cross-domain datasets (2018-2025), so that the reported gaps reflect method rather than per-method pipeline tuning. (2) We model the transformation between paired real and fake samples, training Parameter-Efficient Fine-Tuning (PEFT) adapters with an orthogonal pair decomposition, hyperspherical regularisation, and (in the GSD-LoRA variant) a set-level coherence objective. (3) Under LoRA, this regularisation gives a more stable optimisation profile: GSD-LoRA's post-peak validation degradation is $4.2\times$ shallower than plain LoRA at the same parameter footprint, and the time-averaged validation AUC across training is 1.82 pp higher. On the 17 datasets, GSD-LoRA matches or exceeds every re-evaluated baseline (92.82% vs. 91.58% for the strongest; paired Wilcoxon signed-rank $p=0.015$, 13/17 per-dataset wins), with the largest gains on modern reenactment-heavy benchmarks (DSv1.1, DSv2). Under strict parameter budgets, LayerNorm-only tuning ($\approx$0.03% of the backbone) is the most stable configuration and matches the strongest baseline with a mean of 91.97%.
- Abstract(参考訳): 我々は,部分凍結したDINOv3バックボーン($300Mパラメータ)上に構築されたクロスドメインディープフェイク検出のための幾何学的トレーニングフレームワークであるOrthoPairGTLを紹介し,次の3つのコントリビューションを行う。 1) メソッド単位のパイプラインチューニングではなく,報告されたギャップを,17のクロスドメインデータセット(2018-2025)にまたがる単一の前処理パイプラインの下で,著者がリリースしたチェックポイントを用いて,最新の6つのトランスファー検出検出器(Forensics Adapter, Effort, 3つのGenD variants, FakeSTormer)を再評価する。
2) 実検体と偽検体間の変換, 直交対分解, 超球面正則化, および(GSD-LoRA変種において) セットレベルのコヒーレンス目標を用いたPEFTアダプタの訓練を行った。
(3) LoRAの下では、この正規化はより安定した最適化プロファイルを与える: GSD-LoRAのポストピークバリデーションの劣化は、同じパラメータフットプリントにおける通常のLoRAよりも浅く、トレーニング全体の平均バリデーションAUCは1.82 ppである。
17のデータセットでは、GSD-LoRAは全ての再評価ベースライン(最強の91.58%に対して92.82%)と一致し、Wilcoxonと組んだ署名ランクの$p=0.015$, 13/17 wins)を上回り、現代の再現性の高いベンチマーク(DSv1.1, DSv2)で最大の利益を得ている。
厳格なパラメータ予算の下では、LayerNormのみのチューニング(バックボーンの0.03%)が最も安定しており、最強のベースラインと平均91.97%で一致している。
関連論文リスト
- LoRA-TSD: Tangent-Space Spectral Descent for LoRA via Muon-Style Updates [48.87937677659571]
低ランク適応(LoRA)は、大型モデルを微調整する標準的な方法である。
固定ランク行列多様体に対してすべてのLoRAステップを接として扱うアダプタであるLoRA-TSDを導入する。
LoRA-Pro と LoRA-TSD の両方に対して最初のグローバル収束保証を与える。
論文 参考訳(メタデータ) (2026-09-02T15:41:45Z) - The Intruder Threshold: A Spectral Law for LoRA Fine-Tuning [3.860898721527665]
LoRAファインチューニングは、破滅的な忘れを誘う侵入者次元を生み出すことができる。
観測されたスペクトルの層ごとに層が現れると予測される理論は存在しない。
完全な微調整は、すべてのレイヤのしきい値よりはるかに低いアップデートを分散させる。
Norm-matchedの介入は、更新の規模ではなく、しきい値の交差する層が忘れを伴っていることを確認します。
論文 参考訳(メタデータ) (2026-07-26T15:17:41Z) - Towards Robust Training in NNGPT AutoML Pipeline: A Loss-Optimizer Pairing Selection Study [48.83701310501069]
本稿では, 一つのレシピがヘテロジニアスなアーキテクチャプールに十分であるか, 最適ペアリングが構造的に多様なモデルによって異なるかを検討する。
我々は,CEL(Cross-Entropy),NLL(Negative Log-Likelihood),および最近導入された遺伝学的に進化したNGL損失を,LEMURヘテロジニアス・アーキテクチャー・プールの6つの画像分類データセット上に提示したベースモデル間で比較検討した。
我々の結果は、単一のペアリングが普遍的に最適でないことを確認した。AdamやAdamWとのクロスエントロピーは、最も堅牢な選択である。
論文 参考訳(メタデータ) (2026-06-18T20:51:42Z) - TaDA: Calibrated Probe Gating for Task-Domain LoRA Merging [6.356259006504384]
タスクとドメインアダプタは変換器アーキテクチャ全体にわたって一貫した深さ依存性の非対称性を示す。
本稿では,この構造を利用したトレーニングフリーなアルゴリズムを提案する。
$textbfTaDA$は、推論オーバーヘッドがゼロの標準ランク-r$LoRAアダプタを生成する。
論文 参考訳(メタデータ) (2026-06-03T15:39:37Z) - Adaptive Regularization for Sparsity Control in Bregman-Based Optimizers [14.98763942493771]
本稿では,モデルの現在の空間とターゲット空間との差に基づいて$$を更新する適応正規化手法を提案する。
提案手法は,75%から99%の範囲の空間的目標を確実に達成する。
初期のトレーニングでは、オラクルで調整された非適応ベースラインよりも早く収束し、同じエラー率で最終的なパフォーマンスを達成または上回っている。
論文 参考訳(メタデータ) (2026-05-08T15:37:24Z) - Universally Empowering Zeroth-Order Optimization via Adaptive Layer-wise Sampling [43.822941944402544]
ゼロ階最適化は、微調整された大規模言語モデルのための有望なメモリ効率のパラダイムを提供する。
しかし,壁面収差の緩やかな収束と高い推定分散により,その実用化は厳しく制約されている。
本稿では,適応層型ZO最適化フレームワークであるAdaLeZOを提案する。
論文 参考訳(メタデータ) (2026-04-20T13:37:31Z) - Low-Rank Adaptation Reduces Catastrophic Forgetting in Sequential Transformer Encoder Fine-Tuning: Controlled Empirical Evidence and Frozen-Backbone Representation Probes [3.305265383862785]
コンパニオン表現プローブを用いたシーケンシャルトランスフォーマーエンコーダにおけるローランド適応(LoRA)の実証的研究について述べる。
RTE->MRPC->CoLA->SST-2配列上の5つのフルバリデーションBERTベースでは、フル微調整の収率は19.9%+/-で、標準のLoRA(r、クエリ/バリューモジュール)は0.6%+/-1.4%である。
論文 参考訳(メタデータ) (2026-03-29T14:14:36Z) - ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。
巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
論文 参考訳(メタデータ) (2024-12-11T12:31:30Z) - Randomized Asymmetric Chain of LoRA: The First Meaningful Theoretical Framework for Low-Rank Adaptation [58.288682735160585]
Low-Rank Adaptation (LoRA) は、ファインチューニングモデルの一般的なテクニックである。
LoRAは、フルパラメータの微調整と比較すると、しばしば実行されます。
本稿では,LoRA手法の適応率を厳密に分析するフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-10T18:51:53Z) - Exploring the impact of low-rank adaptation on the performance,
efficiency, and regularization of RLHF [47.960563851948514]
低ランク適応(LoRA)を用いたRLHFの効率的な実装について検討する。
本実装は,フルモデル微調整によるAlpacaFarmチェックポイントよりも優れた性能を実現する。
我々は、より効率的なRLHFの研究を促進するために、コードと事前訓練されたチェックポイントをリリースする。
論文 参考訳(メタデータ) (2023-09-16T17:31:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。