論文の概要: SciCheck: A Framework for Verifying the Integrity of Deep Learning Training
- arxiv url: http://arxiv.org/abs/2611.09889v1
- Date: Fri, 06 Nov 2026 18:58:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-10 12:00:36.770416
- Title: SciCheck: A Framework for Verifying the Integrity of Deep Learning Training
- Title(参考訳): SciCheck: ディープラーニング学習の統合性を検証するフレームワーク
- Abstract要約: SciCheckは、科学者が自由にトレーニング設定を探索し、検証したい候補毎にブループリントを台帳にポストするフレームワークである。
統計的判断モデルは、検証者自身の参照実行とステップごとの勾配統計を比較し、再実行チェックポイントが1回に1回台帳にコミットされるスポットチェックを行う。
テストした攻撃に対して、スポットチェックは、この精度の大部分を考慮し、各レイヤが検出できるものを特徴付けます。
- 参考スコア(独自算出の注目度): 47.57672664631601
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning training is difficult to verify within a scientific workflow: its architecture, hyperparameters, and procedure are rarely fixed until training has been attempted, and two honest runs never produce the same weights, so recomputation cannot serve as a check. We present SciCheck, a framework in which the scientist explores training configurations freely and posts a blueprint to a provenance ledger for each candidate they want verified, and a verifying scientist judges the resulting run in two layers: a statistical judge model that compares per-step gradient statistics against the verifier's own reference run, and a spot-check that re-executes randomly chosen training segments whose checkpoints are committed to the ledger one epoch at a time. On an MLP, a CNN, and an autoencoder at 100k-500k parameters, under gradient sign flipping, label poisoning, and fabricated runs, SciCheck reaches F1 of 0.966, 0.906, and 0.976 while rejecting 0-4.4% of honest runs. For the attacks we test, the spot-check accounts for most of this accuracy, and we characterize what each layer can detect. The effective-signal statistic falls as $(1-2s)^2$ under a sign flip of severity $s$, so gradient statistics alone catch strong enough sign flips, while fabricated runs that replay genuine statistics look no more anomalous than honest runs to any statistical detector we test. The spot-check catches fully fabricated segments with probability at least $1-(1-s)^k$ for $k$ sampled segments when the draws stay hidden until the run is committed, which roughly matches our measurements and lets a verifier choose $k$ for a target soundness. Verification costs 1.5-2.3x one retraining, mostly for the verifier's reference run; each submission's spot-check takes under 1.5 s, and per-epoch commitments reduce checkpoint storage 5-17x compared with keeping every checkpoint.
- Abstract(参考訳): ディープラーニングトレーニングは、科学的ワークフロー内での検証が難しい。そのアーキテクチャ、ハイパーパラメータ、手順は、トレーニングが試みられるまでめったに固定されず、2つの正直な実行は同じ重みを作らないため、再計算はチェックとして機能することができない。
SciCheckは、科学者が自由にトレーニング構成を探索し、検証したい候補毎に青図を証明台帳に投稿するフレームワークであり、検証科学者は、検証子自身の参照実行に対するステップごとの統計統計値と比較する統計的判断モデルと、チェックポイントが一度に台帳にコミットされたランダムに選択されたトレーニングセグメントを再実行するスポットチェックの2つのレイヤで結果が判断される。
MLP、CNN、100k-500kパラメータのオートエンコーダ、グラディショナル・サイン・フリップ、ラベル中毒、製造されたランでは、SciCheckは0-4.4%の正直なランを拒絶しながら0.966、0.906、0.976のF1に達する。
テストした攻撃に対して、スポットチェックは、この精度の大部分を考慮し、各レイヤが検出できるものを特徴付けます。
実効信号統計は1-2s)^2$と、重大な$s$のサインフリップで成り立つので、勾配統計だけでは十分強いサインフリップをキャッチできる。
スポットチェックは、少なくとも1-(1-s)^k$ for $k$サンプルセグメンテーションが実行が完了するまで隠れている場合に、完全に作られたセグメンテーションをキャッチし、検証者がターゲットの音質に対して$k$を選択する。
検証のコストは1.5-2.3倍で、主に検証者の参照実行のためであり、各申請のスポットチェックは1.5秒未満であり、エポック毎のコミットは全てのチェックポイントの保持に比べて5-17倍のチェックポイントストレージを減少させる。
関連論文リスト
- When Does Test-Time Search Help World Action Models? An Empirical Audit of Candidate Selection and Simulator Integrity [46.258960428253346]
コスモス政策とロボカサの試験時間スケーリングを前提優先の事前登録手法で監査する。
クリーンデータでは、学習した値セレクタはランダムよりも1.66 pp、後光オラクルはわずか1.40 pp、エピソードレベルの間隔は0である。
我々は、公式の直接政治結果に影響を与えないまま、計算量の多い計画経路に沿って急上昇する静かなレンダリングの汚職を特定し、修正する。
論文 参考訳(メタデータ) (2026-10-30T16:21:07Z) - StopLoss: Teaching Agents to Predict Failure and Stop Early [58.46247112300993]
StopLossは、完成した軌跡とその検証結果から障害認識を学ぶ小さな外部モニタである。
StopLossは、実行が失敗する可能性がある場合に早期に実行を終了し、リソースを節約します。
論文 参考訳(メタデータ) (2026-10-18T20:39:02Z) - Quantization-Tolerant Gradient Auditing for Active Inference-Attack Detection in Federated Learning [0.0]
参加者がいくつかの説明責任を持つ組織であり、サーバが信頼されているクロスサイロFLでは、サーバが代わりにクライアントを尋問できるかどうかを問う。
少ない許容範囲で比較して, 定量化指紋を用いたクロスプラットフォーム浮動小数点非決定論を強固に行う。
これは、2つの異なるアクティブアタックを真正の1.0ドルでフラグ付けし、その軸に偽陽性はなく、指紋のパラメータにわたって安定し、最大50ドルまで悪質な比率でクライアントに40ドル、32,mathrmms$サーバーワークで32,mathrmms$サーバーワークで42,35ドルという価格で警告する。
論文 参考訳(メタデータ) (2026-10-09T09:54:54Z) - hacktrace: behavior-supervised detection of reward hacking during code generation [52.709361620508595]
コーディングエージェントは、コードを修正するか、バグを露呈するテストを削除することで、パスグレードを得ることができる。
我々はQwen3-8Bから173,561個の注釈付きマルチターン符号化トラジェクトリをリリースし、成功を活かさないショートカット動作の監視が検出を大幅に改善することを示す。
HACKTRACEは、エージェントがコードを生成する際に既に計算している内部状態を読み取る行動監視モニターである。
論文 参考訳(メタデータ) (2026-10-02T09:35:59Z) - Calibrated e-CUSUM Decoding for Quantized Reasoning Models: Why Token Log-Probability Is the Wrong Observable for Decoding Monitors [0.6999740786886536]
低ビット量子化により、小さな推論モデルは安価に展開できるが、思考の連鎖を分解することができる。
中心となるトークンのlog-probabilityは$log p(w_t)+H_t$が間違ったオブザーバブルであることを示します。
本稿では,トークンの不確実性と明示的な繰り返しを混在させるデジェネレーションを意識したアラームスコアを組み合わせた,トレーニング不要な復号制御手法を提案する。
論文 参考訳(メタデータ) (2026-07-13T09:34:36Z) - From Patches to Trajectories: Privileged Process Supervision for Software-Engineering Agents [56.31499185764872]
教師の長い軌道上の監督された微調整(SFT)は、オープンソフトウェアエンジニアリング(SWE)エージェントに調査と推論を浸透させる主要な方法である。
本稿では,P2T (Patches-to-Trajectories) を提案する。P2T (Patches-to-Trajectories) は,P2T (Patches-to-Trajectories) において,P2T (Patches-to-Trajectories) とP2T (Patches-to-Trajectories) の2つの最適化法である。
論文 参考訳(メタデータ) (2026-05-21T04:54:55Z) - AgentAssay: Token-Efficient Regression Testing for Non-Deterministic AI Agent Workflows [0.0]
AgentAssayは、非決定論的AIエージェントを回帰テストするための最初のトークン効率のよいフレームワークである。
厳密な統計保証を維持しながら78-100%のコスト削減を実現している。
論文 参考訳(メタデータ) (2026-03-03T04:59:25Z) - Detection as Regression: Certified Object Detection by Median Smoothing [50.89591634725045]
この研究は、ランダム化平滑化による認定分類の最近の進歩によって動機付けられている。
我々は、$ell$-bounded攻撃に対するオブジェクト検出のための、最初のモデル非依存、トレーニング不要、認定された防御条件を得る。
論文 参考訳(メタデータ) (2020-07-07T18:40:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。