論文の概要: A Reproducible, License-Aware Distillation Recipe for CPUDeployable Safety Classification
- arxiv url: http://arxiv.org/abs/2608.21570v1
- Date: Fri, 21 Aug 2026 19:19:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.293052
- Title: A Reproducible, License-Aware Distillation Recipe for CPUDeployable Safety Classification
- Title(参考訳): CPU展開型安全分類のための再生可能ライセンス対応蒸留法
- Abstract要約: 現在のオープンガードモデルは10億から90億のパラメータを保持し、グラフィック処理ユニットに向けられ、中央処理ユニットでリクエスト毎に秒単位で答えられる。
本稿では,その制約に対処するライセンス対応の知識蒸留レシピを提案する。
強力なオープンガードは、24のパブリックデータセットから抽出された約97,000のプロンプトのコーパスを、公共のハザード分類に合わせた7つの安全カテゴリにラベル付けしている。
語彙、浅いエンコーダ、生成アーキテクチャにまたがる小さな学生の群れが、その信号を再現するために訓練されている。
すべてのモデルは、4つのスライスに6,361行の独立したゴールドのベンチマークに対してスコアされ、ラベルは別としてラベル付けされる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deploying a safety layer for large language models on commodity hardware is constrained by the guards available to do it: current open guard models hold between 1 and 9 billion parameters, are oriented toward the graphics processing unit, and answer in seconds per request on a central processing unit. This paper presents a reproducible, license-aware knowledge-distillation recipe addressing that constraint. A strong open guard labels a corpus of roughly 97,000 prompts, drawn from 24 public datasets, into seven safety categories aligned to a public hazard taxonomy, and a fleet of small students spanning lexical, shallow, encoder and generative architectures is trained to reproduce that signal. The corpus is partitioned at the license boundary, so that a deployable and a research model differ only in their training data and the cost of that restriction becomes measurable. Every model is scored against an independent gold benchmark of 6,361 rows over four slices, labeled apart from the teacher and including a slice of harmless prompts that makes over-defense measurable. The distilled students match the teachers on adversarial text within overlapping confidence intervals and reduce false alarms on harmless prompts, the smallest generative student reaching 3.8% against 4.8% for the 8-billion-parameter teacher, while the encoder classifies in roughly 24 ms per request on CPU. Per-class rebalancing is the only decisive ingredient of the recipe. No superiority over the distilled guards is claimed; on the clean reference slice they remain ahead.
- Abstract(参考訳): 現在のオープンガードモデルは10億から90億のパラメータを保持し、グラフィック処理ユニットを指向し、中央処理ユニットでリクエスト毎に秒単位で応答する。
本稿では,その制約に対処する再現可能な,ライセンスを意識した知識蒸留法を提案する。
強力なオープンガードは、24のパブリックデータセットから引き出された約97,000のプロンプトのコーパスを、公共のハザード分類に合わせた7つの安全カテゴリにラベル付けし、語彙、浅いエンコーダ、および生成的アーキテクチャにまたがる小学生の一団が、その信号を再現するために訓練されている。
コーパスは、ライセンス境界で分割されるので、デプロイ可能と研究モデルがトレーニングデータでのみ異なるので、その制限のコストが測定可能である。
すべてのモデルは、4つのスライスに6,361行の独立したゴールドのベンチマークに対してスコアされ、教師とは別格にラベル付けされ、過剰な防御を計測できる無害なプロンプトのスライスを含んでいる。
蒸留された学生は、教師に重なり合う信頼区間内の敵対的テキストと一致し、無害なプロンプトで誤報を減らし、最小の生成学生は8ビリオンパラメーターの教師の4.8%に対して3.8%に達し、エンコーダはCPUの要求に対して約24ミリ秒で分類する。
レシピの唯一の決定的な要素は、クラスごとの再バランスである。
蒸留されたガードよりも優位性は主張されていないが、清潔な参照スライスでは前方に残る。
関連論文リスト
- Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。
以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。
我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
論文 参考訳(メタデータ) (2026-07-30T16:22:13Z) - Benchmarking Federated Learning and Knowledge Distillation for Point Cloud Classification [5.584060970507507]
本稿では,3次元点雲分類のための連成学習(FL)と知識蒸留(KD)を併用して評価する。
13のFLアルゴリズムと10のKD目標(130対のクロスプロダクト)を504のトレーニング実行に当てはめ、ModelNet40と臨床クラニオシノスタシスデータセットで評価されている。
論文 参考訳(メタデータ) (2026-06-30T20:12:27Z) - Opir: Efficient Multi-Task Safety Classification for Toxicity, Jailbreaks, Hate Speech, and Harmful Content [46.13517417540154]
Opirは、GLiClassアーキテクチャ上に構築されたエンコーダベースのガードレールモデルのファミリーである。
Opirには、バイナリセーフ/アンセーフ分類、マルチラベル毒性分類、ジェイルブレイク分類、ゼロショットアンセーフプロンプトとレスポンス分類のためのマルチタスクモデルが含まれている。
論文 参考訳(メタデータ) (2026-05-28T09:21:42Z) - Asking Back: Interaction-Layer Antidistillation Watermarks [7.826668598190874]
既存の防御は教師の出力トークンを操作する。
最近の研究によると、悪意のない攻撃者は、根底にある知識を失うことなく、これらの信号を取り除くことができる。
相互作用層型抗蒸留透かしを提案する。
論文 参考訳(メタデータ) (2026-05-15T08:28:35Z) - Poster: ClawdGo: Endogenous Security Awareness Training for Autonomous AI Agents [14.881952206331968]
ClawdGoは内因性セキュリティ意識トレーニングのためのフレームワークである。
OpenClawのフェイスプロンプトインジェクション、メモリ中毒、サプライチェーン攻撃、ソーシャルエンジニアリングなどのプラットフォームにデプロイされるエージェント。
我々はエージェントに、モデル変更なしで、推論時に内部からの脅威を認識し、推論するように教える。
論文 参考訳(メタデータ) (2026-04-27T04:09:27Z) - Distillation Traps and Guards: A Calibration Knob for LLM Distillability [54.90137955363471]
そこで本研究では,教師の蒸留性を制御するためのポストホック校正法を提案する。
我々の目標は、タスクユーティリティ、KLアンカー、およびクロストケナイザーキャリブレーション報酬を組み合わせることである。
実験により、蒸留可能な教師から蒸留した学生は、SFTおよびKDベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-04-21T01:22:35Z) - Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。
決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。
NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
論文 参考訳(メタデータ) (2026-03-29T18:52:01Z) - DistillGuard: Evaluating Defenses Against LLM Knowledge Distillation [5.647839536820347]
我々は,3つの防衛カテゴリー – 出力摂動,データ中毒,情報スロットリング – の分類を導入する。
教師としてQwen3-14B,学生としてQwen2.5-7B-インストラクトを用いた標準化パイプラインを用いて,9つの防御構成を評価する。
以上の結果から,ナイーブ攻撃に対する同種の蒸留処理では,ほとんどの出力レベル防衛は驚くほど効果がないことが明らかとなった。
論文 参考訳(メタデータ) (2026-03-08T22:38:30Z) - A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。
我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。
本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
論文 参考訳(メタデータ) (2025-10-03T07:01:45Z) - Deep Partition Aggregation: Provable Defense against General Poisoning
Attacks [136.79415677706612]
アドリアリン中毒は、分類器の試験時間挙動を損なうために訓練データを歪ませる。
毒殺攻撃に対する2つの新たな防御策を提案する。
DPAは一般的な中毒脅威モデルに対する認証された防御である。
SS-DPAはラベルフリップ攻撃に対する認証された防御である。
論文 参考訳(メタデータ) (2020-06-26T03:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。