Fugu-MT 論文翻訳(概要): Llama Guard 3-1B-INT4: Compact and Efficient Safeguard for Human-AI Conversations

論文の概要: Llama Guard 3-1B-INT4: Compact and Efficient Safeguard for Human-AI Conversations

arxiv url: http://arxiv.org/abs/2411.17713v1
Date: Mon, 18 Nov 2024 21:42:17 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-23 16:39:32.448283
Title: Llama Guard 3-1B-INT4: Compact and Efficient Safeguard for Human-AI Conversations
Title（参考訳）: Llama Guard 3-1B-INT4:人間とAIの会話のコンパクトで効率的な保護
Abstract要約: 本稿では,Meta Connect 2024中にコミュニティにオープンソース化された,コンパクトで効率的なLlama Guardモデルを提案する。 Llama Guard 3-1B-INT4は、リソース制約のあるデバイスにデプロイ可能で、少なくとも30トークン/秒のスループットと2.5秒以下のタイム・ツー・ファーストのスループットを、コモディティなAndroidモバイルCPU上で実現可能であることを実証した。
参考スコア（独自算出の注目度）: 33.786094370039905
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper presents Llama Guard 3-1B-INT4, a compact and efficient Llama Guard model, which has been open-sourced to the community during Meta Connect 2024. We demonstrate that Llama Guard 3-1B-INT4 can be deployed on resource-constrained devices, achieving a throughput of at least 30 tokens per second and a time-to-first-token of 2.5 seconds or less on a commodity Android mobile CPU. Notably, our experiments show that Llama Guard 3-1B-INT4 attains comparable or superior safety moderation scores to its larger counterpart, Llama Guard 3-1B, despite being approximately 7 times smaller in size (440MB).
Abstract（参考訳）: 本稿では,Llama Guard 3-1B-INT4というコンパクトで効率的なLlama Guardモデルについて述べる。 Llama Guard 3-1B-INT4は、リソース制約のあるデバイスにデプロイ可能で、少なくとも30トークン/秒のスループットと2.5秒以下のタイム・ツー・ファーストのスループットを、コモディティなAndroidモバイルCPU上で実現可能であることを実証した。実験の結果、Llama Guard 3-1B-INT4はLlama Guard 3-1Bに匹敵する安全性のモデレーションスコアが得られた。

関連論文リスト

LongGuard: Mechanistic Analysis and Training-Free Mitigation of Long-Context Failure in Safety Guardrails [21.90973380292976]
LongGuardは、長期コンテキストガードレール障害を評価し、機械的に分析し、緩和するフレームワークである。安全ニードル・イン・ア・ヘイスタック(SafetyNIAH)として、長さ0.25k-32kのグリッド上でタスクを定式化する。 15本の主要ガードレールの内、安全でないリコールは平均で50%以上単調に減少し、対のベニグニ・フィル対ニードル・リピートの設計は、絶対的な長さではなく、安全でない針の比例希釈の失敗を特徴としている。
論文参考訳（メタデータ） (2026-08-27T18:07:25Z)
StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [80.39644823192113]
StepGuardは、完了したエージェントの軌跡を監査し、実行前にツールアクションをチェックするステップレベルのガードモデルである。 StepGuardは、GPT-5.4に匹敵するパフォーマンスで、オープンウェイトガードモデルの中で最高の平均精度を達成した。 AgentDojoとAgentDynのエージェントを保護するために使用される場合、StepGuardは平均攻撃成功率を77.3%削減する。
論文参考訳（メタデータ） (2026-08-25T16:17:27Z)
Learn-by-Wire Training Control Governance: Bounded Autonomous Training Under Stress for Stability and Efficiency [0.0]
Learnby-Wire Guard(LBW-Guard)は、AdamW上で動作する、自律的なトレーニング制御ガバナンス層である。 WikiText-103を用いたQwen2.5中心のストレス・アンド・ロバストネススイートにおけるLBW-Guardの評価を行った。
論文参考訳（メタデータ） (2026-05-18T18:32:25Z)
SGuard-v1: Safety Guardrail for Large Language Models [9.229602223310485]
SGuard-v1は、大規模言語モデル(LLM)のための軽量安全ガードレールである。それは、人間とAIの会話環境における有害なコンテンツと画面の敵対的プロンプトを検出するための2つの特殊なモデルから構成される。
論文参考訳（メタデータ） (2025-11-16T08:15:54Z)
Unified Multi-Task Learning & Model Fusion for Efficient Language Model Guardrailing [7.959705237659548]
タスク固有のデータ生成は、微調整による分類に繋がることを示す。単一のモデルであるtexttMultiTaskGuardを使用して、大規模な合成生成データセットで事前トレーニングすることで、一般化が改善される。我々の最もパフォーマンスの高いモデルである textttUniGuard は、提案した検索ベースのモデルマージアプローチを用いて見つける。
論文参考訳（メタデータ） (2025-04-27T19:07:58Z)
DualBreach: Efficient Dual-Jailbreaking via Target-Driven Initialization and Multi-Target Optimization [15.197413326187936]
本稿では,デュアルジェイルブレークのためのターゲット駆動型フレームワークであるDualBreachを提案する。ブラックボックスガードレールでは、DualBreachは強力なオープンソースガードレールを使用するか、プロキシモデルをトレーニングすることでターゲットのブラックボックスガードレールを模倣する。広範に使用されているデータセットを広範囲に評価することにより,デュアルジェイルブレークシナリオにおけるDualBreachの有効性を実証する。
論文参考訳（メタデータ） (2025-04-21T11:30:30Z)
LightDefense: A Lightweight Uncertainty-Driven Defense against Jailbreaks via Shifted Token Distribution [84.2846064139183]
大規模言語モデル(LLM)は、脱獄プロンプトからの脅威に直面している。ホワイトボックスモデルを対象とした軽量防衛機構であるLightDefenseを提案する。
論文参考訳（メタデータ） (2025-04-02T09:21:26Z)
GuardReasoner: Towards Reasoning-based LLM Safeguards [63.53800124080227]
本稿では, LLM の新たなセーフガードである GuardReasoner を提案する。 GuardReasonerTrainデータセットは、117Kのサンプルと460Kの詳細な推論ステップで構成されています。次に、ガードモデルの推論能力を解き放つための推論SFTを導入する。このように、GuardReasonerはより良いパフォーマンス、説明可能性、一般化可能性を達成する。
論文参考訳（メタデータ） (2025-01-30T17:06:06Z)
Llama Guard 3 Vision: Safeguarding Human-AI Image Understanding Conversations [8.217291890346278]
Llama Guard 3 Visionは、画像理解を伴う人間とAIの会話のためのマルチモーダルLLMベースの安全ガードである。 Llama 3.2-Visionで微調整され、MLCommons分類を用いて内部ベンチマークで強い性能を示す。私たちは、Llama Guard 3 Visionが、マルチモーダル機能を備えた人間とAIの会話のための、より有能で堅牢なコンテンツモデレーションツールを構築するための出発点となると信じています。
論文参考訳（メタデータ） (2024-11-15T18:34:07Z)
CoreGuard: Safeguarding Foundational Capabilities of LLMs Against Model Stealing in Edge Deployment [66.72332011814183]
CoreGuardは、エッジデバイスにデプロイされるプロプライエタリな大規模言語モデル(LLM)の計算と通信効率の保護方法である。 CoreGuardは効率的な保護プロトコルを使用して、計算オーバーヘッドを削減し、伝搬プロトコルによる通信オーバーヘッドを最小限にする。
論文参考訳（メタデータ） (2024-10-16T08:14:24Z)
PrimeGuard: Safe and Helpful LLMs through Tuning-Free Routing [1.474945380093949]
推論時ガードレール(ITG)は、モデルの出力分布をコンプライアンスにシフトするソリューションを提供する。現在の手法は安全性と利便性のバランスをとるのに苦労している。構造化制御フローを利用した新しいITG手法であるPrimeGuardを提案する。
論文参考訳（メタデータ） (2024-07-23T09:14:27Z)
WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。 WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
論文参考訳（メタデータ） (2024-06-26T16:58:20Z)
SelfDefend: LLMs Can Defend Themselves against Jailbreaking in a Practical Manner [21.414701448926614]
本稿では,自衛隊(SelfDefend)と呼ばれる総称LDMジェイルブレイク防御フレームワークを紹介する。我々は、一般的なGPT-3.5/4モデルを用いて、主要なジェイルブレイク攻撃すべてに対して実証的に検証した。これらのモデルは6つの最先端の防御性能を上回り、GPT-4ベースのSelfDefendの性能に匹敵する。
論文参考訳（メタデータ） (2024-06-08T15:45:31Z)
DISTFLASHATTN: Distributed Memory-efficient Attention for Long-context LLMs Training [82.06732962485754]
FlashAttentionは、1つのGPU上でのトレーニングトランスフォーマーベースの大規模言語モデル(LLM)において、2次ピークメモリの使用を線形に削減する。本研究では,長期LLM学習に最適化されたメモリ効率の高い注意機構であるDisTFLASHATTNを紹介する。最近のRing AttentionやDeepSpeed-Ulyssesと比較して、1.67xと1.26 - 1.88xのスピードアップを実現している。
論文参考訳（メタデータ） (2023-10-05T03:47:57Z)
A LLM Assisted Exploitation of AI-Guardian [57.572998144258705]
IEEE S&P 2023で発表された敵に対する最近の防衛であるAI-Guardianの堅牢性を評価する。我々は、このモデルを攻撃するためのコードを書かず、代わりに、GPT-4に命令とガイダンスに従って全ての攻撃アルゴリズムを実装するよう促します。このプロセスは驚くほど効果的で効率的であり、言語モデルでは、この論文の著者が実行したよりも高速に曖昧な命令からコードを生成することもあった。
論文参考訳（メタデータ） (2023-07-20T17:33:25Z)
Efficient Privacy-Preserving Machine Learning with Lightweight Trusted Hardware [20.21755520998494]
本稿では,小規模な専用セキュリティプロセッサによるセキュアな機械学習推論プラットフォームを提案する。我々は、最先端の分散プライバシ保存機械学習(PPML)プロトコルと比較して、大幅な性能向上を実現している。我々の技術は、TEEにおけるセキュアメモリのサイズに制限されず、ResNet18やTransformerのような高容量な現代的なニューラルネットワークをサポートできます。
論文参考訳（メタデータ） (2022-10-18T20:06:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。