論文の概要: Lightweight Safety Guardrails Using Fine-tuned BERT Embeddings

• arxiv url: http://arxiv.org/abs/2411.14398v1
• Date: Thu, 21 Nov 2024 18:27:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-22 15:19:33.601158
• Title: Lightweight Safety Guardrails Using Fine-tuned BERT Embeddings
• Title（参考訳）: 微調整bert埋め込みを用いた軽量安全ガードレール
• Authors: Aaron Zheng, Mansi Rana, Andreas Stolcke,
• Abstract要約: 我々は、微調整言語モデルのための軽量アーキテクチャを開発する。 この方法はモデルサイズをLlamaGuardの70億のパラメータから約6700万に削減する。 AEGISの安全性ベンチマークでは同等のパフォーマンスを維持している。
• 参考スコア（独自算出の注目度）: 12.80474396835751
• License:
• Abstract: With the recent proliferation of large language models (LLMs), enterprises have been able to rapidly develop proof-of-concepts and prototypes. As a result, there is a growing need to implement robust guardrails that monitor, quantize and control an LLM's behavior, ensuring that the use is reliable, safe, accurate and also aligned with the users' expectations. Previous approaches for filtering out inappropriate user prompts or system outputs, such as LlamaGuard and OpenAI's MOD API, have achieved significant success by fine-tuning existing LLMs. However, using fine-tuned LLMs as guardrails introduces increased latency and higher maintenance costs, which may not be practical or scalable for cost-efficient deployments. We take a different approach, focusing on fine-tuning a lightweight architecture: Sentence-BERT. This method reduces the model size from LlamaGuard's 7 billion parameters to approximately 67 million, while maintaining comparable performance on the AEGIS safety benchmark.
• Abstract（参考訳）: 近年の大規模言語モデル(LLM)の普及により、企業は概念実証とプロトタイプを迅速に開発することができた。 結果として、LCMの動作を監視し、定量化し、制御する堅牢なガードレールを実装する必要性が高まっており、使用が信頼性が高く、安全で、正確であり、ユーザの期待に沿うことを保証する。 LlamaGuardやOpenAIのMOD APIのような、不適切なユーザプロンプトやシステムアウトプットをフィルタリングする以前のアプローチは、既存のLLMを微調整することで大きな成功を収めた。 しかし、ガードレールとして微調整のLLMを使用することで、レイテンシが増加し、メンテナンスコストが上昇する。 私たちは、Sentence-BERTという軽量アーキテクチャを微調整することに重点を置いて、別のアプローチを取っています。 この方法では、モデルサイズをLlamaGuardの70億のパラメータから約6700万に削減し、AEGISの安全性ベンチマークで同等のパフォーマンスを維持する。

関連論文リスト

• CoreGuard: Safeguarding Foundational Capabilities of LLMs Against Model Stealing in Edge Deployment [43.53211005936295]
  CoreGuardは、エッジデバイス上でのモデル盗難に対する、計算と通信効率のよいモデル保護アプローチである。 私たちは、CoreGuardがブラックボックスのセキュリティ保証と同じセキュリティ保護を無視可能なオーバーヘッドで達成していることを示します。
  論文  参考訳（メタデータ） (2024-10-16T08:14:24Z)
• Tamper-Resistant Safeguards for Open-Weight LLMs [57.90526233549399]
  オープンウェイトLLMにタンパ耐性保護具を組み込む方法を開発した。 本手法は良性を保持しながらタンパー抵抗を大幅に改善する。 以上の結果から, タンパー抵抗はトラクタブルな問題であることがわかった。
  論文  参考訳（メタデータ） (2024-08-01T17:59:12Z)
• LoRA-Guard: Parameter-Efficient Guardrail Adaptation for Content Moderation of Large Language Models [15.900125475191958]
  大規模言語モデル(LLM)のコンテンツモデレーションのための安全アライメントの代替としてガードレールが登場した。 LLMとガードレールモデル間の知識共有に依存するパラメータ効率の高いガードレール適応法であるLoRA-Guardを導入する。 LoRA-Guardは100-1000倍のパラメータオーバヘッドで既存の手法より優れ、精度を保ちながらオンデバイスコンテンツのモデレーションを実現している。
  論文  参考訳（メタデータ） (2024-07-03T10:38:40Z)
• Defensive Prompt Patch: A Robust and Interpretable Defense of LLMs against Jailbreak Attacks [59.46556573924901]
  本稿では,大規模言語モデル(LLM)のための新しいプロンプトベースの防御機構であるDPPを紹介する。 従来のアプローチとは異なり、DPP は LLM の高能率を維持しながら最小の攻撃成功率 (ASR) を達成するように設計されている。 LLAMA-2-7B-ChatおよびMistral-7B-Instruct-v0.2モデルによる実験結果から,DSPの堅牢性と適応性が確認された。
  論文  参考訳（メタデータ） (2024-05-30T14:40:35Z)
• A Framework for Real-time Safeguarding the Text Generation of Large Language Model [12.683042228674694]
  大規模言語モデル(LLM)は、非常に高度な自然言語処理(NLP)タスクを持つ。 有害なコンテンツを発生させる傾向にあるため、倫理的・社会的リスクが生じる。 LLMテキスト生成をリアルタイムに保護する軽量フレームワークであるLLMSafeGuardを提案する。
  論文  参考訳（メタデータ） (2024-04-29T18:40:01Z)
• RigorLLM: Resilient Guardrails for Large Language Models against Undesired Content [62.685566387625975]
  現在の緩和戦略は効果はあるものの、敵の攻撃下では弾力性がない。 本稿では,大規模言語モデルのための弾力性ガードレール(RigorLLM)について紹介する。
  論文  参考訳（メタデータ） (2024-03-19T07:25:02Z)
• Eyes Closed, Safety On: Protecting Multimodal LLMs via Image-to-Text Transformation [98.02846901473697]
  我々は,MLLMの本来の安全意識を生かしたトレーニング不要な保護手法であるECSO(Eyes Closed, Safety On)を提案する。 ECSOは、安全でない画像をテキストに適応的に変換することで、より安全な応答を生成し、予め整列されたLCMの本質的な安全性メカニズムを活性化する。
  論文  参考訳（メタデータ） (2024-03-14T17:03:04Z)
• MobiLlama: Towards Accurate and Lightweight Fully Transparent GPT [87.4910758026772]
  近年のLarge Language Models (LLM) 開発において,"Bigger the Better" が主流となっている。 本稿では、リソース制約のあるデバイスに対して、正確かつ効率的なSLM(Small Language Models)を設計する上での課題に対処し、"less is more"パラダイムについて考察する。
  論文  参考訳（メタデータ） (2024-02-26T18:59:03Z)
• Dynamic Sparse No Training: Training-Free Fine-tuning for Sparse LLMs [67.38165028487242]
  そこで我々は,DSnoT(Dynamic Sparse No Training, 動的スパース・ノー・トレーニング)を導入した。 動的スパーストレーニングにインスパイアされたDSnoTは、密度とスパースLLM間の再構成誤差を最小限に抑える。 本稿は, LLMのスパースを, 効率的なトレーニング自由な方法で微調整し, 新たな会場をオープンして, LLMの空間性に大きな可能性を拡大する方法について, 新たな知見を提供する。
  論文  参考訳（メタデータ） (2023-10-13T07:38:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。