論文の概要: Adaptive Guardrails For Large Language Models via Trust Modeling and In-Context Learning

• arxiv url: http://arxiv.org/abs/2408.08959v1
• Date: Fri, 16 Aug 2024 18:07:48 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-20 23:26:14.948329
• Title: Adaptive Guardrails For Large Language Models via Trust Modeling and In-Context Learning
• Title（参考訳）: 信頼モデリングと文脈学習による大規模言語モデルの適応ガードレール
• Authors: Jinwei Hu, Yi Dong, Xiaowei Huang,
• Abstract要約: ガードレールはLarge Language Model (LLM) の不可欠な部分となっている。 本研究は,信頼モデリングによって支援され,文脈内学習により強化された適応型ガードレール機構を提案する。 ダイレクト・インタラクション・トラストと権限認証・信頼の組み合わせを利用することで、コンテンツモデレーションの厳格さをユーザの信頼性に合わせるように正確に調整する。
• 参考スコア（独自算出の注目度）: 9.719986610417441
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Guardrails have become an integral part of Large language models (LLMs), by moderating harmful or toxic response in order to maintain LLMs' alignment to human expectations. However, the existing guardrail methods do not consider different needs and access rights of individual users, and treat all the users with the same rule. This study introduces an adaptive guardrail mechanism, supported by trust modeling and enhanced with in-context learning, to dynamically modulate access to sensitive content based on user trust metrics. By leveraging a combination of direct interaction trust and authority-verified trust, the system precisely tailors the strictness of content moderation to align with the user's credibility and the specific context of their inquiries. Our empirical evaluations demonstrate that the adaptive guardrail effectively meets diverse user needs, outperforming existing guardrails in practicality while securing sensitive information and precisely managing potentially hazardous content through a context-aware knowledge base. This work is the first to introduce trust-oriented concept within a guardrail system, offering a scalable solution that enriches the discourse on ethical deployment for next-generation LLMs.
• Abstract（参考訳）: ガードレールは、LLMを人間の期待に合わせるために有害または有害な応答を緩和することで、大型言語モデル(LLM)の不可欠な部分となっている。 しかし,既存のガードレール方式では個々のユーザのニーズやアクセス権は考慮されておらず,同じルールですべてのユーザを扱います。 本研究では,ユーザ信頼度に基づく機密コンテンツへのアクセスを動的に調整するために,信頼モデリングによって支援され,コンテキスト内学習により強化された適応型ガードレール機構を提案する。 ダイレクト・インタラクション・トラストと権限検証・トラストの組み合わせを利用することで、コンテンツモデレーションの厳格さを正確に調整し、ユーザの信頼性と質問の特定のコンテキストに合わせる。 実験により,適応ガードレールは多様なユーザニーズを効果的に満たし,機密情報を確保しつつ既存のガードレールの実用性を向上し,コンテキスト認識の知識ベースを通じて潜在的に有害なコンテンツを正確に管理することを示す。 この研究は、ガードレールシステムに信頼指向の概念を導入し、次世代LLMの倫理的展開に関する言説を豊かにするスケーラブルなソリューションを提供する。

関連論文リスト

• A Flexible Large Language Models Guardrail Development Methodology Applied to Off-Topic Prompt Detection [0.0]
  大規模言語モデルは、ユーザーがこれらのモデルに意図した範囲を超えてタスクを実行するよう促すような、オフトピー的な誤用をしがちである。 現行のガードレールは、高い偽陽性率、限られた適応性、およびプレプロダクションでは利用できない実世界のデータを必要とする非現実性に悩まされている。 本稿では,これらの課題に対処するフレキシブルでデータフリーなガードレール開発手法を提案する。
  論文  参考訳（メタデータ） (2024-11-20T00:31:23Z)
• Enhancing Multiple Dimensions of Trustworthiness in LLMs via Sparse Activation Control [44.326363467045496]
  大規模言語モデル(LLM)は、ヒューマンフィードバック(RLHF)からの強化学習において重要な研究領域となっている。 表現工学は、新しい、トレーニングなしのアプローチを提供する。 この手法は意味的特徴を利用してLLMの中間隠れ状態の表現を制御する。 正直さや安全性などの様々な意味内容を特異な意味的特徴に符号化することは困難である。
  論文  参考訳（メタデータ） (2024-11-04T08:36:03Z)
• CURATe: Benchmarking Personalised Alignment of Conversational AI Assistants [5.7605009639020315]
  5つのシナリオ(いずれも337のユースケース)にわたる10の先行モデルの評価 主要な障害モードには、矛盾する好みの適切な重み付け、症状、コンテキストウィンドウ内の重要なユーザ情報に対する注意力の欠如、ユーザ固有の知識の一貫性のない適用が含まれる。 本稿では,AIアシスタントに自己回帰機能,オンラインユーザモデリング,動的リスク評価を組み込むための研究指針を提案する。
  論文  参考訳（メタデータ） (2024-10-28T15:59:31Z)
• Trustworthy AI: Securing Sensitive Data in Large Language Models [0.0]
  大規模言語モデル(LLM)は、堅牢なテキスト生成と理解を可能にすることで自然言語処理(NLP)を変革した。 本稿では, 機密情報の開示を動的に制御するために, 信頼機構をLCMに組み込むための包括的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-09-26T19:02:33Z)
• Con-ReCall: Detecting Pre-training Data in LLMs via Contrastive Decoding [118.75567341513897]
  既存のメソッドは通常、ターゲットテキストを分離して分析するか、非メンバーコンテキストでのみ分析する。 Con-ReCallは、メンバと非メンバのコンテキストによって誘導される非対称な分布シフトを利用する新しいアプローチである。
  論文  参考訳（メタデータ） (2024-09-05T09:10:38Z)
• Towards More Trustworthy and Interpretable LLMs for Code through Syntax-Grounded Explanations [48.07182711678573]
  ASTrustは、モデル信頼度とプログラミング言語の構文構造の関係に基づく説明を生成する。 ASTからの構文構造のシーケンス, 熱マップ, グラフに基づく可視化を重畳した, モデル信頼度スコアを自動可視化する。
  論文  参考訳（メタデータ） (2024-07-12T04:38:28Z)
• TRACE: TRansformer-based Attribution using Contrastive Embeddings in LLMs [50.259001311894295]
  TRACE と呼ばれるコントラスト埋め込みを用いた新しいTRansformer-based Attribution フレームワークを提案する。 TRACEは情報源の属性を精度良く改善し,大規模言語モデルの信頼性と信頼性を高める貴重なツールであることを示す。
  論文  参考訳（メタデータ） (2024-07-06T07:19:30Z)
• RELIC: Investigating Large Language Model Responses using Self-Consistency [58.63436505595177]
  LLM(Large Language Models)は、フィクションと事実を混同し、幻覚として知られる非事実コンテンツを生成することで有名である。 本稿では,ユーザが生成したテキストの信頼性を把握できる対話型システムを提案する。
  論文  参考訳（メタデータ） (2023-11-28T14:55:52Z)
• Intent Contrastive Learning for Sequential Recommendation [86.54439927038968]
  ユーザの意図を表現するために潜伏変数を導入し,クラスタリングにより潜伏変数の分布関数を学習する。 我々は,学習意図を対照的なSSLによってSRモデルに活用し,シーケンスのビューとそれに対応するインテントとの一致を最大化することを提案する。 4つの実世界のデータセットで実施された実験は、提案した学習パラダイムの優位性を示している。
  論文  参考訳（メタデータ） (2022-02-05T09:24:13Z)
• Personalized multi-faceted trust modeling to determine trust links in social media and its potential for misinformation management [61.88858330222619]
  ソーシャルメディアにおけるピア間の信頼関係を予測するためのアプローチを提案する。 本稿では,データ駆動型多面信頼モデルを提案する。 信頼を意識したアイテムレコメンデーションタスクで説明され、提案したフレームワークを大規模なYelpデータセットのコンテキストで評価する。
  論文  参考訳（メタデータ） (2021-11-11T19:40:51Z)
• RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
  フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。 クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。 悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
  論文  参考訳（メタデータ） (2021-07-07T15:42:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。