論文の概要: Permissioned LLMs: Enforcing Access Control in Large Language Models

• arxiv url: http://arxiv.org/abs/2505.22860v1
• Date: Wed, 28 May 2025 20:47:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 18:14:07.536263
• Title: Permissioned LLMs: Enforcing Access Control in Large Language Models
• Title（参考訳）: 命令型LLM:大規模言語モデルにおけるアクセス制御の強化
• Authors: Bargav Jayaraman, Virendra J. Marathe, Hamid Mozaffari, William F. Shen, Krishnaram Kenthapadi,
• Abstract要約: PerLM(Permissioned LLM)は、クエリ応答の組織データアクセス制御構造を重畳する。 PermLLMメカニズムは、望まれるアクセス制御を実現するために、効率的なファインチューニングの上に構築される。 4つの公開データセットに対する広範な実験により,PermLLM機構の有効性を実証した。
• 参考スコア（独自算出の注目度）: 14.935672762016972
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In enterprise settings, organizational data is segregated, siloed and carefully protected by elaborate access control frameworks. These access control structures can completely break down if an LLM fine-tuned on the siloed data serves requests, for downstream tasks, from individuals with disparate access privileges. We propose Permissioned LLMs (PermLLM), a new class of LLMs that superimpose the organizational data access control structures on query responses they generate. We formalize abstractions underpinning the means to determine whether access control enforcement happens correctly over LLM query responses. Our formalism introduces the notion of a relevant response that can be used to prove whether a PermLLM mechanism has been implemented correctly. We also introduce a novel metric, called access advantage, to empirically evaluate the efficacy of a PermLLM mechanism. We introduce three novel PermLLM mechanisms that build on Parameter Efficient Fine-Tuning to achieve the desired access control. We furthermore present two instantiations of access advantage--(i) Domain Distinguishability Index (DDI) based on Membership Inference Attacks, and (ii) Utility Gap Index (UGI) based on LLM utility evaluation. We demonstrate the efficacy of our PermLLM mechanisms through extensive experiments on four public datasets (GPQA, RCV1, SimpleQA, and WMDP), in addition to evaluating the validity of DDI and UGI metrics themselves for quantifying access control in LLMs.
• Abstract（参考訳）: エンタープライズ環境では、組織データは分離され、サイロ化され、精巧なアクセス制御フレームワークによって注意深く保護される。 これらのアクセス制御構造は、サイロ化されたデータに微調整されたLCMが、異なるアクセス権限を持つ個人からのダウンストリームタスクに対してリクエストを提供する場合、完全に分解することができる。 提案するPermissioned LLMs(PermLLM)は,LLMが生成するクエリ応答に対して,組織データアクセス制御構造を重畳する新しいクラスである。 LLMクエリ応答に対してアクセス制御の実施が正しく行われるかどうかを判断する手段の基盤となる抽象化を形式化する。 我々の形式主義は、PermLLMメカニズムが正しく実装されているかどうかを証明するために使用できる関連する応答の概念を導入している。 また,PermLLM機構の有効性を実証的に評価するために,アクセス優位と呼ばれる新しい指標を導入する。 要求されるアクセス制御を実現するためにパラメータ効率の良いファインチューニングを基盤とした新しいPermLLM機構を3つ導入する。 さらに、アクセス優位性の2つのインスタンス化を示す。 一 会員推論攻撃に基づくドメイン識別可能性指数(DDI)及び 二 実用性評価に基づく実用性ギャップ指数(UGI) 我々は,4つの公開データセット(GPQA, RCV1, SimpleQA, WMDP)の広範な実験を通じてPermLLM機構の有効性を実証するとともに,LLMにおけるアクセス制御の定量化のためのDDIおよびUGIメトリクス自体の有効性を評価する。

関連論文リスト

• Embodied Agent Interface: Benchmarking LLMs for Embodied Decision Making [85.24399869971236]
  我々は,大規模言語モデル(LLM)を具体的意思決定のために評価することを目指している。 既存の評価は最終的な成功率にのみ依存する傾向がある。 本稿では,様々なタスクの形式化を支援する汎用インタフェース (Embodied Agent Interface) を提案する。
  論文  参考訳（メタデータ） (2024-10-09T17:59:00Z)
• Control Large Language Models via Divide and Conquer [94.48784966256463]
  本稿では,Lexically Constrained Generation(LCG)に着目し,大規模言語モデル(LLM)のプロンプトベース制御による制御可能生成について検討する。 我々は,レキシカル制約を満たすためのLLMの性能を,プロンプトベース制御により評価し,下流アプリケーションでの有効性を検証した。
  論文  参考訳（メタデータ） (2024-10-06T21:20:06Z)
• Efficient Prompting for LLM-based Generative Internet of Things [88.84327500311464]
  大規模言語モデル(LLM)は、様々なタスクにおいて顕著な能力を示しており、最近、IoT(Internet of Things)アプリケーションにLLMの能力を統合することが研究の注目を集めている。 セキュリティ上の懸念から、多くの機関は最先端の商用LLMサービスへのアクセスを避け、ローカルネットワーク環境でのオープンソースLLMのデプロイと利用を必要としている。 本研究では,LLMを用いた生成IoT(Generative IoT)システムを提案する。
  論文  参考訳（メタデータ） (2024-06-14T19:24:00Z)
• FederatedScope-LLM: A Comprehensive Package for Fine-tuning Large Language Models in Federated Learning [70.38817963253034]
  本稿では, ファインチューニング LLM のこれらの課題について論じ, 本パッケージ FS-LLM を主な貢献として紹介する。 我々は、FLシナリオにおける将来の拡張のために、包括的フェデレーションパラメータ効率の良い微調整アルゴリズムの実装と汎用プログラミングインタフェースを提供する。 本研究では, FS-LLM の有効性を検証し, FL 設定におけるパラメータ効率の高いパラメータ調整アルゴリズムを用いて, 高度な LLM のベンチマークを行う。
  論文  参考訳（メタデータ） (2023-09-01T09:40:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。