論文の概要: Auditing Training Data in Domain-adapted LLMs: LoRA-MINT

• arxiv url: http://arxiv.org/abs/2606.06946v1
• Date: Fri, 05 Jun 2026 06:19:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.591044
• Title: Auditing Training Data in Domain-adapted LLMs: LoRA-MINT
• Title（参考訳）: ドメイン適応LLMにおける学習データ: LoRA-MINT
• Authors: Gonzalo Mancera, Daniel DeAlcala, Aythami Morales, Julian Fierrez, Ruben Tolosana, Francisco Jurado,
• Abstract要約: LoRA-MINTは,Low-Rank Adaptation (LoRA) を通じてNLPタスクに微調整された最近のLarge Language Models (LLMs) に適用された新しいメンバシップ推論テスト(MINT)手法である。 第一の目的は、個々のサンプルがこれらの適応モデルのトレーニングデータの一部であったかどうかを評価することであり、知的財産権と機密データの管理に有用な監査ツールを提供することである。
• 参考スコア（独自算出の注目度）: 15.934462293442792
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We present LoRA-MINT, a new methodology for Membership Inference Test (MINT) applied to recent Large Language Models (LLMs) fine-tuned for specific Natural Language Processing (NLP) tasks through Low-Rank Adaptation (LoRA). The primary goal is to assess whether individual samples were part of the training data of these adapted models, providing a useful auditing tool for the management of intellectual property and sensitive data. Our analysis explores the relationship between model perplexity and membership status, providing a systematic framework for estimating data exposure in fine-tuned LLMs. We conducted experiments on four models and three benchmark datasets, obtaining precision values in determining if given data were used for training ranging from 0.77 to 0.92, which outperform state-of-the-art baselines and demonstrate the robustness and generality of the proposed method. In general, our findings underscore the potential of LoRA-MINT as an effective and scalable framework for auditing LLMs, improving transparency, and fostering the ethical and responsible deployment of AI and NLP technologies. For the sake of concreteness and current relevance, our discussion and experiments are centered on LoRAadjusted LLMs, but note that most of the presented methodology is easily applicable for auditing training data given any other technique for adapting LLMs or, more generally, any other domain-adapted AI models.
• Abstract（参考訳）: 本稿では,Low-Rank Adaptation (LoRA) を通じてNLPタスクを微調整した最近のLarge Language Models (LLMs) に適用した,メンバシップ推論テスト (MINT) のための新しい方法論であるLoRA-MINTを提案する。 第一の目的は、個々のサンプルがこれらの適応モデルのトレーニングデータの一部であったかどうかを評価することであり、知的財産権と機密データの管理に有用な監査ツールを提供することである。 本分析では, モデルパープレキシティとメンバーシップ状態の関係について検討し, 微調整LDMにおけるデータ露出を推定するための体系的枠組みを提供する。 我々は4つのモデルと3つのベンチマークデータセットの実験を行い、与えられたデータが0.77から0.92の範囲のトレーニングに使われているかどうかを判定し、最先端のベースラインを上回り、提案手法の堅牢性と汎用性を実証した。 LLMの監査、透明性の向上、AIとNLP技術の倫理的かつ責任ある展開を促進するための、効果的でスケーラブルなフレームワークとして、LoRA-MINTの可能性を概ね示しています。 具体性と現在の関連性のために、我々の議論と実験はLoRA適応型LLMを中心にしているが、提示された方法論のほとんどは、LLMに適応する他のテクニックや、より一般的には、他のドメイン適応型AIモデルに対して、トレーニングデータの監査に容易に適用可能であることに留意する。

関連論文リスト

• Nonparametric LLM Evaluation from Preference Data [86.96268870461472]
  本研究では,大規模言語モデル (LLM) を選好データから比較・ランク付けするための非パラメトリック統計フレームワークDMLEvalを提案する。 我々のフレームワークは、LLMを比較したり、ランキングしたりするための強力な最先端の手法を実践者に提供します。
  論文  参考訳（メタデータ） (2026-01-29T15:00:07Z)
• Test-Time Learning for Large Language Models [33.11605667376906]
  大規模言語モデル(LLM)のためのテスト時間学習(TTL)パラダイムを提案する。 LLMはテスト中にラベルなしのテストデータのみを使用してターゲットドメインに動的に適応する。 TLMはドメイン知識適応における元のLLMと比較して少なくとも20%性能が向上することを示す。
  論文  参考訳（メタデータ） (2025-05-27T02:18:59Z)
• FACT-AUDIT: An Adaptive Multi-Agent Framework for Dynamic Fact-Checking Evaluation of Large Language Models [79.41859481668618]
  大規模言語モデル(LLM)はファクトチェック研究を大幅に進歩させた。 既存のファクトチェック評価手法は静的データセットと分類基準に依存している。 本稿では, LLMのファクトチェック機能を適応的かつ動的に評価するエージェント駆動型フレームワークであるFACT-AUDITを紹介する。
  論文  参考訳（メタデータ） (2025-02-25T07:44:22Z)
• The Ultimate Guide to Fine-Tuning LLMs from Basics to Breakthroughs: An Exhaustive Review of Technologies, Research, Best Practices, Applied Research Challenges and Opportunities [0.35998666903987897]
  本稿では,Large Language Models (LLM) の微調整について検討する。 従来の自然言語処理(NLP)モデルから、AIにおける彼らの重要な役割まで、LLMの歴史的進化を概説している。 本報告では, 微調整LDMのための構造化7段パイプラインについて紹介する。
  論文  参考訳（メタデータ） (2024-08-23T14:48:02Z)
• How Data Inter-connectivity Shapes LLMs Unlearning: A Structural Unlearning Perspective [29.924482732745954]
  既存のアプローチでは、忘れられるべきデータポイントは独立であり、接続性を無視していると仮定している。 構造データセットをコンパイルする手法であるPISTOLを提案する。
  論文  参考訳（メタデータ） (2024-06-24T17:22:36Z)
• From Quantity to Quality: Boosting LLM Performance with Self-Guided Data Selection for Instruction Tuning [52.257422715393574]
  本稿では,Large Language Models (LLMs) の自己誘導手法を導入し,オープンソースデータセットからサクラサンプルを自動識別し,選択する。 我々の重要な革新である命令追従困難度(IFD)メトリックは、モデルが期待する応答と本質的な生成能力の相違を識別するための重要な指標として現れます。
  論文  参考訳（メタデータ） (2023-08-23T09:45:29Z)
• On Learning to Summarize with Large Language Models as References [101.79795027550959]
  大型言語モデル (LLM) は、一般的な要約データセットにおける元の参照要約よりも人間のアノテーションに好まれる。 より小さなテキスト要約モデルに対するLLM-as-reference学習設定について検討し,その性能が大幅に向上するかどうかを検討する。
  論文  参考訳（メタデータ） (2023-05-23T16:56:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。