論文の概要: Privacy Conductor: An Architectural Enforcement of Contextual Integrity in LLM-Based Document Retrieval

• arxiv url: http://arxiv.org/abs/2610.15804v1
• Date: Sun, 11 Oct 2026 17:48:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-19 16:20:14.586159
• Title: Privacy Conductor: An Architectural Enforcement of Contextual Integrity in LLM-Based Document Retrieval
• Title（参考訳）: プライバシコンダクタ: LLMベースのドキュメント検索におけるコンテキスト統合のアーキテクチャ強化
• Abstract要約: モデルから決定を除去するアーキテクチャであるプライバシコンダクタを紹介します。 2,520人の要求者-文書フローの合成臨床コーパスでは、ゲートはその方針を正確に再現する。 HIPAAの訴訟からの214のフローでは、最も正確な構成では、法律が禁じている20件のうち11件の開示が認められている。
• 参考スコア（独自算出の注目度）: 0.2624902795082451
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) that retrieve internal documents within an organization must decide who may receive them. Existing approaches based on Contextual Integrity ask the model to make that decision, so access depends on probabilistic reasoning. We present Privacy Conductor, an architecture that removes the decision from the model: a deterministic gate enforces a policy written by an authority, and the model receives only what the requester may already see. On a synthetic clinical corpus of 2,520 requester--document flows, the gate reproduces its policy exactly, so the remaining risk lies in the document labels it reads. As label source is of primary importance, we compare LLM and human generated labels. Across seven configurations of six models from two model families, LLM-written labels degrade the policy in every case. Models assign a document's sensitivity tier correctly on 78--86% of documents, but reproduce its access-control list on as few as 23%. Relabeling the same documents five times with an identical request changes 13 to 124 access decisions per configuration, a result that does not depend on our own labels. On 214 flows from HIPAA court cases, the most accurate configuration (87.8%) still permits 11 of the 20 disclosures the law prohibits. LLMs can describe what a document contains, but not decide who should receive it. Hence, we recommend privacy policy should be authored by accountable personnel and enforced outside the model.
• Abstract（参考訳）: 組織内の内部文書を検索する大規模言語モデル(LLM)は、誰がそれを受信するかを決定する必要がある。 既存のコンテキスト整合性に基づくアプローチでは、モデルにその決定を求めるため、アクセスは確率論的推論に依存する。 決定論的ゲートは、権威によって書かれたポリシーを強制し、モデルは、要求者がすでに見ているもののみを受け取ります。 要求文書フロー2,520の合成臨床コーパスでは、ゲートはそのポリシーを正確に再現するので、残りのリスクは読み込むドキュメントラベルにある。 ラベルソースが重要となるため、LLMと人為的なラベルの比較を行う。 2つのモデルファミリーの6つのモデルの7つの構成のうち、LSMで書かれたラベルは、すべてのケースでポリシーを分解する。 モデルは78～86%の文書に文書の感度レベルを正しく割り当てるが、アクセス制御リストを23%まで再現する。 同じドキュメントを同じ要求で5回リラベルすると、構成毎に13から124のアクセス決定が変わります。 HIPAAの214フローでは、最も正確な構成(87.8%)で、20件中11件の開示が禁じられている。 LLMはドキュメントの中身を記述できるが、誰が受け取るべきかは決定しない。 したがって、我々は、プライバシーポリシーは説明責任のある職員によって認可され、モデル外に強制されることを推奨する。

関連論文リスト

• HIRA: A Human-in-the-Loop Retrieval-Augmented Cascade for Document Classification in Regulated Industries [1.5965246343492343]
  HIRAは、トレーニング不要でオンプレミスの検索拡張された、規制されたデプロイメントにおけるドキュメント分類のためのカスケードである。 信頼された文書は、検索によって直接分類され、不確実または視覚的に不確実な文書は、ローカルにホストされた検証者に渡される。 プライベートな80クラスのトレーディングファイナンスコーパスでは、HIRAが30,233のドキュメント生成ストリームを処理し、わずか1,945のドキュメントに対して人間の修正を要求する。
  論文  参考訳（メタデータ） (2026-08-22T06:19:19Z)
• CiteVQA: Benchmarking Evidence Attribution for Trustworthy Document Intelligence [35.06938031991452]
  CiteVQAは要素レベルのバウンディングボックスの引用を各回答と一緒に返さなければならないベンチマークである。 CiteVQAは7つのドメインと2つの言語にまたがる711のPDFに1,897の質問があり、1ドキュメントあたり平均40.6ページである。 Strict Attributed Accuracy (SAA) は、回答と引用された領域の両方が正しい場合にのみ、予測を信用する。
  論文  参考訳（メタデータ） (2026-05-13T01:54:42Z)
• Knows: Agent-Native Structured Research Representations [5.037922001284019]
  私たちは、構造化されたクレーム、証拠、証明、および既存の研究成果物との関係を束縛する軽量仕様であるKnowsを紹介します。 Knowsは、オリジナルのPDFと共存する薄いYAMLサイドカーとのギャップに対処し、パブリッシュ自体の変更を必要とせず、決定論的スキーマlinterで検証する。 本研究は, PDFのみ, サイドカーのみ, ハイブリット条件を比較検討し, 14の学術分野にまたがる20の論文を対象とした140の理解的質問に対する知識の評価を行った。
  論文  参考訳（メタデータ） (2026-04-19T07:53:52Z)
• Document Attribution: Examining Citation Relationships using Large Language Models [62.46146670035751]
  そこで本研究では,帰属を簡単なテキスト・エンタテインメント・タスクとみなすゼロショット・アプローチを提案する。 また,アトリビューションプロセスの強化におけるアテンションメカニズムの役割についても検討する。
  論文  参考訳（メタデータ） (2025-05-09T04:40:11Z)
• DocMIA: Document-Level Membership Inference Attacks against DocVQA Models [52.13818827581981]
  DocVQAモデルに特化された2つの新しいメンバーシップ推論攻撃を導入する。 提案手法は,さまざまなDocVQAモデルやデータセットに対して,既存の最先端メンバシップ推論よりも優れている。
  論文  参考訳（メタデータ） (2025-02-06T00:58:21Z)
• Double-I Watermark: Protecting Model Copyright for LLM Fine-tuning [45.09125828947013]
  提案手法は、微調整中に特定の透かし情報をカスタマイズされたモデルに効果的に注入する。 提案手法を各種微調整法で評価し, その無害性, 頑健性, 独特性, 不受容性, 妥当性を定量的および定性的な分析により検証した。
  論文  参考訳（メタデータ） (2024-02-22T04:55:14Z)
• Privacy-Aware Document Visual Question Answering [44.82362488593259]
  この研究はDocVQAで使用されるマルチモーダルLLMモデルの現状におけるプライバシー問題を強調している。 本稿では,請求書と関連する質問と回答を含む大規模DocVQAデータセットを提案する。 プライベートでないモデルは記憶に残る傾向があり、プライベートな情報が露出する可能性があることを実証する。
  論文  参考訳（メタデータ） (2023-12-15T06:30:55Z)
• Are You Copying My Model? Protecting the Copyright of Large Language Models for EaaS via Backdoor Watermark [58.60940048748815]
  企業は大規模な言語モデル(LLM)に基づいたEmbeddding as a Service(E)の提供を開始した。 Eはモデル抽出攻撃に弱いため、LLMの所有者に重大な損失をもたらす可能性がある。 埋め込みにバックドアを埋め込むEmbMarkerという埋め込み透かし手法を提案する。
  論文  参考訳（メタデータ） (2023-05-17T08:28:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。