論文の概要: "Nothing to See Here'': Unintended Disclosure through Revision Traces of LLM Deliverables

• arxiv url: http://arxiv.org/abs/2609.35408v1
• Date: Mon, 28 Sep 2026 15:28:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 05:47:09.002489
• Title: "Nothing to See Here'': Unintended Disclosure through Revision Traces of LLM Deliverables
• Title（参考訳）: 「ここで見るものはない」:LLMの納品品のリビジョン・トレースによる意図しない開示
• Abstract要約: 大規模言語モデル(LLM)アシスタントは、サードパーティの受信者向けのコンテンツのドラフト作成を支援するようになっている。 プライベートドラフト中、ユーザーまたはモデルはアイテムを導入し、その後削除または置き換える。 例えば、ユーザーが設定ファイルを共有する前にパスワードを削除すると、モデルはそれを削除できるが、「要求通りにパスワード「No****4!」を削除した」とコメントを残している。
• 参考スコア（独自算出の注目度）: 4.1605111474556935
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) assistants increasingly help users draft content for third-party recipients. During private drafting, the user or the model may introduce an item and later remove or replace it. The model may remove the item from the intended content but reveal it again when stating the edit. We call such statements revision traces. For example, after a user removes the password before sharing a configuration file, the model may delete it but leave a comment saying, "Removed the password 'No****4!' as requested." A third-party recipient who sees only the delivered file can therefore recover the withdrawn password from the comment. In an in-the-wild analysis of three public conversation corpora, we identify 26,753 revision requests, of which 2,363 (8.8%) leave revision traces. We study them in greater depth under controlled conditions by introducing RevLeakBench, a benchmark of 100 tasks across five scenarios with a conversation track and an agent track. We measure trace occurrence, withdrawn-item recovery, trace position, and required-content retention. Across six models, about half of the deliverables in both tracks state the edit after a revocation, and a reader that sees only the deliverable can recover the withdrawn item from about 13% of them. Telling the model that its entire reply will be forwarded to the recipient still leaves revision traces in 36.4% of the deliverables. We compare prompt defenses and a delivery boundary, and propose an output-side filter that sharply reduces recovery with little loss of required content. We believe our work can benefit efforts to understand and mitigate unintended disclosure in LLM interactions.
• Abstract（参考訳）: 大規模言語モデル(LLM)アシスタントは、サードパーティの受信者向けのコンテンツのドラフト作成を支援するようになっている。 プライベートドラフト中、ユーザーまたはモデルはアイテムを導入し、その後削除または置き換える。 モデルは、意図したコンテンツからアイテムを除去するが、編集を述べたときに再び公開する。 このような文をリビジョントレースと呼ぶ。 例えば、ユーザーが設定ファイルを共有する前にパスワードを削除すると、モデルはそれを削除できるが、「要求通りにパスワード「No****4!」を削除した」とコメントを残している。 そのため、配信されたファイルのみを見ているサードパーティの受信者は、コメントから削除されたパスワードを復元することができる。 3つの公開会話コーパスの現場分析において,26,753件のリビジョン要求を同定し,2,363件(8.8%)がリビジョンの痕跡を残した。 RevLeakBenchは、会話トラックとエージェントトラックを備えた5つのシナリオにまたがる100のタスクのベンチマークである。 我々は,トレース発生,リカバリ,トレース位置,必要コンテンツ保持の測定を行った。 6つのモデルにまたがって、両トラックの出荷品の約半数が、取り消し後の編集を記載しており、配送品のみを見ている読者は、削除品の約13%から回収することができる。 モデルに全返信が受取人に転送されることを告げると、納品品品の36.4%にリビジョンの痕跡を残している。 本稿では,プロンプトディフェンスと配信境界を比較し,必要なコンテンツの損失を少なく抑える出力側フィルタを提案する。 LLMインタラクションにおける意図しない開示の理解と緩和に、当社の作業が貢献できると考えています。

関連論文リスト

• Can MCP Clients Decide What to Do After Failure? A Result-Only Actionability Audit [0.0]
  本稿では,MCPの故障結果のみから決定論的ソフトウェアが何を学べるかを考察する。 10個のサンプルサーバから安全に21個の障害を誘導する小さな実験において、タイプドフィールドは18件の障害を露呈し、8件の幅広いポリシーを公表した。 語彙ソース監査は、同じテキスト中心のpat-ternを見つける。
  論文  参考訳（メタデータ） (2026-08-31T06:45:17Z)
• Outcome Monitors: Recovery Affordances for Silent Tool Failures [2.9089118242427627]
  Outcome Monitorsは、タスクの不一致トレースから、あるいはパブリックスキーマから抽出された結果コントラクトの違反を検出する。 違反時に、モニタは結果を保存し、違反した資産と公衆回復ツールとを命名する非拘束レシートを発行する。
  論文  参考訳（メタデータ） (2026-08-19T17:35:30Z)
• KeyPooling: Measuring Where LLM API Relay Paths Collapse Prompt Cache Isolation [53.952294884822955]
  大規模言語モデル(LLM)APIは、顧客の認証を別々に行うが、多くの場合、共有プロバイダ認証を通じて要求を転送する。 KeyPoolingは、キャッシュのルックアップと書き込みを通じて顧客のアイデンティティをトレースする測定方法である。 すべての顧客がプロバイダ強化されたドメインに入る必要があります。
  論文  参考訳（メタデータ） (2026-08-18T08:12:34Z)
• Dead text or binding clause? Measuring and restoring constraint influence in black-box LLM dialogues [0.0]
  マルチターンダイアログは、ユーザが制約を課すのと同じくらい簡単に取り消すことができるが、取り消しが確実に効果を発揮できない。 既存の手段では、条項ごとにこの影響を測定したり、納品前に予測したり、整合した予算の下で修復したりすることはない。 sysnameはモデルAPIだけで3つのギャップを埋める。
  論文  参考訳（メタデータ） (2026-08-12T21:12:32Z)
• Stealing Reasoning Traces from Proprietary LLM APIs [84.58379404903394]
  我々は、暗号化された推論トレースのためのスケーラブルな復号化ジェイルブレイクを開発する。 抗蒸留機構を回避し、敵がプロプライエタリなモデルの推論を抽出できるようにする。 それは必然的に、推論プロセス内に隠された有害な情報を明らかにします。
  論文  参考訳（メタデータ） (2026-08-10T17:24:50Z)
• To Add Is Machine, To Delete Is Human: Measuring and Mitigating Deletion Avoidance in LLM Code Editing [6.552422227086477]
  大規模な言語モデルでは、プロダクションコードの書き直しが増えているが、テストパスパッチによって削除のメンテナンスが困難になる。 削除回避(deletion avoidance)とは、意図した編集が必要なコードを保持する体系的な傾向である。 ポストトレーニング中の削除教育は、削除回避を減らし、より広範なコード編集性能を向上させる。
  論文  参考訳（メタデータ） (2026-07-30T23:07:51Z)
• ProactBench: Beyond What The User Asked For [5.422521416406412]
  ProactBenchは、textscEmergent、単一の公開アンカーからの推論、textscCritical、複数のアンカー間での合成、textscRecovery、タスク完了後の前方にある値の3つのフェーズ型に分解する。 我々の情報アシンメトリーは、スタイル強調スコア、漏洩、外部コンテキスト汚染、情報ダンプに対して防御します。
  論文  参考訳（メタデータ） (2026-05-09T23:56:04Z)
• Do LLMs Benefit From Their Own Words? [56.73014497206615]
  先行するアシスタント応答の除去は,少数のターンにおいて応答品質に影響を与えないことがわかった。 アシスタント側コンテキストのオミッティングは、累積コンテキストの長さを最大10倍に減らすことができる。 本研究は, 記憶量削減を図り, アシスタント履歴を選択的に省略することで, 応答品質を向上できることを示唆する。
  論文  参考訳（メタデータ） (2026-02-27T18:58:26Z)
• GenAudit: Fixing Factual Errors in Language Model Outputs with Evidence [64.95492752484171]
  GenAudit - 文書基底タスクの事実チェック LLM 応答を支援するためのツール。 GenAuditは、レファレンス文書でサポートされていないクレームを修正したり削除したりすることでLCMレスポンスを編集することを提案し、また、サポートしているように見える事実の参照から証拠を提示する。 GenAuditは、さまざまなドメインから文書を要約する際に、8つの異なるLCM出力でエラーを検出することができる。
  論文  参考訳（メタデータ） (2024-02-19T21:45:55Z)
• Does Recommend-Revise Produce Reliable Annotations? An Analysis on Missing Instances in DocRED [60.39125850987604]
  テキスト修正方式は, 偽陰性サンプルと, 人気エンティティや関係性に対する明らかな偏見をもたらすことを示す。 より信頼性の高いドキュメントREモデルのテストセットとして機能するように、relabeledデータセットがリリースされている。
  論文  参考訳（メタデータ） (2022-04-17T11:29:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。