論文の概要: When Are LLM Inferences Acceptable? User Reactions and Control Preferences for Inferred Personal Information

• arxiv url: http://arxiv.org/abs/2605.10013v1
• Date: Mon, 11 May 2026 05:39:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.550401
• Title: When Are LLM Inferences Acceptable? User Reactions and Control Preferences for Inferred Personal Information
• Title（参考訳）: LLM推論はいつ受け入れられるか? 推測された個人情報に対するユーザ反応と制御優先
• Authors: Kyzyl Monteiro, Minjung Park, Alexander Ioffrida, Angelina Sanna, Hao-Ping, Lee, Niloofar Mireshghallah, Yang Wang, Sauvik Das,
• Abstract要約: ユーザ自身のChatGPT履歴から,非統計推論の例を抽出する可視化ツールを構築した。 主に、推測がユーザを誤解していると感じたり、あるいは期待された使用と不一致を感じたときに、不快が生じた。 これらの結果は,LLM推論の受容性は,その内容だけでなく,その生成方法に関する文脈に敏感な規範によっても支配されていることを示唆している。
• 参考スコア（独自算出の注目度）: 44.18115610488797
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Ask ChatGPT about vacation planning, and it may infer your income. Ask it about medication, and it may infer your medical history. Because such inferences can expose more information than users intend to reveal, prior work argues that they are a defining privacy risk of LLM-based systems. Yet prior work has mostly shown that LLMs can make potentially violating inferences, not how users experience those inferences nor what controls users may want governing their use. We built the Reflective Layer, a visualization tool that surfaces example unstated inferences from users' own ChatGPT histories, and used it in a mixed-methods study with 18 regular ChatGPT users evaluating 215 surfaced inferences from their own conversations. Counterintuitively, participants reacted more strongly with curiosity and interest rather than distress and concern. Discomfort arose mainly when inferences felt misrepresentative of the user or misaligned with expected use. Participants were also markedly less comfortable with advertisers and third-party applications using those inferences than with platform providers. These findings suggest that the acceptability of LLM inferences is governed not only by its content, but by context-sensitive norms around how they are generated, retained within the platform, and transmitted beyond it.
• Abstract（参考訳）: ChatGPTに休暇計画について尋ねると、それはあなたの収入を推測するかもしれない。 薬について尋ねれば、それはあなたの医療履歴を推測するかもしれない。 このような推測は、ユーザーが明らかにしようとするよりも多くの情報を公開することができるため、以前の研究は、LSMベースのシステムのプライバシーリスクを定義するものであると主張している。 しかし、以前の研究によると、LSMは、ユーザーがそれらの推論を体験する方法や、ユーザーが利用を規制したいかもしれないコントロールではなく、潜在的に違反する推論をすることができる。 私たちは、ユーザのChatGPT履歴から、統計のない推論をサーフェスする可視化ツールであるReflective Layerを開発し、それを18の通常のChatGPTユーザによる、自身の会話から215のサーフェスされた推論を評価する混合メソッドスタディで使用しました。 反対に、参加者は苦悩や懸念よりも好奇心や関心に強く反応した。 主に、推測がユーザを誤解していると感じたり、あるいは期待された使用と不一致を感じたときに、不快が生じた。 参加者は、広告主やサードパーティーアプリケーションに対して、プラットフォームプロバイダよりもはるかに安心感に欠けていた。 これらの結果から, LLM推論の受容性は, その内容だけでなく, プラットフォーム内でどのように生成され, 保持され, 伝達されるかという文脈に敏感な規範によっても支配されていることが示唆された。

関連論文リスト

• Verbalizing LLMs' assumptions to explain and control sycophancy [62.927670321859495]
  LLMは、真のアセスメントを提供するのではなく、"am I in the wrong? LLMからこれらの仮定を抽出するフレームワークであるVerbalized Assumptionsを提案する。 我々の研究は、梅毒のメカニズムとしての仮定の新たな理解に貢献している。
  論文  参考訳（メタデータ） (2026-04-03T14:15:43Z)
• Exploring User Acceptance and Concerns toward LLM-powered Conversational Agents in Immersive Extended Reality [16.53846784748676]
  拡張現実(XR)コミュニティは、ユーザエクスペリエンスとタスク効率を向上させるために、大きな言語モデル(LLM)を統合することを模索している。 ユーザは一般的にこれらの技術を受け入れるが、セキュリティ、プライバシ、社会的影響、信頼に関する懸念を表明している。 我々の研究結果は、日常的な生成AIの使用がより受け入れられることと結びついているため、親しみが重要な役割を担っていることを示唆している。
  論文  参考訳（メタデータ） (2025-12-17T11:41:25Z)
• User Perceptions of Privacy and Helpfulness in LLM Responses to Privacy-Sensitive Scenarios [10.12906605142667]
  本稿では,プライバシに敏感なシナリオに反応する大規模言語モデルにおいて,ユーザがプライバシ保護の質や有用性をどのように感じているかを示す。 以上の結果から,プライバシを保ちながらユーザを支援するLCMの能力を測定することの必要性が示唆された。
  論文  参考訳（メタデータ） (2025-10-23T16:38:26Z)
• Controlling What You Share: Assessing Language Model Adherence to Privacy Preferences [73.5779077857545]
  ローカルモデルがこれらの命令を使ってクエリを書き換えるフレームワークを構築します。 軽量なローカルLCMを用いた実験では、微調整後、はるかに大きなゼロショットモデルの性能を著しく上回った。 同時に、このシステムは、ユーザー定義プライバシの好みをよりよく理解したモデルの必要性を強調し、ユーザー指示に完全に準拠するという課題に直面している。
  論文  参考訳（メタデータ） (2025-07-07T18:22:55Z)
• Rescriber: Smaller-LLM-Powered User-Led Data Minimization for LLM-Based Chatbots [2.2447085410328103]
  Rescriberは、LLMベースの会話エージェントでユーザ主導のデータ最小化をサポートするブラウザエクステンションである。 我々の研究によると、Rescriberはユーザーが不必要な開示を減らし、プライバシー上の懸念に対処するのに役立ちました。 以上の結果から,LLMによる小型ユーザ向けオンデバイスプライバシコントロールの実現可能性が確認された。
  論文  参考訳（メタデータ） (2024-10-10T01:23:16Z)
• "I'm Not Sure, But...": Examining the Impact of Large Language Models' Uncertainty Expression on User Reliance and Trust [51.542856739181474]
  不確実性の自然言語表現の違いが、参加者の信頼、信頼、全体的なタスクパフォーマンスにどのように影響するかを示す。 その結果, 一人称表情は, 参加者のシステムに対する信頼度を低下させ, 参加者の正確性を高めつつ, システムの回答に同調する傾向にあることがわかった。 以上の結果から,不確実性の自然言語表現の使用は,LLMの過度な依存を軽減するための効果的なアプローチである可能性が示唆された。
  論文  参考訳（メタデータ） (2024-05-01T16:43:55Z)
• "It's a Fair Game", or Is It? Examining How Users Navigate Disclosure Risks and Benefits When Using LLM-Based Conversational Agents [27.480959048351973]
  大規模言語モデル(LLM)ベースの会話エージェント(CA)の普及は、多くのプライバシー上の懸念を引き起こす。 実世界のChatGPT会話における機密情報開示を分析し,19名のLCMユーザを対象に半構造化インタビューを行った。 LLMベースのCAを使用する場合,ユーザは常に,プライバシやユーティリティ,利便性のトレードオフに直面しています。
  論文  参考訳（メタデータ） (2023-09-20T21:34:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。