論文の概要: What Security and Privacy Transparency Users Need from Consumer-Facing Generative AI
- arxiv url: http://arxiv.org/abs/2604.17270v1
- Date: Sun, 19 Apr 2026 05:57:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.428009
- Title: What Security and Privacy Transparency Users Need from Consumer-Facing Generative AI
- Title（参考訳）: コンシューマー向け生成AIからセキュリティとプライバシの透明性が必要か
- Authors: Jiaxun Cao, Yu Dong, Chunxi Zhan, Rithvik Neti, Sai Teja Peddinti, Pardis Emami-Naeini,
- Abstract要約: GenAIツールのセキュリティとプライバシ(S&P)通信は、ユーザの採用決定とその後のエクスペリエンスを形作る。
我々は,米国GenAIユーザ21名を対象に,半構造化インタビューとデザインセッションを行った。
利用可能なS&P情報は,不完全,不有効,あるいは信頼性の欠如として,実際に採用されることがほとんどなかった。
我々は、研究者、デザイナー、政策立案者に対して、消費者向けGenAIにおけるS&P透明性を改善するよう勧告する。
- 参考スコア（独自算出の注目度）: 12.27956644118324
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Users increasingly rely on consumer-facing generative AI (GenAI) for tasks ranging from everyday needs to sensitive use cases. Yet, it remains unclear whether and how existing security and privacy (S&P) communications in GenAI tools shape users' adoption decisions and subsequent experiences. Understanding how users seek, interpret, and evaluate S&P information is critical for designing usable transparency that users can trust and act on. We conducted semi-structured interviews and design sessions with 21 U.S. GenAI users. We find that available S&P information rarely drove initial adoption in practice, as participants often perceived it as incomplete, ineffective, or lacking credibility. Instead, they relied on rough proxies, such as popularity, to infer S&P practices. After adoption, uncertainty about S&P practices constrained participants' willingness to use GenAI tools, particularly in high-stakes contexts, and, in some cases, contributed to discontinued use. Participants therefore called for transparency that supports decision-making and use, including trustworthy information (e.g., independent evaluations) and usable interfaces (e.g., on-demand disclosure). We synthesize participants' desired design practices into five dimensions to facilitate systematic future investigation into best practices. We conclude with recommendations for researchers, designers, and policymakers to improve S&P transparency in consumer-facing GenAI.
- Abstract（参考訳）: ユーザは、日常的なニーズから敏感なユースケースまで、さまざまなタスクに対して、コンシューマ向け生成AI(GenAI)をますます頼りにしています。
しかし、GenAIツールの既存のセキュリティとプライバシ(S&P)コミュニケーションが、ユーザの採用決定とその後の経験を形作るかどうか、まだ不明である。
ユーザがS&P情報を検索し、解釈し、評価する方法を理解することは、ユーザが信頼し、行動できる有用な透明性を設計するために重要である。
我々は,米国GenAIユーザ21名を対象に,半構造化インタビューとデザインセッションを行った。
利用可能なS&P情報は、参加者が不完全、非効率、あるいは信頼性の欠如とよく見なされるため、実際に導入されることは稀である。
代わりに、彼らはS&Pの慣行を推測するために人気のような粗悪なプロキシを頼りにしていた。
採用後、S&Pプラクティスの不確実性は、特に高い文脈でGenAIツールの使用を制限し、場合によっては使用を中止した。
そのため参加者は、信頼できる情報(例えば、独立した評価)や使用可能なインターフェース(例えば、オンデマンドの開示)を含む、意思決定と使用をサポートする透明性を求める。
参加者の希望する設計プラクティスを5次元にまとめて,将来的なベストプラクティスの体系的な調査を促進する。
我々は、研究者、デザイナー、政策立案者に対して、消費者向けGenAIにおけるS&P透明性を改善するよう勧告する。
関連論文リスト
- PBa-LLM: Privacy- and Bias-aware NLP using Named-Entity Recognition (NER) [45.870212237420226]
本研究では,Large Language Models(LLMs)のプライバシ保護トレーニングを容易にするために,NER(Named-Entity Recognition)の使用について検討する。
我々は,NER技術を用いて個人識別や地理的位置情報などのテキストデータ中の機密情報を匿名化するフレームワークを提案する。
この研究は2つの言語モデル(BERTとRoBERTa)と6つの匿名化アルゴリズム(Presidio、FLAIR、BERT、および異なるバージョンのGPT)を24,000の候補プロファイルのデータベースに適用した。
論文 参考訳（メタデータ） (2025-06-30T14:42:49Z) - Understanding Users' Security and Privacy Concerns and Attitudes Towards Conversational AI Platforms [3.789219860006095]
r/ChatGPT Redditコミュニティから250万以上のユーザ投稿を大規模に分析して、ユーザのセキュリティとプライバシに関する懸念を理解する。
データライフサイクルの各ステージ(すなわち、収集、使用、保持など)にユーザが関心を持っていることが分かりました。
透明性を高め、データコントロールを改善し、ユーザの信頼と採用を高めるために、ユーザ、プラットフォーム、企業、および政策立案者にレコメンデーションを提供します。
論文 参考訳（メタデータ） (2025-04-09T03:22:48Z) - Towards Trustworthy GUI Agents: A Survey [64.6445117343499]
本調査では,GUIエージェントの信頼性を5つの重要な次元で検証する。
敵攻撃に対する脆弱性、シーケンシャルな意思決定における障害モードのカスケードなど、大きな課題を特定します。
GUIエージェントが普及するにつれて、堅牢な安全基準と責任ある開発プラクティスを確立することが不可欠である。
論文 参考訳（メタデータ） (2025-03-30T13:26:00Z) - Decoding User Concerns in AI Health Chatbots: An Exploration of Security and Privacy in App Reviews [1.2437039433843042]
本研究では,セキュリティプライバシに関する懸念(SPR)を特定する上で,特にBARTとGemini GenAIの自動化手法の有効性を評価する。
以上の結果から,SPR分類におけるGeminiの性能は手動ラベリングに匹敵するものの,どちらの自動手法にも限界があることが示唆された。
論文 参考訳（メタデータ） (2025-01-31T00:38:37Z) - Decoding the Digital Fine Print: Navigating the potholes in Terms of service/ use of GenAI tools against the emerging need for Transparent and Trustworthy Tech Futures [0.0]
この研究は、特定のGenAIにおいて、ユーザの信頼を育み、AIの文脈における情報的意思決定を促進するために、明確で理解不能なサービス用語が果たす重要な役割について調査する。
これは、複雑な法的用語と詳細な細かな印刷によって提示される障害を強調しており、これは真のユーザの同意と会話を妨げる。
発見は文書品質の矛盾と変動を示し、開示の慣行における統一性の要求が押し寄せていることを示している。
論文 参考訳（メタデータ） (2024-03-26T04:54:53Z) - How Human-Centered Explainable AI Interface Are Designed and Evaluated: A Systematic Survey [48.97104365617498]
Em Explainable Interfaces (EIs) の登場する領域は,XAI のユーザインターフェースとユーザエクスペリエンス設計に重点を置いている。
本稿では,人間とXAIの相互作用の現在の動向と,EI設計・開発に向けた将来的な方向性を明らかにするために,53の出版物を体系的に調査する。
論文 参考訳（メタデータ） (2024-03-21T15:44:56Z) - A Room With an Overview: Towards Meaningful Transparency for the
Consumer Internet of Things [5.536922793483742]
本稿では,消費者IoTにおける透明性メカニズムの実践的側面について考察する。
スマートホームがより意味のある透明化を図り、ユーザーがより深く理解し、監視し、制御することを支援する。
論文 参考訳（メタデータ） (2024-01-19T13:00:36Z) - Rethinking People Analytics With Inverse Transparency by Design [57.67333075002697]
我々は、デザインによる逆透過性(inverse transparency)と呼ぶ、労働分析のための新しい設計手法を提案する。
アーキテクチャの変更はコア機能を阻害することなく行われます。
我々は、デザインによる逆透明性は、受け入れられ、責任ある人々の分析を実現するための有望なアプローチである、と結論付けている。
論文 参考訳（メタデータ） (2023-05-16T21:37:35Z) - Users are the North Star for AI Transparency [111.5679109784322]
透明な人工知能システムを求める声が広まっているにもかかわらず、この用語は、厳密な政策の目的や具体的な研究ラインのオリエント化を表すために、多義的な意味に過大評価されている。
このことが起こる理由の1つは、AI透明性の明確な理想が、この仕事の体で実現されないことである。
透明性はユーザ中心で、ユーザ指向で、誠実です。
論文 参考訳（メタデータ） (2023-03-09T18:53:29Z) - Human-Centric Multimodal Machine Learning: Recent Advances and Testbed
on AI-based Recruitment [66.91538273487379]
人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。
i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
論文 参考訳（メタデータ） (2023-02-13T16:44:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。