論文の概要: Evaluating Personal Information Output from Conversational Interactions in Generative AI Systems

• arxiv url: http://arxiv.org/abs/2609.22204v1
• Date: Tue, 01 Sep 2026 04:42:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.769834
• Title: Evaluating Personal Information Output from Conversational Interactions in Generative AI Systems
• Title（参考訳）: 生成型AIシステムにおける会話インタラクションからの個人情報出力の評価
• Abstract要約: 本研究では、生成型AIシステムにおける対話型対話から出力される個人情報の範囲と精度を評価する。 この発見は、生成型AIシステムにおけるプライバシー意識と個人情報推測に関する今後の議論に寄与する可能性がある。
• 参考スコア（独自算出の注目度）: 1.27848066107687
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This exploratory pilot study evaluates the scope and perceived accuracy of personal information output from ongoing conversational interactions in generative AI systems using GPT-5.2 Instant and GPT-5.2 Thinking, categorized into three output types: Fact, Inference, and Confidence. Based on the evaluation results obtained from 15 Japanese participants, differences in model design have limited impact on personal information output tendencies. Compared with the Inference type, the Fact type shows a more conservative output pattern. Regarding attribute categories, the findings indicate that Core Personal attributes associated with identification are treated relatively conservatively, whereas Behavioral and Linguistic attributes show higher accuracy across both Fact and Inference outputs. Furthermore, Holistic Profile, Psychological and Cognitive, and Residual attributes are more readily inferred, even when not supported by explicit factual outputs. Notably, the lack of null outputs for these attributes in the Inference type suggests that such inferred profiles may be constructed from indirectly available contextual information. The findings may contribute to future discussions regarding privacy awareness and personal information inference in generative AI systems.
• Abstract（参考訳）: 本稿では, GPT-5.2 Instant と GPT-5.2 Thinking を用いて, GPT-5.2 Instant と GPT-5.2 Thinking を3つの出力タイプ, Fact, Inference, Confidence に分類した。 15人の日本人被験者から得られた評価結果に基づき, モデル設計の違いが個人情報の出力傾向に与える影響を限定した。 推論型と比較すると、Fact型はより保守的な出力パターンを示す。 属性分類では,識別に関連するコア・パーソナリティは比較的保守的に扱われるが,行動的属性と言語的属性はFactとInferenceの両方のアウトプットで高い精度を示す。 さらに, 全体像, 心理的, 認知的属性, 残留属性は, たとえ明示的な事実出力に支えられなくても, より容易に推測できる。 特に、推論型におけるこれらの属性に対するnull出力の欠如は、そのような推論プロファイルが間接的に利用可能なコンテキスト情報から構築される可能性があることを示唆している。 この発見は、生成型AIシステムにおけるプライバシー意識と個人情報推測に関する今後の議論に寄与する可能性がある。

関連論文リスト

• How Annotation Trains Annotators: Competence Development in Social Influence Recognition [58.27352499161234]
  本研究では,社会的影響認識の過程における能力の観点から,アノテータの作業品質の変化について検討する。 この研究は、専門家と非専門家の両方を含む5つのグループから25人の注釈係が参加し、1,021の対話のデータセットに注釈を付けた。 その結果,アノテータの自己認識能力と自信の増大が示唆された。
  論文  参考訳（メタデータ） (2026-04-03T10:32:57Z)
• Enhancing Personality Recognition by Comparing the Predictive Power of Traits, Facets, and Nuances [37.83859643892549]
  パーソナリティ認識モデルは、行動データから性格特性を推定することを目的としている。 モーダル間(音響)とオブジェクト間(ダイアド・アウェア)のアテンション機構を含むトランスフォーマーベースモデルを訓練した。 その結果、ニュアンスレベルのモデルはファセットやトラストレベルのモデルよりも一貫して優れており、平均2乗誤差を最大74%削減できることがわかった。
  論文  参考訳（メタデータ） (2026-02-05T13:35:04Z)
• PCoKG: Personality-aware Commonsense Reasoning with Debate [32.49722822521962]
  Personality-Aware Commonsense Knowledge Graph (PCoKG)は、521,316個の4倍数からなる構造化データセットである。 知識グラフ構築には,大規模言語モデルのロールプレイング機能を活用する。 我々はPCoKGをペルソナに基づく対話生成に適用し、生成した応答と参照出力との整合性の改善を示す。
  論文  参考訳（メタデータ） (2026-01-09T15:05:01Z)
• Self-Rationalization in the Wild: A Large Scale Out-of-Distribution Evaluation on NLI-related tasks [59.47851630504264]
  自由文の説明は表現力があり理解しやすいが、多くのデータセットには注釈付き説明データがない。 我々は、T5-LargeモデルとOLMo-7Bモデルを微調整し、微調整データ品質、微調整サンプル数、少数ショット選択方法の影響を評価した。 モデルは、自然言語推論(NLI)、ファクトチェック、抽象的な要約における幻覚検出の3つのタスクにまたがる19の多様なOODデータセットで評価される。
  論文  参考訳（メタデータ） (2025-02-07T10:01:32Z)
• Large Language Models Can Infer Personality from Free-Form User Interactions [0.0]
  GPT-4は、パーソナリティを適度な精度で推測することができ、以前のアプローチよりも優れていた。 その結果,人格評価への直接的注力は,ユーザエクスペリエンスの低下を招いていないことがわかった。 予備的な分析は、人格推定の正確さは、社会デミノグラフィーのサブグループによってわずかに異なることを示唆している。
  論文  参考訳（メタデータ） (2024-05-19T20:33:36Z)
• Are Machines Better at Complex Reasoning? Unveiling Human-Machine Inference Gaps in Entailment Verification [41.330719056639616]
  本研究は,多文前提における係り受け検証問題について考察する。 一貫性のないモデル生成有理数の検出などの現代のNLP問題は、複雑なマルチホップ推論を必要とする。
  論文  参考訳（メタデータ） (2024-02-06T04:14:09Z)
• Measuring and Improving Attentiveness to Partial Inputs with Counterfactuals [91.59906995214209]
  我々は,新しい評価手法であるCAT(Facterfactual Attentiveness Test)を提案する。 CATは、入力の一部を別の例から別の例に置き換えることで、予測を変更する注意深いモデルを期待することで、反事実を使用する。 実験データの精度が向上する一方, GPT3 は実演回数の増加により注意力の低下がみられた。
  論文  参考訳（メタデータ） (2023-11-16T06:27:35Z)
• Large Language Models Can Infer Psychological Dispositions of Social Media Users [1.0923877073891446]
  GPT-3.5とGPT-4は、ゼロショット学習シナリオにおいて、ユーザのFacebookステータス更新からビッグファイブの性格特性を導出できるかどうかを検証する。 その結果, LLM-inferred と self-reported trait score の間には r =.29 (range = [.22,.33]) の相関が認められた。 予測は、いくつかの特徴について、女性と若い個人にとってより正確であることが判明し、基礎となるトレーニングデータやオンライン自己表現の違いから生じる潜在的なバイアスが示唆された。
  論文  参考訳（メタデータ） (2023-09-13T01:27:48Z)
• Towards Unbiased Visual Emotion Recognition via Causal Intervention [63.74095927462]
  本稿では,データセットバイアスによる負の効果を軽減するために,新しい感情認識ネットワーク(IERN)を提案する。 IERNの有効性を検証する一連の設計されたテストと、3つの感情ベンチマークの実験は、IERNが他の最先端のアプローチよりも優れていることを示した。
  論文  参考訳（メタデータ） (2021-07-26T10:40:59Z)
• Differentially Private and Fair Deep Learning: A Lagrangian Dual Approach [54.32266555843765]
  本稿では,個人の機密情報のプライバシを保護するとともに,非差別的予測器の学習を可能にするモデルについて検討する。 この方法は、微分プライバシーの概念と、公正性制約を満たすニューラルネットワークの設計にラグランジアン双対性(Lagrangian duality)を用いることに依存している。
  論文  参考訳（メタデータ） (2020-09-26T10:50:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。