論文の概要: Hidden Signals in Language: Inferring Sensitive Attributes from Reddit Comments Using Machine Learning

• arxiv url: http://arxiv.org/abs/2604.09627v1
• Date: Thu, 19 Mar 2026 02:35:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-26 06:58:19.544839
• Title: Hidden Signals in Language: Inferring Sensitive Attributes from Reddit Comments Using Machine Learning
• Title（参考訳）: 言語における隠れ信号: 機械学習を用いたRedditコメントからの感性属性の推測
• Abstract要約: センシティブな属性でタグ付けされた著者のチャットのようなテキストフラグメントを使用して、モデルはしばしばこれらの属性を単純な推測よりもよく分類することができる。 これにより、プライバシやバイアス、AIシステムにおける推論された個人情報の誤用に関する重要な懸念が持ち上がる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sensitive attributes are legally protected characteristics that should not be used to discriminate. Careful steps have been taken to minimize the risk of human bias regarding these fields, such as race and age. Large language models (LLMs) are similarly trained not to attempt to infer these aspects. However, just because they shouldn't, doesn't mean they don't. Using chat-like text fragments from authors tagged with sensitive attributes (e.g., MBTI personality, country of origin, gender), a model can often classify these attributes better than a naive guess, with results depending on the combination of subject matter and attribute. The text data from these comments is converted into numerical representations using embedding models, which are then used to train relatively simple classifiers such as logistic regression and decision trees. This study's results show that even these lightweight models can detect statistically significant signals associated with sensitive attributes in user-generated text. The results show that demographic traits such as gender and age are more readily predictable, whereas personality traits are expressed more subtly and depend more heavily on context. Predictive performance varies across online Reddit communities, with some subreddits consistently revealing attributes, while others show high variability depending on the trait being analyzed. These findings indicate that language contains latent identity signals that users may not intend to disclose but are nevertheless detectable through computational methods, and imply that more complex language models may have an inherent, greater capacity to infer sensitive attributes. This raises important concerns about privacy, bias, and the potential misuse of inferred personal information in AI systems. We call for increased transparency, stronger safeguards, and careful policy consideration for future LLMs.
• Abstract（参考訳）: 感性属性は、差別に使用すべきでない法的に保護された特性である。 人種や年齢など、これらの分野に関する人間の偏見のリスクを最小限に抑えるため、慎重な措置がとられている。 大規模言語モデル(LLM)も同様に、これらの側面を推論しないように訓練されている。 しかし、そうすべきでないからといって、そうではないという意味ではない。 センシティブな属性(MBTIパーソナリティ、出身国、性別など)でタグ付けされた著者のチャットのようなテキストフラグメントを使用して、モデルはしばしば、対象物と属性の組み合わせによる結果よりも、これらの属性を分類することができる。 これらのコメントからのテキストデータは埋め込みモデルを用いて数値表現に変換され、ロジスティック回帰や決定木といった比較的単純な分類器の訓練に使用される。 本研究の結果から,これらの軽量モデルでさえ,ユーザ生成テキストの感度特性に関連する統計的に重要な信号を検出できることが示唆された。 その結果、性別や年齢などの人口特性は予測しやすく、性格特性は微妙に表現され、文脈に大きく依存することが明らかとなった。 予測パフォーマンスはRedditのオンラインコミュニティによって異なり、いくつかのサブレディットは一貫して属性を明らかにしている。 これらの結果から,言語にはユーザが開示する意図はないが,計算手法によって検出可能な潜時識別信号が含まれていることが示唆され,より複雑な言語モデルには,機密属性を推測する固有の,より大きな能力があることが示唆された。 これにより、プライバシやバイアス、AIシステムにおける推論された個人情報の誤用に関する重要な懸念が持ち上がる。 我々は、透明性の向上、より強力な安全確保、将来のLLMに対する慎重な政策検討を要請する。

関連論文リスト

• When Personalization Tricks Detectors: The Feature-Inversion Trap in Machine-Generated Text Detection [64.23509202768945]
  パーソナライズされた設定における検出ロバスト性を評価するための最初のベンチマークであるデータセットを紹介する。 実験により, 個別設定における検出器間の性能差が大きいことが示された。 パーソナライズされた設定における検出性能変化を簡易かつ信頼性の高い予測方法を提案する。
  論文  参考訳（メタデータ） (2025-10-14T13:10:23Z)
• Leveraging vision-language models for fair facial attribute classification [19.93324644519412]
  汎用視覚言語モデル(英: General-purpose Vision-Language Model, VLM)は、共通感性属性のための豊富な知識源である。 我々は,VLM予測値と人間定義属性分布の対応関係を解析した。 複数のベンチマークの顔属性分類データセットの実験は、既存の教師なしベースラインよりもモデルの公平性の向上を示している。
  論文  参考訳（メタデータ） (2024-03-15T18:37:15Z)
• LLMvsSmall Model? Large Language Model Based Text Augmentation Enhanced Personality Detection Model [58.887561071010985]
  パーソナリティ検出は、ソーシャルメディア投稿に根ざした性格特性を検出することを目的としている。 既存のほとんどのメソッドは、事前訓練された言語モデルを微調整することで、ポスト機能を直接学習する。 本稿では,大規模言語モデル (LLM) に基づくテキスト拡張強化人格検出モデルを提案する。
  論文  参考訳（メタデータ） (2024-03-12T12:10:18Z)
• Improving Fairness using Vision-Language Driven Image Augmentation [60.428157003498995]
  公平性は、特に顔領域において、ディープラーニングの識別モデルを訓練する際に重要である。 モデルは、特定の特性(年齢や肌の色など)と無関係な属性(下流タスク)を関連付ける傾向がある 本稿では,これらの相関を緩和し,公平性を向上する手法を提案する。
  論文  参考訳（メタデータ） (2023-11-02T19:51:10Z)
• Shifting Attention to Relevance: Towards the Predictive Uncertainty Quantification of Free-Form Large Language Models [27.491408293411734]
  大規模言語モデル(LLM)は、言語生成と命令の後に有望な結果を示すが、しばしば「ハロシン化」を示す。 我々の研究は単純な冗長性を導入している: 自動回帰テキストのすべてのトークンが、基礎となる意味を等しく表しているわけではない。
  論文  参考訳（メタデータ） (2023-07-03T22:17:16Z)
• Navigating the Grey Area: How Expressions of Uncertainty and Overconfidence Affect Language Models [74.07684768317705]
  LMはプロンプトにおける確実性のマーカーに非常に敏感であり、アクーは80%以上変化している。 その結果,高い確実性の表現は低い表現に比べて精度が低下し,事実動詞が性能を損なうのに対して,明らかな表現はパフォーマンスに寄与することがわかった。 これらの関連性は、LMが真に不確実性を反映するのではなく、観察された言語の使用に基づいていることを示唆している。
  論文  参考訳（メタデータ） (2023-02-26T23:46:29Z)
• Estimating the Personality of White-Box Language Models [0.589889361990138]
  大規模なテキストコーパスで訓練された大規模言語モデルは、至る所で広範囲のアプリケーションで使用されている。 既存の研究は、これらのモデルが人間の偏見を捉え、捉えていることを示している。 これらのバイアス、特に害を引き起こす可能性のあるバイアスの多くは、十分に調査されている。 しかし、これらのモデルによって受け継がれた人間の性格特性を推測し、変化させる研究は、ほとんど、あるいは存在しない。
  論文  参考訳（メタデータ） (2022-04-25T23:53:53Z)
• Semi-FairVAE: Semi-supervised Fair Representation Learning with Adversarial Variational Autoencoder [92.67156911466397]
  逆変分オートエンコーダに基づく半教師付き公正表現学習手法を提案する。 我々は、バイアス認識モデルを用いて、機密属性の固有バイアス情報をキャプチャする。 また、偏見のないモデルを用いて、対立学習を用いて偏見情報を取り除き、偏見のない公正表現を学習する。
  論文  参考訳（メタデータ） (2022-04-01T15:57:47Z)
• More Than Words: Towards Better Quality Interpretations of Text Classifiers [16.66535643383862]
  MLモデルの入力インタフェースを考えると、トークンベースの解釈性は便利な第1選択であるが、あらゆる状況において最も効果的ではないことを示す。 1)ランダム化テストにより測定されるほど頑健であり,2)SHAPのような近似に基づく手法を用いた場合の変動性が低く,3)言語的コヒーレンスがより高い水準にある場合の人間には理解できない。
  論文  参考訳（メタデータ） (2021-12-23T10:18:50Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。