論文の概要: Beyond Third-Person Audits: Situated Interaction Auditing for User-Centered LLM Bias Research

• arxiv url: http://arxiv.org/abs/2606.12247v1
• Date: Wed, 10 Jun 2026 15:48:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.542964
• Title: Beyond Third-Person Audits: Situated Interaction Auditing for User-Centered LLM Bias Research
• Title（参考訳）: サードパーソン・オーディットを超えて:ユーザ中心のLLMバイアス研究のための特定インタラクション・オーディティング
• Authors: Andrés Abeliuk, Cinthia Sanchez Macias, Valentina Alarcón, Álvaro Madariaga, Claudia Lopez,
• Abstract要約: 本研究では,ユーザプロファイル信号が大規模言語モデルでどのように形成されるかを研究するための,ユーザ中心のフレームワークを提案する。 我々は,複数のタスク領域にまたがるジェンダーや社会経済的地位の信号と交差するケーススタディを通じて,この枠組みを実証する。
• 参考スコア（独自算出の注目度）: 0.14353812560047188
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Research on bias in large language models (LLMs) has predominantly focused on third-person audits, which study how models represent or evaluate demographic groups as external subjects. However, this paradigm overlooks a structural blind spot because the user is absent from the audit. In practice, LLMs are used in open-ended, personal interactions, during which the model implicitly represents the user and adjusts its responses accordingly. When identical requests yield different responses depending on who is asking, bias manifests not in how the model describes others but in how it treats its interlocutor. We propose Situated Interaction Auditing (SIA), a user-centered framework for studying how user profile signals -- implicit sociodemographic markers, writing style, and stated identity -- systematically shape LLM response quality, content, and tone. We demonstrate the framework through a case study that intersects gender and socioeconomic status signals across multiple task domains and outline a research agenda for SIA as a new mission for natural language processing.
• Abstract（参考訳）: 大規模言語モデル(LLMs)におけるバイアスの研究は、モデルがどのように外的対象として人口集団を表現または評価するかを研究する第三者監査に主に焦点を当てている。 しかし、このパラダイムは、ユーザが監査を受けていないため、構造的な盲点を見落としている。 実際には、LLMはオープンエンドの個人的なインタラクションで使用され、その間にモデルが暗黙的にユーザを表現し、それに応じて応答を調整する。 同一の要求が、誰が尋ねているかによって異なる応答をもたらすとき、バイアスは、モデルがどのように他を説明するかではなく、そのインターロケータをどのように扱うかに現れます。 ユーザプロファイル信号 -- 暗黙的な社会デマログラフマーカー,書体スタイル,表現されたアイデンティティ -- が,LLM応答品質,コンテンツ,トーンを体系的に形成する方法について,ユーザ中心のフレームワークであるSituated Interaction Auditing (SIA)を提案する。 本研究は,複数のタスク領域にまたがるジェンダーや社会経済的地位の信号と相互作用するケーススタディを通じて,この枠組みを実証し,自然言語処理の新たなミッションとしてSIAの研究課題を概説する。

関連論文リスト

• Surface Fairness, Deep Bias: A Comparative Study of Bias in Language Models [45.41676783204022]
  大規模言語モデル(LLM)におけるバイアスの様々なプロキシ尺度について検討する。 MMLU (Multi-subject benchmark) を用いた人格評価モデルでは, スコアの無作為かつ大半がランダムな差が生じることがわかった。 LLMアシスタントメモリとパーソナライゼーションの最近の傾向により、これらの問題は異なる角度から開かれている。
  論文  参考訳（メタデータ） (2025-06-12T08:47:40Z)
• Interpreting Social Bias in LVLMs via Information Flow Analysis and Multi-Round Dialogue Evaluation [1.7997395646080083]
  大規模視覚言語モデル (LVLM) はマルチモーダルタスクにおいて顕著な進歩を遂げているが、社会的偏見も顕著である。 本稿では,情報フロー解析と多ラウンド対話評価を組み合わせた説明フレームワークを提案する。 実験により、LVLMは異なる人口集団の画像を処理する際に、情報利用の体系的な差異を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2025-05-27T12:28:44Z)
• Reading Between the Prompts: How Stereotypes Shape LLM's Implicit Personalization [13.034294029448338]
  LLM(Generative Large Language Models)は、会話における微妙な手がかりからユーザの人口統計情報を推測する。 この結果から,LLMのユーザアイデンティティの表現方法に対する透明性の向上とコントロールの必要性が浮き彫りになった。
  論文  参考訳（メタデータ） (2025-05-22T09:48:51Z)
• Subtle Biases Need Subtler Measures: Dual Metrics for Evaluating Representative and Affinity Bias in Large Language Models [10.73340009530019]
  本研究は,Large Language Models (LLMs) における2つのバイアス,代表バイアスと親和性バイアスに対処する。 我々は,これらのバイアスを測定するために,代表バイアススコア(RBS)と親和性バイアススコア(ABS)の2つの新しい指標を導入する。 我々の分析では、白人、ストレート、男性と関連する身元を選好する著名なLSMにおいて、顕著な偏見が明らかとなった。 親和性バイアスによる各モデルにおける特徴的評価パターンの解明
  論文  参考訳（メタデータ） (2024-05-23T13:35:34Z)
• On the steerability of large language models toward data-driven personas [98.9138902560793]
  大規模言語モデル(LLM)は、特定のグループや集団の意見が不足している偏りのある応答を生成することが知られている。 本稿では, LLM を用いて特定の視点の制御可能な生成を実現するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T19:01:13Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)
• Investigating Fairness Disparities in Peer Review: A Language Model Enhanced Approach [77.61131357420201]
  我々は、大規模言語モデル(LM)の助けを借りて、ピアレビューにおける公平性格差の徹底した厳密な研究を行う。 我々は、2017年から現在までのICLR(International Conference on Learning Representations)カンファレンスで、包括的なリレーショナルデータベースを収集、組み立て、維持しています。 我々は、著作者性別、地理、著作者、機関的名声など、興味のある複数の保護属性に対する公平性の違いを仮定し、研究する。
  論文  参考訳（メタデータ） (2022-11-07T16:19:42Z)
• Probing Task-Oriented Dialogue Representation from Language Models [106.02947285212132]
  本稿では,タスク指向対話タスクにおいて,どのモデルが本質的に最も有意義な表現を担っているかを明らかにするために,事前学習された言語モデルについて検討する。 我々は、アノテートラベルを教師付き方法で固定された事前学習言語モデルの上に、分類器プローブとしてフィードフォワード層を微調整する。
  論文  参考訳（メタデータ） (2020-10-26T21:34:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。