論文の概要: When Personalization Becomes Bias: Structural and Discursive Religious Framing in AI-Generated Financial Advice

• arxiv url: http://arxiv.org/abs/2608.16909v1
• Date: Sat, 11 Jul 2026 15:26:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.252065
• Title: When Personalization Becomes Bias: Structural and Discursive Religious Framing in AI-Generated Financial Advice
• Title（参考訳）: パーソナライゼーションがバイアスになる時:AI生成金融アドバイザにおける構造的・偏見的宗教的フレーム
• Abstract要約: 大規模言語モデル(LLM)は金融アドバイザリシステムにますます統合されているが、宗教的偏見を再現する役割は過小評価されている。 本研究は、キリスト教、ムスリム、ヒンドゥー教、非宗教の16の宗教的アイデンティティ・ペアリングと3つの中核的な家庭財政決定にまたがる432のシミュレートされたアドバイザ・クライアント・インタラクションを用いた。 モデルと意思決定コンテキストにまたがる構造バイアスと,それらが言語的に成立する分散メカニズムを同定する。
• 参考スコア（独自算出の注目度）: 1.2613956492162683
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are increasingly integrated into financial advisory systems, yet their role in reproducing religious bias remains underexamined. This study provides systematic mixed-methods evidence of such bias across three LLMs (ChatGPT, Gemini, and Grok) using 432 simulated advisor-client interactions spanning 16 religious identity pairings (Christian, Muslim, Hindu, and non-religious) and three core household financial decisions: stock investment, house purchase, and life insurance. Combining regression and reflexive thematic analyses, we identify structural biases across models and decision contexts and the discursive mechanisms through which they are linguistically enacted. Unbiased advice appeared in only 12-18% of cases. Gemini consistently produced more bias than Grok, while ChatGPT's outputs were statistically comparable to Grok's. Religiously symmetric advisor-client pairings almost always triggered explicit religious framing, and non-religious clients often received advisor-centered religious appeals. Qualitative findings show that bias is linguistically manifested through religious anchoring, uneven cultural signaling, and tone modulation, varying by model and financial scenario. Stock investment prompts produced more financially technical responses, whereas life insurance advice triggered stronger religious language. The study develops a dual-dimensional framework linking structural bias rooted in model training and design with discursive bias expressed through language, advancing understanding of algorithmic bias in LLM-generated financial advice. It also shows that such advice adapts linguistically to identity cues, revealing a managerial dilemma between personalization and neutrality. Finally, it highlights implications for businesses, financial institutions, and regulators seeking to ensure neutrality, cultural sensitivity, and trust in AI-mediated advice.
• Abstract（参考訳）: 大規模言語モデル(LLM)は金融アドバイザリシステムにますます統合されているが、宗教的偏見を再現する役割は過小評価されている。 この研究は、キリスト教、ムスリム、ヒンドゥー教、非宗教の16の宗教的アイデンティティペアリングと、株式投資、住宅購入、生命保険の3つの中核的な金融決定にまたがる432のシミュレートされたアドバイザ・クリアン相互作用を用いて、3つのLCM(ChatGPT、Gemini、Grok)にまたがるそのようなバイアスの系統的な混合メソッドの証拠を提供する。 回帰と回帰的セマンティック分析を組み合わせることで、モデルと意思決定コンテキストにおける構造的バイアスと、それらが言語的に実行されている解帰的メカニズムを識別する。 12-18%の症例で無バイアスのアドバイスがみられた。 GeminiはGrokよりもバイアスが強く、ChatGPTの出力はGrokと統計的に比較できる。 宗教的に対称なアドバイザリアン・ペアリングは、ほとんど常に明示的な宗教的フレーミングを引き起こし、非宗教的なクライアントはしばしばアドバイザ中心の宗教的アピールを受けた。 質的な発見は、偏見は、宗教的アンカー、不均一な文化的シグナル、トーン変調を通じて言語的に表され、モデルや財政シナリオによって異なることを示している。 株式投資はより経済的に技術的に反応し、生命保険の助言はより強い宗教言語を引き起こした。 この研究は、モデルトレーニングに根ざした構造バイアスと言語を通して表現される分散バイアスとをリンクさせ、LLM生成財務アドバイスにおけるアルゴリズムバイアスの理解を深める2次元フレームワークを開発した。 また、このようなアドバイスはアイデンティティの手がかりに言語的に適応し、パーソナライゼーションと中立性の間の管理上のジレンマを明らかにすることも示している。 最後に、中立性、文化的感受性、AIによるアドバイスに対する信頼の確保を目指す企業、金融機関、規制当局への影響を強調している。

関連論文リスト

• Trustworthy Recommendation in the Era of Large Language Models: Opportunities and Challenges [60.18620798072947]
  大規模言語モデル(LLM)は、リコメンデータシステムに広く統合されている。 LLMは、信頼を高める前例のない機会を提供する。 しかし、彼らは同時に、新しい形の偏見や幻覚によって引き起こされる問題など、新しいリスクを導入します。
  論文  参考訳（メタデータ） (2026-05-30T05:14:53Z)
• SocioEval: A Template-Based Framework for Evaluating Socioeconomic Status Bias in Foundation Models [0.19703625025720697]
  意思決定タスクを通じて基礎モデルの社会経済的バイアスを評価するためのテンプレートベースのフレームワークであるSocioEvalを紹介する。 以上の結果から, ライフスタイル判断のテーマによって, 教育関連判断よりも10ドル以上高いバイアスが生じることが明らかとなった。 SocioEvalは、言語モデルにおけるクラスベースのバイアスを監査するためのスケーラブルな基盤を提供する。
  論文  参考訳（メタデータ） (2026-04-03T02:47:37Z)
• Same Claim, Different Judgment: Benchmarking Scenario-Induced Bias in Multilingual Financial Misinformation Detection [64.75447949495307]
  大規模言語モデル (LLM) は金融分野に広く適用されている。 行動バイアスは、意思決定における不安定性と不確実性をもたらす可能性がある。 mfmdscenは様々な経済シナリオで mfmdの行動バイアスを評価するベンチマークです
  論文  参考訳（メタデータ） (2026-01-08T22:00:32Z)
• Your AI, Not Your View: The Bias of LLMs in Investment Analysis [62.388554963415906]
  金融において、Large Language Models (LLMs) は、事前訓練されたパラメトリック知識とリアルタイム市場データとの相違から生じる、頻繁な知識紛争に直面している。 これらの対立は、モデル固有のバイアスが制度的目的と誤認される現実世界の投資サービスにおいて特に問題となる。 本研究では,このような紛争シナリオにおける創発的行動を調べるための実験的枠組みを提案し,投資分析におけるバイアスの定量的分析を行う。
  論文  参考訳（メタデータ） (2025-07-28T16:09:38Z)
• Argument Quality Annotation and Gender Bias Detection in Financial Communication through Large Language Models [0.0]
  我々は3つの最先端のLCMの財務的議論に言及する能力を評価する。 分析モデルに性別バイアスを注入する逆攻撃を導入する。 以上の結果から,LDMをベースとしたアノテーションは,人間よりもアノテータ間のアノテータ間の合意度が高いことが判明した。
  論文  参考訳（メタデータ） (2025-07-22T17:54:45Z)
• Reasoning or Overthinking: Evaluating Large Language Models on Financial Sentiment Analysis [1.3812010983144802]
  我々は,様々な大規模言語モデル (LLM) が経済的文脈における人間ラベルの感情とどのように一致しているかを評価する。 本研究は, モデル設計のプロンプトや本質的設計による推論が, この課題における性能を向上させるものではないことを示唆している。 驚くべきことに、モデルと手法の最も正確かつ人間に整合した組み合わせは、CoT(Chain-of-Thought)を推進しないGPT-4oであった。
  論文  参考訳（メタデータ） (2025-06-05T02:47:23Z)
• Sacred or Secular? Religious Bias in AI-Generated Financial Advice [0.0]
  本研究では、ChatGPTの金融クエリに対する応答に着目し、AI生成の金融アドバイスにおける宗教的バイアスについて検討する。 また,ChatGPTが生み出す金融メールの50%は宗教的偏見を示し,内集団と外集団の相互作用に明らかな偏見が存在することがわかった。
  論文  参考訳（メタデータ） (2025-03-26T00:27:04Z)
• Consistency Analysis of ChatGPT [65.268245109828]
  本稿では,ChatGPTとGPT-4の論理的一貫した行動に対する信頼性について検討する。 その結果,両モデルとも言語理解能力と推論能力が向上しているように見えるが,論理的に一貫した予測が得られないことが示唆された。
  論文  参考訳（メタデータ） (2023-03-11T01:19:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。