論文の概要: The Indian Financial Automated Advice Bias (IFAAB) Dataset : Auditing Socioeconomic and Demographic Disparities in LLM-Generated Financial Advice in India

• arxiv url: http://arxiv.org/abs/2610.38239v1
• Date: Wed, 28 Oct 2026 03:39:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:09.947633
• Title: The Indian Financial Automated Advice Bias (IFAAB) Dataset : Auditing Socioeconomic and Demographic Disparities in LLM-Generated Financial Advice in India
• Title（参考訳）: インド金融自動化アドバイザバイアス(IFAAB)データセット : インドにおけるLCMによる金融アドバイザの社会経済・経済格差の検証
• Abstract要約: Indian Financial Automated Advice Bias (IFAAB)ベンチマークを紹介する。 IFAABは、インド人の合成人格に対する31,734 GPT-4o生成の財務対応の対実的な監査データセットである。 我々は, LLM導入富, 所得, 貯蓄, 予測利得, テキスト類似性, アドバイストピック, 質的偏見判断における格差を評価する。
• 参考スコア（独自算出の注目度）: 0.7614628596146601
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are increasingly used for financial guidance, yet little is known about whether their advice changes across social identities in Global South contexts. We introduce the Indian Financial Automated Advice Bias (IFAAB) benchmark, a counterfactual audit dataset of 31,734 GPT-4o-generated financial-advice responses for synthetic Indian personas varying by gender, caste, education, employment, residence, age, and district. Holding the underlying request fixed, we evaluate disparities in LLM-implied wealth, income, savings, projected gains, textual similarity, advice topics, and qualitative bias judgments. In the gender-only audit, male-labelled profiles receive 60.1\% higher initial total resources and 46.8\% higher post-advice total resources than comparable female-labelled profiles; in the caste-augmented audit, the post-advice total-resource gap remains 49.4\%. Adding district information reduces the aggregate post-advice total-resource gender gap to 7.9\%, revealing strong geographic conditioning. Standalone caste comparisons also show systematic stratification: relative to General-category profiles, OBC, SC, and ST profiles receive significantly lower post-advice total resources, respectively. Textual audits show low semantic similarity between paired gendered responses, with an average TF--IDF cosine similarity score of 0.44. Qualitative analysis shows that women are more often steered toward cautious saving, community support, and basic financial literacy, while men receive more growth-oriented advice involving investment, entrepreneurship, and asset accumulation. IFAAB provides a reusable benchmark for evaluating fairness, suitability, and consumer-protection risks in LLM-mediated financial advice, and highlights the need for locally grounded, intersectional evaluation of AI systems in high-stakes economic domains.
• Abstract（参考訳）: 大規模言語モデルは金融指導にますます使われてきているが、そのアドバイスがグローバル・サウスの文脈における社会的アイデンティティにまたがって変化するかどうかについてはほとんど分かっていない。 Indian Financial Automated Advice Bias (IFAAB)ベンチマークは、性別、キャスティング、教育、雇用、居住、年齢、地域によって異なる合成インド人に対する31,734 GPT-4o生成金融アドバイザ・レスポンスの対実的監査データセットである。 本研究は, LLMが実施した富, 所得, 貯蓄, 予測利得, テキスト類似性, アドバイストピック, 質的バイアス判断における格差を評価する。 性別限定の監査では、男性ラベル付きプロフィールは、初期総リソースが60.1\%高く、女性ラベル付きプロフィールよりも46.8\%高い。 地域情報を追加することで、総リソースの男女格差は7.9 %に減少し、地理的条件が強くなる。 また, 一般カテゴリープロファイルと比較して, OBC, SCおよびSTプロファイルは, それぞれ有意に低い総資源が得られた。 テキスト監査では, 男女間の意味的類似度は低く, TF-IDFのコサイン類似度スコアは0.44。 質的な分析では、女性は慎重な貯蓄、コミュニティのサポート、基本的な金融リテラシーに傾向があり、男性は投資、起業家シップ、資産蓄積を含むより成長志向のアドバイスを受ける。 IFAABは、LLMによる金融アドバイスにおける公正性、適合性、消費者保護リスクを評価するための再利用可能なベンチマークを提供する。

関連論文リスト

• FairFund-Bench: Evaluating Distributive Bias in LLM Resource Allocation [0.0]
  FairFund-Benchは,従来の監査設計の主要な特徴を体系的に変化させるベンチマークである。 この不一致は監査形式の違いから生じる可能性を示し、FairFund-Benchを紹介する。 このベンチマークは、4つの基準(デコグラフィーバイアス、保存性アライメント、クロスタスク整合性、およびクロスコンテキスト整合性)でモデルを評価する。
  論文  参考訳（メタデータ） (2026-07-31T01:29:16Z)
• Evaluating LLMs in Finance Requires Explicit Bias Consideration [88.38155218924999]
  ファイナンス固有のバイアスは、パフォーマンスを低下させ、バックテストを汚染し、報告された結果をデプロイメントのクレームに役に立たないものにする。 一つのバイアスが28%以上の研究で議論されることはない。 本稿では,バイアス診断と将来のシステム設計のための最小限の要件を満たす構造的妥当性フレームワークと評価チェックリストを提案する。
  論文  参考訳（メタデータ） (2026-02-15T17:02:01Z)
• Structural Gender Bias in Credit Scoring: Proxy Leakage [0.0]
  本研究は台湾信用デフォルトデータセットにおける構造性バイアスの包括的監査を提供する。 明示的な保護属性の除去にもかかわらず, 性別予測信号が非感受性特徴に深く埋め込まれていることが本研究で実証された。
  論文  参考訳（メタデータ） (2026-01-26T10:29:45Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [91.86718720024825]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• With a Grain of SALT: Are LLMs Fair Across Social Dimensions? [3.5001789247699535]
  本稿では,ジェンダー,宗教,人種にまたがるオープンソースのLarge Language Models(LLM)におけるバイアスの系統的分析について述べる。 私たちはSALTデータセットを使用して,General Debate, positioned Debate, Career Advice, Problem Solving, CV Generationという,5つの異なるバイアストリガを組み込んでいます。 以上の結果から, モデル間で一貫した分極が明らかとなり, 組織的に好意的あるいは好ましくない治療を受ける集団が存在する。
  論文  参考訳（メタデータ） (2024-10-16T12:22:47Z)
• GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models [73.23743278545321]
  大規模言語モデル(LLM)は、自然言語生成において顕著な能力を示してきたが、社会的バイアスを増大させることも観察されている。 GenderCAREは、革新的な基準、バイアス評価、リダクションテクニック、評価メトリクスを含む包括的なフレームワークである。
  論文  参考訳（メタデータ） (2024-08-22T15:35:46Z)
• VLBiasBench: A Comprehensive Benchmark for Evaluating Bias in Large Vision-Language Model [72.13121434085116]
  我々は、LVLM(Large Vision-Language Models)におけるバイアスを評価するベンチマークであるVLBiasBenchを紹介する。 VLBiasBenchは、年齢、障害ステータス、性別、国籍、身体的外観、人種、宗教、職業、社会経済ステータスを含む9つの異なる社会バイアスのカテゴリを含むデータセットと、人種x性別と人種x社会経済ステータスの2つの交叉バイアスのカテゴリを含む。 15のオープンソースモデルと2つの高度なクローズドソースモデルに対して広範な評価を行い、これらのモデルに存在するバイアスに関する新たな洞察を得る。
  論文  参考訳（メタデータ） (2024-06-20T10:56:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。