論文の概要: The Geopolitics of AI Safety: A Causal Analysis of Regional LLM Bias
- arxiv url: http://arxiv.org/abs/2605.05427v1
- Date: Wed, 06 May 2026 20:35:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.409815
- Title: The Geopolitics of AI Safety: A Causal Analysis of Regional LLM Bias
- Title（参考訳）: AI安全の地政学:地域LLMバイアスの因果解析
- Abstract要約: 本研究では,大規模言語モデルの評価を慎重に行うための確率的グラフィカルモデル(PGM)フレームワークを提案する。
我々は、様々な起源にまたがる7つの命令チューニングモデルに対して、大規模な経験分析を行う。
これらのバイアスがもたらす意味について議論し、下流のアプリケーションにおいて、人口統計に敏感な過剰トリガーが良質な言論をいかに制限するかを強調した。
- 参考スコア（独自算出の注目度）: 0.20305676256390937
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As Large Language Models (LLMs) are integrated into global software systems, ensuring equitable safety guardrails is a critical requirement. Current fairness evaluations predominantly measure bias observationally, a methodology confounded by the inherent toxicity of topics naturally paired with specific demographics in testing datasets. This study introduces a Probabilistic Graphical Model (PGM) framework to audit LLM safety mechanisms causally. By applying Pearl's do-operator, we mathematically isolate the causal effect of injecting a cultural demographic into a prompt. We conduct a large-scale empirical analysis across seven instruction-tuned models spanning diverse origins: the United States (Llama-3.1-8B, Gemma-2-9B), Europe (Mistral-7B-v0.3), the UAE (Falcon3-7B), China (Qwen2.5-7B, DeepSeek-7B), and India (Airavata-7B). Utilizing two distinct datasets (ToxiGen and BOLD), the findings reveal a disparity between observational and interventional bias, demonstrating that standard fairness metrics can overestimate demographic bias by failing to account for context toxicity. Furthermore, the causal probabilities indicate distinct alignment trends: Western models exhibit higher causal refusal rates for specific demographic groups, whereas Eastern models demonstrate low overall intervention rates with targeted sensitivities toward regional demographics. We discuss the implications of these biases, highlighting how demographic-sensitive over-triggering restricts benign discourse in downstream applications.
- Abstract（参考訳）: 大規模言語モデル(LLM)はグローバルソフトウェアシステムに統合されるため、適切な安全ガードレールを確保することが必須である。
現在の公正度評価は、主にバイアスを観察的に測定するが、これは、データセットのテストにおいて、自然に特定の人口層と組み合わせられたトピックの固有の毒性によって構築された方法論である。
本研究では,LLMの安全性を慎重に評価するための確率的グラフィカルモデル(PGM)フレームワークを提案する。
パールズ・ド・オペレーターを応用することにより、カルチャー的人口動態をプロンプトに注入する因果効果を数学的に分離する。
米国(Llama-3.1-8B、Gemma-2-9B)、ヨーロッパ(Mistral-7B-v0.3)、アラブ首長国連邦(Falcon3-7B)、中国(Qwen2.5-7B、DeepSeek-7B)、インド(Airavata-7B)。
2つの異なるデータセット(ToxiGenとBOLD)を用いることで、観察的バイアスと介入的バイアスの相違が明らかとなり、標準的な公正度指標は、文脈毒性を考慮せず、人口統計学的バイアスを過大評価できることを示した。
さらに、因果確率は、異なるアライメント傾向を示す: 西部モデルは特定の人口集団に対してより高い因果拒絶率を示すのに対し、東部モデルは、地域人口層に対して標的とする感度で全体の介入率を低く示す。
これらのバイアスがもたらす意味について議論し、下流のアプリケーションにおいて、人口統計に敏感な過剰トリガーが良質な言論をいかに制限するかを強調した。
関連論文リスト
- Auditing demographic bias in AI-based emergency police dispatch: a cross-lingual evaluation of eleven large language models [3.85700834433791]
本稿では,警察プライオリティ・ディスパッチ・システムを運用するための言語間監査フレームワークを提案する。
事故の重大さがあいまいな場合に、人口統計バイアスが体系的に現れることがわかりました。
ジェンダーバイアスは中国語では顕著に増幅されるが、人種バイアスは英語ではより顕著である。
論文 参考訳（メタデータ） (2026-05-02T14:00:57Z) - Sociodemographic Biases in Educational Counselling by Large Language Models [61.30199414932204]
本研究では,Large Language Models(LLMs)における社会デマトグラフィーバイアスについて検討する。
多様な状況下で生徒を記述した900のヴィグネットに関する質問に答える6つのLDMからの回答を評価した。
論文 参考訳（メタデータ） (2026-04-03T14:08:22Z) - Evaluating LLMs for Demographic-Targeted Social Bias Detection: A Comprehensive Benchmark Study [1.6682715542079583]
汎用AIモデルのトレーニングに使用される大規模なウェブスクレイプテキストコーパスは、しばしば有害な人口統計学的対象の社会的バイアスを含んでいる。
本稿では、人口統計学的対象の社会的偏見を検出するためのLCMの能力を評価するための、英語テキストを対象とした総合的な評価フレームワークを提案する。
次に,学習の促進,文脈内学習,微調整など,スケールとテクニックをまたいだモデルを用いて,体系的な評価を行う。
論文 参考訳（メタデータ） (2025-10-06T09:45:32Z) - DemoBias: An Empirical Study to Trace Demographic Biases in Vision Foundation Models [5.024921806058944]
大規模視覚言語モデル(LVLM)は、生体認証(FR)や記述を含む様々な下流タスクにおいて顕著な機能を示した。
テキストトークン生成タスクを用いた生体計測 FR における LVLM における人口統計学的バイアスの程度を実験的に検討する。
論文 参考訳（メタデータ） (2025-08-25T18:02:49Z) - Who's Asking? Investigating Bias Through the Lens of Disability Framed Queries in LLMs [2.722784054643991]
大規模言語モデル(LLM)は、ユーザの人口統計特性を、単独で推測する。
これらの推論を形作る際の障害の手がかりは、ほとんど未発見のままである。
そこで本研究では,障害条件による人口統計バイアスを,最先端の8つのLLMに対して,初めて体系的に評価した。
論文 参考訳（メタデータ） (2025-08-18T21:03:09Z) - Fair Deepfake Detectors Can Generalize [51.21167546843708]
共同設立者(データ分散とモデルキャパシティ)の制御により,公正な介入による一般化が向上することを示す。
この知見を応用して, 逆正当性重み付けとサブグループワイド特徴正規化を併用し, 新たなアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・インセンティブ・インターベンション・インベンション・インテクション(DAID)を提案する。
DAIDは、いくつかの最先端技術と比較して、公平性と一般化の両方において一貫して優れた性能を達成する
論文 参考訳（メタデータ） (2025-07-03T14:10:02Z) - A Feature-level Bias Evaluation Framework for Facial Expression Recognition Models [0.0]
我々は,偏り評価結果の統計的意義を保証するために,プラグアンドプレイ統計モジュールを導入する。
次に、包括的なバイアス分析を、3つのセンシティブな属性(年齢、性別、人種)、7つの表情、大規模データセット上の複数のネットワークアーキテクチャで実施する。
論文 参考訳（メタデータ） (2025-05-26T20:26:07Z) - Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。
FASTは最先端のベースラインを超え、デバイアス性能が優れている。
これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
論文 参考訳（メタデータ） (2024-08-07T17:14:58Z) - Evaluating Implicit Bias in Large Language Models by Attacking From a Psychometric Perspective [66.34066553400108]
我々は、ある人口層に対する大きな言語モデルの暗黙の偏見を厳格に評価する。
心理測定の原則にインスパイアされた我々は,3つの攻撃的アプローチ,すなわち,軽視,軽視,指導を提案する。
提案手法は,LLMの内部バイアスを競合ベースラインよりも効果的に引き出すことができる。
論文 参考訳（メタデータ） (2024-06-20T06:42:08Z) - Delving into Identify-Emphasize Paradigm for Combating Unknown Bias [52.76758938921129]
同定精度を高めるため,有効バイアス強調スコアリング法(ECS)を提案する。
また, マイニングされたバイアスアライメントとバイアスコンプリケート試料のコントリビューションのバランスをとるために, 勾配アライメント(GA)を提案する。
様々な環境で複数のデータセットで実験を行い、提案されたソリューションが未知のバイアスの影響を軽減することを実証した。
論文 参考訳（メタデータ） (2023-02-22T14:50:24Z) - Towards Controllable Biases in Language Generation [87.89632038677912]
本研究では、特定の人口集団の言及を含む入力プロンプトによって生成されたテキストの社会的バイアスを誘導する手法を開発した。
1 つの人口統計学において負のバイアスを誘発し、もう1 つの人口統計学において正のバイアスを誘導し、2 つのシナリオを分析する。
論文 参考訳（メタデータ） (2020-05-01T08:25:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。