論文の概要: Controlling Gender Bias in Retrieval via a Backpack Architecture

• arxiv url: http://arxiv.org/abs/2511.00875v1
• Date: Sun, 02 Nov 2025 09:58:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-05 16:37:26.975938
• Title: Controlling Gender Bias in Retrieval via a Backpack Architecture
• Title（参考訳）: バックパックアーキテクチャによる検索におけるジェンダーバイアスの制御
• Authors: Amirabbas Afzali, Amirreza Velae, Iman Ahmadi, Mohammad Aliannejadi,
• Abstract要約: 大規模言語モデル(LLM)における社会的バイアスは有害なステレオタイプや歪んだ意思決定プロセスに永続することができる。 本稿では,Backpack Language Models を用いたランキングタスクの曖昧化のためのフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 13.002915821407898
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The presence of social biases in large language models (LLMs) has become a significant concern in AI research. These biases, often embedded in training data, can perpetuate harmful stereotypes and distort decision-making processes. When LLMs are integrated into ranking systems, they can propagate these biases, leading to unfair outcomes in critical applications such as search engines and recommendation systems. Backpack Language Models, unlike traditional transformer-based models that treat text sequences as monolithic structures, generate outputs as weighted combinations of non-contextual, learned word aspects, also known as senses. Leveraging this architecture, we propose a framework for debiasing ranking tasks. Our experimental results show that this framework effectively mitigates gender bias in text retrieval and ranking with minimal degradation in performance.
• Abstract（参考訳）: 大規模言語モデル(LLM)における社会的バイアスの存在は、AI研究において重要な関心事となっている。 これらのバイアスは、しばしばトレーニングデータに埋め込まれ、有害なステレオタイプや歪んだ意思決定プロセスに永続する。 LLMがランキングシステムに統合されると、これらのバイアスが伝播し、検索エンジンやレコメンデーションシステムのような重要なアプリケーションにおいて不公平な結果をもたらす。 バックパック言語モデル(Backpack Language Models)は、テキストシーケンスをモノリシックな構造として扱う従来のトランスフォーマーベースのモデルとは異なり、出力を非コンテキストで学習された単語側面の重み付けの組み合わせとして生成する。 このアーキテクチャを活用して、ランク付けタスクを疎外するフレームワークを提案する。 実験の結果,本フレームワークは,テキスト検索やランキングにおいて,パフォーマンスの低下を最小限に抑えながら,男女差を効果的に軽減することが示された。

関連論文リスト

• How Do LLM-Generated Texts Impact Term-Based Retrieval Models? [76.92519309816008]
  本稿では,大規模言語モデル(LLM)が項ベース検索モデルに与える影響について検討する。 言語学的解析により,LLM生成テキストはよりスムーズで低周波なZipf勾配を示すことが明らかとなった。 本研究は,項分布がクエリと密接に一致した文書を優先して,項ベース検索モデルがソースバイアスを示すかどうかを考察する。
  論文  参考訳（メタデータ） (2025-08-25T06:43:27Z)
• Addressing Bias in LLMs: Strategies and Application to Fair AI-based Recruitment [49.81946749379338]
  この研究は、トランスフォーマーベースのシステムの能力を分析して、データに存在する人口統計バイアスを学習する。 最終ツールにおける偏りを緩和する手段として,学習パイプラインからの性別情報を削減するためのプライバシー向上フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T15:29:43Z)
• Small Changes, Large Consequences: Analyzing the Allocational Fairness of LLMs in Hiring Contexts [19.20592062296075]
  大規模言語モデル(LLM)は、採用のような高度なアプリケーションにますますデプロイされている。 本研究は、実際の人事利用を反映した2つのタスクを通して、LLMベースの採用システムの割当公平性を検討する。
  論文  参考訳（メタデータ） (2025-01-08T07:28:10Z)
• Responsible AI in NLP: GUS-Net Span-Level Bias Detection Dataset and Benchmark for Generalizations, Unfairness, and Stereotypes [6.30817290125825]
  本稿では、GUSデータセットとマルチラベルトークンレベル検出器を組み合わせたGUS-Net Frameworkを紹介し、社会バイアスのスパンレベル分析を行う。 GUSデータセットには、複数のドメインにまたがる3,739のユニークなスニペットが含まれ、69,000以上のトークンレベルのアノテーションが含まれている。 マルチラベルトークンレベルの分類としてバイアス検出を定式化し,エンコーダベースモデルとデコーダベース大規模言語モデルの両方をベンチマークする。
  論文  参考訳（メタデータ） (2024-10-10T21:51:22Z)
• GECOBench: A Gender-Controlled Text Dataset and Benchmark for Quantifying Biases in Explanations [1.0000511213628438]
  性別制御されたテキストデータセットであるGECOを作成し、それ以外は男性と女性に同じ文が現れる。 これにより、ジェンダー分類タスクの「世界説明」が根本から生まれる。 また,一般的なXAI手法をベンチマークする厳密な定量的評価フレームワークであるGECOBenchも提供する。
  論文  参考訳（メタデータ） (2024-06-17T13:44:37Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)
• Debiasing Vision-Language Models via Biased Prompts [79.04467131711775]
  本稿では,テキスト埋め込みにおけるバイアスのある方向を投影することで,視覚言語基盤モデルを疎外する一般的な手法を提案する。 偏平投影行列を組み込んだテキストのみをデバイアスすることで、ロバストな分類器と公正な生成モデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-01-31T20:09:33Z)
• How sensitive are translation systems to extra contexts? Mitigating gender bias in Neural Machine Translation models through relevant contexts [11.684346035745975]
  ますます多くの研究が、ニューラルマシン翻訳モデルがトレーニング中に導入する固有の性バイアスを強調している。 そこで本研究では,これらのモデルに対して,対象とした指示をコンテキストとして,推論中にバイアスを修正するように指示できるかどうかを検討する。 3つの一般的なテストスイート間で、翻訳における性別バイアスの低減に関する大幅な改善を観察する。
  論文  参考訳（メタデータ） (2022-05-22T06:31:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。