論文の概要: Bias Ahead: Sensitive Prompts as Early Warnings for Fairness in Large Language Models

• arxiv url: http://arxiv.org/abs/2604.05575v1
• Date: Tue, 07 Apr 2026 08:16:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.712356
• Title: Bias Ahead: Sensitive Prompts as Early Warnings for Fairness in Large Language Models
• Title（参考訳）: Bias Ahead: 大規模言語モデルにおけるフェアネスの早期警告としての感作
• Authors: Gianmario Voria, Martina De Lucia, Alessandra Raia, Andrea De Lucia, Gemma Catolino, Fabio Palomba,
• Abstract要約: 公平性評価のための新しい抽象化としてセンシティブなプロンプトを提案する。 12,801のプロンプトからなるデータセットであるSensYを構築し、リリースする。 4500件の回答を解析し,その妥当性を評価した。
• 参考スコア（独自算出の注目度）: 44.425146021311434
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) are being increasingly integrated into software systems, offering powerful capabilities but also raising concerns about fairness. Existing fairness benchmarks, however, focus on stereotype-specific associations, which limit their ability to anticipate risks in diverse, real-world contexts. In this paper, we propose sensitive prompts as a new abstraction for fairness evaluation: inputs that are not inherently biased but are more likely to elicit biased or inadequate responses due to the sensitivity of their content. We construct and release SensY, a dataset of 12,801 prompts, categorized as sensitive and non-sensitive, spanning seven thematic domains, combining synthetic generation and real user inputs. Using this dataset, we query three open-source LLMs and manually analyze 4,500 responses to evaluate their adequacy in answering sensitive prompts. Results show that while models often provide factually correct answers, they frequently fail to acknowledge the ethical, relational, or contextual implications of sensitive inputs. In addition, we develop an automated classifier for predicting prompt sensitivity, achieving robust performance on sensitive prompts. Our findings demonstrate that prompt sensitivity can serve as an effective early-warning mechanism for fairness risks in LLMs. This perspective shifts fairness assessment from reactive mitigation toward preventive design, enabling developers to anticipate and manage bias before deployment.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、ソフトウェアシステムにますます統合され、強力な能力を提供すると同時に、公平性への懸念も高まっています。 しかし、既存の公正度ベンチマークでは、ステレオタイプ固有の関連性に注目しており、多様な現実世界のコンテキストにおけるリスクを予測できる能力を制限する。 本稿では,本論文において,本論文では,不公平性評価のための新たな抽象化としてセンシティブなプロンプトを提案する。 12,801のプロンプトからなるデータセットであるSensYを構築しリリースし、セマンティックドメインを7つに分類し、合成生成と実際のユーザ入力を組み合わせた。 このデータセットを用いて,3つのオープンソースのLCMを問合せ,4500の応答を手動で解析し,応答の精度を評価する。 結果は、モデルが事実的に正しい答えを与えることが多いが、センシティブな入力の倫理的、リレーショナル、文脈的含意を認めないことが多いことを示している。 さらに,敏感なインシデントに対して頑健な性能を達成し,迅速なインシデントを予測できる自動分類器を開発した。 以上の結果から,LPMの早期警戒機構は早期警戒機構として有効であることが示唆された。 この視点は、公正性評価を、リアクティブな緩和から予防設計へとシフトさせ、開発者はデプロイ前にバイアスを予測し、管理することができる。

関連論文リスト

• Improving Recommendation Fairness without Sensitive Attributes Using Multi-Persona LLMs [21.381646091763272]
  センシティブな属性にアクセスすることなく、リコメンデーションフェアネスを改善することを目指している。 LLMFOSA(Out Sensitive Attributes)を用いたフェアレコメンデーションのための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-26T03:52:41Z)
• Gensors: Authoring Personalized Visual Sensors with Multimodal Foundation Models and Reasoning [61.17099595835263]
  Gensorsは、ユーザがMLLMの推論能力によってサポートされているカスタマイズされたセンサーを定義することを可能にするシステムである。 ユーザスタディでは、Gensorsを用いてセンサーを定義するとき、参加者はコントロール、理解、コミュニケーションの容易さを著しく向上させた。
  論文  参考訳（メタデータ） (2025-01-27T01:47:57Z)
• ProSA: Assessing and Understanding the Prompt Sensitivity of LLMs [72.13489820420726]
  ProSAは、大規模な言語モデルにおいて、迅速な感度を評価し、理解するために設計されたフレームワークである。 我々の研究は、データセットやモデル間で迅速に感度が変動することを発見し、より大きなモデルでは堅牢性が向上することを示した。
  論文  参考訳（メタデータ） (2024-10-16T09:38:13Z)
• How are Prompts Different in Terms of Sensitivity? [50.67313477651395]
  本稿では,関数の感度に基づく包括的即時解析を提案する。 出力に対する入力トークンの関連性に異なるプロンプトがどう影響するかを実証的に示すために、勾配に基づく唾液度スコアを使用する。 本稿では, 感度推定をペナルティ項として組み込んだ感度認識復号法を標準グリーディ復号法で導入する。
  論文  参考訳（メタデータ） (2023-11-13T10:52:01Z)
• Balancing Robustness and Sensitivity using Feature Contrastive Learning [95.86909855412601]
  堅牢性を促進する方法は、希少なパターンや表現不足パターンに対するモデルの感受性を損なう可能性がある。 本稿では,より高次文脈的有用性を持つ機能に対して,モデルにより敏感な特徴を与える機能コントラスト学習(FCL)を提案する。
  論文  参考訳（メタデータ） (2021-05-19T20:53:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。