論文の概要: Same Question, Different Answer? Measuring and Mitigating Prompt Privilege for Equitable AI Access

• arxiv url: http://arxiv.org/abs/2608.08942v1
• Date: Sun, 09 Aug 2026 22:38:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:37.000475
• Title: Same Question, Different Answer? Measuring and Mitigating Prompt Privilege for Equitable AI Access
• Title（参考訳）: 質問と回答の相違 : 適切なAIアクセスのためのプロンプト・プリヴィレジの測定と緩和
• Abstract要約: 大規模言語モデル(LLM)は、医療、教育、公共サービス、日々の意思決定にますます統合されている。 迅速な堅牢性に関する既存の研究は、主に敵の攻撃、迅速な注入、迅速な最適化に焦点を当てている。 LLMインタラクションにおけるアクセシビリティの格差を計測・緩和するための統一的なフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.6263481844384227
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are increasingly integrated into healthcare, education, public services, and everyday decision making. They should provide comparable assistance regardless of a user's literacy, communication style, or prompt-engineering expertise. However, existing research on prompt robustness primarily focuses on adversarial attacks, prompt injection, and prompt optimization, while overlooking whether semantically equivalent requests receive different responses simply because they are phrased differently. We refer to this accessibility challenge as "Prompt Privilege": users with greater prompting expertise systematically obtain better model performance despite expressing the same underlying intent. To address this problem, we present a unified framework for measuring and mitigating accessibility disparities in LLM interactions. We introduce Prompt Equity Score (PES), a quantitative metric for evaluating performance consistency across user populations, and Prompt Equity Transformer (PET), an LLM-based agent that automatically transforms user requests into semantically equivalent, accessibility-oriented prompts while preserving their intent. PET shifts prompt optimization from the user to the AI system, functioning as an intelligent accessibility layer between users and foundation models. Experiments on the MedQA benchmark demonstrate measurable prompt privilege, with statistically significant performance disparities between low-literacy and expert-prompting cohorts. Applying PET eliminates these disparities while preserving semantic fidelity, demonstrating that accessibility-oriented prompt normalization can improve equitable AI access. By introducing prompt privilege as a new dimension of AI accessibility and PET as a practical solution, this work advances system-centered accessibility and provides a foundation for more fair, trustworthy, and inclusive AI systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、医療、教育、公共サービス、日々の意思決定にますます統合されている。 それらは、ユーザのリテラシー、コミュニケーションスタイル、即時エンジニアリングの専門知識に関係なく、同等の補助を提供するべきである。 しかし, 突発的ロバスト性に関する既存の研究は, 主に敵攻撃, 即発的インジェクション, 即発的最適化に焦点が当てられている。 我々は、このアクセシビリティの課題を、"Prompt Privilege"と呼んでいる。 この問題に対処するために,LLMインタラクションにおけるアクセシビリティの格差を計測・緩和するための統一的なフレームワークを提案する。 本稿では,ユーザ集団間のパフォーマンス整合性を評価する定量的指標であるPrompt Equity Score(PES)と,ユーザ要求を意味論的に等価なアクセシビリティ指向のプロンプトに自動変換するLLMベースのエージェントであるPrompt Equity Transformer(PET)を紹介する。 PETは、ユーザからAIシステムへの迅速な最適化をシフトし、ユーザとファンデーションモデルの間のインテリジェントなアクセシビリティレイヤとして機能する。 MedQAベンチマークの実験では、低リテラシーとエキスパート・プロンプティング・コホートの間に統計的に有意な性能差がある、測定可能なプロンプト特権が示されている。 PETを適用することで、セマンティックな忠実さを維持しながらこれらの格差を解消し、アクセシビリティ指向のプロンプト正規化が同等のAIアクセスを改善することを示す。 AIアクセシビリティの新たな次元としてプロンプト特権を導入し、実践的なソリューションとしてPETを導入することで、システム中心のアクセシビリティを向上し、より公平で信頼性があり、包括的なAIシステムの基礎を提供する。

関連論文リスト

• CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
  CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。 本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。 実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
  論文  参考訳（メタデータ） (2026-08-12T04:27:45Z)
• When the Target Domain Changes: AI-Mediated Construct Drift in High-Stakes English Language AssessmenW [1.2333280983346018]
  高評価の英語習熟度試験は、標準化され、無視されたパフォーマンスを、学術的な英語習熟度に関する得点解釈の証拠として扱う。 この概念的妥当性の議論は、ハイテイク言語テストにおけるスコア解釈問題としてAIを再設計する。 論文は、AIを利用した学術コミュニケーションの主張を支援するために、スコアの解釈を狭め、補足すべきであると主張している。
  論文  参考訳（メタデータ） (2026-07-13T08:07:30Z)
• The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration [0.904861150954008]
  大規模言語モデル(LLM)は、コラボレーションのためのインタラクティブなツールとして、教育環境においてますます使われている。 誤りがあってもユーザの信念と整合し、学習と意思決定に対する懸念を喚起する。 本研究では, サイコファンティックアライメントが, マルチターンヒトとAIの相互作用においてどのように現れるかを検討する。
  論文  参考訳（メタデータ） (2026-05-18T13:20:45Z)
• Benchmarking Contextual Understanding for In-Car Conversational Systems [0.9437812993238097]
  In-car Conversational Question Answering (ConvQA) システムは,シームレスな音声対話を実現することでユーザエクスペリエンスを著しく向上させる。 本稿では,Large Language Models (LLMs) と高度なプロンプト技術およびエージェントベース手法を用いて,ConvQAシステム応答がユーザの発話に適合する程度を評価する。
  論文  参考訳（メタデータ） (2025-12-12T21:15:49Z)
• SelfAI: Building a Self-Training AI System with LLM Agents [79.10991818561907]
  SelfAIは、高レベルの研究目的を標準化された実験構成に変換するためのUser Agentを組み合わせた、一般的なマルチエージェントプラットフォームである。 実験マネージャは、連続的なフィードバックのための構造化知識ベースを維持しながら、異種ハードウェアをまたいだ並列かつフォールトトレラントなトレーニングを編成する。 回帰、コンピュータビジョン、科学計算、医用画像、薬物発見ベンチマークなどを通じて、SelfAIは一貫して高いパフォーマンスを達成し、冗長な試行を減らしている。
  論文  参考訳（メタデータ） (2025-11-29T09:18:39Z)
• The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
  AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。 我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
  論文  参考訳（メタデータ） (2025-06-09T18:37:14Z)
• Federated In-Context Learning: Iterative Refinement for Improved Answer Quality [62.72381208029899]
  In-context Learning (ICL) では、入力に提供される例を活用することで、パラメータを変更することなく、言語モデルで応答を生成することができる。 我々は,反復的協調プロセスを通じてICLを強化する汎用フレームワークであるFederated In-Context Learning (Fed-ICL)を提案する。 Fed-ICLは、クライアントと中央サーバ間のマルチラウンドインタラクションを活用することで、応答を徐々に洗練し、モデルパラメータを送信することなく、応答品質を向上させる。
  論文  参考訳（メタデータ） (2025-06-09T05:33:28Z)
• Contextual Candor: Enhancing LLM Trustworthiness Through Hierarchical Unanswerability Detection [0.0]
  本稿では,大規模言語モデル(LLM)のための新しいハイブリッド学習パラダイムであるReinforced Unanswerability Learning (RUL)を紹介する。 RULは、多段階学習戦略によって導かれるLLMの生成コアに、識別不能な予測ヘッドを統合する。 実験は、RULの優れた性能を示し、文、段落、ランキングレベルにわたる解答不能検出において、はるかに高い精度を達成する。
  論文  参考訳（メタデータ） (2025-06-01T17:59:27Z)
• Augmenting Compliance-Guaranteed Customer Service Chatbots: Context-Aware Knowledge Expansion with Large Language Models [12.934175064411845]
  検索ベースのチャットボットは、人間の検証されたQ&A知識を利用して、正確で検証可能な応答を提供する。 多様な顧客からの問い合わせを効果的に処理するために、セマンティックな意味を保持する「類似の質問」で知識ベースを増強することはコスト効率のよい戦略である。 本研究は,文脈認識型アプローチにより,包括的意味探索とソース・問合せ・問合せ関係の整合性を高めることを提案する。
  論文  参考訳（メタデータ） (2024-10-16T10:48:14Z)
• The Impossibility of Fair LLMs [17.812295963158714]
  さまざまな技術的公正フレームワークを分析し、公正な言語モデルの開発を難易度の高いものにするために、それぞれに固有の課題を見つけます。 それぞれのフレームワークが汎用的なAIコンテキストに拡張されないか、実際には実現不可能であることを示す。 これらの固有の課題は、LLMを含む汎用AIにおいて、限られた参加入力や限られた測定方法といった経験的な課題が克服されたとしても、持続する。
  論文  参考訳（メタデータ） (2024-05-28T04:36:15Z)
• Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision [84.31474052176343]
  ChatGPTのような最近のAIアシスタントエージェントは、人間のアノテーションと人間のフィードバックからの強化学習を教師付き微調整(SFT)に頼り、アウトプットを人間の意図に合わせる。 この依存は、人間の監督を得るために高いコストがかかるため、AIアシスタントエージェントの真の可能性を大幅に制限することができる。 本稿では,AIエージェントの自己調整と人間監督の最小化のために,原則駆動推論とLLMの生成能力を組み合わせたSELF-ALIGNという新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-05-04T17:59:28Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。