論文の概要: Seeing the Goal, Missing the Truth: Human Accountability for AI Bias

• arxiv url: http://arxiv.org/abs/2602.09504v1
• Date: Tue, 10 Feb 2026 08:01:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-11 20:17:43.43736
• Title: Seeing the Goal, Missing the Truth: Human Accountability for AI Bias
• Title（参考訳）: AIバイアスの人的説明責任
• Authors: Sean Cao, Wei Jiang, Hui Xu,
• Abstract要約: 本研究では,人間定義目標が大規模言語モデル(LLM)の行動に与える影響について検討する。 財務予測タスクを用いて、下流での活用を明らかにすることで、LCMは偏りのある感情や競争の指標を生成することが示される。
• 参考スコア（独自算出の注目度）: 5.201630672743288
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This research explores how human-defined goals influence the behavior of Large Language Models (LLMs) through purpose-conditioned cognition. Using financial prediction tasks, we show that revealing the downstream use (e.g., predicting stock returns or earnings) of LLM outputs leads the LLM to generate biased sentiment and competition measures, even though these measures are intended to be downstream task-independent. Goal-aware prompting shifts intermediate measures toward the disclosed downstream objective. This purpose leakage improves performance before the LLM's knowledge cutoff, but with no advantage post-cutoff. AI bias due to "seeing the goal" is not an algorithmic flaw, but stems from human accountability in research design to ensure the statistical validity and reliability of AI-generated measurements.
• Abstract（参考訳）: 本研究では,目的条件付き認知を通じて,人間定義目標が大規模言語モデル(LLM)の行動にどのように影響するかを検討する。 財務予測タスクを用いて、LLMのアウトプットの下流利用(例えば、株価のリターンや利益の予測)を明らかにすることで、これらの指標が下流非依存であることを意図したとしても、LLMは偏りのある感情や競争対策を生み出すことが示されている。 ゴール認識は、開示された下流目標に向けて中間措置をシフトさせる。 この目的の漏洩はLLMの知識の遮断前に性能を向上するが、削減後の利点はない。 によるAIバイアスは、アルゴリズム上の欠陥ではなく、AI生成測定の統計的妥当性と信頼性を保証するために、研究設計における人間の説明責任に由来する。

関連論文リスト

• LLM Performance Predictors: Learning When to Escalate in Hybrid Human-AI Moderation Systems [5.7001352660257005]
  本稿では,コンテンツモデレーションシステムにおける不確実性定量化の監視のためのフレームワークを提案する。 提案手法は,実世界のヒューマンAIにおいて,コストアウェアの選択的分類を可能にする。 この研究は、不確実性を認識し、スケーラブルで責任あるヒューマンAIモデレーションのための原則化されたフレームワークを確立する。
  論文  参考訳（メタデータ） (2026-01-11T17:46:49Z)
• Beyond Prompt-Induced Lies: Investigating LLM Deception on Benign Prompts [79.1081247754018]
  大規模言語モデル(LLM)は、推論、計画、意思決定のタスクに広くデプロイされている。 そこで我々は, 接触探索質問(CSQ)に基づく枠組みを提案し, 騙しの可能性を定量化する。
  論文  参考訳（メタデータ） (2025-08-08T14:46:35Z)
• PredictaBoard: Benchmarking LLM Score Predictability [50.47497036981544]
  大きな言語モデル(LLM)は予測不能に失敗することが多い。 これは、安全なデプロイメントを保証する上で、大きな課題となる。 PredictaBoardは,新しいベンチマークフレームワークである。
  論文  参考訳（メタデータ） (2025-02-20T10:52:38Z)
• Towards Effective Evaluations and Comparisons for LLM Unlearning Methods [97.2995389188179]
  本稿では,大規模言語モデルにおける機械学習評価の精度向上を図る。 評価指標の堅牢性と、競合する目標間のトレードオフという、2つの重要な課題に対処します。
  論文  参考訳（メタデータ） (2024-06-13T14:41:00Z)
• Evaluating Uncertainty-based Failure Detection for Closed-Loop LLM Planners [10.746821861109176]
  大型言語モデル(LLM)は、ロボットタスクのためのゼロショットタスクプランナーとして、目覚ましいパフォーマンスをみせている。 しかし、以前の研究のオープンループの性質は、LSMベースの計画がエラーを起こしやすく、脆弱である。 本研究では,不確実性に基づくMLLM故障検出装置をベースとした,閉ループLLMに基づくKnowLoop計画のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-01T12:52:06Z)
• Evaluating Interventional Reasoning Capabilities of Large Language Models [58.52919374786108]
  大規模言語モデル(LLM)は意思決定タスクを自動化するために使用される。 本稿では,LPMが介入に応じてデータ生成プロセスの知識を正確に更新できるかどうかを評価する。 さまざまな因果グラフ(例えば、コンバウンディング、仲介)と変数タイプにまたがるベンチマークを作成します。 これらのベンチマークにより、LLMが事実を記憶したり、他のショートカットを見つけたりすることで、変化を正確に予測する能力を切り離すことができます。
  論文  参考訳（メタデータ） (2024-04-08T14:15:56Z)
• Generative multitask learning mitigates target-causing confounding [61.21582323566118]
  マルチタスク学習のための因果表現学習のためのシンプルでスケーラブルなアプローチを提案する。 改善は、目標を狙うが入力はしない、観測されていない共同ファウンダーを緩和することによる。 人の属性とタスクノミーのデータセットに対する我々の結果は、事前の確率シフトに対するロバストネスの概念的改善を反映している。
  論文  参考訳（メタデータ） (2022-02-08T20:42:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。