論文の概要: Mitigating Prompt-Induced Cognitive Biases in General-Purpose AI for Software Engineering

• arxiv url: http://arxiv.org/abs/2604.16756v2
• Date: Wed, 22 Apr 2026 10:51:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:10.335848
• Title: Mitigating Prompt-Induced Cognitive Biases in General-Purpose AI for Software Engineering
• Title（参考訳）: ソフトウェア工学のための汎用AIにおけるプロンプト誘発認知バイアスの緩和
• Abstract要約: ソフトウェアエンジニアリング(SE)意思決定サポート(問題文と要件が自然言語である)では、小さなフレーズのシフトがGPAIモデルを最適化下決定に向けてプッシュすることができる。 同じSEジレンマの偏りと偏りのないバージョンをペア化するSEのベンチマークである PROBE-SWE を用いてこれを研究する。 バイアス感受性の統計的に有意な低下は, バイアスごとにみられない。
• 参考スコア（独自算出の注目度）: 7.619404259039282
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prompt-induced cognitive biases are changes in a general-purpose AI (GPAI) system's decisions caused solely by biased wording in the input (e.g., framing, anchors), not task logic. In software engineering (SE) decision support (where problem statements and requirements are natural language) small phrasing shifts (e.g., popularity hints or outcome reveals) can push GPAI models toward suboptimal decisions. We study this with PROBE-SWE, a dynamic benchmark for SE that pairs biased and unbiased versions of the same SE dilemmas, controls for logic and difficulty, and targets eight SE-relevant biases (anchoring, availability, bandwagon, confirmation, framing, hindsight, hyperbolic discounting, overconfidence). We ask whether prompt engineering mitigates bias sensitivity in practice, focusing on actionable techniques that practitioners can apply off-the-shelf in real environments. Testing common strategies (e.g., chain-of-thought, self-debiasing) on cost-effective GPAI systems, we find no statistically significant reductions in bias sensitivity on a per-bias basis. We then adopt a Prolog-style view of the reasoning process: solving SE dilemmas requires making explicit any background axioms and inference assumptions (i.e., SE best practices) that are usually implicit in the prompt. So, we hypothesize that bias-inducing features short-circuit assumption elicitation, pushing GPAI models toward biased shortcuts. Building on this, we introduce an end-to-end method that elicits best practices and injects axiomatic reasoning cues into the prompt before answering, reducing overall bias sensitivity by 51% on average (p < .001). Finally, we report a thematic analysis that surfaces linguistic patterns associated with heightened bias sensitivity, clarifying when GPAI use is less advisable for SE decision support and where to focus future countermeasures.
• Abstract（参考訳）: プロンプトによる認知バイアス(Prompt-induced Cognitive biases)とは、タスクロジックではなく、入力(例えば、フレーミング、アンカー)のバイアスドワードによってのみ引き起こされる汎用AI(GPAI)システムにおける変化である。 ソフトウェアエンジニアリング(SE)意思決定サポート(問題文と要件が自然言語である)では、小さなフレーズのシフト(人気ヒントや結果の露呈など)が、GPAIモデルを最適以下の決定へと押し上げます。 我々は、SEの動的ベンチマークである PROBE-SWE を用いて、同じSEジレンマの偏りと偏りのないバージョンをペアリングし、論理と難易度を制御し、8つのSE関連バイアス(アンコリング、アベイラビリティー、バンドワゴン、確認、フレーミング、後見、双曲割引、過信)をターゲットとした。 我々は,実践者が現実の環境でオフ・ザ・シェルフを適用できる行動可能な技術に焦点をあてて,迅速な工学が実践におけるバイアス感度を緩和するかどうかを問う。 GPAIシステムにおける共通戦略(例えば、チェーン・オブ・シンク、自己バイアス)をテストすると、偏差感度の統計的に有意な低下は見つからない。 SEジレンマを解くには、通常、プロンプトの中で暗黙的な背景公理と推論仮定(SEベストプラクティス)を明確にする必要がある。 そこで我々は, GPAIモデルをバイアスショートカットに推し進める, 短絡仮説の導出を仮定した。 これに基づいて,ベストプラクティスを取り入れ,回答前のプロンプトに公理的推論キューを注入するエンド・ツー・エンド手法を導入し,全体のバイアス感度を平均で51%低減する(p < .001)。 最後に, GPAI の使用がSE決定支援に適さない場合, 今後の対策に着目すべき点を明らかにするため, バイアス感度の向上に関連する言語パターンを探索するテーマ分析を行った。

関連論文リスト

• Selective Test-Time Debiasing for CLIP via Reward Gating [9.837249813808603]
  視覚言語モデル(VLM)は、強いゼロショット性能を示すが、人中心のクエリでしばしば社会的なステレオタイプを永続させる。 本稿では,強化学習に基づくテスト時間適応フレームワークであるReward-Gated Test-Time Adaptation (RG-TTA)を紹介する。 RG-TTAは、テスト時間ポリシー適応時の各入力のバイアス感度に基づいて、フェアネス正則化を適応的にトリガする。
  論文  参考訳（メタデータ） (2026-07-01T04:33:26Z)
• Making Bias Non-Predictive: Training Robust LLM Judges via Reinforcement Learning [91.8584139564909]
  大規模言語モデル(LLM)は、ますます自動化された審査員として機能するが、認知バイアスの影響を受けやすいままである。 本稿では,重要原則に基づく強化学習フレームワークである疫学独立訓練(EIT)を提案する。 EITはバランスの取れた競合戦略を通じてこれを運用します。
  論文  参考訳（メタデータ） (2026-02-02T01:43:48Z)
• Is General-Purpose AI Reasoning Sensitive to Data-Induced Cognitive Biases? Dynamic Benchmarking on Typical Software Engineering Dilemmas [47.582118202259394]
  汎用AI(GPAI)システムは、人間の非人間性による認知バイアスを軽減するのに役立つ。 GPAIシステム自体に認知バイアスがあるのだろうか? ソフトウェア工学におけるGPAIにおけるデータ誘発認知バイアスを評価するための最初のベンチマークフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-15T07:29:46Z)
• Self-Adaptive Cognitive Debiasing for Large Language Models in Decision-Making [71.71796367760112]
  大規模言語モデル(LLM)は意思決定アプリケーションをサポートする可能性を示している。 我々は,自己適応型認知脱バイアス(SACD)という認知脱バイアス手法を提案する。 オープンウェイトとクローズドウェイトの両方を用いた金融・医療・法的意思決定タスクにおけるSACDの評価を行った。
  論文  参考訳（メタデータ） (2025-04-05T11:23:05Z)
• Does Reasoning Introduce Bias? A Study of Social Bias Evaluation and Mitigation in LLM Reasoning [21.921684911834447]
  大規模言語モデル(LLM)における社会的偏見の最初の体系的評価について述べる。 我々は、DeepSeek-R1とChatGPTの命令調整およびCoT拡張版を含む、幅広いモデルの予測精度と推論バイアスを解析する。 本稿では, モデル予測が漸進的推論ステップ間でどのように変化するかを追跡することにより, バイアスを検出する軽量な緩和法であるバイアスプロキシ(ADBP)を提案する。
  論文  参考訳（メタデータ） (2025-02-21T10:16:07Z)
• ALBAR: Adversarial Learning approach to mitigate Biases in Action Recognition [52.537021302246664]
  行動認識モデルは、しばしば背景バイアス(背景の手がかりに基づく行動の推測)と前景バイアス(主題の外観に依存する)に悩まされる。 本稿では,前景や背景のバイアスを,バイアス特性の専門知識を必要とせずに軽減する,新たな対人訓練手法であるALBARを提案する。 我々は,提案手法を確立された背景と前景のバイアスプロトコル上で評価し,新しい最先端のバイアスプロトコルを設定し,HMDB51では12%以上のデバイアス性能を向上した。
  論文  参考訳（メタデータ） (2025-01-31T20:47:06Z)
• Chain of Thought Still Thinks Fast: APriCoT Helps with Thinking Slow [0.0]
  我々は、Agnostically Primed CoT (APriCoT)による対物プロンプトを導入する。 APriCoTは、全体的な精度を改善しつつ、ベースレート確率の影響を効果的に低減する。 以上の結果から,CoTだけでは提供できないような緩やかな思考プロセスが必要であることが示唆された。
  論文  参考訳（メタデータ） (2024-08-16T10:34:50Z)
• Take Care of Your Prompt Bias! Investigating and Mitigating Prompt Bias in Factual Knowledge Extraction [56.17020601803071]
  近年の研究では、事前学習言語モデル(PLM)が、事実知識抽出において「急激なバイアス」に悩まされていることが示されている。 本稿では,突発バイアスを徹底的に調査し緩和することにより,既存のベンチマークの信頼性を向上させることを目的とする。
  論文  参考訳（メタデータ） (2024-03-15T02:04:35Z)
• Delving into Identify-Emphasize Paradigm for Combating Unknown Bias [52.76758938921129]
  同定精度を高めるため,有効バイアス強調スコアリング法(ECS)を提案する。 また, マイニングされたバイアスアライメントとバイアスコンプリケート試料のコントリビューションのバランスをとるために, 勾配アライメント(GA)を提案する。 様々な環境で複数のデータセットで実験を行い、提案されたソリューションが未知のバイアスの影響を軽減することを実証した。
  論文  参考訳（メタデータ） (2023-02-22T14:50:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。