論文の概要: Does Thinking Help Fairness? Reasoning Tokens Resolve Some Biases but Create More

• arxiv url: http://arxiv.org/abs/2609.30768v1
• Date: Fri, 25 Sep 2026 03:46:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.222466
• Title: Does Thinking Help Fairness? Reasoning Tokens Resolve Some Biases but Create More
• Title（参考訳）: 思考はフェアネスに役立つか? トークンの推論は、いくつかのバイアスを解消するが、もっと創造する
• Abstract要約: 思考は反事実的公平性に非対称的な二重効果を持つことを示す。 どちらも、考えていないベースラインによって生成された反実的なフリップを解決し、ほぼ飽和したモデルの信頼性で新しいフリップを生成する。
• 参考スコア（独自算出の注目度）: 10.160312887335797
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Thinking in reasoning language models (RLMs) has been subject to debate on whether it resolves or amplifies bias. Prior works have shown competing conclusions in both directions. Using a within-model thinking-vs.-non-thinking ablation across QwQ-32B, DeepSeek-R1-Distill-Qwen-32B, and Qwen3-32B on three high-stakes decision tasks (Adult, COMPAS, Credit), we show that thinking has an asymmetric dual effect on counterfactual fairness: it both resolves counterfactual flips produced by the non-thinking baseline and creates new flips at near-saturating model confidence. In all nine (model, dataset) combinations, the created flips outnumber the resolved flips by roughly 5 times. To explain the effect, we treat the thinking trace itself as a measurable site of fairness change and study it through two dynamic instruments: 1) We propose Counterfactual Depth Probability Gap (CDPG) to track bias evolution along thinking depth, and observe that bias propagates and amplifies with thinking. 2) We also formulate the Bias Transition Matrix (BTM) to show how predictions of counterfactual pairs change from non-thinking to thinking, and find that the asymmetric dual effect originates in the pair-state joint transition.
• Abstract（参考訳）: 推論言語モデル(RLM)を考えることは、バイアスを解消するか、増幅するかという議論の対象となっている。 以前の研究は、両方の方向で競合する結論を示してきた。 モデル内の思考-vsを使用する。 QwQ-32B,DeepSeek-R1-Distill-Qwen-32B,Qwen3-32Bの3つの高い意思決定課題(Adult,CompAS,Credit)における非思考的アブレーションは、思考が反ファクトフェアネスに非対称的な二重効果を持つことを示す。 すべての9つの(モデル、データセット)組み合わせにおいて、生成されたフリップは、解決されたフリップよりも約5倍多い。 この効果を説明するために、我々は思考痕跡自体を公平性の変化の計測可能な場所として扱い、2つのダイナミックな機器を通して研究する。 1) 思考深度に沿った偏差の発達を追跡するために, 対実的深度確率ギャップ(CDPG)を提案し, 偏差が思考に伝播し増幅することを観察する。 2) バイアス遷移行列 (BTM) を定式化して, 対実対の予測が非思考から思考へどのように変化するかを示し, 非対称な二重効果が対状態のジョイント遷移に起因していることを見出した。

関連論文リスト

• Decoding Answers Before Chain-of-Thought: Evidence from Pre-CoT Probes and Activation Steering [5.427346259545067]
  CoT(Chain-of- Thought)は、大規模言語モデルにおける推論機能のスケーリングの中心となっている。 命令調整モデルがCoTを生成する前に解答を決定する場合が多いことを示す。
  論文  参考訳（メタデータ） (2026-03-02T04:33:55Z)
• Think Twice: Branch-and-Rethink Reasoning Reward Model [32.70732791642558]
  本稿では,2ターンのRMであるブランチ・アンド・リコンプリート(BR-RM)について紹介する。 我々は、厳密なフォーマットチェックによる単純なバイナリ結果報酬を用いて、構造化された2ターントレース上でGRPOスタイルの強化学習を訓練する。 All-at-oncescoringinto focus, second-lookreasoning を変換することにより、BR-RMreducesjudgmentdiffusionand は微妙で連続的な誤りに対する感受性を高める。
  論文  参考訳（メタデータ） (2025-10-27T17:58:07Z)
• Answer-Consistent Chain-of-thought Reinforcement Learning For Multi-modal Large Langauge Models [33.398631680508814]
  本稿では,GRPOアルゴリズムを補助的整合性チェックで修正するAnswer-Consistent Reinforcement Learningを提案する。 我々は、オリジナルとポストシャッフルの両方の回答が一致して正しい場合にのみ高い報酬を与える一貫性検証報酬を設計する。 我々は、ACREを挑戦的なビデオ推論ベンチマークとマルチモーダル数学推論ベンチマークで評価し、平均2.2%と1.5%の改善を達成した。
  論文  参考訳（メタデータ） (2025-10-11T08:32:52Z)
• Unveiling Confirmation Bias in Chain-of-Thought Reasoning [12.150655660758359]
  大型言語モデル(LLM)の推論能力を高めるために、チェーン・オブ・シークレット(CoT)プロンプトが広く採用されている。 本研究は認知心理学におけるテキスト確認バイアスのレンズを通してCoTの行動を理解する新しい視点を示す。
  論文  参考訳（メタデータ） (2025-06-14T01:30:17Z)
• Does Thinking More always Help? Mirage of Test-Time Scaling in Reasoning Models [130.5487886246353]
  Wait"や"Let me rethink"といったプロンプトを使って思考トレースを拡張することで、パフォーマンスが向上します。 テスト時にもっと考えることは、本当により良い推論につながるのでしょうか? 過度に考える”という理由から,新たな思考による初期パフォーマンス改善の一貫したパターンと,それに続く低下を示す。
  論文  参考訳（メタデータ） (2025-06-04T17:55:09Z)
• The First Impression Problem: Internal Bias Triggers Overthinking in Reasoning Models [38.11937119873932]
  推論モデルは、冗長な推論ステップを特徴とする過度な思考を示すことが多い。 我々は、入力問題によって引き起こされる内部バイアスを、そのような行動の鍵となる引き金とみなす。
  論文  参考訳（メタデータ） (2025-05-22T09:35:52Z)
• Landscape of Thoughts: Visualizing the Reasoning Process of Large Language Models [58.64449765678416]
  思考のランドスケープ(LoT)を導入し、任意の複数選択データセット上で特定の推論手法で推論軌跡を検査する。 LoTは、強いモデルと弱いモデル、正解と誤解、および異なる推論タスクを区別する。 トラジェクトリの正しさを評価する軽量検証器にLoTを適用することで、この利点を実証する。
  論文  参考訳（メタデータ） (2025-03-28T06:09:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。