論文の概要: Improving LLM Interpretability with User-Centric Chain-of-Thought Reasoning

• arxiv url: http://arxiv.org/abs/2608.26166v1
• Date: Mon, 13 Jul 2026 19:52:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.374049
• Title: Improving LLM Interpretability with User-Centric Chain-of-Thought Reasoning
• Title（参考訳）: ユーザ中心連鎖推論によるLLM解釈性の向上
• Abstract要約: 我々は、自己完結した検証可能なステップに基づいてトレースを推論する人間中心のアプローチを設計し、評価する。 このアプローチでは、XMLライクなタグを使用して、推論コンテンツとメタデータをエンコードし、ターゲットとするフィードバックを容易にします。
• 参考スコア（独自算出の注目度）: 2.28438857884398
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Advancing reasoning capabilities allow large language models (LLMs) to tackle increasingly complex problems, while reasoning traces - intermediate steps toward solutions - open up high-stakes applications by enabling human inspection of AI decision-making. However, current approaches prioritize model performance over human interpretability, limiting effective human-AI collaboration. In this study, we design and evaluate a human-centered approach that structures reasoning traces based on self-contained, verifiable steps, enabling users to independently assess and correct AI reasoning. Our approach uses XML-like tags to encode reasoning content and metadata, facilitating targeted feedback. Evaluation on mathematical reasoning tasks shows our approach maintains equivalent performance to standard Chain-of-Thought reasoning while enhancing interpretability. User studies demonstrate significant improvements in perceived usefulness and ease of use. This work advances understanding of how user-centric design of LLM outputs can better serve human collaboration needs in high-stakes AI deployments.
• Abstract（参考訳）: 推論能力の強化により、大規模言語モデル(LLM)は、ますます複雑な問題に対処できる一方で、推論トレース — ソリューションへの中間ステップ — は、AI意思決定の人間による検査を可能にすることで、高度なアプリケーションを開くことができる。 しかしながら、現在のアプローチでは、人間の解釈可能性よりもモデルパフォーマンスが優先され、効果的な人間とAIのコラボレーションが制限されている。 本研究では、自己完結した検証可能なステップに基づいてトレースの推論を構造化し、AI推論を独立して評価し、修正する、人間中心のアプローチを設計・評価する。 このアプローチでは、XMLライクなタグを使用して、推論コンテンツとメタデータをエンコードし、ターゲットとするフィードバックを容易にします。 数学的推論タスクの評価は,本手法が解釈可能性を高めつつ,標準のChain-of-Thought推論と同等の性能を維持していることを示している。 ユーザスタディは、知覚された有用性と使いやすさを大幅に改善したことを示している。 この作業は、LLMアウトプットのユーザ中心の設計が、AIデプロイメントの高度化において、人間のコラボレーションニーズにどのように役立つか、という理解を深める。

関連論文リスト

• Sandpiper: Orchestrated AI-Annotation for Educational Discourse at Scale [3.0317183198617066]
  Sandpiperは、高ボリュームの会話データと人間の質的な専門知識の橋渡しとして設計された混合開始システムである。 本稿では,AIを用いた定性分析における研究効率の向上,レータ間信頼性,研究者信頼度を評価するためのシステムの有効性を評価するためのユーザスタディを提案する。
  論文  参考訳（メタデータ） (2026-03-09T14:01:42Z)
• Chain of Methodologies: Scaling Test Time Computation without Training [77.85633949575046]
  大規模言語モデル(LLM)は、トレーニングデータに対する詳細な洞察が不十分なため、複雑な推論タスクに苦しむことが多い。 本稿では,人間の方法論的洞察を統合することで構造的思考を強化するCoM(Chain of the CoM)フレームワークを紹介する。
  論文  参考訳（メタデータ） (2025-06-08T03:46:50Z)
• When Models Know More Than They Can Explain: Quantifying Knowledge Transfer in Human-AI Collaboration [79.69935257008467]
  我々は,人間とAIの知識伝達能力に関する概念的かつ実験的フレームワークである知識統合と伝達評価(KITE)を紹介する。 最初の大規模人間実験(N=118)を行い,その測定を行った。 2段階のセットアップでは、まずAIを使って問題解決戦略を思いつき、その後独立してソリューションを実装し、モデル説明が人間の理解に与える影響を分離します。
  論文  参考訳（メタデータ） (2025-06-05T20:48:16Z)
• Explainable Recommendation with Simulated Human Feedback [8.532115411106068]
  提案する提案手法は,人為的なフィードバック駆動型最適化フレームワークである。 このフレームワークは、人中心で説明可能な要求を達成するために、高い労働コストを発生させることなく、動的にインタラクティブな最適化機構を使用する。 特に,大規模言語モデル(LLM)を人間のシミュレータとして利用して,学習プロセスの指針となる人間的なフィードバックを予測することを提案する。
  論文  参考訳（メタデータ） (2025-04-19T02:46:10Z)
• Efficient Inference for Large Reasoning Models: A Survey [74.17203483365171]
  LRM(Large Reasoning Models)は、Large Language Models(LLM)の推論能力を大幅に向上させる。 しかし、それらの熟考的推論プロセスはトークンの使用、メモリ消費、推論時間に非効率をもたらす。 本調査では, LRMに特化して設計された効率的な推論手法を概説し, 推論品質を維持しつつトークンの非効率を緩和することに着目した。
  論文  参考訳（メタデータ） (2025-03-29T13:27:46Z)
• Dancing with Critiques: Enhancing LLM Reasoning with Stepwise Natural Language Self-Critique [66.94905631175209]
  我々は、段階的に自然言語の自己批判(PANEL)を行う新しい推論時間スケーリング手法を提案する。 ステップレベルの探索プロセスのガイドとして、自己生成の自然言語批判をフィードバックとして採用している。 このアプローチは、タスク固有の検証と関連するトレーニングオーバーヘッドの必要性を回避します。
  論文  参考訳（メタデータ） (2025-03-21T17:59:55Z)
• Data Analysis in the Era of Generative AI [56.44807642944589]
  本稿では,AIを活用したデータ分析ツールの可能性について考察する。 我々は、大規模言語とマルチモーダルモデルの出現が、データ分析ワークフローの様々な段階を強化する新しい機会を提供する方法について検討する。 次に、直感的なインタラクションを促進し、ユーザ信頼を構築し、AI支援分析ワークフローを複数のアプリにわたって合理化するための、人間中心の設計原則を調べます。
  論文  参考訳（メタデータ） (2024-09-27T06:31:03Z)
• Predicting and Understanding Human Action Decisions: Insights from Large Language Models and Cognitive Instance-Based Learning [0.0]
  大きな言語モデル(LLM)は、様々なタスクにまたがってその能力を実証している。 本稿では,LLMの推論と生成能力を利用して,2つの逐次意思決定タスクにおける人間の行動を予測する。 我々は,LLMの性能を,人間の経験的意思決定を模倣した認知的インスタンスベース学習モデルと比較した。
  論文  参考訳（メタデータ） (2024-07-12T14:13:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。