論文の概要: Are You Sure You're Sure? On the Impact of Instruction Tuning on Confidence and Lexical Diversity
- arxiv url: http://arxiv.org/abs/2608.13430v1
- Date: Thu, 13 Aug 2026 16:18:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.598456
- Title: Are You Sure You're Sure? On the Impact of Instruction Tuning on Confidence and Lexical Diversity
- Title（参考訳）: 確かか? インストラクションチューニングが信頼と語彙の多様性に与える影響について
- Abstract要約: そこで本研究では,学習指導によるモデル信頼度の変化に伴う,生成した解の語彙的多様性の変化について検討する。
予測精度の制限や可能性に基づくキャリブレーションの低下にもかかわらず,命令調律は回答の信頼性を常に変化させることがわかった。
- 参考スコア（独自算出の注目度）: 1.4157344687763311
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Instruction-tuned language models achieve strong performance across a range of generation tasks, but have also recently been shown to exhibit verbalized overconfidence. In question answering, verbalized model overconfidence may be associated with the consistency of the generated supporting rationales. In this paper, we study whether corresponding changes in the lexical diversity of generated answer rationales accompany changes in model confidence induced by instruction tuning. We evaluate three matched base and instruction-tuned models across question-answering benchmarks and find that instruction tuning consistently alters answer confidence, despite limited changes in predictive accuracy and decreases in likelihood-based calibration. Secondly, we observe a non-uniform effect of instruction tuning on rationale diversity: cross-rationale diversity consistently decreases, whereas surface-level lexical diversity varies in both direction and magnitude across models and benchmarks. Finally, we find that these differences persist after controlling for answer selection and rationale length, confirming that confidence and rationale diversity capture distinct effects of instruction tuning.
- Abstract（参考訳）: 命令調整型言語モデルは、様々な世代タスクにおいて高いパフォーマンスを達成するが、最近は言語化された過剰な自信を示すことが示されている。
質問への答えとして、言語化されたモデル過信は、生成された支持論理の一貫性に関連づけられる可能性がある。
本稿では,学習指導によるモデル信頼度の変化に伴う,生成した解の語彙的多様性の変化について検討する。
提案手法は,予測精度の制限と可能性に基づく校正率の低下に拘わらず,回答の信頼度を一定に変化させることが判明した。
第2に、命令チューニングの非一様効果が合理性の多様性に及ぼす影響を観察する: クロスリーチャーの多様性は一貫して減少するが、面レベルの語彙の多様性はモデルやベンチマークの方向や大きさによって異なる。
最後に、これらの差異は、回答選択と有理長の制御後に持続し、信頼度と有理多様性が命令チューニングの異なる効果を捉えていることを確認する。
関連論文リスト
- DirEAG: Dirichlet Evidence Aggregation for Calibrating Verbalized Confidence in Mathematical Reasoning [2.867517731896504]
ブラックボックスの言語的信頼度は、大きな言語モデルでは校正が難しい。
本稿では,ディリクレ証拠集約法であるDirEAGを提案する。
論文 参考訳（メタデータ） (2026-08-21T03:48:25Z) - Amplified Does Not Mean Predictive: Reasoning Behaviors in Thinking Models [56.88565331713778]
推論指向のトレーニングは、モデル正しさに最も結びついている振る舞いを増幅することなく、トレースをより熟考的に見せることができる。
このミスマッチを、モデル推論トレースにおける振る舞いの有無に対して、振舞いがどの程度の正確性を変えるかを測定するメトリクスである振舞いリフトと定量化します。
我々は、思考モデルが自己認識、仮説テスト、不確実性認知を強く増幅する増幅自由ギャップの証拠を見つける。
論文 参考訳（メタデータ） (2026-08-13T20:37:59Z) - The Computational Basis of Confidence in Large Language Models [2.8220151940446425]
統計的決定信頼度を用いて言語モデルにおける信頼度を研究する。
回答ロジットは、潜在決定変数の単調な読み出しとして振る舞うことを示す。
これらの結果は、SDCを生物学的および人工知能の信頼性を研究するための統一的な枠組みとして確立している。
論文 参考訳（メタデータ） (2026-07-14T07:24:32Z) - Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。
推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。
これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
論文 参考訳（メタデータ） (2026-06-09T16:14:27Z) - Exploring Agentic Tool-Calling Decisions via Uncertainty-Aligned Reinforcement Learning [63.24624171679711]
大規模言語モデル(LLM)ベースのエージェントは、しばしば最適なツール使用の決定を行う。
本研究では、不確実性分離を維持するための推進力として、不確実性定量化を報酬設計に組み込んだTRUSTを提案する。
論文 参考訳（メタデータ） (2026-06-05T07:08:34Z) - LLMs Show No Signs Of Individuated Metacognition [0.023227405857540805]
20大言語モデルから二項信頼判断を分解する。
信頼性が異なる2つのモデルも性能が異なるかどうかを問う。
いずれの検査領域においても,有意な弁別メタ認知の証拠は見つからない。
論文 参考訳（メタデータ） (2026-05-22T23:54:33Z) - A Mechanistic Study of Tabular Foundation Models [12.26738662548555]
タブラル基礎モデルは、様々な分類タスクと回帰タスクに精度で収束する。
これは、リーダーボードが答えられない疑問を引き起こす。
i)モデルが同一のコンテキスト内アルゴリズムを実行するかどうか,(ii)行,列,およびクラス置換不変性が生じるか,および(iii)モデルが推論されたメカニズムに対してエンジニアリングされた摂動下にあるか,の3つを特徴付ける。
論文 参考訳（メタデータ） (2026-05-20T15:23:16Z) - Sensitivity Uncertainty Alignment in Large Language Models [0.0]
逆入力およびあいまい入力下での大規模言語モデルの故障を解析するためのフレームワークを提案する。
我々はスカラースコア SUA_theta(x) を定義し、分布感度と予測エントロピーの差を捉える。
我々は,一貫性の正則化とエントロピーアライメントを組み合わせたトレーニング手法SUA-TRと,より安全な推論のための禁制ルールを導入する。
論文 参考訳（メタデータ） (2026-04-21T17:53:12Z) - Learn to Rank: Visual Attribution by Learning Importance Ranking [58.69028273772474]
コンピュータビジョンモデルのための視覚属性マップを生成する新しい手法を提案する。
提案手法は, 任意の数段階の勾配補正を施した1つの前方通過において, 密度の高い画素レベルの属性を生成する。
我々の実験は、一貫した定量的改善と、よりシャープで境界に沿った説明を示す。
論文 参考訳（メタデータ） (2026-04-07T12:53:22Z) - Identifying Influential N-grams in Confidence Calibration via Regression Analysis [53.95767806659635]
回帰法を適用することにより,言語表現が信頼とどのような関係があるかを明らかにする。
我々は,大言語モデル (LLM) が推論に関わる場合,過度に信頼されていることを示す。
性能低下を伴わずに過信表現を単純に抑えることで、信頼度校正が可能であることを明らかにした。
論文 参考訳（メタデータ） (2026-04-07T11:58:49Z) - Improving Metacognition and Uncertainty Communication in Language Models [13.389881635116472]
大規模言語モデル(LLM)は、意思決定の文脈でますます使われている。
LLMの自信はしばしば誤解され、正解と誤解の区別が不十分である。
教師付き微調整が不確実性を伝達するモデルの能力を向上させるかどうかを検討する。
論文 参考訳（メタデータ） (2025-09-30T19:50:02Z) - Enhancing Uncertainty Estimation and Interpretability via Bayesian Non-negative Decision Layer [55.66973223528494]
本研究では, ディープニューラルネットワークを条件付きベイズ非負因子分析として再構成したベイズ非負決定層(BNDL)を開発した。
BNDLは複雑な依存関係をモデル化し、堅牢な不確実性推定を提供する。
また,BNDLが効果的に不整合学習を達成できるという理論的保証も提供する。
論文 参考訳（メタデータ） (2025-05-28T10:23:34Z) - Verbosity Tradeoffs and the Impact of Scale on the Faithfulness of LLM Self-Explanations [19.32573526975115]
我々は13家族の75モデルにわたる反事実的忠実度を分析した。
この研究は、相関対実テスト(CCT)の簡易版であるphi-CCTとF-AUROCの2つの新しい指標を動機付けている。
より大きく、より有能なモデルは、私たちが考慮しているすべての指標に一貫して忠実です。
論文 参考訳（メタデータ） (2025-03-17T17:59:39Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳（メタデータ） (2020-07-25T08:54:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。