論文の概要: An Investigation of Model Coherence: Narrow Finetunes Contradict Themselves Under Resampling

• arxiv url: http://arxiv.org/abs/2610.12129v1
• Date: Thu, 08 Oct 2026 15:22:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.114481
• Title: An Investigation of Model Coherence: Narrow Finetunes Contradict Themselves Under Resampling
• Title（参考訳）: モデルコヒーレンスに関する考察--リサンプリングによる細粒度コントラクト
• Abstract要約: 大規模な研究機関は、競合原因を考慮せずに出力分散に基づいてコヒーレンスをモデル化する。 我々は、あいまいさと無関心という2つの原因を特定し、矛盾する回答を容易に説明できない175の質問のセットを導入する。 次に、同じ質問に対する回答を再サンプリングする際の矛盾点の観点から不整合を計測する。
• 参考スコア（独自算出の注目度）: 0.2899760113140846
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A large body of research measures model coherence based on output variance without adequately considering competing causes. We identify two such causes, ambiguity and indifference, and we introduce a set of 175 questions where contradicting answers cannot easily be explained by either. We then measure incoherence in terms of contradictions when resampling answers to the same question. In contrast to other methods our metric has high specificity, and only ranks models as incoherent when the issues are glaring. Even so, we find narrow finetunes score poorly. Inspecting inconsistencies flagged by our method, we find that model organisms from the literature display severe issues such as identity conflation, introspection failures and rationalizations. These findings suggest that the pathologies induced by narrow finetuning may limit what these models can tell us about coherent misaligned behaviour.
• Abstract（参考訳）: 大規模な研究機関は、競合する原因を適切に考慮することなく、出力分散に基づくコヒーレンスをモデル化する。 我々は、あいまいさと無関心という2つの原因を特定し、矛盾する回答を容易に説明できない175の質問のセットを紹介した。 次に、同じ質問に対する回答を再サンプリングする際の矛盾点の観点から不整合を計測する。 他の方法とは対照的に、我々の計量は高い特異性を持ち、問題が発生したときのみモデルを非一貫性としてランク付けする。 それでも、狭小のスコアは低い。 筆者らは,本手法による不整合の検査を行い,本論文のモデル生物は,アイデンティティ・コンフリレーション,イントロスペクション・フェール,合理化といった深刻な問題を呈することを示した。 これらの結果は,狭い微調整によって引き起こされる病理は,これらのモデルがコヒーレントな不整合行動について教えてくれるものを制限する可能性があることを示唆している。

関連論文リスト

• Understanding Why Language Models Hallucinate: Testing Reasoning Against Priors [11.702863087019809]
  大規模言語モデルは、しばしば即時レベルの制約に反する幻覚的な答えを生成する。 推測ミスアライメント(inference misalignment):プロンプトが支持する回答と統計的に有意な潜在的協会が支持する回答のミスマッチについて検討する。 我々は、この見解を遅延キータスクモデルで定式化し、事前学習周波数の不均衡がショートカットパスを生じさせ、制約に敏感な経路を支配させる。
  論文  参考訳（メタデータ） (2026-07-01T05:02:43Z)
• Mechanistic Evidence for Faithfulness Decay in Chain-of-Thought Reasoning [0.0]
  Chain-of-Thoughtの説明は、言語モデルが複雑な問題を解決する方法を理解するために広く使われている。 モデルの意思決定プロセスに個別の推論ステップが忠実かどうかを測定する指標である正規化論理差判定(NLDD)を提案する。
  論文  参考訳（メタデータ） (2026-02-04T21:55:57Z)
• Thought Branches: Interpreting LLM Reasoning Requires Resampling [10.978878422025232]
  一つのサンプルを研究することは因果的影響と基礎となる計算を理解するのに不十分であると主張する。 モデル決定のための再サンプリングを用いたケーススタディを提案する。
  論文  参考訳（メタデータ） (2025-10-31T14:02:37Z)
• Chain-of-Thought Reasoning In The Wild Is Not Always Faithful [3.048751803239144]
  CoT(Chain-of-Thought)推論は最先端のAI能力を大幅に進歩させたものだ。 人工バイアスのない現実的なプロンプトでも不信なCoTが発生することを示す。
  論文  参考訳（メタデータ） (2025-03-11T17:56:30Z)
• Certainly Uncertain: A Benchmark and Metric for Multimodal Epistemic and Aleatoric Awareness [106.52630978891054]
  視覚言語AIシステムに特有の不確実性の分類法を提案する。 また、精度と校正誤差の両方によく相関する新しい計量信頼度重み付き精度を導入する。
  論文  参考訳（メタデータ） (2024-07-02T04:23:54Z)
• Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
  本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。 我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
  論文  参考訳（メタデータ） (2023-06-01T10:51:58Z)
• Active Bayesian Causal Inference [72.70593653185078]
  因果発見と推論を統合するための完全ベイズ能動学習フレームワークであるアクティブベイズ因果推論(ABCI)を提案する。 ABCIは因果関係のモデルと関心のクエリを共同で推論する。 我々のアプローチは、完全な因果グラフの学習のみに焦点を当てた、いくつかのベースラインよりも、よりデータ効率が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-04T22:38:57Z)
• The Causal Marginal Polytope for Bounding Treatment Effects [9.196779204457059]
  グローバル因果モデルを構築することなく因果関係を同定する手法を提案する。 我々は,グローバル因果モデルを構築することなく,因果モデルの限界とデータとの整合性を強制する。 我々はこの局所的に一貫した辺縁の集合を、因果的辺縁ポリトープと呼ぶ。
  論文  参考訳（メタデータ） (2022-02-28T15:08:22Z)
• Disentangling Observed Causal Effects from Latent Confounders using Method of Moments [67.27068846108047]
  我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。 我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
  論文  参考訳（メタデータ） (2021-01-17T07:48:45Z)
• Causal Expectation-Maximisation [70.45873402967297]
  ポリツリーグラフを特徴とするモデルにおいても因果推論はNPハードであることを示す。 我々は因果EMアルゴリズムを導入し、分類的表現変数のデータから潜伏変数の不確かさを再構築する。 我々は、反事実境界が構造方程式の知識なしにしばしば計算できるというトレンドのアイデアには、目立たずの制限があるように思える。
  論文  参考訳（メタデータ） (2020-11-04T10:25:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。