論文の概要: Position: It's Time to Optimize LLMs for Self-Consistency

• arxiv url: http://arxiv.org/abs/2608.05188v1
• Date: Fri, 31 Jul 2026 19:16:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 17:43:06.626921
• Title: Position: It's Time to Optimize LLMs for Self-Consistency
• Title（参考訳）: ポジション:LLMを自己整合性に最適化する時が来た
• Abstract要約: 多くの重要な障害は、事前および後トレーニングパイプラインの言語モデルに持続する。 これらの失敗は、パイプラインのすべての側面に浸透するモデリングの前提から生じます。 これらの失敗を理解するためのフレームワークとして,自己整合性を提案する。
• 参考スコア（独自算出の注目度）: 50.68587056599734
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite ever-increasing sophistication in language model (LM) pre- and post-training pipelines, many important failures persist: models overcondition on user framing ("sycophancy"), exhibit incomplete logical generalization, and produce confident but incorrect responses. We argue that these failures arise from a modeling assumption permeating all aspects of the pipeline: that behavior can be specified and evaluated independently on single-output pairs. Many model failures are difficult, if not impossible, to detect without reasoning about relationships between a model's responses across inputs. In this position paper, we propose self-consistency as a framework for understanding these failures. We first observe that a wide variety of techniques designed to improve specific aspects of LM behavior-targeting properties as diverse as adversarial robustness and factual coherence-can be understood as special cases of a common "consistency optimization" procedure and addressed with a standard set of optimization tools. We next outline a set of new model properties that could be achieved by optimizing for consistency, and conclude with a discussion of what it would mean to develop generally consistent LMs, including the capabilities they would enable and the objections they raise.
• Abstract（参考訳）: 言語モデル(LM)の事前および後訓練パイプラインの高度化が絶え間なく進んでいるにもかかわらず、多くの重要な失敗が続いている: ユーザフレーミングの過剰条件モデル("sycophancy")。 これらの失敗は、パイプラインのすべての側面に浸透するモデリングの仮定から生じている、と我々は主張する。 多くのモデル失敗は、不可能ではないとしても、入力間のモデルの応答間の関係を推論することなく検出することが困難である。 本稿では,これらの失敗を理解するための枠組みとして,自己整合性を提案する。 まず, LMの動作目標特性を, 対向的ロバスト性や現実的コヒーレンス性のように多様に改善するための多種多様な手法が, 共通的な「一貫性最適化」手順の特別な場合として理解でき, 標準的な最適化ツールで対処できることを見いだした。 次に、一貫性を最適化することで達成できる新しいモデルプロパティのセットを概説し、一般的に一貫性のあるLMを開発することが何を意味するかについての議論を締めくくります。

関連論文リスト

• The Consistency Dilemma in LLMs: Generator-Evaluator Agreement and Vulnerability to Mistakes [0.0]
  大規模な言語モデルは、外部の検証なしに自身のアウトプットを評価するモデルに依存するエージェントパイプラインにますますデプロイされる。 そこで本研究では,この仮定を直接的に検証し,491概念を対象とするフロンティアモデル10に対して適用するための,新たな尺度であるジェネレータ-評価器の自己整合性を提案する。
  論文  参考訳（メタデータ） (2026-06-16T03:39:01Z)
• Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning [57.10440766103372]
  Trajectory Regularized Merging (TRM) は、拡張されたトラジェクトリ部分空間内の最適化プロセスとしてマージフェーズを再構成するフレームワークである。 本フレームワークは,タスクアライメント,予測整合性,勾配応答性といった3つの相乗的目標を統合し,統合モデルの履歴安定性と再活性化最適化のダイナミクスを同時に保存する。
  論文  参考訳（メタデータ） (2026-05-08T14:07:32Z)
• Deconstructing Instruction-Following: A New Benchmark for Granular Evaluation of Large Language Model Instruction Compliance Abilities [2.9203730377983654]
  既存のベンチマークでは、実際の使用を反映したり、コンプライアンスをタスクの成功から分離することができない。 アプリケーション指向の生成制約を最大20個まで含む動的に生成されたデータセットを使用するモジュール型フレームワークであるMOSAICを紹介した。 コンプライアンスはモノリシックな機能ではなく、制約タイプ、量、位置によって大きく異なります。
  論文  参考訳（メタデータ） (2026-01-26T15:02:15Z)
• When Words Change the Model: Sensitivity of LLMs for Constraint Programming Modelling [1.052782170493037]
  大きな言語モデルは、古典的なベンチマークのモデルを自動的に生成する素晴らしい結果を示している。 多くの標準CP問題は、これらのモデルのトレーニングデータに含まれる可能性が高い。 LLMは構文的に妥当で意味論的に妥当なモデルを生成することができるが、その性能は文脈的・言語学的に著しく低下する。
  論文  参考訳（メタデータ） (2025-11-18T10:40:32Z)
• Harnessing Consistency for Robust Test-Time LLM Ensemble [88.55393815158608]
  CoREは、堅牢なLLMアンサンブルにモデル一貫性を利用するプラグイン・アンド・プレイ技術である。 トークンレベルの一貫性は、ダウンウェイト不確実なトークンにローパスフィルタを適用することで、きめ細かい不一致を捕捉する。 モデルレベルの一貫性は、自己自信の高いモデル出力を促進することで、グローバルな合意をモデル化する。
  論文  参考訳（メタデータ） (2025-10-12T04:18:45Z)
• Probabilistic Token Alignment for Large Language Model Fusion [100.30692772017238]
  大規模言語モデル(LLM)をスクラッチからトレーニングすると、ユニークな機能と強みを持つモデルが得られるが、コストがかかり、しばしば冗長な機能をもたらす。 既存のモデル融合における重要な課題は、手動で定義された語彙のアライメントに依存することである。 PTA-LLM と呼ばれるアライメントのための一般およびソフトマッピングとして確率的トークンアライメント法を提案する。
  論文  参考訳（メタデータ） (2025-09-21T23:18:24Z)
• Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
  我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。 我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。 車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
  論文  参考訳（メタデータ） (2024-07-24T12:00:30Z)
• Two Failures of Self-Consistency in the Multi-Step Reasoning of LLMs [78.31625291513589]
  自己整合性は、解が複数のサブステップに対する解からなるタスクにおいて、有効な多段階推論の重要な基準であると主張する。 仮説的整合性と構成的整合性という,多段階推論において特に重要である2種類の自己整合性を提案する。 GPT-3/4モデルの複数変種は,多種多様なタスクにおける両タイプの整合性に不整合性を示すことを示した。
  論文  参考訳（メタデータ） (2023-05-23T17:25:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。