論文の概要: Operationalising the Superficial Alignment Hypothesis via Task Complexity

• arxiv url: http://arxiv.org/abs/2602.15829v1
• Date: Tue, 17 Feb 2026 18:59:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-18 16:03:18.176397
• Title: Operationalising the Superficial Alignment Hypothesis via Task Complexity
• Title（参考訳）: タスク複雑度による表面アライメント仮説の操作
• Authors: Tomás Vergara-Browne, Darshan Patil, Ivan Titov, Siva Reddy, Tiago Pimentel, Marius Mosbach,
• Abstract要約: 本稿では,タスクの目標性能を達成する最短プログラムの長さという,タスク複雑性と呼ばれる新しい指標を提案する。 私たちの結果は、タスク適応には驚くほど少ない情報が必要であり、たいていは数キロバイトです。
• 参考スコア（独自算出の注目度）: 49.93635747700126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The superficial alignment hypothesis (SAH) posits that large language models learn most of their knowledge during pre-training, and that post-training merely surfaces this knowledge. The SAH, however, lacks a precise definition, which has led to (i) different and seemingly orthogonal arguments supporting it, and (ii) important critiques to it. We propose a new metric called task complexity: the length of the shortest program that achieves a target performance on a task. In this framework, the SAH simply claims that pre-trained models drastically reduce the complexity of achieving high performance on many tasks. Our definition unifies prior arguments supporting the SAH, interpreting them as different strategies to find such short programs. Experimentally, we estimate the task complexity of mathematical reasoning, machine translation, and instruction following; we then show that these complexities can be remarkably low when conditioned on a pre-trained model. Further, we find that pre-training enables access to strong performances on our tasks, but it can require programs of gigabytes of length to access them. Post-training, on the other hand, collapses the complexity of reaching this same performance by several orders of magnitude. Overall, our results highlight that task adaptation often requires surprisingly little information -- often just a few kilobytes.
• Abstract（参考訳）: 表向きアライメント仮説(SAH)は、大規模な言語モデルが事前訓練中に知識のほとんどを学習し、ポストトレーニングが単にこの知識を表面化していることを示唆している。 しかし、SAHは正確な定義を欠いているため、それが原因となった。 (i)それを支持する異なる、一見直交的な議論、そして (二)それに対する重要な批判。 本稿では,タスクの目標性能を達成する最短プログラムの長さという,タスク複雑性と呼ばれる新しい指標を提案する。 このフレームワークでは、SAHは単に事前訓練されたモデルは、多くのタスクでハイパフォーマンスを達成する複雑さを劇的に減らす、と主張している。 我々の定義は、SAHを支持する事前の議論を統一し、そのような短いプログラムを見つけるための異なる戦略として解釈する。 実験により, 数学的推論, 機械翻訳, 命令処理のタスク複雑性を推定し, 事前学習モデル上での条件付けにより, これらの複雑さが著しく低いことを示す。 さらに、事前学習によってタスクの強いパフォーマンスにアクセスできるが、アクセスするには1ギガバイトのプログラムが必要になる。 一方、ポストトレーニングは、同じパフォーマンスに達する複雑さを、数桁の規模で崩壊させる。 全体としては、タスク適応には驚くほど少ない情報が必要であり、多くの場合、わずか数キロバイトである。

関連論文リスト

• Provable Benefit of Curriculum in Transformer Tree-Reasoning Post-Training [76.12556589212666]
  学習後のカリキュラムは指数関数的複雑性のボトルネックを回避していることを示す。 結果のみの報酬信号の下では、強化学習の微調整は、サンプルの複雑さを高い精度で達成する。 カリキュラムを意識したクエリにより、報奨託書の呼び出しとサンプリングコストの両方を指数関数的に削減するテストタイムスケーリングの保証を確立する。
  論文  参考訳（メタデータ） (2025-11-10T18:29:54Z)
• Training Task Reasoning LLM Agents for Multi-turn Task Planning via Single-turn Reinforcement Learning [15.393743659727926]
  大規模言語モデル(LLM)は、知識獲得、推論、ツール使用において顕著な能力を示した。 本稿では,マルチターンタスク計画を単一ターンタスク推論問題に変換する新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-09-24T23:47:36Z)
• Supervised Chain of Thought [5.389461633686935]
  Chain of Thought (CoT)は複雑な推論タスクを解決するための有望なアプローチを提供する。 ワンプロンプト・フォー・オールアプローチは、正しい推論ステップを生成するためにモデルに重大な課題をもたらす。 タスク固有の監督が、プロンプト空間を正確にナビゲートし、最適な性能を達成するためにいかに重要であるかを示す。
  論文  参考訳（メタデータ） (2024-10-18T06:25:27Z)
• Limits of Deep Learning: Sequence Modeling through the Lens of Complexity Theory [15.24542569393982]
  彼らの成功にもかかわらず、ディープラーニングモデルは複雑な推論と機能構成を必要とするタスクに苦しむ。 本研究では,SSM(Structured State Space Models)とTransformer(Transformer)の制約に関する理論的および実証的研究を行う。 信頼性の高い多段階推論と構成課題解決を実現するための革新的なソリューションの必要性を強調した。
  論文  参考訳（メタデータ） (2024-05-26T19:33:23Z)
• When does In-context Learning Fall Short and Why? A Study on Specification-Heavy Tasks [54.71034943526973]
  In-context Learning (ICL)は、大規模言語モデル(LLM)のデフォルトメソッドとなっている。 ICLは、複雑で広範囲なタスク仕様を持つタスクである、仕様の重いタスクを処理できないことが分かりました。 我々は、コンテキストを具体的に理解できないこと、タスクスキーマが人間と理解できないこと、長文理解が不十分であること、の3つの主な理由を識別する。
  論文  参考訳（メタデータ） (2023-11-15T14:26:30Z)
• Improving Long-Horizon Imitation Through Instruction Prediction [93.47416552953075]
  本研究では、しばしば使われない補助的監督源である言語の使用について検討する。 近年のトランスフォーマーモデルの発展にインスパイアされたエージェントは,高レベルの抽象化で動作する時間拡張表現の学習を促す命令予測損失を持つエージェントを訓練する。 さらなる分析では、複雑な推論を必要とするタスクにおいて、命令モデリングが最も重要であり、単純な計画を必要とする環境において、より小さなゲインを提供する。
  論文  参考訳（メタデータ） (2023-06-21T20:47:23Z)
• Generalizing to New Tasks via One-Shot Compositional Subgoals [23.15624959305799]
  以前は見つからなかったタスクをほとんど、あるいはまったく監督せずに一般化する能力は、現代の機械学習研究において重要な課題である。 適応型「近未来」サブゴールを用いて、模倣学習エージェントを訓練することにより、これらの問題に対処しようとするCASEを導入する。 実験の結果,提案手法は従来よりも30%向上していることがわかった。
  論文  参考訳（メタデータ） (2022-05-16T14:30:11Z)
• In Defense of the Unitary Scalarization for Deep Multi-Task Learning [121.76421174107463]
  本稿では,多くの特殊マルチタスクを正規化の形式として解釈できることを示唆する理論解析について述べる。 標準正規化と安定化技術と組み合わせると、ユニタリスカラー化は複雑なマルチタスクの性能にマッチし、改善することを示す。
  論文  参考訳（メタデータ） (2022-01-11T18:44:17Z)
• CausalWorld: A Robotic Manipulation Benchmark for Causal Structure and Transfer Learning [138.40338621974954]
  CausalWorldは、ロボット操作環境における因果構造と伝達学習のベンチマークである。 タスクは、ブロックのセットから3D形状を構築することで構成される。
  論文  参考訳（メタデータ） (2020-10-08T23:01:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。