論文の概要: Trivial Vocabulary Bans Improve LLM Reasoning More Than Deep Linguistic Constraints
- arxiv url: http://arxiv.org/abs/2604.02699v1
- Date: Fri, 03 Apr 2026 03:48:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-06 17:20:24.312229
- Title: Trivial Vocabulary Bans Improve LLM Reasoning More Than Deep Linguistic Constraints
- Title(参考訳): 言語学の制約を超過したLLM推論を「トライボキャブラリ」で禁止
- Authors: Rodney Jehu-Appiah,
- Abstract要約: 前回の研究では、E-Primeは言語モデルにおいて選択的に推論を変更したと報告された。
提案したメカニズムをテストするために,アクティブなコントロールを備えたレプリケーションを設計しました。
これらの知見は不確認による発見の事例研究として提示する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: A previous study reported that E-Prime (English without the verb "to be") selectively altered reasoning in language models, with cross-model correlations suggesting a structural signature tied to which vocabulary was removed. I designed a replication with active controls to test the proposed mechanism: cognitive restructuring through specific vocabulary-cognition mappings. The experiment tested five conditions (unconstrained control, E-Prime, No-Have, elaborated metacognitive prompt, neutral filler-word ban) across six models and seven reasoning tasks (N=15,600 trials, 11,919 after compliance filtering). Every prediction from the cognitive restructuring hypothesis was disconfirmed. All four treatments outperformed the control (83.0%), including both active controls predicted to show null effects. The neutral filler-word ban, banning words like "very" and "just" with no role in logical inference, produced the largest improvement (+6.7 pp), while E-Prime produced the smallest (+3.7 pp). The four conditions ranked in perfect inverse order of theoretical depth. The cross-model correlation signature did not replicate (mean r=0.005). These results are consistent with a simpler mechanism: any constraint that forces a model off its default generation path acts as an output regularizer, improving reasoning by disrupting fluent but shallow response patterns. The shallowest constraints work best because they impose monitoring load with minimal conceptual disruption. I present these findings as a case study in discovery through disconfirmation.
- Abstract(参考訳): 前回の研究では、E-Prime(動詞 "to be" を含まない英語)は言語モデルにおいて選択的に推論を変化させており、言語モデル間の相関は、語彙が取り除かれた構造的シグネチャを示唆している。
私は,特定の語彙認識マッピングによる認知的再構成という,提案するメカニズムをテストするために,能動的制御を用いた複製を設計した。
実験では、6つのモデルと7つの推論タスク(N=15,600試験、コンプライアンス・フィルタリング後の11,919回)で5つの条件(制約のない制御、E-Prime、No-Have、メタ認知的プロンプト、中性フィラーワード禁止)をテストした。
認知的再構成仮説からの全ての予測は不確定であった。
4つの治療はいずれも、無効効果を示すと予測された2つのアクティブコントロールを含むコントロール(83.0%)を上回った。
中立的なフィラーワード禁止は、論理的推論に何の役割も持たない「very」や「just」のような単語を禁止し、最大の改善(+6.7 pp)を生み出し、E-Primeは最小の(+3.7 pp)を生み出した。
4つの条件は理論的な深さの完全な逆順にランク付けされた。
モデル間相関符号は複製されなかった(平均r=0.005)。
これらの結果は単純なメカニズムと一致している: モデルをデフォルト生成パスから外すような制約は、出力正則化器として機能し、流れるが浅い応答パターンを乱すことで推論を改善する。
最も浅い制約は、最小限の概念的破壊を伴う監視負荷を課すため、最もうまく機能する。
これらの知見は不確認による発見の事例研究として提示する。
関連論文リスト
- The Model Says Walk: How Surface Heuristics Override Implicit Constraints in LLM Reasoning [9.898274894485107]
大きな言語モデルは、サージェントサーフェスキューが計算不可能な実行可能性制約と競合する場合に、体系的に失敗する。
診断・診断・ブリッジ・トリート・フレームワークを用いてこれを研究する。
論文 参考訳(メタデータ) (2026-03-30T21:36:09Z) - Umwelt Engineering: Designing the Cognitive Worlds of Linguistic Agents [0.0]
スタック・スタック・エンジニアリングにおける第3層として言語認知環境の設計を提案する。
2つの実験は、推論の媒質を変えることがそれ自体を変えるという仮説を検証した。
論文 参考訳(メタデータ) (2026-03-29T10:49:50Z) - Stop Spinning Wheels: Mitigating LLM Overthinking via Mining Patterns for Early Reasoning Exit [114.83867400179354]
オーバーライドは、大きな言語モデル全体のパフォーマンスを低下させる可能性がある。
推論は, 探索段階の不足, 補償推論段階, 推論収束段階の3段階に分類される。
我々は,ルールに基づく軽量なしきい値設定戦略を開発し,推論精度を向上させる。
論文 参考訳(メタデータ) (2025-08-25T03:17:17Z) - Chain-of-Defensive-Thought: Structured Reasoning Elicits Robustness in Large Language Models against Reference Corruption [51.98089842456886]
そこで本研究では,大規模な言語モデルにおいて,チェーン・オブ・ディフェンシブ・思想と呼ばれる単純な手法を用いて,参照破損に対するロバスト性を大幅に向上したことを示す。
特に、メソッドの単純さと適用性を考えると、この改善は驚くべきものです。
論文 参考訳(メタデータ) (2025-04-29T13:50:05Z) - SEAL: Steerable Reasoning Calibration of Large Language Models for Free [58.931194824519935]
大規模言語モデル(LLM)は、拡張チェーン・オブ・ソート(CoT)推論機構を通じて複雑な推論タスクに魅力的な機能を示した。
最近の研究では、CoT推論トレースにかなりの冗長性が示されており、これはモデル性能に悪影響を及ぼす。
我々は,CoTプロセスをシームレスに校正し,高い効率性を示しながら精度を向上する,トレーニング不要なアプローチであるSEALを紹介した。
論文 参考訳(メタデータ) (2025-04-07T02:42:07Z) - Distilling Reasoning Ability from Large Language Models with Adaptive Thinking [54.047761094420174]
思考の微調整(cot-finetuning)の連鎖は、小さな言語モデル(SLM)を特定のタスクに対するパフォーマンス向上の推論能力で実現することを目的としている。
既存のコトファインタニング法の多くは事前に考えられたメカニズムを採用しており、SLMは答えを出す前に理性を生成することができる。
このメカニズムにより、SLMは複雑な質問を分析して考えることができるが、答えの正しさは論理的に小さな誤りに非常に敏感になる。
理性よりも先に回答を生成するための頑健な後思考機構を提案する。
論文 参考訳(メタデータ) (2024-04-14T07:19:27Z) - On the Self-Verification Limitations of Large Language Models on Reasoning and Planning Tasks [17.329365493094542]
ゲーム・オブ・24(Game of 24)とグラフカラー化(Graph Coloring)とSTRIPSプランニング(STRIPS Planning)の3分野において,GPT-4の性能に関する実証的研究を行った。
我々は,自己批判による顕著なパフォーマンス崩壊と,音外検証による顕著なパフォーマンス向上を観察した。
論文 参考訳(メタデータ) (2024-02-12T23:11:01Z) - Large Language Models are Better Reasoners with Self-Verification [48.534270563880845]
大規模言語モデル(LLM)は、いくつかの自然言語処理タスクにおいて強力な推論能力を示している。
思考の連鎖(CoT)を促進させるLLMは、個別のミスに非常に敏感な、多段階のプロンプトと多段階の予測を必要とする。
また,LLMにも同様な自己検証能力があることを示す。
論文 参考訳(メタデータ) (2022-12-19T15:51:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。