論文の概要: Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding

• arxiv url: http://arxiv.org/abs/2605.09271v1
• Date: Sun, 10 May 2026 02:42:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.155766
• Title: Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding
• Title（参考訳）: LLMインテリジェンス拡張のための次世代フロンティアとしての言語表現によるスキーマ形成
• Abstract要約: 本稿では,言語表現を実世界の地図化とモデル化に使用される言語的・象徴的構造として定義する。 我々は、高度な言語表現によるスキーマ形成が、大規模言語モデルの拡張の次のフロンティアであると主張している。
• 参考スコア（独自算出の注目度）: 88.11781604392606
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although natural language is the default medium for Large Language Models (LLMs), its limited expressive capacity creates a profound bottleneck for complex problem-solving. While recent advancements in AI have relied heavily on scaling, merely internalizing knowledge does not guarantee its effective application. Defining language representation as the linguistic and symbolic constructs used to map and model the real world, this paper argues that shaping schemas through advanced language representation is the next frontier for expanding LLM intelligence. We posit that an LLM's knowledge activation and organization -- its schema -- depends heavily on the structural and symbolic sophistication of the language used to represent a given task. This paper contributes both a formalization of this claim and the empirical evidence to support it. With a new formalization, we present multiple lines of evidence to support our position: Firstly, we review recent empirical practices and emerging methodologies that demonstrate the substantial performance gains achievable through deliberate language representation design, even without modifying model parameters or scale. Secondly, we conduct controlled experiments showing that LLM performance and its internal feature activations vary under different language representations of the same underlying task. Together, these findings highlight language representation design as a promising direction for future research.
• Abstract（参考訳）: 自然言語はLarge Language Models(LLMs)のデフォルトの媒体であるが、その表現能力の制限は複雑な問題解決に重大なボトルネックをもたらす。 最近のAIの進歩は、スケーリングに大きく依存しているが、単に知識を内部化するだけでは、その効果的な応用が保証されない。 言語表現を実世界の地図化とモデル化に使用する言語的・記号的構造として定義する上で,先進言語表現によるスキーマ形成がLLMインテリジェンスの拡大の次のフロンティアである,と論じる。 LLMの知識の活性化と組織、そのスキーマは、与えられたタスクを表すために使用される言語の構造的および象徴的洗練に大きく依存していると仮定する。 本稿では,この主張の形式化とそれを支持する実証的証拠の両立に寄与する。 第一に、モデルパラメータやスケールを変更することなく、意図的な言語表現設計によって、実質的なパフォーマンス向上が達成可能であることを示す最近の経験的実践と新しい方法論をレビューします。 第2に、LLMの性能とその内部的特徴アクティベーションが、同じタスクの異なる言語表現の下で異なることを示す制御実験を行う。 これらの知見は、言語表現設計を将来の研究の有望な方向性として強調するものである。

関連論文リスト

• Can LLMs Translate Human Instructions into a Reinforcement Learning Agent's Internal Emergent Symbolic Representation? [3.7481642886700537]
  大規模言語モデル(LLM)が人間の自然言語命令を内部の記号表現に翻訳できるかどうかを検討する。 本研究では,異なる内部シンボル分割における翻訳性能の測定に構造化評価フレームワークを適用した。
  論文  参考訳（メタデータ） (2025-10-28T10:13:43Z)
• Schema for In-Context Learning [0.7850388075652649]
  In-context Learning (ICL) は、実演例に条件付けすることで、言語モデルが新しいタスクに適応できるようにする。 CONTEXT(SA-ICL)におけるSCHEMAの導入 この枠組みは, 先行事例から, 推論過程に対する認知の構成要素の表現を抽出する。 SA-ICLは、単一の実演例が高品質である場合、パフォーマンスを36.19パーセントまで継続的に向上させることを示す。
  論文  参考訳（メタデータ） (2025-10-14T21:00:15Z)
• Language Surgery in Multilingual Large Language Models [39.66404344691661]
  大規模言語モデル(LLM)はタスクや言語にまたがる顕著な一般化機能を示している。 本稿では, LLMにおける自然に出現する表現アライメント, 特に中層における表現アライメントについて検討する。 Inference-Time Language Control (ITLC) を提案する。
  論文  参考訳（メタデータ） (2025-06-14T11:09:50Z)
• LinguaLens: Towards Interpreting Linguistic Mechanisms of Large Language Models via Sparse Auto-Encoder [47.81850176849213]
  スパースオートエンコーダ(SAE)に基づく大規模言語モデルの言語メカニズム解析のためのフレームワークを提案する。 我々は4次元(形態学、構文学、意味論、プラグマティクス)にわたる中国語と英語の言語的特徴を幅広く抽出する。 本研究は, LLMにおける言語知識の内在的表現, 層間および言語間分布のパターンを明らかにし, モデル出力の制御の可能性を示した。
  論文  参考訳（メタデータ） (2025-02-27T18:16:47Z)
• Language Representations Can be What Recommenders Need: Findings and Potentials [57.90679739598295]
  先進的なLM表現から線形にマッピングされた項目表現は、より優れたレコメンデーション性能が得られることを示す。 この結果は、先進言語表現空間と効果的な項目表現空間との同型性を示唆している。 本研究は,自然言語処理とリコメンデーションシステムコミュニティの両方に刺激を与える言語モデリングと行動モデリングの関連性を強調した。
  論文  参考訳（メタデータ） (2024-07-07T17:05:24Z)
• Large Language Models are Interpretable Learners [53.56735770834617]
  本稿では,Large Language Models(LLM)とシンボルプログラムの組み合わせによって,表現性と解釈可能性のギャップを埋めることができることを示す。 自然言語プロンプトを持つ事前訓練されたLLMは、生の入力を自然言語の概念に変換することができる解釈可能な膨大なモジュールセットを提供する。 LSPが学んだ知識は自然言語の記述と記号規則の組み合わせであり、人間(解釈可能)や他のLLMに容易に転送できる。
  論文  参考訳（メタデータ） (2024-06-25T02:18:15Z)
• How Proficient Are Large Language Models in Formal Languages? An In-Depth Insight for Knowledge Base Question Answering [52.86931192259096]
  知識ベース質問回答(KBQA)は,知識ベースにおける事実に基づいた自然言語質問への回答を目的としている。 最近の研究は、論理形式生成のための大規模言語モデル(LLM)の機能を活用して性能を向上させる。
  論文  参考訳（メタデータ） (2024-01-11T09:27:50Z)
• The Quo Vadis of the Relationship between Language and Large Language Models [3.10770247120758]
  LLM(Large Language Models)は、LLMを言語科学モデルとして採用することを奨励している。 透明性に欠ける科学的モデルの導入によって引き起こされる最も重要な理論的および経験的リスクを特定します。 現在の開発段階において、LLMは言語に関する説明をほとんど提供していないと結論付けている。
  論文  参考訳（メタデータ） (2023-10-17T10:54:24Z)
• Shortcut Learning of Large Language Models in Natural Language Understanding [119.45683008451698]
  大規模言語モデル(LLM)は、一連の自然言語理解タスクにおいて最先端のパフォーマンスを達成した。 予測のショートカットとしてデータセットのバイアスやアーティファクトに依存するかも知れません。 これは、その一般化性と敵対的堅牢性に大きな影響を与えている。
  論文  参考訳（メタデータ） (2022-08-25T03:51:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。