論文の概要: Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding

• arxiv url: http://arxiv.org/abs/2605.09271v1
• Date: Sun, 10 May 2026 02:42:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.155766
• Title: Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding
• Title（参考訳）: LLMインテリジェンス拡張のための次世代フロンティアとしての言語表現によるスキーマ形成
• Authors: Zhiqin Yang, Yuhan Liu, Jingwen Fu, Pei Fu anf Bo Han, Masashi Sugiyama, Nanning Zheng,
• Abstract要約: 本稿では,言語表現を実世界の地図化とモデル化に使用される言語的・象徴的構造として定義する。 我々は、高度な言語表現によるスキーマ形成が、大規模言語モデルの拡張の次のフロンティアであると主張している。
• 参考スコア（独自算出の注目度）: 88.11781604392606
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although natural language is the default medium for Large Language Models (LLMs), its limited expressive capacity creates a profound bottleneck for complex problem-solving. While recent advancements in AI have relied heavily on scaling, merely internalizing knowledge does not guarantee its effective application. Defining language representation as the linguistic and symbolic constructs used to map and model the real world, this paper argues that shaping schemas through advanced language representation is the next frontier for expanding LLM intelligence. We posit that an LLM's knowledge activation and organization -- its schema -- depends heavily on the structural and symbolic sophistication of the language used to represent a given task. This paper contributes both a formalization of this claim and the empirical evidence to support it. With a new formalization, we present multiple lines of evidence to support our position: Firstly, we review recent empirical practices and emerging methodologies that demonstrate the substantial performance gains achievable through deliberate language representation design, even without modifying model parameters or scale. Secondly, we conduct controlled experiments showing that LLM performance and its internal feature activations vary under different language representations of the same underlying task. Together, these findings highlight language representation design as a promising direction for future research.
• Abstract（参考訳）: 自然言語はLarge Language Models(LLMs)のデフォルトの媒体であるが、その表現能力の制限は複雑な問題解決に重大なボトルネックをもたらす。 最近のAIの進歩は、スケーリングに大きく依存しているが、単に知識を内部化するだけでは、その効果的な応用が保証されない。 言語表現を実世界の地図化とモデル化に使用する言語的・記号的構造として定義する上で,先進言語表現によるスキーマ形成がLLMインテリジェンスの拡大の次のフロンティアである,と論じる。 LLMの知識の活性化と組織、そのスキーマは、与えられたタスクを表すために使用される言語の構造的および象徴的洗練に大きく依存していると仮定する。 本稿では,この主張の形式化とそれを支持する実証的証拠の両立に寄与する。 第一に、モデルパラメータやスケールを変更することなく、意図的な言語表現設計によって、実質的なパフォーマンス向上が達成可能であることを示す最近の経験的実践と新しい方法論をレビューします。 第2に、LLMの性能とその内部的特徴アクティベーションが、同じタスクの異なる言語表現の下で異なることを示す制御実験を行う。 これらの知見は、言語表現設計を将来の研究の有望な方向性として強調するものである。

関連論文リスト

• Language Surgery in Multilingual Large Language Models [39.66404344691661]
  大規模言語モデル(LLM)はタスクや言語にまたがる顕著な一般化機能を示している。 本稿では, LLMにおける自然に出現する表現アライメント, 特に中層における表現アライメントについて検討する。 Inference-Time Language Control (ITLC) を提案する。
  論文  参考訳（メタデータ） (2025-06-14T11:09:50Z)
• LinguaLens: Towards Interpreting Linguistic Mechanisms of Large Language Models via Sparse Auto-Encoder [47.81850176849213]
  スパースオートエンコーダ(SAE)に基づく大規模言語モデルの言語メカニズム解析のためのフレームワークを提案する。 我々は4次元(形態学、構文学、意味論、プラグマティクス)にわたる中国語と英語の言語的特徴を幅広く抽出する。 本研究は, LLMにおける言語知識の内在的表現, 層間および言語間分布のパターンを明らかにし, モデル出力の制御の可能性を示した。
  論文  参考訳（メタデータ） (2025-02-27T18:16:47Z)
• Large Language Models are Interpretable Learners [53.56735770834617]
  本稿では,Large Language Models(LLM)とシンボルプログラムの組み合わせによって,表現性と解釈可能性のギャップを埋めることができることを示す。 自然言語プロンプトを持つ事前訓練されたLLMは、生の入力を自然言語の概念に変換することができる解釈可能な膨大なモジュールセットを提供する。 LSPが学んだ知識は自然言語の記述と記号規則の組み合わせであり、人間(解釈可能)や他のLLMに容易に転送できる。
  論文  参考訳（メタデータ） (2024-06-25T02:18:15Z)
• How Proficient Are Large Language Models in Formal Languages? An In-Depth Insight for Knowledge Base Question Answering [52.86931192259096]
  知識ベース質問回答(KBQA)は,知識ベースにおける事実に基づいた自然言語質問への回答を目的としている。 最近の研究は、論理形式生成のための大規模言語モデル(LLM)の機能を活用して性能を向上させる。
  論文  参考訳（メタデータ） (2024-01-11T09:27:50Z)
• Shortcut Learning of Large Language Models in Natural Language Understanding [119.45683008451698]
  大規模言語モデル(LLM)は、一連の自然言語理解タスクにおいて最先端のパフォーマンスを達成した。 予測のショートカットとしてデータセットのバイアスやアーティファクトに依存するかも知れません。 これは、その一般化性と敵対的堅牢性に大きな影響を与えている。
  論文  参考訳（メタデータ） (2022-08-25T03:51:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。