論文の概要: Large Language Models Do Not Always Need Readable Language

• arxiv url: http://arxiv.org/abs/2606.19857v1
• Date: Thu, 18 Jun 2026 07:05:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-19 18:23:39.691962
• Title: Large Language Models Do Not Always Need Readable Language
• Title（参考訳）: 大規模言語モデルは読みやすい言語を常に必要としない
• Authors: Jiayi Zhu, Haoxuan Peng, Junxi Wang, Liang Ke, Chen Zhang, Linfeng Zhang,
• Abstract要約: 本稿では,意味情報をコンパクトで非標準のテキスト形式でエンコードできるかどうかについて検討する。 このモデル中心のテキスト表現のクラスをBabelTeleと呼ぶ。 BabelTele は命令調整 LLM のコアセマンティクスを保ちながら,通常の自然言語からかなり離れることができることがわかった。
• 参考スコア（独自算出の注目度）: 13.557821889758339
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are commonly prompted and interfaced with human-readable natural language, even when the intended reader is another model. This paper investigates whether semantic information can be encoded in compact, non-standard textual forms that sacrifice human readability while remaining recoverable by LLMs. We refer to this class of model-centric textual representations as BabelTele, approached here not as a fixed protocol but as an empirical probe into LLMs' capacity to generate and interpret such representations. Through readability diagnostics, model likelihood measures, human questionnaires, and downstream task evaluations, we find that BabelTele can substantially depart from ordinary natural language while preserving core semantics for instruction-tuned LLMs. As a task-agnostic representational paradigm, BabelTele demonstrates high information density, maintaining 99.5% semantic fidelity even when the text volume is condensed to 27.9% of its original length. We further evaluate its semantic robustness in cross-model transfer, agent memory, and multi-agent communication. Results suggest that BabelTele can reduce context overhead while generally maintaining reliable downstream performance, although its effectiveness depends on the compressor-reader pair and task setting. These findings indicate that human readability, natural-language typicality, and model-side semantic recoverability can be partially decoupled, opening a path toward model-native representations in future exploration of LLM systems.
• Abstract（参考訳）: 大型言語モデル(LLM)は、意図した読者が別のモデルである場合でも、一般に誘導され、人間が読める自然言語でインタフェースされる。 本稿では,LLMによって復元可能ながら,人間の読みやすさを損なうような,コンパクトで非標準テキスト形式で意味情報をエンコードできるかどうかを考察する。 我々は、このモデル中心のテキスト表現のクラスをBabelTeleと呼び、ここでは固定されたプロトコルではなく、そのような表現を生成・解釈するLLMの能力に関する実証的な調査としてアプローチした。 可読性診断,モデル可能性尺度,人的アンケート,下流タスク評価を通じて,BabelTeleは通常の自然言語からかなり離れることができ,学習指導用LLMのコアセマンティクスを保存できることがわかった。 タスクに依存しない表現パラダイムとして、BabelTeleは高情報密度を示し、テキストボリュームが元の長さの27.9%に縮約された場合でも、99.5%のセマンティック忠実さを維持している。 さらに、クロスモデル転送、エージェントメモリ、マルチエージェント通信におけるセマンティックロバスト性を評価する。 結果から,BabelTeleは,コンプレッサー-リーダペアとタスク設定に依存するが,信頼性の高いダウンストリーム性能を維持しつつ,コンテキストオーバーヘッドを低減できることが示唆された。 これらの結果は,人間の可読性,自然言語の典型性,モデル側セマンティックリカバリ性が部分的に切り離され,将来のLLMシステムの探索におけるモデルネイティブ表現への道を開くことを示唆している。

関連論文リスト

• Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding [88.11781604392606]
  本稿では,言語表現を実世界の地図化とモデル化に使用される言語的・象徴的構造として定義する。 我々は、高度な言語表現によるスキーマ形成が、大規模言語モデルの拡張の次のフロンティアであると主張している。
  論文  参考訳（メタデータ） (2026-05-10T02:42:29Z)
• Computational Turing Test Reveals Systematic Differences Between Human and AI Language [0.0]
  大規模言語モデル(LLM)は、人間の振る舞いをシミュレートするために社会科学でますます使われている。 既存の検証努力は人的判断に基づく評価に大きく依存している。 本稿では,LLMが人間の言語にどの程度近いかを評価するために,計算チューリングテストを提案する。
  論文  参考訳（メタデータ） (2025-11-06T08:56:37Z)
• Boosting the Capabilities of Compact Models in Low-Data Contexts with Large Language Models and Retrieval-Augmented Generation [2.9921619703037274]
  本稿では,形態素解析の言語タスクにおいて,より小さなモデルの出力を補正するために,大言語モデル(LLM)を基盤とした検索拡張生成(RAG)フレームワークを提案する。 データ不足や訓練可能なパラメータの不足を補うために,言語情報を活用するとともに,LLMを通して解釈・蒸留された記述文法からの入力を許容する。 コンパクトなRAG支援モデルがデータスカース設定に極めて有効であることを示し、このタスクとターゲット言語に対する新しい最先端技術を実現する。
  論文  参考訳（メタデータ） (2024-10-01T04:20:14Z)
• CoAnnotating: Uncertainty-Guided Work Allocation between Human and Large Language Models for Data Annotation [94.59630161324013]
  本稿では,非構造化テキストの大規模共同アノテーションのための新しいパラダイムであるCoAnnotatingを提案する。 我々の実証研究は、CoAnnotatingが、異なるデータセット上の結果から作業を割り当てる効果的な手段であることを示し、ランダムベースラインよりも最大21%のパフォーマンス改善を実現している。
  論文  参考訳（メタデータ） (2023-10-24T08:56:49Z)
• Let Models Speak Ciphers: Multiagent Debate through Embeddings [84.20336971784495]
  この問題を解決するためにCIPHER(Communicative Inter-Model Protocol Through Embedding Representation)を導入する。 自然言語から逸脱することで、CIPHERはモデルの重みを変更することなく、より広い範囲の情報を符号化する利点を提供する。 このことは、LLM間の通信における代替の"言語"としての埋め込みの優越性と堅牢性を示している。
  論文  参考訳（メタデータ） (2023-10-10T03:06:38Z)
• Generation-driven Contrastive Self-training for Zero-shot Text Classification with Instruction-following LLM [31.25193238045053]
  我々は、より小さな言語モデルの訓練を支援するために、大規模言語モデルの強力な生成力を利用する新しい手法、GenCoを導入する。 本手法では,LLMは2つの重要な方法で,より小さなモデルの自己学習ループにおいて重要な役割を果たす。 予測ラベルに条件付き入力テキストを書き換えることで、高品質なトレーニングペアの開発を支援する。
  論文  参考訳（メタデータ） (2023-04-24T07:35:38Z)
• Emergent Linguistic Structures in Neural Networks are Fragile [20.692540987792732]
  大規模言語モデル (LLM) は自然言語処理タスクにおいて高い性能を示すと報告されている。 言語表現の一貫性と堅牢性を評価するための枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T15:43:57Z)
• Language Model Pre-Training with Sparse Latent Typing [66.75786739499604]
  そこで本研究では,多種多様な潜在型を持つ文レベルのキーワードを疎に抽出することのできる,事前学習対象Sparse Latent Typingを提案する。 実験結果から,本モデルは外部知識を使わずに,自己教師型で解釈可能な潜在型カテゴリを学習できることが示唆された。
  論文  参考訳（メタデータ） (2022-10-23T00:37:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。