論文の概要: Articulation Upper Bounds for Language Models

• arxiv url: http://arxiv.org/abs/2610.19721v1
• Date: Wed, 14 Oct 2026 07:47:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.020203
• Title: Articulation Upper Bounds for Language Models
• Title（参考訳）: 言語モデルのための調音上界
• Abstract要約: それぞれの概念が2つのLLM間でどれだけうまく伝達できるかを測定する。 最適なメッセージで伝達される概念の透過性は、送信機と受信機容量が増加するにつれて増大する。 8つの領域で1.2kの概念を測ると、(a)が完全に調音できるという概念が見つかる。 これらの概念の意味は、アイデンティティと社会集団の認識と結びついている。
• 参考スコア（独自算出の注目度）: 100.6089240273656
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language captures only a subset of the perceptions, intuitions and intents that form meaning between speakers. What, then, are the limits of language? We take steps towards measuring this in LLMs as follows: for a set of concepts, we measure how well each concept can be transmitted between two LLMs as their capabilities scale. This requires novel measurement tools: (1) optimal messages: we introduce a prompt optimization algorithm that beats existing algorithms by up to 14% on benchmarks and accurately estimates prompt upper bounds. (2) A transmission measure: the sender is asked to label text; the receiver then tries to recover the sender's prompt, and recovery is measured; we find this correlates strongly with human label error. With these measures, we use observational scaling laws to study how transmissibility of a concept, conveyed with optimal messages, increases as transmitter and receiver capacity grows: does it asymptote below or above a threshold? Measuring 1.2k concepts in eight domains, we find concepts that (a) can be fully articulated; these concepts usually depend on local patterns, e.g. "joke ends with surprise"; (b) might be articulated by future, stronger models; these rely on whole-text structural patterns, e.g. "story's worldbuilding coherence"; (c) concepts that face articulability limits; these concepts' meaning, we find, is tied to identity and social-group awareness, e.g. "comic voice". Interesting, these same concepts are not all challenging for humans: humans have moderate-to-high levels of agreement in 76% of concepts that LLMs struggle with; articulation limits, we find, are executor relative. Finally, we characterize the nature of improvement in each case: while recoverable concepts can be articulated through definitions and explanations, irrecoverable concepts cannot be transmitted, even with examples, and might require novel learning mechanisms.
• Abstract（参考訳）: 言語は、話者間の意味を形成する知覚、直観、意図のサブセットのみをキャプチャする。 では、言語の限界は何か? 概念の集合に対して、各概念が2つのLLM間でどれだけうまく伝達できるかをその能力の尺度として測定する。 1) 最適なメッセージ: 既存のアルゴリズムに最大14%の精度で勝るプロンプト最適化アルゴリズムを導入し、プロンプト上限を正確に推定する。 2)送信手段:送信者がテキストのラベル付けを依頼され,受信者が送信者のプロンプトを回復しようとすると,リカバリが測定される。 これらの措置により、最適なメッセージで伝達され、送信機と受信機容量が増大するにつれて、概念の透過性がどのように増加するかを研究するために、観測スケーリング法を用いています。 8つの領域で1.2kの概念を測ると、私たちはその概念を見つけます。 a)は、完全に調音できる;これらの概念は、通常、局所的なパターン、例えば「驚きで終わる」に依存する。 b) 将来的な,より強力なモデルによって具体化される場合があり,これらは,例えば「物語の世界構築コヒーレンス」のように,全文構造パターンに依存している。 (c)芸術性に限界に直面している概念:これらの概念の意味は、アイデンティティと社会集団の認識に結びついている。 人間はLLMが苦労する概念の76%で中程度から高いレベルの合意を持っている。 最後に、各事例における改善の性質を特徴づける: 回復可能な概念は定義や説明を通じて記述できるが、発見不可能な概念は例でも伝達できず、新しい学習メカニズムを必要とする可能性がある。

関連論文リスト

• Verifiable, Articulable, and Tacit Components of Preference [115.39287436225764]
  317万人の嗜好判断によってラベル付けされた2.8万のテキストを含む、大規模でラベル付き選好データセットCreativePreferencesを導入する。 VAT-VA, 検証可能性ギャップ, 検証可能性ギャップ, VAT-Vを観測し, 新たな測定手法により各ギャップの上下境界を推定した。 1)人間の世代において、完全なモデルは人間の嗜好とより密接な一致を示し、しばしば明瞭な基準に相容れないこと、(2)グッドハートの法則に類似して、嗜好を暗黙の次元から切り離すこと、である。
  論文  参考訳（メタデータ） (2026-10-02T09:01:07Z)
• Dialectics for Artificial Intelligence [24.816514958011442]
  人工知能は生の経験から、人間の監督なしに、人間が発見した概念を発見できるのか? ひとつの課題は、調査が進むにつれて、概念境界がシフトし、分割し、統合できることです。 本稿では,エージェントの全体体験と構造的関係からのみ定義された情報オブジェクトとして概念を扱うアルゴリズム情報視点を提案する。
  論文  参考訳（メタデータ） (2025-12-19T09:17:21Z)
• A Geometric Unification of Concept Learning with Concept Cones [58.70836885177496]
  解釈可能性の2つの伝統は、並べて進化してきたが、互いに話すことはめったにない:概念ボトルネックモデル(CBM)とスパースオートエンコーダ(SAE)。 両パラダイムが同じ幾何学的構造をインスタンス化することを示す。 CBMは人間の定義した参照ジオメトリを提供するが、SAEは学習した円錐がCBMをどの程度よく近似するか、あるいは包含しているかによって評価することができる。
  論文  参考訳（メタデータ） (2025-12-08T09:51:46Z)
• Improving Large Language Models with Concept-Aware Fine-Tuning [55.59287380665864]
  概念認識ファインチューニング(CAFT)は,大規模言語モデル(LLM)のための新しいマルチトークン学習手法である CAFTは複数のトークンにまたがるシーケンスの学習を可能にし、より強力な概念認識学習を促進する。 実験は、従来の次世代ファインタニング法と比較して大幅に改善された。
  論文  参考訳（メタデータ） (2025-06-09T14:55:00Z)
• Soft Thinking: Unlocking the Reasoning Potential of LLMs in Continuous Concept Space [62.54887038032942]
  ソフトシンキング(Soft Thinking)は、ソフトで抽象的な概念トークンを生成することによって、人間のような「ソフト」推論をエミュレートする訓練不要な手法である。 これらの概念トークンは、連続的な概念空間を形成するトークン埋め込みの確率重み付き混合によって生成される。 本質的に、生成された概念トークンは関連する離散トークンから複数の意味をカプセル化し、暗黙的に様々な推論経路を探索する。
  論文  参考訳（メタデータ） (2025-05-21T17:29:15Z)
• Everybody Needs a Little HELP: Explaining Graphs via Hierarchical Concepts [12.365451175795338]
  グラフニューラルネットワーク(GNN)は、薬物発見、ソーシャルネットワーク分析、旅行時間推定などの領域でブレークスルーをもたらしている。 人間の信頼を妨げる解釈性が欠如しているため、高い判断を下すような設定にデプロイされる。 HELPは、異なるGNN層の概念が後続のステップで新しい概念にどのように構成されるかを明らかにする、本質的に解釈可能な新しいグラフプーリング手法である。
  論文  参考訳（メタデータ） (2023-11-25T20:06:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。