論文の概要: The Capability Manifold and ML Scaling Laws

• arxiv url: http://arxiv.org/abs/2609.27588v1
• Date: Wed, 23 Sep 2026 09:08:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.963822
• Title: The Capability Manifold and ML Scaling Laws
• Title（参考訳）: 機能マニフォールドとMLスケーリングの法則
• Abstract要約: 我々は,有界スケーリング機能による事前学習,ポストトレーニング,テストタイムリソースのための多次元フレームワークマッピング機能を導入する。 最初のアプリケーションとして、Kaplan型およびChinchilla型スケーリング法則とテスト時間計算をフレームワークに組み込んで、既存のスケーリング関係を共通の機能多様体上のトラジェクトリとして統一する方法を実証する。
• 参考スコア（独自算出の注目度）: 0.2578242050187029
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Existing machine learning (ML) scaling laws relate predictive loss to compute, model parameters, and data. However, as models are increasingly deployed through agentic harnesses, loss alone is insufficient to characterize downstream performance: models with similar loss can exhibit different capabilities in reasoning, retrieval, planning, and adaptation. Yet, no unified framework connects such capabilities to the coupled resources available across the ML lifecycle. We bridge this gap by introducing a capability manifold, a multidimensional framework mapping downstream capabilities to pre-training, post-training, and test-time resources through bounded scaling functions. Analytical Jacobians quantify capability sensitivity to resource changes and interactions. As an initial application, we embed Kaplan- and Chinchilla-type scaling laws and test-time compute within the framework, demonstrating how existing scaling relationships can be unified as trajectories on a common capability manifold.
• Abstract（参考訳）: 既存の機械学習(ML)スケーリング法則は、予測損失を計算、モデルパラメータ、データに関連付ける。 しかし、エージェントハーネスによってモデルがますます展開されるにつれて、ダウンストリームのパフォーマンスを特徴づけるには損失だけでは不十分である。 しかし、このような機能をMLライフサイクル全体で利用可能なリソースに結合する統合されたフレームワークは存在しない。 このギャップを、有界スケーリング機能を通じて、事前トレーニング、ポストトレーニング、テストタイムリソースにダウンストリーム機能をマッピングする多次元フレームワークである機能多様体を導入することで埋める。 分析的ジャコビアン(Analytical Jacobians)は、資源の変化と相互作用に対する能力感受性を定量化する。 最初のアプリケーションとして、Kaplan型およびChinchilla型スケーリング法則とテスト時間計算をフレームワークに組み込んで、既存のスケーリング関係を共通の機能多様体上のトラジェクトリとして統一する方法を実証する。

関連論文リスト

• On Neural Scaling Laws for Weather Emulation through Continual Training [76.70310203875866]
  我々はScientific Machine Learningにおけるニューラルスケーリングについて研究し、天気予報モデルに焦点を当てた。 可能な限り簡単な設定でスケーリング動作を解析するために、最小限でスケーラブルで汎用的なSwin Transformerアーキテクチャを採用する。 この最小限の方法でトレーニングされたモデルは、予測可能なスケーリングトレンドに従っており、標準的なコサイン学習率のスケジュールよりも優れています。
  論文  参考訳（メタデータ） (2026-03-26T17:37:25Z)
• Enhancing material behavior discovery using embedding-oriented Physically-Guided Neural Networks with Internal Variables [0.0]
  内部変数を持つ物理的ガイド付きニューラルネットワークは、トレーニングや内部状態関係の解明に可観測データのみを使用するSciMLツールである。 それらの可能性にもかかわらず、これらのモデルは、細粒度空間場や時間進化システムのような高次元データに適用する場合、スケーラビリティの課題に直面している。 本稿では,これらのスケーラビリティの限界に対処するPGNNIVフレームワークの改良について,低次モデリング手法を用いて提案する。
  論文  参考訳（メタデータ） (2025-08-01T12:33:21Z)
• A Data-Driven Machine Learning Approach for Predicting Axial Load Capacity in Steel Storage Rack Columns [0.0]
  冷間成形鋼構造物の軸受荷重特性を予測するための機械学習(ML)フレームワークを提案する。 この方法論は堅牢なモデル選択と解釈可能性を強調し、従来の分析手法の限界に対処する。
  論文  参考訳（メタデータ） (2025-07-22T10:16:53Z)
• DSMoE: Matrix-Partitioned Experts with Dynamic Routing for Computation-Efficient Dense LLMs [86.76714527437383]
  本稿では,事前学習したFFN層を計算ブロックに分割することで,分散化を実現するDSMoEを提案する。 我々は,Sigmoid アクティベーションとストレートスルー推定器を用いた適応型エキスパートルーティングを実装し,トークンがモデル知識の様々な側面に柔軟にアクセスできるようにする。 LLaMAモデルを用いた実験により、DSMoEは既存のプルーニング法やMoE法に比べて優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-02-18T02:37:26Z)
• Meta-Statistical Learning: Supervised Learning of Statistical Inference [59.463430294611626]
  この研究は、大きな言語モデル(LLM)の成功を駆動するツールと原則が、分散レベルのタスクに取り組むために再利用可能であることを実証している。 本稿では,統計的推論タスクを教師付き学習問題として再構成するマルチインスタンス学習に触発されたメタ統計学習を提案する。
  論文  参考訳（メタデータ） (2025-02-17T18:04:39Z)
• Machine learning for structure-property relationships: Scalability and limitations [3.664479980617018]
  本稿では,多体システムの集中特性,特に分類フェーズを予測するためのスケーラブル機械学習(ML)フレームワークを提案する。 局所性仮定に基づいて,有限サイズのブロックの集中特性の予測のためにMLモデルを開発した。 本手法の適用性は,MLモデルのブロックサイズがシステムの特徴的長さスケールよりも大きいかどうかに依存する。
  論文  参考訳（メタデータ） (2023-04-11T21:17:28Z)
• Switchable Representation Learning Framework with Self-compatibility [50.48336074436792]
  自己整合性(SFSC)を考慮した交換可能な表現学習フレームワークを提案する。 SFSCは1つのトレーニングプロセスを通じて、異なる能力を持つ一連の互換性のあるサブモデルを生成する。 SFSCは評価データセット上で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-06-16T16:46:32Z)
• Controlling for sparsity in sparse factor analysis models: adaptive latent feature sharing for piecewise linear dimensionality reduction [2.896192909215469]
  本稿では,現在潜伏している特徴分解技術の鍵となる限界に対処できる,シンプルでトラクタブルな特徴割り当てモデルを提案する。 適応型因子分析(aFA)と適応型確率的原理成分分析(aPPCA)を応用し,柔軟な構造発見と次元減少を実現する。 APPCAとaFAは、生のMNISTに適用した場合と、オートエンコーダの特徴を解釈する場合の両方において、高いレベルの特徴を推測できることを示す。
  論文  参考訳（メタデータ） (2020-06-22T16:09:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。