論文の概要: Scaling Laws, Tabular Data and Actuarial Ratemaking Models

• arxiv url: http://arxiv.org/abs/2609.03106v1
• Date: Wed, 02 Sep 2026 19:40:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:38.84427
• Title: Scaling Laws, Tabular Data and Actuarial Ratemaking Models
• Title（参考訳）: スケーリング法則, タブラリデータ, アクチュアリレート生成モデル
• Abstract要約: 現代のディープラーニングにおける法則のスケーリングは、モデルキャパシティ、トレーニングデータ、計算量の増加として、ホールドアウト損失がどのように改善されるかを記述している。 本研究では,データ構造が表層,不均一,ノイズ,GLMなどの古典的モデルが強いベースラインを維持している場合において,規則性のスケーリングが生じるかどうかを考察する。 実世界の自動車保険ポートフォリオを用いて、トレーニングデータと複数のランダムシードの比率の増加にまたがって、異なる家族のモデルをトレーニングし、より低い値がより適していることを示すポアソン数予測の確率に基づく損失である、サンプル外偏差を評価する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Scaling laws in modern deep learning describe how held-out loss improves as model capacity, training data, and compute increase, often following power-law trends. We investigate whether analogous scaling regularities arise in actuarial ratemaking, where data are tabular, heterogeneous, and noisy, and where classical models such as GLMs remain strong baselines. Using a real-world motor insurance portfolio, we train models from different families across increasing fractions of the training data and multiple random seeds, evaluating out-of-sample Poisson deviance, a likelihood-based loss for Poisson count predictions in which lower values indicate better held-out fit. We find that all model families improve with additional data, but scaling exponents differ substantially: TabM exhibits markedly stronger data scaling than purely supervised tabular Transformers and standard MLP baselines. Transformer variants show weak parameter scaling unless augmented with additional inductive biases (TabM-style adaptation or self-supervision). These results provide quantitative guidance on model selection by data regime and suggest that effective scaling on actuarial tabular tasks depends on architecture and loss function objective design, with simple increases in Transformer size providing limited gains.
• Abstract（参考訳）: 現代のディープラーニングにおける法則のスケーリングは、モデルキャパシティ、トレーニングデータ、計算量の増加として、ホールドアウト損失がどのように改善されるかを記述している。 本研究では,データ構造が表層,異質,ノイズ,GLMなどの古典的モデルが強いベースラインを維持している場合において,類似のスケーリング規則が生じるかどうかを考察する。 実世界の自動車保険ポートフォリオを用いて、トレーニングデータと複数のランダムシードの比率の増加にまたがって異なる家庭のモデルをトレーニングし、より低い値がより適していることを示すポアソン数予測の確率に基づく損失である、サンプル外ポアソン偏差を評価する。 TabMは、純粋に教師付きタブ状変換器や標準MPPベースラインよりも、明らかに強力なデータスケーリングを示します。 トランスフォーマーの変種は、追加の帰納バイアス(TabMスタイルの適応または自己超越)で拡張されない限り、弱いパラメータスケーリングを示す。 これらの結果は、データ構造によるモデル選択に関する定量的ガイダンスを提供し、構造的表型タスクの効果的なスケーリングは、アーキテクチャと損失関数の客観的設計に依存していることを示唆する。

関連論文リスト

• Is Capability a Liability? More Capable Language Models Make Worse Forecasts When It Matters Most [11.4807141145402]
  逆スケーリングでは、より有能なモデルでは、超線形成長を伴う問題を予測し、状態変化の尾リスクを予測し、分布予測が悪化する。 このパターンはForecastBench-Simで、線形制御にマッチした合成SIRの流行を予測し、COVID-19、麻疹、住宅市場、ハイパーインフレの実際のデータセットに複製する。 この逆スケーリングは、LLM予測ベンチマークに共通する単一閾値のメトリクスには現れず、同一出力における能力-正確性関係のサインを逆転させる。
  論文  参考訳（メタデータ） (2026-05-21T16:14:33Z)
• Neural Scaling Laws for Deep Regression [0.7305019142196582]
  ファンデルワールス磁石のパラメータ推定モデルを用いて, ディープレグレッションにおけるニューラルスケーリング法則を実験的に検討した。 我々は、損失とトレーニングデータセットのサイズ、および幅広い値にわたるモデルのキャパシティの双方の関係を観察する。 一貫性のあるスケーリング挙動とその大規模なスケーリング指数は、深部回帰モデルの性能がデータサイズの増加とともに大幅に改善できることを示唆している。
  論文  参考訳（メタデータ） (2025-09-12T06:49:19Z)
• Small-to-Large Generalization: Data Influences Models Consistently Across Scale [76.87199303408161]
  小規模および大規模言語モデル予測(一般的には)は、トレーニングデータの選択に非常に相関している。 また、データ属性とデータセット選択という2つの下流プロキシモデルアプリケーションにおいて、プロキシスケールが有効性にどのように影響するかを特徴付ける。
  論文  参考訳（メタデータ） (2025-05-22T05:50:19Z)
• LLMs on the Line: Data Determines Loss-to-Loss Scaling Laws [21.053622641336744]
  ロス・ツー・ロスのスケーリング法則は、事前トレーニングされたデータセットと下流タスク間の損失を関連付ける。 実験の結果,事前学習データとトークン化器がスケーリングの傾向を決定することがわかった。
  論文  参考訳（メタデータ） (2025-02-17T18:45:25Z)
• Optimal Classification under Performative Distribution Shift [13.508249764979075]
  本稿では,動作効果をプッシュフォワード尺度としてモデル化した新しい視点を提案する。 我々は、新しい仮定のセットの下で、パフォーマンスリスクの凸性を証明する。 また, 性能リスクの最小化を min-max 変動問題として再定義することにより, 逆向きの頑健な分類との関係を確立する。
  論文  参考訳（メタデータ） (2024-11-04T12:20:13Z)
• Scaling Relationship on Learning Mathematical Reasoning with Large Language Models [75.29595679428105]
  本研究では,事前学習損失,教師付きデータ量,拡張データ量が教師付きLDMの推論性能に与える影響について検討する。 複数のモデルからの拒絶サンプルは、LLaMA-7BをGSM8Kの49.3%の精度に押し上げ、監督された微調整(SFT)の精度を35.9%上回る結果となった。
  論文  参考訳（メタデータ） (2023-08-03T15:34:01Z)
• Scaling Laws Do Not Scale [54.72120385955072]
  最近の研究によると、データセットのサイズが大きくなると、そのデータセットでトレーニングされたモデルのパフォーマンスが向上する。 このスケーリング法則の関係は、モデルのアウトプットの質を異なる集団がどのように認識するかと一致しないパフォーマンスを測定するために使われる指標に依存する、と我々は主張する。 異なるコミュニティは、互いに緊張関係にある価値を持ち、モデル評価に使用されるメトリクスについて、困難で、潜在的に不可能な選択をもたらす可能性がある。
  論文  参考訳（メタデータ） (2023-07-05T15:32:21Z)
• Inverse Scaling: When Bigger Isn't Better [80.42834197416444]
  大規模言語モデル(LM)は、スケールの増大による全体的な損失に対する予測可能な改善を示している。 我々は,LMが逆スケーリングや,スケールの増大に伴うタスクパフォーマンスの悪化を示す可能性があるという主張を裏付ける証拠を示す。
  論文  参考訳（メタデータ） (2023-06-15T20:11:23Z)
• Online learning techniques for prediction of temporal tabular datasets with regime changes [0.0]
  時間パネルデータセットの予測をランキングするモジュール型機械学習パイプラインを提案する。 パイプラインのモジュラリティにより、GBDT(Gradient Boosting Decision Tree)やニューラルネットワークなど、さまざまなモデルの使用が可能になる。 モデルの再トレーニングを必要としないオンライン学習技術は、予測後の結果を高めるために使用することができる。
  論文  参考訳（メタデータ） (2022-12-30T17:19:00Z)
• A Solvable Model of Neural Scaling Laws [72.8349503901712]
  大量のパラメータを持つ大規模な言語モデルは、インターネットに近い数のトークンで訓練されると、ニューラルネットワークのスケーリング法則に従うことが実証的に示されている。 我々は,このニューラルスケーリング現象を捉える統計モデル(共同生成データモデルとランダム特徴モデル)を提案する。 主な発見は、自然データセットの統計に現れる電力法則が非線形ランダムな特徴写像によって拡張される方法である。
  論文  参考訳（メタデータ） (2022-10-30T15:13:18Z)
• X-model: Improving Data Efficiency in Deep Learning with A Minimax Model [78.55482897452417]
  ディープラーニングにおける分類と回帰設定の両面でのデータ効率の向上を目標とする。 両世界の力を生かすために,我々は新しいX-モデルを提案する。 X-モデルは、特徴抽出器とタスク固有のヘッドの間でミニマックスゲームを行う。
  論文  参考訳（メタデータ） (2021-10-09T13:56:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。