論文の概要: Leveraging Log Probabilities in Language Models to Forecast Future Events
- arxiv url: http://arxiv.org/abs/2501.04880v1
- Date: Wed, 08 Jan 2025 23:28:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-10 14:00:31.116846
- Title: Leveraging Log Probabilities in Language Models to Forecast Future Events
- Title(参考訳): 将来のイベントを予測するための言語モデルにおけるログ確率の活用
- Authors: Tommaso Soru, Jim Marshall,
- Abstract要約: 本稿では,大規模言語モデルを用いたAIによる予測のための新しい手法を提案する。
我々は15の異なるトピックの予測を生成するために、現在のトレンドとその軌跡に関するデータを用いる。
つまり、ランダムな確率よりも26%改善し、広く利用可能なAIシステムよりも+19%改善したことを意味する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: In the constantly changing field of data-driven decision making, accurately predicting future events is crucial for strategic planning in various sectors. The emergence of Large Language Models (LLMs) marks a significant advancement in this area, offering advanced tools that utilise extensive text data for prediction. In this industry paper, we introduce a novel method for AI-driven foresight using LLMs. Building on top of previous research, we employ data on current trends and their trajectories for generating forecasts on 15 different topics. Subsequently, we estimate their probabilities via a multi-step approach based on log probabilities. We show we achieve a Brier score of 0.186, meaning a +26% improvement over random chance and a +19% improvement over widely-available AI systems.
- Abstract(参考訳): データ駆動意思決定の絶え間なく変化する分野では、様々な分野の戦略的計画において、将来の出来事を正確に予測することが不可欠である。
LLM(Large Language Models)の出現はこの分野で大きな進歩を遂げており、予測に広範囲のテキストデータを利用する高度なツールを提供している。
本稿では,LLMを用いたAI駆動フォレストの新しい手法を提案する。
これまでの研究に基づいて,15のトピックに関する予測を生成するために,現在の傾向とその軌跡に関するデータを用いている。
その後、ログ確率に基づく多段階アプローチにより、それらの確率を推定する。
つまり、ランダムな確率よりも26%改善し、広く利用可能なAIシステムよりも+19%改善したことを意味する。
関連論文リスト
- Context is Key: A Benchmark for Forecasting with Essential Textual Information [87.3175915185287]
コンテキスト・イズ・キー (Context is Key) (CiK) は、時系列予測ベンチマークであり、様々な種類のテキストコンテキストと数値データをペアリングする。
我々は,統計モデル,時系列基礎モデル,LLMに基づく予測モデルなど,さまざまなアプローチを評価する。
実験では、文脈情報の導入の重要性を強調し、LLMに基づく予測モデルを用いた場合の驚くべき性能を示すとともに、それらの重要な欠点を明らかにした。
論文 参考訳(メタデータ) (2024-10-24T17:56:08Z) - Future-Guided Learning: A Predictive Approach To Enhance Time-Series Forecasting [4.866362841501992]
本稿では、時系列イベント予測を強化するアプローチであるFuture-Guided Learningを紹介する。
提案手法は,重要な事象を特定するために将来的なデータを解析する検出モデルと,これらの事象を現在のデータに基づいて予測する予測モデルである。
予測モデルと検出モデルの間に不一致が発生した場合、予測モデルはより実質的な更新を行う。
論文 参考訳(メタデータ) (2024-10-19T21:22:55Z) - F-FOMAML: GNN-Enhanced Meta-Learning for Peak Period Demand Forecasting with Proxy Data [65.6499834212641]
本稿では,需要予測をメタラーニング問題として定式化し,F-FOMAMLアルゴリズムを開発した。
タスク固有のメタデータを通してドメインの類似性を考慮することにより、トレーニングタスクの数が増加するにつれて過剰なリスクが減少する一般化を改善した。
従来の最先端モデルと比較して,本手法では需要予測精度が著しく向上し,内部自動販売機データセットでは平均絶対誤差が26.24%,JD.comデータセットでは1.04%削減された。
論文 参考訳(メタデータ) (2024-06-23T21:28:50Z) - Can Language Models Use Forecasting Strategies? [14.332379032371612]
実世界の出来事と関連する人間の予測の新たなデータセットを用いた実験について述べる。
モデルはまだ、未来に関する正確な予測に苦戦している。
論文 参考訳(メタデータ) (2024-06-06T19:01:42Z) - Approaching Human-Level Forecasting with Language Models [34.202996056121]
我々は,言語モデル(LM)が競争力のある人間の予測能力のレベルで予測できるかどうかを検討した。
本研究では,関連する情報を自動的に検索し,予測を生成し,予測を集約する検索拡張型LMシステムを開発した。
論文 参考訳(メタデータ) (2024-02-28T18:54:18Z) - Prediction-Oriented Bayesian Active Learning [51.426960808684655]
予測情報ゲイン(EPIG)は、パラメータではなく予測空間における情報ゲインを測定する。
EPIGは、さまざまなデータセットやモデルにわたるBALDと比較して、予測パフォーマンスが向上する。
論文 参考訳(メタデータ) (2023-04-17T10:59:57Z) - ASPEST: Bridging the Gap Between Active Learning and Selective
Prediction [56.001808843574395]
選択予測は、不確実な場合の予測を棄却する信頼性のあるモデルを学ぶことを目的としている。
アクティブラーニングは、最も有意義な例を問うことで、ラベリングの全体、すなわち人間の依存度を下げることを目的としている。
本研究では,移動対象領域からより情報のあるサンプルを検索することを目的とした,新たな学習パラダイムである能動的選択予測を導入する。
論文 参考訳(メタデータ) (2023-04-07T23:51:07Z) - FEND: A Future Enhanced Distribution-Aware Contrastive Learning
Framework for Long-tail Trajectory Prediction [19.626383744807068]
本稿では,軌道予測における長い尾現象の扱いに焦点をあてる。
我々は、末尾軌道パターンを認識し、個別のパターンクラスタで特徴空間を形成するための、将来的な強化されたコントラスト学習フレームワークを提唱した。
本手法は, ADEでは9.5%, FDEでは8.5%の精度で, 最先端のロングテール予測法よりも優れていた。
論文 参考訳(メタデータ) (2023-03-29T10:16:55Z) - Efficient Nearest Neighbor Language Models [114.40866461741795]
非パラメトリックニューラルネットワークモデル(NLM)は、外部データストアを用いてテキストの予測分布を学習する。
比較性能を維持しながら、推論速度の最大6倍の高速化を実現する方法を示す。
論文 参考訳(メタデータ) (2021-09-09T12:32:28Z) - Back2Future: Leveraging Backfill Dynamics for Improving Real-time
Predictions in Future [73.03458424369657]
公衆衛生におけるリアルタイム予測では、データ収集は簡単で要求の多いタスクである。
過去の文献では「バックフィル」現象とそのモデル性能への影響についてはほとんど研究されていない。
我々は、与えられたモデルの予測をリアルタイムで洗練することを目的とした、新しい問題とニューラルネットワークフレームワークBack2Futureを定式化する。
論文 参考訳(メタデータ) (2021-06-08T14:48:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。