論文の概要: Large Payments Model
- arxiv url: http://arxiv.org/abs/2611.15814v1
- Date: Wed, 11 Nov 2026 18:30:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.250152
- Title: Large Payments Model
- Title(参考訳): 大規模支払モデル
- Abstract要約: 本稿では、大規模構造化トランザクションデータに基づいて、運用用に設計され、スクラッチから訓練されたドメイン固有基盤モデルを提案する。
最大400億のトークンでLPMを事前トレーニングし、スケーリング、ダウンストリームパフォーマンス、表現再利用を研究します。
以上の結果から,LPMを再利用可能な決済インテリジェンスの基礎として位置づけた。
- 参考スコア(独自算出の注目度): 6.055205570041937
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Payment applications such as fraud detection, authorization prediction, and payment optimization draw on overlapping transaction information. This motivates a reusable payments intelligence layer that shares learned representations and predictive signals, rather than developing predictive models independently for each task. Realizing this shared capability requires handling heterogeneous transaction fields, high-cardinality identifiers, lifecycle-dependent attributes, long histories, and rare outcomes while meeting latency and cost constraints. We present Large Payments Model (LPM), a domain-specific foundation model designed for operational use and trained from scratch on large-scale structured transaction data to learn reusable representations for payment prediction tasks. LPM employs field-specific encodings and lifecycle-aware self-supervision in two complementary architectures: the Independent variant uses hybrid masking and supports efficient per-transaction inference, while the Sequence variant incorporates entity-linked histories through compact latent representations for richer temporal context. Optional distillation enables resource-constrained deployment. We pretrain LPM on up to 400 billion tokens and study scaling, downstream performance, and representation reuse. LPM improves over strong task-specific baselines across multiple prediction tasks in Merchant and Treasury Services, demonstrating applicability in distinct payment domains. Its representations also facilitate adaptation to a target not observed during pretraining through compact task-specific components. Together with production deployment, these results position LPM as a practical basis for reusable payments intelligence.
- Abstract(参考訳): 不正検出、認可予測、支払い最適化といった支払いアプリケーションは、重なり合うトランザクション情報に基づいて行われる。
これは、各タスクに対して独立して予測モデルを開発するのではなく、学習した表現と予測信号を共有する再利用可能な支払いインテリジェンス層を動機付けている。
この共有機能を実現するには、レイテンシとコストの制約を満たしながら、不均一なトランザクションフィールド、ハイカーディナリティ識別子、ライフサイクルに依存した属性、長い履歴、稀な結果を扱う必要がある。
本稿では,大規模構造化トランザクションデータを用いてスクラッチからトレーニングし,支払予測タスクの再利用表現を学習するドメイン固有基盤モデルであるLarge Payments Model(LPM)を提案する。
LPMは、フィールド固有のエンコーディングとライフサイクルを意識したセルフスーパービジョンを2つの補完アーキテクチャで採用している: 独立型はハイブリッドマスキングを使用し、効率的なトランザクションごとの推論をサポートする。
オプション蒸留は資源の制限された展開を可能にする。
最大400億のトークンでLPMを事前トレーニングし、スケーリング、ダウンストリームパフォーマンス、表現再利用を研究します。
LPMは、Merchant と Treasury Services の複数の予測タスクにまたがる、強いタスク固有のベースラインを改善し、異なる支払いドメインで適用性を示す。
その表現はまた、コンパクトなタスク固有のコンポーネントを通して事前訓練中に観察されないターゲットへの適応を促進する。
これらの結果は、生産展開とともに、LPMを再利用可能な支払いインテリジェンスのための実践的基盤と位置づけた。
関連論文リスト
- MINT: A Universal Zero-Shot Predictor for Transaction Data [5.76828154035244]
本稿では,プリトレーニングされたトランザクションシーケンスエンコーダを,軽量な埋め込み注入によりデコーダのみのLLMに接続するフレームワークであるMINTを提案する。
MINTは、分布内および分布外問合せの両方において、最先端の予測的問合せ性能を達成する。
MINTは分布内および分布外問合せの両方において,最先端の予測的問合せ性能を達成する。
論文 参考訳(メタデータ) (2026-08-14T11:17:01Z) - A Foundation Model for Multimodal Event Sequences in Financial Applications [34.57471442552313]
本稿では,ユーザイベントのマルチモーダルシーケンスに基づく基礎変換モデルの事前学習に基づくアプローチを提案する。
提案システムは,開発オーバーヘッドを低減しつつ,従来のタスク固有モデルより優れている。
このアプローチは、東ヨーロッパの大手銀行の1つで本番環境に展開され、結果としてビジネスメトリクスが測定可能な改善をもたらした。
論文 参考訳(メタデータ) (2026-07-10T20:19:17Z) - PRAGMA: Revolut Foundation Model [3.159538292278343]
PRAGMAは、マルチソースバンキングイベントシーケンスの基礎モデルのファミリーである。
クレジットスコアリング、不正検出、ライフタイムバリュー予測など、幅広いダウンストリームタスクをサポートする。
論文 参考訳(メタデータ) (2026-04-09T18:00:00Z) - Beyond Unimodal Shortcuts: MLLMs as Cross-Modal Reasoners for Grounded Named Entity Recognition [51.68340973140949]
GMNER(Multimodal Named Entity Recognition)は、テキストベースのエンティティを抽出し、セマンティックカテゴリを割り当て、それらを対応する視覚領域に接地することを目的としている。
MLLMは、視覚バイアスやテキストバイアスを含む$textbfmodality bias$を示す。
本稿では,モダリティを考慮した一貫性推論(bfMCR$)を提案する。
論文 参考訳(メタデータ) (2026-02-04T12:12:49Z) - Enhancing Foundation Models in Transaction Understanding with LLM-based Sentence Embeddings [26.118375969968437]
大きな言語モデル(LLM)は、より優れたセマンティック理解を通じて、この制限に対処することができる。
軽量トランザクションモデルのためのセマンティック初期化としてLLM生成の埋め込みを利用するハイブリッドフレームワークを提案する。
提案手法では,マルチソースデータ融合を用いて,商取引分野を豊かにし,一貫した埋め込み生成のための一語制約原理を定めている。
論文 参考訳(メタデータ) (2025-12-01T23:30:17Z) - Better with Less: Small Proprietary Models Surpass Large Language Models in Financial Transaction Understanding [1.4125114383423856]
本稿では, 3種類のトランスフォーマーモデルの評価実験を行い, 事前学習型LLM, 微調整型LLM, およびスクラッチから開発した小型プロプライエタリモデルについて述べる。
本研究は,ドメイン固有のニーズに基づいたモデル選択の重要性を強調した。
論文 参考訳(メタデータ) (2025-09-30T05:23:08Z) - VinePPO: Refining Credit Assignment in RL Training of LLMs [66.80143024475635]
我々は,言語環境の柔軟性を利用してモンテカルロをベースとした推定値を計算する,簡単なアプローチであるVinePPOを提案する。
本手法は,MATHおよびGSM8Kデータセット間のPPOおよび他のベースラインをウォールクロック時間以下で連続的に上回る。
論文 参考訳(メタデータ) (2024-10-02T15:49:30Z) - Mitigating Shortcut Learning with Diffusion Counterfactuals and Diverse Ensembles [104.60508550106618]
拡散確率モデル(DPM)を利用したアンサンブル多様化フレームワークDiffDivを提案する。
DPMは、相関した入力特徴を示すサンプルを用いて訓練しても、新しい特徴の組み合わせで画像を生成することができることを示す。
そこで本研究では,DPM誘導の多様化は,教師付き信号の追加を必要とせず,ショートカットキューへの依存を取り除くのに十分であることを示す。
論文 参考訳(メタデータ) (2023-11-23T15:47:33Z) - Exploiting Modality-Specific Features For Multi-Modal Manipulation
Detection And Grounding [54.49214267905562]
マルチモーダルな操作検出とグラウンド処理のためのトランスフォーマーベースのフレームワークを構築する。
本フレームワークは,マルチモーダルアライメントの能力を維持しながら,モダリティ特有の特徴を同時に探求する。
本稿では,グローバルな文脈的キューを各モーダル内に適応的に集約する暗黙的操作クエリ(IMQ)を提案する。
論文 参考訳(メタデータ) (2023-09-22T06:55:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。