論文の概要: Optimization Performance of Factorization Machine with Annealing under Limited Training Data
- arxiv url: http://arxiv.org/abs/2507.21024v1
- Date: Mon, 28 Jul 2025 17:45:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-29 16:23:58.234991
- Title: Optimization Performance of Factorization Machine with Annealing under Limited Training Data
- Title(参考訳): 限定訓練データによるアニーリングによるファクトリゼーションマシンの最適化性能
- Authors: Mayumi Nakano, Yuya Seki, Shuta Kikuchi, Shu Tanaka,
- Abstract要約: Black-box (BB) 最適化問題は、入力-出力関係が不明な関数の出力を最小化する入力を特定することを目的としている。
ファクトリゼーションマシン(FM)は、イジングマシンを介して解探索を反復的に導く代理モデルである。
本稿では,最近追加されたデータポイントの最大値を保持するシーケンシャルデータセット構築法を提案する。
- 参考スコア(独自算出の注目度): 1.0937094979510213
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Black-box (BB) optimization problems aim to identify an input that minimizes the output of a function (the BB function) whose input-output relationship is unknown. Factorization machine with annealing (FMA) is a promising approach to this task, employing a factorization machine (FM) as a surrogate model to iteratively guide the solution search via an Ising machine. Although FMA has demonstrated strong optimization performance across various applications, its performance often stagnates as the number of optimization iterations increases. One contributing factor to this stagnation is the growing number of data points in the dataset used to train FM. It is hypothesized that as more data points are accumulated, the contribution of newly added data points becomes diluted within the entire dataset, thereby reducing their impact on improving the prediction accuracy of FM. To address this issue, we propose a novel method for sequential dataset construction that retains at most a specified number of the most recently added data points. This strategy is designed to enhance the influence of newly added data points on the surrogate model. Numerical experiments demonstrate that the proposed FMA achieves lower-cost solutions with fewer BB function evaluations compared to the conventional FMA.
- Abstract(参考訳): Black-box (BB) 最適化問題は、入力-出力関係が不明な関数(BB関数)の出力を最小化する入力を特定することを目的としている。
この課題に対してFMA (Facterization Machine with annealing) が有望なアプローチであり,Ising Machine による解探索を反復的に導くために,Facterization Machine (FM) をサロゲートモデルとして採用している。
FMAは様々なアプリケーションにまたがって強力な最適化性能を示しているが、最適化イテレーションの数が増えるにつれてその性能は停滞することが多い。
この停滞に寄与する要因の1つは、FMのトレーニングに使用されるデータセット内のデータポイントの増加である。
より多くのデータポイントが蓄積されるにつれて、新たに追加されたデータポイントの寄与がデータセット全体に希薄になり、FMの予測精度を向上させる効果が低下する、という仮説が立てられている。
この問題に対処するため,最近追加されたデータポイントの最大数を保持するシーケンシャルデータセット構築法を提案する。
この戦略は、新たに追加されたデータポイントが代理モデルに与える影響を高めるために設計されている。
数値実験により,提案したFMAは従来のFMAに比べてBB関数の評価が少なく,低コストで実現可能であることが示された。
関連論文リスト
- Addressing Delayed Feedback in Conversion Rate Prediction via Influence Functions [23.97164200705282]
遅延フィードバックモデリング(IF-DFM)のための影響関数を用いたフレームワークを提案する。
IF-DFMは、新たに取得した変換データと遅延した変換データがモデルパラメータに与える影響を推定するために影響関数を利用する。
ベンチマークデータセットの実験では、IF-DFMが最先端の手法を一貫して超越していることが示されている。
論文 参考訳(メタデータ) (2025-02-01T16:23:13Z) - Knowledge graph enhanced retrieval-augmented generation for failure mode and effects analysis [1.8849131083278732]
本稿では,FMEAデータに対する集合理論の標準化とスキーマ,FMEA-KGからベクトル埋め込みを生成するアルゴリズム,KG拡張RAGフレームワークを提案する。
提案手法は,ユーザエクスペリエンス設計研究を通じて検証され,コンテキストリコールの精度と性能を計測する。
論文 参考訳(メタデータ) (2024-06-26T07:02:49Z) - A PSO Based Method to Generate Actionable Counterfactuals for High
Dimensional Data [3.0320603363468845]
粒子群最適化(PSO)に基づく効率的で実用的な逆ファクトアル(CF)生成法について述べる。
これらの特徴を組み込んだアルゴリズムが提案され、生成されたCFの近接特性と疎性特性をより制御できる。
論文 参考訳(メタデータ) (2023-09-30T18:08:00Z) - Analysis and Optimization of Wireless Federated Learning with Data
Heterogeneity [72.85248553787538]
本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。
ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。
実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-04T04:18:01Z) - Scaling Relationship on Learning Mathematical Reasoning with Large
Language Models [75.29595679428105]
本研究では,事前学習損失,教師付きデータ量,拡張データ量が教師付きLDMの推論性能に与える影響について検討する。
複数のモデルからの拒絶サンプルは、LLaMA-7BをGSM8Kの49.3%の精度に押し上げ、監督された微調整(SFT)の精度を35.9%上回る結果となった。
論文 参考訳(メタデータ) (2023-08-03T15:34:01Z) - A machine learning approach to the prediction of heat-transfer
coefficients in micro-channels [4.724825031148412]
2相熱伝達係数(HTC)の正確な予測は、コンパクト熱交換器の最適設計と運転の鍵となる。
マルチ出力ガウスプロセス回帰 (GPR) を用いて, マイクロチャネル内のHTCを, 質量流量, 熱流束, システム圧力, チャネル径, 長さの関数として推定する。
論文 参考訳(メタデータ) (2023-05-28T15:48:01Z) - To Repeat or Not To Repeat: Insights from Scaling LLM under Token-Crisis [50.31589712761807]
大規模言語モデル(LLM)は、事前トレーニング中にトークンに悩まされていることで知られており、Web上の高品質なテキストデータは、LSMのスケーリング制限に近づいている。
本研究では,事前学習データの再学習の結果について検討し,モデルが過度に適合する可能性が示唆された。
第2に, マルチエポック劣化の原因となる要因について検討し, データセットのサイズ, モデルパラメータ, トレーニング目標など, 重要な要因について検討した。
論文 参考訳(メタデータ) (2023-05-22T17:02:15Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - Boosting Factorization Machines via Saliency-Guided Mixup [125.15872106335692]
我々は、MixupにインスパイアされたMixFMを紹介し、ファクトリゼーションマシン(FM)を強化するための補助的なトレーニングデータを生成する。
また、Saliency-Guided Mixup(SMFM)を利用した新しいファクトリゼーションマシンも提案した。
論文 参考訳(メタデータ) (2022-06-17T09:49:00Z) - Rectified Max-Value Entropy Search for Bayesian Optimization [54.26984662139516]
我々は、相互情報の概念に基づいて、修正されたMES取得関数を開発する。
その結果、RMESは、いくつかの合成関数ベンチマークと実世界の最適化問題において、MESよりも一貫した改善を示している。
論文 参考訳(メタデータ) (2022-02-28T08:11:02Z) - Memory-Efficient Factorization Machines via Binarizing both Data and
Model Coefficients [9.692334398809457]
ファクトリゼーションマシン(FM)の限界を克服するサブスペースイミネーティングマシン(SEFM)が提案されている。
本稿では,モデルパラメータを2値に制約する2値化FM法を提案する。
提案手法はSEFMと同等の精度を達成できるが,メモリコストははるかに少ない。
論文 参考訳(メタデータ) (2021-08-17T03:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。