論文の概要: Algorithm Modelization: Transforming Optimization Algorithms into Evolvable Intelligence
- arxiv url: http://arxiv.org/abs/2610.23161v2
- Date: Fri, 23 Oct 2026 15:43:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.178908
- Title: Algorithm Modelization: Transforming Optimization Algorithms into Evolvable Intelligence
- Title(参考訳): アルゴリズムモデリング:最適化アルゴリズムを進化可能なインテリジェンスに変換する
- Abstract要約: 我々は、反復アルゴリズムをトレーニング可能なモデルに変換する新しいパラダイムであるアルゴリズムモデルを導入する。
本研究は,計算経験から学習,一般化,進化する汎用アルゴリズムモデルに向けて,手作業で設計したアルゴリズムから有望な経路を確立する。
- 参考スコア(独自算出の注目度): 33.87345714136807
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Can algorithms be learned and evolved as models, rather than repeatedly redesigned as programs? We explore this question by introducing Algorithm Modelization, a new paradigm that turns iterative algorithms into trainable models. Its central idea is to regard algorithm execution trajectories as computational experience: by learning how algorithmic states evolve over iterations, a model can internalize the knowledge embodied in existing algorithms, reproduce their computational behaviors, and further evolve beyond them through training. As a first realization of this paradigm, we modelize iterative optimization as an autoregressive process, where preceding generations constitute the computational context for generating the next population. We develop a dimension-independent population-temporal architecture to capture both population interactions and iterative dynamics, together with an imitation-to-surpassing learning framework that first acquires algorithmic knowledge from heterogeneous teachers and then improves the resulting optimizer directly through optimization feedback. The modelized optimizer consequently goes beyond reproducing individual algorithms: it consolidates heterogeneous search knowledge into a single trainable model, achieves stronger optimization capability through subsequent improvement, and generalizes its acquired knowledge across problems and substantially larger unseen dimensions. More fundamentally, Algorithm Modelization makes algorithmic capability accumulable through learning, where new algorithms and problem-solving experience can become training resources for progressively improving the model. Our results establish a promising path from manually designed algorithms toward general algorithm models that learn, generalize, and evolve from computational experience.
- Abstract(参考訳): アルゴリズムは、繰り返しプログラムとして再設計されるのではなく、モデルとして学び、進化させることができるか?
我々は、反復アルゴリズムをトレーニング可能なモデルに変換する新しいパラダイムであるアルゴリズムモデルを導入することで、この問題を探求する。
その中心となる考え方は、アルゴリズムの実行軌跡を計算経験として扱うことである: アルゴリズム状態が反復によってどのように進化するかを学ぶことによって、モデルは既存のアルゴリズムに具現化された知識を内部化し、その計算挙動を再現し、トレーニングを通じてさらに進化させることができる。
このパラダイムの第一の実現として、我々は反復最適化を自己回帰過程としてモデル化し、前世代が次の人口を生成するための計算コンテキストを構成する。
人口相互作用と反復的ダイナミクスの両方を捉えるための次元非依存の集団時間アーキテクチャと、異種教師からアルゴリズム知識を最初に取得し、最適化フィードバックにより結果の最適化を直接改善する模倣・通過学習フレームワークを開発する。
その結果、モデル化されたオプティマイザは個々のアルゴリズムを再現するだけでなく、不均一な探索知識を単一の訓練可能なモデルに集約し、その後の改善を通じてより強力な最適化能力を達成し、その獲得した知識を問題やはるかに大きな未確認次元にわたって一般化する。
より根本的には、アルゴリズムモデル化は学習を通じてアルゴリズム機能を蓄積可能とし、そこでは、新しいアルゴリズムと問題解決経験が、モデルを段階的に改善するためのトレーニングリソースとなる。
本研究は,計算経験から学習,一般化,進化する汎用アルゴリズムモデルに向けて,手作業で設計したアルゴリズムから有望な経路を確立する。
関連論文リスト
- Training Neural Networks at Any Scale [57.048948400182354]
本稿では、効率とスケールを重視したニューラルネットワークのトレーニングのための最新の最適化手法についてレビューする。
本稿では,問題の構造に適応することの重要性を強調する統一的アルゴリズムテンプレートの下で,最先端の最適化アルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-11-14T10:58:07Z) - Can Large Language Models Invent Algorithms to Improve Themselves?: Algorithm Discovery for Recursive Self-Improvement through Reinforcement Learning [3.6117068575553595]
自己開発(Self-Developing)は、大規模言語モデルが独自の改善アルゴリズムを自律的に発見し、実装し、洗練することを可能にするフレームワークである。
モデルマージ(モデルマージ)により、このフレームワークを実証する。
数学的推論のベンチマークでは、自律的に発見されたアルゴリズムは、シードモデルのGSM8kのパフォーマンスを6%改善し、タスク算術のような人間設計のアプローチを4.3%上回った。
論文 参考訳(メタデータ) (2024-10-21T04:57:09Z) - Algorithm Evolution Using Large Language Model [18.03090066194074]
大規模言語モデル(AEL)を用いた進化的アルゴリズムを提案する。
AELはモデルトレーニングなしでアルゴリズムレベルの進化を行う。
人間の努力とドメイン知識の要求は大幅に削減できる。
論文 参考訳(メタデータ) (2023-11-26T09:38:44Z) - Neural Algorithmic Reasoning Without Intermediate Supervision [21.852775399735005]
我々は、中間的監督に訴えることなく、入出力ペアからのみニューラルネットワーク推論を学ぶことに集中する。
我々は、アルゴリズムの軌跡にアクセスできることなく、モデルの中間計算を正規化できる自己教師対象を構築する。
CLRSic Algorithmic Reasoning Benchmarkのタスクにおいて,提案手法はトラジェクトリを教師する手法と競合することを示す。
論文 参考訳(メタデータ) (2023-06-23T09:57:44Z) - Tree-Based Adaptive Model Learning [62.997667081978825]
我々はKearns-Vazirani学習アルゴリズムを拡張し、時間とともに変化するシステムを扱う。
本稿では,学習前の動作を再利用し,更新し,LearnerLibライブラリに実装し,大規模な実例で評価する学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-08-31T21:24:22Z) - Neural Improvement Heuristics for Graph Combinatorial Optimization
Problems [49.85111302670361]
本稿では,ノード,エッジ,あるいはその両方に情報をエンコードするグラフベースの問題を扱う新しいニューラル改善(NI)モデルを提案する。
提案モデルは,各地区の操作の選択を誘導する丘登頂に基づくアルゴリズムの基本的な構成要素として機能する。
論文 参考訳(メタデータ) (2022-06-01T10:35:29Z) - Neural Combinatorial Optimization: a New Player in the Field [69.23334811890919]
本稿では,ニューラルネットワークに基づくアルゴリズムの古典的最適化フレームワークへの導入に関する批判的分析を行う。
性能, 転送可能性, 計算コスト, 大規模インスタンスなど, これらのアルゴリズムの基本的側面を分析するために, 総合的研究を行った。
論文 参考訳(メタデータ) (2022-05-03T07:54:56Z) - Evolving Reinforcement Learning Algorithms [186.62294652057062]
メタラーニング強化学習アルゴリズムの手法を提案する。
学習アルゴリズムはドメインに依存しないため、トレーニング中に見えない新しい環境に一般化することができる。
従来の制御タスク、gridworld型タスク、atariゲームよりも優れた一般化性能を得る2つの学習アルゴリズムに注目した。
論文 参考訳(メタデータ) (2021-01-08T18:55:07Z) - Learning to Stop While Learning to Predict [85.7136203122784]
多くのアルゴリズムにインスパイアされたディープモデルは全ての入力に対して固定深度に制限される。
アルゴリズムと同様に、深いアーキテクチャの最適深さは、異なる入力インスタンスに対して異なるかもしれない。
本稿では, ステアブルアーキテクチャを用いて, この様々な深さ問題に対処する。
学習した深層モデルと停止ポリシーにより,多様なタスクセットのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2020-06-09T07:22:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。