論文の概要: Benefits of Low-Cost Bio-Inspiration in the Age of Overparametrization

• arxiv url: http://arxiv.org/abs/2604.20365v1
• Date: Wed, 22 Apr 2026 09:02:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:11.057784
• Title: Benefits of Low-Cost Bio-Inspiration in the Age of Overparametrization
• Title（参考訳）: オーバーパラメトリゼーション時代の低コストバイオ吸入のメリット
• Authors: Kevin Godin-Dubois, Anil Yaman, Anna V. Kononova,
• Abstract要約: 入力と出力のスペースが小さく、パフォーマンスがバウンドされているコンテキストでは、最適化するパラメータが多ければ、それを強化する代わりに学習プロセスが活発に妨げられる可能性がある。 複数の関数にまたがるパラメータ空間の変化により、浅度と密結合なCPGがより良い性能をもたらすことが観察される。 上記の性能とパラメータ数の関係を考慮し,強化法で要求される追加パラメータがより良い性能に変換されないことを示す厳密なインパクト指標を導入する。
• 参考スコア（独自算出の注目度）: 1.6567880228735359
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While Central Pattern Generators (CPGs) and Multi-Layer Perceptrons (MLP) are widely used paradigms in robot control, few systematic studies have been performed on the relative merits of large parameter spaces. In contexts where input and output spaces are small and performance is bounded, having more parameters to optimize may actively hinder the learning process instead of empowering it. To empirically measure this, we submit a given robot morphology, with limited proprioceptive capabilities, to controller optimization under two bio-inspired paradigms (CPGs and MLPs) with evolutionary- and reinforcement- trainer protocols. By varying parameter spaces across multiple reward functions, we observe that shallow MLPs and densely connected CPGs result in better performance when compared to deeper MLPs or Actor-Critic architectures. To account for the relationship between said performance and the number of parameters, we introduce a Parameter Impact metric which demonstrates that the additional parameters required by the reinforcement technique do not translate into better performance, thus favouring evolutionary strategies.
• Abstract（参考訳）: 中央パターンジェネレータ (CPG) と多層パーセプトロン (MLP) はロボット制御のパラダイムとして広く用いられているが、大きなパラメータ空間の相対的な利点に関する体系的研究はほとんど行われていない。 入力と出力のスペースが小さく、パフォーマンスがバウンドされているコンテキストでは、最適化するパラメータが多ければ、それを強化する代わりに学習プロセスが活発に妨げられる可能性がある。 これを実証的に測定するために、進化的および強化的トレーナープロトコルを用いた2つのバイオインスパイアパラダイム(CPGとMLP)下での制御最適化に、限られた受容能力を持つ与えられたロボット形態を提出する。 複数の報酬関数にまたがるパラメータ空間の変化により、より深い MLP やアクター・クライトアーキテクチャと比較して、浅い MLP と密に連結された CPG がより良い性能をもたらすことが分かる。 以上の性能とパラメータ数の関係を考慮し,強化法で要求される追加パラメータがより良い性能に変換されないことを示し,進化的戦略を好んでいる。

関連論文リスト

• Layer-Wise High-Impact Parameter Ratio Optimization in Post-Training Quantization for Large Language Models [29.984541536225123]
  トレーニング後の量子化(PTQ)は、これらの課題を最小限のオーバーヘッドで軽減するための有望なアプローチとして現れている。 既存のPTQ法は、極低ビット幅でかなりの精度の損失を経験する。 本研究では,高インパクトパラメータの層比を決定する2次最適化フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-21T21:47:39Z)
• Interim Report on Human-Guided Adaptive Hyperparameter Optimization with Multi-Fidelity Sprints [0.0]
  このケーススタディでは、マルチタスク自然言語モデルの変種を比較するために、フェーズドハイパーパラメータ最適化プロセスを適用する。 我々は,多相性,ハイパーパラメータ空間プルーニング,プログレッシブ・ハーヴィング,そして人間の指導の度合いを生かした,短いベイズ最適化セッションを採用している。 本稿では,Eberts と Ulges が提案した 2021 Joint Entity and Relation extract model の変種集合について実演する。
  論文  参考訳（メタデータ） (2025-05-14T20:38:44Z)
• Hyperparameter Optimisation with Practical Interpretability and Explanation Methods in Probabilistic Curriculum Learning [2.5352713493505785]
  確率的カリキュラム学習(英: Probabilistic Curriculum Learning, PCL)は、エージェントの学習過程を構造化することにより、RLの性能を向上させるためのカリキュラム学習戦略である。 本稿では,超パラメータ相互作用の実証分析を行い,PCLアルゴリズムの性能に及ぼす効果について述べる。
  論文  参考訳（メタデータ） (2025-04-09T08:41:27Z)
• OP-LoRA: The Blessing of Dimensionality [93.08208871549557]
  低ランクアダプタは、少数のパラメータしか持たない大型モデルの微調整を可能にする。 しばしば最適化の課題を提起するが、収束性は低い。 推論コストを増大させることなく、トレーニングを加速する過剰パラメータ化アプローチを導入する。 視覚言語タスクの改善、特に画像生成の顕著な向上を実現している。
  論文  参考訳（メタデータ） (2024-12-13T18:55:19Z)
• ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
  ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。 巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
  論文  参考訳（メタデータ） (2024-12-11T12:31:30Z)
• Architectural Influence on Variational Quantum Circuits in Multi-Agent Reinforcement Learning: Evolutionary Strategies for Optimization [5.7918970571149835]
  本稿では,ゲートベース,層ベース,プロトタイプベースの概念を用いて量子回路を変更・再結合する手法を提案する。 本研究は,変異のみの戦略とゲートベースアプローチに最適な性能を示す。 特に,コインゲーム環境での評価において,より優れたスコア,より高い総数,自己のコイン,そして最高のエージェントに対する優れた自己のコインレートを観察する。
  論文  参考訳（メタデータ） (2024-07-30T11:16:25Z)
• Compressible Dynamics in Deep Overparameterized Low-Rank Learning & Adaptation [12.07880147193174]
  モデルパラメータ内のデータと圧縮可能な力学の固有な低次元構造を利用することで、計算負担を伴わずにパラメータ化の利点を享受できることが示される。 提案手法は,低ランク行列と微調整言語モデルに対して有効であることを示す。
  論文  参考訳（メタデータ） (2024-06-06T14:29:49Z)
• ETHER: Efficient Finetuning of Large-Scale Models with Hyperplane Reflections [59.839926875976225]
  本稿では,HypErplane Reflectionsによる高効率微調整を行うETHER変換ファミリを提案する。 特に,既存のPEFT法と極めて少ないパラメータで一致または性能を向上するEtheRと緩和ETHER+を導入する。
  論文  参考訳（メタデータ） (2024-05-30T17:26:02Z)
• Parameter Efficient Fine-tuning via Cross Block Orchestration for Segment Anything Model [81.55141188169621]
  PEFTにクロスブロックオーケストレーション機構を組み、SAM(Segment Anything Model)の様々な下流シナリオへの適応を可能にする。 本稿では,超複素層から重みが生じる線形射影ヘッドを導入するブロック内拡張モジュールを提案する。 提案手法は,約1Kのパラメータのみを付加した新規シナリオにおいて,セグメンテーション性能を大幅に向上させる。
  論文  参考訳（メタデータ） (2023-11-28T11:23:34Z)
• Multi-objective hyperparameter optimization with performance uncertainty [62.997667081978825]
  本稿では,機械学習アルゴリズムの評価における不確実性を考慮した多目的ハイパーパラメータ最適化の結果について述べる。 木構造型Parzen Estimator(TPE)のサンプリング戦略と、ガウス過程回帰(GPR)と異種雑音の訓練後に得られたメタモデルを組み合わせる。 3つの解析的テスト関数と3つのML問題の実験結果は、多目的TPEとGPRよりも改善したことを示している。
  論文  参考訳（メタデータ） (2022-09-09T14:58:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。