論文の概要: No Free Efficiency: Revisiting the Trade-off Between Training Efficiency and Model Vulnerability
- arxiv url: http://arxiv.org/abs/2609.33898v1
- Date: Sun, 27 Sep 2026 20:25:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 15:49:38.602615
- Title: No Free Efficiency: Revisiting the Trade-off Between Training Efficiency and Model Vulnerability
- Title（参考訳）: フリー効率なし:トレーニング効率とモデル脆弱性のトレードオフを再考する
- Abstract要約: 効率指向トレーニングは、敵の攻撃やプライバシ攻撃に対する感受性を高めることを示す。
我々はさらに分析を「ゼロRLトレーニング」に拡張し、単純化されたRLレシピを用いてトレーニングしたモデルが破滅的な忘れ込みに対する感受性を著しく高めていることを発見した。
- 参考スコア（独自算出の注目度）: 21.44029271164808
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Training efficiency has become the central driver of recent progress in foundation models. To overcome the massive computational and data requirements of large-scale training, researchers increasingly adopt strategies such as selective data sampling, efficient pre-training, and simplified reinforcement learning pipelines. While these strategies drastically reduce overhead, they prompt a critical, yet neglected question: Is efficiency achieved at the expense of model robustness and security? To our knowledge, we present the first systematic cross-domain investigation of the efficiency-vulnerability trade-off. Across vision and language models, we show that efficiency-oriented training increases susceptibility to adversarial and privacy attacks. We characterize this vulnerability by analyzing the models' internal geometry and functional representations, demonstrating that the evaluated efficient variants consistently exhibit sharper loss geometry together with systematic changes in representational structure. We further extend our analysis to "zero RL training", finding that models trained using simplified RL recipes exhibit substantially greater susceptibility to catastrophic forgetting and more pronounced overconfidence than those trained through conventional alignment pipelines. Our findings suggest that training efficiency is rarely a "free lunch"; rather, the mechanisms that minimize computation can inadvertently compromise safety. We conclude by calling for a paradigm shift toward multi-objective training that jointly optimizes for performance, cost, and security.
- Abstract（参考訳）: トレーニング効率は、基礎モデルの最近の進歩の中心的な要因となっている。
大規模トレーニングの膨大な計算とデータ要件を克服するため、研究者は、選択的なデータサンプリング、効率的な事前トレーニング、強化学習パイプラインの簡素化といった戦略をますます採用している。
これらの戦略はオーバーヘッドを大幅に削減しますが、批判的だが無視された疑問を引き起こします。 モデルの堅牢性とセキュリティを犠牲にして効率は達成されているのでしょうか?
我々の知る限り、効率-加重性トレードオフに関する最初の体系的なクロスドメイン調査を提示する。
視覚と言語モデル全体で、効率志向のトレーニングは敵の攻撃やプライバシ攻撃に対する感受性を高めることを示す。
モデルの内部幾何と関数的表現を解析し、評価された効率的な変種が、表現構造の体系的な変化とともに、よりシャープな損失幾何学を一貫して示すことを証明して、この脆弱性を特徴づける。
我々はさらに分析を「ゼロRLトレーニング」に拡張し、単純化されたRLレシピを用いてトレーニングしたモデルは、破滅的な忘れ込みに対する感受性が大きく、従来のアライメントパイプラインでトレーニングしたモデルよりも過信感が顕著であることを示した。
我々の研究結果は、トレーニング効率が「無料ランチ」であることは滅多になく、計算を最小化するメカニズムは必然的に安全性を損なう可能性があることを示唆している。
私たちは、パフォーマンス、コスト、セキュリティを共同で最適化する多目的トレーニングへのパラダイムシフトを呼びかけて、結論付けました。
関連論文リスト
- Reinforcement Learning with Backtracking Feedback [12.680874918250069]
フィードバックフィードバックを用いた強化学習(RLBF)を紹介する。
このフレームワークは、BSAFEのような事前の手法に進化する。
RLBFは様々なベンチマークやモデルスケールでの攻撃成功率を大幅に低下させることを示す。
論文 参考訳（メタデータ） (2026-02-09T08:23:19Z) - Towards Stable and Effective Reinforcement Learning for Mixture-of-Experts [113.0656076371565]
オフ・ポリティクス強化学習(RL)における重要サンプリング重み付けを最適化する新しいルータ認識手法を提案する。
具体的には、ルータロジットによって誘導される再スケーリング戦略を設計し、勾配のばらつきを効果的に低減し、トレーニングのばらつきを軽減する。
実験により, 本手法は収束安定性とMoEモデルの最終的な性能の両方を著しく改善することが示された。
論文 参考訳（メタデータ） (2025-10-27T05:47:48Z) - The Power of Many: Synergistic Unification of Diverse Augmentations for Efficient Adversarial Robustness [6.471349369877151]
敵対的摂動はディープラーニングモデルに重大な脅威をもたらす。
対人訓練(AT)は、高い計算コストと標準性能の低下という課題に直面している。
本稿では,そのプラグ・アンド・プレイ特性とトレーニング効率を特徴とするユニバーサル・アドバーサリアル・オーグメンタ(UAA)フレームワークを提案する。
論文 参考訳（メタデータ） (2025-08-05T08:42:14Z) - On the Diminishing Returns of Complex Robust RAG Training in the Era of Powerful LLMs [85.688901949146]
複雑な堅牢なトレーニング手法の利点は、言語モデルがより強力になるにつれて減少するのだろうか?
モデルキャパシティが増大するにつれて、高度なトレーニング戦略の限界ロバスト性利益は大幅に減少する。
さらなる調査により、より強力なモデルは、単純な訓練体制下であっても、より優れた信頼性キャリブレーション、クロスデータセットの一般化能力、より効果的な注意パターンを自然に示すことが示される。
論文 参考訳（メタデータ） (2025-02-17T03:34:31Z) - Dynamic Loss-Based Sample Reweighting for Improved Large Language Model Pretraining [55.262510814326035]
既存のリウェイト戦略は主にグループレベルのデータの重要性に焦点を当てている。
動的・インスタンスレベルのデータ再重み付けのための新しいアルゴリズムを提案する。
当社のフレームワークでは,冗長データや非形式データを優先的に再重み付けする戦略を考案することが可能です。
論文 参考訳（メタデータ） (2025-02-10T17:57:15Z) - Streamlined Federated Unlearning: Unite as One to Be Highly Efficient [12.467630082668254]
近年,「忘れられる権利」の制定は,連邦学習(FL)に新たなプライバシー要件を課している。
本研究では, モデル性能を劣化することなく保持データに保存しつつ, 対象データの影響を効果的に除去することを目的とした, 合理化アンラーニング手法を提案する。
論文 参考訳（メタデータ） (2024-11-28T12:52:48Z) - EsaCL: Efficient Continual Learning of Sparse Models [10.227171407348326]
連続的な学習設定の主な課題は、以前に学習したタスクを実行する方法を忘れずに、タスクのシーケンスを効率的に学習することである。
本研究では,モデルの予測力に悪影響を及ぼすことなく,冗長なパラメータを自動生成する,スパースモデル(EsaCL)の効率的な連続学習法を提案する。
論文 参考訳（メタデータ） (2024-01-11T04:59:44Z) - Mastering the Unsupervised Reinforcement Learning Benchmark from Pixels [112.63440666617494]
強化学習アルゴリズムは成功するが、エージェントと環境の間の大量の相互作用を必要とする。
本稿では,教師なしモデルベースRLを用いてエージェントを事前学習する手法を提案する。
我々はReal-Word RLベンチマークにおいて、適応中の環境摂動に対する抵抗性を示唆し、堅牢な性能を示す。
論文 参考訳（メタデータ） (2022-09-24T14:22:29Z) - Neural Network Repair with Reachability Analysis [10.384532888747993]
安全は次世代の自律性にとって重要な問題であり、知覚と制御のためにディープニューラルネットワークに大きく依存する可能性が高い。
本研究は,安全クリティカルシステムにおける安全でないDNNを到達可能性解析で修復する枠組みを提案する。
論文 参考訳（メタデータ） (2021-08-09T17:56:51Z) - Federated Learning with Unreliable Clients: Performance Analysis and
Mechanism Design [76.29738151117583]
Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。
しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。
クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
論文 参考訳（メタデータ） (2021-05-10T08:02:27Z) - A Simple Fine-tuning Is All You Need: Towards Robust Deep Learning Via
Adversarial Fine-tuning [90.44219200633286]
我々は,$textitslow start, fast decay$ learning rate schedulingストラテジーに基づく,単純かつ非常に効果的な敵の微調整手法を提案する。
実験の結果,提案手法はCIFAR-10, CIFAR-100, ImageNetデータセットの最先端手法よりも優れていた。
論文 参考訳（メタデータ） (2020-12-25T20:50:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。