論文の概要: Preparing for Black Swans: The Antifragility Imperative for Machine Learning
- arxiv url: http://arxiv.org/abs/2405.11397v1
- Date: Sat, 18 May 2024 21:32:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-21 17:59:18.188188
- Title: Preparing for Black Swans: The Antifragility Imperative for Machine Learning
- Title（参考訳）: ブラックスワンの準備 - 機械学習に不可欠な反脆弱性
- Authors: Ming Jin,
- Abstract要約: 連続的な分散シフトにもかかわらず安全かつ確実な運用は、高度な機械学習アプリケーションにとって不可欠である。
本稿は,2014年にTalebによって導入された「反脆弱性」を構築的設計パラダイムとして導入した。
- 参考スコア（独自算出の注目度）: 3.8452493072019496
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Operating safely and reliably despite continual distribution shifts is vital for high-stakes machine learning applications. This paper builds upon the transformative concept of ``antifragility'' introduced by (Taleb, 2014) as a constructive design paradigm to not just withstand but benefit from volatility. We formally define antifragility in the context of online decision making as dynamic regret's strictly concave response to environmental variability, revealing limitations of current approaches focused on resisting rather than benefiting from nonstationarity. Our contribution lies in proposing potential computational pathways for engineering antifragility, grounding the concept in online learning theory and drawing connections to recent advancements in areas such as meta-learning, safe exploration, continual learning, multi-objective/quality-diversity optimization, and foundation models. By identifying promising mechanisms and future research directions, we aim to put antifragility on a rigorous theoretical foundation in machine learning. We further emphasize the need for clear guidelines, risk assessment frameworks, and interdisciplinary collaboration to ensure responsible application.
- Abstract（参考訳）: 継続的な分散シフトにもかかわらず安全かつ確実に運用することは、高度な機械学習アプリケーションにとって不可欠である。
本稿は, (Taleb, 2014) が導入した 'antifragility' という変革的概念に基づいて, ボラティリティだけでなく, ボラティリティの恩恵を受けるための建設的設計パラダイムを構築した。
我々は、オンライン意思決定の文脈における反脆弱性を、環境変動に対する動的後悔の厳密な対応として定義し、非定常性から利益を得るのではなく、抵抗に焦点を絞った現在のアプローチの限界を明らかにした。
我々の貢献は、エンジニアリングの反脆弱性のための潜在的な計算経路を提案し、オンライン学習理論の概念を基礎にし、メタラーニング、安全な探索、継続的な学習、多目的/品質多様性最適化、基礎モデルといった分野における最近の進歩への接続を図っている。
将来的なメカニズムと今後の研究方向性を識別することにより、機械学習の厳密な理論的基盤に反脆弱性を持たせることを目指している。
さらに、責任あるアプリケーションを保証するために、明確なガイドライン、リスク評価フレームワーク、学際的なコラボレーションの必要性を強調します。
関連論文リスト
- Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
可塑性の喪失は複数の独立したメカニズムに分解できることを示す。
種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
論文 参考訳（メタデータ） (2024-02-29T00:02:33Z) - Conserve-Update-Revise to Cure Generalization and Robustness Trade-off
in Adversarial Training [21.163070161951868]
敵の訓練は、敵の攻撃に対するニューラルネットワークの堅牢性を改善する。
特定のレイヤを選択的に更新し、他のレイヤを保存することで、ネットワークの学習能力を大幅に向上させることができることを示す。
重みの選択的保存, 更新, 修正を行うために, 勾配プロミネンス基準を利用した新しいトレーニングフレームワークCUREを提案する。
論文 参考訳（メタデータ） (2024-01-26T15:33:39Z) - Rethinking Randomized Smoothing from the Perspective of Scalability [0.0]
ランダムな平滑化は、顕著な進歩の中で有望なテクニックとして現れている。
ランダム化平滑化の基礎となる概念を詳細に探求する。
我々は、敵の摂動に対する堅牢性を証明する理論的保証を強調した。
論文 参考訳（メタデータ） (2023-12-19T21:27:02Z) - Adopting the Actor Model for Antifragile Serverless Architectures [2.602613712854636]
反脆弱性(英語: antifragility)とは、ソフトウェアシステムが障害のような持続的な有害事象に基づいて、時間とともに学習し、改善することに焦点を当てた概念である。
本稿では、サーバーレスシステムにおける監視戦略の導入を支援するための新しい考え方を提案する。
論文 参考訳（メタデータ） (2023-06-26T14:49:10Z) - Constrained Exploration in Reinforcement Learning with Optimality
Preservation [2.4671396651514983]
本稿では,エージェントが行動ポリシーに従って個別の状態行動空間を探索し,最適な政策を見つけるための強化学習システムについて考察する。
このような制限は、エージェントがいくつかの状態-作用ペアを訪問することを妨げる可能性がある。
本稿では,最適性保持を伴う制約付き探索の概念を導入し,エージェントの探索動作を仕様を満たすよう制約する。
論文 参考訳（メタデータ） (2023-04-05T15:49:51Z) - Adversarial Robustness with Semi-Infinite Constrained Learning [177.42714838799924]
入力に対する深い学習は、安全クリティカルなドメインでの使用に関して深刻な疑問を提起している。
本稿では,この問題を緩和するために,Langevin Monte Carlo のハイブリッドトレーニング手法を提案する。
当社のアプローチは、最先端のパフォーマンスと堅牢性の間のトレードオフを軽減することができることを示す。
論文 参考訳（メタデータ） (2021-10-29T13:30:42Z) - Congestion-aware Multi-agent Trajectory Prediction for Collision
Avoidance [110.63037190641414]
渋滞パターンを明示的に学習し、新しい「センス--学習--Reason--予測」フレームワークを考案する。
学習段階を2段階に分解することで、「学生」は「教師」から文脈的手がかりを学習し、衝突のない軌跡を生成する。
実験では,提案モデルが合成データセットにおいて衝突のない軌道予測を生成できることを実証する。
論文 参考訳（メタデータ） (2021-03-26T02:42:33Z) - Optimism in the Face of Adversity: Understanding and Improving Deep
Learning through Adversarial Robustness [63.627760598441796]
深層学習における対角的強靭性の分野を詳細に検討する。
直感的な対向例と深層ニューラルネットワークの幾何学的関係を強調した。
セキュリティを超えた敵の堅牢性の主な応用について概説する。
論文 参考訳（メタデータ） (2020-10-19T16:03:46Z) - Importance Weighted Policy Learning and Adaptation [89.46467771037054]
政治外学習の最近の進歩の上に構築された,概念的にシンプルで,汎用的で,モジュール的な補完的アプローチについて検討する。
このフレームワークは確率論的推論文学のアイデアにインスパイアされ、堅牢な非政治学習と事前の行動を組み合わせる。
提案手法は,メタ強化学習ベースラインと比較して,ホールドアウトタスクにおける競合適応性能を実現し,複雑なスパース・リワードシナリオにスケールすることができる。
論文 参考訳（メタデータ） (2020-09-10T14:16:58Z) - Safe Active Dynamics Learning and Control: A Sequential
Exploration-Exploitation Framework [30.58186749790728]
本研究では,力学の不確実性の存在下での安全性を維持するための理論的に正当なアプローチを提案する。
我々のフレームワークは、常に全ての制約の高確率満足度を保証します。
この理論解析は、オンライン適応能力を改善する最終層メタラーニングモデルの2つの正則化を動機付けている。
論文 参考訳（メタデータ） (2020-08-26T17:39:58Z) - A general framework for defining and optimizing robustness [74.67016173858497]
分類器の様々な種類の堅牢性を定義するための厳密でフレキシブルなフレームワークを提案する。
我々の概念は、分類器の堅牢性は正確性とは無関係な性質と考えるべきであるという仮定に基づいている。
我々は,任意の分類モデルに適用可能な,非常に一般的なロバスト性フレームワークを開発する。
論文 参考訳（メタデータ） (2020-06-19T13:24:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。