論文の概要: A Six-Dimensional Taxonomy of Post-Training Adaptation Techniques with Applications in AI Governance
- arxiv url: http://arxiv.org/abs/2608.06246v1
- Date: Thu, 06 Aug 2026 16:32:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.964189
- Title: A Six-Dimensional Taxonomy of Post-Training Adaptation Techniques with Applications in AI Governance
- Title(参考訳): トレーニング後適応手法の6次元分類法とAIガバナンスへの応用
- Authors: Fardin Afdideh, Fernando Seoane, Farhad Abtahi,
- Abstract要約: ポストトレーニング適応は、現代の機械学習の実践の中心となっている。
文献は、テクニックファミリ、モデルクラス、デプロイメントコンテキストで断片化されています。
本調査では, 学習後適応文献を合成し, 6次元分類法を導入する。
- 参考スコア(独自算出の注目度): 42.798415096963396
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Post-training adaptation has become central to modern machine learning practice and includes techniques such as retraining, fine-tuning, parameter-efficient adaptation, alignment, retrieval augmentation, model editing, unlearning, calibration, and Multimodal Instruction Tuning. However, the literature remains fragmented across technique families, model classes, and deployment contexts, making it difficult to compare methods or describe how a trained model has been modified. This survey synthesizes the post-training adaptation literature and introduces a six-dimensional taxonomy organized by mechanism, goal, data requirement, persistence, structural scope, and model type. The taxonomy distinguishes commonly conflated terms such as fine-tuning, retrieval augmentation, and prompting, and shows how adaptation strategies evolve from traditional machine learning through deep learning, foundation models, large language models, and multimodal large language models. It also maps relationships among techniques, including inheritance, supersession, hybridization, and layered deployment stacks. The resulting vocabulary can support technical documentation, model-change tracking, and governance analysis. The survey concludes by identifying open challenges in evaluation, reproducibility, persistent inference-time adaptation, unlearning, multimodal adaptation, and governance-aware post-training workflows.
- Abstract(参考訳): ポストトレーニング適応は、現代の機械学習の実践の中心となり、リトレーニング、微調整、パラメータ効率適応、アライメント、検索強化、モデル編集、未学習、校正、マルチモーダルインストラクションチューニングなどの技術を含んでいる。
しかしながら、文献はテクニックファミリ、モデルクラス、デプロイメントコンテキストで断片化されており、メソッドの比較や、トレーニングされたモデルがどのように修正されたかを記述することは困難である。
本調査では, 学習後適応文献を要約し, メカニズム, 目標, データ要件, 永続性, 構造範囲, モデルタイプによって構成された6次元分類法を紹介する。
分類学は、微調整、検索強化、プロンプトといった、一般的に混ざった用語を区別し、適応戦略が、ディープラーニング、基礎モデル、大規模言語モデル、マルチモーダルな言語モデルを通じて、従来の機械学習からどのように進化するかを示す。
また、継承、スーパーセッション、ハイブリダイゼーション、レイヤ化されたデプロイメントスタックなど、テクニック間の関係をマップする。
結果として得られる語彙は、技術ドキュメント、モデル変更追跡、ガバナンス分析をサポートすることができる。
この調査は、評価、再現性、永続的な推論時間適応、未学習、マルチモーダル適応、ガバナンスに意識したポストトレーニングワークフローにおけるオープンな課題を特定することで締めくくられている。
関連論文リスト
- Model Merging in the Era of Large Language Models: Methods, Applications, and Future Directions [19.95776080082138]
本調査は,モデル統合を進めるための構造的基盤を研究者や実践者に提供することを目的としている。
まず、損失ランドスケープ形状、モード接続性、線形モード接続性仮説など、マージの理論的基盤を確立する。
次に、アルゴリズムのランドスケープを体系的にレビューし、平均ウェイト、タスクベクトル算術、スパーシフィケーション強化手法、ミックス・オブ・エキスパートアーキテクチャ、進化的最適化アプローチについて述べる。
論文 参考訳(メタデータ) (2026-03-10T17:31:55Z) - Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。
本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。
残る技術的課題や倫理的考察も分析する。
論文 参考訳(メタデータ) (2025-06-05T05:42:27Z) - From Word Vectors to Multimodal Embeddings: Techniques, Applications, and Future Directions For Large Language Models [17.04716417556556]
本稿では,分布仮説や文脈的類似性といった基礎概念を概観する。
本稿では, ELMo, BERT, GPTなどのモデルにおいて, 静的な埋め込みと文脈的埋め込みの両方について検討する。
議論は文章や文書の埋め込みにまで拡張され、集約メソッドや生成トピックモデルをカバーする。
モデル圧縮、解釈可能性、数値エンコーディング、バイアス緩和といった高度なトピックを分析し、技術的な課題と倫理的意味の両方に対処する。
論文 参考訳(メタデータ) (2024-11-06T15:40:02Z) - Model Merging in LLMs, MLLMs, and Beyond: Methods, Theories, Applications and Opportunities [89.40778301238642]
モデルマージは、機械学習コミュニティにおける効率的なエンパワーメント技術である。
これらの手法の体系的かつ徹底的なレビューに関する文献には大きなギャップがある。
論文 参考訳(メタデータ) (2024-08-14T16:58:48Z) - Inference Optimizations for Large Language Models: Effects, Challenges, and Practical Considerations [0.0]
大規模な言語モデルは自然言語処理においてユビキタスである。
本稿では,資源要件の低減と大規模言語モデルの圧縮に関する諸技術について概説する。
論文 参考訳(メタデータ) (2024-08-06T12:07:32Z) - A Lost Opportunity for Vision-Language Models: A Comparative Study of Online Test-Time Adaptation for Vision-Language Models [3.0495235326282186]
ディープラーニングでは、分散シフトに対する堅牢性を維持することが重要です。
この研究は、視覚言語基礎モデルをテスト時に適用するための幅広い可能性を探究する。
論文 参考訳(メタデータ) (2024-05-23T18:27:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。