Fugu-MT 論文翻訳(概要): Unsupervised Post-Training of Foundation Models: A Survey

論文の概要: Unsupervised Post-Training of Foundation Models: A Survey

arxiv url: http://arxiv.org/abs/2608.24982v2
Date: Thu, 27 Aug 2026 07:09:16 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-28 14:16:51.843171
Title: Unsupervised Post-Training of Foundation Models: A Survey
Title（参考訳）: 基礎モデルの教師なし試験後調査
Abstract要約: 本研究では,unsupervised Post-Training (UPT) について検討する。学習後モデルを改善するか、エラーを増幅するかを、内部信号とタスク構造の選択がどのように決定するかを示す。
参考スコア（独自算出の注目度）: 47.00461678077593
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Foundation-model post-training usually relies on human labels, preference data, stronger teachers, or executable verifiers. We study Unsupervised Post-Training (UPT): update-bearing adaptation on unlabeled inputs whose learning signal is derived from same-lineage model artifacts rather than an external oracle. We catalog 80 strict UPT methods and organize them by the object that supplies the update signal: a prediction statistic, a sample relation, a self-generated target, or an internal evaluator. Beyond inventory, we show how the choice of internal signal and task structure determines whether post-training improves the model or recursively amplifies error. An orthogonal Input Visibility $\times$ Update Persistence view maps deployment regimes and defines a unified framework for UPT selection and evaluation.
Abstract（参考訳）: ファンデーションモデルのポストトレーニングは通常、人間のラベル、選好データ、より強い教師、または実行可能な検証に頼っている。本研究では,学習信号が外部のオラクルではなく,同系統のモデルアーティファクトから導出される未ラベル入力に対する更新適応について検討する。我々は80の厳密なUTT手法をカタログ化し、その更新信号を供給するオブジェクトによってそれらを整理する:予測統計、サンプル関係、自己生成対象、内部評価器。インベントリ以外にも、内部信号とタスク構造の選択が、後トレーニングがモデルを改善するか、再帰的にエラーを増幅するかを決定する方法を示す。直交入力可視性$\times$ Update Persistenceビューは配置レシシをマップし、UTTの選択と評価のための統一されたフレームワークを定義する。

関連論文リスト

NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness [76.6324710887112]
NeoHorse-1は、エージェントのポストトレーニングを通じてこの経路を探索するために開発されたエージェントネイティブモデルのファミリーである。本システムでは,異種モデルプールとインテリジェントなルーティング,予測能力要求,選択されたサービス層,およびその後のユーザ毎のインタラクションを結合する。
論文参考訳（メタデータ） (2026-09-08T03:14:54Z)
Foundation Models for Face Presentation Attack Detection: A Unified Linear-Probing Benchmark [32.89408229880636]
クロスデータセット評価においては,顔提示攻撃検出は依然として困難である。 PAD関連情報を最小限のタスク特化訓練で利用できる汎用視覚基盤モデルか? 自己教師型ビジョントランス、視覚言語エンコーダ、教師型CNNを含む24個の凍結エンコーダを評価した。
論文参考訳（メタデータ） (2026-07-29T14:52:25Z)
Data Attribution in Adaptive Learning [0.0]
機械学習モデルは、ますます独自のトレーニングデータを生成する。これらの適応的な設定では、単一のトレーニング観察が学習者を更新し、学習者が収集する将来のデータの分布をシフトさせる。静的データセット用に設計された標準属性メソッドは、このフィードバックを無視する。条件付き介入目標を用いた有限水平適応学習における出現レベル属性を定式化する。
論文参考訳（メタデータ） (2026-04-06T17:41:32Z)
Refinement Provenance Inference: Detecting LLM-Refined Training Prompts from Model Behavior [58.751981587234916]
本稿では,Refinement Provenance Inference (RPI)監査タスクをRefinement Provenance Inference (RPI)として定式化する。本稿では,ロジットレベルの信号で教師が強制する可能性機能を融合させるロジットベースのフレームワークであるReProを提案する。トレーニング中、ReProはシャドウファインチューニングを通じて転送可能な表現を学び、訓練データアクセスなしで、見えない犠牲者の証明を推測するために軽量のリニアヘッドを使用する。
論文参考訳（メタデータ） (2026-01-05T10:16:41Z)
Training-Free Unsupervised Prompt for Vision-Language Models [27.13778811871694]
本研究では,表現能力の保持と類似性に基づく予測確率の残差による強化を図るために,TFUP(Training-Free Unsupervised Prompts)を提案する。 TFUPは、複数の分類データセットのトレーニングベースメソッドを超え、驚くべきパフォーマンスを達成する。 TFUP-Tは,複数のベンチマークにおける教師なしおよび少数ショット適応手法と比較して,最先端の分類性能が向上する。
論文参考訳（メタデータ） (2024-04-25T05:07:50Z)
Becoming self-instruct: introducing early stopping criteria for minimal instruct tuning [0.0]
Instruction following Score (IFS, Instruction following Score) は、言語モデルの指示に従う能力を検出するメトリクスである。利用可能なベースモデルとインストラクタモデルをベンチマークし, 部分文と完全文との整形応答の比率が有効であることを示す。 IFS for Supervised Fine-Tuning (SFT) of 7B and 13B LLaMA model。
論文参考訳（メタデータ） (2023-07-05T09:42:25Z)
Adversarial Learning Networks: Source-free Unsupervised Domain Incremental Learning [0.0]
非定常環境では、DNNモデルの更新にはパラメータの再トレーニングやモデル微調整が必要である。 DNN分類モデルを更新するための教師なしソースフリー手法を提案する。既存の手法とは異なり,本手法では過去のトレーニングデータを格納することなく,非定常的なソースとターゲットタスクに対して段階的にDNNモデルを更新することができる。
論文参考訳（メタデータ） (2023-01-28T02:16:13Z)
CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文参考訳（メタデータ） (2022-06-01T03:02:07Z)
Unified Instance and Knowledge Alignment Pretraining for Aspect-based Sentiment Analysis [96.53859361560505]
Aspect-based Sentiment Analysis (ABSA) は、ある側面に対する感情の極性を決定することを目的としている。事前トレーニングと下流ABSAデータセットの間には、常に深刻なドメインシフトが存在する。我々は,バニラ・プレトレイン・ファインチューンパイプラインにアライメント事前訓練フレームワークを導入する。
論文参考訳（メタデータ） (2021-10-26T04:03:45Z)
Robust Disentanglement of a Few Factors at a Time [5.156484100374058]
変分オートエンコーダ(VAE)の整合性向上のための人口ベーストレーニング(PBT)を導入する。 PBT-VAEトレーニングでは、教師なしのモデルスコアとしてUnsupervised Disentanglement Ranking (UDR)を使用し、この方法でトレーニングされたモデルが、生成因子のサブセットのみを一貫して切り離す傾向を示す。複数のデータセットとメトリクスをまたいで、最先端の教師なしのアンハンジメント性能とロバストネスを著しく改善したことを示す。
論文参考訳（メタデータ） (2020-10-26T12:34:23Z)
Unsupervised Paraphrasing with Pretrained Language Models [85.03373221588707]
教師なし環境で,事前学習した言語モデルを用いて高品質なパラフレーズを生成する訓練パイプラインを提案する。提案手法は,タスク適応,自己スーパービジョン,動的ブロッキング(Dynamic Blocking)という新しい復号アルゴリズムから構成される。提案手法は,Quora Question PairとParaNMTの両方のデータセット上で,最先端の性能を達成できることを示す。
論文参考訳（メタデータ） (2020-10-24T11:55:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。