論文の概要: Systematic Evaluation of Robustness in Fine-tuned Models
- arxiv url: http://arxiv.org/abs/2611.01900v1
- Date: Sun, 01 Nov 2026 13:41:24 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:23:14.789686
- Title: Systematic Evaluation of Robustness in Fine-tuned Models
- Title(参考訳): 微調整モデルにおけるロバストさの体系的評価
- Abstract要約: 本研究は,異なるデータセットおよび攻撃タイプにわたる微調整済みモデルのロバスト性について,系統的に評価する。
重み付けでモデルを微調整し、攻撃前および異なる攻撃ケースの後にデータ上でモデルを評価します。
その結果、微調整されたモデルの堅牢性は、データ分布やサンプルサイズによって異なり、調整された選択の必要性を強調している。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Our study systematically evaluates the robustness of fine-tuned pre-trained models across different datasets and attack types, aiming to provide insights for researchers in selecting pre-trained models for image classification tasks while prioritizing robustness against potential attacks. Our work explores the influence of fine-tuning pre-trained models with different datasets and attack types on their robustness and overview of the appropriate pre-trained model for image classification based on factors such as computation resources, memory usage, and accuracy on clean data. We fine-tune the models with weights. Evaluate the models on data before any attack and after different attack cases. The study utilizes publicly available image datasets such as MNIST, CIFAR10, CIFAR100, and SVHN to assess the robustness of pre-trained models. The results indicate that the robustness of fine-tuned models varies across different data distributions and sample sizes, emphasizing the need for tailored selection based on specific task requirements. The findings also highlight the varying performance of ResNet50, DenseNet, and MobileNet in defending against attacks on different datasets. Overall, this research provides valuable insights into the robustness of fine-tuned pre-trained models and their suitability for real-world applications in image classification.
- Abstract(参考訳): 本研究は,様々なデータセットや攻撃タイプにまたがる微調整済みモデルのロバスト性を体系的に評価し,画像分類タスクのための事前訓練済みモデルを選択する上で,潜在的な攻撃に対する堅牢性を優先しながら,研究者に洞察を提供することを目的としている。
本研究は,異なるデータセットと攻撃型を用いた微調整事前学習モデルが,その堅牢性に与える影響について検討し,計算資源,メモリ使用量,クリーンデータに対する精度などの要因に基づく画像分類のための適切な事前学習モデルの概要について述べる。
私たちは重量でモデルを微調整します。
任意の攻撃前および異なる攻撃ケースの後に、データ上でモデルを評価する。
この研究では、MNIST、CIFAR10、CIFAR100、SVHNなどの公開画像データセットを使用して、事前訓練されたモデルの堅牢性を評価する。
その結果、細調整されたモデルの堅牢性は、データ分布やサンプルサイズによって異なり、特定のタスク要求に基づいて調整された選択の必要性を強調している。
この結果はまた、さまざまなデータセットに対する攻撃に対する防御において、ResNet50、DenseNet、MobileNetのさまざまなパフォーマンスを強調している。
全体として、この研究は、微調整された事前学習モデルの堅牢性と、実世界の画像分類への応用性に関する貴重な知見を提供する。
関連論文リスト
- Holmes: Towards Effective and Harmless Model Ownership Verification to Personalized Large Vision Models via Decoupling Common Features [54.63343151319368]
本稿では、類似の共通特徴を分離し、パーソナライズされたモデルに対する無害モデルオーナシップ検証手法を提案する。
最初の段階では、データセット固有の機能を中断しながら、犠牲者モデルの共通の特徴を保持するシャドウモデルを作成します。
その後、メタ分類器が訓練され、被害者のデータセット固有の特徴を含む不審なモデルを決定することで、盗まれたモデルを特定する。
論文 参考訳(メタデータ) (2025-06-24T15:40:11Z) - Large Pre-Training Datasets Don't Always Guarantee Robustness after Fine-Tuning [29.69990405081772]
我々は、微調整モデルにおけるロバストネスの保存性を評価するために、ロバストネス継承ベンチマーク(ImageNet-RIB)を提案する。
微調整は事前訓練されたモデル間の堅牢性を低下させる。
最大および最も多様なデータセットで事前訓練されたモデルは、小さなデータセットを微調整した後、より大きなロバスト性損失と低い絶対ロバスト性の両方を示す。
論文 参考訳(メタデータ) (2024-10-28T22:33:22Z) - Reinforcing Pre-trained Models Using Counterfactual Images [54.26310919385808]
本稿では,言語誘導型生成対実画像を用いた分類モデル強化のための新しいフレームワークを提案する。
逆ファクト画像データセットを用いてモデルをテストすることにより、モデルの弱点を同定する。
我々は、分類モデルを微調整し強化するために、デファクトイメージを拡張データセットとして採用する。
論文 参考訳(メタデータ) (2024-06-19T08:07:14Z) - A study on the impact of pre-trained model on Just-In-Time defect
prediction [10.205110163570502]
RoBERTaJIT、CodeBERTJIT、BARTJIT、PLBARTJIT、GPT2JIT、CodeGPTJITの6つのモデルを構築します。
本稿では,コミットコードとコミットメッセージを入力として使用する際のモデルの性能と,トレーニング効率とモデル分布の関係について検討する。
論文 参考訳(メタデータ) (2023-09-05T15:34:22Z) - Effective Robustness against Natural Distribution Shifts for Models with
Different Training Data [113.21868839569]
効果的ロバスト性」は、分配内(ID)性能から予測できる以上の余分な分配外ロバスト性を測定する。
異なるデータに基づいてトレーニングされたモデルの有効ロバスト性を評価・比較するための新しい評価指標を提案する。
論文 参考訳(メタデータ) (2023-02-02T19:28:41Z) - Comparing Test Sets with Item Response Theory [53.755064720563]
我々は,18の事前学習トランスフォーマーモデルから予測した29のデータセットを個別のテスト例で評価した。
Quoref、HellaSwag、MC-TACOは最先端のモデルを区別するのに最適である。
また、QAMRやSQuAD2.0のようなQAデータセットに使用されるスパン選択タスク形式は、強いモデルと弱いモデルとの差別化に有効である。
論文 参考訳(メタデータ) (2021-06-01T22:33:53Z) - Models, Pixels, and Rewards: Evaluating Design Trade-offs in Visual
Model-Based Reinforcement Learning [109.74041512359476]
視覚的MBRLアルゴリズムにおける予測モデルの設計決定について検討する。
潜在空間の使用など、しばしば重要と見なされる設計上の決定は、タスクのパフォーマンスにはほとんど影響しないことが分かりました。
我々は,この現象が探索とどのように関係しているか,および標準ベンチマークにおける下位スコーリングモデルのいくつかが,同じトレーニングデータでトレーニングされた場合のベストパフォーマンスモデルと同等の性能を発揮するかを示す。
論文 参考訳(メタデータ) (2020-12-08T18:03:21Z) - Trade-offs between membership privacy & adversarially robust learning [13.37805637358556]
標準モデルがロバストモデルよりもはるかに過度に適合する設定を特定します。
オーバーフィッティングの度合いは、トレーニングに利用可能なデータの量に依存する。
論文 参考訳(メタデータ) (2020-06-08T14:20:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。