論文の概要: Trustworthiness Costs of Domain Adaptation in Small Language Models:A Cross-Architecture Empirical Study

• arxiv url: http://arxiv.org/abs/2608.00042v1
• Date: Thu, 23 Jul 2026 21:54:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-09 10:00:34.263728
• Title: Trustworthiness Costs of Domain Adaptation in Small Language Models:A Cross-Architecture Empirical Study
• Title（参考訳）: 小言語モデルにおけるドメイン適応の信頼性コスト:クロスアーキテクチャ実証的研究
• Abstract要約: 我々は、3つのSLMアーキテクチャ(TinyLlama 1B, Gemma-2B, Llama 3.2 1B)と3つのドメイン(医療、法律、財務)にわたるドメイン適応の信頼性コストを定量化する。 4つの微調整戦略(ベースラインLoPO、セーフティDPO)。 Dark ER と TA-LoRA は,3種のランダム種子を用いた全216種の実験構成で評価した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Domain adaptation of small language models (SLMs) has emerged as a practical strategy for deploying capable NLP systems in resource-constrained, high-stakes environments including healthcare, legal services, and financial analysis. While performance gains from parameter-efficient fine-tuning are well characterised, the corresponding impact on trustworthiness (factual calibration and adversarial robustness) remains poorly understood. This paper presents the first systematic cross-domain, cross-architecture empirical study quantifying the trustworthiness cost of domain adaptation across three SLM architectures (TinyLlama 1B, Gemma-2 2B, Llama 3.2 1B), three domains (healthcare, legal, finance), two training-data conditions (benign and adversarially perturbed), and four fine-tuning strategies (baseline LoRA, Safety-DPO, Dark Experience Replay, and Task Arithmetic LoRA, TA-LoRA). Trustworthiness is evaluated through TruthfulQA MC2 (factual calibration) and HarmBench ASR (adversarial robustness) across all 216 experimental configurations with three random seeds. Three principal findings emerge. First, baseline QLoRA domain adaptation produces minimal TruthfulQA MC2 change across all model-domain combinations (mean |Delta TQA| < 0.02). Second, adversarially perturbed training data consistently improves domain adaptation quality (Delta loss approximately -0.040) without worsening trustworthiness benchmarks. Third, none of the three safety-preserving strategies reduced adversarial harm susceptibility: Safety-DPO was effectively neutral (mean Delta ASR < 0.001), while Dark ER and TA-LoRA increased mean HarmBench ASR by +0.171 and +0.155 respectively in safety-aligned models (Gemma-2 2B, Llama 3.2 1B), with individual configurations exceeding +0.45. These results challenge the assumption that replay-based and arithmetic-merge strategies transfer alignment to domain-adapted SLMs.
• Abstract（参考訳）: スモールランゲージモデル(SLM)のドメイン適応は、医療、法務サービス、財務分析など、資源に制約のある高い環境において、有能なNLPシステムを展開するための実践的戦略として現れてきた。 パラメータ効率の高い微調整による性能向上は良好に特徴づけられるが、信頼性(実際の校正と敵の堅牢性)への影響はいまだによく分かっていない。 本稿では,3つのSLMアーキテクチャ(TinyLlama 1B,Gemma-2 2B,Llama 3.21B),3つのドメイン(医療,法的,財政),2つのトレーニングデータ条件(良質かつ逆らい),4つの微調整戦略(ベースライン LoRA,セーフティ-DPO,ダークエクスペリエンス・リプレイ,タスク Arithmetic LoRA,TA-LoRA)にまたがるドメイン適応の信頼性を定量的に評価する。 信頼度はTruthfulQA MC2(実校正)とHarmBench ASR(逆堅牢性)で評価され、3つのランダムな種を持つ216の実験的な構成で評価される。 主な発見は3つある。 まず、ベースラインQLoRAドメイン適応は、すべてのモデルドメインの組み合わせ(平均 |Delta TQA| < 0.02)で最小限のTrathfulQA MC2変化を生成する。 第2に、逆摂動トレーニングデータにより、信頼性ベンチマークを悪化させることなく、ドメイン適応品質(デルタ損失は約0.040)を継続的に改善する。 3つ目は、3つの安全維持戦略のいずれも敵の害の感受性を低下させなかった: 安全DPOは事実上中立(デルタASR < 0.001)であり、一方ダークERとTA-LoRAは安全に適合したモデル(Gemma-2 2B, Llama 3.2 1B)においてそれぞれ平均HarmBench ASRを+0.171、+0.155増加させ、個々の構成は+0.45を超えた。 これらの結果は、リプレイベースと算術マージ戦略がドメイン適応SLMにアライメントを移すという仮定に挑戦する。

関連論文リスト

• ARES: Adaptive Red-Teaming and End-to-End Repair of Policy-Reward System [70.10833169681239]
  ヒトフィードバック(RLHF)からの強化学習は、大規模言語モデル(LLM)の整合の中心である 不完全なリワードモデル(RM)は、安全でない振る舞いをペナルティ化できないと、単一障害点になる可能性がある。 このような二重脆弱性を系統的に発見・緩和するフレームワークであるARESを紹介する。
  論文  参考訳（メタデータ） (2026-04-20T19:54:47Z)
• Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
  構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。 グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。 特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
  論文  参考訳（メタデータ） (2026-04-20T16:43:28Z)
• An Industrial-Scale Insurance LLM Achieving Verifiable Domain Mastery and Hallucination Control without Competence Trade-offs [20.181876038751156]
  INS-S1は、新しいエンドツーエンドアライメントパラダイムによってトレーニングされた保険特有なLarge Language Modelsファミリーである。 INS-S1はドメインタスクでのSOTAパフォーマンスを実現し、DeepSeek-R1とGemini-2.5-Proを大きく上回っている。 本結果は,汎用知能を損なうことなく,厳密な領域の特殊化を実現することができることを示す。
  論文  参考訳（メタデータ） (2026-03-15T16:13:37Z)
• NAACL: Noise-AwAre Verbal Confidence Calibration for LLMs in RAG Systems [53.52419750390942]
  大型言語モデル(LLM)はミッションクリティカルな事実領域で使用される。 LLMのキャリブレーション性能は, ノイズが回復した状況によって低下する。 我々は、ノイズ下での過信を解決するための原則的基盤を提供するため、NAACLルール(Noise-AwAre Confidence CaLibration Rules)を提案する。
  論文  参考訳（メタデータ） (2026-01-16T05:38:25Z)
• ReliabilityBench: Evaluating LLM Agent Reliability Under Production-Like Stress Conditions [0.32928123659012326]
  ツールを使用するLLMエージェントの既存のベンチマークでは、主に単一実行の成功率を報告し、運用に必要な信頼性特性を見逃している。 エージェントの信頼性を3次元にわたって評価するベンチマークである textbfReliabilityBench を紹介する。 我々は2つのモデル(Gemini 2.0 Flash, GPT-4o)と2つのエージェントアーキテクチャ(ReAct, Reflexion)を1,280回にわたって4つのドメイン(スケジューリング、旅行、カスタマーサポート、eコマース)で評価した。
  論文  参考訳（メタデータ） (2026-01-03T13:41:33Z)
• Quantifying Return on Security Controls in LLM Systems [0.0]
  本稿では、残留リスクを定量化するための意思決定指向フレームワークを提案する。 敵のプローブの結果を金融リスク推定と戻り制御の指標に変換する。
  論文  参考訳（メタデータ） (2025-12-17T04:58:09Z)
• ILoRA: Federated Learning with Low-Rank Adaptation for Heterogeneous Client Aggregation [15.926254171159146]
  3つのコアイノベーションを統合する統合フレームワークであるILoRAを提案する。 ILoRA は既存の連合 LoRA 法よりも精度と収束安定性が優れている。
  論文  参考訳（メタデータ） (2025-11-20T05:59:37Z)
• CoT-Saliency: Unified Chain-of-Thought Reasoning for Heterogeneous Saliency Tasks [96.64597365827046]
  本稿では,3つの運用上不均一なサリエンシタスクを共同で処理する,最初の統合フレームワークを提案する。 タスクの不均一性を橋渡しする視覚言語モデル(VLM)において、チェーン・オブ・ソート(CoT)推論プロセスを導入する。 我々は,全タスクにまたがる特別なSOTA手法と強力なクローズドソースVLMの整合性を示す。
  論文  参考訳（メタデータ） (2025-11-01T04:37:01Z)
• Efficiency vs. Alignment: Investigating Safety and Fairness Risks in Parameter-Efficient Fine-Tuning of LLMs [6.301699616285567]
  微調整技術は安全性と公正性に異なる影響を及ぼす可能性がある。 アダプタベースのアプローチでは安全性のスコアが向上する傾向があり、公平性に対して最も破壊的ではない。 Prompt-Tuning と P-Tuning は一般に安全性を低下させ、より大きな公正性回帰を引き起こす。
  論文  参考訳（メタデータ） (2025-11-01T03:29:56Z)
• NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
  本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。 提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。 実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2025-06-11T06:59:17Z)
• Sharpness-Aware Gradient Matching for Domain Generalization [84.14789746460197]
  ドメイン一般化(DG)の目標は、ソースドメインから他の見えないドメインに学習したモデルの一般化能力を強化することである。 最近開発されたシャープネス・アウェア最小化(SAM)法は、損失景観のシャープネス測定を最小化することで、この目標を達成することを目的としている。 モデルが小さな損失を伴って平らな最小値に収束することを保証するための2つの条件と,シャープネス・アウェア・グラディエントマッチング(SAGM)というアルゴリズムを提案する。 提案手法は5つのDGベンチマークにおける最先端の手法よりも一貫して優れている。
  論文  参考訳（メタデータ） (2023-03-18T07:25:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。