論文の概要: Task Format as a Factor in Adaptation: A Controlled Comparison of LoRA and Full Fine-Tuning for Prompt-Safety Classification
- arxiv url: http://arxiv.org/abs/2610.33813v1
- Date: Sat, 24 Oct 2026 17:24:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.452588
- Title: Task Format as a Factor in Adaptation: A Controlled Comparison of LoRA and Full Fine-Tuning for Prompt-Safety Classification
- Title（参考訳）: 適応要因としてのタスクフォーマット:プロンプトセーフティ分類のためのLoRAとフルファインチューニングの比較
- Abstract要約: 低ランク適応 (LoRA) と完全微調整との比較を行った。
ラベルだけでトレーニングされたすべてのアーキテクチャやフォーマットにおいて、完全な微調整のリードであるLoRAを2～3pp削減します。
また、トレーニングされたモデルのスコアはドメイン内の8Bよりも高くなりますが、3つのアウト・オブ・ディストリビューションコーパスのうち2つに隠れています。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Fine-tuning a language model for classification involves many design decisions. Comparisons of low-rank adaptation (LoRA) with full fine-tuning are common but often confounded, and task format is rarely studied. We compare both regimes on prompt-safety classification with a matched 400M encoder-decoder pair (Ettin) across three task formats, with up to 15 seeds per cell and pre-specified analyses. At the pre-specified learning rates, full fine-tuning leads LoRA by 2-3 pp in every architecture and format trained on the label alone. On the encoder, the gap closes once both rates are chosen by the same search. Training LoRA to write a reason after its verdict adds 4.0 pp and closes the gap, but a content-free sentence of equal length does not. Trained models score above a prompted 8B in domain but fall behind it on two of three out-of-distribution corpora, trailing by 8-23 pp on adversarial jailbreaks and flagging 27-66% of benign but harmful-looking prompts as unsafe, against the 8B's 2-3%. Together, the results suggest that the adaptation regime matters less than how each model is trained, its learning rate, and training target, and that in-domain accuracy alone is an incomplete guide to robustness.
- Abstract（参考訳）: 分類のための言語モデルの微調整には、多くの設計決定が含まれる。
低ランク適応 (LoRA) とフル微調整の比較は一般的であるが, しばしば混同され, タスク形式が研究されることは稀である。
我々は,3つのタスク形式に適合する400万エンコーダとデコーダのペア(Ettin)と,最大15個のセルの種子と,事前に特定された分析とを,プロンプトセーフティ分類で比較した。
事前指定された学習率では、ラベルだけでトレーニングされたすべてのアーキテクチャとフォーマットにおいて、完全な微調整がLoRAを2～3ppリードする。
エンコーダでは、両方のレートが同じ検索によって選択されるとギャップが閉じる。
LoRAは、判定が4.0 ppを加算し、ギャップを埋める理由を書くように訓練するが、同じ長さの内容のない文は成立しない。
訓練されたモデルは、ドメイン内の8Bよりも上位にスコアが上がったが、敵のジェイルブレイクで8-23ppに続き、8Bの2-3%に対して有害だが有害なプロンプトの27-66%を安全でないと警告した3つのアウト・オブ・ディストリビューション・コーポラのうち2つに後れを取っている。
その結果、適応体制は各モデルの訓練方法、学習率、訓練目標よりも重要ではなく、ドメイン内精度だけでは堅牢性への不完全なガイドであることが示唆された。
関連論文リスト
- Benchmarking Self-Supervised 3D Medical Vision Foundation Models and Transferability Estimation [57.65266782182578]
セルフ教師付き事前トレーニングは、3D医療基盤モデルのプールを拡張したが、異なるデータセット、エンドポイント、微調整プロトコルを使用した評価を公表した。
14のセグメンテーション、分類、回帰タスク、複数の解剖学とモダリティにまたがる23の候補をベンチマークした。
3モデルショートリストは、7つのセグメンテーションタスクで記録された抜粋+訓練ジョブ時間を85.8%削減した。
論文 参考訳（メタデータ） (2026-10-13T01:52:19Z) - Greedy Decoding Is Not Precision-Invariant: Cross-Precision Output Divergence in LLM Inference [13.137699166830322]
大規模言語モデルからのグレディ復号は、一般に決定論的として扱われる。
同一のモデル,プロンプト,デコードアルゴリズムは同一のハードウェア上で,BF16とFP16の異なる出力を生成する。
実験により,22層に蓄積したボディーエラーは,浮動小数点数と浮動小数点数とを区別しないことがわかった。
論文 参考訳（メタデータ） (2026-09-22T15:54:16Z) - An Empirical Evaluation of Cost-Efficient Large Language Models on Algorithmic Programming Tasks [0.0]
38.4%のメソッドは返却した値を計算せず、返却された回答の12.9%のみが正しい。
結果クラスの条件は、応答の信頼性と正しさが逆関係であることを示しているが、真の計算方法が最も多く答えられ、19.3%が正しかった。
論文 参考訳（メタデータ） (2026-09-16T02:55:03Z) - When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models [45.91367912142692]
異なるモデルがいまだに同じ狭い部分集合を選択している可能性を示し、単一の引用が誤りを犯さずに、引用モノカルチャーを生成する。
3つのベンダーの11のモデルが、30のランダムなパネルから少なくとも10の論文を選択しており、実際のタイトルと抽象物があるが、作者が作り直され、再割り当て年、隠れた会場と引用数がある。
論文 参考訳（メタデータ） (2026-08-03T14:27:46Z) - Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。
我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。
GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
論文 参考訳（メタデータ） (2026-06-04T05:43:12Z) - Off-the-Shelf LLMs as Process Scorers: Training-Free Alternative to PRMs for Mathematical Reasoning [51.88950852117154]
Chunk-Level Guided Generationは、既製の大規模言語モデルをプロセススコアラとして使用する、トレーニング不要の代替手段である。
本研究では,系統的な長さバイアスのため,大モデル確率の可変長推論ステップが信頼できないことを示す。
Chunk-Level Guided Generation は PRM guided search よりもかなり短い推論トレースを生成する。
論文 参考訳（メタデータ） (2026-06-01T04:43:36Z) - Procedural Knowledge Is Not Low-Rank: Why LoRA Fails to Internalize Multi-Step Procedures [1.6214121783846343]
我々は,LoRAが効率の優位性を維持するランクにおいて,完全な微調整に間に合わないことを示す。
発見は、手続き的なタスクが完全な微調整にかなり足りていないことを証明している。
論文 参考訳（メタデータ） (2026-05-23T17:06:02Z) - Step-wise Rubric Rewards for LLM Reasoning [72.17879367869503]
RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論を改善するために広く使われている。
正しい回答の18.2%は間違っているが、肯定的な報酬がある。
6つの数学的推論ベンチマークで、SRaRはRaRの平均精度を3.57ポイント改善した。
論文 参考訳（メタデータ） (2026-05-17T07:08:14Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - Adapting Large Language Models to a Low-Resource Agglutinative Language: A Comparative Study of LoRA and QLoRA for Bashkir [0.0]
本稿では,大規模な言語モデルをBashkir言語に適応させるタスクに適用する,パラメータ効率のよい微調整手法の比較検討を行う。
各種アーキテクチャのモデルを用いた71k文書(46.9Mトークン)のBashkirテキストコーパスで実験評価を行った。
論文 参考訳（メタデータ） (2026-05-06T14:14:35Z) - Correct, Concise and Complete: Multi-stage Training For Adaptive Reasoning [11.179446105672461]
教師付き微調整と強化学習を組み合わせた多段階効率的な推論手法を提案する。
提案手法は,8Bモデルでは平均28%,32Bモデルでは40%の応答長を減少させる。
より複雑な最先端の効率的な推論手法に比べて、優れたトレードオフを実現する。
論文 参考訳（メタデータ） (2026-01-06T12:31:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。