論文の概要: A Systematic Study of Training-Free Methods for Trustworthy Large Language Models

• arxiv url: http://arxiv.org/abs/2604.15789v1
• Date: Fri, 17 Apr 2026 07:50:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-20 22:00:19.799074
• Title: A Systematic Study of Training-Free Methods for Trustworthy Large Language Models
• Title（参考訳）: 信頼できる大規模言語モデルの学習自由度に関する体系的研究
• Authors: Wai Man Si, Mingjie Li, Michael Backes, Yang Zhang,
• Abstract要約: トレーニング後アライメント技術に代わる費用対効果の代替手段として、トレーニングフリーな手法が登場した。 信頼性の高い各種設定に対するトレーニングフリー手法の有効性を再評価し,有用性,堅牢性,計算オーバーヘッドに与える影響について検討した。 我々の分析は、現在のアプローチにおけるいくつかのトレードオフと未解決の課題を強調しています。
• 参考スコア（独自算出の注目度）: 23.758453206408102
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Large Language Models (LLMs) receive increasing attention and are being deployed across various domains, their potential risks, including generating harmful or biased content, producing unsupported claims, and exhibiting vulnerabilities to adversarial attacks, have drawn significant attention. To enable quick and low-cost adaptation, training-free methods have recently emerged as cost-effective alternatives to post-training alignment techniques. Despite their promising results, these methods are evaluated inconsistently across the literature, cover limited dimensions of trustworthiness, and can introduce undesirable side effects, such as utility degradation and increased brittleness. To fully assess the impacts of these training-free methods, we take a step back and systematically re-evaluate the effectiveness of existing training-free methods against various trustworthy settings and their influence on utility, robustness, and computational overhead. We also categorize these methods into three levels (input, internal, and output) based on where they intervene in the model's information flow during inference. Using this taxonomy, we conduct a comprehensive analysis of various representative and effective methods from each level across different LLM families and sizes. Our analysis highlights several trade-offs and unresolved challenges in current approaches. We summarize key findings and limitations in the existing literature, and propose practical recommendations for balancing trustworthiness, utility, and robustness in LLMs without the need for additional training.
• Abstract（参考訳）: 大規模言語モデル(LLM)が注目され、さまざまな領域に展開されているため、有害または偏見のあるコンテンツの生成、不当なクレームの生成、敵の攻撃に対する脆弱性の顕在化といった潜在的なリスクが注目されている。 高速で低コストな適応を実現するために、最近、トレーニング後のアライメント技術に代わる費用対効果の代替手段として、トレーニング不要な手法が登場した。 その有望な結果にもかかわらず、これらの手法は文献間で矛盾なく評価され、信頼性の限られた次元をカバーし、実用性劣化や脆性の増加といった望ましくない副作用をもたらす可能性がある。 これらのトレーニングフリーメソッドの効果を十分に評価するために,既存のトレーニングフリーメソッドが様々な信頼性の高い設定に対して有効であることと,有用性,堅牢性,計算オーバーヘッドに与える影響を,一歩後退し,体系的に再評価する。 また、これらの手法は、推論中のモデルの情報フローに介在する位置に基づいて、3つのレベル(インプット、内部、出力)に分類する。 この分類法を用いて、各レベルから異なるLLMファミリーとサイズにまたがる様々な代表的および効果的な手法を包括的に分析する。 我々の分析は、現在のアプローチにおけるいくつかのトレードオフと未解決の課題を強調しています。 我々は,既存の文献における重要な知見と限界を要約し,LLMにおける信頼性,実用性,堅牢性のバランスをとるための実践的勧告を,追加のトレーニングを必要とせずに提案する。

関連論文リスト

• LLM Unlearning Under the Microscope: A Full-Stack View on Methods and Metrics [10.638045151201084]
  本稿では,近年のステートフル・アンラーニング法12の原則的分類について述べる。 未学習効果(UE)、実用性維持(UT)、堅牢性(Rob)の評価を再考する。 分析の結果,Multiple-choice question (MCQ) の精度に支配される現在の評価は,狭い視点しか示さないことがわかった。
  論文  参考訳（メタデータ） (2025-10-08T23:47:05Z)
• Unveiling Trust in Multimodal Large Language Models: Evaluation, Analysis, and Mitigation [51.19622266249408]
  MultiTrust-XはMLLMの信頼性問題を評価、分析、緩和するためのベンチマークである。 分類に基づいて、MultiTrust-Xには32のタスクと28のキュレートデータセットが含まれている。 私たちの実験は、現在のモデルに重大な脆弱性を明らかにします。
  論文  参考訳（メタデータ） (2025-08-21T09:00:01Z)
• Alignment and Safety in Large Language Models: Safety Mechanisms, Training Paradigms, and Emerging Challenges [47.14342587731284]
  本調査では,大規模言語モデル(LLM)アライメントにおけるアライメント手法,トレーニングプロトコル,経験的発見について概観する。 我々は多種多様なパラダイムをまたいだアライメント手法の開発を分析し、コアアライメント目標間の基本的なトレードオフを特徴づける。 我々は、直接選好最適化(DPO)、構成AI、脳インスパイアされた方法、アライメント不確実性定量化(AUQ)など、最先端技術について議論する。
  論文  参考訳（メタデータ） (2025-07-25T20:52:58Z)
• Rectifying Privacy and Efficacy Measurements in Machine Unlearning: A New Inference Attack Perspective [42.003102851493885]
  本稿では,不正確な未学習手法の評価において重要なギャップに対処するため,RULI (Rectified Unlearning Evaluation Framework via Likelihood Inference)を提案する。 RULIは、未学習の有効性とプライバシリスクをサンプルごとの粒度で測定するために、二重目的攻撃を導入している。 既存の手法で過小評価されているプライバシーリスクを暴露し,最先端のアンラーニング手法の重大な脆弱性を明らかにした。
  論文  参考訳（メタデータ） (2025-06-16T00:30:02Z)
• Refining Input Guardrails: Enhancing LLM-as-a-Judge Efficiency Through Chain-of-Thought Fine-Tuning and Alignment [2.9775785740619254]
  大きな言語モデル(LLM)は、会話型AI製品など、さまざまなアプリケーションで価値のある機能を示す。 悪意のあるユーザインタラクションに対する脆弱性を軽減することで、これらの製品のセキュリティと信頼性を確保することが最重要である。 入力モデレーションガードレールとして機能する異なるLDMの微調整およびCoT応答の調整の有効性について検討した。
  論文  参考訳（メタデータ） (2025-01-22T18:40:57Z)
• Towards Effective Evaluations and Comparisons for LLM Unlearning Methods [97.2995389188179]
  本稿では,大規模言語モデルにおける機械学習評価の精度向上を図る。 評価指標の堅牢性と、競合する目標間のトレードオフという、2つの重要な課題に対処します。
  論文  参考訳（メタデータ） (2024-06-13T14:41:00Z)
• Accurate and Robust Feature Importance Estimation under Distribution Shifts [49.58991359544005]
  PRoFILEは、新しい特徴重要度推定法である。 忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2020-09-30T05:29:01Z)
• SAMBA: Safe Model-Based & Active Reinforcement Learning [59.01424351231993]
  SAMBAは、確率論的モデリング、情報理論、統計学といった側面を組み合わせた安全な強化学習のためのフレームワークである。 我々は,低次元および高次元の状態表現を含む安全な力学系ベンチマークを用いて,アルゴリズムの評価を行った。 アクティブなメトリクスと安全性の制約を詳細に分析することで,フレームワークの有効性を直感的に評価する。
  論文  参考訳（メタデータ） (2020-06-12T10:40:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。