論文の概要: How Perturbations Propagate: A Multi-Level Analysis of Robustness in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.03322v1
• Date: Thu, 03 Sep 2026 03:17:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:38.901638
• Title: How Perturbations Propagate: A Multi-Level Analysis of Robustness in Large Language Models
• Title（参考訳）: 摂動がいかに伝播するか:大規模言語モデルにおけるロバスト性のマルチレベル解析
• Abstract要約: そこで本研究では,デコーダのみの言語モデルを用いて,6つの自然的および合成的入力摂動がどのように伝播するかを考察する。 我々は4つのGPT-2と2つのQwen2.5チェックポイントにおける行動効果を評価する。
• 参考スコア（独自算出の注目度）: 0.05833117322405446
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language models encounter typos, corrupted text, altered words, and disrupted token order, yet robustness is usually evaluated only through output behavior. We study how six naturalistic and synthetic input perturbations propagate through decoder-only language models at three levels: output behavior, hidden-state geometry, and attention-head function. We evaluate behavioral effects across four GPT-2 and two Qwen2.5 checkpoints by analyzing layerwise geometry using centered kernel alignment and intrinsic dimension, and examine attention-head responses in GPT-2. Perturbation types produce distinguishable metric profiles that are not fully captured by output measures and are only partly consistent across the tested checkpoints. Copying scores are especially associated with activation-patching recovery under token substitution and shuffling. Gradient-guided HotFlip perturbations also cause stronger behavioral and representational disruption than rate-matched random token substitutions in GPT-2; their behavioral effects are consistent across all six tested checkpoints. Our results show that robustness claims based on a single behavioral or representational metric can be misleading, and motivate multi-level evaluation of how perturbations alter language-model computation.
• Abstract（参考訳）: 言語モデルは、タイプミス、腐敗したテキスト、変化した単語、破壊されたトークン順序に遭遇するが、堅牢性は通常、出力の振る舞いによってのみ評価される。 本研究では,デコーダのみの言語モデルを用いて,自然言語と合成入力の摂動が3つのレベル(出力挙動,隠れ状態幾何,アテンションヘッド関数)でどのように伝播するかを検討する。 我々は,4つのGPT-2と2つのQwen2.5チェックポイント間の挙動効果を,中心となるカーネルアライメントと固有次元を用いて階層的に解析して評価し,GPT-2における注目応答について検討した。 摂動型は、出力測度によって完全に捉えられず、テストされたチェックポイント間で部分的に一貫性のある、区別可能なメートル法プロファイルを生成する。 コピースコアは特にトークン置換とシャッフルの下でのアクティベーション・パッチ・リカバリと関連している。 勾配誘導型HotFlip摂動は、GPT-2の速度整合ランダムトークン置換よりも強い振舞いと表現的破壊を引き起こす。 以上の結果から,単一の行動的・表現的指標に基づくロバスト性主張は誤解を招く可能性があり,摂動が言語モデル計算をどのように変化させるかのマルチレベル評価を動機付けている。

関連論文リスト

• Causal dictionary learning reveals and validates transcription-factor binding features in genomic language models [5.237172334460829]
  ゲノム基盤モデルにおいて、スパース辞書学習と因果介入を組み合わせて、解釈可能な特徴を抽出し、検証し、因果的にテストする枠組みを導入する。 位置重み行列に対するこれらの特徴の素性検証は,GC合成と反復的要素によって著しく整合されていることを示す。 我々は,特定の特徴が,単にモチーフの存在ではなく,細胞型特異的TF結合を表現するために機能的に用いられていることを確認した。
  論文  参考訳（メタデータ） (2026-07-21T22:54:46Z)
• Between Zeros and Ones: Behavioral Characterization Beyond Binary Labeling Across Public ICS Datasets [0.12249546377051435]
  インダストリアル・コントロール・システムにおける侵入検知は、通常、バイナリ・ノーマル(バイナリ・ノーマル)とアタック(アタック)のラベルを用いて、少数の公開ベンチマークで評価される。 生の多変量プロセストレースを5つの解釈可能な物理プリミティブにマッピングする行動特徴化フレームワークを提案する。 攻撃ウィンドウは正常な動作に対して明らかな行動変化を示すのに対し,3つのデータセットは行動空間のほぼ異なる領域を占めることを示す。
  論文  参考訳（メタデータ） (2026-06-29T15:58:34Z)
• Human Label Variation as Stable Signal: Learning Annotator-Specific Explanation Behavior via Cross-Annotator Preference Optimization [51.93456979139756]
  自由文の説明は、ラベルの不一致を超えて人間のラベルのバリエーションを拡大する。 このようなアノテータ固有のラベル説明動作を,大規模言語モデルで学習し,再現できるかどうかを検討する。
  論文  参考訳（メタデータ） (2026-05-27T17:55:00Z)
• Spectral Archaeology: The Causal Topology of Model Evolution [0.0]
  振る舞いベンチマークは、モデルが何をするかをTextithowに教えてくれますが、textithowではありません。 本研究では,アテンショングラフスペクトルを用いた無トレーニングメカニスティックプローブを提案する。 12のモデルと10の言語にまたがって、標準評価で欠落した不連続を露呈する「安定な指紋」が得られる。
  論文  参考訳（メタデータ） (2026-01-06T21:26:54Z)
• Modeling Language as a Sequence of Thoughts [0.0]
  トランスフォーマー言語モデルは、トークンのシーケンスとして言語をモデル化することで、驚くほど自然なテキストを生成することができる。 しかし、それらは、エンティティやイベントの世界的な一貫性のある潜在表現を形成することができず、その欠如はリレーショナルな方向(例えば、逆の呪い)の脆さ、文脈化エラー、データ非効率に寄与する。 我々は、トークンと文レベルの「思考」状態という2つの抽象レベルで言語をモデル化する再帰変換器であるThought Gestalt(TG)モデルを導入する。
  論文  参考訳（メタデータ） (2025-12-31T18:24:57Z)
• When Personalization Tricks Detectors: The Feature-Inversion Trap in Machine-Generated Text Detection [64.23509202768945]
  パーソナライズされた設定における検出ロバスト性を評価するための最初のベンチマークであるデータセットを紹介する。 実験により, 個別設定における検出器間の性能差が大きいことが示された。 パーソナライズされた設定における検出性能変化を簡易かつ信頼性の高い予測方法を提案する。
  論文  参考訳（メタデータ） (2025-10-14T13:10:23Z)
• Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
  本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。 GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
  論文  参考訳（メタデータ） (2025-09-03T08:13:52Z)
• How Transformers Learn Regular Language Recognition: A Theoretical Study on Training Dynamics and Implicit Bias [48.9399496805422]
  我々は「偶対」と「パリティチェック」と呼ばれる正規言語認識のカテゴリにおける2つの代表的タスクに焦点をあてる。 我々のゴールは、注意層と線形層からなる一層トランスフォーマーが、これらの課題をいかに解決するかを探求することである。
  論文  参考訳（メタデータ） (2025-05-02T00:07:35Z)
• Influence Functions for Sequence Tagging Models [49.81774968547377]
  影響関数を拡張して、予測を学習ポイントまで追跡し、それらに通知します。 本手法を用いて,系統的アノテーションの誤りを同定し,セグメント効果の実用性を示す。
  論文  参考訳（メタデータ） (2022-10-25T17:13:11Z)
• A Causal Framework to Quantify the Robustness of Mathematical Reasoning with Language Models [81.15974174627785]
  入力空間における直接的介入に対する頑健さと感度の観点から言語モデルの振舞いについて検討する。 しかし, GPT-3 Davinciモデル(175B)は, 他のGPTモデルと比較して, 頑健さと感度の両面で劇的な改善を実現している。
  論文  参考訳（メタデータ） (2022-10-21T15:12:37Z)
• SLA$^2$P: Self-supervised Anomaly Detection with Adversarial Perturbation [77.71161225100927]
  異常検出は、機械学習の基本的な問題であるが、難しい問題である。 本稿では,非教師付き異常検出のための新しい強力なフレームワークであるSLA$2$Pを提案する。
  論文  参考訳（メタデータ） (2021-11-25T03:53:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。