論文の概要: Investigating Linguistic Steering: An Analysis of Adjectival Effects Across Large Language Model Architectures
- arxiv url: http://arxiv.org/abs/2606.20572v1
- Date: Tue, 28 Apr 2026 12:14:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:41:02.412725
- Title: Investigating Linguistic Steering: An Analysis of Adjectival Effects Across Large Language Model Architectures
- Title（参考訳）: 言語ステアリングの調査:大規模言語モデルアーキテクチャにおける客観的効果の分析
- Abstract要約: モデル性能に対する個々の形容詞の操舵効果の定量化にはShapley値を用いる。
形容詞の小さな部分集合は不均等に強力な「レバー」として作用するが、それらの効果は普遍的ではない。
クロスモデル解析は「ファミリー効果」を明らかにし、アーキテクチャ的に異なるモデルは、ほとんど無相関な方法で反応する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Achieving reliable control of Large Language Models (LLMs) requires a precise, scalable understanding of how they interpret linguistic cues. We introduce a rigorous framework using Shapley values to quantify the steering effect of individual adjectives on model performance, moving beyond anecdotal heuristics to principled attribution. Applying this method to 100 adjectives across a diverse suite of models (including o3, gpt-4o-mini, phi-3, llama-3-70b, and deepseek-r1) on the MMLU benchmark, we uncover several critical findings for AI alignment. First, we find that a small subset of adjectives act as disproportionately powerful "levers," yet their effects are not universal. Cross-model analysis reveals a "family effect": models of a shared lineage exhibit correlated sensitivity profiles, while architecturally distinct models react in a largely uncorrelated manner, challenging the notion of a one-size-fits-all prompting strategy. Second, focused follow-up studies demonstrate that the steering direction of these powerful adjectives is not intrinsic but is highly contingent on their syntactic role and position within the prompt. For larger models like gpt-4o-mini, we provide the first quantitative evidence of strong, non-additive interaction effects where adjectives can synergistically amplify, antagonistically dampen, or even reverse each other's impact. In contrast, smaller models like phi-3 exhibit a more literal and less compositional response. These results suggest that as models scale, their interpretation of prompts becomes more sophisticated but also less predictable, posing a significant challenge for robustly steering model behavior and highlighting the need for compositional and model-specific alignment techniques.
- Abstract（参考訳）: LLM(Large Language Models)の信頼性の高い制御を実現するには、言語的手がかりの解釈方法の正確でスケーラブルな理解が必要である。
本稿では,Shapley値を用いた厳密なフレームワークを導入し,個々の形容詞がモデル性能に及ぼす影響を定量的に評価する。
この手法を、MMLUベンチマークにおいて、様々なモデル(o3、gpt-4o-mini、phi-3、llama-3-70b、deepseek-r1)で100の形容詞に適用することにより、AIアライメントのいくつかの重要な発見を明らかにする。
まず、形容詞の小さな部分集合が不均等に強力な「レバー」として作用するが、それらの効果は普遍的ではない。
共有系統のモデルが相関した感度プロファイルを示すのに対して、アーキテクチャ的に異なるモデルは、ほとんど無相関な方法で反応し、ワンサイズフィットのプロンプト戦略の概念に挑戦する。
第二に、集中した追従研究は、これらの強力な形容詞の操舵方向が本質的ではなく、それらの構文的役割とプロンプト内の位置に強く依存していることを示した。
gpt-4o-miniのような大きなモデルでは、形容詞が相乗的に増幅したり、反抗的に減衰したり、お互いの影響を逆にしたりできる強い非付加的な相互作用効果の最初の定量的証拠を提供する。
対照的に、phi-3のような小さなモデルでは、よりリテラルが高く、構成的な応答が小さい。
これらの結果は、モデルがスケールするにつれて、プロンプトの解釈はより洗練されるが予測しにくくなり、モデル行動の堅牢なステアリングと、構成的およびモデル固有のアライメント技術の必要性を強調した重要な課題が浮かび上がっていることを示唆している。
関連論文リスト
- The Impact of Steering Large Language Models with Persona Vectors in Educational Applications [2.2917707112773598]
アクティベーションベースのステアリングは、推論時に大きな言語モデルをパーソナライズすることができる。
本研究では,アクティベーションステアリングされたペルソナ特性が教育世代と得点に及ぼす影響を体系的に検討した。
論文 参考訳（メタデータ） (2026-04-08T13:55:32Z) - Preference learning in shades of gray: Interpretable and bias-aware reward modeling for human preferences [8.680081568962999]
本研究では,言語モデルにおける人間の嗜好学習に対する現在のアプローチの限界について検討する。
本稿では,人的判断の多次元的性質をよりよく捉えるための機能拡張フレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-01T18:26:16Z) - UniG2U-Bench: Do Unified Models Advance Multimodal Understanding? [50.92401586025528]
統一マルチモーダルモデルは、最近強力な生成能力を示したが、生成が理解を改善したかどうかはまだ不明である。
提案するUniG2U-Benchは,G2U(Generation-to-understanding)評価を7つのシステマと30のサブタスクに分類する総合ベンチマークである。
論文 参考訳（メタデータ） (2026-03-03T18:36:16Z) - Plug-and-Play Clarifier: A Zero-Shot Multimodal Framework for Egocentric Intent Disambiguation [60.63465682731118]
エゴセントリックなAIエージェントのパフォーマンスは、基本的にマルチモーダルな意図のあいまいさによって制限される。
ゼロショットでモジュラーなフレームワークであるPlug-and-Play Clarifierを導入し、問題を個別に解決可能なサブタスクに分解する。
我々のフレームワークは,小言語モデルの意図的明確化性能を約30%向上させ,より大きな言語モデルとの競争力を高める。
論文 参考訳（メタデータ） (2025-11-12T04:28:14Z) - Stands to Reason: Investigating the Effect of Reasoning on Idiomaticity Detection [2.8330244018167945]
大規模言語モデルにおける推論能力が慣用性検出性能にどのように影響するかを検討する。
推論の効果は,予想よりも小さく,多様であることがわかった。
より小さなモデルでは、チェーン・オブ・シンクレット(CoT)推論は、Math-tunedの中間モデルから性能を向上するが、ベースモデルのレベルには及ばない。
論文 参考訳（メタデータ） (2025-08-18T21:17:09Z) - Reasoning Capabilities of Large Language Models on Dynamic Tasks [0.017476232824732776]
大規模言語モデルは静的なベンチマークでは優れているが、動的環境における自己学習エージェントとしての能力は依然として不明である。
オープンソースモデルを用いた動的タスクにおける自己回帰、突然変異、計画という3つのプロンプト戦略を評価した。
より大きなモデルは一般的により小さなモデルよりも優れていますが、戦略的なプロンプトはこのパフォーマンスギャップを埋めることができます。
論文 参考訳（メタデータ） (2025-05-15T17:53:47Z) - Human-Object Interaction Detection Collaborated with Large Relation-driven Diffusion Models [65.82564074712836]
テキストと画像の拡散モデルに光を流す新しいHOI検出器であるDIFfusionHOIを紹介する。
まず、埋め込み空間における人間と物体の関係パターンの表現をインバージョンベースで学習する戦略を考案する。
これらの学習された関係埋め込みはテキストのプロンプトとして機能し、スタイア拡散モデルが特定の相互作用を記述する画像を生成する。
論文 参考訳（メタデータ） (2024-10-26T12:00:33Z) - Why Larger Language Models Do In-context Learning Differently? [12.554356517949785]
大規模言語モデル(LLM)は、インコンテキスト学習(ICL)の重要な能力を備えた、AIの強力なツールとして登場した。
最近の謎の観測では、異なるスケールのモデルが異なるICLの挙動を持つ可能性がある。
論文 参考訳（メタデータ） (2024-05-30T01:11:35Z) - Training Trajectories of Language Models Across Scales [99.38721327771208]
言語モデルのスケールアップは、前例のないパフォーマンス向上につながった。
異なるサイズの言語モデルは事前学習中にどのように学習するか?
より大きな言語モデルはなぜ望ましい振る舞いを示すのか?
論文 参考訳（メタデータ） (2022-12-19T19:16:29Z) - Fairness Increases Adversarial Vulnerability [50.90773979394264]
フェアネスとロバストネスの間に二分法が存在することを示し、フェアネスを達成するとモデルロバストネスを減少させる。
非線形モデルと異なるアーキテクチャの実験は、複数の視覚領域における理論的発見を検証する。
フェアネスとロバストネスの良好なトレードオフを達成するためのモデルを構築するための,シンプルで効果的なソリューションを提案する。
論文 参考訳（メタデータ） (2022-11-21T19:55:35Z) - AES Systems Are Both Overstable And Oversensitive: Explaining Why And
Proposing Defenses [66.49753193098356]
スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。
のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。
高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
論文 参考訳（メタデータ） (2021-09-24T03:49:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。