論文の概要: Probing the Structure and Dynamics of LLM Value Expression through Value Conflicts
- arxiv url: http://arxiv.org/abs/2609.07296v1
- Date: Mon, 07 Sep 2026 10:11:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 00:54:54.311621
- Title: Probing the Structure and Dynamics of LLM Value Expression through Value Conflicts
- Title（参考訳）: 値衝突によるLLM値表現の構造とダイナミクスの探索
- Abstract要約: 我々は,Large Language Models (LLMs) の値表現は構造的だが動的現象としてよりよく理解されていると論じる。
我々は、LLMをバリューコンフリクトに配置するフレームワークであるConflict-Driven Value Probingを導入し、これらのコンフリクトを摂動させてLLM値表現を探索する4種類の介入を実装した。
- 参考スコア（独自算出の注目度）: 15.778515866233114
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Ethical evaluation of Large Language Models (LLMs) often characterizes model values as static and monolithic. In contrast, we argue that LLM value expression is better understood as a structured yet dynamic phenomenon. To investigate this, we introduce Conflict-driven Value Probing, a controlled framework that places LLMs in value conflicts and implements four types of interventions that perturb these conflicts to probe LLM value expression. Applying this framework to ten LLMs, we identify three recurring patterns. (1) Expression duality: models shift from broad idealistic orientations in abstract assessment toward more pragmatic priorities in concrete conflicts. (2) Functional steerability: models readily reconfigure their expressed value profiles toward task-defined value objectives. (3) Bounded plasticity: such reconfiguration is not without constraints, i.e. pressure induces a security- and goal-oriented priority shift while negative framing distinguishes protected values from those more amenable to redirection. Together, these findings characterize both the structure and dynamics of LLM value expression: context flexibly reconfigures expressed priorities, yet within behavioral boundaries. This behavioral account provides a foundation for understanding controllability, alignment, and safety in LLMs. Code and data are available at https://github.com/ZeroGen-Lab/CFProbe.
- Abstract（参考訳）: LLM(Large Language Models)の倫理的評価は、しばしばモデル値を静的でモノリシックなものとして特徴づける。
対照的に、LLM値の表現は構造的だが動的現象としてよりよく理解されていると論じる。
そこで我々は,LLMを値競合に配置する制御フレームワークであるConflict-Driven Value Probingを導入し,これらの競合を摂動させてLLM値表現を探索する4種類の介入を実装した。
このフレームワークを10個のLLMに適用し、3つの繰り返しパターンを同定する。
1) 表現の双対性: 抽象的評価において, 幅広い理想主義的指向から具体的対立において, より実践的な優先順位へと移行する。
2) 機能的ステアビリティ: モデルが表現された値プロファイルをタスク定義値の目的に向けて容易に再構成する。
(3) 境界可塑性:そのような再構成には制約がなく、すなわち、圧力はセキュリティとゴール指向の優先度シフトを誘導し、一方、負のフレーミングは保護された値と、リダイレクトに対処しやすいものとを区別する。
これらの知見は、LLM値表現の構造と力学の両方を特徴付けている。
この行動会計は、LLMにおける制御可能性、アライメント、安全性を理解するための基盤を提供する。
コードとデータはhttps://github.com/ZeroGen-Lab/CFProbe.comで公開されている。
関連論文リスト
- Do LLMs Have Values? A Quantitative Analysis and Alignment Framework for Values in Large Language Models [49.45276299939287]
大規模言語モデル(LLM)は、ますます複雑な主観的タスクを扱うようになっている。
LLMは、マイナーな単語変更で予測不能に変動する。
この双対性を解決することは 信頼できるAIアライメントに 不可欠です
論文 参考訳（メタデータ） (2026-09-15T03:35:04Z) - How Controllable Are Large Language Models? A Unified Evaluation across Behavioral Granularities [75.10343190811592]
大規模言語モデル(LLM)は、社会的に敏感なドメインにますますデプロイされる。
私たちのベンチマークでは、安全で制御可能な振る舞いのための原則的で解釈可能なフレームワークを提供しています。
論文 参考訳（メタデータ） (2026-03-03T03:50:13Z) - The Shadow Self: Intrinsic Value Misalignment in Large Language Model Agents [37.75212140218036]
コントロの損失リスクを定式化し、これまで過小評価されていた内因性価値の相違(内因性VM)を識別する。
次に、このリスクを体系的に評価するシナリオ駆動フレームワークであるIMPRESSを紹介します。
我々は,21種類のLLMエージェント上での固有のVMの評価を行い,モデル間での安全性のリスクが広く見られることを発見した。
論文 参考訳（メタデータ） (2026-01-24T07:09:50Z) - MAESTRO: Meta-learning Adaptive Estimation of Scalarization Trade-offs for Reward Optimization [56.074760766965085]
大規模言語モデル(LLM)の整合性のための効率的なパラダイムとしてグループ相対政策最適化が登場している。
我々は,報酬スカラー化を動的潜在ポリシーとして扱い,モデルの終端隠蔽状態を意味的ボトルネックとして活用するMAESTROを提案する。
本稿では,軽量コンダクタネットワークがメタリワード信号としてグループ相対的優位性を生かしてポリシと共進化する,双方向最適化フレームワークにおけるコンテキスト的帯域幅問題としてこれを定式化する。
論文 参考訳（メタデータ） (2026-01-12T05:02:48Z) - Cracking IoT Security: Can LLMs Outsmart Static Analysis Tools? [1.8549313085249322]
本研究は,多カテゴリー間相互作用脅威分類におけるLarge Language Models (LLMs) の総合評価を初めて行った。
Llama 3.1 8B, Llama 70B, GPT-4o, Gemini-2.5-Pro, DeepSeek-R1を0, 1, 2ショット設定でベンチマークする。
以上の結果から, LLMは有望な意味理解を示すが, 相互構造的推論を必要とする脅威に対して, 精度は著しく低下することがわかった。
論文 参考訳（メタデータ） (2026-01-02T04:17:36Z) - MENTOR: A Metacognition-Driven Self-Evolution Framework for Uncovering and Mitigating Implicit Risks in LLMs on Domain Tasks [17.598413159363393]
現在のアライメントの取り組みは、主に偏見、ヘイトスピーチ、暴力のような明確なリスクをターゲットにしている。
本稿では,大規模言語モデルにおける暗黙的リスクの解消と軽減を目的とした,メタ認知駆動型セルフエボリューティオンフレームワークMENTORを提案する。
我々は、ドメイン固有のリスク識別を強化するために、教育、財務、管理にまたがる9000のリスククエリをサポートするデータセットをリリースする。
論文 参考訳（メタデータ） (2025-11-10T13:51:51Z) - Pluralistic Behavior Suite: Stress-Testing Multi-Turn Adherence to Custom Behavioral Policies [18.428149174461264]
PBSUITEは,多元的アライメント仕様に従うために,大規模言語モデルの能力を評価するために設計された動的評価スイートである。
オープンおよびクローズドソースのLLMは、単一ターン設定における行動ポリシーに頑健に固執するが、そのコンプライアンスはマルチターンの対角的相互作用において著しく弱まる。
論文 参考訳（メタデータ） (2025-11-07T06:43:01Z) - Role-Aware Language Models for Secure and Contextualized Access Control in Organizations [4.122315998598296]
大規模言語モデル(LLM)は、ますますエンタープライズ環境にデプロイされている。
組織の役割の異なるアクセス権限を反映した応答を生成するために,LSMを微調整できるかどうかを検討する。
論文 参考訳（メタデータ） (2025-07-31T11:41:04Z) - Fundamental Safety-Capability Trade-offs in Fine-tuning Large Language Models [92.38300626647342]
タスク固有のデータセット上でのLLM(Fun-tuning Large Language Model)は、LLMの第一の用途である。
本稿では,LLMファインチューニング戦略の安全性と能力の相互作用を理解するための理論的枠組みを提案する。
論文 参考訳（メタデータ） (2025-03-24T20:41:57Z) - Value Compass Benchmarks: A Platform for Fundamental and Validated Evaluation of LLMs Values [76.70893269183684]
大きな言語モデル(LLM)は驚くべきブレークスルーを達成する。
価値を人間に合わせることは 責任ある開発に欠かせないものになっています
3つの望ましい目標を達成するLLMの評価はいまだに欠けている。
論文 参考訳（メタデータ） (2025-01-13T05:53:56Z) - Improving Open Information Extraction with Large Language Models: A
Study on Demonstration Uncertainty [52.72790059506241]
オープン情報抽出(OIE)タスクは、構造化されていないテキストから構造化された事実を抽出することを目的としている。
一般的なタスク解決手段としてChatGPTのような大きな言語モデル(LLM)の可能性にもかかわらず、OIEタスクの最先端(教師付き)メソッドは遅れている。
論文 参考訳（メタデータ） (2023-09-07T01:35:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。