論文の概要: VIAS: Value-Isolating Activation Steering for Multi-Value Alignment and Compliance for Organisations
- arxiv url: http://arxiv.org/abs/2611.03518v1
- Date: Mon, 02 Nov 2026 17:53:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.628817
- Title: VIAS: Value-Isolating Activation Steering for Multi-Value Alignment and Compliance for Organisations
- Title（参考訳）: VIAS: 多値アライメントのためのバリューアイソレーション・アクティベーション・ステアリングと組織へのコンプライアンス
- Abstract要約: アクティベーションステアリングは、モデルの内部アクティベーションに、重みを変更することなくベクトルを追加する。
本稿では、VIAS(Value-Isolating Activation Steering)を提案する。
VIASは2つのプロンプトの下で同じシナリオに対して、すべての関連する値をリストアップし、1つのターゲット値を省略する。
- 参考スコア（独自算出の注目度）: 45.25175252731907
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Organisations increasingly deploy large language model agents that must follow organisational values. We check whether activation steering, which adds vectors to a model's internal activations during generation without changing its weights, can improve compliance beyond prompting alone. Since most scenarios involve several values at once, we focus on multi-value steering. A simple way to build these vectors is to contrast responses that follow all values relevant to a scenario with responses that violate them. However, this gives nearly identical vectors for different values: they capture a general compliance signal rather than individual values, which limits their use when combining several values. We propose Value-Isolating Activation Steering (VIAS), which contrasts responses to the same scenario under two prompts, one listing all relevant values and one omitting a single target value. We keep a pair only if the target value changes from compliant to non-compliant and both responses still meet a minimum compliance level on the other values. We evaluate VIAS on PROTECT, a workplace compliance dataset where each scenario is tagged with relevant values from a 21-value taxonomy. VIAS reduces overlap between value vectors, making them better suited for multi-value steering, although this alone does not lead to independent control over each value. Combined with prompting, VIAS complies with every tagged value on 69.6% of scenarios for Qwen2.5-7B, 75.2% for Mistral-7B, and 72.6% for Phi-3.5-mini, outperforming prompting alone for all three models.
- Abstract（参考訳）: 組織は、組織的な価値に従う必要がある大規模な言語モデルエージェントをますます展開します。
モデルの内部アクティベーションにベクトルを付加するアクティベーションステアリングが、ウェイトを変化させることなく、コンプライアンスを改善することができるかどうかを確認する。
ほとんどのシナリオは一度に複数の値を含むので、私たちはマルチバリューのステアリングに重点を置いています。
これらのベクトルを構築する簡単な方法は、シナリオに関連するすべての値に反する応答と、それらに反する応答を対比することである。
しかし、これは異なる値に対してほぼ同一のベクトルを与える:それらは個々の値ではなく一般的なコンプライアンス信号をキャプチャする。
本稿では,同じシナリオを2つのプロンプトで比較した値分離型アクティブステアリング(VIAS)を提案する。
ターゲット値が準拠から非準拠に変更された場合のみペアを保持します。
各シナリオに21値の分類から関連する値をタグ付けした職場コンプライアンスデータセットであるProtECT上でのVIASを評価する。
VIASは値ベクトル間の重なりを減らし、複数の値のステアリングに適しているが、これは単独で各値の独立制御に繋がるわけではない。
プロンプトと組み合わせて、VIASはQwen2.5-7Bのシナリオの69.6%、Mistral-7Bの75.2%、Phi-3.5-miniの72.6%でタグ付けされた全ての値に準拠し、3つのモデルでのみパフォーマンスが向上した。
関連論文リスト
- Towards Multi-Value Alignment via Value Localization in LLMs [38.35231577542361]
大規模言語モデル(LLM)における価値感応型アテンションヘッド(バリューヘッド)を同定する。
分析は、特定の値間の衝突を含む、値ヘッド間の機能的特殊化と構造化された相互作用を明らかにする。
本稿では,個々の値や値の組み合わせと制御可能なアライメントを可能にする,推論時アクティベーションステアリング戦略を提案する。
論文 参考訳（メタデータ） (2026-11-02T04:24:59Z) - VALCON: Benchmarking and Enhancing Value Consistency in Large Language Models via Dual-Role Variation [50.26484893435373]
大規模言語モデル(LLM)の現在の値アライメント評価は、出力コンプライアンスに大きく依存している。
本稿では,価値の一貫性を3つのベンチマークスイートにまとめる役割駆動型データ構築フレームワークであるVALCONを提案する。
我々の研究は、価値の一貫性を異なるアライメントの次元として確立し、完全な評価・分析・軽減パイプラインを提供する。
論文 参考訳（メタデータ） (2026-10-15T05:52:52Z) - Adaptive Multi-Value Control in LLMs via Causal Activation Steering [6.142860207884955]
適応型多値アクティベーションステアリングのためのフレームワークであるAIMESを紹介する。
複数値の制御性は、値の組み合わせと介入の深さの両方で異なる。
固定継手ステアリングとプロンプトベースステアリングと比較すると, AIMESは深度依存性の利点を示す。
論文 参考訳（メタデータ） (2026-09-24T18:07:55Z) - Agent-ValueBench: A Comprehensive Benchmark for Evaluating Agent Values [17.752804388034583]
Agent-ValueBenchは、エージェント値専用の最初のベンチマークである。
16ドメインにわたる394の実行可能な環境を備え、4,335のバリューコンフリクトタスクを提供する。
エージェント値は、解釈可能な反電流の下で、クロスモデル均質のバリュータイドとして最初に現れる。
論文 参考訳（メタデータ） (2026-05-11T11:09:04Z) - VC-Soup: Value-Consistency Guided Multi-Value Alignment for Large Language Models [26.480803729157945]
本稿では,バリュー一貫性学習に基づくデータフィルタリングとパラメータ統合フレームワークであるVC-soupを提案する。
本稿では,VC-Soupが競合を効果的に軽減し,既存の多値アライメント手法より一貫して優れていることを示す。
論文 参考訳（メタデータ） (2026-03-18T14:05:51Z) - $α^3$-Bench: A Unified Benchmark of Safety, Robustness, and Efficiency for LLM-Based UAV Agents over 6G Networks [3.099103925863002]
3ドルベンチは無人航空機の自律性を評価するためのベンチマークである。
各ミッションは、LLMベースのUAVエージェントと人間のオペレータ間の言語経由の制御ループとして定式化される。
UAVBenchシナリオに基づく113kの会話型UAVエピソードの大規模コーパスを構築した。
本稿では,タスクアウトカム,安全ポリシ,ツール一貫性,インタラクション品質,ネットワークロバストネス,通信コストの6つの柱を統合した3ドルの複合指標を提案する。
論文 参考訳（メタデータ） (2026-01-01T12:07:06Z) - Revisiting LLM Value Probing Strategies: Are They Robust and Expressive? [81.49470136653665]
広範に利用されている3つの探索戦略における値表現の頑健さと表現性を評価する。
人口統計学的文脈は自由テキスト生成にはほとんど影響を与えず、モデルの値は値に基づく行動の好みと弱い相関しか示さない。
論文 参考訳（メタデータ） (2025-07-17T18:56:41Z) - Internal Value Alignment in Large Language Models through Controlled Value Vector Activation [70.41805604556058]
本研究では,Large Language Models (LLM) を人間の値と整合させるためのConVA法を提案する。
モデル性能を犠牲にすることなく連続的に値を制御するために,ゲート値ベクトルアクティベーション法を導入する。
実験により, LLM性能と流速を損なうことなく, 基本値10個に対して最大制御成功率を達成できることが確認された。
論文 参考訳（メタデータ） (2025-07-15T13:48:35Z) - Multi-Attribute Steering of Language Models via Targeted Intervention [56.93583799109029]
推論時間介入(ITI)は,大規模言語モデル(LLM)の振る舞いを特定の方向に操るための有望な手法として登場した。
マルチ属性・ターゲットステアリング(MAT-Steer)は,複数の属性をまたいだトークンレベルの選択的介入を目的とした,新しいステアリングフレームワークである。
論文 参考訳（メタデータ） (2025-02-18T02:27:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。