論文の概要: Pluralistic Behavior Suite: Stress-Testing Multi-Turn Adherence to Custom Behavioral Policies

• arxiv url: http://arxiv.org/abs/2511.05018v1
• Date: Fri, 07 Nov 2025 06:43:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-10 21:00:44.693449
• Title: Pluralistic Behavior Suite: Stress-Testing Multi-Turn Adherence to Custom Behavioral Policies
• Title（参考訳）: 複数行動スイート: カスタムな行動ポリシーに対するストレステスト型マルチTurnアヒーレンス
• Authors: Prasoon Varshney, Makesh Narsimhan Sreedhar, Liwei Jiang, Traian Rebedea, Christopher Parisien,
• Abstract要約: PBSUITEは,多元的アライメント仕様に従うために,大規模言語モデルの能力を評価するために設計された動的評価スイートである。 オープンおよびクローズドソースのLLMは、単一ターン設定における行動ポリシーに頑健に固執するが、そのコンプライアンスはマルチターンの対角的相互作用において著しく弱まる。
• 参考スコア（独自算出の注目度）: 18.428149174461264
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are typically aligned to a universal set of safety and usage principles intended for broad public acceptability. Yet, real-world applications of LLMs often take place within organizational ecosystems shaped by distinctive corporate policies, regulatory requirements, use cases, brand guidelines, and ethical commitments. This reality highlights the need for rigorous and comprehensive evaluation of LLMs with pluralistic alignment goals, an alignment paradigm that emphasizes adaptability to diverse user values and needs. In this work, we present PLURALISTIC BEHAVIOR SUITE (PBSUITE), a dynamic evaluation suite designed to systematically assess LLMs' capacity to adhere to pluralistic alignment specifications in multi-turn, interactive conversations. PBSUITE consists of (1) a diverse dataset of 300 realistic LLM behavioral policies, grounded in 30 industries; and (2) a dynamic evaluation framework for stress-testing model compliance with custom behavioral specifications under adversarial conditions. Using PBSUITE, We find that leading open- and closed-source LLMs maintain robust adherence to behavioral policies in single-turn settings (less than 4% failure rates), but their compliance weakens substantially in multi-turn adversarial interactions (up to 84% failure rates). These findings highlight that existing model alignment and safety moderation methods fall short in coherently enforcing pluralistic behavioral policies in real-world LLM interactions. Our work contributes both the dataset and analytical framework to support future research toward robust and context-aware pluralistic alignment techniques.
• Abstract（参考訳）: 大規模言語モデル(LLM)は一般的に、広く一般に受け入れられることを目的とした安全と使用原則の普遍的なセットに整合している。 しかし、LLMの現実世界の応用は、独自の企業方針、規制要件、ユースケース、ブランドガイドライン、倫理的コミットメントによって形作られた組織エコシステムの中でしばしば行われます。 この現実は、多元的アライメント目標を持つLCMの厳密で包括的な評価の必要性を強調し、多様なユーザ価値とニーズへの適応性を強調するアライメントパラダイムである。 本研究では,マルチターン対話における多元的アライメント仕様に準拠するLLMの能力を体系的に評価する動的評価スイートであるPLURALISTIC BEHAVIOR SUITE(PBSUITE)を提案する。 PBSUITEは,(1)30産業に根ざした300のリアルなLCM行動ポリシーの多種多様なデータセットと,(2)対立条件下でのカスタム行動仕様に対するストレス-テストモデルコンプライアンスの動的評価フレームワークから構成される。 PBSUITEを用いることで、オープンおよびクローズドソースのLLMは単一ターン設定での動作ポリシー(4%の障害率未満)にしっかりと固執するが、そのコンプライアンスはマルチターン対向相互作用(最大84%の障害率)において著しく弱まる。 これらの結果から,既存のモデルアライメントと安全モデレーション手法は,実世界のLLMインタラクションにおける多元的行動ポリシーの一貫性に乏しいことが示唆された。 本研究は,ロバストかつコンテキスト対応の多元的アライメント技術に向けた今後の研究を支援するために,データセットと分析フレームワークの両方に貢献する。

関連論文リスト

• Multimodal Policy Internalization for Conversational Agents [48.11601444262434]
  マルチモーダルポリシー内部化(MPI)は、推論集約型マルチモーダルポリシーをモデルパラメータに内部化する新しいタスクである。 合成と実世界の意思決定とツール使用タスクにまたがる2つのデータセットを構築します。 TriMPIは、エンドツーエンドの精度、一般化、ロバスト性において顕著な向上を実現している。
  論文  参考訳（メタデータ） (2025-10-10T15:28:30Z)
• A Survey on Personalized Alignment -- The Missing Piece for Large Language Models in Real-World Applications [28.181295575180293]
  大きな言語モデル(LLM)は目覚ましい能力を示しているが、現実のアプリケーションへの移行には限界がある。 本稿では、パーソナライズされたアライメントに関する最初の包括的調査を示す。 本稿では、優先メモリ管理、パーソナライズされた生成、フィードバックに基づくアライメントを含む統合されたフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-03-21T10:09:16Z)
• Value Compass Benchmarks: A Platform for Fundamental and Validated Evaluation of LLMs Values [76.70893269183684]
  大きな言語モデル(LLM)は驚くべきブレークスルーを達成する。 価値を人間に合わせることは 責任ある開発に欠かせないものになっています 3つの望ましい目標を達成するLLMの評価はいまだに欠けている。
  論文  参考訳（メタデータ） (2025-01-13T05:53:56Z)
• Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
  大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。 個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。 数発のステアライメントのための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-18T16:14:59Z)
• Optimizing Large Language Models for Dynamic Constraints through Human-in-the-Loop Discriminators [0.0]
  大規模言語モデル(LLM)は、最近、様々な現実世界のアプリケーションにまたがる印象的な機能を実証した。 本稿では,LLMがシステムインターフェースと相互作用し,制約概念を要約し,性能指標を継続的に最適化するフレキシブルなフレームワークを提案する。 我々のフレームワークは、人間の識別器で7.78%のパスレート、LSMベースの識別器で6.11%のパスレートを達成した。
  論文  参考訳（メタデータ） (2024-10-19T17:27:38Z)
• Aligning LLMs with Individual Preferences via Interaction [51.72200436159636]
  調整可能な大きな言語モデル(LLM)をトレーニングします。 木構造における3K以上の多ターン会話を含む多ターン嗜好データセットを開発した。 評価のために、慎重に選択された100のサンプルと、会話中にカスタマイズされたアライメント性能を測定するために適切に設計されたメトリクスからなるALOEベンチマークを確立する。
  論文  参考訳（メタデータ） (2024-10-04T17:48:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。