論文の概要: Yuvion LLM: An Adversarially-Aware Large Language Model for Content And AI Safety

• arxiv url: http://arxiv.org/abs/2606.27632v1
• Date: Fri, 26 Jun 2026 01:12:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-29 18:24:25.334134
• Title: Yuvion LLM: An Adversarially-Aware Large Language Model for Content And AI Safety
• Title（参考訳）: Yuvion LLM: コンテンツとAIの安全性を逆向きに認識する大規模言語モデル
• Abstract要約: 我々は、敵対的に堅牢なコンテンツ安全性とより広範なAI安全性のために構築された、大きな言語モデルであるYuvion LLMを紹介する。 そのパイプラインは、逆向きに認識されたデータ構築、知識の強化された継続事前訓練、およびポリシーに基づくマルチタスクのトレーニング後安全性を組み合わせたものだ。 Yuvion LLMは、安全に焦点を当てたベンチマークにおいて明らかな利点を示し、特に敵対的な条件下では強い堅牢性を示す。
• 参考スコア（独自算出の注目度）: 67.86055044301408
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models are increasingly deployed in real-world systems, safety failures can still lead to harmful outputs and dangerous misuse. We argue that the essence of safety is adversarial: many failures arise not from natural inputs alone, but from strategic attempts to evade model policies and safeguards. However, existing general-purpose model development largely overlook this adversarial nature, and often remain insufficient for realistic safety scenarios involving planning, tool use, and multi-step reasoning, causing measured safety performance to overestimate real deployment robustness. To address this gap, we present Yuvion LLM, a large language model built for adversarially robust content safety and broader AI safety. Yuvion LLM treats adversarial robustness and agentic capability as first-class objectives. Its pipeline combines adversarially aware data construction, knowledge-enhanced continued pretraining, and policy-grounded multi-task safety post-training, including risk-aware supervised fine-tuning and reinforcement learning-based policy optimization, together with safety-aware agentic reinforcement learning for tool use and multi-step reasoning in complex safety scenarios. We further introduce the Yuvion LLM RiskEval (YLRE), a collection of 93 benchmarks across four evaluation categories, covering diverse open and internal evaluations with a focus on safety, adversarial robustness, and real-world capability requirements. Across these evaluations, Yuvion LLM demonstrates clear advantages on safety-focused benchmarks and particularly strong robustness under adversarial conditions, while maintaining solid overall capability. Notably, Yuvion-8B outperforms most state-of-the-art baselines, including substantially larger models such as GPT-5.4 and Qwen3-MAX, on several safety tasks.
• Abstract（参考訳）: 大規模な言語モデルが現実世界のシステムにますます導入されるにつれて、安全上の障害は依然として有害な出力と危険な誤用につながる可能性がある。 多くの失敗は自然の入力だけでなく、政策や安全を守るための戦略的な試みからも生じます。 しかし、既存の汎用モデル開発はこの敵対的な性質を概ね見落としており、計画、ツールの使用、多段階推論を含む現実的な安全シナリオでは不十分であり、測定された安全性能が実際の配置の堅牢性を過大評価する原因となっている。 このギャップに対処するために、敵対的に堅牢なコンテンツ安全性とより広範なAI安全性のために構築された大きな言語モデルであるYuvion LLMを紹介します。 Yuvion LLMは、敵対的堅牢性とエージェント能力を第一級の目的として扱う。 そのパイプラインは、逆向きに認識されたデータ構築、知識強化された継続的な事前訓練、そして、リスク認識による微調整と強化学習に基づくポリシー最適化を含む、ポリシーに基づくマルチタスク後のトレーニング、そして複雑な安全シナリオにおける、ツール使用のための安全対応のエージェント強化学習とマルチステップ推論を組み合わせる。 さらに、ユビオンLSM RiskEval (YLRE)は、4つの評価カテゴリにわたる93のベンチマークのコレクションであり、安全性、敵の堅牢性、実世界の能力要件に焦点をあてて、様々なオープンおよび内部評価をカバーしている。 これらの評価全体を通して、ユビオン LLM は安全性に重点を置くベンチマークにおいて明確な優位性を示し、特に敵対的な条件下では強い堅牢性を示しながら、全体的な能力を維持している。 特にユビオン-8Bは、GPT-5.4やQwen3-MAXのようなより大型のモデルを含む、最先端のベースラインよりも性能が優れている。

関連論文リスト

• Yuvion VL: A Multimodal Foundation Model for Adversarial Content and AI Safety [74.88019498257665]
  汎用モデルは、しばしば実世界のマルチモーダルリスクを確実に識別し理解するのに苦労する。 我々は、コンテンツとAIの安全性のために構築されたマルチモーダルな大規模言語モデルのファミリーであるYuvion VLを紹介する。
  論文  参考訳（メタデータ） (2026-06-23T18:00:08Z)
• Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
  本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。 本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
  論文  参考訳（メタデータ） (2026-04-07T08:43:36Z)
• SafeMind: Benchmarking and Mitigating Safety Risks in Embodied LLM Agents [7.975014390527644]
  大規模言語モデル(LLM)を利用したエージェントは、高度な計画能力を継承するが、物理世界との直接的な相互作用は安全上の脆弱性を露呈する。 SafeMindBenchは、4つのタスクカテゴリ(Instr-Risk、Env-Risk、Order-Fix、Req-Align)にまたがる5,558のサンプルを備えたマルチモーダルベンチマークである。 SafeMindAgentはモジュール型Planner-Executorアーキテクチャで、3つのケースドセーフモジュールを統合し、安全性制約を推論プロセスに組み込む。
  論文  参考訳（メタデータ） (2025-09-30T07:24:04Z)
• Learning Safety Constraints for Large Language Models [41.95596134688853]
  大規模言語モデル(LLM)は有害なアウトプットと敵の攻撃に対する脆弱性を通じて重大な安全リスクを生じさせる。 モデル表現空間において,複数の安全制約を直接学習し,適用する,安全のための幾何学的アプローチであるSaPを提案する。 我々は,ポリトープのファセットを介して安全かつ安全でない領域を識別し,安全でない出力の検出と修正を可能にするフレームワークを開発する。
  論文  参考訳（メタデータ） (2025-05-30T10:30:24Z)
• Defining and Evaluating Physical Safety for Large Language Models [62.4971588282174]
  大型言語モデル (LLM) は、ドローンのようなロボットシステムを制御するためにますます使われている。 現実世界のアプリケーションに物理的な脅威や害をもたらすリスクは、まだ解明されていない。 我々は,ドローンの物理的安全性リスクを,(1)目標脅威,(2)目標脅威,(3)インフラ攻撃,(4)規制違反の4つのカテゴリに分類する。
  論文  参考訳（メタデータ） (2024-11-04T17:41:25Z)
• Safe Inputs but Unsafe Output: Benchmarking Cross-modality Safety Alignment of Large Vision-Language Model [73.8765529028288]
  我々は、モダリティ間の安全アライメントを評価するために、セーフインプットとアンセーフアウトプット(SIUO)と呼ばれる新しい安全アライメントの課題を導入する。 この問題を実証的に調査するため,我々はSIUOを作成した。SIUOは,自己修復,違法行為,プライバシー侵害など,9つの重要な安全領域を含むクロスモダリティベンチマークである。 以上の結果から, クローズドおよびオープンソース両方のLVLMの安全性上の重大な脆弱性が明らかとなり, 複雑で現実的なシナリオを確実に解釈し, 応答する上で, 現行モデルが不十分であることが示唆された。
  論文  参考訳（メタデータ） (2024-06-21T16:14:15Z)
• The Art of Defending: A Systematic Evaluation and Analysis of LLM Defense Strategies on Safety and Over-Defensiveness [56.174255970895466]
  大規模言語モデル(LLM)は、自然言語処理アプリケーションにおいて、ますます重要な役割を担っている。 本稿では,SODE(Safety and Over-Defensiveness Evaluation)ベンチマークを提案する。
  論文  参考訳（メタデータ） (2023-12-30T17:37:06Z)
• Empowering Autonomous Driving with Large Language Models: A Safety Perspective [82.90376711290808]
  本稿では,Large Language Models (LLM) の自律運転システムへの統合について検討する。 LLMは行動計画におけるインテリジェントな意思決定者であり、文脈的安全学習のための安全検証シールドを備えている。 適応型LLM条件モデル予測制御(MPC)と状態機械を用いたLLM対応対話型行動計画スキームという,シミュレーション環境における2つの重要な研究について述べる。
  論文  参考訳（メタデータ） (2023-11-28T03:13:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。