論文の概要: TrustLDM: Benchmarking Trustworthiness in Language Diffusion Models

• arxiv url: http://arxiv.org/abs/2606.00023v1
• Date: Wed, 15 Apr 2026 02:19:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.581576
• Title: TrustLDM: Benchmarking Trustworthiness in Language Diffusion Models
• Title（参考訳）: TrustLDM: 言語拡散モデルにおける信頼性のベンチマーク
• Authors: Yichuan Mo, Yukun Jiang, Yanbo Shi, Mingjie Li, Michael Backes, Yang Zhang, Yisen Wang,
• Abstract要約: 言語拡散モデル(LDM)に適した総合的信頼度ベンチマークを導入する。 我々は、静的ポストコンテキストの複数のカテゴリで異なるLCMアーキテクチャの安全性、プライバシ、公正性を評価した。 私たちの仕事は、コミュニティがより信頼できるLCDを構築するのに役立つかもしれません。
• 参考スコア（独自算出の注目度）: 41.45630253571065
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rapid development of Language Diffusion Models (LDMs) challenges the dominant position of auto-regressive competitors in language processing. However, their flexible, any-order decoding strategies not only enable fast decoding speed but also potentially bring new trustworthiness challenges. To better understand the risks behind their pipelines, we introduce a comprehensive trustworthiness benchmark tailored to LDMs (TrustLDM), evaluating safety, privacy, and fairness across different LDM architectures with multiple categories of static post contexts. Our empirical results show that although LDMs generally exhibit strong trustworthiness with only the user prompts, their alignment behavior degrades noticeably when the malicious post contexts are attached to the masked responses. We further observe that longer contexts do not necessarily induce stronger effects, and both decoding order and generation length affect the evaluation outcomes. Finally, we propose TrustLDM-Auto, an automatic evaluation framework that leverages LDM decoding flexibility to systematically identify vulnerable configurations, revealing substantial trustworthiness weaknesses across all evaluated models and dimensions. Our work may potentially help the community build more trustworthy LDMs. Our code is available at https://github.com/PKU-ML/TrustLDM.
• Abstract（参考訳）: 言語拡散モデル(LDM)の急速な発展は、言語処理における自己回帰的競合の優位性に挑戦する。 しかし、その柔軟な、任意の順序のデコード戦略は、高速なデコード速度を可能にするだけでなく、新たな信頼性の課題をもたらす可能性がある。 パイプラインの背後にあるリスクをよりよく理解するために、私たちは、静的ポストコンテキストの複数のカテゴリを持つ異なるLDMアーキテクチャの安全性、プライバシ、公平性を評価し、LDM(TrustLDM)に合わせた総合的な信頼性ベンチマークを導入しました。 実験の結果, LDMは一般にユーザプロンプトのみに強い信頼性を示すが, 悪意のあるポストコンテキストがマスクされた応答にアタッチされると, そのアライメント動作は著しく低下することがわかった。 さらに、より長いコンテキストは必ずしもより強い効果をもたらすものではなく、デコード順序と生成長の両方が評価結果に影響を与えることを観察する。 最後に、LDMデコーディングの柔軟性を活用して脆弱な構成を体系的に識別する自動評価フレームワークであるTrustLDM-Autoを提案する。 私たちの仕事は、コミュニティがより信頼できるLCDを構築するのに役立つかもしれません。 私たちのコードはhttps://github.com/PKU-ML/TrustLDM.comで公開されています。

関連論文リスト

• Guiding AI to Fix Its Own Flaws: An Empirical Study on LLM-Driven Secure Code Generation [16.29310628754089]
  大規模言語モデル(LLM)は、コードの自動生成のための強力なツールになっている。 LLMは、しばしば重要なセキュリティプラクティスを見落とし、安全でないコードを生成する。 本稿では、安全性の低いコードを生成するための固有の傾向、自己生成する脆弱性ヒントによってガイドされた場合にセキュアなコードを生成する能力、フィードバックレベルが異なる場合に脆弱性を修復する効果について検討する。
  論文  参考訳（メタデータ） (2025-06-28T23:24:33Z)
• MetaFaith: Faithful Natural Language Uncertainty Expression in LLMs [66.14178164421794]
  メタファイト(MetaFaith)は、ヒトのメタ認知に触発された新規なプロンプトベースのキャリブレーション手法である。 MetaFaithは多種多様なモデルやタスク領域における忠実なキャリブレーションを強力に改善し、忠実度を最大61%向上させることができることを示す。
  論文  参考訳（メタデータ） (2025-05-30T17:54:08Z)
• SV-TrustEval-C: Evaluating Structure and Semantic Reasoning in Large Language Models for Source Code Vulnerability Analysis [39.229080120880774]
  SV-TrustEval-Cは,C言語で記述されたコードの脆弱性解析のための大規模言語モデルの能力を評価するためのベンチマークである。 以上の結果から,現在のLLMは複雑なコード関係を理解するのに十分ではないことが示され,その脆弱性分析はロバストな論理的推論よりもパターンマッチングに頼っている。
  論文  参考訳（メタデータ） (2025-05-27T02:16:27Z)
• A Weighted Byzantine Fault Tolerance Consensus Driven Trusted Multiple Large Language Models Network [53.37983409425452]
  大規模言語モデル(LLM)は幅広いアプリケーションで大きな成功を収めています。 近年,MultiLLMネットワーク(MultiLLMN)などの協調フレームワークが導入されている。 重み付きビザンチンフォールトトレランス(WBFT)ブロックチェーンコンセンサス機構によって駆動される新しいTrusted MultiLLMNフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-08T10:04:41Z)
• Aligning Large Language Models for Faithful Integrity Against Opposing Argument [71.33552795870544]
  大規模言語モデル(LLM)は複雑な推論タスクにおいて印象的な機能を示している。 原文が正しい場合でも、会話中に不誠実な議論によって容易に誤解される。 本稿では,信頼度と信頼度を両立させる新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2025-01-02T16:38:21Z)
• What You See Is Not Always What You Get: An Empirical Study of Code Comprehension by Large Language Models [0.5735035463793009]
  ソースコードに隠された文字操作がLLMの動作を誤認し,人間のレビュアーには検出不能なままにしておくという,大きな言語モデル(LLM)の攻撃に対する脆弱性について検討する。 これらの攻撃には、コードリオーダー、見えないコーディング文字、コード削除、コードホモグリフが含まれる。 以上の結果より,LLMは摂動の大きさと性能に異なる負の相関性を示す一方,LLMは認識不能なコードキャラクタ攻撃に対する感受性を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2024-12-11T04:52:41Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)
• MultiTrust: A Comprehensive Benchmark Towards Trustworthy Multimodal Large Language Models [51.19622266249408]
  MultiTrustはMLLMの信頼性に関する最初の総合的で統一されたベンチマークである。 我々のベンチマークでは、マルチモーダルリスクとクロスモーダルインパクトの両方に対処する厳格な評価戦略を採用している。 21の近代MLLMによる大規模な実験は、これまで調査されなかった信頼性の問題とリスクを明らかにしている。
  論文  参考訳（メタデータ） (2024-06-11T08:38:13Z)
• How Trustworthy are Open-Source LLMs? An Assessment under Malicious Demonstrations Shows their Vulnerabilities [37.14654106278984]
  我々は,オープンソースのLarge Language Models (LLMs) の信頼性に対する敵意評価を行う。 本稿では,信頼度攻撃のための悪質なデモンストレーションを慎重に行うことで,CoUの促進戦略であるAdvCoUを提案する。 我々の実験は、Vicuna、MPT、Falcon、Mistral、Llama 2など、最近のオープンソースのLLMシリーズを網羅している。
  論文  参考訳（メタデータ） (2023-11-15T23:33:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。