論文の概要: From Interpretability to Control: Insights from Six Years of the TrustNLP Workshop
- arxiv url: http://arxiv.org/abs/2608.11171v1
- Date: Tue, 11 Aug 2026 17:30:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:46.137062
- Title: From Interpretability to Control: Insights from Six Years of the TrustNLP Workshop
- Title（参考訳）: 解釈可能性から制御へ:TrustNLPワークショップ6年を振り返って
- Abstract要約: The Workshop on Trustworthy Natural Language Processingは8つの論文から6つのエディションで41に成長した。
我々は、144の手続き書類から洞察を合成し、確立されたフレームワークに根ざした6つの信頼次元に沿ってそれらを分類する。
分類研究による分析によると、真理は最も成長の早い次元である(2021-2022年、2025-2026年までに論文の37%を占める)。
- 参考スコア（独自算出の注目度）: 63.00693129203923
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Workshop on Trustworthy Natural Language Processing (TrustNLP), co-located with major ACL conferences since 2021, has grown from 8 proceedings papers to 41 over six editions, documenting a field-wide transition from post-hoc interpretability of static models to mechanistic understanding and proactive control of generative systems. We synthesize insights from all 144 proceedings papers, classifying them along six trust dimensions grounded in established frameworks (TrustLLM, DecodingTrust). We observe co-occurrences with capability emergence. The release of the first high-impact chat models activated all trust dimensions simultaneously, while subsequent model generations shifted focus toward truthfulness and safety alignment. Analysis from the classification study reveals that truthfulness is the fastest-growing dimension (absent in 2021-2022, comprising 37% of papers by 2025-2026), fairness remains the most consistent theme, and explainability exhibits a U-shaped trajectory; declining as post-hoc methods lost relevance but resurging in 2026 through mechanistic interpretability. A cross-venue comparison with ACL, NAACL, EACL, and EMNLP (~2K papers) in the same period shows that TrustNLP's topical distribution closely follows the field average. We identify four structural insights and conclude with actionable directions for the research community.
- Abstract（参考訳）: 信頼に値する自然言語処理ワークショップ(TrustNLP、TrustNLP)は、2021年以降、主要なACL会議と共同で開催され、8つの手続き論文から6つのエディションで41に成長し、静的モデルのポストホック解釈可能性から、生成システムの機械的理解と積極的な制御への分野的移行を文書化している。
我々は、144の手続き書類から洞察を合成し、確立されたフレームワーク(TrustLLM, DecodingTrust)に根ざした6つの信頼次元に沿って分類する。
能力の出現に伴う共起を観察する。
最初のハイインパクトチャットモデルのリリースはすべての信頼次元を同時に活性化し、その後のモデル世代は誠実さと安全アライメントに焦点を移した。
分類研究から、真理性は最も成長の早い次元(2021-2022年、2025-2026年までに論文の37%を占める)であり、公正性は最も一貫したテーマであり、説明性はU字形の軌道を示し、非ホット法は関連性を失ったが、機械的解釈によって2026年に復活した。
同時期のACL,NAACL,EACL,EMNLP (~2K論文) との比較では,TrustNLPのトピック分布がフィールド平均に密接に従っていることが示されている。
我々は4つの構造的洞察を識別し、研究コミュニティにとって実行可能な方向性で結論付ける。
関連論文リスト
- FormalTCS: Benchmarking End-to-End Frontier Formal Theoretical Computer Science Research of Large Language Models [53.68149869349268]
大規模言語モデル(LLM)は、自動理論計算機科学(TCS)研究の可能性を増大させている。
我々は、最前線のエンドツーエンドのTCS研究でLSMを評価するための専門家検証ベンチマークである ourbenchmarkを紹介した。
論文 参考訳（メタデータ） (2026-08-20T15:13:41Z) - Large Multimodal Agents for Intelligent Transportation Systems: Architectures, Evidence, and Deployment Challenges [10.296219658873676]
このレビューは、2023年1月から2026年8月3日までにリリースされた42の初等研究家族の監査可能なエビデンスマップを提供する。
モデルレベル、システムレベル、ハイブリッドマルチモダリティを区別し、システムアーキテクチャとアクション権限によって各ファミリーを分類する。
論文 参考訳（メタデータ） (2026-08-08T15:22:40Z) - From Isolated Tasks to Structured Capabilities: A Multilayer Taxonomy for Large Language Models [41.36461541603076]
大規模言語モデル(LLM)の評価は多様なタスクとベンチマークにまたがる。
証拠は、調査する能力よりも、タスクを中心に組織化されている。
14の能力ドメインと91のサブスキルからなる多層分類を導入した。
論文 参考訳（メタデータ） (2026-07-24T10:49:50Z) - Theory-Scale Auto-Formalization of Logics for Computer Science [36.45195518081978]
LCS-Bench は Logics for Computer Science に基づく理論スケールのベンチマークである。
アーティファクトには327の教科書項目,4,076以上のリーン宣言,85万行以上のリーンコードが含まれています。
LCS-Benchは高品質で一貫性があり、忠実であることを示す。
論文 参考訳（メタデータ） (2026-06-25T01:59:53Z) - Lie to Me: How Faithful Is Chain-of-Thought Reasoning in Reasoning Models? [0.0]
CoT(Chain-of- Thought)推論は、安全クリティカルなデプロイメントにおける大規模言語モデルの透明性メカニズムとして提案されている。
本研究では,9つの建築家族を対象としたオープンウェイト推論モデルを498の質問に対して検討した。
41,832回の推論では、全体の忠実度は39.7% (Seed-1.6-Flash) から89.9% (DeepSeek-V3.2- Speciale) まで変化している。
論文 参考訳（メタデータ） (2026-03-23T21:21:37Z) - Multi-Axis Trust Modeling for Interpretable Account Hijacking Detection [1.0152838128195467]
本稿では,ハディスにインスパイアされたマルチ軸信頼モデリングフレームワークを提案する。
我々は,5つの信頼軸 – 長期的整合性(アダラ),行動精度(ダブト),文脈連続性(アイソナド),累積的評価,異常証拠 – を,ユーザアカウントに対して意味論的に意味のある行動特徴からなる26のコンパクトなセットに翻訳する。
CLUE-LDSクラウドアクティビティデータセットのフレームワークを,インジェクトされたアカウントハイジャックシナリオを用いて評価した。
論文 参考訳（メタデータ） (2026-02-20T19:36:30Z) - CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。
ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
論文 参考訳（メタデータ） (2025-10-02T02:14:33Z) - Mapping Trustworthiness in Large Language Models: A Bibliometric Analysis Bridging Theory to Practice [11.251046343609078]
本研究は, 研究動向, 信頼性の定義, 実用技術を分析し, 理論的議論と実践的実践のギャップを埋めることを目的としている。
私たちは、透明性、説明可能性、信頼性を最も一般的な側面として、信頼と信頼の18の異なる定義を特定しました。
LLMの信頼性を高めるための20の戦略を特定し,精細調整・検索強化世代(RAG)が最も顕著であった。
論文 参考訳（メタデータ） (2025-02-27T14:02:33Z) - Law of the Weakest Link: Cross Capabilities of Large Language Models [102.91861246827797]
我々は,Large Language Models (LLMs) が "Law of the Weakest Link" を示すことを示した。
これらの結果は, クロスキャパビリティタスクにおけるLLMの低性能化を浮き彫りにした。
論文 参考訳（メタデータ） (2024-09-30T05:12:01Z) - DeepSeek-Prover: Advancing Theorem Proving in LLMs through Large-Scale Synthetic Data [65.5290035371111]
本稿では,高校・学部レベルの数学競争問題から得られたリーン4証明データを生成する手法を提案する。
この合成データセットでDeepSeekMath 7Bモデルを微調整します。
我々のモデルは、Lean 4 Formalized International Mathematical Olympiad (FIMO)ベンチマークで148の問題を5つ証明しましたが、GPT-4は証明できませんでした。
論文 参考訳（メタデータ） (2024-05-23T09:03:42Z) - Monitoring AI-Modified Content at Scale: A Case Study on the Impact of ChatGPT on AI Conference Peer Reviews [51.453135368388686]
本稿では,大規模言語モデル (LLM) によって実質的に修正あるいは生成される可能性のある大規模コーパスにおけるテキストの分数推定手法を提案する。
我々の最大可能性モデルは、専門家による参照テキストとAIによる参照テキストを利用して、コーパスレベルでの実世界のLLM使用を正確かつ効率的に検証する。
論文 参考訳（メタデータ） (2024-03-11T21:51:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。