論文の概要: Exposing the Unsaid: Visualizing Hidden LLM Bias through Stochastic Path Aggregation
- arxiv url: http://arxiv.org/abs/2606.19344v1
- Date: Fri, 24 Apr 2026 13:37:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:12.916561
- Title: Exposing the Unsaid: Visualizing Hidden LLM Bias through Stochastic Path Aggregation
- Title（参考訳）: 隠れたLLMバイアスを確率的経路集約で可視化する
- Abstract要約: 大規模言語モデル(LLM)は、テキスト生成の限界化により評価が難しい表現バイアスと構文バイアスを示す。
本稿では,集約比較によるバイアス評価を目的とした視覚解析ツールであるTreeTracerを紹介する。
- 参考スコア（独自算出の注目度）: 16.63373250752545
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) exhibit representational and syntactic biases that are difficult to evaluate due to the stochastic nature of text generation. Standard auditing methods rely on a single output inspection or static automated metrics. These approaches obscure the underlying probability distributions and fail to capture biases hidden in lower-probability generation branches. This paper introduces TreeTracer, a visual analytics tool designed to evaluate LLM bias through aggregated comparison. Using a systematic perturbation analysis pipeline, the tool replaces ontology-defined terms in each input prompt, aggregates hundreds of stochastic generations into a syntax-aligned hierarchical structure, and then performs classification-aware node merging with an auxiliary language model. The resulting structure is visualized through a custom Sankey diagram. By juxtaposing two ontology-driven trees, the workspace enables direct comparison between semantic contexts and supports systematic bias detection. Because any visualization reflects only a subset of the model's learned behavior, the system further applies contrastive inference to compute and directly display counterfactual token probabilities across contexts, reducing the risk of misinterpreting the presence of bias. We validate the workspace through case studies comparing an unaligned baseline model GPT-2 XL against the constitutionally aligned Apertus models. The visual aggregation successfully exposes hidden representational harms, such as counterfactual pronoun suppression and conversational marginalization of individuals. A preliminary user study confirms that the aggregated comparative interface reduces cognitive load and effectively supports analysts in detecting systemic biases.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、テキスト生成の確率的性質のため評価が難しい表現バイアスと構文バイアスを示す。
標準的な監査方法は、単一のアウトプットインスペクションや静的自動メトリクスに依存している。
これらのアプローチは、基礎となる確率分布を曖昧にし、低確率生成枝に隠されたバイアスを捉えない。
本稿では,集約比較によるLCMバイアスの評価を目的とした視覚解析ツールであるTreeTracerを紹介する。
体系的な摂動解析パイプラインを用いて、このツールは各入力プロンプトにおけるオントロジー定義項を置換し、数百の確率的世代を構文に整合した階層構造に集約し、補助言語モデルと分類対応ノードをマージする。
結果として得られる構造は、カスタムのSankeyダイアグラムを通じて視覚化される。
2つのオントロジー駆動ツリーを並べ合わせることで、ワークスペースは意味的コンテキストの直接比較を可能にし、体系的バイアス検出をサポートする。
任意の可視化はモデルの学習行動のサブセットのみを反映するので、システムはさらにコンテクスト間の反現実的トークン確率を計算および直接表示するために対照的な推論を適用し、バイアスの存在を誤解釈するリスクを低減する。
我々は,非整合ベースラインモデル GPT-2 XL と構成整合アペルタスモデルとのケーススタディにより,ワークスペースを検証した。
視覚的アグリゲーションは、偽造代名詞の抑圧や個人の会話の限界化など、隠された表現的害を効果的に露呈する。
予備的なユーザスタディでは、アグリゲートされた比較インターフェースが認知負荷を低減し、システムバイアスの検出においてアナリストを効果的に支援することを確認している。
関連論文リスト
- Dual-Branch Cross-Projection Debiasing through Diffusion-based Disentanglement [66.67463557274358]
バイアス付きデータセットに基づいてトレーニングされた基礎モデルは、しばしばターゲットラベルと非因果属性の間の急激な相関に依存する。
信頼誘導概念マイニング(CBCM:Confidence-guided Concept Mining)を導入し,属性アノテーションを使わずに信頼性の高いスプリアス属性を同定する。
本稿では,目標と突発的な表現を2つのブランチに分離するプロンプトチューニングフレームワークであるDual-branch Cross-projection Debiasing (DCD)を提案する。
論文 参考訳（メタデータ） (2026-06-23T05:28:47Z) - Shorthand for Thought: Compressing LLM Reasoning via Entropy-Guided Supertokens [4.0704009036918025]
大規模言語モデルにおける推論は、重要な推論時間計算を引き起こす。
推論トークンは、低エントロピーのテクスト構造トークン(推論過程を足場とするフレーズの再帰)と高エントロピーのテクスト有機トークン(解に向かって進むプロブレム固有のコンテンツ)の2つの機能タイプに分かれていることを示す。
頻繁な構造パターンをキャプチャするテクスチャツペルトケンを導出し、教師付き微調整によりモデルに導入するように教える。
論文 参考訳（メタデータ） (2026-04-29T07:06:43Z) - MuTSE: A Human-in-the-Loop Multi-use Text Simplification Evaluator [0.13048920509133807]
textbfMuTSEfootnoteは、大規模言語モデルの評価を合理化するために設計されたインタラクティブなヒューマン・イン・ザ・ループ・ウェブアプリケーションである。
このシステムは、P倍M$プロンプトモデル置換の同時実行をサポートし、リアルタイムに包括的な比較行列を生成する。
論文 参考訳（メタデータ） (2026-04-10T04:31:43Z) - UGID: Unified Graph Isomorphism for Debiasing Large Language Models [13.549042680933306]
大規模言語モデルに対するアンダーライン統一アンダーライングラフアンダーライン同型を提案する。
textittextbfUGIDは、大規模な言語モデルのための内部表現レベルのデバイアス化フレームワークである。
論文 参考訳（メタデータ） (2026-03-19T16:59:37Z) - TIE: A Training-Inversion-Exclusion Framework for Visually Interpretable and Uncertainty-Guided Out-of-Distribution Detection [11.599035626374409]
ディープニューラルネットワークは、入力がトレーニング経験外にあることを認識するのに苦労することが多い。
視覚的・不確実性誘導型異常検出のためのトレーニング--Inversion--Exclusion フレームワーク textbfTIE を提案する。
論文 参考訳（メタデータ） (2025-11-28T22:06:01Z) - SCALEX: Scalable Concept and Latent Exploration for Diffusion Models [59.86284983662119]
画像生成モデルは、しばしば、性別、人種、職業に関連するステレオタイプを含む社会的バイアスを符号化する。
拡散モデルラテント空間のスケーラブルかつ自動探索のためのフレームワークであるSCALEXを紹介する。
自然言語プロンプトのみを使用して、H空間から意味論的に意味のある方向を抽出し、リトレーニングやラベル付けをせずにゼロショット解釈を可能にする。
論文 参考訳（メタデータ） (2025-11-13T22:02:44Z) - Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。
GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
論文 参考訳（メタデータ） (2025-09-03T08:13:52Z) - Semantic and Structural Analysis of Implicit Biases in Large Language Models: An Interpretable Approach [1.5749416770494704]
モデル出力に隠された社会的バイアスを特定するための解釈可能なバイアス検出手法を提案する。
この方法は、ネストされた意味表現と文脈的コントラスト機構を組み合わせる。
この評価は、バイアス検出精度、セマンティック一貫性、文脈感度など、いくつかの重要な指標に焦点を当てている。
論文 参考訳（メタデータ） (2025-08-08T09:21:10Z) - Measuring the Interpretability of Unsupervised Representations via
Quantized Reverse Probing [97.70862116338554]
本稿では,自己教師付き表現の解釈可能性の測定問題について検討する。
我々は、後者を、表現と手動でラベル付けされた概念の空間の間の相互情報を推定するものとして定式化する。
提案手法は,多人数の自己教師付き表現の評価に利用し,解釈可能性による評価を行う。
論文 参考訳（メタデータ） (2022-09-07T16:18:50Z) - Causal Transportability for Visual Recognition [70.13627281087325]
画像とラベルの関連性は、設定間では転送できないため、標準分類器がフェールすることを示す。
次に、すべての共起源を摂食する因果効果が、ドメイン間で不変であることを示す。
これにより、画像分類における因果効果を推定するアルゴリズムを開発する動機付けとなる。
論文 参考訳（メタデータ） (2022-04-26T15:02:11Z) - Visualizing Classifier Adjacency Relations: A Case Study in Speaker
Verification and Voice Anti-Spoofing [72.4445825335561]
任意のバイナリ分類器によって生成される検出スコアから2次元表現を導出する簡単な方法を提案する。
ランク相関に基づいて,任意のスコアを用いた分類器の視覚的比較を容易にする。
提案手法は完全に汎用的であり,任意の検出タスクに適用可能だが,自動話者検証と音声アンチスプーフィングシステムによるスコアを用いた手法を実証する。
論文 参考訳（メタデータ） (2021-06-11T13:03:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。