論文の概要: VERB: Visualizing and Interpreting Bias Mitigation Techniques for Word
Representations
- arxiv url: http://arxiv.org/abs/2104.02797v1
- Date: Tue, 6 Apr 2021 21:29:16 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-08 12:44:17.262473
- Title: VERB: Visualizing and Interpreting Bias Mitigation Techniques for Word
Representations
- Title（参考訳）: VERB:単語表現のためのバイアス軽減手法の可視化と解釈
- Authors: Archit Rathore, Sunipa Dev, Jeff M. Phillips, Vivek Srikumar, Yan
Zheng, Chin-Chia Michael Yeh, Junpeng Wang, Wei Zhang, Bei Wang
- Abstract要約: オープンソースWebベースの可視化ツールである deBiasing System (VERB) の組み込み表現の可視化について紹介する。
VERBは、ユーザがデバイアス技術の内部動作の技術的理解と視覚的直感を得るのに役立つ。
教育用視覚媒体としても機能し、NLP初心者が単語埋め込みにおけるバイアスを理解し緩和するのに役立つ。
- 参考スコア（独自算出の注目度）: 32.266511190742705
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Word vector embeddings have been shown to contain and amplify biases in data
they are extracted from. Consequently, many techniques have been proposed to
identify, mitigate, and attenuate these biases in word representations. In this
paper, we utilize interactive visualization to increase the interpretability
and accessibility of a collection of state-of-the-art debiasing techniques. To
aid this, we present Visualization of Embedding Representations for deBiasing
system ("VERB"), an open-source web-based visualization tool that helps the
users gain a technical understanding and visual intuition of the inner workings
of debiasing techniques, with a focus on their geometric properties. In
particular, VERB offers easy-to-follow use cases in exploring the effects of
these debiasing techniques on the geometry of high-dimensional word vectors. To
help understand how various debiasing techniques change the underlying
geometry, VERB decomposes each technique into interpretable sequences of
primitive transformations and highlights their effect on the word vectors using
dimensionality reduction and interactive visual exploration. VERB is designed
to target natural language processing (NLP) practitioners who are designing
decision-making systems on top of word embeddings, and also researchers working
with fairness and ethics of machine learning systems in NLP. It can also serve
as a visual medium for education, which helps an NLP novice to understand and
mitigate biases in word embeddings.
- Abstract（参考訳）: ワードベクトル埋め込みは、抽出されたデータのバイアスを包含し、増幅することが示されている。
その結果、これらのバイアスを単語表現で識別、緩和、減衰する多くの手法が提案されている。
本稿では,インタラクティブな可視化を利用して,最先端のデバイアス手法の解釈可能性とアクセシビリティを向上させる。
これを支援するために,DeBiasing System(VERB)の埋め込み表現の可視化について紹介する。これは,ユーザがデバイアス技術の内部動作の技術的理解と視覚的直感を得るのに役立つ,オープンソースのWebベース可視化ツールである。
特に、VERBは、これらの脱バイアス技術が高次元ワードベクトルの幾何学に与える影響を探索する上で、簡単に追跡できるユースケースを提供する。
様々なデバイアス技術が基礎となる幾何学をどのように変えるかを理解するために、VERBは各テクニックを原始変換の解釈可能なシーケンスに分解し、次元の減少とインタラクティブな視覚探索を用いて単語ベクトルへの影響を強調する。
VERBは、自然言語処理(NLP)の実践者を対象に、単語埋め込みの上に意思決定システムを設計している他、NLPにおける機械学習システムの公正性と倫理を扱う研究者も対象としている。
教育用視覚媒体としても機能し、NLP初心者が単語埋め込みにおけるバイアスを理解し緩和するのに役立つ。
関連論文リスト
- GPT Assisted Annotation of Rhetorical and Linguistic Features for Interpretable Propaganda Technique Detection in News Text [1.2699007098398802]
本研究は, 説得の言語に関する文献で同定された22の修辞的, 言語学的特徴を分類した。
WebアプリケーションであるRhetAnnは、そうでなければかなりの精神的な努力を最小限に抑えるように設計されている。
注釈付きデータの小さなセットは、生成的大言語モデル(LLM)であるGPT-3.5を微調整し、残りのデータに注釈を付けた。
論文 参考訳（メタデータ） (2024-07-16T15:15:39Z) - Debiasing Multimodal Large Language Models [61.6896704217147]
LVLM(Large Vision-Language Models)は、コンピュータビジョンや自然言語処理において欠かせないツールとなっている。
本研究は,入力画像に先行するLarge Language Models (LLM) の影響を主に受け,生成したコンテンツに有意なバイアスが生じることを示す。
これらのバイアスを是正し、視覚情報に対するモデルの焦点をリダイレクトするために、我々は2つの単純で訓練のない戦略を導入する。
論文 参考訳（メタデータ） (2024-03-08T12:35:07Z) - DimVis: Interpreting Visual Clusters in Dimensionality Reduction With Explainable Boosting Machine [3.2748787252933442]
DimVisは、DRプロジェクションの解釈アシスタントとして、教師付きExplainable Boosting Machine(EBM)モデルを使用するツールである。
本ツールは,視覚的クラスタにおける特徴関連性の解釈を提供することにより,高次元データ解析を容易にする。
論文 参考訳（メタデータ） (2024-02-10T04:50:36Z) - Leveraging Open-Vocabulary Diffusion to Camouflaged Instance
Segmentation [59.78520153338878]
テキスト・ツー・イメージ拡散技術は、テキスト記述から高品質な画像を生成する素晴らしい能力を示している。
そこで本研究では,オープン語彙を応用した最先端拡散モデルを用いて,多スケールのテキスト・視覚的特徴を学習する手法を提案する。
論文 参考訳（メタデータ） (2023-12-29T07:59:07Z) - Demystifying Embedding Spaces using Large Language Models [26.91321899603332]
本稿では,埋め込みをより解釈しやすく,広く活用する上での課題に対処する。
埋め込みを直接操作するためにLarge Language Models(LLMs)を用いることで、抽象ベクトルを理解可能な物語に変換する。
提案手法は,概念アクティベーションベクトル(CAV)の強化,新しい組み込みエンティティの通信,レコメンデーションシステムにおけるユーザの好みのデコードなど,多種多様なタスクに対するアプローチを示す。
論文 参考訳（メタデータ） (2023-10-06T05:27:28Z) - GeoVLN: Learning Geometry-Enhanced Visual Representation with Slot
Attention for Vision-and-Language Navigation [52.65506307440127]
我々は,ロバストなビジュアル・アンド・ランゲージナビゲーションのためのスロットアテンションに基づく幾何学的視覚表現を学習するGeoVLNを提案する。
我々はV&L BERTを用いて言語情報と視覚情報の両方を組み込んだクロスモーダル表現を学習する。
論文 参考訳（メタデータ） (2023-05-26T17:15:22Z) - Fine-Grained Semantically Aligned Vision-Language Pre-Training [151.7372197904064]
大規模な視覚言語による事前学習は、幅広い下流タスクにおいて顕著な進歩を見せている。
既存の手法は主に、画像とテキストのグローバルな表現の類似性によって、モーダル間のアライメントをモデル化する。
ゲーム理論的相互作用の新たな視点から, 微粒なセマンティックアライメントを学習する, 微粒なセマンティックなvisiOn-langUage PrEトレーニングフレームワークであるLOを導入する。
論文 参考訳（メタデータ） (2022-08-04T07:51:48Z) - Exploring Dimensionality Reduction Techniques in Multilingual
Transformers [64.78260098263489]
本稿では,多言語シームス変圧器の性能に及ぼす次元還元法の影響を包括的に考察する。
これは、それぞれ91.58% pm 2.59%$と54.65% pm 32.20%$の次元を平均で減少させることが可能であることを示している。
論文 参考訳（メタデータ） (2022-04-18T17:20:55Z) - Open-Vocabulary DETR with Conditional Matching [86.1530128487077]
OV-DETRは、DETRに基づくオープンボキャブラリ検出器である。
クラス名や模範画像が与えられた任意のオブジェクトを検出できる。
芸術の現在の状態よりも、ささいな改善を達成している。
論文 参考訳（メタデータ） (2022-03-22T16:54:52Z) - An Empirical Study on Leveraging Position Embeddings for Target-oriented
Opinion Words Extraction [13.765146062545048]
ToWE(Target-oriented opinion words extract)は、ターゲット指向の感情分析の新しいサブタスクである。
本稿では,BiLSTMに基づくモデルを用いて,位置情報を単語表現に効果的にエンコードできることを示す。
また,構文情報を組み込んだグラフ畳み込みネットワーク(GCN)を用いて,単語表現の強化を行う。
論文 参考訳（メタデータ） (2021-09-02T22:49:45Z) - Auto-Encoding Variational Bayes for Inferring Topics and Visualization [2.132096006921048]
ビジュアライゼーションとトピックモデリングは、テキスト分析のアプローチとして広く使われている。
近年のアプローチでは、生成モデルを用いてトピックと可視化を共同で発見する手法が提案されている。
提案手法は,自動変分ベイズをベースとした自動変分ベイズ推定手法で,トピックと可視化を共同で推定する手法である。
論文 参考訳（メタデータ） (2020-10-19T05:57:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。