論文の概要: EXTRACT: Explainable Transparent Control of Bias in Embeddings
- arxiv url: http://arxiv.org/abs/2311.00115v1
- Date: Tue, 31 Oct 2023 19:44:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-02 15:59:58.946310
- Title: EXTRACT: Explainable Transparent Control of Bias in Embeddings
- Title（参考訳）: 抽出:埋め込みにおけるバイアスの透明な制御
- Authors: Zhijin Guo, Zhaozhen Xu, Martha Lewis, Nello Cristianini
- Abstract要約: グラフ埋め込みは、推論や決定を容易にするような方法で知識グラフを表現するための標準技術として急速に成長しています。
この表現は行動データから得られ、人間によって読まれる形式ではないため、意図しない情報を組み込んでバイアスを生じさせるのではないかという懸念がある。
本稿では,知識グラフの埋め込みにおけるConTrolバイアスに対する説明可能および透過的手法のスイートを提案する。
- 参考スコア（独自算出の注目度）: 1.0803774228325391
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge Graphs are a widely used method to represent relations between
entities in various AI applications, and Graph Embedding has rapidly become a
standard technique to represent Knowledge Graphs in such a way as to facilitate
inferences and decisions. As this representation is obtained from behavioural
data, and is not in a form readable by humans, there is a concern that it might
incorporate unintended information that could lead to biases. We propose
EXTRACT: a suite of Explainable and Transparent methods to ConTrol bias in
knowledge graph embeddings, so as to assess and decrease the implicit presence
of protected information. Our method uses Canonical Correlation Analysis (CCA)
to investigate the presence, extent and origins of information leaks during
training, then decomposes embeddings into a sum of their private attributes by
solving a linear system. Our experiments, performed on the MovieLens1M dataset,
show that a range of personal attributes can be inferred from a user's viewing
behaviour and preferences, including gender, age, and occupation. Further
experiments, performed on the KG20C citation dataset, show that the information
about the conference in which a paper was published can be inferred from the
citation network of that article. We propose four transparent methods to
maintain the capability of the embedding to make the intended predictions
without retaining unwanted information. A trade-off between these two goals is
observed.
- Abstract（参考訳）: 知識グラフは、さまざまなAIアプリケーションにおけるエンティティ間の関係を表現するために広く使われている手法であり、グラフ埋め込みは、推論や決定を容易にする方法として、知識グラフを表現する標準技術として急速に普及している。
この表現は行動データから得られ、人間が読み取ることができる形ではないため、バイアスにつながる可能性のある意図しない情報を取り込むことが懸念されている。
本稿では,知識グラフ埋め込みにおけるバイアスを制御し,保護情報の暗黙的存在を評価し,低減するための,説明可能で透明な手法のセットを提案する。
本手法は,CCA(Canonical correlation Analysis)を用いて,学習中の情報漏洩の存在,範囲,発生源を解析し,線形系を解くことにより,その個人属性の和に埋め込みを分解する。
MovieLens1Mデータセットを用いて行った実験では、性別、年齢、職業など、ユーザの視聴行動や嗜好から、さまざまな個人属性を推定できることが示されている。
kg20cの引用データセットで行ったさらなる実験により、論文が発行された会議に関する情報が、この記事の引用ネットワークから推測できることが示されている。
不要な情報を保持することなく,意図した予測を行うための埋め込み能力を維持するための4つの透過的な方法を提案する。
これら2つの目標のトレードオフが観察される。
関連論文リスト
- ConceptDrift: Uncovering Biases through the Lens of Foundational Models [5.025665239455297]
本研究では,線形プローブの重み解析手法であるConceptDriftを提案する。
提案手法の有効性を実証的に証明し, バイアス増進プロンプトによるゼロショット性能を著しく向上させることにより, 提案手法の有効性を実証した。
論文 参考訳（メタデータ） (2024-10-24T17:59:16Z) - From Latent to Lucid: Transforming Knowledge Graph Embeddings into Interpretable Structures [2.6451388057494283]
本稿では,知識グラフ埋め込みモデルに適したポストホックな説明可能なAI手法を提案する。
本手法は,知識グラフ埋め込みモデルによって符号化された潜在表現を直接デコードする。
類似した埋め込みエンティティのサブグラフ近傍の異なる構造を識別することにより、これらの知見を人間の理解可能な象徴的ルールや事実に変換する。
論文 参考訳（メタデータ） (2024-06-03T19:54:11Z) - Revisiting Self-supervised Learning of Speech Representation from a
Mutual Information Perspective [68.20531518525273]
我々は、情報理論の観点から、既存の自己教師型音声の手法を詳しく検討する。
我々は線形プローブを用いて、対象情報と学習された表現の間の相互情報を推定する。
我々は、ラベルを使わずに、データの異なる部分間の相互情報を見積もる自己教師型の表現を評価する可能性を探る。
論文 参考訳（メタデータ） (2024-01-16T21:13:22Z) - Independent Distribution Regularization for Private Graph Embedding [55.24441467292359]
グラフ埋め込みは属性推論攻撃の影響を受けやすいため、攻撃者は学習したグラフ埋め込みからプライベートノード属性を推測することができる。
これらの懸念に対処するため、プライバシ保護グラフ埋め込み手法が登場した。
独立分散ペナルティを正規化項として支援し, PVGAE(Private Variational Graph AutoEncoders)と呼ばれる新しい手法を提案する。
論文 参考訳（メタデータ） (2023-08-16T13:32:43Z) - Reinforcement Learning from Passive Data via Latent Intentions [86.4969514480008]
我々は、下流RLを加速する機能を学ぶために、受動的データが引き続き使用できることを示す。
我々のアプローチは、意図をモデル化することで受動的データから学習する。
実験では、クロス・エボディメント・ビデオデータやYouTubeビデオなど、さまざまな形式の受動的データから学習できることを実証した。
論文 参考訳（メタデータ） (2023-04-10T17:59:05Z) - Ignorance is Bliss: Robust Control via Information Gating [60.17644038829572]
情報パーシモニーは、ノイズや突発的相関に頑健であることにより、より良い一般化を実現する学習表現に有用な帰納的バイアスを提供する。
本稿では,タスクに必要な最小限の情報を識別する類似表現を学習する手段として,テキスト情報ゲーティングを提案する。
論文 参考訳（メタデータ） (2023-03-10T18:31:50Z) - Unbiased Graph Embedding with Biased Graph Observations [52.82841737832561]
基礎となるバイアスのないグラフから学習することで、バイアスのない表現を得るための、原則化された新しい方法を提案する。
この新たな視点に基づいて、そのような基礎となるグラフを明らかにするための2つの補完的手法を提案する。
論文 参考訳（メタデータ） (2021-10-26T18:44:37Z) - Towards Automatic Bias Detection in Knowledge Graphs [5.402498799294428]
本稿では,数値バイアス指標に基づいて,知識グラフの埋め込みにおけるバイアスを識別するフレームワークについて述べる。
本稿では,職業予測の課題に対する3つの異なるバイアス尺度を用いて,この枠組みを説明する。
バイアスを負った関係は、その後の偏見を判断するために意思決定者に渡される。
論文 参考訳（メタデータ） (2021-09-19T03:58:25Z) - Learning Bias-Invariant Representation by Cross-Sample Mutual
Information Minimization [77.8735802150511]
対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。
相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。
我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
論文 参考訳（メタデータ） (2021-08-11T21:17:02Z) - Adversarial Privacy Preserving Graph Embedding against Inference Attack [9.90348608491218]
グラフ埋め込みはグラフ構造化データから低次元の特徴表現を学習するのに非常に有用であることが証明されている。
既存のグラフ埋め込み手法は、推論攻撃を防ぐためのユーザのプライバシを考慮しない。
本稿では,学習ノード表現からユーザのプライベート情報を削除するためのアンタングルとパージ機構を統合したグラフ対向トレーニングフレームワークであるAdrial Privacy Graph Embedding (APGE)を提案する。
論文 参考訳（メタデータ） (2020-08-30T00:06:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。