論文の概要: FedQAS: Privacy-aware machine reading comprehension with federated learning

• arxiv url: http://arxiv.org/abs/2202.04742v1
• Date: Wed, 9 Feb 2022 22:03:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-12 07:53:14.548787
• Title: FedQAS: Privacy-aware machine reading comprehension with federated learning
• Title（参考訳）: FedQAS:フェデレーション学習によるプライバシ対応機械読解
• Authors: Addi Ait-Mlouk, Sadi Alawadi, Salman Toor, Andreas Hellander
• Abstract要約: 大規模プライベートデータを活用可能なプライバシ保護マシン読取システムであるFedQASを提案する。 FedQASは柔軟で言語に依存しないため、ローカルモデルトレーニングの直感的な参加と実行を可能にしている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine reading comprehension (MRC) of text data is one important task in Natural Language Understanding. It is a complex NLP problem with a lot of ongoing research fueled by the release of the Stanford Question Answering Dataset (SQuAD) and Conversational Question Answering (CoQA). It is considered to be an effort to teach computers how to "understand" a text, and then to be able to answer questions about it using deep learning. However, until now large-scale training on private text data and knowledge sharing has been missing for this NLP task. Hence, we present FedQAS, a privacy-preserving machine reading system capable of leveraging large-scale private data without the need to pool those datasets in a central location. The proposed approach combines transformer models and federated learning technologies. The system is developed using the FEDn framework and deployed as a proof-of-concept alliance initiative. FedQAS is flexible, language-agnostic, and allows intuitive participation and execution of local model training. In addition, we present the architecture and implementation of the system, as well as provide a reference evaluation based on the SQUAD dataset, to showcase how it overcomes data privacy issues and enables knowledge sharing between alliance members in a Federated learning setting.
• Abstract（参考訳）: テキストデータの機械読解(MRC)は自然言語理解において重要な課題である。 これは複雑なNLP問題であり、SQuAD(Stanford Question Answering Dataset)とCoQA(Conversational Question Answering)のリリースによって、多くの研究が進められている。 テキストを「理解」する方法をコンピュータに教え、深層学習を用いてその疑問に答えられるようにする試みであると考えられている。 しかし、このNLPタスクには、これまでプライベートテキストデータと知識共有に関する大規模なトレーニングが欠落している。 したがって、FedQASは、大規模なプライベートデータを活用することができるプライバシ保護マシン読取システムであり、これらのデータセットを中央にプールする必要がない。 提案手法はトランスフォーマーモデルと連合学習技術を組み合わせたものである。 このシステムはFEDnフレームワークを使用して開発され、概念実証アライアンスイニシアチブとしてデプロイされる。 FedQASは柔軟で言語に依存しないため、ローカルモデルトレーニングの直感的な参加と実行を可能にしている。 さらに,システムのアーキテクチャと実装について述べるとともに,squadデータセットに基づくリファレンス評価を提供し,データプライバシの問題を克服し,連合学習環境でのアライアンスメンバ間の知識共有を可能にする方法を示す。

関連論文リスト

• Exploring Machine Learning Models for Federated Learning: A Review of Approaches, Performance, and Limitations [1.1060425537315088]
  フェデレートラーニング(Federated Learning)は、個人のデータのプライバシを保護するために強化された分散学習フレームワークである。 危機時には、リアルタイムな意思決定が重要である場合、フェデレートされた学習は、機密データを共有せずに複数のエンティティをまとめて機能させることができる。 本稿では,ここ数年のプライバシ保護機械学習に関する文献を体系的にレビューする。
  論文  参考訳（メタデータ） (2023-11-17T19:23:21Z)
• DIVKNOWQA: Assessing the Reasoning Ability of LLMs via Open-Domain Question Answering over Knowledge Base and Text [73.68051228972024]
  大きな言語モデル(LLM)は印象的な生成能力を示すが、内部知識に依存すると幻覚に悩まされる。 検索拡張LDMは、外部知識においてLLMを基盤とする潜在的な解決策として出現している。
  論文  参考訳（メタデータ） (2023-10-31T04:37:57Z)
• A Simple Baseline for Knowledge-Based Visual Question Answering [78.00758742784532]
  本稿では,知識に基づく視覚質問応答(KB-VQA)の問題について述べる。 本論文の主な貢献は,よりシンプルで容易に再現可能なパイプラインを提案することである。 近年のアプローチとは対照的に,本手法はトレーニングフリーであり,外部データベースやAPIへのアクセスを必要とせず,OK-VQAおよびA-OK-VQAデータセット上で最先端の精度を実現する。
  論文  参考訳（メタデータ） (2023-10-20T15:08:17Z)
• Physics of Language Models: Part 3.1, Knowledge Storage and Extraction [51.68385617116854]
  大規模言語モデル(LLM)は膨大な量の世界の知識を格納することができ、しばしば質問応答によって抽出できる。 モデルが知識を抽出する能力と,トレーニングデータの多様な多様性尺度との間には,強い相関関係が認められた。
  論文  参考訳（メタデータ） (2023-09-25T17:37:20Z)
• Ontology-based question answering over corporate structured data [0.0]
  自然言語理解(NLU)処理に対するオントロジーに基づくアプローチは、対話システムの品質に対する質問の改善を可能にする。 我々は、NLUエンジンアーキテクチャを説明し、その実装を評価した。 そこで,チャットボットの対話エンジンについて述べる。
  論文  参考訳（メタデータ） (2021-11-08T13:49:15Z)
• UNIQORN: Unified Question Answering over RDF Knowledge Graphs and Natural Language Text [20.1784368017206]
  知識グラフのようなRDFデータに対する質問応答は大幅に進歩している。 IRとNLPのコミュニティはテキストによるQAに対処してきたが、そのようなシステムは意味データや知識をほとんど利用していない。 本稿では,RDFデータセットとテキストコーパスを併用した複雑な質問をシームレスに操作する手法を提案する。
  論文  参考訳（メタデータ） (2021-08-19T10:50:52Z)
• FedNLP: A Research Platform for Federated Learning in Natural Language Processing [55.01246123092445]
  NLPのフェデレーションラーニングのための研究プラットフォームであるFedNLPを紹介します。 FedNLPは、テキスト分類、シーケンスタグ付け、質問応答、Seq2seq生成、言語モデリングなど、NLPで一般的なタスクの定式化をサポートしている。 FedNLPによる予備実験では、分散型データセットと集中型データセットの学習には大きなパフォーマンスギャップが存在することが明らかになった。
  論文  参考訳（メタデータ） (2021-04-18T11:04:49Z)
• FedOCR: Communication-Efficient Federated Learning for Scene Text Recognition [76.26472513160425]
  本研究では、分散化されたデータセットを用いて、ロバストなシーンテキスト認識器を訓練する方法について研究する。 FedOCRをエンドデバイスにデプロイするのに適したものにするために、軽量モデルとハッシュ技術の使用を含む2つの改善を行った。
  論文  参考訳（メタデータ） (2020-07-22T14:30:50Z)
• Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer [64.22926988297685]
  下流タスクで微調整される前に、まずデータリッチタスクでモデルが事前訓練されるトランスファーラーニングは、自然言語処理(NLP)において強力な手法として登場した。 本稿では,すべてのテキストベースの言語問題をテキスト・トゥ・テキスト・フォーマットに変換する統一フレームワークにより,NLPのためのトランスファー学習手法を導入する状況について検討する。
  論文  参考訳（メタデータ） (2019-10-23T17:37:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。