論文の概要: On the proper role of linguistically-oriented deep net analysis in
linguistic theorizing
- arxiv url: http://arxiv.org/abs/2106.08694v1
- Date: Wed, 16 Jun 2021 10:57:24 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-17 17:30:16.022530
- Title: On the proper role of linguistically-oriented deep net analysis in
linguistic theorizing
- Title(参考訳): 言語理論における言語指向深層ネット分析の適切な役割について
- Authors: Marco Baroni
- Abstract要約: 深層ネットワークは言語発話の受容性について明確な予測を行う理論として扱われるべきである。
このアイデアを真剣に追求する上で、いくつかの障害を克服すれば、私たちは強力な新しい理論ツールを手に入れることになる、と私は主張する。
- 参考スコア(独自算出の注目度): 25.64606911182175
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A lively research field has recently emerged that uses experimental methods
to probe the linguistic behavior of modern deep networks. While work in this
tradition often reports intriguing results about the grammatical skills of deep
nets, it is not clear what their implications for linguistic theorizing should
be. As a consequence, linguistically-oriented deep net analysis has had very
little impact on linguistics at large. In this chapter, I suggest that deep
networks should be treated as theories making explicit predictions about the
acceptability of linguistic utterances. I argue that, if we overcome some
obstacles standing in the way of seriously pursuing this idea, we will gain a
powerful new theoretical tool, complementary to mainstream algebraic
approaches.
- Abstract(参考訳): 近年,現代の深層ネットワークの言語行動を調べる実験手法を用いた活発な研究分野が出現している。
この伝統における研究は、ディープネットの文法的スキルに関する興味深い結果をしばしば報告しているが、それらが言語理論に与える影響は明らかではない。
その結果、言語指向のディープネット分析は、言語学に大きな影響をほとんど与えていない。
本章では,深層ネットワークを言語発話の受容性に関する明確な予測を行う理論として扱うことを提案する。
このアイデアを真剣に追求する過程で立っている障害を克服すれば、主流の代数的アプローチを補完する強力な新しい理論ツールが得られると私は論じます。
関連論文リスト
- Predictive Simultaneous Interpretation: Harnessing Large Language Models for Democratizing Real-Time Multilingual Communication [0.0]
本稿では,話者発話を予測し,木のような構造で複数の可能性を拡張することによって,リアルタイム翻訳を生成する新しいアルゴリズムを提案する。
我々の理論的分析は、実証的な例によって支持されており、このアプローチが最小のレイテンシでより自然で流動的な翻訳につながることを示唆している。
論文 参考訳(メタデータ) (2024-07-02T13:18:28Z) - On the Robustness of Language Guidance for Low-Level Vision Tasks: Findings from Depth Estimation [71.72465617754553]
対象中心の3次元空間関係を伝達する低レベルな文を生成し,これらを追加言語として組み込んで,深度推定における下流の影響を評価する。
我々の重要な発見は、現在の言語誘導深度推定器がシーンレベルの記述のみを最適に実行することである。
追加データを活用するにもかかわらず、これらの手法は敵の直接攻撃や分散シフトの増加に伴う性能低下に対して堅牢ではない。
論文 参考訳(メタデータ) (2024-04-12T15:35:20Z) - A Survey on Lexical Ambiguity Detection and Word Sense Disambiguation [0.0]
本稿では自然言語処理(NLP)分野における言語におけるあいまいさの理解と解決に焦点を当てた手法について検討する。
ディープラーニング技術から、WordNetのような語彙的リソースや知識グラフの活用まで、さまざまなアプローチを概説している。
本研究は, 感覚アノテートコーパスの不足, 非公式な臨床テキストの複雑さなど, この分野における永続的な課題を明らかにした。
論文 参考訳(メタデータ) (2024-03-24T12:58:48Z) - Is it possible not to cheat on the Turing Test: Exploring the potential
and challenges for true natural language 'understanding' by computers [0.0]
人工知能における自然言語理解の領域は、大きな進歩を遂げたと主張している。
現在のアプローチと残る課題について、包括的で学際的な概要は、まだ実行されていない。
これらすべての視点をまとめて、真の(人間のような)言語理解に到達する上での課題を解き放ちます。
論文 参考訳(メタデータ) (2022-06-29T14:19:48Z) - A Latent-Variable Model for Intrinsic Probing [93.62808331764072]
固有プローブ構築のための新しい潜在変数定式化を提案する。
我々は、事前訓練された表現が言語間交互に絡み合ったモルフォシンタクスの概念を発達させる経験的証拠を見出した。
論文 参考訳(メタデータ) (2022-01-20T15:01:12Z) - Annotation Uncertainty in the Context of Grammatical Change [0.05249805590164901]
本稿では、大きなテキストコーポラにおけるアノテーションの文脈における不確実性の概念について詳述する。
アノテーションの不確実性をより詳細に調べ,その情報源を特定し,日々のアノテーション実践で遭遇するさまざまな不確実性や自然の理解を深める。
この記事は、コーパスプロジェクト、言語学、コンピュータサイエンスに関連する主要な科学分野の視点を調整する試みと見なすことができます。
論文 参考訳(メタデータ) (2021-05-15T17:45:29Z) - Interpretable Deep Learning: Interpretations, Interpretability,
Trustworthiness, and Beyond [49.93153180169685]
一般に混同される2つの基本的な概念(解釈と解釈可能性)を紹介・明らかにする。
我々は,新しい分類法を提案することにより,異なる視点から,最近のいくつかの解釈アルゴリズムの設計を詳細に述べる。
信頼される」解釈アルゴリズムを用いてモデルの解釈可能性を評価する上での既存の作業をまとめる。
論文 参考訳(メタデータ) (2021-03-19T08:40:30Z) - Optimism in the Face of Adversity: Understanding and Improving Deep
Learning through Adversarial Robustness [63.627760598441796]
深層学習における対角的強靭性の分野を詳細に検討する。
直感的な対向例と深層ニューラルネットワークの幾何学的関係を強調した。
セキュリティを超えた敵の堅牢性の主な応用について概説する。
論文 参考訳(メタデータ) (2020-10-19T16:03:46Z) - A Chain Graph Interpretation of Real-World Neural Networks [58.78692706974121]
本稿では,NNを連鎖グラフ(CG)、フィードフォワードを近似推論手法として識別する別の解釈を提案する。
CG解釈は、確率的グラフィカルモデルのリッチな理論的枠組みの中で、各NNコンポーネントの性質を規定する。
我々は,CG解釈が様々なNN技術に対する新しい理論的支援と洞察を提供することを示す具体例を実例で示す。
論文 参考訳(メタデータ) (2020-06-30T14:46:08Z) - Syntactic Structure from Deep Learning [40.84740599926241]
現代のディープニューラルネットワークは、機械翻訳のような広範な言語スキルを必要とするエンジニアリングアプリケーションにおいて、素晴らしいパフォーマンスを達成する。
この成功は、これらのモデルが、露出した生データから人間のような文法的知識を誘導しているかどうかを調査することへの関心を喚起した。
論文 参考訳(メタデータ) (2020-04-22T20:02:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。