論文の概要: Entropy of Ukrainian
- arxiv url: http://arxiv.org/abs/2604.27534v1
- Date: Thu, 30 Apr 2026 07:39:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 16:31:53.971772
- Title: Entropy of Ukrainian
- Title(参考訳): ウクライナのエントロピー
- Authors: Anton Lavreniuk, Mykyta Mudryi, Markiian Chaklosh,
- Abstract要約: 自然言語処理において、言語のエントロピーは予測不可能性と複雑性の尺度である。
本稿では,184名のボランティアをソーシャルメディアチャンネルで募集し,ウクライナ人を対象に実験を行った。
我々は、ウクライナ人のエントロピー価値を近似するために、英語で使われる技術に依存している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In natural language processing, the entropy of a language is a measure of its unpredictability and complexity. The first study on this subject was conducted by Claude Shannon in 1951. By having participants predict the next character in a sentence, he was able to approximate the entropy of the English language. Several follow-up studies by other authors have since been conducted for English, and one for Hebrew. However, to date, Shannon's experiment has never been conducted for Ukrainian. In this paper, we perform this experiment for Ukrainian by recruiting 184 volunteers using social media channels. We rely on techniques used for English to approximate the entropy value of Ukrainian. The final result is an upper bound of $H_{upper}\approx1.201$ bits per character. We compare this to the performance of current Large Language Models. The methods and code used are also documented and published, along with a discussion of the main challenges encountered.
- Abstract(参考訳): 自然言語処理において、言語のエントロピーは予測不可能性と複雑性の尺度である。
この主題に関する最初の研究は、1951年にクロード・シャノンによって行われた。
参加者に文中の次の文字を予測させることで、彼は英語のエントロピーを近似することができた。
その後、他の著作家によるいくつかのフォローアップ研究が英語で行われ、一つはヘブライ語で行われている。
しかし、これまでにシャノンの実験はウクライナ人に対しては行われていない。
本稿では,この実験を,ソーシャルメディアチャンネルを用いて184名のボランティアを募集し,ウクライナ人を対象に実施する。
我々は、ウクライナ人のエントロピー価値を近似するために、英語で使われる技術に依存している。
最後の結果は文字あたりの$H_{upper}\approx1.201$ビットの上限である。
これを現在の大規模言語モデルの性能と比較する。
使用するメソッドやコードはドキュメント化され、公開され、直面した主な課題について議論される。
関連論文リスト
- Probing for Reading Times [60.30314214800421]
我々は、英語、ギリシャ語、ヘブライ語、ロシア語、トルコ語における人間の読書時間を表す言語モデル表現を探索する。
その結果,初期層からの表現は,初回固定や視線持続時間などの早期通過の予測において極めて優れていた。
論文 参考訳(メタデータ) (2026-04-20T18:12:59Z) - SLRTP2025 Sign Language Production Challenge: Methodology, Results, and Future Work [87.9341538630949]
第1回手話生産チャレンジはCVPR 2025で第3回SLRTPワークショップの一環として開催された。
コンペティションの目的は、音声言語文からスケルトンポーズのシーケンスに変換するアーキテクチャを評価することである。
本稿では,挑戦設計と入賞方法について述べる。
論文 参考訳(メタデータ) (2025-08-09T11:57:33Z) - The Syntactic Acceptability Dataset (Preview): A Resource for Machine Learning and Linguistic Analysis of English [0.0]
本稿では,Syntactic Acceptabilityデータセットのプレビューを紹介する。
データセットは、構文談話から1000の英語シーケンスから構成される。
予備的な形式であっても、このデータセットは一般にアクセス可能なものとして最大である。
論文 参考訳(メタデータ) (2025-06-22T18:03:49Z) - EmoBench-UA: A Benchmark Dataset for Emotion Detection in Ukrainian [55.08460390792863]
EmoBench-UAはウクライナのテキストで感情を検出するための最初の注釈付きデータセットである。
その結果,ウクライナ語のような非主流言語における感情分類の課題が浮き彫りになった。
論文 参考訳(メタデータ) (2025-05-29T09:49:57Z) - Crosslingual Structural Priming and the Pre-Training Dynamics of
Bilingual Language Models [6.845954748361076]
構造プライミングを用いて、モデル出力に対する因果効果を持つ抽象文法表現をテストする。
オランダ語と英語のバイリンガル設定にアプローチを拡張し,事前学習時のオランダ語と英語のモデルを評価する。
また,第2言語に曝露すると,言語間構造的プライミング効果が早期に出現し,その言語でのデータトークンが100万個未満であることが判明した。
論文 参考訳(メタデータ) (2023-10-11T22:57:03Z) - Revisiting Acceptability Judgements [16.586147651894265]
CoLACは、非インド・ヨーロッパ言語のための最初の大規模アクセシビリティデータセットである。
ネイティブスピーカーによって検証され、言語学者のラベルと群衆のラベルの2つのセットが付属している。
実験の結果,最大のインストラクトGPTモデルでさえ,CoLAC上でのみ実行可能であることがわかった。
論文 参考訳(メタデータ) (2023-05-23T14:16:22Z) - UniMax: Fairer and more Effective Language Sampling for Large-Scale
Multilingual Pretraining [92.3702056505905]
我々は,尾語への過剰適合を軽減しつつ,より均一なヘッド言語カバレッジを提供する新しいサンプリング手法UniMaxを提案する。
We found that UniMax are outperforming standard temperature-based sample, and the benefit persistent as scale increased。
論文 参考訳(メタデータ) (2023-04-18T17:45:50Z) - Naturalistic Causal Probing for Morpho-Syntax [76.83735391276547]
スペインにおける実世界のデータに対する入力レベルの介入に対する自然主義的戦略を提案する。
提案手法を用いて,共同設立者から文章中の形態・症状の特徴を抽出する。
本研究では,事前学習したモデルから抽出した文脈化表現に対する性別と数字の因果効果を解析するために,本手法を適用した。
論文 参考訳(メタデータ) (2022-05-14T11:47:58Z) - Emergent Communication Pretraining for Few-Shot Machine Translation [66.48990742411033]
我々は、参照ゲームからの創発的コミュニケーションを介してニューラルネットワークを事前訓練する。
私たちの重要な前提は、実世界の環境の粗悪な近似として、画像に基づくコミュニケーションを基盤にすることで、帰納的に自然言語学習のモデルに偏りが生じる、ということです。
論文 参考訳(メタデータ) (2020-11-02T10:57:53Z) - Investigating Language Impact in Bilingual Approaches for Computational
Language Documentation [28.838960956506018]
本稿では,翻訳言語の選択が後続文書作業に与える影響について検討する。
我々は56対のバイリンガルペアを作成し、低リソースの教師なし単語分割とアライメントのタスクに適用する。
この結果から,ニューラルネットワークの入力表現に手がかりを取り入れることで,翻訳品質とアライメント品質が向上することが示唆された。
論文 参考訳(メタデータ) (2020-03-30T10:30:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。