論文の概要: Chinese Language Is Not More Efficient Than English in Vibe Coding: A Preliminary Study on Token Cost and Problem-Solving Rate
- arxiv url: http://arxiv.org/abs/2604.14210v1
- Date: Mon, 06 Apr 2026 18:27:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-19 19:09:11.722254
- Title: Chinese Language Is Not More Efficient Than English in Vibe Coding: A Preliminary Study on Token Cost and Problem-Solving Rate
- Title(参考訳): バイブ符号化における中国語は英語より効率的ではない:トーケンコストと問題解決率に関する予備的研究
- Authors: Simiao Ren, Xingyu Shen, Yuchen Zhou, Dennis, Ng, Ankit Raj,
- Abstract要約: LLMコーディングタスクでは、中国語のプロンプトが英語よりもトークン効率が高いという主張が流布している。
この主張は、開発者がAPIコストを節約するために、バイブコーディングのために中国語に切り替えることを検討することに影響を与えている。
我々はSWE-bench Liteを用いた厳密な実証研究を行い、この中国のトークン効率の主張が精査できるかどうかを検証した。
- 参考スコア(独自算出の注目度): 6.198159625579234
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A claim has been circulating on social media and practitioner forums that Chinese prompts are more token-efficient than English for LLM coding tasks, potentially reducing costs by up to 40\%. This claim has influenced developers to consider switching to Chinese for ``vibe coding'' to save on API costs. In this paper, we conduct a rigorous empirical study using SWE-bench Lite, a benchmark of software engineering tasks, to evaluate whether this claim of Chinese token efficiency holds up to scrutiny. Our results reveal three key findings: First, the efficiency advantage of Chinese is not observed. Second, token cost varies by model architecture in ways that defy simple assumptions: while MiniMax-2.7 shows 1.28x higher token costs for Chinese, GLM-5 actually consumes fewer tokens with Chinese prompts. Third, and most importantly, we found that the success rate when prompting in Chinese is generally lower than in English across all models we tested. We also measure cost efficiency as expected cost per successful task -- jointly accounting for token consumption and task resolution rate. These findings should be interpreted as preliminary evidence rather than a definitive conclusion, given the limited number of models evaluated and the narrow set of benchmarks tested due to resource constraints; they indicate that language effects on token cost are model-dependent, and that practitioners should not expect cost savings or performance gains just by switching their prompt language to Chinese.
- Abstract(参考訳): ソーシャルメディアや専門家フォーラムでは、LLMのコーディングタスクでは、中国語のプロンプトの方が英語よりもトークン効率が高く、コストを最大40%削減できるという主張が流布している。
この主張は、APIコストを節約するために‘vibe coding’で中国語に切り替えることを検討する開発者に影響を与えている。
本稿では,ソフトウェア工学タスクのベンチマークであるSWE-bench Liteを用いた厳密な実証的研究を行い,この中国のトークン効率の主張が精査するかどうかを評価する。
まず,中国語の効率性は認められていない。
第二に、トークンコストは単純な仮定に反するモデルアーキテクチャによって異なり、MiniMax-2.7は中国のトークンコストの1.28倍であるのに対して、GLM-5は実際には中国のプロンプトで少ないトークンを消費している。
第三に、そして最も重要なことは、中国語のプロンプトの成功率は、テストしたすべてのモデルにおいて、英語よりも一般的に低いことです。
また、トークン消費とタスク解決率を共同で考慮し、成功したタスク当たりの期待コストとしてコスト効率を測定します。
これらの結果は、評価されたモデル数と、リソース制約によってテストされたベンチマークの狭いセットを考えると、決定的な結論ではなく、予備的な証拠として解釈されるべきであり、トークンコストに対する言語の影響はモデル依存であり、実践者は、即時的な言語を中国語に切り替えることでコスト削減やパフォーマンス向上を期待すべきではない。
関連論文リスト
- CDTP: A Large-Scale Chinese Data-Text Pair Dataset for Comprehensive Evaluation of Chinese LLMs [71.01843542502438]
我々は,中国語大言語モデル(CB-ECLLM)を評価するための総合的ベンチマークを提案する。
CB-ECLLMは、新たに構築された中国データテキストペア(CDTP)データセットに基づいている。
CDTPは700万以上のテキストペアで構成されており、それぞれが1つ以上の対応する3重テキストと、4つの重要なドメインにまたがる合計1500万の3重テキストで構成されている。
論文 参考訳(メタデータ) (2025-10-07T15:33:52Z) - Characterizing Bias: Benchmarking Large Language Models in Simplified versus Traditional Chinese [52.98034458924209]
本研究では,大言語モデルが中国語の2つの変種に刺激された場合の差分性能について検討する。
実世界のシナリオを反映した2つのベンチマークタスクを設計する。
分析の結果、LLM応答のバイアスはタスクとプロンプト言語の両方に依存していることがわかった。
論文 参考訳(メタデータ) (2025-05-28T17:56:49Z) - TRIM: Token Reduction and Inference Modeling for Cost-Effective Language Generation [1.2979906794584584]
本稿では,より少ない推論コストのモデルを用いて,大規模言語モデルからの短い蒸留出力をフルナラティブに再構成する,計算コストの削減のためのパイプラインを提案する。
実験の結果、特に20.58%のトークンを平均で保存し、評価基準を小さくする一般知識領域において有望な結果が得られた。
論文 参考訳(メタデータ) (2024-12-10T17:13:35Z) - Double Jeopardy and Climate Impact in the Use of Large Language Models: Socio-economic Disparities and Reduced Utility for Non-English Speakers [0.0]
私たちは,OpenAIのGPTモデルをAPI経由で使用する場合,入力の処理方法であるトークン化によって,英語話者のコストが高くなることを示した。
約15億人は、主に低所得国の言語を話し、英語話者が直面しているものよりも4倍から6倍のコストがかかる可能性がある。
このことは、全ての言語グループに利益をもたらすためのより公平なアルゴリズム開発の必要性を浮き彫りにしている。
論文 参考訳(メタデータ) (2024-10-14T16:11:04Z) - Prefix Text as a Yarn: Eliciting Non-English Alignment in Foundation Language Model [50.339632513018934]
教師付き微調整(SFT)は、基礎大言語モデル(LLM)の出力を特定の嗜好に合わせるための単純なアプローチである。
我々はこの仮説を言語間タスクの範囲内で批判的に検証する。
タスク関連トークンを最小化するPreTTYという新しいトレーニングフリーアライメント手法を提案する。
論文 参考訳(メタデータ) (2024-04-25T17:19:36Z) - CIF-Bench: A Chinese Instruction-Following Benchmark for Evaluating the Generalizability of Large Language Models [53.9835961434552]
本研究では,中国語に対する大規模言語モデル(LLM)の一般化性を評価するために,中国語命令追跡ベンチマーク(CIF-Bench)を導入する。
CIF-Benchは150のタスクと15,000の入力出力ペアで構成され、複雑な推論と中国の文化的ニュアンスをテストするためにネイティブスピーカーによって開発された。
データ汚染を軽減するため、データセットの半分しか公開せず、残りは非公開であり、スコア分散を最小限に抑えるために多種多様な命令を導入する。
論文 参考訳(メタデータ) (2024-02-20T16:02:12Z) - Unveiling the Potential of Sentiment: Can Large Language Models Predict Chinese Stock Price Movements? [13.682396634686159]
本稿では,大規模言語モデルの包括的評価のための標準化された実験手法を提案する。
性能向上のためのユニークなアプローチを具現化した3つの異なるLCMを用いて,その方法論を詳述する。
これらの感情要因を用いて量的トレーディング戦略を開発し、現実的なシナリオでバックテストを実施します。
論文 参考訳(メタデータ) (2023-06-25T12:08:44Z) - Efficient Cross-Lingual Transfer for Chinese Stable Diffusion with
Images as Pivots [80.32906566894171]
英語の安定拡散を中国語に伝達する簡易かつ効果的な方法であるIAPを提案する。
IAPは、CLIPの埋め込み空間における中国語、英語、視覚的意味論の接続を効率的に確立する。
実験結果から,本手法は,5%のトレーニングデータしか持たない強い中国拡散モデルよりも優れていることがわかった。
論文 参考訳(メタデータ) (2023-05-19T09:20:27Z) - SHUOWEN-JIEZI: Linguistically Informed Tokenizers For Chinese Language
Model Pretraining [48.880840711568425]
事前学習された言語モデルの中国語トークン化に対する3つの要因の影響について検討する。
本稿では,発音に基づくトークン化システムであるSHUOWEN (Talk Word) と,グリフに基づくトークン化システムであるJIEZI (Solve Character) の3種類のトークン化手法を提案する。
SHUOWENとJIEZIは、一般的に従来のシングル文字トークンよりも優れた性能を持つ。
論文 参考訳(メタデータ) (2021-06-01T11:20:02Z) - Intrinsic Knowledge Evaluation on Chinese Language Models [5.293979881130493]
本稿では, 統語的, 意味的, 常識的, 事実的知識の4つの課題について, 合計39,308ドルの質問に集約する。
我々の調査と知識データは、事前訓練された中国のLMを評価するための信頼性の高いベンチマークであることが証明されている。
論文 参考訳(メタデータ) (2020-11-29T04:34:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。