論文の概要: Offline AI Modules: Voice-First Offline Architecture, Hardware Reference Stack, Quantization and Benchmarking

• arxiv url: http://arxiv.org/abs/2610.07026v1
• Date: Sun, 04 Oct 2026 17:16:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.516898
• Title: Offline AI Modules: Voice-First Offline Architecture, Hardware Reference Stack, Quantization and Benchmarking
• Title（参考訳）: オフラインAIモジュール:ボイスファーストのオフラインアーキテクチャ、ハードウェアリファレンススタック、量子化とベンチマーク
• Abstract要約: Offline AI Modulesのワークストリームは、完全にオフラインで動作する音声ファーストAIシステムの実用的で低消費電力で、コミュニティがアクセスできるデプロイを可能にする。 本稿では,NVIDIA Jetson Orin NX (TierB) とRaspberry Pi5 (TierA) の2層にまたがるスタックのエンドツーエンドベンチマーク評価を行う。
• 参考スコア（独自算出の注目度）: 0.12744523252873352
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The Offline AI Modules workstream enables practical, low-power, and community-accessible deployment of voice-first AI systems that operate fully offline. Designed for African language communities where speech is the dominant mode of interaction and internet connectivity is unreliable or absent, the workstream delivers three reinforcing components: a modular voice-first offline architecture, a low-cost hardware reference bill of materials, and a reproducible quantization and a reproducible quantization and benchmarking pipeline for instruction-tuned language models in the 2-5B parameter class. This paper presents the first end-to-end benchmark evaluation of the stack across two hardware tiers: an NVIDIA Jetson Orin NX (TierB) and a Raspberry Pi5 (TierA). Three instruction-tuned models are evaluated across four quantization formats, assessed for deployment metrics (decode throughput, chat latency, memory, power) and multilingual quality (topic classification accuracy on MasakhaNEWS across English, Hausa, Igbo, Nigerian Pidgin, and Yoruba; per-language perplexity drift). Speech recognition is evaluated using Ethio-ASR on Amharic and Oromo across both tiers. The principal finding is that Q4_K_M quantization represents the best size-to-quality trade-off for deployment on both tiers: gemma-4-E2B-it achieves 28.8t/s decode throughput and 89.2% topic classification accuracy at Q4_K_M on TierB, while all three models run within the 16GB memory budget on TierA.
• Abstract（参考訳）: Offline AI Modulesのワークストリームは、完全にオフラインで動作する音声ファーストAIシステムの実用的で低消費電力で、コミュニティがアクセスできるデプロイを可能にする。 音声が主流の対話モードであり、インターネット接続が欠如しているアフリカの言語コミュニティ向けに設計されたワークストリームは、モジュール型の音声ファーストのオフラインアーキテクチャ、低コストのハードウェア参照請求書、再現可能な量子化と2-5Bパラメータクラスの命令チューニング言語モデルのための再現可能な量子化とベンチマークパイプラインの3つの強化コンポーネントを提供する。 本稿では,NVIDIA Jetson Orin NX (TierB) とRaspberry Pi5 (TierA) の2層にまたがるスタックのエンドツーエンドベンチマーク評価を行う。 インストラクションチューニングされた3つのモデルは、4つの量子化フォーマットで評価され、デプロイメントメトリクス(デコードスループット、チャットレイテンシ、メモリ、パワー)と多言語品質(英語、Hausa、Igbo、ナイジェリアのPidgin、YorubaでのMashokhaNEWSのトピック分類精度;言語ごとの難読度ドリフト)が評価される。 両層にわたるAmharicとOromoのEthio-ASRを用いて音声認識を評価する。 gemma-4-E2B-itは28.8t/sのデコードスループットと89.2%のトピック分類精度をTierBのQ4_K_Mで達成し、3つのモデルは全てTierAの16GBメモリ予算内で動作する。

関連論文リスト

• Qwen-Audio-3.0-ASR Technical Report [52.28849889799101]
  本稿では,Mixture-of-Experts (MoE) LLM-based ASRシステムであるQwen-Audio-3.0-ASRを提案する。 Qwen-Audio-3.0-ASRは8つの主要方言領域にまたがる30の言語と16の中国語方言の転写をサポートしている。 レイテンシに敏感なアプリケーションのための専用ストリーミング変種Qwen-Audio-3.0-ASR-Streamingを開発した。
  論文  参考訳（メタデータ） (2026-09-07T14:30:56Z)
• UltraEval-Audio: A Unified Framework for Comprehensive Evaluation of Audio Foundation Models [36.71750531005594]
  UltraEval-Audioは、オーディオ基礎モデルの統一評価フレームワークである。 10の言語と14のコアタスクカテゴリをサポートし、24の主流モデルと36の信頼できるベンチマークをシームレスに統合する。 オーディオコーデックに新しい包括的評価手法を採用し、3つの重要な領域で性能を評価する。
  論文  参考訳（メタデータ） (2026-01-04T04:54:12Z)
• AHELM: A Holistic Evaluation of Audio-Language Models [78.20477815156484]
  マルチモーダルオーディオ言語モデル(ALM)は、インターリーブされた音声とテキストを入力および出力テキストとして取り込む。 AHELMは、PARADEとCoRe-Benchと呼ばれる2つの新しい合成オーディオテキストデータセットを含む、さまざまなデータセットを集約するベンチマークである。 また、モデル間の等価比較を確保するために、プロンプト、推論パラメータ、評価指標を標準化する。
  論文  参考訳（メタデータ） (2025-08-29T07:40:39Z)
• Qwen3 Technical Report [137.96804244102205]
  Qwenモデルファミリの最新バージョンであるQwen3を紹介します。 Qwen3は、性能、効率、多言語機能を向上させるために設計された一連の大規模言語モデル(LLM)から構成されている。
  論文  参考訳（メタデータ） (2025-05-14T13:41:34Z)
• Nexus: An Omni-Perceptive And -Interactive Model for Language, Audio, And Vision [83.0622534215881]
  本研究は, 聴覚, 視覚, 言語的モダリティを統合した, 産業レベルのOmni-Modal Large Language Model (LLM) パイプラインを提案する。 まず、様々なエンコーダ-LLM-デコーダアーキテクチャの柔軟な構成を可能にするモジュラーフレームワークです。 第二に、最先端のビジョン言語モデルであるQwen2.5-VLのオーディオ言語アライメントを事前訓練する軽量なトレーニング戦略である。 第三に、様々な現実世界のシナリオから高品質な音声テキストデータを生成するオーディオ合成パイプライン。
  論文  参考訳（メタデータ） (2025-02-26T17:26:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。