論文の概要: Samsone: A Family of Open Small Audio Language Models for On-Device Inference
- arxiv url: http://arxiv.org/abs/2609.21666v1
- Date: Fri, 18 Sep 2026 12:03:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:17.06979
- Title: Samsone: A Family of Open Small Audio Language Models for On-Device Inference
- Title(参考訳): Samsone: オンデバイス推論のためのオープン・スモールオーディオ言語モデルのファミリー
- Abstract要約: エッジコンピューティングのためのSmall Audio Language Models (SALM) ファミリーであるSamsoneを紹介する。
私たちのコアモデルであるSamsone-134Mは、複数のベンチマークにまたがって、そのサイズクラスの新たな最先端性を確立します。
トレーニングコード,モデルウェイト,モバイル最適化チェックポイントをリリースし,Samsoneのデバイス上でのリアルタイム推論を実演するオープンソースAndroidアプリケーションを提供する。
- 参考スコア(独自算出の注目度): 1.266805611335611
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The success of Large Audio Language Models has driven the development of massive multimodal networks exceeding billions of parameters. However, the demand for privacy-preserving, low-latency processing has shifted focus toward Small Audio Language Models (SALMs) capable of on-device execution. In this paper, we introduce Samsone, a family of SALMs designed for edge computing. Our core model, Samsone-134M, establishes a new state-of-the-art for its size class across multiple benchmarks. We further explore the scaling laws of SALMs by introducing Samsone-99M and Samsone-356M. Despite their compact footprint, the Samsone family delivers performance competitive with models orders of magnitude larger. To foster open research and reproducibility, we train Samsone on publicly available data. We release the training code, model weights, mobile-optimized checkpoints and provide an open-source Android application to demonstrate real-time on-device inference of Samsone.
- Abstract(参考訳): 大規模音声言語モデルの成功により、数十億のパラメータを超える巨大なマルチモーダルネットワークの開発が加速した。
しかし、プライバシ保護と低レイテンシ処理の需要は、デバイス上での実行が可能な小型オーディオ言語モデル(SALM)に焦点を移している。
本稿では,エッジコンピューティング用に設計されたSALMのファミリーであるSamsoneを紹介する。
私たちのコアモデルであるSamsone-134Mは、複数のベンチマークにまたがって、そのサイズクラスの新たな最先端性を確立します。
さらに,Samsone-99MとSamsone-356Mを導入することで,SALMのスケーリング法則についても検討する。
コンパクトなフットプリントにもかかわらず、Samsoneファミリーは、桁違いに大きいモデルの注文と競合するパフォーマンスを提供する。
オープンな研究と再現性を促進するため、公開データに基づいてSamsoneをトレーニングする。
トレーニングコード,モデルウェイト,モバイル最適化チェックポイントをリリースし,Samsoneのデバイス上でのリアルタイム推論を実演するオープンソースAndroidアプリケーションを提供する。
関連論文リスト
- Flavors of Moonshine: Tiny Specialized ASR Models for Edge Devices [1.4625828590961276]
そこで本研究では,未表現言語に特化している小型自動音声認識(ASR)モデルについて述べる。
私たちは、パーミッシブなオープンソースライセンスの下で、アラビア語、中国語、日本語、韓国語、ウクライナ語、ベトナム語モデルをリリースします。
論文 参考訳(メタデータ) (2025-09-02T17:22:54Z) - OLMoASR: Open Models and Data for Training Robust Speech Recognition Models [30.64066048505222]
本稿では、大規模データセットOLMoASR-Poolと一連のモデルOLMoASRを提案し、ロバストなゼロショット音声認識モデルの研究と開発を行う。
私たちのキュレーションパイプラインは、OLMoASR-Mixと呼ばれる高品質なオーディオ書き起こしペアを100万時間生成します。
OLMoASRは、ショートおよびロングフォーム音声認識ベンチマークにおいて、OpenAIのWhisperに匹敵する平均性能を達成する。
論文 参考訳(メタデータ) (2025-08-28T15:00:51Z) - Pangu Ultra: Pushing the Limits of Dense Large Language Models on Ascend NPUs [123.25404278506585]
135億のパラメータと高密度トランスフォーマーモジュールを持つ大規模言語モデル(LLM)であるPangu Ultraについて述べる。
このような大規模トレーニングを効率的に行うためには,8,192個のAscend NPUと一連のシステム最適化を用いる。
我々の調査では、Ascend NPUは1000億以上のパラメータを持つ高密度モデルを効率的かつ効果的に訓練できることを示した。
論文 参考訳(メタデータ) (2025-04-10T15:41:51Z) - SlimLM: An Efficient Small Language Model for On-Device Document Assistance [60.971107009492606]
SlimLMはモバイル端末上での文書支援タスクに最適化された一連のSLMである。
SlimLMはSlimPajama-627Bで事前訓練され、DocAssistで微調整されている。
我々はSlimLMを既存のSLMと比較し、同等または優れた性能を示す。
論文 参考訳(メタデータ) (2024-11-15T04:44:34Z) - MiniSUPERB: Lightweight Benchmark for Self-supervised Speech Models [90.99663022952498]
SuperBは自己教師付き学習(SSL)音声モデルの様々なタスクにおける一般化性を評価するために提案された。
SuperBは大規模なデータセットと多様なタスクのために高い計算コストを発生させる。
我々は,SUPERBに匹敵する結果のSSL音声モデルを効率よく評価する軽量ベンチマークであるMiniSUPERBを紹介する。
論文 参考訳(メタデータ) (2023-05-30T13:07:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。