論文の概要: MoECodec: Image Compression for joint human and machine perception via Mixture-of-Experts

• arxiv url: http://arxiv.org/abs/2606.21033v1
• Date: Fri, 19 Jun 2026 01:56:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 08:48:38.59554
• Title: MoECodec: Image Compression for joint human and machine perception via Mixture-of-Experts
• Title（参考訳）: MoECodec:Mixture-of-Expertsによる人間と機械の同時認識のための画像圧縮
• Authors: Jiancheng Zhao, Xiang Ji, Yifan Zhan, Zunian Wan, Yinqiang Zheng,
• Abstract要約: MoECodecはトークン対応の画像圧縮フレームワークで、単一のモデル内で複数のダウンストリームタスクをサポートする。 MoECodecは、Transformerベースの圧縮モデルにおけるFFN層を置き換える。
• 参考スコア（独自算出の注目度）: 37.49087932678935
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Image compression for machines calls for a unified codec that serves multiple downstream vision tasks. Existing approaches either adopt task-specific end-to-end designs, raising parameter and deployment overhead, or rely on transfer-based adaptations that remain externally attached and heuristic task design. A key limitation shared by both lines of work is their largely static computation pattern, which applies similar transformations across tokens despite the fact that different image regions exhibit markedly different semantic importance and complexity for machine perception. We propose MoECodec, a token-aware image compression framework that supports multiple downstream tasks within a single model. MoECodec replaces the FFN layers in transformer-based compression model token-wise Mixture-of-Experts (MoE), enabling dynamic, token-level computation conditioned on the input content and task objective. To make MoE effective in compression model, we introduce a stable routing strategy that combines expert-choice routing with spatial total variation regularization to encourage spatially coherent assignments, and we propose a lightweight expert architecture, Group Shuffle MLP (GShMLP), to control parameter growth. Extensive experiments show consistent improvement against baselines on both conventional image reconstruction and machine tasks.
• Abstract（参考訳）: マシンの画像圧縮は、複数の下流視覚タスクを提供する統一コーデックを要求する。 既存のアプローチでは、タスク固有のエンドツーエンド設計を採用するか、パラメータとデプロイメントのオーバーヘッドを上げるか、あるいは外部にアタッチされたヒューリスティックなタスク設計を維持したトランスファーベースの適応に依存している。 このパターンは、異なる画像領域がマシン知覚において著しく異なる意味的重要性と複雑さを示すという事実にもかかわらず、トークン間で同様の変換を適用している。 単一モデル内で複数の下流タスクをサポートするトークン対応画像圧縮フレームワークであるMoECodecを提案する。 MoECodecは、トランスフォーマーベースの圧縮モデルにおけるFFN層を置き換えることで、入力内容とタスク目的に基づいて動的でトークンレベルの計算を可能にする。 圧縮モデルにMoEを有効にするため,空間的に整合性を持たせるために,専門家選択ルーティングと空間的全変動正規化を組み合わせた安定なルーティング戦略を導入し,パラメータ成長を制御するために,軽量なエキスパートアーキテクチャであるグループシャッフルMLP(GShMLP)を提案する。 大規模な実験は、従来の画像再構成とマシンタスクの両方のベースラインに対して一貫した改善を示す。

関連論文リスト

• Auto-FlexSwitch: Efficient Dynamic Model Merging via Learnable Task Vector Compression [54.12624130407679]
  タスクベクトルを3つのコンパクトなコンポーネントに分解するT-Switchを提案する。 次に,タスクベクトルを自動生成するトレーニングフリーマージスキームであるAuto-Switchを紹介する。 本稿では,高効率なタスクベクトル圧縮をサポートする動的モデルマージ手法であるAuto-FlexSwitchを提案する。
  論文  参考訳（メタデータ） (2026-04-30T16:58:05Z)
• UniCompress: Token Compression for Unified Vision-Language Understanding and Generation [62.943173382496276]
  統一モデルは、イメージを個別のトークンにエンコードし、テキストと共にそれらを処理することによって、理解と生成の両方をサポートすることを目的としている。 本稿では,画像理解と生成の両タスクのパフォーマンスを保ちながら,視覚的トークン数を大幅に削減する統一されたトークン圧縮アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-03-11T21:27:15Z)
• Adaptive-VoCo: Complexity-Aware Visual Token Compression for Vision-Language Models [19.536595270049016]
  本稿では,VoCo-LLaMAを適応圧縮のための軽量な予測器で拡張するフレームワークであるAdaptive-VoCoを提案する。 実験結果から,本手法は複数のマルチモーダルタスクの固定レートベースラインを一貫して上回ることがわかった。
  論文  参考訳（メタデータ） (2025-12-20T20:24:07Z)
• DyMU: Dynamic Merging and Virtual Unmerging for Efficient VLMs [124.52164183968145]
  視覚言語モデル(VLM)の計算負担を軽減する,効率的なトレーニング不要なフレームワークであるDyMUを提案する。 まず、動的トークンマージ(DToMe)は、画像の複雑さに基づいて類似のトークンをマージすることで、視覚トークンの埋め込み数を削減します。 第二に、仮想トークンアンマージ(VTU)は、大きな言語モデル(LLM)の期待トークンシーケンスを、フルシーケンスの注意ダイナミクスを効率的に再構築することでシミュレートする。
  論文  参考訳（メタデータ） (2025-04-23T18:38:18Z)
• All-in-One Transferring Image Compression from Human Perception to Multi-Machine Perception [33.05779778716361]
  既存のアプローチは、通常、単一のタスクに対して、非効率でタスク間の相互作用が欠如し、複数のタスク固有のビットストリームが生じる、ダウンストリームタスクにlicを適応させる。 本稿では,事前学習したベースを統一モデルと単一学習プロセスを介して,複数のマシンビジョンタスクに転送可能なマルチタスク適応フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-17T15:06:52Z)
• Variable-Rate Deep Image Compression through Spatially-Adaptive Feature Transform [58.60004238261117]
  空間特徴変換(SFT arXiv:1804.02815)に基づく多目的深部画像圧縮ネットワークを提案する。 本モデルは,任意の画素単位の品質マップによって制御される単一モデルを用いて,幅広い圧縮速度をカバーしている。 提案するフレームワークにより,様々なタスクに対してタスク対応の画像圧縮を行うことができる。
  論文  参考訳（メタデータ） (2021-08-21T17:30:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。