論文の概要: Tug of Watts: A study on the Energy - Accuracy Trade-off of Large Language Models on Medical Question Answering Tasks
- arxiv url: http://arxiv.org/abs/2611.02889v1
- Date: Mon, 02 Nov 2026 10:23:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.590731
- Title: Tug of Watts: A study on the Energy - Accuracy Trade-off of Large Language Models on Medical Question Answering Tasks
- Title(参考訳): ワットのタグ:医療質問応答課題における大規模言語モデルのエネルギー・正確性トレードオフに関する研究
- Abstract要約: 大規模言語モデル (LLM) は医療質問応答システム (QA) での利用が増えている。
本稿では, 医療用QAタスクにおいて, エネルギー消費量を推定し, 信頼性の高いエミッション推定値に到達する方法を示す。
与えられたタスクのモデルの集合に対して、エネルギー対精度のトレードオフを批判的に解釈する方法について議論する。
- 参考スコア(独自算出の注目度): 5.817902634141782
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) are increasingly used in medical question answering (QA) systems. While recent works aim at incrementally improving the downstream task accuracy, an empirical estimation of the models' energy consumption and the associated carbon footprints is often overlooked. In this study, we demonstrate how practitioners can estimate energy consumption and arrive at reliable emission estimates for medical QA tasks available in the OpenMedical-LLM leaderboard by investigating 13 LLMs from 3 model families ranging from 270M to 14B parameters. We discuss how one can critically interpret energy versus accuracy trade-offs for a set of models for a given task. With this work, we underline that reporting disjoint energy and accuracy metrics alone does not suffice for careful trade-off assessments, but it also demands systematic construction and interpretation of joint trade-off metrics. We envisage such studies aiding practitioners in adopting better and more efficient models for their task and helping them become active participants in building sustainable LLM pipelines.
- Abstract(参考訳): 大規模言語モデル (LLM) は医療質問応答システム (QA) での利用が増えている。
最近の研究は、下流タスクの精度を漸進的に改善することを目的としているが、モデルが消費するエネルギーと関連する炭素フットプリントを実証的に推定することは、しばしば見過ごされる。
本研究では,OpenMedical-LLMリーダーボードで利用可能な医療用QAタスクのエネルギー消費量を推定し,信頼性の高いエミッション推定値に到達する方法を,270Mから14Bパラメータの3つのモデルファミリーから13個のLLMを調査することによって実証した。
与えられたタスクのモデルの集合に対して、エネルギー対精度のトレードオフを批判的に解釈する方法について議論する。
この研究により、不整合エネルギーと精度の指標のみを報告することは、慎重なトレードオフ評価に十分ではなく、共同トレードオフ指標の体系的な構築と解釈も要求する。
我々は,実践者がより優れた,より効率的なモデルをタスクに適用し,持続的なLLMパイプライン構築に積極的に参加することを支援するために,そのような研究を奨励する。
関連論文リスト
- Measured Joules, Learned Routes: Learning to Route for Energy-Efficient LLM Serving [9.24091850794159]
大規模言語モデル(LLM)とエージェントAIシステムは、急速に増加する推論エネルギー需要を生み出している。
言語モデルに基づくルータを設計し、各問合せで読み出し、固定候補プールから解答モデルを選択する。
その結果、学習したルーティングは、クエリコンテキストに基づいて、高価なモデルのキャパシティを選択的に割り当てることができることを示した。
論文 参考訳(メタデータ) (2026-09-19T15:44:09Z) - WEQA: Wearable hEalth Question Answering with Query-Adaptive Agentic Reasoning [30.134429515719905]
本稿では,LLM推論を特殊なウェアラブル分析・モデリングツールと統合するクエリ適応型エージェントフレームワークWEQAを提案する。
また、3つの異なる健康領域における分析および予測タスクを含む4つのオープンなウェアラブルデータセットにまたがるベンチマークをキュレートする。
実験の結果,LLMやエージェントベースラインよりも24%の精度が得られ,12名の医療専門家と8名のユーザによる盲目調査の結果,有用性や臨床的健全性は著しく向上した。
論文 参考訳(メタデータ) (2026-06-16T16:45:56Z) - EHRBench: An Automated and Reliable EHR-based Benchmark for Clinical Decision Making with LLMs [51.129595320595094]
臨床意思決定 (CDM) は、臨床医が診断を推測し、治療を選択し、不完全な証拠の下で将来の健康結果を予測する、現実的な臨床の中心である。
LLMモデルは、強力な言語能力、幅広い生物医学的知識、効率性のために、これらの決定をサポートするためにますます使われています。
LLMの実際の臨床決定タスクに対する信頼性は、まだ十分に理解されていない。
論文 参考訳(メタデータ) (2026-05-28T22:38:26Z) - EnactToM: An Evolving Benchmark for Functional Theory of Mind in Embodied Agents [75.01735520608075]
既存のベンチマークは、直観的信念を問うことで、主にリテラル・オブ・マインド(ToM)をテストする。
EnactToMは, 3D 家庭で設定された300個のマルチエージェントタスクの進化ベンチマークである。
ハードスプリットでは、7つの評価されたフロンティアモデルすべてが機能的なタスク完了時に0.0%のPass3を獲得し、リテラルな信念プローブでは平均45.0%であった。
論文 参考訳(メタデータ) (2026-05-11T00:04:19Z) - Assessing Large Language Models for Medical QA: Zero-Shot and LLM-as-a-Judge Evaluation [0.0]
本稿では,2024年4月から2025年8月までの5つの大規模言語モデル(LLM)を医療用QAで比較した。
我々のモデルは、Llama-3-8B-Instruct、Llama 3.2 3B、Llama 3.3 70B Instruct、Llama-4-Maverick-17B-128E-Instruct、GPT-5-miniである。
その結果、Llama 3.3 70Bのような大型モデルはより小さなモデルよりも優れており、臨床タスクにおけるスケーリングの利点が観察されている。
論文 参考訳(メタデータ) (2026-02-16T08:53:23Z) - Comparing energy consumption and accuracy in text classification inference [0.9208007322096533]
本研究は,テキスト分類推定におけるモデル精度とエネルギー消費のトレードオフを系統的に評価する。
精度の点で最高の性能モデルはエネルギー効率も良いが、より大きなLCMはより低い分類精度ではるかに多くのエネルギーを消費する傾向がある。
論文 参考訳(メタデータ) (2025-08-19T18:00:08Z) - Towards Sustainable NLP: Insights from Benchmarking Inference Energy in Large Language Models [20.730898779471556]
大きな言語モデル(LLM)は、その例外的な生成能力と汎用性によって、ますます認識されている。
本研究では,幅広いNLPタスクを対象としたLLM推論エネルギーの総合的なベンチマークを行う。
量子化と最適なバッチサイズは、目的のプロンプトフレーズとともに、エネルギー使用量を大幅に削減できることがわかった。
論文 参考訳(メタデータ) (2025-02-08T15:34:52Z) - LlaMADRS: Prompting Large Language Models for Interview-Based Depression Assessment [75.44934940580112]
LlaMADRSは、オープンソースのLarge Language Models(LLM)を利用して、うつ病の重症度評価を自動化する新しいフレームワークである。
本研究は,クリニカルインタヴューの解釈・スコアリングにおけるモデル指導のために,慎重に設計された手がかりを用いたゼロショットプロンプト戦略を用いている。
実世界における236件のインタビューを対象とし,臨床評価と強い相関性を示した。
論文 参考訳(メタデータ) (2025-01-07T08:49:04Z) - PMC-LLaMA: Towards Building Open-source Language Models for Medicine [62.39105735933138]
大規模言語モデル(LLM)は、自然言語理解において顕著な能力を示した。
LLMは、ドメイン固有の知識が不足しているため、医学的応用のような正確性を必要とする領域で苦労している。
PMC-LLaMAと呼ばれる医療応用に特化した強力なオープンソース言語モデルの構築手順について述べる。
論文 参考訳(メタデータ) (2023-04-27T18:29:05Z) - Counting Carbon: A Survey of Factors Influencing the Emissions of
Machine Learning [77.62876532784759]
機械学習(ML)は、モデルトレーニングプロセス中に計算を実行するためにエネルギーを使用する必要がある。
このエネルギーの生成には、使用量やエネルギー源によって、温室効果ガスの排出という観点からの環境コストが伴う。
本稿では,自然言語処理とコンピュータビジョンにおいて,95のMLモデルの炭素排出量の時間的および異なるタスクに関する調査を行う。
論文 参考訳(メタデータ) (2023-02-16T18:35:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。