論文の概要: Aloe: A Family of Fine-tuned Open Healthcare LLMs

• arxiv url: http://arxiv.org/abs/2405.01886v1
• Date: Fri, 3 May 2024 07:14:07 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-06 13:35:25.939624
• Title: Aloe: A Family of Fine-tuned Open Healthcare LLMs
• Title（参考訳）: Aloe: 微調整のオープンヘルスケアLLMの家族
• Authors: Ashwin Kumar Gururajan, Enrique Lopez-Cuena, Jordi Bayarri-Planas, Adrian Tormos, Daniel Hinjos, Pablo Bernabeu-Perez, Anna Arias-Duart, Pablo Agustin Martin-Torres, Lucia Urcelay-Ganzabal, Marta Gonzalez-Mallo, Sergio Alvarez-Napagao, Eduard Ayguadé-Parra, Ulises Cortés Dario Garcia-Gasulla,
• Abstract要約: そこで我々は,オープン医療LLMの規模内での競争力が高いAloeファミリーを紹介した。 Aloeモデルはアライメントフェーズを実行し、ポリシーに準拠した最初のオープンヘルスケア LLM の1つになった。 推論におけるLLMの限界を探るため,いくつかの先進的な技術戦略について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As the capabilities of Large Language Models (LLMs) in healthcare and medicine continue to advance, there is a growing need for competitive open-source models that can safeguard public interest. With the increasing availability of highly competitive open base models, the impact of continued pre-training is increasingly uncertain. In this work, we explore the role of instruct tuning, model merging, alignment, red teaming and advanced inference schemes, as means to improve current open models. To that end, we introduce the Aloe family, a set of open medical LLMs highly competitive within its scale range. Aloe models are trained on the current best base models (Mistral, LLaMA 3), using a new custom dataset which combines public data sources improved with synthetic Chain of Thought (CoT). Aloe models undergo an alignment phase, becoming one of the first few policy-aligned open healthcare LLM using Direct Preference Optimization, setting a new standard for ethical performance in healthcare LLMs. Model evaluation expands to include various bias and toxicity datasets, a dedicated red teaming effort, and a much-needed risk assessment for healthcare LLMs. Finally, to explore the limits of current LLMs in inference, we study several advanced prompt engineering strategies to boost performance across benchmarks, yielding state-of-the-art results for open healthcare 7B LLMs, unprecedented at this scale.
• Abstract（参考訳）: 医療と医療におけるLLM(Large Language Models)の能力が向上するにつれ、公衆の関心を守るための競争力のあるオープンソースモデルの必要性が高まっている。 競争力の高いオープンベースモデルの普及に伴い、継続する事前訓練の影響はますます不確実になっている。 本研究では、現在のオープンモデルを改善する手段として、インストラクションチューニング、モデルマージ、アライメント、レッドチーム化、および高度な推論スキームの役割について検討する。 そこで我々は,オープン医療用LLMの規模で高い競争力を持つAloe familyを紹介した。 Aloeモデルは現在の最高のベースモデル(Mistral, LLaMA 3)でトレーニングされており、新しいカスタムデータセットを使用して、改善された公開データソースとCoT(Synthetic Chain of Thought)を組み合わせる。 Aloeモデルはアライメントフェーズを実行し、ダイレクト・プライス・オプティマイゼーション(Direct Preference Optimization)を使用して、最初の数少ないポリシーに準拠したオープンヘルスケア LLM の1つとなり、ヘルスケア LLM における倫理的パフォーマンスの新たな標準を確立した。 モデル評価は、様々なバイアスと毒性データセット、専用のレッドチームワーク、医療用LSMに対する待望のリスクアセスメントを含むように拡張される。 最後に,現在のLLMの限界を推測するために,ベンチマークによるパフォーマンス向上を目的とした,先進的なエンジニアリング戦略をいくつか検討し,オープンヘルスケア7B LLMの最先端結果を得た。

関連論文リスト

• A Multi-LLM Debiasing Framework [85.17156744155915]
  大規模言語モデル(LLM)は、社会に多大な利益をもたらす可能性がある強力なツールであるが、社会的不平等を持続するバイアスを示す。 近年,マルチLLM手法への関心が高まっており,推論の質向上に有効であることが示されている。 LLMのバイアス低減を目的としたマルチLLMデバイアスフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-20T20:24:50Z)
• Aligning (Medical) LLMs for (Counterfactual) Fairness [2.089191490381739]
  大規模言語モデル(LLM)は、医療および臨床決定支援アプリケーションのための有望なソリューションとして登場した。 LLMは様々な種類のバイアスを受けており、個人の不公平な扱い、健康格差の悪化、AIが強化された医療ツールへの信頼の低下につながる可能性がある。 本稿では, 知識蒸留フレームワークにおける優先最適化手法を用いて, LLMの整列化のための新しいモデルアライメント手法を提案する。
  論文  参考訳（メタデータ） (2024-08-22T01:11:27Z)
• Efficient Continual Pre-training by Mitigating the Stability Gap [68.49269649759005]
  本研究では,Large Language Models (LLM) の継続事前学習における挙動について検討する。 固定された計算予算内でのLLM性能を向上させるための3つの効果的な戦略を提案する。 当社の戦略は,OpenLlama-3Bモデルの平均医療タスク性能を36.2%から40.7%に改善し,当初のトレーニング予算の40%に過ぎなかった。
  論文  参考訳（メタデータ） (2024-06-21T02:28:37Z)
• MAP-Neo: Highly Capable and Transparent Bilingual Large Language Model Series [86.31735321970481]
  私たちはMAP-Neoをオープンソースにしました。これは、4.5Tの高品質トークン上で、スクラッチからトレーニングされた7Bパラメータを持つバイリンガル言語モデルです。 MAP-Neo は,既存の最先端 LLM と比較して性能が劣る初の完全オープンソースバイリンガル LLM である。
  論文  参考訳（メタデータ） (2024-05-29T17:57:16Z)
• Weak-to-Strong Extrapolation Expedites Alignment [135.12769233630362]
  モデルと人間の嗜好との整合性を高めるために,ExPOと呼ばれる手法を提案する。 ExPOは市販のDPO/RLHFモデルを一貫して改善することを示した。 我々は、アライメントトレーニング中に学んだ報酬信号を増幅するExPOの本質に光を当てた。
  論文  参考訳（メタデータ） (2024-04-25T17:39:50Z)
• Hippocrates: An Open-Source Framework for Advancing Large Language Models in Healthcare [12.861529503960393]
  Hippocrates(ヒッポクラテス)は、医療分野向けに開発されたオープンソースのフレームワークである。 このオープンなアプローチは、共同研究を刺激し、コミュニティが医療用LLMを構築し、洗練し、厳格に評価できるように設計されている。 また、医用ドメインに適した7BモデルのファミリーであるHippoを紹介し、MistralとLLaMA2から連続的な事前トレーニング、指導チューニング、人間とAIのフィードバックからの強化学習を通じて微調整を行う。
  論文  参考訳（メタデータ） (2024-04-25T14:06:37Z)
• Developing Healthcare Language Model Embedding Spaces [0.20971479389679337]
  事前トレーニングされた大規模言語モデル(LLM)は、医療中心のテキストのようなドメイン外のデータセットに苦労することが多い。 従来のマスキング言語モデリング、Deep Contrastive Learning for Unsupervised Textual Representations(DeCLUTR)、およびヘルスケア設定からメタデータカテゴリを利用する新しい事前学習目標の3つの手法が評価されている。 対照的に訓練されたモデルは、分類タスクにおける他のアプローチよりも優れており、限られたラベル付きデータから強力なパフォーマンスを提供し、必要なモデルパラメータの更新を少なくする。
  論文  参考訳（メタデータ） (2024-03-28T19:31:32Z)
• Large Language Model Distilling Medication Recommendation Model [61.89754499292561]
  大規模言語モデル(LLM)の強力な意味理解と入力非依存特性を利用する。 本研究は, LLMを用いて既存の薬剤推奨手法を変換することを目的としている。 これを軽減するため,LLMの習熟度をよりコンパクトなモデルに伝達する機能レベルの知識蒸留技術を開発した。
  論文  参考訳（メタデータ） (2024-02-05T08:25:22Z)
• Knowledge Fusion of Large Language Models [73.28202188100646]
  本稿では,大規模言語モデル(LLM)における知識融合の概念を紹介する。 我々は、それらの集合的知識と独特な強みを外部化し、それによってターゲットモデルの能力が、どのソースLLMよりも高められるようにします。 この結果から,LLMの融合により,推論やコモンセンス,コード生成など,対象モデルの性能が向上することが確認された。
  論文  参考訳（メタデータ） (2024-01-19T05:02:46Z)
• Natural Language Programming in Medicine: Administering Evidence Based Clinical Workflows with Autonomous Agents Powered by Generative Large Language Models [29.05425041393475]
  ジェネレーティブ・大型言語モデル(LLM)は医療において大きな可能性を秘めている。 本研究は, シミュレーション3次医療センターにおいて, 自律型エージェントとして機能するLSMの可能性を評価した。
  論文  参考訳（メタデータ） (2024-01-05T15:09:57Z)
• MedAlpaca -- An Open-Source Collection of Medical Conversational AI Models and Training Data [40.97474177100237]
  大規模言語モデル(LLM)は、医療、診断、患者医療、教育を改善するためのかなりの約束を持っている。 しかし、患者のプライバシを保護するために、オンプレミスでデプロイできるオープンソースモデルが緊急に必要である。 本稿では、160,000以上のエントリからなる革新的なデータセットについて紹介する。
  論文  参考訳（メタデータ） (2023-04-14T11:28:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。