論文の概要: Toward Contemplative LLM: A Modular Framework for Evaluating and Enhancing LLM Alignment in Mental Health

• arxiv url: http://arxiv.org/abs/2607.10871v1
• Date: Sun, 12 Jul 2026 18:23:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 15:40:48.558147
• Title: Toward Contemplative LLM: A Modular Framework for Evaluating and Enhancing LLM Alignment in Mental Health
• Title（参考訳）: 精神保健におけるLLMアライメントの評価と改善のためのモジュールフレームワーク
• Authors: Asher Sprigler, Yang-Yang Feng, Iftach Amir, Jonathan E. Bogard, Todd S Braver, Yi Ding, David Kinney, Yixue Zhao,
• Abstract要約: 熟考的原則は、大きな言語モデル(LLM)を整合させるための有望なパラダイムを提供するかもしれない 新たなモデル,メトリクス,ベンチマークのシームレスな統合を可能にするモジュール型評価フレームワークを提案する。 この研究は、認知科学、行動経済学、哲学、システムデザインにまたがる学際的な研究の基盤となる。
• 参考スコア（独自算出の注目度）: 3.8407594886993004
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Contemplative traditions have long guided ethical behavior and prosocial interaction, and recent work suggests that contemplative principles (e.g., mindfulness, compassion, non-dual reasoning) may offer a promising paradigm for aligning large language models (LLMs), improving cooperation and reducing ethical violations in LLM outputs. However, as new models, evaluation metrics, and benchmarks emerge rapidly, it remains challenging to systematically assess whether and how contemplative principles enhance LLM alignment across diverse and evolving scenarios, and existing approaches are often ad hoc and fail to generalize. We present a modular, extensible evaluation framework, initially targeted at the mental health domain, that enables seamless integration of new models, metrics, and benchmarks through a reusable pipeline. The framework currently reproduces existing state-of-the-art results and supports systematic cross-evaluation by flexibly mixing and matching models, metrics, and benchmarks, enabling fair comparison and deeper insight. Its plug-and-play prompting module offers a principled pathway for incorporating ethical perspectives such as contemplative principles, allowing domain experts to define alignment criteria without requiring technical expertise. Although initially focused on mental health, the framework is domain-agnostic and extends naturally to areas such as decision-making, moral reasoning, and human-AI collaboration. By bridging computational evaluation with human-centered ethical reasoning, this work lays the groundwork for interdisciplinary research spanning cognitive science, behavioral economics, philosophy, and system design, toward robust, trustworthy, and socially beneficial human-AI ecosystems.
• Abstract（参考訳）: 実証的伝統は長年、倫理的行動や社会的相互作用を導いてきたが、近年の研究は、概念的原則(例えば、マインドフルネス、思いやり、非二重推論)が、大きな言語モデル(LLM)を整合させ、協調を改善し、LLM出力における倫理的違反を減らすための有望なパラダイムを提供する可能性があることを示唆している。 しかし、新しいモデル、評価指標、ベンチマークが急速に出現するにつれて、様々な、進化するシナリオをまたいだLLMの整合性を高める方法や、既存のアプローチがしばしばアドホックであり、一般化に失敗するかどうかを体系的に評価することは依然として困難である。 このフレームワークは、再利用可能なパイプラインを通じて、新しいモデル、メトリクス、ベンチマークのシームレスな統合を可能にする。 このフレームワークは現在、既存の最先端の結果を再現しており、モデル、メトリクス、ベンチマークを柔軟に混合し、マッチングすることで、体系的な相互評価をサポートし、公正な比較と深い洞察を可能にしている。 そのプラグアンドプレイプロンプトモジュールは、概念的原則のような倫理的観点を取り入れるための原則化された経路を提供し、ドメインの専門家は技術的な専門知識を必要とせずにアライメント基準を定義することができる。 当初はメンタルヘルスに重点を置いていたが、このフレームワークはドメインに依存しず、意思決定、道徳的推論、人間とAIのコラボレーションといった分野に自然に拡張されている。 この研究は、人間中心の倫理的推論による計算的評価をブリッジすることで、認知科学、行動経済学、哲学、システムデザインにまたがる学際的な研究の基盤を、堅牢で信頼性があり社会的に有益な人間-AIエコシステムへと広げる。

関連論文リスト

• Large Language Models as a Semantic Interface and Ethical Mediator in Neuro-Digital Ecosystems: Conceptual Foundations and a Regulatory Imperative [83.99688944263843]
  本稿では,神経言語統合(NLI)の概念を紹介し,実証する。 これは、大規模言語モデルが生のニューラルネットワークとそのソーシャルアプリケーションの間の重要なセマンティックインターフェースとして機能する、人間とテクノロジーの相互作用のための新しいパラダイムである。 我々は、神経データ保護だけでなく、AIを介する意味論的解釈自体の倫理にも焦点をあてた「二階神経倫理学の発展を論じる」。
  論文  参考訳（メタデータ） (2026-03-18T07:34:17Z)
• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• A Survey of Vibe Coding with Large Language Models [93.88284590533242]
  視覚符号化(Vibe Coding)は、開発者が成果観察を通じてAI生成の実装を検証する開発手法である。 変革の可能性にもかかわらず、この創発的パラダイムの有効性は未解明のままである。 この調査は、大規模な言語モデルによるVibe Codingの総合的かつ体系的なレビューを初めて提供する。
  論文  参考訳（メタデータ） (2025-10-14T11:26:56Z)
• Alignment and Safety in Large Language Models: Safety Mechanisms, Training Paradigms, and Emerging Challenges [47.14342587731284]
  本調査では,大規模言語モデル(LLM)アライメントにおけるアライメント手法,トレーニングプロトコル,経験的発見について概観する。 我々は多種多様なパラダイムをまたいだアライメント手法の開発を分析し、コアアライメント目標間の基本的なトレードオフを特徴づける。 我々は、直接選好最適化(DPO)、構成AI、脳インスパイアされた方法、アライメント不確実性定量化(AUQ)など、最先端技術について議論する。
  論文  参考訳（メタデータ） (2025-07-25T20:52:58Z)
• Large Language Model Psychometrics: A Systematic Review of Evaluation, Validation, and Enhancement [16.608577295968942]
  本稿は, LLM心理学の新しい学際分野について紹介し, 合成する。 心理学は人格、価値観、知性といった人間の心理学の無形側面を定量化する。 最終的にこのレビューは、人間レベルのAIに合わせて将来の評価パラダイムを開発するための実用的な洞察を提供する。
  論文  参考訳（メタデータ） (2025-05-13T05:47:51Z)
• The Convergent Ethics of AI? Analyzing Moral Foundation Priorities in Large Language Models with a Multi-Framework Approach [6.0972634521845475]
  本稿では,Reasoning and Intrinsic Moral Evaluation (PRIME)フレームワークについて紹介する。 PRIMEは、基本的な倫理的側面をまたいだ倫理的優先順位を分析するための包括的な方法論である。 我々はこのフレームワークを6つの主要な大規模言語モデル (LLM) に適用する。
  論文  参考訳（メタデータ） (2025-04-27T14:26:48Z)
• A Conceptual Framework for Ethical Evaluation of Machine Learning Systems [12.887834116390358]
  倫理的意味は、機械学習システムの評価を設計する際に現れる。 本稿では,倫理的評価における重要なトレードオフを,潜在的な倫理的害に対する情報ゲインのバランスとして特徴付けるユーティリティ・フレームワークを提案する。 我々の分析は、倫理的な複雑さを意図的に評価し、管理する開発チームにとって重要な必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-08-05T01:06:49Z)
• Inadequacies of Large Language Model Benchmarks in the Era of Generative Artificial Intelligence [5.147767778946168]
  我々は、23の最先端のLarge Language Models (LLMs)ベンチマークを批判的に評価する。 私たちの研究は、バイアス、真の推論、適応性、実装の不整合、エンジニアリングの複雑さ、多様性、文化的およびイデオロギー規範の見落としなど、重大な制限を明らかにしました。
  論文  参考訳（メタデータ） (2024-02-15T11:08:10Z)
• MR-GSM8K: A Meta-Reasoning Benchmark for Large Language Model Evaluation [60.65820977963331]
  大規模言語モデル(LLM)のための新しい評価パラダイムを導入する。 このパラダイムは、しばしば推論プロセスを無視する結果指向の評価から、より包括的な評価へと重点を移す。 GSM8Kデータセットにこのパラダイムを適用し,MR-GSM8Kベンチマークを開発した。
  論文  参考訳（メタデータ） (2023-12-28T15:49:43Z)
• Rethinking Model Evaluation as Narrowing the Socio-Technical Gap [47.632123167141245]
  モデル評価の実践は、この均質化によってもたらされる課題や責任に対処するために、重要なタスクを負わなければならない、と我々は主張する。 我々は,現実の文脈と人間の要求に基づく評価手法の開発をコミュニティに促す。
  論文  参考訳（メタデータ） (2023-06-01T00:01:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。