論文の概要: Alignment Plausibility: A New Standard for Assuring AI in Healthcare
- arxiv url: http://arxiv.org/abs/2607.07766v1
- Date: Wed, 08 Jul 2026 15:39:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-10 14:45:27.294206
- Title: Alignment Plausibility: A New Standard for Assuring AI in Healthcare
- Title（参考訳）: アライメントの可視性: 医療におけるAIの保証のための新しい標準
- Abstract要約: 大規模言語モデル(LLM)を構造的に安全なものにするには、社会が人間の臨床実践の安全性をいかに保証するかを反映した3段階のアライメントが必要である、と我々は主張する。
このようなアライメントの組織化は、アライメントの可視性(construction plausibility)という構造を生み出します。
- 参考スコア（独自算出の注目度）: 0.07646713951724009
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) have become significant providers of mental health support, yet they remain products of an attention economy whose operational and commercial targets favour sustained engagement over the friction that effective psychological support often requires. Developers' safety responses have been largely reactive, addressing the most visible and acute harms while subtler, longer-term patterns of risk (e.g., dependency, boundary erosion, the amplification of distorted beliefs) receive less attention. We contend that making LLMs structurally safe requires alignment organised at three levels that mirror how society assures the safety of human clinical practice: 1) explicit value specification grounded in the codified normative commitments of clinical practice; 2) training that embeds those values in the model; and 3) oversight that detects drift and longer-term harm during deployment, much as clinical supervision does for human practice. Organising alignment in this way yields a construct we call alignment plausibility - a structured demonstration that a system's values, training regime, and oversight mechanisms are together consistent with safe and positive outcomes. We propose alignment plausibility as a regulatory construct (by drawing analogy to the established construct of biological plausibility) for AI in health: a principled way to argue for, or against, trust that systems are aligned to positive health outcomes, will cause no harm even where capable of doing so, and will ultimately lead to patient benefit.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、メンタルヘルスサポートの重要な提供者となっているが、効果的な心理的サポートが要求される摩擦に対して、運用的および商業的ターゲットが持続的なエンゲージメントを好む注意経済の産物である。
開発者の安全性の反応は概ねリアクティブであり、最も目立たしく急性的な害に対処する一方で、より微妙で長期的なリスクパターン(依存性、境界侵食、歪んだ信念の増幅など)には注意が払われていない。
我々は、LLMを構造的に安全にするためには、社会が人間の臨床実践の安全をいかに保証するかを反映する3つのレベルで組織されたアライメントが必要であると論じる。
1) 臨床実習の規範的コミットメントの定式化に基づく明示的価値明細書
2) これらの値をモデルに組み込んだトレーニング,及び
3)ヒトの実践における臨床監督と同様に,展開中のドリフトや長期的危害を検出する監視。
このようなアライメントの組織化は、アライメントの可視性(construction plausibility)という構造を生み出します。
我々は、健康におけるAIの規制的構成として、アライメントの可否性(生物的可否性の確立された構成に類似して)を提案する。
関連論文リスト
- Mirror: A Multi-Agent System for AI-Assisted Ethics Review [104.3684024153469]
MirrorはAIによる倫理的レビューのためのエージェントフレームワークである。
倫理的推論、構造化された規則解釈、統合されたアーキテクチャ内でのマルチエージェントの議論を統合する。
論文 参考訳（メタデータ） (2026-02-09T03:38:55Z) - The Doctor Will (Still) See You Now: On the Structural Limits of Agentic AI in Healthcare [18.202521625229732]
我々は、開発者、実装者、エンドユーザーを含む20人の利害関係者へのインタビューに基づく質的研究を提示する。
エージェントの定義に関する概念的断片化」という3つの相互強化的緊張について分析した。
我々はエージェントAIが、技術的願望、商業的インセンティブ、臨床的制約が交わる、争われた意味作りの場として機能すると主張している。
論文 参考訳（メタデータ） (2026-02-06T02:53:40Z) - Single-Pixel Vision-Language Model for Intrinsic Privacy-Preserving Behavioral Intelligence [55.512671026669516]
安全な環境モニタリングを再現する新しいフレームワークSP-VLM(Single-Pixel Vision-Language Model)を提案する。
それは本質的に低次元の1ピクセルのモダリティを通して人間のダイナミクスを捉えることによって、固有のプライバシ・バイ・デザインを実現する。
いずれにせよ,SP-VLMは意味ある行動意味を抽出し,ロバストな異常検出,数え方,行動理解を可能にしている。
論文 参考訳（メタデータ） (2026-01-21T09:11:26Z) - Benchmarking Egocentric Clinical Intent Understanding Capability for Medical Multimodal Large Language Models [48.95516224614331]
MedGaze-Benchは、臨床医の視線を認知的カーソルとして活用し、手術、緊急シミュレーション、診断解釈における意図的理解を評価する最初のベンチマークである。
本ベンチマークでは,解剖学的構造の視覚的均一性,臨床における時間・因果依存性の厳格化,安全プロトコルへの暗黙の順守という3つの基本的な課題に対処する。
論文 参考訳（メタデータ） (2026-01-11T02:20:40Z) - PsychEthicsBench: Evaluating Large Language Models Against Australian Mental Health Ethics [35.52940216380734]
メンタルヘルスでは、臨床的に不十分な拒絶は非共感的であり、助けを探すのを妨げていると見なすことができる。
このギャップに対処するため、私たちは拒絶中心のメトリクスを超えて、オーストラリアの心理学と精神医学のガイドラインに基づいた最初の原則に基づくベンチマークであるtextttPsychEthicsBenchを導入しました。
14モデルにわたる実証的な結果から、拒絶率は倫理的行動の指標に乏しいことが判明し、安全性の引き金と臨床的適切性の間に大きな違いがあることが判明した。
論文 参考訳（メタデータ） (2026-01-07T04:49:02Z) - LatentGuard: Controllable Latent Steering for Robust Refusal of Attacks and Reliable Response Generation [4.29885665563186]
LATENTGUARDは、行動アライメントと教師付き潜在空間制御を組み合わせて、解釈可能で正確な安全操縦を行うフレームワークである。
本研究は, 実用性を損なうことなく, 安全性制御性と応答解釈性の両方を向上することを示す。
論文 参考訳（メタデータ） (2025-09-24T07:31:54Z) - Beyond Benchmarks: Dynamic, Automatic And Systematic Red-Teaming Agents For Trustworthy Medical Language Models [87.66870367661342]
大規模言語モデル(LLM)は、医療におけるAIアプリケーションで使用される。
LLMを継続的にストレステストするレッドチームフレームワークは、4つのセーフティクリティカルなドメインで重大な弱点を明らかにすることができる。
敵エージェントのスイートは、自律的に変化するテストケースに適用され、安全でないトリガー戦略を特定し、評価する。
私たちのフレームワークは、進化可能でスケーラブルで信頼性の高い、次世代の医療AIのセーフガードを提供します。
論文 参考訳（メタデータ） (2025-07-30T08:44:22Z) - Does Representation Intervention Really Identify Desired Concepts and Elicit Alignment? [73.80382983108997]
表現の介入(Representation intervention)は、大規模言語モデルにおいて基礎となる概念を符号化する表現の発見と修正を目的としている。
介入が忠実であれば、介入されたLLMは有害な概念を消去し、非分配的敵のプロンプトとアウト・オブ・ディストリビューションのジェイルブレイクの両方に対して堅牢であるべきである。
本研究では,有害表現と良性表現の境界を簡易化する概念集中(COCA)を提案する。
論文 参考訳（メタデータ） (2025-05-24T12:23:52Z) - Context Reasoner: Incentivizing Reasoning Capability for Contextualized Privacy and Safety Compliance via Reinforcement Learning [53.92712851223158]
安全とプライバシの問題を文脈整合性(CI)理論に従って文脈整合性問題に定式化する。
CIフレームワークの下では、当社のモデルを3つの重要な規制基準 – EU AI ActとHIPAA – に整合させています。
我々は、安全・プライバシー基準の遵守を高めつつ、文脈推論能力を高めるためにルールベースの報酬を持つ強化学習(RL)を採用している。
論文 参考訳（メタデータ） (2025-05-20T16:40:09Z) - Position: Beyond Assistance - Reimagining LLMs as Ethical and Adaptive Co-Creators in Mental Health Care [9.30684296057698]
このポジションペーパーは、大規模言語モデル(LLM)がメンタルヘルスドメインにどのように統合されるか、という変化を論じている。
我々は、単なる補助ツールではなく、共同創造者としての役割を主張する。
論文 参考訳（メタデータ） (2025-02-21T21:41:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。