引言
当大型语言模型编码临床知识时会发生什么？本文将探讨LLM在医疗领域的理论应用、限制其使用的因素、LLM编码临床知识的后果、当前开源医疗LLM以及如何训练你自己的医疗LLM。继续阅读，解锁LLM在医疗领域的潜力！
LLM如何可能帮助临床任务？
增强数据解读
大型语言模型（LLMs）通过提供高级自然语言理解能力，可以显著增强临床任务。它们能够解读复杂的医学文本，如电子健康记录（EHRs）和放射学报告，提取关键信息以辅助诊断和治疗规划。
自动化医学编码
LLMs可以通过从临床叙述中准确识别和分类患者状况及程序，简化医学编码过程，从而减轻医疗专业人员的行政负担。
临床决策支持
通过分析大型数据集中的模式和趋势，LLMs可以提供基于证据的建议，协助临床医生做出明智决策。它们还能紧跟最新医学研究，实时更新临床指南。
药物相互作用检查
LLMs可以被训练通过分析患者用药清单和医学文献，理解和预测潜在的药物相互作用及禁忌症，从而提升患者安全。
分诊和症状检查
在远程医疗和远程医疗环境中，LLMs可以作为患者症状的初始评估者，提供初步诊断，并将患者引导至合适的护理级别。
限制通用LLM在医疗领域应用的原因有哪些？
专业知识需求
医学术语高度专业化且依赖上下文。通用LLM可能缺乏对医学术语和临床概念的细致理解，导致解读不准确。
数据隐私与安全顾虑
临床数据敏感且受严格监管保护。在医疗中使用LLM必须确保强大的数据加密，并遵守如HIPAA等特定医疗法规。
错误信息风险
基于多样化数据集训练的LLM可能无意中生成错误信息或过时的医疗建议，这在临床环境中可能产生严重后果。
缺乏可解释性
在医疗应用中，理解模型决策背后的推理至关重要。通用LLM通常作为“黑箱”运作，难以解释和信任其在生命危急情况下的输出。
伦理考量
LLM在医学中的使用引发了关于数据偏差、算法公平性以及对患者护理潜在意外后果的伦理问题。
计算资源密集
训练和部署大规模LLM需要大量计算资源，并非所有医疗提供者都能承担，尤其在资源受限环境中。
持续监控与更新
医学知识迅速演变，需要持续监控和更新LLM以确保其知识库保持最新。这需要专门专家团队和可持续的模型更新流程。
监管审批与验证
用于医疗的LLM必须经过严格验证，并获监管机构批准，以确保其满足医疗实践中安全性和有效性的所需标准。
是否可能训练LLM成为好医生？
论文《大型语言模型编码临床知识》的作者可能会回答：“有希望，但很复杂。”一如既往，如果你对下方学术讨论不感兴趣，只需接受此结论并跳至下一节：文章强调了 LLM在编码医学知识方面的前景，以及为确保其在临床环境中安全有效使用必须克服的重大挑战。
背景
- 大型语言模型（LLMs）在各种任务中表现出色，但其在安全性至关重要的临床环境中的有效性尚未得到充分证实。
- 作者强调需要一个全面的基准来评估这些模型在准确且安全回答医学问题方面的表现。
MultiMedQA 基准
- 研究人员推出了MultiMedQA，一个结合六个现有医学问答数据集和一个新数据集HealthSearchQA（包含常见在线搜索的医学问题）的基准。
- 该基准旨在从多个方面评估模型，包括事实性、理解、推理、潜在危害和偏差。
模型评估
- 作者评估了一个5400亿参数的LLM（PaLM）及其指令微调变体Flan-PaLM在MultiMedQA基准上的表现。
- 使用多种提示策略，Flan-PaLM在多项选择医学问题数据集上达到了最先进的准确率，包括在包含美国医学执照考试风格问题的MedQA上显著提升了17%。
人类评估框架
- 研究人员提出了一种人类评估框架，用于从多个维度评估模型答案，包括与科学共识的一致程度、潜在危害以及是否存在偏差。
- 一组临床医生评估了模型的表现，揭示了即使在高性能模型中也存在关键差距。
指令提示微调
- 为解决已识别的差距，作者引入了“指令提示微调”，一种使用少量示例使LLM更贴近医学领域的方法。
- 得到的模型Med-PaLM显示出改进的性能和安全性，但仍未达到临床医生的标准。
关键发现
- 研究发现，模型规模和指令提示微调提高了理解、知识回忆和推理能力。
- 尽管LLM显示出在医学中应用的潜力，但人类评估揭示了局限性，强调了需要稳健的评估框架和方法开发，以创建安全且有用的临床LLM。
局限性与未来工作
- 作者承认MultiMedQA虽然多样化，但并非详尽无遗，计划扩展以涵盖更多医学和科学领域以及多语言评估。
- 他们还概述了LLM需要基于权威医学来源进行响应、检测和传达不确定性、以多种语言响应以及更好地符合医疗安全要求。
- 改进人类评估方法并考虑在医疗中使用LLM的公平性和公正性被强调为重要的未来研究方向。
是否有我可以使用的开源医疗LLM？
- Med_Gemini-[2D,3D,Polygenic]：增强Gemini的多模态医学功能
- BioBERT：专为生物医学文本挖掘任务设计的生物医学语言表示模型
- BioMistral：一个针对生物医学领域的开源LLM，使用Mistral作为基础模型并在PubMed Central上进一步预训练
- MEDITRON-70B：一套包含7B和70B参数、适应医学领域的开源LLM
- PMC-LLaMA：一个专门为医学应用设计的强大开源语言模型
- MEDALPACA：一个开源的医学对话AI模型和训练数据集合
- BioMedLM-PubMedGPT：一个27亿参数的GPT风格自回归模型，仅基于PubMed摘要和全文文章训练
- Med-PaLM：来自Google Research的、专为医学领域设计的大型语言模型
- PubMedBERT：一个专门为生物医学自然语言处理任务预训练的语言模型
如何训练自己的医疗LLM？
训练一个精通医疗的LLM需要一种协同方法，将LLM API的基础优势与专门的领域知识和严格的数据科学实践相结合。简而言之，需要让大型语言模型编码临床知识。阅读这些指南后，你将大致了解如果你想训练自己的医疗LLM需要经历哪些步骤。
第一步：利用现有LLM API进行原型开发
首先使用成熟的LLM API来原型开发和基准测试你的医学语言处理任务。像 Novita AI 提供的LLM API可以访问已在大量语料上预训练的模型，这些模型可以通过进一步微调适应专业领域。
在集成API之前，Novita AI还允许你查看可用LLM的性能，从而决定哪些模型符合你对自有医疗LLM的期望。
第二步：全面的领域理解
获取对医学领域的全面理解，包括掌握临床术语、诊断程序以及管理医疗数据的监管环境。这些专业知识对于策展一个相关且足够丰富的数据集以训练称职的医疗LLM不可或缺。
第三步：严格的数据策展与标注
从多样且具有代表性的医学文献、去标识化的电子健康记录（EHRs）和临床叙述中获取数据。实施严格的数据预处理步骤，包括分词、词性标注和实体识别，以结构化数据用于模型训练。标注应由领域专家执行，确保数据集准确标记以用于监督学习任务。
第四步：在医学数据集上进行定制预训练
使用LLM API提供的基础架构作为起点。随后，通过进一步在策展的医学数据集上 conditioning 模型，进行领域特定的预训练阶段。这个过程称为领域自适应预训练（DAPT），有助于模型获取医学术语和临床推理技能。
第五步：使用专门数据进行微调
利用LLM API的微调能力，使模型适应特定医学任务，如诊断预测、治疗推荐或从放射学报告中提取信息。使用任务特定数据集进行微调，增强了模型提供准确且上下文相关响应的能力。
第六步：模型评估与超参数优化
实施一系列定量评估，包括精确率、召回率、F1分数和受试者工作特征（ROC）分析，以评估模型性能。使用网格搜索或贝叶斯优化等技术进行超参数优化，以增强模型的预测准确性和泛化能力。
第七步：持续模型优化与知识更新
建立持续学习和模型更新的协议，以纳入最新的医学见解和研究发现。这确保模型的知识库保持最新和相关性，适应不断变化的医学环境。
第八步：处理伦理与合规问题
确保训练过程符合伦理标准并遵守医疗法规，如《健康保险便携性与责任法案》（HIPAA）。实施强大的数据保护措施，并在模型决策中保持透明度，以维护患者隐私和信任。
结论
当我们完成对LLM在临床任务中的探索时，很明显，尽管该技术具有巨大潜力，但也并非没有挑战。本文揭示了LLM可以创新性地协助各种医疗任务的方式，从自动化医学编码到分诊和症状检查。然而，将这些模型整合到临床实践中的道路布满了障碍，例如专业知识需求、数据隐私问题以及持续监控和监管批准的必要性。
在医疗领域充分发挥大型语言模型（LLMs）的潜力是一项协作努力，需要汇集智慧和专业知识。无论你是选择深入研究现有的医疗LLM框架，还是着手打造一个满足自身需求的定制模型，这段旅程既令人兴奋又充满回报。拥抱集体智慧的协同效应，解锁LLM在医疗领域的变革能力。
Novita AI，为无限创意提供的一站式平台，可访问100+ API。从图像生成和语言处理到音频增强和视频操作，按量付费价格低廉，让你在构建自己的产品时摆脱GPU维护的烦恼。免费试用。
