npj Digit. Med.｜AI越强大，为什么越需要生物信息学专家？

随着大语言模型、蛋白结构预测模型和多智能体系统快速发展，AI正在进入生物信息学工作的核心环节。如今，大语言模型可以根据自然语言指令生成RNA-seq分析脚本、完成变异注释、撰写差异表达分析解释，甚至组织多步骤分析流程。由此产生了一个很自然的疑问：如果AI可以写代码、跑流程、读文献、生成假设，那么生物信息学专家还剩下什么价值？作者给出的回答是：几乎所有真正重要的事情仍然离不开专家。AI可以生成代码，但它并不知道所选参考基因组是否合适；AI可以运行GWAS分析流程，但它无法判断群体结构校正是否足以支撑结论；AI可以输出看似完整的生物学解释，但它不能自行验证这些解释是否具有真实生物意义。没有专家参与，AI并不是在民主化科学，而是在民主化“看起来像科学”的输出。

文章将当前生物医学AI大致分为三类：第一类是大语言模型和生成式AI，如GPT、Gemini等，能够生成文本、代码和结构化输出；第二类是任务特定性深度学习模型，如AlphaFold2和AlphaFold3，依赖高质量领域数据解决特定预测问题；第三类是智能体和混合系统，如Virtual Lab，可组织多个AI组件、工具和推理步骤完成复杂科学任务。不同AI系统能力不同，失败模式也不同，但共同点在于：它们都需要专家为其定义问题、选择数据、设计验证、解释结果并识别错误。

生物信息学专家首先需要完成一个技术角色转变：从“AI消费者”转向“AI custodian”，即AI守门人。过去，生信专家的主要工作可能是亲自编写脚本、运行流程和整理结果；现在，AI可以加速这些操作性任务，但专家必须对输出是否正确、可重复和具有生物学意义负责。

提示词工程是一个典型例子。相同模型在不同提示词下，可能输出从生物学上合理到完全荒谬的不同结果。文中引用研究指出，在相同生物学任务中，不同提示词设计可导致模型表现相差20至40个百分点。链式思维提示和少样本提示确实能提高模型在复杂生物学推理任务中的表现，但前提是提示词由懂得“什么是好的生物学推理”的专家设计。否则，提示词只是在形式上让模型更像会思考，而不能保证结果更可靠。

因此，作者建议将面向具体生物信息学任务的提示词库视为“活的方法学资产”。例如，针对变异注释摘要、差异表达解释、方法学撰写、文献综合和图注生成等常见任务，建立经专家设计、版本控制、系统测试和持续更新的提示词库，本身就可以成为可复用、可引用的AI辅助科研基础设施。

更进一步，多智能体系统正在让AI从“回答问题”走向“组织流程”。文章提到Virtual Lab作为代表案例：人类研究者定义高层科学目标，由多个专长不同的LLM智能体协作，结合ESM、AlphaFold-Multimer和Rosetta等工具，设计并验证SARS-CoV-2纳米抗体候选物。这样的系统并不只是写提示词，而需要专家设计智能体角色、检查点、验证流程和错误拦截机制。能完成这些工作的生信专家，实际上已经在扮演AI工程师与科学架构师的角色。

AI可以自动化大量日常任务，包括文档整理、协议起草、代码生成、质控脚本、变异注释和结果格式化。这些能力真正有价值，但前提是专家知道什么任务可以被视为“常规”，哪些参数可以自动化，什么情况必须停下来人工审查。

文章以GWAS分析为例。AI可以生成质控、群体分层校正和结果可视化代码，但它无法自行判断特定队列和平台应该采用什么质控阈值，也无法判断某个意外关联是否由连锁不平衡、批次效应或群体结构造成。历史上，群体结构校正不足曾造成假阳性关联进入文献，并导致后续更正或撤稿。如果AI在没有专家验证的情况下大规模生成GWAS流程，这类风险只会被放大。

正确的理解方式是：AI自动化不应替代科学判断，而应释放科学判断。脚本、调试和格式化不再占据大量注意力后，生信专家应把时间投入实验设计、生物学解释、方法验证和更有挑战性的问题提出。作者建议，研究者可以识别自己工作中最耗时的三个常规任务，为其配置AI辅助，并记录验证参数和节省时间的去向。如果节省的时间只是被新的琐碎工作填满，那么AI并没有真正提升科学价值。

AI系统的表现并不只由模型架构决定，数据质量、数据策划和生物学相关性同样重要，甚至更加重要。一个训练在偏倚、错误标注或生物学信息不足数据上的模型，无论架构多先进，都会输出偏倚或无意义结果。大语言模型还会以更加自信、更加流畅的形式输出这些错误，使非专业用户更难识别。

作者以AI药物发现为例指出，改进分子表示、数据质量、数据规模和数据组成，有时比更换更复杂的深度学习架构更能提高准确性和可解释性。一项系统综述显示，当训练集中的已知数据质量问题被清理后，一些原本归因于模型架构的性能提升会消失。这说明专家驱动的数据整理，而非算法复杂性本身，往往才是AI性能提升的关键来源。

因此，数据工作不应被视为行政性或辅助性工作。元数据标准、术语本体对齐、数据来源追踪、批次效应识别、标签噪声审查和系统偏倚审计，都是可信AI的基础。文章建议，在任何AI辅助分析前，都应进行结构化数据审计，检查批次效应、类别不平衡、缺失元数据和注释不一致，并将审计记录写入方法部分。这正是严谨分析与“把质量控制外包给模型”的区别。

在生物医学研究和临床应用中，模型不可解释不仅是技术问题，更是科学和临床风险。一个能够预测药物反应、识别疾病亚型或排序基因变异的模型，如果不能解释其依据，就很难被验证、质疑和进一步建立科学结论。

当前常用的可解释AI方法，如注意力图、SHAP值和特征重要性评分，都存在稳定性和解释真实性问题。它们可能受运行条件和实现细节影响，也可能只是对模型行为的事后合理化。作者并不认为AI无用，强调这些方法只能作为专家调查的起点，而不能作为最终解释。

例如，一个基因表达分类器如果给出重要特征，专家需要判断这些基因是否真正与表型机制相关，还是仅仅关联了批次效应或管家基因表达模式。一个模型在内部测试集表现良好，也可能在外部队列上完全失败。不确定性量化是一个被低估的安全机制。与其只给出看似精确的点预测，模型更应报告置信区间，并提示输入是否超出训练分布。这样的系统更接近科学和临床实践的需求。

AI时代最重要的问题不是谁能运行分析，而是谁能判断分析是否正确。这个问题在多模态数据整合中尤其突出。现代生物医学研究往往需要同时整合基因组、转录组、蛋白组、影像、电子病历和纵向临床信息。每类数据都有不同尺度、噪声结构、测量逻辑和生物学含义，通用AI工具很难独立处理其中的语境差异。当一个联合模型从基因组和临床数据中识别出疾病亚型时，第一个问题不应只是聚类是否稳定，而应是这些亚型是否具有真实生物机制，是否与临床结局相关，驱动分群的特征是生物信号还是技术伪影。回答这些问题，需要长期工作在数据科学与生命科学交界处的综合判断能力。

作者还指出，技术群体和临床/生命科学群体常使用不同语言描述同一数据。机器学习中的“特征”和临床中的“生物标志物”可能指向同一测量值，但两者承载的假设完全不同：前者关注建模输入，后者还涉及测量来源、验证方式和是否能支持医疗决策。生信专家正是连接这些语言体系的关键角色。

在高复杂度应用中，浅层使用AI尤其危险。以AlphaFold3为例，结构预测工具极其强大，但预测结果的科学价值取决于专家如何解释。哪些蛋白家族预测可信度较低？置信分数在无序区域中应如何理解？预测结构应如何用于指导突变实验，而不是仅仅生成漂亮图像？这些问题不是模型自动回答的，而是专家必须带入分析中的。

AI在生物医学中的风险不只是某一次分析会出错，而是错误工具可能在缺乏验证的情况下，被机构规模化部署到研究和临床流程中。防止这种情况，需要懂技术、懂生物医学场景、懂实施路径和监管要求的人参与领导。

许多生物信息学工具停留在论文中，并不是因为它们不工作，而是因为没有人处理现实部署条件：互操作性、用户体验、文档、使用者培训、监管匹配和后续更新。比如，一个心血管疾病多基因风险评分在研究队列中表现良好，并不意味着它可以直接进入临床。真正部署前，还需要接入电子病历系统，培训临床医生解释结果，在目标人群中验证，并设计随证据更新的维护流程。这些都不是原始模型性能指标能解决的问题。

生物医学AI的伦理风险本质上也是科学风险。一个主要在某一人口群体上训练的诊断模型，可能在其他群体中系统性失效；一个基于历史病历训练的临床NLP系统，可能继承历史医疗语言中的偏见；一个基因组风险模型若用于与训练队列祖源、环境和疾病流行情况不同的人群，可能给出自信但错误的预测。文中提到一个广为讨论的商业医疗算法案例：该算法使用医疗花费作为健康需求代理变量，导致对黑人患者健康需求的系统性低估。问题并非算法没有优化，而是训练目标本身编码了现实中的不平等。

因此，作者建议将偏倚审计纳入临床和群体健康AI模型的常规流程，按祖源、年龄、性别和社会经济指标分层报告性能。如果模型在某一亚群表现不足，应明确记录为限制，并视为待解决的科学问题。自2024年以来，临床AI监管环境已发生重要变化。欧盟AI法案于2024年8月生效，将医疗器械和临床决策支持中的AI系统归为高风险类别，要求符合性评估、透明度、人类监督和部署后监测。对于参与AI临床转化的生信专家而言，理解监管要求已经成为实际工作能力的一部分。

这篇文章试图纠正一个常见误解：AI时代的问题不是“AI会替代多少专家工作”，而是“谁有能力让AI输出真正成为科学知识”。AI确实能够加速发现，帮助研究者从海量数据中识别模式、从文献中提出候选假设，并缩短原始数据到可解释结果之间的距离。但加速并不等于验证。要让AI输出变成有效、可重复、可解释和可临床行动的发现，仍然需要专家在分析设计、数据整理、结果解释和错误识别的每个环节介入。

作者将生物信息学专家的未来角色概括为三重转变：从AI工具使用者到技术守门人，从流程执行者到复杂发现的开拓者，从科研贡献者到机构AI架构师。这些转变不是对威胁的被动适应，而是AI真正发挥作用所必需的条件。

因此，生物信息学职业并没有走向过时，而是被AI提出了一个更清晰的问题：你是否足够理解自己正在做的科学，能够判断机器何时正确，何时只是看起来正确？在未来十年的研究与医学中，决定生信专家价值的，可能不再是掌握某一个具体工具，而是能否成为AI背后的科学判断者、质量把关者和治理设计者。