美国国防部采办中的ChatGPT：高级语言模型的机遇和风险

随着人工智能的不断进步，像 ChatGPT 这样的大型语言模型有可能彻底改变国防采购和合同签订的方式。由于语言模型能够生成类似人类的文本，因此可以自动完成采购中的许多重复而耗时的任务，如文件准备、研究和沟通。与任何新技术一样，国防工业采用大型语言模型也存在相关风险。这些风险包括潜在的安全漏洞、决策偏差和意外后果。在本文中，我们将探讨在国防采购和合同签订中使用 ChatGPT 等高级语言模型所带来的机遇和风险。

ChatGPT 是一种人工智能语言模型，是一种根据用户输入生成文本的计算机程序。虽然有许多语言模型，但 ChatGPT 因其能够准确生成类似人类的文本而在最近受到最多关注。ChatGPT 由 OpenAI 开发，OpenAI 是一家致力于创建和推广友好人工智能的研究机构。OpenAI 使用一种名为 "从人类反馈中强化学习 "的人工智能技术对模型进行了训练。训练过程包括向计算机程序输入大量数据，然后向程序提供反馈和调整，以提高其性能。据估计，ChatGPT 在超过 3000 亿字的大量文本上进行了训练。

ChatGPT 能够理解并生成连贯、有意义的文本，这使它成为一款广受欢迎的工具，在 2022 年 11 月发布后的短短一周内就吸引了 100 多万用户。据估计，到今年 1 月，它的月活跃用户已达 1 亿，成为历史上增长最快的消费者应用程序。

大多数用户通过网络浏览器上简单自由的文本提示访问 ChatGPT，而微软等公司已经开始将人工智能集成到其软件服务中。微软最近宣布对 OpenAI 进行为期多年、价值数十亿美元的投资，并将在必应搜索引擎和 Microsoft Teams 等消费者和企业产品中部署 ChatGPT 模型。这项投资估计价值超过 100 亿美元，凸显了对高级语言模型日益增长的需求。

高级语言模型的工作原理

像 ChatGPT 这样的高级语言模型是利用复杂的人工智能计算机编程技术开发出来的。开发人员将大量文本数据输入计算机程序，由程序对信息进行分析和处理。数据来源多种多样，如书籍、文章和网页。计算机程序的输出是另一种称为语言模型的计算机程序，它能够理解和生成人类文本。

然后，数据科学家和工程师团队通过一个称为训练和微调的过程对模型进行调整。他们会调整数据和模型用于计算的参数，使其能够对新的文本数据做出越来越准确的预测或决策。他们会重复这个过程数百万次，直到它能高概率地准确预测下一个单词。一旦模型经过训练和微调，就可以用来执行各种语言任务。例如，它可用于生成连贯、逼真的文本，回答问题，以及总结大量文本。

机遇和用例

虽然 ChatGPT 目前在语言模型领域处于行业领先地位，但其他公司也在迎头赶上。在不久的将来，我们将有更多机会接触到这些语言模型，并与许多我们已经熟悉的软件工具进行更多整合。随着语言模型变得越来越先进，它们也将可以根据特定的风格、流派和领域（如国防部的采购）进行定制。有人猜测，语言模型将成为 "写作的计算器"。他们预测，就像我们今天依靠计算器完成大部分数学计算一样，未来我们也将依靠语言模型完成大部分写作。

作者最近调查了一组采购官员，以收集他们对如何在国防采购中使用语言模型的看法。事实证明，他们的反馈很有参考价值，分享了一些值得注意的见解。例如，一些人表示有兴趣将人工智能或 ChatGPT 整合到合同撰写系统中，以帮助起草履约工作说明书或撰写需求。还有人认为 ChatGPT 可以帮助进行市场调研，找出创新的解决方案来弥补能力上的差距。提到的另一个潜在应用是利用 ChatGPT 的分析能力来制定现实可行的要求和标准，以便选择供应商。此外，一些人还建议使用 ChatGPT 来协助撰写标准表格，包括单一采购管理计划和测试评估总计划，以及帮助外国供应商浏览 SAM.gov 和采购集成企业环境等系统。

值得注意的是，一些采购专业人员已经在利用 ChatGPT 来提高他们的工作效率，尽管不是出于官方目的。他们将其用于个人项目、研究和创意生成。一位官员使用 ChatGPT 查找了政府问责局最近的报告，并将技术语言简化为更易于理解的术语。另一位官员使用 ChatGPT 为一个潜在的原型项目创建了一份概念性的目标声明，他们发现这非常有用。一位官员的配偶甚至用 ChatGPT 撰写了她的简历，结果比她的伴侣写的还要好。最后，许多人对 ChatGPT 简单高效、快速准确的回答表示赞赏。

作者就曾使用 ChatGPT 协助撰写过类似这样的文章、给员工的节日祝福、促销演讲、社交媒体文章、慰问卡、给妻子的情书，甚至是一本书。这为作者节省了数百个小时的时间，并带来了比自己所能完成的更好的产品。作者的亲身经历和前面的评论都突出表明，ChatGPT 和类似的语言模型在改变国防知识获取中的写作本质方面具有巨大的潜力。

图变革现实：随着人工智能的发展，像 ChatGPT 这样的语言模型将通过自动化重复而耗时的任务，彻底改变国防采购和合同签订。(图片由作者提供）

风险

尽管存在潜在的机遇和用例，但在国防采购和承包中采用大型语言模型也存在相关风险。第一个主要风险是机密或敏感信息的处理，因为语言模型不是为保护受控或机密数据而专门设计或测试的。这可能导致安全漏洞或传播不准确的信息。

如果语言模型用于生成政府文件，那么审查有关记录保留法的现行政策也很重要。这些政策规定了某些类型的记录应保留多长时间。语言模型的使用可能会改变文档的创建和存储方式，从而可能影响对这些政策的遵守。

语言模型还可能生成包含偏见、不准确或其他错误的文本，从而损害政府的公信力或完整性。因此，语言模型生成的任何文本在使用前都必须经过仔细审查和验证。因此，网络安全政策通常会阻止对 ChatGPT 和类似语言模型的访问，从而减缓了其在国防工业中的应用。不过，一些公司正在研究专门为政府团队定制语言模型，利用大量政府相关数据对模型进行微调。尽管 ChatGPT 仍处于早期开发阶段，但将其集成到 Office 365 和 Microsoft Teams 等微软产品中很可能是许多政府用户第一次接触语言模型。

在政府办公室之外，行业合作伙伴对语言模型的广泛采用有望提高他们在项目管理和合同运作方面的效率。使用语言模型可以大大提高行政任务的速度和效率，如起草会议记录和提交合同提案。信息收集和建议书撰写的自动化有助于为小企业和非传统承包商创造公平的竞争环境，因为他们可能不具备与大型承包商相同的资源。

语言模式可以使供应商更容易响应政府招标，从而增加投标数量，促进竞争。政府收到的招标数量增加，可能会使本来就人手不足的承包商队伍不堪重负。因此，政府必须开始考虑如何有效管理可能涌入的大量提案，并确保评估过程保持公平和彻底。

报价人使用语言模型也会在合同签订过程中产生一些风险。报价人可以使用语言模型来优化对政府要求的回应，增加赢得合同的机会，从而使使用语言模型的供应商获得优势。这可能导致合同授予拥有最佳人工智能模型的报价人，而不是那些为政府提供最佳价值的报价人。

为了应对这些风险，我们的合同专业人员需要充分了解语言模型是如何编译和呈现信息的。他们还需要使用相同的语言模型技术来协助市场调研、总结冗长的投标书或识别风险领域。随着报价人在答复过程中变得更加高效，我们的合同专业人员将需要充分利用资源，以保持同等水平的效率。

结论

大型语言模型有可能提高包括政府部门在内的各行各业的效率和生产力。虽然这些模型在政府部门的广泛应用可能会落后于商业部门，但行业合作伙伴很可能会首先采用该技术，并将其用于协助撰写建议书和合同流程，从而使报价人更容易响应政府招标，并为小型企业和非传统供应商创造公平的竞争环境。对于采购专业人员来说，重要的是要考虑其中的机遇和风险，并以负责任和安全的方式使用该技术。

参考来源：美国陆军采办支持中心

专知便捷查看

请关注专知智能防务公众号（点击上方关注）

更多相关内容请上专知查阅，左下角点击“阅读原文”查看

欢迎微信扫一扫加专知助手，咨询服务：资料定制、知识库分发系统

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取100000+AI(AI与军事、医药、公安等)主题干货知识资料！

点击“阅读原文”，了解使用专知，查看获取100000+AI主题知识资料