社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Python

“相比写Python,我的工程师更愿意造Agent”,黄仁勋最新26分钟对话:未来公司将建立在Harness之上

Python开发者 • 3 天前 • 36 次点击  

转自:CSDN(ID:CSDNnews)

当你需要增强自己的智能时,别指望给第三方打个电话解决,而应该在公司内部完成。

这是黄仁勋最近抛出的一个新观点。

在与 LangChain CEO、联合创始人 Harrison Chase 的一场对话中,这位英伟达 CEO 几乎没有聊 GPU,也没有谈下一代芯片,而是把整个话题都聚焦到了 Agent 上。

在他看来,大模型正逐渐成为基础设施,真正拉开企业差距的,将是围绕模型构建的 Agent 系统,以及企业沉淀其中的专有知识和工作流。未来,公司竞争的不再是谁拥有更大的模型,而是谁拥有更强的”超级智能体”。

这场时长 26 分钟的对话信息密度极高。黄仁勋谈到了为什么开放生态比封闭生态更重要、开源模型为何正在逼近前沿模型、企业为什么应该从最强模型开始,再逐步打造自己的专业化智能体,也分享了他对未来 AI 软件形态的判断。其中包括:

  • 开源权重模型已接近前沿模型性能,但成本只有后者的十分之一;

  • 我总是先使用最前沿的模型,因为它能告诉我能力的天花板,然后再打造属于自己的专业化智能体;

  • 今天的公司建立在业务流程之上,未来将建立在 Harness 之上;

  • 当企业需要增强自己的智能时,核心能力不能外包,而要掌握在自己手中;

  • 相比写 Python,英伟达工程师如今更愿意构建 Agent。

完整视频地址:https://www.youtube.com/watch?v=Yy3JH6dDugc


英伟达为什么要投资开放的 Agent 生态系统?

Harrison Chase:很高兴能在这里和你交流。在过去一年,特别是最近几个月里,AI 和智能体(Agent)领域取得了巨大进展。我们看到了性能的显著提升,与此同时,这些模型和系统的开放性、可控性以及信任度也变得越来越重要。

我想先请教一下,为什么 NVIDIA 正在大力投资开放的智能体生态系统和技术栈?

黄仁勋:首先,我要祝贺你们所做的一切工作。事实上,回顾过去六个月,尽管我们已经在 AI 领域耕耘了 15 年,但最近这半年改变了一切。

大语言模型的进步、算力规模的扩展、全能模型(Omni-models)以及多模态技术的突破都令人叹为观止。最重要的是,AI 终于变得实用了。当 AI 变得实用时,全球的每一家企业都想参与其中,而核心问题在于如何实现。

这就是 LangChain 发挥作用的地方。此前你坚定认为,大语言模型是核心驱动力,但要将其转化为实用的产品,必须在其周围构建一套现在被称为 Harness 的系统。

在早期,我们就利用 LangChain 将大语言模型转化为可调用的 API,构建我们的 RAG(检索增强生成)系统。通过这些一步步的积累,演变成了今天的智能体系统。过去六个月真正的重大突破,是这些基于知识、能够使用工具进行搜索、具备记忆管理能力、拥有安全护栏并能持续迭代直到完成任务的智能体系统。

NVIDIA 致力于构建开放系统已有多年。因为 AI 是一项基础技术,只有应用到各种不同的场景中才能发挥价值。除了语言和认知智能,我们还设想了一个由科学家、数字生物学家、设计者、机器人专家、研究员以及企业 IT 人员共同使用的世界,大家都可以利用智能体 AI 来解决特定领域的问题。

在这些场景中,有些是因为我们拥有不为外界所知的专业领域知识,必须将其融入 AI 中;有些是因为我们相信 AI 会通过“飞轮效应”变得更强大——我们使用它,它变得更聪明、更实用,从而引导我们更多地使用它。就像人类一样,AI 也在不断学习。

虽然 Anthropic、OpenAI 和 Google 的工作非常出色,但人们还想要构建专业化的、特定领域的以及专有的 AI。我们希望能够赋能这样一个世界的实现。

Harrison Chase:关于专业化这一点,你认为最佳的实现路径是什么?是纯粹依靠模型本身,还是依靠你提到的 Harness 系统,亦或是外部的上下文信息?

黄仁勋:专业化首先需要足够强大的基础智能。这就是我们开发 Nemotron 的原因。Harrison,我也非常感谢你能成为 Nemotron 联盟的创始成员。我们开发的 Nemotron-3-Ultra 性能非常出色。

但是,只有当你用 LangChain 框架和 Harness 系统将 Nemotron-3-Ultra 包裹起来,使其能够锚定在特定领域的专业信息上时,它才真正成为一个惊人的模型。一个聪明的人只有在能够获取关键信息时才最有用。我们甚至可以在 LangChain 的 Harness 系统中对模型进行后期训练,让模型更擅长利用周围的系统组件。这个时机已经成熟了,我们需要一个开放的 Harness 系统,让大家可以自行构建、应用并持续改进。


开源权重模型达到了前沿模型的性能

Harrison Chase:我非常赞同关于“模型足够强大”的观点。我认为这个门槛在一年前由前沿模型跨越,而大约六个月前,开源权重模型也跨越了这一门槛。

我们在 DeepAgents 中对 Nemotron-3-Ultra 做了很多工作,其中一个关键点就是调整 Harness 系统以适配该模型。我们发现不同的模型需要不同的提示词和工具调用方式。通过这种优化,Nemotron-3-Ultra 在我们的内部基准测试中达到了 86% 的准确率。作为对比,Claude Opus 是 87%,而 DeepSeek 和 MiniMax 的一些模型大约在 82% 到 83% 之间。这说明最新的开源权重模型已经达到了前沿性能。

更重要的一点是,它的成本只有 Opus 的十分之一。开源权重模型正在性能与成本之间取得极佳的平衡。

我很想听听你对“成本”如何改变开发者决策的看法。

黄仁勋:降低成本的优势体现在几个方面。首先,当智能变得廉价时,人们的使用频率就会大幅增加。当你拥有一个成本极低的智能体时,你就可以在更大的搜索空间内进行迭代,从而得到更好的答案。

Nemotron 之所以具有成本效益,是因为它非常快,计算效率极高。就像人一样,思维敏捷的人可以探索更多的可能性。Nemotron-3-Ultra 在 LangChain 框架和 DeepAgents 中的表现证明,极快的推理速度让它能迅速迭代并找到更优解。看到我们能创造出一个接近前沿水平的模型,并通过优化周围的环境使其发挥出前沿性能,我感到非常自豪。

对于人类来说也是如此。我们雇佣最聪明的人,但除此之外,我们还为他们提供工具、信息,并创造合适的环境,让他们发挥出最大的潜力。所以,我们需要调整的是整个环境,而不仅仅是模型。


“先用上前沿模型,看看模型潜力的天花板”

Harrison Chase:“更便宜、更快的智能会带来更多使用”这一点非常正确。即使是我这样自认为紧跟 AI 潮流的人,之前也低估了市场对智能和 Token 的海量需求。

随着模型变得又快又便宜,我们该如何看待“前沿模型”的地位?我们是应该始终转向开源模型,还是两者各有千秋?

黄仁勋: 模型正在持续改进,Scaling Laws 肯定会继续发挥作用。模型的外壳(Harness)也在不断优化,处理记忆的技术——无论是工作记忆还是长期记忆——都在以惊人的速度进步。此外,还有压缩技术,以及检索增强生成(RAG)和知识图谱领域的各种突破。这些前沿模型的 API 中正在融入大量令人赞叹的进步。

我的逻辑是:我总是从前沿模型开始我的所有工作。原因很简单,因为前沿模型非常实用,它让我知道潜力的天花板在哪里。虽然成本稍高,但它能让我极快地完成工作。然而随着时间的推移,我发现我需要为它们添加子智能体,将那些在特定技能上表现卓越的“超级智能体”连接起来。

在 NVIDIA 内部,我们面临着许多极其困难的优化问题,涉及供应链、芯片设计优化等。这些优化问题非常复杂,你不能只指望一个通用 AI 就能算出一个完美答案。

因此,我们创建了“超级子智能体”。这些智能体是利用 LangChain 的 DeepAgents 框架,内置 Nemotron-3 模型构建的。我们还会将它们连接到专门的工具上,让它们专精于某一项任务。这个超级智能体不需要帮我预订差旅,它唯一的任务就是优化我们的供应链。在这种情况下,我确实需要 LangChain,需要 Nemotron-3-Ultra,并将其与大量专有的知识和技能相连接。我有一支专门的团队负责不断精炼这些系统。

我认为这定义了一家公司。公司本质上就是由一堆这类超级专有的、极其重要的工作流)组成的集合。现在我们可以通过 LangChain、DeepAgents 和 Nemotron-3 来实现这一点,它赋予了企业所需的全部控制权,不仅高效,还能调用各种强大的工具。这就是未来。

Harrison Chase:如果企业效仿你的做法——先从前沿模型开始,然后再进行专业化,你有什么建议吗?他们应该在什么时候考虑专业化?有哪些触发信号是值得关注的?

黄仁勋:只要模型表现“足够好”了,就可以开始。

我会先从 Claude、Code 和 Codex 等模型开始,尽可能久地使用它们。事实上,很多东西你可能永远不需要替换,因为它们自身也在不断进步,其能力的提升速度是极其惊人的。

我认为在未来,AI 的存在方式就像今天的公司成员一样。我们聘用员工是因为他们的领域专业性,以及他们在公司内部对工作流程的精炼和终身学习积累,这些价值是无可替代的。但同时,我们也会聘请顾问、购买外部工具授权、将工作外包给其他人。

AI 的未来也是如此。我们会继续大量使用前沿模型,但同时也会利用 LangChain 和 Nemotron-3-Ultra 创建专有的、专业化的超级智能体,而这些智能体可以说就是企业的“皇冠上的明珠”。

Harrison Chase:就像聘请外部顾问一样,你必须让他们快速熟悉你的组织,提供背景信息,告诉他们公司是如何运作的,并赋予他们访问公司内部数据的权限。我们观察到,当企业开始采用 AI 时,必须围绕它们构建一系列系统,以确保这些智能体系统在整体上是可信、安全且具备妥善治理的。

黄仁勋:没错。我想补充一点:今天的多数公司是建立在“业务流程”之上的,而未来的公司将建立在 Harness 之上。LangChain 将成为创建公司“操作系统”的工具。每个人都会使用 LangChain 来创建他们专业化的 Harness,这代表了过去的工作流。而工作流中的这些外壳将变得自主、智能化且更加高效。


要增强自家的智能时,别指望给第三方打个电话就能解决

Harrison Chase: 我们也看到,系统中包含了外壳(Harness)、模型以及周围的所有上下文信息,所有这些都可以在不同时间点进行优化。

我们与 Nemotron-3 合作的成果就是一个很好的例子,证明了围绕外壳进行优化(如更改提示词、更换工具)能带来极高的投资回报率。此外,我们也非常期待尝试对 Nemotron 进行后期训练。虽然这需要更多时间,但它能显著提升整个系统能力的上限。

黄仁勋:这太棒了,这正是重大突破所在。

你描述的未来是:一旦外壳构建完成并开始工作,成为业务流程中成功的一部分后,下一个问题就是如何让它变得更好。你当然可以继续优化提供给它的信息,调整外壳参数,但现在你还可以直接在外部框架内改进 AI 模型本身(如 Nemotron-3-Ultra)。这是一种前所未有的能力,我对此感到非常兴奋。

Harrison Chase:这将结合企业特有的业务流程,真正启动这个飞轮。我们在与企业交流时听到的一个共同需求是:系统必须构建在开放生态系统之上。

企业将自己的知识和流程投入其中,拥有完全的控制权对他们来说至关重要。你能谈谈开放技术栈(Open Stacks)是如何进一步赋能企业应用 AI 的吗?

黄仁勋:每家公司从根本上说都是建立在特定领域或某些专业知识产权(IP)之上的。我们之所以称之为“知识产权”,是因为它的核心是“智能”。每家公司都建立在某种专业化的智能基础之上。

NVIDIA 在某些领域很专业,我们并不擅长所有事情,但我们在某一件事上做得非常出色。这种专业化智能定义了你是谁。你不可能不去控制它、改进它、让它变得更好。

对我来说,将这种核心智能“外包”出去是毫无道理的,无论对于个人、公司还是国家都是如此。

当然,世界上存在通用智能,也存在我们都会做的通用事务。例如,软件编程其实就是一种通用技能,大家都会用 Python 或 C++。虽然应用场景不同,但编程技能本身是通用的。写作也是一种通用技能。但这些只是基础技能,我们会将这些基础应用到我们的专业领域智能中。这就是 LangChain 和 Nemotron 的用武之地。

我相信社会的基石将是这些通用的基础模型,它们在云端随处可用。但在那个平台之上,我们必须构建自己的专业化能力,这就需要开放工具。

当你需要增强自己的智能时,你不能指望给第三方打个电话解决,你需要就在公司内部完成。所以,未来不是二选一,而是一个完全互补的愿景。我们正在做的,就是确保自动化智能能够集成到我们工作的方方面面。

Harrison Chase:完全同意。不过,要让这种集成顺利运行依然具有挑战性。所以我们今天发布了一个蓝图,通过 DeepAgents 和 NIM(NVIDIA 推理微服务)来实现。这将允许企业在安全、开放的 NIM 运行环境中,运行内置 Nemotron-3-Ultra 的 DeepAgents,并从中获益。

黄仁勋:这意义重大。它能让企业更轻松地启动和运行。它将构建个人、领域特定、专有超级智能体所需的所有关键要素——技术、组件、工具、外壳以及蓝图示例——全部整合在一起交给你。


AI 时代,不能给员工所有的访问权限

Harrison Chase:你们是如何看待“蓝图(Blueprints)”的?你们有很多蓝图,我个人认为今天发布的这个是最好的。你们为什么要大力投资这些蓝图?

黄仁勋:因为目前这些工具依然很深奥,涉及的环节太多。

构建智能体系统或 AI 绝非易事。它涉及大语言模型、调用的工具、需要处理的知识图谱、记忆系统、护栏系统、微调系统,以及你刚才提到的针对外壳的后期训练技术。

当然,还有外壳本身以及运行环境(Runtime)。当开发完成后,你依然需要运行环境,必须将其放在“沙箱”中以确保安全和隐私,并由 IT 部门进行访问控制。

Harrison Chase:你认为在企业内部,运行环境(Runtime)最难的部分是与之配套的安全机制吗?

黄仁勋:如果不解决安全和访问控制问题,就根本无法部署。这就像在公司里入职一名新员工,如果你不为他们办理入职、不设定访问权限,他们就无法开展工作。

我们不会给每个员工访问所有文件和网络的权限。我们会根据每位员工的职位、职责以及他们所需的资源,赋予相应的工具访问权,比如笔记本电脑、设计工具、编程工具等。我们还会为他们提供网络访问权限、信息访问权限,将他们与其他智能体及同事连接起来,并提供一份技能文件。

本质上,我们会给他们一份文档,说明他们的使命以及之前的做法,然后让他们尝试做得比以前更好。所以从很多方面来看,我们正在为 AI 创建一套类似于 HR 的系统,让 IT 组织和公司内部的所有不同业务部门能够在公司内部构建、改进和部署这些智能体。


黄仁勋:相比写 Python 代码,英伟达工程师更喜欢构建智能体

Harrison Chase:这是一个更具哲学意味的问题。很多人在谈论这些智能体时会过度拟人化,将它们引入人类系统。但智能体毕竟不是人类,它们在某些方面优于人类,但在其他方面却与人类迥异,甚至不如人类擅长。

你认为对这些智能体进行拟人化的合适程度应该是怎样的?

黄仁勋: 智能体本质上是电子,而非原子。它不是生物,没有意识,也不是觉醒的生命。它是一个工具,就像在家里四处走动、帮忙打扫卫生的吸尘器,在做一些我以前必须亲自做的事情。

现在我们还有自动割草机。你可以想象一百多年前第一台洗碗机出现时的场景,它能自动洗碗,当时的人们一定觉得很神奇。我们称之为“洗碗机”,这个称呼听起来有点像人。有趣的是,我的第一份工作就是洗碗工。

所以,我们迟早会习惯的。我认为目前人们倾向于赋予它过多的拟人属性,但它本质上只是软件和计算机。

我们很清楚它是如何运作的,因为我们围绕它构建了外壳系统(Harnesses)。它的性能一直在不断提升,如果我们不了解其运作原理,又该如何不断改进或修复它呢?

显然,我们完全掌握这些系统的运作机制,我们也应该保持这种认知。

与此同时,我们发现使用 AI 越多,反而需要雇佣更多的人。原因在于这些智能体系统带来了新的技能需求。现在我们有大量的软件工程师在构建智能体,他们以前是写代码的,现在则是在构建智能体。

如果你问我们公司的情况,其实我的软件工程师们都更愿意构建智能体,而不是去写 Python 代码。写代码就像打字,而现在他们可以减少打字,成为系统工程师,去构建和创造那些非常酷的自动化系统。

他们在创建评估系统、基准测试和护栏系统。将 AI 引入现实世界的工作量是巨大的,这创造了大量的工作岗位,我的软件工程师们非常热爱这项工作。

Harrison Chase:你提到了评估系统(Evals),这是在企业内部解锁智能体大规模使用的关键。你需要了解它的表现,而量化其好坏的最好方式通常是由企业内部的领域专家来完成。

他们可以提供反馈并与这些系统协作,将工作中单调乏味的部分自动化,从而把精力花在真正具有智力挑战和创造性的部分。

黄仁勋:没错。无论你是医生、设计师还是软件工程师,你都在创建一个智能体。你把那些琐碎的工作剥离出来交给智能体处理。

与此同时,我们都在尝试提升智能体的能力,让它们能与我们协作,去完成以前无法完成的事情。这需要想象力、创造力以及大量的技术支持。

Harrison Chase:这个观点非常精辟。目前智能体最成功的应用是为我们提供更多的杠杆,去做更多的事情。但很多人的思路还是停留在“我们以前是怎么做的,能否将其自动化”。

我认为未来的重大突破将在于“以前做不到、但现在可以做到的事情”。

黄仁勋:没错。雄心壮志非常重要,100% 的雄心、能动性(Agency)是核心。


面向未来

Harrison Chase:在结束交流前,针对如何推动这一未来的实现,你认为目前的智能体技术栈(Agentic Stack)还缺失哪些环节?

黄仁勋:我们今天宣布了一项重大的合作。我们正在提供基础的构建模块。这些是构建“超级智能体(Super Agents)”的核心要素。

我所说的超级智能体是指那些特定于领域的、完全属于你的智能体。你可以亲自构建、改进并随着时间的推移不断精炼它们。你可以赋予它们访问专有信息和知识的权限,这些信息对你来说可能是极度隐私的。由此产生的超级智能体将能完成你难以想象的任务,而且表现会极其出色。

我们已经创建了所有关键部分:世界级的语言模型、LangChain DeepAgents 框架(该框架已针对 Nemotron-3-Ultra 的全潜力进行了优化)、帮助大家快速上手的蓝图,以及确保系统安全的 NIM 运行环境和与之集成的加速技术栈。

全球的每家公司、每个开发者现在都能创建这些超级智能体,并将它们部署在任何地方——云端、本地。我的一位好朋友刚在 DGX Spark 上构建了一个系统。现在,你可以在你的笔记本电脑旁通过 DGX Spark 运行这些智能体,也可以在 DGX Station 上运行。如果你愿意,甚至可以在公司内部构建自己的超级计算机,或在云端运行。

现在,这些自动化能力已经可以随处构建,所有拼图都已齐备。没有任何理由不去拥抱它。

Harrison Chase: 这是一个完美的结尾。你的话让我备受鼓舞,这是一场精彩的励志演讲。我现在就打算去构建一些智能体。谢谢 Jensen 的参与。

黄仁勋:祝贺你们,干得漂亮。为你们感到骄傲。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/198813