社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  docker

Docker 扩展 Compose,新增 Cloud Offload 支持

InfoQ • 2 月前 • 118 次点击  
作者 | Sergio De Simone
译者 | 平川

Docker 推出了一个新特性,允许开发者 使用 Docker Compose 定义、构建和运行代理,目的是简化代理开发流程并减少重复性任务。此外,Docker Offload 目前处于测试阶段,它提供了一种方法,可以无缝地将模型构建和运行卸载到远程 GPU 算力。

支持使用 Docker Compose 定义代理,是 Docker 将自己定位为代理开发关键工具提供商后又迈进了一步,就像它为基于容器的开发所做的那样。正如来自 Docker 的 Mark Cavage 和 Tushar Jain 所言,这意味着简化代理开发通常会涉及的繁琐的重复任务,例如遍历不同的模型、安全地连接 MCP 工具,以及将一切打包,使团队成员可以很轻松地运行相同的工作流。

新特性允许开发者在compose.yaml文件中声明开放模型、代理和 MCP 工具,然后使用docker compose up构建和运行它们。Docker Compose 可以 与许多现有的代理框架集成,包括 LangGraph、Embabel、Vercel AI、Spring AI、CrewAI、Google ADK 和 Agno。

为了帮助开发者开始使用 Docker Compose 进行代理开发,Docker 创建了一个 GitHub 仓库,其中包含它所支持的所有框架的示例项目。例如,有一个例子展示了如何使用 Google ADK 构建一个协作式多代理事实检查器:

Critic 代理利用实时互联网搜索来收集证据,通过 Model Context Protocol(MCP)使用 DuckDuckGo,而 Reviser 代理仅使用内部推理分析和完善结论。该系统展示了具有不同角色和工具的代理如何通过编排实现协作。

相应的 compose.yaml 文件 定义了两个服务:adk和 mcp-gateway,并包括一个models部分,列出了使用的模型及其参数。在 Docker Desktop 4.40 中,Docker 提供了使用 Model Runner 在本地打包和运行模型的可能性,但你也可以通过提供适当的凭据使用远程或基于云的模型。

Docker Compose 的模块化架构使得创建用于多代理配置的 compose override 文件变得很容易。例如,你可以定义一个 变体,使用 OpenAI 而不是本地模型,或者使用 Google Cloud Run。这使你能够组合多个 compose 文件,轻松切换代理设置:

docker compose -f compose.yaml -f compose.openai.yaml up --build

Docker Desktop 最新版本支持的另一个代理开发新特性是 Docker Offload。当本地资源不足时,这项全托管服务可以用作 Docker Model Runner 的直接替代品,使开发者能够在云 GPU 上使用与本地部署相同的工作流透明地运行模型和容器。

Docker Offload 通过将计算密集型工作负载(如大型语言模型和多代理编排)卸载到高性能云环境,帮你摆脱基础设施限制。无需复杂的设置,不再有 GPU 短缺,不用为配置头疼。

该服务目前处于测试阶段,Docker 为开发者提供了 300 分钟的免费试用时间。

声明:本文为 InfoQ 翻译,未经许可禁止转载。

原文链接:

https://www.infoq.com/news/2025/07/docker-compose-agent-gpu-offload/

声明:本文由 InfoQ 翻译,未经许可禁止转载。

点击底部 阅读原文访问 InfoQ 官网,获取更多精彩内容!

今日好文推荐
创始人“背刺”员工获财富自由,Devin 接盘火速兑现员工期权,华人 CEO 暗讽:做个人吧!
Cursor终结者?Grok 4正式登顶!马斯克扬言编程碾压,20万N卡年赚47亿美金!
16 年老程序员用 Claude Code 搞副业:我只手敲了 1000 行,剩下 95% 代码靠自动生成
180 天狠赚 5.7 亿,8 人团队全员财富自由,最大功臣是 Claude 和 Gemini

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/184514