有没有想过使用主流大模型 API 构建一个 AI 聊天机器人?其实使用 Docker 结合其它技术很容易完成。
本文介绍的解决方案包含三部分:
- • Next.js,使用 Next.js AI Chatbot template 构建UI
- • Vercel AI SDK,一个 AI 解决方案
- • Docker (standalone build),容器化服务
其中 Next.js AI Chatbot template 属于 Vercel AI SDK 的一部分。
1:先克隆官方 Vercel chatbot 模板
npx create-next-app@latest chat-ui-agent -e https://github.com/vercel/ai-chatbot
不要使用 npm 安装,此处就是为了建立一个脚手架,整个构建在 Dockerfile 文件中描述。
在 chat-ui-agent 文件夹下创建 .env.local 文件,里面设置一个 OPENAI_API_KEY 变量。
2:构建 Dockerfile 文件
将 https://github.com/kristiyan-velkov/frontend-prod-dockerfiles/blob/main/next.js/Dockerfile.standalone 下载到本地,并命名为 Dockerfile。
整个构建有两个特点:
- • standalone 构建,保持镜像最小化最优化
3:Docker Compose 启动
在 chat-ui-agent 文件夹下创建 docker-compose.yml 文件:
services:
chat-ui-agent:
build:
context: .
dockerfile: Dockerfile
ports:
- "3000:3000"
environment:
OPENAI_API_KEY: ${OPENAI_API_KEY}
然后启动就可以了:
docker-compose up --build
官方有个 Demo,可以去 https://demo.chat-sdk.dev/ 体验,越来越喜欢 Docker 了。
相关文章: