最小工程代码
FastAPI 服务、统一模型调用接口、Fake Provider、结构化输出、流式响应和用量统计。
Week 0 体验项目已开放
Starter 是完整自学版的 Week 0:它不是独立赠品,也不是报名门槛,而是 Week 1 LLM Gateway 的最小可运行版本。 先完成本地运行、接口测试、结构化输出和作品集记录,后续进入 Week 1-4 会更顺。
git clone https://github.com/Benjamin-Z00/llm-gateway-starter.git
cd llm-gateway-starter
py -3.12 -m venv .venv
.venv\Scripts\activate
pip install -e ".[dev]"
pytest
uvicorn app.main:app --reload
Week 0 拿到什么
FastAPI 服务、统一模型调用接口、Fake Provider、结构化输出、流式响应和用量统计。
7 个任务文档,按“读说明、改代码、跑测试、记录作品集”的方式推进。
README 模板会引导你记录架构、关键接口、测试结果和后续可扩展点。
Week 0 启动任务
启动服务后访问 /health,确认返回正常状态。
执行 pytest,确认接口、结构化输出、流式响应和用量统计通过。
阅读 tasks/01-run-the-service.md,把运行结果和问题记录进作品集模板。
说明这个 Gateway 为什么是 Agent 项目的底座,以及它后续还能接哪些能力。
Week 0 参考运行结果
这里提供的是验收样例,不是完整讲解。你的结果不需要每个数字完全一致,但状态、字段结构、测试通过数量和 README 记录应该能对上。
启动服务后访问 /health,应该看到服务处于可用状态。
{
"status": "ok"
}
访问 /docs,应该能看到健康检查、聊天、结构化输出、流式输出和用量统计接口。
GET /health
POST /v1/chat
POST /v1/structured
POST /v1/chat/stream
GET /v1/usage
执行 pytest 后,核心测试应全部通过;不同机器上的耗时会不一样。
collected 5 items
tests/test_gateway.py .....
5 passed
调用 /v1/chat 后,返回里应该包含回答内容、模型名、延迟和成本信息。
{
"model": "fake-fast",
"content": "Gateway response: hello",
"input_tokens": 1,
"output_tokens": 3,
"latency_ms": 12,
"cost_cny": 0.000007
}
README 里至少要能说明你跑通了什么、测试结果是什么、遇到过什么卡点。
## Week 0 Result
- Service: running
- Tests: passed
- Endpoint: /v1/chat
- Reflection: ...
如果遇到依赖、虚拟环境或端口占用问题,先按报错信息定位,不要直接改业务代码。
ModuleNotFoundError
Port already in use
pytest command not found
Week 0 完成证明
现在 Week 0 先采用本地运行和表单提交的半在线模式。你可以用 pytest 判断代码是否通过, 也可以提交仓库链接、测试结果、完成任务数和复盘内容,后续会衔接 Week 1-4 和 AI Review 的升级路径。
执行 pytest,全部通过说明核心接口、结构化输出、流式响应和用量统计已经跑通。
提交 GitHub 仓库链接、测试结果、完成任务数、最大卡点和作品集复盘。
提交成果会帮助我们判断你的 Week 0 完成情况;如果你已经确定要系统学习,也可以直接申请完整自学版。
下一步
如果你能独立跑通 Starter、读懂接口边界,Week 1 LLM Gateway 会更顺;如果你已经确定要系统完成 Tool Runtime、 RAG Agent 和 FDE PoC Pack,也可以直接申请。