工程代码
FastAPI 服务、统一模型调用接口、Fake Provider、结构化输出、流式响应和用量统计。
项目包已开放
这份项目包用于验证你是否适合 CodeRun Agent Lab 的自学方式。先完成本地运行、接口测试、结构化输出和作品集记录,再决定是否进入完整路线。
git clone https://github.com/Benjamin-Z00/llm-gateway-starter.git
cd llm-gateway-starter
py -3.12 -m venv .venv
.venv\Scripts\activate
pip install -r requirements.txt
uvicorn app.main:app --reload
你会拿到什么
FastAPI 服务、统一模型调用接口、Fake Provider、结构化输出、流式响应和用量统计。
7 个任务文档,按“读说明、改代码、跑测试、记录作品集”的方式推进。
README 模板会引导你记录架构、关键接口、测试结果和后续可扩展点。
第一天任务
启动服务后访问 /health,确认返回正常状态。
执行 pytest,确认接口、结构化输出、流式响应和用量统计通过。
阅读 tasks/01-run-locally.md,把运行截图和问题记录进作品集模板。
说明这个 Gateway 为什么是 Agent 项目的底座,以及它后续还能接哪些能力。
下一步
如果你能独立跑通项目、读懂接口边界,并愿意继续做 Tool Runtime、RAG Agent 和 Codebase Agent, 那完整路线对你更有价值。