
- 月访问量
- 2,863
- 2026-09
- 月流量增速 +603.4%
VidaiMock - 用于 CI 测试的确定性 LLM 模拟服务
VidaiMock 是一款开源的模拟 LLM API 服务,用于在持续集成中测试 AI 智能体。它可在离线环境中模拟符合提供商格式的流式响应、错误和工具调用循环,无需 API 密钥或调用真实提供商。可通过 Docker 或二进制文件运行,并使用 YAML 文件和 Tera 模板配置提供商行为。






核心能力
提供商 API 模拟
模拟 LLM 提供商 API 的流式负载、错误和时序。内置支持 OpenAI、Anthropic、Gemini、Bedrock、Azure、Cohere、Mistral 和 Groq 的配置,无需设置即可使用。
智能体循环处理
生成符合提供商格式的工具调用,并在对话中出现工具结果后以文本合成结束循环。可识别 OpenAI、Anthropic 和 Gemini 的工具结果格式。
可配置故障测试
针对指定 HTTP 状态返回提供商格式的错误,并支持故障概率。可通过请求头、URL 查询参数或配置的概率设置故障,以测试 SDK 错误处理路径。
本地运行方式
可作为 Docker 容器、Docker Compose 服务或二进制文件在本地运行。使用内置默认配置,也可从配置目录覆盖 YAML 提供商配置和 Tera 模板。
定价
VidaiMock 是开源且免费的;所提供的页面没有列出 VidaiMock 的付费方案。可根据本地运行方式选择 Docker、Docker Compose 或二进制文件。
使用场景
在 CI 中测试智能体且不调用真实 API
在持续集成中验证 AI 智能体更改时,将 SDK 指向 VidaiMock,而不是实时提供商。可离线、确定性地测试流式响应、错误和工具循环,无需 API 密钥或产生提供商调用费用。
测试提供商错误处理
检查应用如何处理提供商故障时,可通过请求头或 URL 查询参数请求指定状态码,也可使用故障概率。VidaiMock 会返回符合提供商格式的错误封装,以测试 SDK 和应用的处理路径。
测试工具调用循环的终止
测试会调用工具的智能体框架时,让 VidaiMock 先生成原生格式的工具调用,再在对话历史中提供工具结果。它会切换为文本合成并发送终止信号,使循环能够结束。
适用人群
在 CI 中测试 AI 智能体和工具调用框架的开发者
验证 LLM SDK 兼容性和提供商错误处理的工程师
需要离线、可重复 LLM 测试基础设施的平台工程师
常见问题
VidaiMock 模拟哪些提供商 API?
内置配置支持 OpenAI、Anthropic、Gemini、Bedrock、Azure、Cohere、Mistral 和 Groq。启动模拟服务并将兼容的 SDK 指向它;页面还说明了对 OpenAI、Anthropic 和 Gemini 工具结果格式的识别。
它能否在没有网络或 API 密钥的情况下运行?
可以。该模拟服务可在本地运行,并标明支持离线、确定性运行且不需要提供商密钥。文档中的 CI 示例也在不产生真实提供商调用费用的情况下运行测试。
如何运行 VidaiMock?
可使用 Docker Compose、Docker 容器或二进制文件。官方推荐 Docker Compose;二进制文件明确展示了 macOS arm64 版本,Linux 和 Windows 的相关说明见文档。
可以自定义提供商行为吗?
可以。可将文件放入配置目录,覆盖内置的 YAML 提供商配置和 Tera 模板,无需重新编译。还可通过环境变量启用隔离模式,将模拟服务限制为仅使用自定义覆盖项。
VidaiMock 如何处理智能体工具循环?
定义了工具但尚无结果时,它会生成工具调用;工具结果出现在历史记录后,则切换为纯文本合成。它能识别 OpenAI、Anthropic 和 Gemini 的结果格式。
评论