VidaiMock
月访问量
2,863
2026-09
月流量增速 +603.4%

VidaiMock - 用于 CI 测试的确定性 LLM 模拟服务

VidaiMock 是一款开源的模拟 LLM API 服务,用于在持续集成中测试 AI 智能体。它可在离线环境中模拟符合提供商格式的流式响应、错误和工具调用循环,无需 API 密钥或调用真实提供商。可通过 Docker 或二进制文件运行,并使用 YAML 文件和 Tera 模板配置提供商行为。

访问网站更新此产品

0访问量

核心能力

提供商 API 模拟

模拟 LLM 提供商 API 的流式负载、错误和时序。内置支持 OpenAI、Anthropic、Gemini、Bedrock、Azure、Cohere、Mistral 和 Groq 的配置,无需设置即可使用。

智能体循环处理

生成符合提供商格式的工具调用,并在对话中出现工具结果后以文本合成结束循环。可识别 OpenAI、Anthropic 和 Gemini 的工具结果格式。

可配置故障测试

针对指定 HTTP 状态返回提供商格式的错误,并支持故障概率。可通过请求头、URL 查询参数或配置的概率设置故障,以测试 SDK 错误处理路径。

本地运行方式

可作为 Docker 容器、Docker Compose 服务或二进制文件在本地运行。使用内置默认配置,也可从配置目录覆盖 YAML 提供商配置和 Tera 模板。

定价

VidaiMock 是开源且免费的;所提供的页面没有列出 VidaiMock 的付费方案。可根据本地运行方式选择 Docker、Docker Compose 或二进制文件。

使用场景

在 CI 中测试智能体且不调用真实 API

在持续集成中验证 AI 智能体更改时,将 SDK 指向 VidaiMock,而不是实时提供商。可离线、确定性地测试流式响应、错误和工具循环,无需 API 密钥或产生提供商调用费用。

测试提供商错误处理

检查应用如何处理提供商故障时,可通过请求头或 URL 查询参数请求指定状态码,也可使用故障概率。VidaiMock 会返回符合提供商格式的错误封装,以测试 SDK 和应用的处理路径。

测试工具调用循环的终止

测试会调用工具的智能体框架时,让 VidaiMock 先生成原生格式的工具调用,再在对话历史中提供工具结果。它会切换为文本合成并发送终止信号,使循环能够结束。

适用人群

  • 在 CI 中测试 AI 智能体和工具调用框架的开发者

  • 验证 LLM SDK 兼容性和提供商错误处理的工程师

  • 需要离线、可重复 LLM 测试基础设施的平台工程师

常见问题

VidaiMock 模拟哪些提供商 API?

内置配置支持 OpenAI、Anthropic、Gemini、Bedrock、Azure、Cohere、Mistral 和 Groq。启动模拟服务并将兼容的 SDK 指向它;页面还说明了对 OpenAI、Anthropic 和 Gemini 工具结果格式的识别。

它能否在没有网络或 API 密钥的情况下运行?

可以。该模拟服务可在本地运行,并标明支持离线、确定性运行且不需要提供商密钥。文档中的 CI 示例也在不产生真实提供商调用费用的情况下运行测试。

如何运行 VidaiMock?

可使用 Docker Compose、Docker 容器或二进制文件。官方推荐 Docker Compose;二进制文件明确展示了 macOS arm64 版本,Linux 和 Windows 的相关说明见文档。

可以自定义提供商行为吗?

可以。可将文件放入配置目录,覆盖内置的 YAML 提供商配置和 Tera 模板,无需重新编译。还可通过环境变量启用隔离模式,将模拟服务限制为仅使用自定义覆盖项。

VidaiMock 如何处理智能体工具循环?

定义了工具但尚无结果时,它会生成工具调用;工具结果出现在历史记录后,则切换为纯文本合成。它能识别 OpenAI、Anthropic 和 Gemini 的结果格式。

官方链接

评论

请先 登录 再发表评论。
还没有评论。成为第一个分享想法的人吧!