Respan - Complete AI observability from tracing to deployment

什么是 Respan

El desarrollo de aplicaciones de IA a escala empresarial presenta desafíos técnicos que los equipos de ingeniería no pueden ignorar. Cuando una aplicación pasa de cientos a millones de llamadas diarias, la depuración se vuelve caótica, la calidad del output es difícil de garantizar y los costos se descontrolan sin visibilidad clara. Los desarrolladores necesitan herramientas que les permitan entender exactamente qué está haciendo su agente en producción, por qué toma ciertas decisiones y cómo mejorarlo de forma sistemática.

Respan (anteriormente Keywords AI) es una plataforma de observabilidad de IA que acompaña a los equipos durante todo el ciclo de vida de sus agentes: desde el rastreo detallado de cada interacción hasta la evaluación automatizada, la optimización iterativa y el despliegue controlado. La plataforma ofrece acceso unificado a más de 500 modelos de diferentes proveedores, permitiendo a los equipos experimentar, comparar y seleccionar la mejor opción para cada caso de uso sin cambiar su arquitectura.

Con el respaldo de Y Combinator, Respan ha procesado más de 80 billones de tokens y sirve a empresas líderes en el ecosistema de IA como Retell AI, Mem0, AlphaSense y Gumloop. Su infraestructura soporta cargas de trabajo de más de 1 millón de solicitudes por hora, proporcionando la confiabilidad que las aplicaciones de producción requieren. La plataforma integra más de 40 frameworks de desarrollo popular, incluyendo LangChain, Vercel AI SDK, OpenAI Agents SDK, Mastra, LlamaIndex y Agno, lo que facilita su adopción en stacks tecnológicos diversos.

---

Respan 的核心功能

Respan ofrece un conjunto integral de funcionalidades diseñadas para abordar los desafíos específicos del desarrollo y operación de agentes de IA a escala. Cada módulo está diseñado para integrarse naturalmente en el flujo de trabajo del equipo, desde la depuración inicial hasta el despliegue en producción.

El módulo de Tracing captura de forma completa cada prompt, llamada de herramienta y respuesta, incluyendo el contexto real del tráfico de producción. La visualización del路径 de ejecución de extremo a extremo permite a los desarrolladores entender el flujo completo de sus agentes. El sistema soporta más de 1 millón de logs por hora mediante registro asíncrono, con capacidades avanzadas de búsqueda y filtrado por contenido, latencia, costo, calidad, etiquetas y metadatos personalizados. La función Playground permite reproducir y depurar trayectorias de producción directamente en la interfaz, y existe la opción de convertir estas trayectorias en datasets de evaluación.

La función de Evaluate integra evaluadores de código, humanos y basados en LLM en un workflow unificado. Los equipos pueden definir métricas específicas y construir datasets versionados a partir de trayectorias de producción. La comparación sistemática entre prompts, modelos y releases contra líneas base permite tomar decisiones informadas sobre mejoras.

En Optimize, el control de versiones completo abarca prompts, herramientas, modelos y workflows. Los equipos pueden probar cambios contra bases reales y realizar optimizaciones conjuntas que consideran la interacción entre diferentes componentes del sistema.

El módulo de Deploy permite empujar versiones de prompt o workflow directamente desde la UI al entorno de producción. Las capacidades de gateo de release, comparación de comportamiento y rollback facilitan despliegues seguros con la posibilidad de revertir cambios instantaneously si se detectan problemas.

Monitor proporciona dashboards personalizables con más de 80 tipos de gráficos para seguimiento en tiempo real de calidad, costos y latencia. Las alertas configurables via Slack, email y SMS, junto con triggers de automatización, permiten respuesta inmediata ante anomalías.

El AI Gateway funciona como punto de acceso unificado para los más de 500 modelos soportados. Incluye funcionalidades críticas como vault de claves (BYOK), logging integrado, caché de requests, retry automático con fallback, balanceo de carga y control de gastos y rate limiting.

---

谁在使用 Respan

Respan responde a las necesidades de equipos técnicos que desarrollan y operan aplicaciones de IA en producción. A continuación se presentan los escenarios más comunes donde la plataforma genera valor tangible.

Escala masiva de voz AI: Retell AI, plataforma de voz conversacional, enfrentaba el desafío de monitorear millones de llamadas LLM diarias. Cada llamada telefónica involucra docenas de generaciones LLM que deben vincularse con la sesión completa. Utilizando thread_identifier, Respan permite conectar todas las generaciones LLM con la llamada telefónica correspondiente, logrando 1M+ logs/hora y visibilidad completa de cada通话. Este nivel de trazabilidad fue fundamental para escalar de 5M a 500M+ llamadas API mensuales.

Diagnóstico rápido de problemas en producción: Los comportamientos erráticos de agentes en producción son difíciles de detectar y más aún de diagnosticar. Respan implementa monitoreo en tiempo real con alertas específicas para fallback, retry, JSON inválido y stream timeout. Los equipos reportan resolución de problemas 10x más rápida gracias a la visibilidad inmediata que proporciona la plataforma.

Preparación de datasets para evaluación y entrenamiento: Exportar logs de producción para construir datasets de entrenamiento es tradicionalmente un proceso tedioso. Respan permite exportación masiva en formatos JSONL y CSV con filtros por atributos personalizados, logrando ahorro del 90% en tiempo de preparación de datos.

Comparación y selección de modelos: Con acceso a más de 500 modelos, los equipos necesitan herramientas para comparar desempeño de forma objetiva. El gateway unificado combinado con testing contra líneas base permite selección de modelos basada en datos concretos, no en suposiciones.

Gestión de versiones y rollback de prompts: Los cambios en prompts pueden afectar significativamente el comportamiento del agente sin que esto sea evidente inmediatamente. El control de versiones completo con historial detallado y capacidad de rollback con un clic proporciona la seguridad necesaria para iterar rápidamente.

Cumplimiento de seguridad empresarial: Organizaciones en sectores regulados requieren certificaciones específicas. Respan cuenta con ISO 27001, SOC 2, HIPAA (incluyendo BAA) y GDPR, facilitando la aprobación de revisiones de seguridad corporativa.

---

技术特点与集成能力

La arquitectura técnica de Respan está diseñada para memenuhi kebutuhan de equipos de ingeniería que requieren confiabilidad, flexibilidad y rendimiento en sus flujos de trabajo de desarrollo de IA. La plataforma actúa como una capa de abstracción unificada sobre el ecosistema fragmentado de proveedores de modelos y frameworks de desarrollo.

En términos de modelos soportados, Respan integra más de 500 modelos de proveedores principales incluyendo OpenAI, Anthropic, OpenRouter, Groq, Fireworks, Together AI, Azure OpenAI, AWS Bedrock y Google Gemini. Esta聚合 permite a los equipos cambiar entre proveedores sin modificar código de aplicación, beneficiándose de precios competitivos y disponibilidad redundante.

La integración con frameworks abarca más de 40 opciones reconocidas en la industria: LangChain, Vercel AI SDK, OpenAI Agents SDK, Mastra, LlamaIndex, Google GenAI, Mem0, Cognee y Agno, entre otros. Esta cobertura amplia asegura compatibilidad con prácticamente cualquier stack tecnológico moderno.

En cuanto a SDKs, se encuentran disponibles bibliotecas para Python y JavaScript/TypeScript, cubriendo los dos ecosistemas más utilizados en desarrollo de aplicaciones de IA. El soporte para OpenTelemetry permite integración con sistemas de observabilidad existentes en organizaciones enterprise.

Las capacidades multimodales incluyen soporte nativo para procesamiento de imágenes y audio, permitiendo a los equipos construir y monitorear aplicaciones que van más allá del texto. El registro asíncrono de logs asegura que la instrumentación no degrade el rendimiento de las aplicaciones en producción.

Desde la perspectiva de confiabilidad, Respan ofrece SLA del 99.9% para el plan Team y 99.99% para planes Enterprise. Las certificaciones de seguridad empresariales (ISO 27001, SOC 2, HIPAA con BAA, GDPR) garantizan cumplimiento con regulaciones estrictas en sectores como salud, finanzas y servicios jurídicos.

---

Respan 的定价方案

Respan ofrece una estructura de pricing clara que escala desde proyectos individuales hasta implementaciones empresariales. La transparencia en los costos permite a los equipos planificar su inversión según el nivel de funcionalidad requerido.

Plan Pro: Ideal para equipos que inician su journey de observabilidad. Incluye 100k logs mensuales, 1k evaluaciones, 5 datasets, 2 evaluators y 5 prompts. Perfecto para validación de concepto y aprendizaje de la plataforma.

Plan Team: Pensado para equipos en crecimiento que necesitan capabilities completas. El pricing de $199/mes facturado annually incluye acceso ilimitado a datasets, evaluators y prompts, además de canal privado de Slack para soporte prioritario y reportes SOC 2. El límite de 8,400 requests/minute soporta la mayoría de aplicaciones en producción.

Plan Enterprise: Para organizaciones con requisitos específicos. Incluye pricing custom con descuentos por volumen, SLA personalizado (hasta 99.99%), ingeniero de soporte dedicado, y la posibilidad de firmar Business Associate Agreement (BAA) para HIPAA. El plan también ofrece opciones de deployment self-hosted para organizaciones con requisitos de data residency.

Cargos adicionales: Los logs que excedan la quota del plan cuestan $8 por cada 100k, y las evaluaciones adicionales tienen un costo de $1 por cada 1k. Estos cargos permiten a los equipos escalar gradualmente sin migrar a planes superiores inmediatamente.

---

常见问题