MIGRACIÓN DE INFERENCIA DE LLM
Mové tu inferencia de LLM a Amazon Bedrock
¿Corrés sobre OpenAI, Azure OpenAI, la API de Anthropic u OpenRouter? En Amazon Bedrock esa inferencia queda en tu factura de AWS, donde los créditos de AWS pueden cubrirla. Mantenés tu modelo donde Bedrock lo ofrece y, para las empresas elegibles, AWS financia el trabajo.
Por qué mover la inferencia a AWS
Los créditos pueden cubrirla
La inferencia en Bedrock es consumo de AWS, así que los créditos de AWS pueden cubrirla, según los términos de cada crédito. Etiquetada desde el principio, también cuenta para MAP.
Los modelos que usás, una sola factura
Claude, los modelos de OpenAI, Amazon Nova, Llama, DeepSeek y más, detrás de una sola API en tu factura de AWS.
Tus datos se quedan en tu cuenta
Las solicitudes corren en tu cuenta de AWS y en tus regiones, bajo tus políticas de IAM y registradas en CloudTrail. Los prompts y las respuestas nunca entrenan los modelos.
Control de latencia y capacidad
Perfiles de inferencia regionales y entre regiones, cuotas dimensionadas para tu carga y throughput aprovisionado para tráfico estable.
Cómo es la migración
¿Ya estás en AWS? Corre en tu cuenta, con nuevos roles de IAM etiquetados para que el consumo cuente. ¿Todavía no? Primero armamos la base.
Evaluar
- Cada llamada a modelos mapeada
- Objetivos de costo y latencia
- Un golden dataset con tu tráfico
- Modelos comparados lado a lado
Probarlo con tu propio tráfico
Movilizar
- Prompts ajustados por modelo
- Endpoints y SDKs cambiados
- Autenticación con AWS IAM
- Etiquetas de MAP desde el inicio
Preparar tu app para Bedrock
Migrar y modernizar
- Tráfico movido modelo por modelo
- Pruebas de regresión
- Un camino de vuelta atrás
- Costos a la vista, con alertas
Correrlo en tu factura de AWS
¿Te conviene?
Cuándo conviene
Pagás por token a través de una API, el consumo crece, o lo querés en una sola factura con el resto de tu stack.
Cuándo esperar
Usás una suscripción de tarifa plana, y mudarte puede costar más, o dependés de un modelo o una función que Bedrock todavía no ofrece. Te lo decimos en la primera conversación.
Financiado por AWS, para empresas elegibles
El trabajo de migración
Para las empresas elegibles, AWS puede financiar nuestro trabajo, en parte o en su totalidad, a través de sus programas para partners.
Tu consumo de Bedrock
El consumo que empieza antes de una migración bajo MAP no cuenta para ella, así que hablá con nosotros antes de mover más tráfico.
La elegibilidad, los montos y los plazos los definen los términos de los programas de AWS. Los confirmamos con tu equipo de cuenta de AWS antes de empezar.
Preguntas frecuentes
¿Necesitamos cuentas nuevas de AWS para esto?
No, si ya estás en AWS: corre en tu cuenta, con nuevos roles de IAM etiquetados. Si no, primero armamos la base.
¿Nuestros prompts van a funcionar tal cual?
Muchas veces con cambios chicos, que encontramos con benchmarks antes de cambiar.
¿Tenemos que reescribir el código?
Normalmente poco. Bedrock ofrece APIs compatibles con OpenAI y con Anthropic, así que muchas aplicaciones cambian un endpoint y la autenticación.
¿Parte del tráfico puede quedarse donde está?
Sí. El tráfico se mueve modelo por modelo, con un camino de vuelta atrás hasta que estés seguro.
Ya empezamos a llamar a Bedrock. ¿Es tarde?
No, pero el consumo de antes de una migración bajo MAP no cuenta para ella, así que hablá con nosotros antes de mover más.
¿Desde qué proveedores pueden migrar?
OpenAI, Azure OpenAI, la API de Anthropic, OpenRouter y otras APIs compatibles con OpenAI.
¿Gastás en APIs de LLM? Miremos la factura.
Contanos qué llamás y cuánto pagás, y te mostramos la migración a Bedrock.