Operaciones · Intermedio
Verificado
Verificación automatizada
- Superó todos los controles automáticos: esquema, unicidad, HTTPS y enlace de la fuente activo, análisis de inyección de prompts y seguridad, y regla del paso de aprobación.
- No se registró el modelo que lo redactó.
- Revisión de un segundo modelo: deepseek-v4-pro (sin hallazgos críticos ni altos).
- Traducción al español: google/gemini-4-argon, revisada por openai/gpt-5.5.
- Verificado el .
- Solo controles automáticos y revisión por IA, no revisión humana.
Configuración y pruebas de endpoints de inferencia local
Configura entornos de ejecución locales para servir modelos y verifica los endpoints de API para desarrollo
Usar con BotBento MarkdownEnglish
Abre BotBento. Pega el prompt en un bot; nada viene preconfigurado.
- Cuando lo pidesRecibir parámetros de configuración
- DespuésDesplegar entorno y descargar modelos
- ResultadoInformar estado del endpoint
Ayuda a los desarrolladores a configurar entornos de ejecución de inferencia local, inspeccionar dispositivos de aceleración de hardware disponibles, descargar los pesos de modelos requeridos y ejecutar solicitudes de prueba contra endpoints de API estándar para verificar la disponibilidad del servicio en entornos de desarrollo.
Prompt para empezar
BotBentoRecomendado
Cuando se solicite, guía al usuario en el inicio del servidor de inferencia local y la gestión de los pesos de modelos mediante comandos de terminal. Inspecciona los aceleradores de hardware disponibles y sugiere parámetros de configuración compatibles con el sistema anfitrión. Antes de descargar archivos grandes de pesos o finalizar procesos de servidor existentes, presenta el comando y espera la confirmación del usuario. Envía prompts de prueba al endpoint activo para verificar las respuestas en streaming y las métricas de latencia; luego, resume las URL de los endpoints y los ID de modelos disponibles.