Benchmarks de FreeToken
Resultados reales de tokens por segundo en GPU de consumo, portátiles y estaciones de trabajo. Rendimiento de prefill y decode con condiciones de prueba exactas.
¿Qué son los benchmarks?
Los benchmarks miden el rendimiento de FreeToken en portátiles de consumo, PC para gaming y GPU de estaciones de trabajo, con especial atención a los tokens por segundo, la velocidad de prefill y decode, el uso de memoria y el ancho de banda entre CPU y GPU. Cada resultado incluye las condiciones exactas de la prueba, y ft bench bw te ayuda a decidir entre la descarga de capas y la ejecución híbrida de MoE en tu propio equipo.
¿Por qué consultar los benchmarks?
Establece expectativas realistas
Observa los tokens/s reales que puedes esperar de tu clase de GPU
Compara antes de comprar
Compara el rendimiento de las RTX 3090, 4090 y 5090 con tu presupuesto
Ajusta tu configuración
Usa los resultados de ft bench bw para elegir entre la descarga de capas y la ejecución híbrida
Destacadas y esenciales
FreeToken tokens por segundo: Guía de benchmarks para 2026
Aprende a interpretar los resultados de tokens por segundo de FreeToken, comparar hardware y mejorar el rendimiento de inferencia local de MoE en 2026.
FreeToken con una sola GPU: Guía de configuración de IA local
Descubre cómo FreeToken utiliza una GPU, la RAM del sistema y la ejecución MoE adaptativa para ejecutar grandes modelos de IA localmente.
Todos los benchmarks
Modelo FreeToken 290b: Guía de configuración de Edge MoE 2026
Aprende cómo FreeToken sirve modelos MoE de escala avanzada en hardware de consumo mediante caché adaptativa, programación del ancho de banda y memoria elástica.
Modelo FreeToken 753b: guía de configuración y consejos de ajuste de MoE
Descubre cómo FreeToken ejecuta localmente GLM-5.2 de 753B, incluyendo la configuración, la paginación de memoria, la caché de MoE, las pruebas de rendimiento y consejos prácticos de ajuste.
Benchmark de FreeToken: guía de configuración para servir MoE localmente
Analiza el benchmark de FreeToken, el diseño del servicio MoE local, los requisitos de hardware, el proceso de instalación y los resultados de rendimiento medidos.