Guía de instalación de FreeToken
Instrucciones paso a paso para instalar FreeToken en Windows o Linux mediante la aplicación de escritorio, PyPI, uv o el código fuente. Incluye los requisitos del sistema y la verificación del primer inicio.
¿Qué es la guía de instalación?
La guía de instalación explica todas las formas compatibles de ejecutar FreeToken en tu equipo: las aplicaciones de escritorio para Windows y Linux, el paquete freetoken[accel] de PyPI y la compilación desde el código fuente. Incluye los requisitos de CUDA y Python, la verificación del primer inicio y el flujo de trabajo básico de ft serve para que tu servidor de modelos local esté listo en minutos.
¿Por qué seguir la guía de instalación?
Elige el método adecuado
Elige entre la aplicación de escritorio, uv pip install freetoken[accel] o una compilación desde el código fuente según tu plataforma
Verifica los requisitos del sistema
Confirma tu versión de CUDA, los controladores de la GPU y la configuración de Python antes del primer inicio
Empieza a servir modelos en minutos
Ejecuta las comprobaciones del primer inicio y comienza el flujo de trabajo básico de ft serve con tu primer modelo
Destacadas y esenciales
Instalación de FreeToken: configuración paso a paso del servicio edge
Aprende a preparar el hardware, el almacenamiento, la memoria y los ajustes del entorno de ejecución para instalar el servicio MoE nativo para edge de FreeToken.
FreeToken linux: guía de configuración, límites y benchmarks
Descubre cómo FreeToken ejecuta grandes modelos MoE en hardware Linux, qué admite y cómo se compara su diseño de caché y ancho de banda.
Todas las guías de instalación
FreeToken pip: Guía de configuración y descripción general del runtime
Descubre qué hace FreeToken, cómo funciona su runtime MoE nativo para edge y qué debes verificar antes de buscar una instalación mediante pip.
Guía de configuración de FreeToken: servicio Edge MoE paso a paso
Usa esta guía de configuración de FreeToken para planificar el hardware, la memoria, el ancho de banda, la caché y las comprobaciones del entorno de ejecución para servir modelos MoE localmente.
FreeToken windows: Guía de configuración, límites y rendimiento
Aprende a configurar FreeToken en Windows, comprobar los requisitos de hardware, conectar agentes de programación compatibles y comprender los límites de rendimiento actuales.