Sí: hoy puedes ejecutar un modelo de lenguaje de 125.000 millones de parámetros en tu propia GPU, sin nube, sin facturas por token y a una velocidad superior a la que lees. No es un titular optimista ni una demo de laboratorio: el 4 de octubre de 2026, la historia Run Qwen 3.8 Flash Next (125B) on consumer hardware alcanzó los 842 puntos y 370 comentarios en Hacker News, y el repositorio que la acompaña, Strata, gratuito y de código abierto, incluye tablas de rendimiento medidas en equipos de gama media. Para un freelance tech en España, esto no es una curiosidad de fin de semana: es la caída de la última barrera práctica de la IA local, y llegará a tus clientes antes de que el mercado haya aprendido a pedirla. En esta guía verás qué hace posible el hito, qué hardware necesitas de verdad, dónde están las trampas de rendimiento, qué cuesta en dinero real y cómo convertir todo esto en un servicio facturable.
Qué ha pasado exactamente: Strata, Qwen 3.8 Flash Next y el truco de los expertos
Resumen clave: La lectura de textos largos se hace en trozos de hasta 8.192 tokens a más de 1.000 tokens por segundo. En un PC de jugador corriente, una RTX 5070 de 12 GB con un Ryzen 5 7600 y 64 GB de RAM, la versión Q2_0 escribe 94 tokens por segundo y procesa un prompt de 32K tokens a 2.650 tokens por segundo. Con Strata y un modelo de esta clase, tus paquetes posibles son: 1.
La noticia tiene dos protagonistas. El primero es Qwen 3.8 Flash Next, un modelo abierto del equipo Qwen con 125.000 millones de parámetros totales y arquitectura mixture-of-experts (MoE): un equipo de 24.576 pequeños especialistas donde cada token generado solo activa 10 de ellos. Es lo que permite que el modelo sea enorme en conjunto pero ligero en cada paso. El segundo es Strata, un proyecto de código abierto (licencia MIT) publicado en GitHub por el usuario Niko1221, que orquesta ese modelo sobre hardware de consumo repartiendo el trabajo entre GPU, RAM, CPU y SSD.
La idea técnica, contada sin jerga: en un MoE, la mayoría de los expertos se usan pocas veces. Strata mantiene en la tarjeta gráfica los pocos miles de expertos más activos, guarda los 24.576 completos en la RAM del sistema, deja que el procesador trabaje en paralelo sobre el resto y usa el SSD como tabla de consulta gigante. Encima añade una segunda idea: un modelo pequeño adivina las próximas palabras y el grande las verifica en bloque, acelerando la generación entre 1,6 y 1,8 veces. La lectura de textos largos se hace en trozos de hasta 8.192 tokens a más de 1.000 tokens por segundo.
¿El resultado medido por los autores? En un PC de jugador corriente, una RTX 5070 de 12 GB con un Ryzen 5 7600 y 64 GB de RAM, la versión Q2_0 escribe 94 tokens por segundo y procesa un prompt de 32K tokens a 2.650 tokens por segundo. Los comentarios de Hacker News lo replican: un usuario con RTX 4090 y 128 GB de RAM DDR5 reporta 124 tokens por segundo. La propia documentación estima que una RTX 3090 de 24 GB se mueve entre 100 y 140 tokens por segundo. Para ponerlo en perspectiva: 60 tokens por segundo ya es más rápido de lo que lee la mayoría de la gente.
Por qué ahora y no hace un año
Tres piezas han encajado a la vez. Primera, los modelos MoE de pesos abiertos: la familia Qwen y otras alternativas demostraron que un modelo puede ser gigante en total y barato en cómputo activo, la misma lógica que ya explora nuestra guía de modelos de IA locales y de pesos abiertos para empresas. Segunda, las cuantizaciones agresivas: ISTA-DASLab y Unsloth comprimen el modelo a tamaños que caben en RAM doméstica (versiones Q2_0, IQ2_XS, IQ3_S y una IQ4_XS de ~4 bits de 94 GB). Tercera, el software de orquestación: Strata convierte todo eso en un instalador de doble clic para Windows o Linux. Ninguna pieza sola bastaba; la combinación sí.
El hardware que necesitas de verdad (y el que crees que necesitas)
La tabla de requisitos real de Strata es más modesta de lo que la mayoría imagina:
- GPU: 12 GB de VRAM o más. NVIDIA GeForce RTX serie 20, 30, 40 o 50, o AMD Radeon RX 7900/7800/7700, RX 9060/9070, RX 6800/6900. Incluso hay guías comunitarias para tarjetas antiguas (Tesla P40, GTX 10, Radeon VII) e Intel Arc en Linux.
- RAM: 32 GB como mínimo; con 64 GB entran todas las variantes del modelo. Con 96 GB puedes usar las versiones de mayor calidad.
- Disco: unos 80 GB libres; la descarga del modelo ronda los 70 GB y un SSD NVMe marca la diferencia.
- Sistema: Windows 10/11 o Linux con driver actualizado.
Es decir: el PC de juego que quizá ya tienes en casa, o una inversión de unos 1.500-2.500 € si compras el equipo completo. Nada de servidores con cientos de gigas de VRAM.
Qué tamaño de modelo elegir según tu RAM
El mismo modelo llega en varios niveles de compresión, y tu RAM decide cuál encaja: con 32 GB, la variante Coder (con la mitad de los expertos eliminados); con 48 GB, IQ2_XS o Q2_0; con 64 GB, IQ2_XS recomendada o IQ3_XXS/IQ3_S si prefieres máxima calidad; con 96 GB o más, IQ3_S o la UD-IQ4_XS de Unsloth. Dos datos que valen oro para un freelance: la variante Coder conserva el 91 % de la puntuación SWE-bench Verified del modelo completo y cabe en 32 GB de RAM, y la variante experimental UD-Q4_K_XL, la más cercana al modelo original, baja a 7-8,5 tokens por segundo en un equipo de 64 GB porque Strata la lee del SSD mientras responde.
La trampa de los 100 tokens por segundo: lo que el titular no cuenta
Si vendes esto a un cliente, o te lo vendes a ti mismo, sin matices, acabas quemado. La generación de texto es la mitad fácil del problema. La otra mitad es el procesamiento del prompt: la primera vez que el modelo lee un documento largo, un histórico de chat o un código base enorme, Strata necesita alrededor de un minuto por cada 30.000 tokens. En los comentarios de Hacker News ya se señala: la pregunta incómoda no es cuántos tokens por segundo escribe, sino cómo se comporta el procesado con 16K de contexto.
Tres límites prácticos que debes conocer antes de prometer nada
1. Un solo turno. Por defecto, Strata atiende una petición cada vez y las demás esperan; puedes activar respuestas paralelas ("parallel": 2), pero en una tarjeta de 12 GB cada respuesta se vuelve más lenta. 2. La RAM es el suelo duro. Strata carga entre 35 y 55 GB en memoria y bloquea parte para la GPU; si el equipo se queda corto, el motor se para. 3. El arranque puede congelar el PC de uno a tres minutos la primera vez. Nada de esto es un problema para un asistente personal o un equipo pequeño; todo ello lo es si prometes reemplazar la API de producción de una empresa con tráfico concurrente.
Dónde encaja bien y dónde no
Encaja: asistentes de código personales (hablamos luego de agentes), procesamiento de documentos sensibles por lotes, chatbots internos de bajo tráfico, prototipos, entornos sin conexión. No encaja todavía: servicio con decenas de peticiones simultáneas, prompts de cientos de miles de tokens con respuesta inmediata, o cargas donde cada segundo de latencia cuesta dinero. La honestidad sobre esta frontera es, paradójicamente, tu mejor argumento de venta.
Cuánto cuesta de verdad: la aritmética que le interesa a tu cliente
Aquí es donde el asunto deja de ser un hobby. La comparación económica nunca es «gratis contra caro»: es coste fijo contra coste variable. Un equipo capable ronda los 1.500-2.500 € una vez, más un consumo eléctrico modesto si el uso es intermitente; una API frontier por volumen alto cuesta cifras de tres dígitos al mes, todos los meses, para siempre, con subidas de precio que no controlas. El punto de equilibrio depende del volumen, pero para un despacho que procesa miles de documentos al mes, la amortización se mide en trimestres, no en años. Y hay dos líneas del cálculo que las APIs no incluyen: los datos no salen del edificio y no hay dependencia de proveedor. Si quieres aprender a defender ese tipo de ahorros con cifras, el razonamiento que ya aplican los freelances FinOps en España se traslada casi tal cual.
El dato incómodo del mercado español
Según los datos de SeniorStack, en nuestro corpus de 24.953 ofertas tech analizadas, la palabra «LLM» aparece en 1.284 (un 5,1 %) y «inteligencia artificial» en 775, pero «Ollama», la herramienta de referencia para correr modelos en local, aparece en solo 18. Menos del 0,1 %. Es decir: las empresas españolas ya piden IA en sus ofertas, pero casi ninguna pide desplegarla en local. La demanda de resultado existe; la conciencia de que ahora existe una opción local seria, no. Ese hueco entre lo que la tecnología permite desde esta semana y lo que el mercado sabe pedir es exactamente donde viven los servicios freelance pioneros.
El stack que sí piden (y cómo encaja el local)
Según nuestra agregada de AI & NLP senior en remoto en España, las 71 ofertas activas del segmento en el Q4 2026 piden Python (50,7 %), AWS (42,3 %), GCP y Azure (23,9 % cada una) y LangChain y LangGraph (22,5 % cada una). Traducción: el mercado contrata orquestación en la nube. Tu ventaja no es competir en AWS, sino presentarte con un stack complementario, LangChain/LangGraph apuntando a un endpoint local en vez de a una API, y explicar cuándo esa arquitectura gana. Por cierto, la prima salarial de saber IA es real y medible: la hemos cuantificado en nuestro análisis de la prima salarial de la IA en España.
El nicho freelance: cuatro servicios que ya puedes vender
La guía definitiva de modelos de IA locales para empresas ya cubría el porqué del servicio; lo que cambia esta semana es el qué concreto. Con Strata y un modelo de esta clase, tus paquetes posibles son:
1. El piloto «IA privada» de dos semanas
Despliegue de Strata o equivalente en un equipo del cliente, integrado como proveedor OpenAI-compatible en http://127.0.0.1:8080/v1 (cualquier app que hable OpenAI funciona sin cambios; Claude Code se conecta con ANTHROPIC_BASE_URL y Codex CLI vía /v1/responses; hay incluso un servidor MCP para que los agentes lo administren). Entregable: un asistente interno funcionando sobre documentos del cliente, con nada saliendo de su red. Precio orientativo de mercado: entre 1.500 y 3.500 € según alcance.
2. Auditoría de «¿podemos tirar la API?»
Estudio de una semana: inventario de casos de uso de IA del cliente, volumen de tokens real, requisitos de privacidad y latencia, y una recomendación binaria con números: qué cargas migrar a local, cuáles mantener en API y cuál es el punto de equilibrio. Es la puerta de entrada perfecta porque no exige compromiso tecnológico, solo un informe.
3. Asistente de código on-premise para equipos pequeños
La variante Coder, con el 91 % del SWE-bench Verified del modelo completo en 32 GB de RAM, convierte cualquier PC de desarrollo en un endpoint de autocompletado y agente sin licencias por asiento y sin código fuente viajando a terceros. Para estudios de 5-15 personas que no quieren (o no pueden, por contrato con sus clientes) enviar código a la nube, el argumento se vende solo.
4. Retainer de operación y evolución
El modelo local no se mantiene solo: actualizaciones de modelo y de motor, ajuste del nivel de cuantización según crezca la RAM, monitorización del rendimiento (la app de Strata incluye un Monitor en vivo de GPU/CPU/RAM), backups de configuración y evaluación de nuevas versiones. Este mantenimiento recurrente encaja de lleno en el modelo de contrato retainer para freelance tech, con cláusulas de alcance claro para que no se convierta en un soporte infinito.
Cómo empezar esta semana sin perder el foco
Primero, móntalo para ti: descarga el proyecto, deja que tu propio asistente de código lo configure (el README incluye un prompt listo para pegar en Claude Code, Cursor o Copilot que comprueba GPU, RAM y disco y elige el tamaño correcto), y úsalo una semana entera en trabajo real. Segundo, documenta tres métricas honestas: tokens por segundo en tu hardware, tiempo de arranque y comportamiento con tus prompts reales. Tercero, escribe un caso práctico de 800 palabras con esas cifras y publícalo donde estén tus clientes. El que puede decir «lo uso a diario y estas son mis cifras» gana siempre al que solo leyó el titular.
Preguntas frecuentes sobre Qwen 3.8 Flash Next en local
¿Se puede de verdad ejecutar Qwen 3.8 Flash Next de 125B en una GPU doméstica?
Sí. Strata lo hace combinando la arquitectura MoE del modelo (solo 10 de 24.576 expertos activos por token) con una distribución inteligente del trabajo entre GPU, RAM, CPU y SSD, más decodificación especulativa. Las mediciones públicas van de 60 a 124 tokens por segundo en tarjetas de consumo, y el propio proyecto estima 100-140 tokens por segundo en una RTX 3090 de 24 GB.
¿Qué requisitos mínimos tiene?
Una GPU con 12 GB de VRAM o más (NVIDIA RTX 20-50 o varias AMD Radeon recientes), 32 GB de RAM (64 GB para todas las variantes), unos 80 GB de disco y Windows 10/11 o Linux. La descarga del modelo ronda los 70 GB.
¿La calidad es comparable a la del modelo en la nube?
Depende del nivel de compresión. Las variantes más cuantizadas (Q2_0, IQ2_XS) priorizan velocidad y pierden algo de calidad; IQ3_S o la IQ4_XS de Unsloth se acercan más al original a costa de requerir más RAM. La variante Coder conserva el 91 % de la puntuación SWE-bench Verified según sus autores. En tareas de código y texto general la diferencia práctica es menor de lo que sugieren los nombres, pero conviene testear con tus casos reales.
¿Es útil para empresas españolas o solo para cacharrear?
Para volúmenes moderados, privacidad de datos o entornos sin conexión, es una opción de producción razonable desde ya. Según los datos de SeniorStack, solo 18 de 24.953 ofertas analizadas mencionan Ollama: casi ninguna empresa pide IA local todavía, lo que significa poco ruido competitivo para quien llegue primero con un caso de uso claro.
¿Cuánto cuesta montar esto como freelance?
El software (Strata) es gratuito y de código abierto bajo licencia MIT; el modelo tiene su propia licencia comunitaria de Qwen. El coste real es el hardware: desde unos 1.500 € si ya tienes una GPU válida, hasta unos 2.500 € por un equipo completo nuevo. Frente a facturas de API recurrentes, la amortización para volúmenes altos se mide en meses.
¿Qué NO debería prometer a un cliente?
Concurrencia alta (por defecto atiende una petición cada vez), procesado instantáneo de prompts enormes (~1 minuto por cada 30.000 tokens en la primera lectura) o reemplazo total de sus APIs de producción. Promete lo que has medido en tu propio equipo, ni una cifra más.
La barrera psicológica de la IA local siempre fue «necesitas un centro de datos». Esta semana esa frase ha dejado de ser cierta para el 90 % de los casos de uso de una pyme. La pregunta para ti, como freelance, no es si tus clientes lo pedirán, según nuestras ofertas analizadas, aún no saben que pueden, sino si estarás tú delante de esa petición o detrás.
¿Te está sirviendo SeniorStack? Añádenos a tus fuentes preferidas en Google y nos verás destacados en tus resultados y respuestas de IA.