- Qwen3-Coder-Next ofereix arquitectura MoE ultra eficient en un context natiu de 256K, ideal per treballar amb dipòsits grans en local.
- El model està optimitzat per als fluxos d'agent amb l'eina de crida avançada, integrant-se fàcilment amb Codex, Claude Code, llama-server i vLLM.
- Les quantitzacions GGUF, FP8 i 3–4 bits permeten executar el maquinari de consum, assolint altes velocitats de generació i el model cap a la memòria.
- Benchmarks independents i experiències reals mostren un rendiment comparable a models molt majors, amb menor cost d'inferència i gran flexibilitat de despliegue.
Qwen3-Coder-Next s'ha convertit en un dels models de codi més interessants per desplegar en local, gràcies a la seva arquitectura Mixture of Experts (MoE) de 80.000 milions de paràmetres totals amb només uns 3.000 milions d'actius per token. Això significa que pot oferir un rendiment propi de models que, en la pràctica, són molt més pesats, però mantenint uns requisits razonables per executar-lo en el teu propi equip, sense dependre de la núvol i amb el temps de resposta molt ràpid.
Si s'experimenta amb models com GLM-4.7-Flash, Codex o inclòs Claude Code, Qwen3-Coder-Next apunta justo a ese hueco: un assistent de programació ultra ràpid, amb un context massiu de fins a 256K fitxes, optimitzat per a agents (calling d'eines, execució de codi, interacció amb el sistema) i amb un focus especial en els fluxos de treball reals de desenvolupament, des d'explicar les bases de codis grans fins a automatitzar tares amb decenes o centenars de trucades a eines.
Què és realment Qwen3-Coder-Next i per què és important
Qwen3-Coder-Next està construït sobre la base Qwen3-Next-80B-A3B, un model amb arquitectura híbrida d'atenció i MoE, dissenyat específicament per maximitzar l'eficiència: 80B paràmetres totals, però només 3B actius en cada pas d'inferència. De cara a l'usuari, això es traduirà en un rendiment molt competitiu davant de models que necessiten de 10 a 20 vegades més paràmetres actius per aconseguir resultats semblants en tarees de codi i raonament a llarg termini.
Uno dels punts clau és que Qwen3-Coder-Next està entrenat amb un enfocament clarament “agentic”: en el lloc de limitar-se a pares textos-còdig estàtics, aprofitar un conjunt massiu de tares executables, interacció amb entorns i refuerzo (aprenentatge de reforç) basat en la qualitat de la resolució d'aquestes tares. Esa combinació fa que no només sepa generar codi, sinó també planificar seqüències llargues d'accions, cridar eines, reintentar quan algo falla i adaptar-se al feedback d'execució.
El model treballa únicament en el mode “no-thinking”, és decir, no inclou blocs de razonament explícit tipus , lo que recorta latència de forma notable. Per a fluxos intensius de programació, on lo que importa s'obté el codi ràpidament i truca a les eines, aquesta decisió és molt pràctica: respostes més curtes en el temps, menys ruido en els logs i millor integració amb frameworks d'agents.
Frente a otros modelos de código open-source, Qwen3-Coder-Next destaca per encajar molt bé en infraestructures locals de gama media-alta: amb quantificacions agressives (3-4 bits, FP8 dinàmico, etc.) es pot treure partit inclòs sense disposar d'estacions de treball del centre de dades, sempre que gestioni bé l'equilibri entre RAM, VRAM i emmagatzematge.
En benchmarks de tercers, Qwen3-Coder-Next es troba com un dels millors models per mida i cost d'inferència, ofreciendo resultats equiparables a models molt més grans en tarees de comprensió de codi, refactorització, generació guiada per eines i treball amb reposos extensos.
Característiques i capacitats clau de Qwen3-Coder-Next
Qwen3-Coder-Next gira al voltant de quatre pilares: eficiència d'inferència, context massiu, entrenament agentic i compatibilitat amb eines. Entenderlos és fonamental abans de planear un despliegue local o integrar-lo en el teu flux de treball de desenvolupament.
Primer, la inferència ultra eficient: encara que la xifra de 80B paràmetres totals puguin assistir, la realitat és que el model només activa uns 3B per token gràcies al seu disseny MoE. Combinat amb quantificacions com a 3-bit o 4-bit, pot correr a bona velocitat en hardware de consum, algo que abans estava reservat a models molt més petits o configuracions amb GPUs massives.
En segon lloc, el context natiu de fins a 256.000 fitxes permet treballar a escala de dipòsits complets, documentacions grans o converses llargues sense tenir que repetir a trucs de chunking o recuperació compleja. Per a usos locals on vulguis mantenir tota la història de la sessió i el contingut del codi accessible, aquesta finestra de context és un salt important. Si necessites reduir l'ús de memòria, pots limitar el context a 32.768 tokens, una xifra que segueix sent molt alta per a la majoria de casos.
Tercer, l'entrenament agentic basat en més de 800K tares executables amb interacció en entorns reals i refuerzo. Això fa que el model no només “sepa programar”, sinó que separa també com reaccionar quan un comando falla, com dividir un problema en passos, com coordinar múltiples trucades a eines i com corregir el rumbo a la meitat de la tarea. Això torna especialment útil en combinació amb agents tipus Codex, Claude Code o frameworks similars.
Cuarto, una integració molt cuidada amb tool calling: Qwen3-Coder-Next funciona bé amb agents com Claude Code, Qwen Code, Cline, OpenCode i altres fluxos de treball basats en l'API estil OpenAI. És capaç de proposar i formatear trucades a eines, executar codi, invocar comandaments del sistema i mantenir diàlegs extensos amb múltiples torns d'agent, algo essencial quan vulguis delegar tareas completes d'enginyeria de programari.
A nivell pràctic, el model està dissenyat per oferir temps de resposta molt baixos, Dado que no inclou capes extra per a razonament explícit. Això fa que se sent “àgil” quan s'utilitzi com a assistent d'editor, chatbot de codi o backend per a un agent que realitzi documents de trucades d'eina en segon lloc.
Requisits de maquinari, quantització i ajust del rendiment
Uno dels aspectes més delicats per a un despliegue local de Qwen3-Coder-Next és dimensionar bé el hardware i triar la quantificació adequada. La referència que da l'equip de Qwen per a un despliegue còmode és utilitzar 4-bit amb uns 46 GB de RAM/VRAM/memoria unificada. Si s'utilitza de 8 bits, la xifra és d'aproximadament 85 GB.
Si no disposa de 46 GB entre RAM i VRAM, no significa que no pugui executar el model; sí que podràs, però tindràs que repetir quantificacions més agressives (per exemple 3-bit) i estratègies per descarregar una discoteca. El principi recomanat és bastant clar: el tamany del model cuantizado hauria de ser similar a la suma de la vostra capacitat total (espai en disc ràpid + RAM + VRAM). Cuanto millor consiga “encajar” en aquesta suma, més probabilitat de que abasts velocitats superiors a 20 tokens per segon.
En equips amb GPU potents (per exemple RTX 5090 + RTX 4090 juntament amb un processador modern tipus 14900K i 32 GB de RAM), podeu optar per diverses estratègies. Una opció sensata és començar amb quantificacions de 4 bits i, si la memòria ho permet, provar configuracions NVFP4 o 6 bits per millorar la qualitat mantenint la velocitat bona. En la pràctica, amb aquesta combinació de maquinari es realista aspirar a ratios de generación cercanos o por encima de los 50 tokens por segundo, sempre que ajustes bé el backend (CUDA és preferible davant de Vulkan si usa les GPU NVIDIA recents).
Per als usuaris amb menys memòria o amb GPUs úniques, Qwen recomana no baixar de 3-bit si vol mantenir un equilibri raonable entre rendiment i qualitat de sortida. Quantizaciones massa agressives poden fer que el model se sent inestable, produir més errors de codi o pierda capacitat de razonament en tarees difícils, així que la regla pragmática és començar amb 4-bit, evaluar, i sol baixar a 3-bit si realment ho necessites per memòria.
Quan el model es fa servir principalment en RAM i VRAM, amb molt poc offloading a disco, les tasas de generació de 20+ tokens/s són totalment assolibles. Si, pel contrari, una part rellevant del model es veu obligada a estar en disc i l'accés no és bastant ràpid (per exemple, sense SSD NVMe), el rendiment caurà de forma notable, encara que el model siga funcionant.
Executant Qwen3-Coder-Next amb GGUF i llama.cpp
Una via molt popular per desplegar Qwen3-Coder-Next en local és utilitzar quantificacions GGUF junt amb llama.cpp. Aquesta combinació és especialment atractiva quan vol treure el màxim partit de GPUs de consum i CPUs multinúcleos, amb opcions de servidor HTTP i integrades i suport per a tecnologies de contenedorització.
Existeixen builds GGUF dinàmics de Qwen3-Coder-Next preparats per funcionar amb Unsloth, que facilita enormement la puesta en marxa. El flux típic és descarregar el model GGUF (per exemple, una versió de 4 bits o Q8_K optimitzada), llançar llama.cpp amb els flags apropiats i després consumir mitjançant l'API de servidor llama a través de frameworks com Codex.
Un exemple real de despliegue amb llama.cpp, orientat a Codex, utilitzant un comando similar a indicar el model GGUF, activar el suport Jinja, definir el nombre d'hilos, establir un context ampli (per exemple 150.000 tokens) i habilitar GPU offloading amb un valor alt de ngl per maximitzar l'ús de la VRAM. Paral·lelament, es configura un port (per exemple 8060), una direcció d'escolta (0.0.0.0) i un àlies de model com "qwen3-coder-next".
En aquesta configuració, l'API de respostes basades en llama.cpp s'integra amb Codex mitjançant la rama autoparser, que afegeix suport per a l'eina de crida i anàlisi estructurat. La experiencia reportada por usuarios indica que la calidad en tareas de exploración de bases de código (“explícame este módulo”, “qué hace esta función”) és comparable a models open-source de gama molt alta com gpt-oss-120b high, pese a que Qwen3-Coder-Next en GGUF requereix menys recursos en inferència.
Un comportament a tenir en compte és que, en alguns escenaris, les respostes de l'agent poden quedar-se “a mig camí”. Per exemple, el model pot generar alguna cosa com "Let me read source_file.c:" i detener abans de produir la trucada de l'eina corresponent. Des de la perspectiva de Codex, això sembla una finalització completa i deté la seqüència de trucades d'eines. A la pràctica, l'usuari pot reanudar manualment amb un “continue”, però per a fluxos amb més de 100 trucades d'eines pot ser pràctic assecar l'agent per a que sepa reanudar fins al model de marca explícitament el final.
Aun amb aquests matices, la combinació llama.cpp + GGUF + autoparser s'ha mostrat estable en tool calling, amb molt pocs problemes de format de trucades i un comportament predecible quan es defineixen eines per executar codi, manipular fitxers o llançar comandes del sistema.
Ús d'Unsloth Studio per a la inferència local i l'afinament
Unsloth Studio és una altra peça clau si vol desplegar Qwen3-Coder-Next en local amb una interfície web sencilla. Aquest entorn de codi obert permet executar models en macOS, Windows i Linux, i suportar integracions amb backends com llama.cpp i formats GGUF dinàmics, i facilitar la administració de dependències en Python.
Qwen3-Coder-Next té builds específics compatibles amb Unsloth Studio, el que et permet carregar el model, configurar-lo i començar a usar-lo des d'una UI gràfica sense necessitat de pelar amb demasiades opcions de línia de comandaments. A més, Unsloth ofereix suport per a l'ajustament lleuger mitjançant LoRA en precisió bf16, de manera que podeu adaptar el model al vostre propi domini o estil de codi sempre que tinguis una GPU bastant potent (una sola B200 és suficient per a aquest tipus de sintonia, segons les recomanacions).
Si el vostre objectiu és personalitzar Qwen3-Coder-Next amb els vostres dipòsits o estil de codificació, Unsloth Studio simplifica molt el procés: podeu preparar conjunts de dades d'exemples, llançar un entrenament supervisat lleuger i generar una variant adaptada sense tenir que reentrenar des del cap i gestionar manualment tots els paràmetres d'optimització.
En el context d'Unsloth, també pots jugar amb diferents quantitzacions dinàmiques per trobar el punt òptim entre consum de memòria, velocitat de fitxes i fidelitat del model. Això resulta especialment útil quan el teu equip es queda curt per a alojar quantificacions més pesades, però vols seguir aprofitant la qualitat de Qwen3-Coder-Next en tareas de complejitat alta.
El suport multiplataforma d'Unsloth Studio (macOS, Windows, Linux) fa una opció molt còmoda si estàs provant diferents entorns i no vols atarte a una única màquina. Pots replicar configuracions, moure models entre sistemes i mantenir una interfície consistent per als teus experiments i despliegues.
Implementació de Qwen3-Coder-Next a la producció amb llama-server
Quan arribi el moment de dur a terme Qwen3-Coder-Next a un entorn més proper a la producció, llama-server és una de les propostes recomanades. Es tracta d'un servidor pensat per a models exponers de la família llama.cpp (i compatibles) a través d'una API estil OpenAI, el que facilita enormement la integració amb serveis existents.
El flux típic de despliegue en producció amb llama-server implica llançar el servidor en una sessió separada (per exemple utilitzant tmux), carregar la versió de Qwen3-Coder-Next adequada (com la quantització 4-bit o la GGUF recomanada) i deixar-ho escoltant en un port accessible des de les teves aplicacions backend.
Des d'una segona terminal, instal·leu el paquet obert via pip, podeu consumir el model usant el client de l'API d'OpenAI, simplement indicant el nom del model que ha definit en llama-server (per exemple, “Qwen3-Coder-Next”). Això permet reutilitzar pràcticament qualsevol exemple de codi basat a l'API d'OpenAI amb canvis mínims: només ajustar l'endpoint i l'identificador de model.
El resultat és un despliegue que comporta com un servei de codi en el núvol, però completament allotjat a la vostra infraestructura.. Pots construir assistents interns de programació, bots de revisió de PRs, eines de documentació automàtica i agents complexos que llamen a Qwen3-Coder-Next per planificar, generar i corregir el codi sense exponer la teva base de codi a serveis externs.
En cas de que planees càrregues intensives (molts usuaris, pipelines concurrents, etc.), és important dimensionar bé el hardware i considerar estratègies d'escalada horitzontal (varias instancias de llama-server darrere d'un equilibrador) o partició de GPU. El model, pel seu disseny MoE amb 3B paràmetres actius, és especialment apto per reduir el cost per petició davant de models densos molt més grans.
Integració de Qwen3-Coder-Next amb Codex i Claude Code
Uno de los grandes atractivos de Qwen3-Coder-Next es que s'encaixa directament en fluxos de treball amb agents de codi com Codex o Claude Code. Si ja té configuracions per a altres models, el treball de migració sol reduir-se a canviar el nom del model i ajustar alguns paràmetres de context.
En el cas de Codex, podeu seguir les mateixes guies que utilitzeu per a altres models com GLM-4.7-Flash, substituint simplement l'identificador de model per “Qwen3-Coder-Next” i assegurant-se de que llamen a l'API de llama-server o vLLM correctament configurada. Del mateix modo, en Claude Code, podeu apuntar el client cap al vostre endpoint local i permetre que funcioni com si estigueu cridant a un proveïdor extern.
Quan es realitzin tarees de tipus "codificació de càrregues de treball agentiques" (per exemple, llegir fitxers, modificar funcions, executar tests, generar scripts i verificar resultats), Qwen3-Coder-Next mostra una capacitat notable per a mantenir el fil de la tarea a través de múltiples trucades d'eines, recuperar els errors d'execució i ajustar el pla sobre la marxa. Això encaixa molt bé amb els fluxos de treball en els que l'agent s'ha obligat a repetir diverses vegades sobre el codi fins a arribar a una solució estable.
Si treballa amb Claude Code i utilitza contextos molt extensos, és important tenir cura amb els límits configurats. Un error típic és rebre respostes del tipus: Error 400 de l'API "la sol·licitud (16582 testimonis) supera la mida de context disponible (16384 testimonis)". Aquest tipus de missatges indica que la configuració del servidor no està alineada amb la longitud de context que el client assumeix, per lo que hauràs d'augmentar la finestra de context en el servidor (per exemple, fins als 256K natius del model o un valor intermedi per ajustar el teu hardware).
Una vegada resueltos aquests detalls, l'experiència amb Qwen3-Coder-Next integrat en agents com Claude Code és molt fluid: pots demanar-les coses com a “Create a Python game for Chess” i deixar que el model, a través de l'agent, decidir-se amb l'arxiu, generar mòduls, provar el codi i iterar fins a aconseguir un resultat jugable.
Inferència FP8 amb vLLM per a configuracions d'alt rendiment
Per als entorns on el rendiment màxim és prioritari, Qwen3-Coder-Next també disposa de quantificacions FP8 dinàmiques compatibles amb vLLM. Aquest framework està optimitzat per a servir models de gran mida amb alta eficiència, aprofitant el màxim de GPUs modernes i tècniques avançades de gestió de memòria.
Per utilitzar Qwen3-Coder-Next amb vLLM en FP8, el primer pas és instal·lar una versió nocturna de vLLM des de l'índex oficial de ruedas (rodes), assegureu-vos d'utilitzar l'URL extra adequada per a la vostra versió de CUDA (per exemple, cu129 o cu130, que són actualment soportades). És important comprovar la vostra versió de CUDA amb eines com nvidia-smi abans d'instal·lar per evitar incompatibilitats.
Una vegada instal·lat vLLM, podeu llançar el servidor amb la versió FP8 dinàmica del model d'UnslothUn paràmetre clau és –kv-cache-dtype fp8, que redueix l'ús de memòria de la caché KV aproximadament a la meitat. Aquesta optimització és especialment útil quan maneges finestres de context grans o múltiples peticions concurrents.
En configuracions amb diverses GPU (per exemple 4 GPU de gamma alta), podeu aprofitar la paral·lelització tensorial ajustant –tensor-paral·lel-size al número de dispositius, o fijando CUDA_VISIBLE_DEVICES per seleccionar què utilitzar GPU. Si només comptes amb una GPU, bastant amb establir CUDA_VISIBLE_DEVICES='0′ i reduir el tamany de paral·lelització tensorial a 1 o eliminar aquest argument.
Tras llançar el servidor vLLM en una sessió tmux o similar, podràs interactuar amb Qwen3-Coder-Next a través d'una API estil OpenAI, de forma molt comparable a llama-server. Les capacitats d'eina de crida descrites anteriorment es mantenen: pots invocar funcions, executar codi i coordinar agents amb la ventaja añadida de la velocitat i l'eficiència pròpies de FP8 i vLLM.
Crida d'eines: des de funcions simples fins a fluxos de treball d'agents complets
Una de les àrees on Qwen3-Coder-Next brilla especialment és en l'ús de tool calling estructurat. Això permet passar d'un simple “asistent de xat de codi” a veritables agents capaços d'interactuar amb el vostre sistema, executar scripts, manipular fitxers i verificar resultats de manera autònoma.
L'enfocament típic consisteix a definir un conjunt d'eines en un nou terminal o script —per exemple, funcions per resumir dos números, executar codi Python, llançar comandaments de Linux o manipular fitxers (crear, llegir, escriure)— i exponer aquestes eines a través de l'API tipus OpenAI que serveix llama-server o vLLM.
Després, s'utilitzen funcions auxiliars que s'encarreguen d'analitzar automàticament les trucades d'eina que Qwen3-Coder-Next produeix, enviant les sol·licituds adequades a l'endpoint OpenAI-like i executant els efectes corresponents al vostre entorn local. D'aquesta manera, el model pot centrar-se en decidir quina eina utilitzar i amb quins arguments, mentre l'orquestració i la seguretat es gestiona en el teu codi.
Entre els casos d'ús més comunes estan l'execució del codi generat, l'automatització de tarees de terminal i la verificació del treball del propi model. Per exemple, podeu demanar que escrigui un script, executar-lo mitjançant una eina de shell i després sol·licitar que compruebe si l'arxiu generat existeix o si els resultats són els esperats. En proves reals, aquesta dinámica permet validar que el model va crear l'arxiu correcte, amb el contingut correcte, sense intervenció manual.
La guia de l'eina de trucades per a Qwen3-Coder-Next mostra diferents patrons per integrar fluxos de treball variats, des de la simple execució d'una funció fins a agents més complexos amb bucles de planificació, execució i reflexió. Amb una configuració responsable de permisos (especialment per a eines que executan comandaments del sistema), es pot construir un entorn poderós per automatitzar parts significatives del cicle de desenvolupament.
Punts de referència i comentaris del món real
Els benchmarks independents es troben a Qwen3-Coder-Next com un dels models més potents de la seva categoria, amb una relació qualitat-cost especialment atractiva. Avaluacions com les de Aider Polyglot Benchmarks o les realitzades per perfils com Benjamine Marie demuestran que el model compite de tú a tú con alternativas mucho más pesadas en tarees clau de programació.
Las métricas de cuantización GGUF també resulten molt favorables: amb 3-bit i 4-bit s'aconsegueix conservar gran part de la qualitat de generació mentre es redueixen dràsticament els requisits de la memòria. Això obre la porta a els desenvolupadors amb maquinari de gamma alta, però no de centre de dades, puguin gaudir de capacitats de nivell casi “empresa” en les seves estacions de treball.
En quant a feedback d'usuaris de camp, diversos reporten que l'experiència amb Qwen3-Coder-Next és comparable a models open-source premium com gpt-oss-120b high en tareas exploratòries sobre bases de codi.. La diferència està en que Qwen3-Coder-Next necessitar menys fitxes per arribar a explicacions útils, per reduir el cost d'inferència i millorar la latència general.
També s'han observat alguns matices, com les ocasions a les que el model té una resposta abans d'emetre l'eina de trucada esperada, generant fragments del tipus “Let me read…” sense seguir amb l'acció. Encara que això no és un fallo grave, sí sugiere que vale la pena ajustar los agentes que lo envuelven per permetre reintentos automàtics o continuaciones fins al model de marca de forma explícita que ha acabat.
En conjunt, la combinació d'altes puntuacions en benchmarks, bon comportament amb quantificacions agressives i testimonis positius d'ús real consolidar a Qwen3-Coder-Next com una opció molt seria per a quiens necessiten un model de codi robust, extensible i executable en local sense infraestructures sobredimensionades.
Teniendo en cuenta tot lo anterior, Qwen3-Coder-Next es posiciona com un candidat molt sòlid quan busqui un model de codi que pugui executar i afinar a la seva pròpia màquina., amb un context gigantesco per treballar amb repositoris complets, integració fluida amb agents com Codex i Claude Code, suport avançat de l'eina de crida i opcions de despliegue que van des de llama.cpp i llama-server fins a vLLM amb FP8. Ajustant bé la quantització al vostre maquinari, és possible gaudir d'un assistent de programació ràpid, versàtil i capaç de manejar fluxos agents complexos sense renunciar al control i la privacitat que ofereix el despliegue local.
