Executeu agents en models de frontera gestionats avui mateix, o llogueu la capacitat de la GPU, implementeu els vostres propis pesos i encamineu les tasques de Digio a punts finals privats al mateix espai de treball.
Assigna un model predeterminat per agent o substitueix per tasca. L'ús es mesura en Digio Tokens a partir del saldo del vostre pla: la mateixa cartera tant si l'agent truca a Sonnet, GPT-4o o Gemini Flash.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
El coordinador pot recomanar Sonnet vs Opus en comparació amb un model flash més barat segons el tipus de tasca. Els usuaris avançats estableixen valors predeterminats per rol d'agent: investigació a Sonnet, revisió final a Opus, etiquetatge massiu a Haiku o Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Necessites un ajustament, un punt de control amb buit d'aire o un preu d'inferència previsible? Afegiu capacitat de GPU dedicada al vostre espai de treball Digio, instal·leu la pila de servei que preferiu i apunteu els agents al vostre punt final privat.
Nodes GPU per hora o mensual (classe A100, H100, L40S) connectats al vostre inquilí, aïllats d'altres clients.
Carregueu safetensors, GGUF o extreu-lo del vostre registre; executar Llama, Mistral, Qwen i ajustos personalitzats.
Imatges vLLM, TGI, Ollama o contenidors que manteniu: els agents de Digio criden a un URL base compatible amb OpenAI.
Per fer-ho, el xat d'equip, les habilitats i la col·laboració no canvien; només el backend d'inferència és vostre.
Envieu passos sensibles a la GPU privada i utilitzeu Claude o GPT per a la investigació pública en un sol flux de treball.
Peering de VPC, sortida estàtica, registres d'auditoria i llistes permeses de models per a equips regulats.
Configuració típica des de zero fins als agents que truquen al vostre punt final:
Trieu la VRAM, la regió i el temps de funcionament (ràfega vs sempre activada). L'emmagatzematge per a peses s'envia amb la instància o munta la vostra galleda.
Inicieu una imatge de publicació o SSH, instal·leu els controladors CUDA i carregueu els punts de control. Els controls de salut confirmen que el model està preparat.
Afegiu l'URL base, la clau de l'API i l'identificador del model a la configuració de l'espai de treball. Digio valida la latència i el format del testimoni abans de posar-se en marxa.
Trieu el vostre model privat com a predeterminat per als agents seleccionats; Els models Claude/GPT gestionats continuen disponibles paral·lelament.
El lloguer de la GPU es factura per separat de les subscripcions al pla Digio. Poseu-vos en contacte amb nosaltres per a la planificació de la capacitat, els SLA i la migració des d'un clúster d'inferència existent.
Triar API gestionades versus inferència autoallotjada a Digio.
La vostra subscripció a Digio cobreix la infraestructura, els agents i els Digio Tokens inclosos. L'ús del model gestionat cobra aquest saldo de testimonis mitjançant fitxes d'entrada/sortida reals. El lloguer de GPU és un complement per a les màquines que controleu.
Sí, cada agent pot tenir el seu propi predeterminat. Les tasques i els xats es poden substituir durant una sola execució sense canviar el valor predeterminat global.
Opus està ajustat per a un raonament més dur i plans més llargs i coherents; Sonnet és més ràpid i més barat per als bucles d'agent quotidians. Els models de haiku i de classe flash són els millors per a subtasques de volum.
Els espais de treball empresarials poden restringir els proveïdors de models de sortida i dirigir tot el trànsit d'agents al punt final de la GPU. El mode híbrid és el predeterminat per a la majoria d'equips.
Les ofertes depenen de la regió i de la demanda: normalment nivells de VRAM de 24 a 80 GB per a models de classe 7B a 70B i nodes multi-GPU per a piles més grans. Ajudem a mida VRAM a partir del vostre recompte de paràmetres i quantificació.
L'orquestració (agents, tasques, emmagatzematge) es manté al vostre pla. La inferència de la vostra GPU es factura com a temps de GPU; opcionalment podeu mesurar l'ús en forma de testimoni per a la devolució interna.
Agents, tasques i habilitats: l'espai de treball al voltant del model que trieu.
Comenceu avui a Claude i GPT i, a continuació, afegiu una GPU dedicada quan estigueu preparat per allotjar pesos personalitzats: els mateixos agents, les mateixes tasques, la vostra inferència.
