AI privata · modelli serviti e addestrati da te
I tuoi modelli AI, addestrati sui tuoi dati, nella tua infrastruttura.
Le API AI pubbliche si pagano a token e vedono ogni richiesta che invii. Con WebRobot i modelli a pesi aperti li fai girare tu: li servi ai tuoi agenti e alle tue applicazioni, e li addestri sui tuoi documenti, conversazioni e dataset, in un ambiente che controlli. Abbiamo validato tutto lo stack su nodi GPU dei supercomputer europei e lo stiamo portando sui cloud privati.
Validato su nodi GPU EuroHPC (NVIDIA A100), ottobre 2026 · integrazione sui cloud privati (BYOC) in sviluppo
2.700 token/sserviti da un modello da 32B su un nodo
< 6 mintest di fine-tuning multi-nodo, dall’inizio alla fine
97,6 Gb/sInfiniBand tra nodi, dai nostri container
0dati che escono dal tuo ambiente
Perché usare modelli tuoi
- Niente bolletta a token. Paghi il calcolo che già controlli, non ogni parola che i tuoi agenti leggono e scrivono.
- I dati restano tuoi. Richieste, documenti e dati di addestramento non escono dalla tua infrastruttura.
- Un modello che parla la lingua del tuo business. Lo addestri sui ticket di assistenza, sui dati di prodotto, sulla conoscenza interna, sulla tua lingua o sugli strumenti che usano i tuoi agenti.
- Una sola piattaforma, dai dati al modello. Le stesse pipeline WebRobot che raccolgono e puliscono i tuoi dati li trasformano in un set di addestramento, e i modelli che addestri alimentano i tuoi agenti.
Cosa ottieni
- Modelli serviti in privato: modelli a pesi aperti fino a qualche decina di miliardi di parametri (provati con Qwen3 fino a 32B) dietro Ray Serve e vLLM, con un’API compatibile OpenAI per i tuoi agenti e le tue applicazioni.
- Fine-tuning guidato: un wizard in cui scegli il modello, i tuoi dati e il metodo — full fine-tuning, LoRA o QLoRA — e vedi memoria, GPU e tempo necessari prima di lanciare.
- Tutti i formati di dati più usati: testo libero per adattare il modello a un dominio, istruzioni e coppie domanda–risposta, conversazioni a più turni anche con uso di strumenti, coppie di preferenze per l’allineamento. I tuoi dataset WebRobot si collegano direttamente, con fonte e licenza tracciate.
- Su un nodo o su più nodi: da una GPU a più nodi collegati in InfiniBand, con la piattaforma che si occupa di cluster, rete e pulizia finale.
- I tuoi modelli, il tuo storage: modelli e adapter addestrati vengono salvati nel tuo object storage, pronti da servire o pubblicare.
- Le stesse garanzie del resto di WebRobot: runtime cifrati, verifica della licenza a ogni esecuzione e niente lasciato indietro a fine job.
Provato: modelli serviti in privato
Abbiamo servito due modelli aperti con Ray Serve e vLLM dentro un cluster Kubernetes effimero avviato da un job HPC, con le GPU passate ai container senza privilegi speciali.
Misure su nodi GPU EuroHPC, ottobre 2026| Modello | GPU | Pronto dopo il deploy | 1 richiesta | Molte richieste in parallelo |
|---|
| Qwen3-8B | 1× A100 40 GB | 3,5 min | 73 token/s | 1.900 token/s (32 in parallelo) |
| Qwen3-32B | 4× A100 40 GB | 5 min | 57 token/s | 2.700 token/s (64 in parallelo) |
I tempi includono il download dei pesi del modello. La prestazione è il totale dei token generati al secondo tra le richieste concorrenti.
Provato: una rete da supercomputer per l’addestramento
Addestrare su più macchine vuol dire scambiare gigabyte tra le GPU a ogni passo. Abbiamo reso InfiniBand, la rete a bassa latenza dei sistemi HPC, disponibile ai nostri container a piena velocità.
Tra container su due nodi diversi| Misura | Risultato |
|---|
| Banda RDMA | 97,6 Gb/s (velocità di linea piena) |
| Latenza RDMA | 1,5 µs |
| All-reduce tra GPU su InfiniBand | 9,3 GB/s — circa 450 volte più veloce che su un tunnel standard |
Provato: fine-tuning su più nodi
Come primo test completo abbiamo fatto il full fine-tuning di un modello aperto da 1,7B (Qwen3-1.7B) su un dataset aperto di istruzioni (databricks-dolly-15k), diviso su due nodi GPU.
Test di fine-tuning multi-nodo| Misura | Risultato |
|---|
| Addestramento | 200 passi in meno di 6 minuti, 2 nodi |
| Loss di validazione | 3,66 → 1,89 su esempi tenuti da parte |
| Memoria GPU | 21 GB per GPU su 40 |
| Risultato | Modello salvato in formato Hugging Face standard, ricaricato e funzionante |
È un test di validazione, non una misura di qualità. Ora stiamo ottimizzando la velocità (packing delle sequenze, più nodi) e aggiungendo LoRA e QLoRA.
In sviluppo: modelli decisionali che guidano il browser
Non ogni passo di un agente web ha bisogno di un grande modello linguistico. Scegliere la pagina successiva, capire come pagina un catalogo o riconoscere un muro di login sono decisioni rapide e tipizzate. Stiamo integrando piccoli modelli decisionali aperti che rispondono con probabilità calibrate invece che con testo generato, e che girano in locale sulla tua infrastruttura.
Il primo è OneJev (Apache 2.0, da 0,8 miliardi di parametri). I modelli si possono poi addestrare con il wizard qui sopra sulle navigazioni delle tue fonti, perché imparino i tuoi siti e il tuo settore.
- Navigazione agentica in tempo reale: a ogni passo l’agente chiede al modello quale elemento usare, se la pagina è finita e che tipo di pagina è. Il grande modello interviene solo quando la confidenza è bassa.
- Auto setup per il big data massivo: quando aggiungi una fonte, il modello guida l’esplorazione del sito e la configurazione della pipeline, così da poter scalare a migliaia di fonti.
- Direttamente nel motore Spark: il modello gira nella pipeline accanto al browser e si interroga senza passaggi di rete, per raccolte da milioni di pagine.
- Fonti rispettate: un muro di login, un paywall o una verifica anti-bot fermano l’esecuzione e vengono segnalati, mai aggirati.
Primi test sul nostro cluster Kubernetes, su CPU, sui nostri negozi demo: il modello ha scelto il link alla pagina successiva, il tipo di paginazione, il tipo di pagina e il link al prodotto giusti su tutte le pagine provate. Sono in corso l’ottimizzazione della velocità (modelli quantizzati, GPU) e l’integrazione nei motori.
Dove gira
Opzioni di installazione| Dove | A cosa serve | Stato |
|---|
| Il tuo cloud privato (BYOC) | nodi GPU nel tuo account cloud o data center, gestiti da WebRobot: modelli privati e fine-tuning accanto ai tuoi dati | in sviluppo |
| Supercomputer europei (EuroHPC e centri nazionali) | grandi addestramenti e progetti di ricerca sulla tua allocazione HPC | validato nei test |
Accesso anticipato
- Disponibile ora per progetti pilota: modelli serviti in privato e fine-tuning sulla tua allocazione HPC o sulla tua infrastruttura GPU, impostati insieme al nostro team.
- In arrivo: il wizard di fine-tuning nella console, LoRA e QLoRA, lo stesso stack sui cluster cloud privati (BYOC), e modelli decisionali locali per la navigazione del browser e l’auto setup nei motori Spark e agentico.
- Primi progetti ideali: un assistente addestrato sulla tua documentazione, un agente che conosce i tuoi strumenti, un modello nella tua lingua o nel tuo settore.
Modelli, dati e strumenti usati nei test
Metti al lavoro la tua AI sui tuoi dati
Raccontaci cosa vuoi che il tuo modello sappia e dove stanno i tuoi dati. Ti aiutiamo a scegliere modello, metodo e infrastruttura, e a fare un primo progetto pilota.
