La capacità di calcolo sta diventando una risorsa strategica per le imprese, al pari dei dati e delle competenze necessarie a trasformarli in applicazioni. Portare l’intelligenza artificiale dalla sperimentazione alla produzione richiede però infrastrutture di un certo livello, acceleratori specializzati, reti ad alte prestazioni e sistemi capaci di alimentare e raffreddare macchine ad alta densità.
Per i CIO, la questione riguarda tanto la quantità di risorse da rendere disponibile quanto il modo in cui procurarsele. Costruire un ambiente proprietario, acquistare capacità dedicata oppure affittare GPU e servizi a consumo comporta differenti livelli di investimento, flessibilità e controllo. La convenienza cambia in funzione del progetto e della fase del suo ciclo di vita.
Training, fine-tuning, inferenza, RAG e preparazione dei dati presentano infatti profili molto diversi. Alcune attività concentrano grandi quantità di elaborazione in periodi limitati, altre generano una domanda continua. Alcune possono essere trasferite tra ambienti differenti, altre rimangono legate alla posizione degli archivi o a specifici vincoli normativi.
La strategia infrastrutturale deve quindi partire dai workload e dalla loro evoluzione, per arrivare soltanto in un secondo momento alla scelta tra build, buy e rent.
Indice degli argomenti
La domanda di calcolo ridisegna l’economia dei data center
L’espansione dell’intelligenza artificiale sta modificando la quantità e la qualità delle risorse richieste alle infrastrutture digitali. La crescita riguarda la potenza dei server, ma coinvolge anche energia, raffreddamento, storage e connettività.
I server accelerati spingono i consumi
Secondo l’International Energy Agency nell’analisi dedicata alla domanda energetica dell’AI, nel 2024 i data center hanno consumato circa 415 TWh, pari all’1,5% della domanda elettrica mondiale. Nello scenario di base dell’Agenzia, il valore potrebbe raggiungere circa 945 TWh nel 2030, poco meno del 3% dei consumi globali.
L’elettricità utilizzata dai server ad alte prestazioni, legati principalmente alla diffusione dell’intelligenza artificiale, è prevista in crescita del 30% l’anno. Queste macchine concentrano una potenza molto più elevata rispetto ai server tradizionali e richiedono impianti capaci di gestire densità crescenti.
Il rapporto del Lawrence Berkeley National Laboratory sui consumi dei data center negli Stati Uniti mostra la velocità del cambiamento. L’energia utilizzata dai server AI dotati di GPU è passata da meno di 2 TWh nel 2017 a oltre 40 TWh nel 2023. Per il 2028, il laboratorio stima che i data center statunitensi potrebbero assorbire tra 325 e 580 TWh, a seconda della quantità di acceleratori installati e delle modalità operative.
La disponibilità di calcolo dipende quindi sempre più dalla capacità dei sistemi energetici di sostenere i nuovi carichi. La progettazione di un ambiente AI deve considerare questa dipendenza fin dalle prime fasi, soprattutto quando l’impresa intende acquistare hardware o realizzare strutture proprie.
Raffreddamento e spazio allungano i tempi
Gli acceleratori rappresentano soltanto una parte dell’investimento. Il funzionamento dei cluster richiede networking ad alta velocità, storage capace di alimentare continuamente le GPU, sistemi di continuità e tecnologie di raffreddamento adeguate.
L’IEA stima che il raffreddamento possa rappresentare circa il 7% dei consumi nelle strutture hyperscale più efficienti, superando il 30% nei data center aziendali meno ottimizzati. L’Agenzia osserva inoltre che un nuovo sito può richiedere due o tre anni per entrare in esercizio, mentre lo sviluppo delle connessioni alla rete elettrica segue spesso tempi ancora più lunghi.
Il Global Data Center Survey 2025 di Uptime Institute registra una crescente attenzione degli operatori verso disponibilità di potenza, costi e pianificazione della capacità. Energia e accesso tempestivo all’hardware stanno diventando barriere sempre più significative all’espansione.
Questi vincoli incidono direttamente sulle strategie aziendali. Una soluzione conveniente sulla carta perde valore quando spazio, potenza elettrica o sistemi termici arrivano dopo la data prevista per il progetto. La velocità di attivazione diventa così una componente del calcolo economico.
Training, inferenza e sperimentazione richiedono risorse diverse
L’intelligenza artificiale comprende attività con profili di consumo eterogenei. Prima di stabilire dove collocarle, occorre comprenderne frequenza, durata, prevedibilità, requisiti prestazionali e relazione con i dati.
Sperimentazione e addestramento generano carichi discontinui
Nelle fasi iniziali di un progetto cambiano frequentemente modelli, dataset, tecniche di addestramento e obiettivi applicativi. Anche il numero di esperimenti e la quantità di risorse necessarie risultano difficili da stimare. La possibilità di aumentare, ridurre o sostituire rapidamente la capacità assume quindi un valore rilevante.
Il training concentra grandi quantità di elaborazione in periodi definiti. Una sessione può richiedere numerose GPU per alcuni giorni e lasciare poi le stesse risorse inattive durante la preparazione dei dati, la valutazione dei risultati o la revisione del modello. Il fine-tuning presenta generalmente dimensioni più contenute, ma conserva un andamento legato ai cicli di sviluppo.
L’evoluzione delle tecniche può modificare rapidamente il fabbisogno. L’adozione di modelli più piccoli, la quantizzazione, il pruning o una diversa strategia di addestramento possono ridurre la capacità necessaria. La crescita del progetto può produrre l’effetto opposto e richiedere configurazioni più ampie.
La sperimentazione attribuisce quindi un premio economico alla flessibilità. Impegnare capitale prima che il carico abbia assunto una forma sufficientemente stabile aumenta il rischio di acquistare macchine inadatte alla configurazione definitiva.
L’inferenza può trasformarsi in una domanda continua
L’inferenza segue un modello diverso. Una volta entrata in produzione, un’applicazione può generare richieste regolari e misurabili, legate al numero di utenti, transazioni o processi automatizzati. In questi casi, la domanda diventa più prevedibile e può giustificare capacità dedicata.
Il profilo conserva comunque una componente variabile. Un assistente digitale rivolto ai clienti può registrare picchi in determinate fasce orarie; una piattaforma interna può seguire il calendario lavorativo; un’applicazione industriale può richiedere disponibilità costante e bassa latenza.
Le architetture di retrieval augmented generation aggiungono ulteriori dipendenze. Il modello deve interagire con database, motori di ricerca, archivi documentali, sistemi di identità e applicazioni aziendali.
La segmentazione dei carichi consente di separare una capacità di base, stabile e continuativa, da quella necessaria per gestire i picchi. Un singolo servizio AI può quindi utilizzare contemporaneamente risorse dedicate e capacità a consumo, anticipando il modello ibrido che caratterizza molte architetture mature.
Build, buy or rent: tre modelli per distribuire costi e rischi
Una volta identificato il profilo dei workload, l’impresa può confrontare le modalità con cui procurarsi la capacità. Build, buy e rent indicano tre differenti combinazioni di investimento, controllo, responsabilità operativa e flessibilità.
Rent: flessibilità per progetti incerti e domanda variabile
Affittare significa utilizzare GPU, acceleratori e servizi infrastrutturali messi a disposizione a consumo da provider esterni. L’impresa può attivare rapidamente gli ambienti, provare configurazioni differenti e adeguare le risorse alla domanda.
Il modello rent si adatta alla sperimentazione, ai proof of concept, ai training occasionali e ai carichi soggetti a picchi. Riduce l’investimento iniziale e trasferisce al fornitore gran parte del rischio legato all’approvvigionamento e all’obsolescenza dell’hardware.
Il prezzo per unità di calcolo tende a essere superiore rispetto a quello di una macchina proprietaria impiegata intensamente. La convenienza dipende anche dalla capacità di terminare le istanze, dimensionare correttamente gli ambienti e attribuire i consumi ai singoli progetti.
Il valore del rent risiede nella possibilità di pagare la flessibilità quando serve, evitando di immobilizzare capitale in una fase nella quale il carico conserva ancora un’elevata variabilità.
Buy: capacità dedicata per carichi stabili e intensivi
Acquistare significa dotarsi di server e acceleratori dedicati, collocandoli in una struttura aziendale oppure presso un data center in colocation. L’organizzazione assume il rischio economico dell’investimento e la responsabilità della gestione tecnologica.
La proprietà diventa competitiva in presenza di utilizzo elevato, continuo e prevedibile su un orizzonte pluriennale. La possibilità di distribuire la capacità tra più team e applicazioni migliora ulteriormente il ritorno, riducendo i periodi durante i quali le GPU restano inattive.
La colocation consente di conservare il controllo sulle macchine affidando a un operatore specializzato alimentazione, raffreddamento, sicurezza fisica e connettività. Questa formula risulta particolarmente interessante per le imprese che desiderano capacità dedicata senza sostenere l’intera complessità immobiliare ed energetica di un sito proprio.
L’acquisto richiede però una pianificazione dell’obsolescenza. Le nuove generazioni di acceleratori modificano rapidamente prestazioni, memoria, consumi e velocità delle interconnessioni. Il vantaggio economico dipende dalla capacità dell’hardware di rimanere adatto ai workload per l’intero periodo di ammortamento.
Build: scala, energia e competenze diventano decisive
Costruire rappresenta l’estensione più impegnativa della proprietà. Comprende realizzazione o trasformazione dell’edificio, connessione alla rete elettrica, impianti termici, sistemi di continuità, sicurezza e gestione operativa.
Questa opzione offre il massimo controllo sulla struttura e permette di progettare alimentazione e raffreddamento in funzione delle esigenze specifiche dei cluster. Richiede però investimenti elevati, tempi lunghi e competenze che si estendono ben oltre la gestione informatica.
Le economie di scala assumono un peso determinante. Uptime Institute rileva che i data center di almeno 20 MW raggiungono mediamente valori di Power Usage Effectiveness migliori, anche grazie alla possibilità di distribuire gli investimenti su una capacità più ampia.
Per la maggior parte delle imprese, il confronto concreto tende quindi a concentrarsi tra rent e buy in colocation. Il build diventa sostenibile per organizzazioni capaci di assicurarsi energia, spazio e utilizzo della struttura per molti anni, come grandi operatori digitali, istituzioni o gruppi industriali con esigenze particolarmente estese.
Il TCO deve misurare il valore prodotto dai workload
Il confronto tra le tre opzioni richiede un Total Cost of Ownership capace di includere tutte le risorse utilizzate durante il ciclo di vita della piattaforma. Il prezzo della GPU o la tariffa oraria rappresentano soltanto il punto di partenza.
L’utilizzo effettivo conta più della capacità installata
Per l’infrastruttura acquistata, il TCO comprende hardware, storage, networking, software, manutenzione, energia, raffreddamento, spazio, personale, ricambi e costo del capitale. A queste voci si aggiungono la capacità mantenuta disponibile per resilienza e picchi, il rischio di guasto e il valore residuo delle macchine.
Nei servizi a consumo entrano invece istanze, archiviazione, traffico, copie dei dati, supporto e prenotazioni inutilizzate. La velocità di avvio possiede a sua volta un valore economico: anticipare la disponibilità di un servizio può compensare un costo orario più elevato.
La FinOps Foundation, nell’approfondimento sui costi delle pipeline di deep learning, identifica overprovisioning e tempi di inattività delle GPU tra le principali fonti di spreco. Evidenzia inoltre il peso dei trasferimenti, dello storage e dei processi di ottimizzazione.
La misurazione deve distinguere il tempo durante il quale una GPU è assegnata a un job dal periodo in cui produce effettivamente calcolo utile. Memoria occupata, potenza assorbita, saturazione dei core e durata delle code forniscono indicazioni complementari.
La capacità installata genera valore quando viene trasformata in risultati misurabili. Il costo per GPU-ora può quindi essere affiancato al costo per addestramento completato, per milione di inferenze, per token elaborato o per servizio erogato entro i livelli di latenza previsti.
La data gravity avvicina l’elaborazione agli archivi
Dataset molto voluminosi richiedono tempo, banda e risorse economiche per essere trasferiti. Più cresce la massa informativa, maggiore diventa la forza che tende a mantenere i workload vicino alla collocazione originaria dei dati: è il fenomeno della data gravity.
La questione riguarda le organizzazioni che raccolgono flussi continui da impianti industriali, dispositivi connessi, laboratori, sistemi sanitari o reti di vendita. Eseguire l’elaborazione vicino alle fonti può ridurre latenza, traffico e dipendenza dalla connettività.
Per banche, pubbliche amministrazioni, strutture sanitarie e imprese regolamentate, il trasferimento coinvolge inoltre classificazione delle informazioni, segregazione, audit, giurisdizione e gestione degli accessi amministrativi.
Competenze e obsolescenza modificano il punto di equilibrio
Gestire cluster accelerati richiede professionalità specializzate in orchestrazione, scheduling, networking, storage, sicurezza e ottimizzazione dei modelli. Servono inoltre processi per assegnare le risorse ai team, gestire le priorità e intervenire quando i job consumano capacità senza produrre risultati.
Uptime Institute segnala che quasi due terzi degli operatori incontrano difficoltà nel trattenere personale qualificato, nel trovare candidati adeguati o in entrambe le attività. Un’impresa già dotata di capacità HPC e procedure operative mature parte quindi da una posizione differente rispetto a un’organizzazione che deve sviluppare queste competenze da zero.
Anche l’obsolescenza entra nel calcolo. Una macchina più economica può produrre un TCO superiore se consuma più energia, completa il lavoro più lentamente o richiede una sostituzione anticipata. L’architettura deve inoltre permettere aggiornamenti graduali, evitando che l’intero cluster dipenda da un’unica generazione di acceleratori.
Il punto di equilibrio tra buy e rent varia quindi da impresa a impresa. Costo dell’energia, prezzo del capitale, competenze interne, durata del progetto e capacità di condividere le risorse incidono quanto il prezzo nominale dell’hardware.
L’approccio ibrido governa un portafoglio di capacità
La varietà dei carichi conduce molte organizzazioni verso una combinazione di cloud, colocation, data center aziendali ed edge. L’obiettivo consiste nell’assegnare ogni attività all’ambiente capace di offrire il miglior equilibrio tra velocità, controllo, costo e rischio.
La distribuzione segue il ciclo di vita dei progetti
Il cloud può ospitare sperimentazione, proof of concept, training occasionali e picchi. La colocation può accogliere workload produttivi ad alto utilizzo. Le infrastrutture aziendali o edge possono gestire dati sensibili, grandi flussi informativi e processi con requisiti stringenti di latenza.
Il quadro trova riscontro nell’indagine di Uptime Institute. Nel 2025 il 55% dei workload risultava ospitato in ambienti off-premise, mentre il 45% rimaneva nelle strutture aziendali. Per il 2027 gli operatori prevedevano una crescita moderata della componente esterna al 58%, confermando la persistenza delle strategie ibride.
Questa distribuzione può cambiare nel tempo. Un’applicazione nata su capacità affittata può migrare verso risorse dedicate quando domanda e configurazione diventano stabili. Un sistema proprietario può utilizzare capacità esterna per assorbire picchi o accedere temporaneamente a una nuova generazione di acceleratori.
L’ibrido rappresenta quindi un modello dinamico di allocazione, nel quale il placement segue la maturazione dei progetti anziché trasformarsi in una decisione definitiva.
Partecipa alla community