La rapida crescita dei carichi di lavoro di addestramento e inferenza basati sull’intelligenza artificiale ha spinto la gestione termica dei data center ben oltre i limiti del tradizionale raffreddamento ad aria. I moderni chip acceleratori di intelligenza artificiale assorbono abitualmente diverse centinaia di watt ciascuno e i rack di server densi pieni di questi acceleratori possono generare carichi di calore che l’infrastruttura di raffreddamento ad aria non è mai stata progettata per gestire in modo efficiente. Questo è l'ambiente in cui parti di raffreddamento a liquido del server AI ad alta precisione sono diventati essenziali anziché opzionali: piastre fredde, collettori, raccordi a sgancio rapido e pompe progettati per rimuovere il calore direttamente dai componenti più caldi con tolleranze strette ed eccezionale affidabilità. Questo articolo esamina quali sono questi componenti, perché l'ingegneria di precisione è così importante in questa applicazione e cosa dovrebbero capire gli operatori dei data center e gli integratori di sistemi quando specificano l'hardware di raffreddamento a liquido per l'infrastruttura AI.
Il raffreddamento tradizionale del data center si basa sulla forzatura dell'aria fredda attraverso i componenti del server, allontanando il calore attraverso la convezione. Questo approccio ha funzionato bene per decenni di elaborazione generica, in cui i singoli processori in genere dissipavano ben meno di 150 watt. Gli acceleratori AI utilizzati per l'addestramento e l'inferenza di modelli su larga scala, tuttavia, spesso dissipano da 400 a 700 watt o più per chip e un singolo server può contenere otto o più di questi acceleratori oltre a supportare CPU, memoria e hardware di rete.
A questa densità di potenza, l'aria semplicemente non può portare via il calore abbastanza velocemente senza richiedere enormi volumi di flusso d'aria, dissipatori di calore sovradimensionati e un consumo energetico corrispondentemente elevato delle ventole, che di per sé contribuisce in modo significativo e crescente al consumo energetico complessivo del data center. Il raffreddamento a liquido risolve questo problema in modo fondamentale, poiché il liquido di raffreddamento può assorbire e trasportare molto più calore per unità di volume rispetto all'aria, consentendo a componenti di raffreddamento molto più piccoli e più mirati di gestire lo stesso carico termico.
Invece di raffreddare l'intero cabinet del server con liquido, la maggior parte delle moderne architetture di raffreddamento a liquido AI utilizzano un approccio direct-to-chip, in cui una piastra fredda è montata direttamente sui componenti a calore più elevato, in genere la GPU o il pacchetto acceleratore AI e talvolta la CPU, mentre il refrigerante circola attraverso canali interni all'interno della piastra fredda, assorbendo il calore alla fonte prima che possa diffondersi attraverso il resto dello chassis del server.
A differenza delle apparecchiature di raffreddamento industriale generiche, le parti di raffreddamento a liquido dei server AI operano sotto vincoli fisici, termici e di affidabilità estremamente rigidi, motivo per cui l'ingegneria di "alta precisione" non è una frase di marketing ma un vero e proprio requisito tecnico.
La base della piastra fredda deve essere a contatto piatto quasi perfetto con il pacchetto chip per ridurre al minimo la resistenza termica all'interfaccia. Anche le irregolarità microscopiche della superficie possono creare traferri che riducono significativamente l'efficienza del trasferimento di calore, motivo per cui le superfici di base delle piastre fredde sono generalmente prodotte con tolleranze di planarità e finitura superficiale molto strette, spesso misurate in micrometri a una cifra.
All'interno di una moderna piastra fredda, il calore viene spesso rimosso attraverso una serie di microcanali interni estremamente fini o strutture ad alette che massimizzano la superficie di contatto tra il refrigerante e la base metallica. Queste strutture devono essere prodotte con elevata precisione dimensionale per ottenere le caratteristiche di flusso e i coefficienti di trasferimento del calore progettati: dimensioni incoerenti dei canali possono creare una distribuzione del flusso non uniforme, punti caldi localizzati e prestazioni di raffreddamento complessive ridotte.
I server AI che utilizzano il raffreddamento a liquido funzionano continuamente, spesso per anni, sotto una pressione del fluido interno costante. Qualsiasi guasto a guarnizioni o raccordi mette a rischio non solo le prestazioni di raffreddamento, ma anche potenziali perdite di refrigerante su hardware elettronico sensibile e costoso. Ciò rende la progettazione delle guarnizioni, la scelta dei materiali delle guarnizioni e le tolleranze di produzione dei raccordi una questione critica di ingegneria di precisione in tutto il circuito di raffreddamento del liquido.
I data center AI su vasta scala distribuiscono componenti di raffreddamento a liquido su migliaia di server contemporaneamente. La coerenza della produzione, ovvero garantire che la millesima piastra fredda funzioni in modo identico alla prima, è essenziale per prestazioni termiche prevedibili e uniformi in un intero parco macchine e qualsiasi variazione da parte a parte può creare squilibri termici che influiscono sulle prestazioni, sull'affidabilità o sulla durata del chip.
Le piastre fredde sono il componente a contatto termico diretto con il chip generatore di calore, tipicamente realizzate in rame o alluminio per la loro eccellente conduttività termica. Internamente, le piastre fredde sono dotate di strutture di canali o alette progettate per massimizzare il contatto del refrigerante con la superficie riscaldata riducendo al minimo la caduta di pressione attraverso la piastra, bilanciando le prestazioni di raffreddamento con la potenza di pompaggio richiesta per far circolare il refrigerante attraverso il sistema.
Collettori distribute coolant from a central supply line to multiple individual servers or components within a rack, and collect returning heated coolant back into the main loop. Rack-level manifolds must be precisely engineered to balance flow evenly across all connected servers, since uneven flow distribution can leave some servers under-cooled relative to others, even within the same rack.
Poiché i server in un ambiente raffreddato a liquido devono essere riparabili (rimossi, riparati o sostituiti senza svuotare l'intero circuito di raffreddamento), i raccordi a disconnessione rapida (QD) sono un componente fondamentale. I giunti QD ad alta precisione sono progettati per sigillare in modo affidabile e uniforme durante migliaia di cicli di collegamento-scollegamento, con perdite minime di refrigerante (spesso descritte come design "antigoccia" o "a basso gocciolamento") durante gli eventi di manutenzione.
Pompe circulate coolant through the cooling loop at controlled flow rates and pressures. In AI server applications, pump reliability is especially critical since pump failure can quickly lead to thermal throttling or shutdown of high-value compute hardware; many systems incorporate redundant pump configurations to maintain cooling continuity even if a single pump unit fails.
Una CDU funge da interfaccia tra l'infrastruttura di raffreddamento primaria della struttura e il circuito di raffreddamento a liquido a livello di server, spesso isolando i due circuiti del fluido per proteggere i componenti sensibili lato server da problemi di qualità dell'acqua della struttura, fornendo al contempo funzionalità di monitoraggio del flusso, filtraggio e rilevamento delle perdite in un punto centralizzato.
I sensori di temperatura, portata e pressione integrati in tutto il circuito di raffreddamento a liquido forniscono i dati in tempo reale necessari per rilevare problemi in via di sviluppo, come una piastra fredda parzialmente bloccata o una perdita lenta, prima che si trasformino in danni all'hardware o tempi di inattività non pianificati.
| Component | Funzione primaria | Requisito chiave di precisione |
|---|---|---|
| Piatto freddo | Rimozione del calore diretta a livello del truciolo | Planarità della base, precisione dei microcanali |
| Collettore | Distribuzione del refrigerante tra i server | Flusso bilanciato su tutte le connessioni |
| Attacco a sgancio rapido | Connessioni riparabili e senza perdite | Sigillatura affidabile attraverso cicli ripetuti |
| Pompa | Circolazione del liquido di raffreddamento | Portata e pressione costanti, affidabilità |
| CDU | Interfaccia loop tra struttura e server | Filtrazione, isolamento, precisione del monitoraggio |
| Sensori | Monitoraggio delle condizioni in tempo reale | Precisione della misurazione e tempo di risposta |
Rame remains the preferred material for cold plate construction due to its excellent thermal conductivity, allowing efficient heat transfer from the chip surface into the circulating coolant. Copper cold plates are often manufactured using precision machining, skiving, or additive manufacturing techniques to produce the fine internal channel structures needed for optimal performance.
Alluminio offers a lighter-weight, generally lower-cost alternative to copper, with somewhat lower thermal conductivity. Aluminum components are sometimes used in manifolds or larger structural cooling parts where weight and cost considerations outweigh the marginal thermal conductivity advantage copper would provide in those specific locations.
I raccordi, gli alloggiamenti a sgancio rapido e i corpi dei collettori sono spesso realizzati in acciaio inossidabile o tecnopolimeri ad alte prestazioni selezionati per resistenza alla corrosione, stabilità dimensionale e compatibilità con la specifica chimica del refrigerante utilizzata nel sistema.
La selezione del materiale di tenuta è fondamentale per la prevenzione delle perdite a lungo termine, con materiali scelti per compatibilità con la chimica del liquido di raffreddamento, resistenza alla degradazione nel corso di anni di funzionamento continuo e prestazioni di tenuta costanti nell'intervallo di temperature a cui sarà sottoposto il sistema.
La lavorazione a controllo numerico computerizzato consente la rimozione precisa del materiale per formare strutture di canali interni e ottenere una planarità della base strettamente controllata, offrendo un'elevata precisione per progetti di piastre fredde con modelli di canali geometrici ben definiti.
Scivolare is a specialized manufacturing process that shaves extremely thin fins directly from a solid block of copper or aluminum, creating dense, high-surface-area fin structures within a cold plate while maintaining strong thermal continuity between the fins and the base material.
Molti modelli di piastre fredde sono assemblati da più strati lavorati o stampati, uniti insieme utilizzando tecniche di brasatura (spesso brasatura sotto vuoto per la massima integrità del giunto) per creare una struttura di canale interno sigillata e priva di perdite senza introdurre resistenza termica nel giunto.
La produzione additiva in metallo è sempre più utilizzata per produrre piastre fredde con geometrie interne altamente complesse che sarebbero difficili o impossibili da ottenere attraverso la lavorazione tradizionale, consentendo agli ingegneri di ottimizzare le strutture dei canali specificamente per il modello di distribuzione del calore di un determinato chip.
Le piastre fredde e i componenti più ampi del sistema di raffreddamento devono essere dimensionati e progettati per corrispondere alla specifica potenza di progettazione termica del chip target, poiché una capacità di raffreddamento sottodimensionata può portare a una limitazione termica che riduce direttamente le prestazioni di calcolo dell'intelligenza artificiale, mentre una capacità sovradimensionata può aggiungere costi inutili e complessità del sistema.
Diversi sistemi di raffreddamento a liquido utilizzano diverse formulazioni di refrigerante, che vanno dalle miscele trattate di acqua e glicole ai fluidi dielettrici specializzati. Tutti i componenti a contatto con il fluido (piastre fredde, collettori, guarnizioni e raccordi) devono essere verificati come chimicamente compatibili con lo specifico refrigerante utilizzato per prevenire la corrosione, il degrado delle guarnizioni o la contaminazione del refrigerante nel tempo.
Ciascuna piastra fredda e collettore introduce una certa caduta di pressione nel circuito di raffreddamento complessivo. I progettisti del sistema devono bilanciare la portata necessaria per prestazioni di raffreddamento adeguate rispetto alla caduta di pressione cumulativa nell'intero circuito, che influisce direttamente sul dimensionamento della pompa e sul consumo energetico complessivo del sistema.
Data la portata delle implementazioni dei data center IA, i componenti di raffreddamento devono supportare procedure di servizio efficienti e a basso rischio, inclusi raccordi affidabili a disconnessione rapida che consentano la rimozione e la reinstallazione dei singoli server senza richiedere lo svuotamento e il riempimento dell'intero circuito di raffreddamento del rack.
Dato l’elevato valore dell’hardware di elaborazione da proteggere, robusti sistemi di rilevamento delle perdite e configurazioni ridondanti di pompe o percorsi di flusso sono sempre più considerati requisiti standard piuttosto che componenti aggiuntivi opzionali nelle implementazioni di infrastrutture AI mission-critical.
Si prevede che i data center AI funzioneranno ininterrottamente per anni, rendendo l’affidabilità a lungo termine dei componenti di raffreddamento a liquido tanto importante quanto le loro prestazioni termiche iniziali. L'affaticamento dei componenti, il degrado dei prodotti chimici del refrigerante nel tempo e l'usura graduale di guarnizioni e raccordi attraverso ripetuti cicli termici sono tutti fattori di cui i produttori rinomati tengono conto nei test di convalida della progettazione, spesso includendo test di durata accelerati per simulare anni di stress operativo entro un periodo di test compresso prima che un prodotto venga immesso sul mercato.
Anche con il refrigerante trattato, il funzionamento a lungo termine può portare alla corrosione graduale o alla formazione di incrostazioni minerali all'interno dei microcanali della piastra fredda se la chimica dell'acqua non viene mantenuta correttamente, riducendo potenzialmente le prestazioni di raffreddamento nel tempo. I componenti di alta precisione realizzati con materiali resistenti alla corrosione, combinati con un adeguato trattamento e filtraggio dell'acqua a livello dell'impianto, aiutano a ridurre al minimo questo rischio.
Il monitoraggio di routine delle portate, dei differenziali di pressione e della composizione chimica del refrigerante, combinato con la sostituzione programmata del filtro e l'ispezione periodica di raccordi e guarnizioni, supporta l'affidabilità del sistema a lungo termine e aiuta gli operatori a identificare i problemi in via di sviluppo prima che influiscano sui tempi di attività del server.
Poiché il consumo energetico degli acceleratori AI continua ad aumentare di generazione in generazione, i progetti di piastre fredde e circuiti di raffreddamento devono evolversi continuamente per gestire carichi di calore maggiori con ingombri fisici simili o addirittura inferiori, guidando l’innovazione continua nella progettazione di microcanali e nell’ingegneria dei materiali.
Man mano che l’adozione del raffreddamento a liquido si diffonde nel settore dei data center, cresce l’interesse per la standardizzazione di determinate dimensioni di interfaccia e tipi di connessione per i componenti di raffreddamento, con l’obiettivo di migliorare l’interoperabilità tra diversi produttori di server e fornitori di infrastrutture di raffreddamento.
Oltre al tradizionale raffreddamento a liquido monofase, alcuni produttori stanno sviluppando componenti di raffreddamento a due fasi, in cui il refrigerante vaporizza parzialmente mentre assorbe calore, offrendo il potenziale per una capacità di rimozione del calore ancora più elevata per unità di flusso di refrigerante, sebbene questo approccio introduca ulteriore complessità ingegneristica attorno alla gestione delle fasi e al controllo della pressione del sistema.
La crescente integrazione di sensori e analisi dei dati direttamente nei componenti di raffreddamento sta consentendo approcci di manutenzione predittiva più sofisticati, consentendo agli operatori dei data center di anticipare l’usura dei componenti o lo sviluppo di problemi prima che si traducano in tempi di inattività non pianificati.
I componenti di raffreddamento a liquido dei server AI ad alta precisione sono diventati l'infrastruttura fondamentale per i moderni data center AI, consentendo di gestire in modo affidabile ed efficiente le densità di potenza estreme richieste dagli acceleratori AI di oggi. Dalle piastre fredde con tolleranze strette e i collettori bilanciati agli affidabili raccordi a disconnessione rapida e pompe ridondanti, ogni componente nel circuito di raffreddamento a liquido deve soddisfare rigorosi standard di precisione e affidabilità per proteggere prezioso hardware di elaborazione e sostenere un funzionamento continuo su larga scala. Poiché i carichi di lavoro dell’intelligenza artificiale continuano a incrementare il consumo energetico dei chip, l’ingegneria alla base di questi componenti rimarrà un’area critica e in rapida evoluzione dell’infrastruttura del data center, determinando direttamente l’efficienza e l’affidabilità con cui la prossima generazione di elaborazione IA potrà essere fornita.
La rapida crescita dei carichi di lavoro di addestramento e inferenza basati sull’intelligenza artificiale ha spinto la gestione termica dei data center ben oltre i limiti del tradizionale raffr...
La rapida crescita dei carichi di lavoro dell’intelligenza artificiale ha posto esigenze senza precedenti alle infrastrutture dei data center, in particolare nell’area della gestione termica. Po...
La rapida espansione dei carichi di lavoro dell’intelligenza artificiale ha posto esigenze termiche senza precedenti sull’hardware informatico, determinando una corrispondente evoluzione nell’in...
Che cos'è la lavorazione di precisione CNC La lavorazione di precisione CNC è un processo di produzione controllato da computer che rimuove materiale da pezzi grezzi di metallo o plas...
La qualità dei prodotti lavorati a CNC è determinata fondamentalmente dalla corretta selezione e abbinamento dei materiali. Le differenze nella lavorabilità e nelle proprietà meccaniche dei vari ma...
L’alta precisione costituisce il principale vantaggio competitivo della lavorazione CNC. Soprattutto nel settore aerospaziale, dei dispositivi medici, degli strumenti di precisione e in altri setto...