Η υγρή ψύξη ενισχύει την απόδοση και την αποδοτικότητα της πλατφόρμας Blackwell της Nvidia

 

Η ταχεία ανάπτυξη της τεχνητής νοημοσύνης (AI), ειδικά σε τομείς όπως το Generative AI (GenAI) και τα μεγάλα γλωσσικά μοντέλα (LLMs), έχει οδηγήσει σε μια άνευ προηγουμένου ζήτηση για υπολογιστική ισχύ. Καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται πιο περίπλοκα και απαιτούν περισσότερα δεδομένα, το υλικό που απαιτείται για την υποστήριξη αυτών των εξελίξεων αντιμετωπίζει σημαντικές προκλήσεις, ιδιαίτερα με την απαγωγή θερμότητας. Οι παραδοσιακές μέθοδοι ψύξης, όπως η ψύξη με αέρα, δεν επαρκούν πλέον για τη διαχείριση της κατανάλωσης ενέργειας του προηγμένου εξοπλισμού τεχνητής νοημοσύνης, και εδώ μπαίνουν στο παιχνίδι οι λύσεις υγρής ψύξης.

 

Η τεχνολογία υγρής ψύξης έχει κερδίσει την προβολή ως ένας εξαιρετικά αποτελεσματικός τρόπος διαχείρισης της θερμικής απόδοσης των κέντρων δεδομένων AI. Είναι ιδιαίτερα σημαντικό για πλατφόρμες όπως η αρχιτεκτονική Blackwell της Nvidia, όπου η τεράστια υπολογιστική ισχύς απαιτεί προηγμένα συστήματα ψύξης για να διασφαλιστεί η απόδοση και η μακροζωία.

 

ΣτοHotchip 2024συνέδριο, η Nvidia παρουσίασε την καινοτόμο λύση της, ενσωματώνονταςζεστό νερό Direct to Chip υγρόψυξητεχνολογία με την αρχιτεκτονική Blackwell για την αντιμετώπιση των προκλήσεων κατανάλωσης ενέργειας και ψύξης κατά την τοποθέτηση. Αυτή η εξέλιξη σηματοδοτεί μια βασική πρόοδο στον σχεδιασμό υλικού τεχνητής νοημοσύνης, μειώνοντας το λειτουργικό κόστος και βελτιώνοντας την αποτελεσματικότητα σε εφαρμογές τεχνητής νοημοσύνης μεγάλης κλίμακας.

 

▲ Οδηγός Hot Chips: Liquid Cooling Boosts Performance and Efficiency

 

The Rise of Liquid Cooling Technology

 

Η τεχνολογία υγρής ψύξης αναδεικνύεται ως κρίσιμο στοιχείο στο σχεδιασμό των κέντρων δεδομένων AI λόγω των αυξανόμενων απαιτήσεων ισχύος των τσιπ AI. Καθώς οι εφαρμογές τεχνητής νοημοσύνης αυξάνονται, η κατανάλωση ενέργειας στα κέντρα δεδομένων αναμένεται να αυξηθεί δραστικά. Πολλοί επεξεργαστές AI, συμπεριλαμβανομένου του H100 της Nvidia και του νέου τουΑρχιτεκτονική Blackwell, καταναλώνουν οπουδήποτε από 700W έως 1200W ισχύος. Αυτή η τεράστια άντληση ενέργειας επιδεινώνεται όταν τα clusters AI, που αποτελούνται από χιλιάδες GPU, λειτουργούν από κοινού.

 

Για παράδειγμα,Το εκπαιδευτικό σύμπλεγμα AI του Elon Musk, το μεγαλύτερο στον κόσμο με 100,000 H100 GPU, είναι εξ ολοκλήρου υγρόψυκτο για τη διαχείριση της ενεργειακής ζήτησης 31-μεγαβάτ. Τέτοια παραδείγματα δείχνουν γιατί η βελτιστοποίηση της τεχνολογίας ψύξης είναι κρίσιμη - όχι μόνο για τη μείωση του λειτουργικού κόστους αλλά και για τη βελτίωση της συνολικής απόδοσης των συστημάτων AI. Καθώς η ανάγκη για τεχνητή νοημοσύνη υψηλότερης απόδοσης συνεχίζει να αυξάνεται, η υγρή ψύξη θα διαδραματίζει όλο και πιο κεντρικό ρόλο στη διατήρηση των υπολογιστικών συστημάτων υψηλής απόδοσης.

 

 

Τα οφέλη της υγρής ψύξης σε κέντρα δεδομένων AI

Η υγρή ψύξη ξεχωρίζει λόγω της ικανότητάς της να μεταφέρει απευθείας τη θερμότητα μακριά από κρίσιμα εξαρτήματα όπως οι CPU και οι GPU, βελτιώνοντας την απαγωγή θερμότητας σε σύγκριση με την παραδοσιακή ψύξη αέρα. ΣεΆμεση υγρή ψύξη (DLC), το ψυκτικό έρχεται σε άμεση επαφή με το τσιπ, ενισχύοντας τη θερμική απόδοση και μειώνοντας την ανάγκη για ογκώδεις ανεμιστήρες και συστήματα κλιματισμού. Αυτό έχει ως αποτέλεσμα χαμηλότερη κατανάλωση ενέργειας για ψύξη, μειώνοντας έτσι το συνολικό κόστος λειτουργίας του κέντρου δεδομένων.

 

Επί πλέον,Immersion Liquid Cooling, όπου ολόκληροι διακομιστές βυθίζονται σε ένα διηλεκτρικό υγρό, παρουσιάζει μια ακόμη πιο αποτελεσματική λύση ψύξης. Αυτή η μέθοδος όχι μόνο διασφαλίζει ότι όλα τα εξαρτήματα παραμένουν δροσερά, αλλά και ελαχιστοποιεί τη μηχανική φθορά, η οποία παρατείνει τη διάρκεια ζωής του υλικού και μειώνει σημαντικά τον θόρυβο από τον εξοπλισμό που κινεί τον αέρα.

 

 

Προκλήσεις κατανάλωσης ενέργειας στο υλικό AI

 

Καθώς τα συστήματα τεχνητής νοημοσύνης κλιμακώνονται, η κατανάλωση ενέργειας παρουσιάζει μια αυξανόμενη πρόκληση. Υλικό AI, όπως τοGPU Nvidia H100και τοΑρχιτεκτονική Blackwell, είναι γνωστό ότι χρειάζονται ενέργεια, με απαιτήσεις ισχύος που φτάνουν έως και 1200 W ανά τσιπ. Ένα τυπικό σύμπλεγμα AI που περιέχει 22,000 H100 GPU, για παράδειγμα, μπορεί να απαιτεί έως31 μεγαβάτ ηλεκτρικής ενέργειας-ισοδύναμη με την κατανάλωση ρεύματος μιας μικρής πόλης.

 

Αυτή η τεράστια ζήτηση ενέργειας όχι μόνο αυξάνει το λειτουργικό κόστος των κέντρων δεδομένων αλλά συμβάλλει επίσης σε σημαντικές περιβαλλοντικές επιπτώσεις. Για την αντιμετώπιση αυτών των προκλήσεων, τα κέντρα δεδομένων πρέπει να επικεντρωθούν τόσο στη μείωση της κατανάλωσης ενέργειας όσο και στη βελτίωση της απόδοσης ψύξης.

 

 

Το Blackwell Architecture της Nvidia και το Warm-Water Direct to Chip Cooling

 

ΣτοΣυνέδριο Hotchip 2024, η Nvidia αποκάλυψε τη λύση της για την ενσωμάτωση υγρής ψύξης με την αρχιτεκτονική της Blackwell, αξιοποιώνταςζεστό νερό Τεχνολογία ψύξης Direct to Chip. Αυτή η προσέγγιση χρησιμοποιεί ζεστό νερό (σε αντίθεση με το κρύο νερό) για να απορροφήσει και να μεταφέρει θερμότητα απευθείας από το τσιπ. Χρησιμοποιώντας ψύξη ζεστού νερού, η Nvidia μπορεί να μειώσει την κατανάλωση ενέργειας ψύξης των κέντρων δεδομένων έως και 28%.

 

Η αποτελεσματικότητα αυτής της λύσης είναι διπλή: όχι μόνο μειώνει τη συνολική κατανάλωση ενέργειας για ψύξη, αλλά επιτρέπει επίσης την ανάκτηση της απορριπτόμενης θερμότητας, η οποία μπορεί να επαναχρησιμοποιηθεί για άλλες χρήσεις, όπως η θέρμανση κοντινών κτιρίων. Επιπλέον, η ψύξη με ζεστό νερό επεκτείνει τη λειτουργική διάρκεια ζωής των διακομιστών διατηρώντας τα τσιπ εντός των βέλτιστων ορίων θερμοκρασίας, αποτρέποντας την υπερθέρμανση και μειώνοντας τη φθορά.

 

▲ Διάλυμα ψύξης με ζεστό νερό απευθείας στο τσιπ

 

Αυτή η τεχνική ψύξης είναι ιδιαίτερα σημαντική καθώς εφαρμογές τεχνητής νοημοσύνης όπως το GenAI και τα LLM συνεχίζουν να αυξάνουν την υπολογιστική ισχύ που απαιτείται στα κέντρα δεδομένων. Η ικανότητα διατήρησης βέλτιστων θερμοκρασιών επηρεάζει άμεσα την απόδοση και την επεκτασιμότητα των φόρτων εργασίας AI, διασφαλίζοντας ότι αυτά τα συστήματα μπορούν να χειριστούν τις έντονες απαιτήσεις που τους τίθενται.

 

 

 

Immersion Liquid Cooling: A Step Beyond

 

Εκτός από την Άμεση Υγρή Ψύξη,Immersion Liquid Coolingκερδίζει επίσης έλξη ως λύση επόμενου επιπέδου για συστήματα τεχνητής νοημοσύνης μεγάλης κλίμακας. Αυτή η μέθοδος βυθίζει ολόκληρους διακομιστές σε ένα μη αγώγιμο, διηλεκτρικό υγρό, το οποίο απορροφά και διαχέει πλήρως τη θερμότητα από όλα τα εξαρτήματα. Με την ψύξη ολόκληρου του συστήματος με αυτόν τον τρόπο, το Immersion Liquid Cooling προσφέρει τα ακόλουθα πλεονεκτήματα:

 

• Βελτιωμένη απόδοση ψύξης: Περιβάλλοντας όλα τα εξαρτήματα με ψυκτικό υγρό, αυτή η μέθοδος παρέχει ομοιόμορφη και αποτελεσματική αφαίρεση θερμότητας.
• Χαμηλότερο κόστος συντήρησης: Χωρίς κινούμενα μέρη όπως ανεμιστήρες, υπάρχει λιγότερη μηχανική φθορά, γεγονός που μειώνει το κόστος συντήρησης και παρατείνει τη διάρκεια ζωής του εξοπλισμού.
• Βελτιωμένη ενεργειακή απόδοση: Η ψύξη με εμβάπτιση μπορεί να μειώσει δραματικά τη χρήση ενέργειας, καθώς εξαλείφει την ανάγκη για συστήματα κλιματισμού και άλλα ενεργά εξαρτήματα ψύξης.

 

▲Σύστημα ψύξης υγρού εμβάπτισης

 

Εξάλλου,Immersion Liquid Coolingείναι εξαιρετικά επεκτάσιμο, καθιστώντας το ιδανικό για κέντρα δεδομένων που χειρίζονται φόρτους εργασίας AI που παράγουν σημαντικές ποσότητες θερμότητας, όπως αυτά που τροφοδοτούνται από την αρχιτεκτονική Blackwell της Nvidia. Καθώς τα μεγαλύτερα μοντέλα τεχνητής νοημοσύνης γίνονται πιο διαδεδομένα, η ψύξη με εμβάπτιση μπορεί να γίνει η ιδανική λύση για κέντρα δεδομένων που επιθυμούν να κλιμακώσουν τις λειτουργίες τους, ελαχιστοποιώντας ταυτόχρονα το ενεργειακό κόστος και τις περιβαλλοντικές επιπτώσεις.

 

 

 

Η επένδυση της Silicon Valley στις τεχνολογίες ψύξης

 

Η αυξανόμενη ζήτηση για πιο αποτελεσματικές λύσεις ψύξης σε κέντρα δεδομένων τεχνητής νοημοσύνης έχει τραβήξει την προσοχή των εταιρειών επιχειρηματικού κεφαλαίου, ιδιαίτερα σεSilicon Valley. Αυτές οι εταιρείες επενδύουν ενεργά σε νεοφυείς επιχειρήσεις που ειδικεύονταιυγρή ψύξητεχνολογίες, αναγνωρίζοντας ότι οι καινοτομίες σε αυτόν τον τομέα είναι απαραίτητες για το μέλλον του υλικού τεχνητής νοημοσύνης.

 

Οι νεοφυείς επιχειρήσεις αναπτύσσονταιπροηγμένες λύσεις ψύξηςόχι μόνο παρέχουν άμεσα οφέλη για τα συστήματα τεχνητής νοημοσύνης τρέχουσας γενιάς, αλλά θέτουν τις βάσεις για το επόμενο κύμα υλικού τεχνητής νοημοσύνης, το οποίο πιθανότατα θα απαιτήσει ακόμη πιο εξελιγμένες μεθόδους ψύξης. Αυτές οι τεχνολογίες πρέπει να αντιμετωπίζουν τόσο τις απαιτήσεις υψηλής ισχύος όσο και τις θερμικές προκλήσεις των συστημάτων τεχνητής νοημοσύνης, καθιστώντας τις ελκυστική επένδυση για όσους θέλουν να ξεπεράσουν τα όρια του δυνατού στους υπολογιστές υψηλής απόδοσης.

 

▲ AI Data Center Investment Trends

 

 

Σύναψη

 

Καθώς το υλικό τεχνητής νοημοσύνης συνεχίζει να εξελίσσεται, η ζήτηση για καινοτόμες τεχνολογίες ψύξης αυξάνεται. της NvidiaΑρχιτεκτονική Blackwellβρίσκεται στην πρώτη γραμμή αυτής της στροφής, αξιοποιώνταςζεστό νερό Απευθείας στο Chipψύξη για αύξηση της απόδοσης και μείωση του λειτουργικού κόστους.Υγρή ψύξη, είτε μέσω άμεσης επαφής είτε μέσω μεθόδων εμβάπτισης, αποδεικνύεται ότι είναι ο πιο αποτελεσματικός τρόπος διαχείρισης της τεράστιας κατανάλωσης ενέργειας και της παραγωγής θερμότητας των σύγχρονων συστημάτων τεχνητής νοημοσύνης.

 

Οι εταιρείες επιχειρηματικού κεφαλαίου προσέχουν, με πολλές επενδύσεις σε νεοφυείς επιχειρήσεις που μπορούν να προσφέρουν λύσεις ψύξης επόμενης γενιάς. Καθώς τα κέντρα δεδομένων τεχνητής νοημοσύνης γίνονται μεγαλύτερα και πιο περίπλοκα, η σημασία των αποδοτικών και κλιμακούμενων συστημάτων ψύξης θα αυξηθεί, καθιστώντας την υγρή ψύξη ακρογωνιαίο λίθο της μελλοντικής υπολογιστικής υποδομής υψηλής απόδοσης.