The Rise of Liquid Cooling Solutions in AI Servers: A TrendForce Analysis

Oct 03, 2024

Αφήστε ένα μήνυμα

 

Ⅰ Εισαγωγή

 

Σύμφωνα με την τελευταία έρευνα της TrendForce, ο ρυθμός διείσδυσης των λύσεων υγρής ψύξης αναμένεται να αυξηθεί, λόγω της αναμενόμενης αποστολής της πλατφόρμας NVIDIA Blackwell το τέταρτο τρίμηνο του 2024. Αυτό το ποσοστό προβλέπεται να αυξηθεί από περίπου 10% το 2024 σε πάνω από 20% το 2025. Η αυξανόμενη παγκόσμια συνειδητοποίηση των παραγόντων Περιβαλλοντικής, Κοινωνικής και Διακυβέρνησης (ESG), σε συνδυασμό με την ταχεία κατασκευή διακομιστών τεχνητής νοημοσύνης από παρόχους υπηρεσιών Cloud (CSP), ανοίγει το δρόμο για μια σημαντική αλλαγή από την παραδοσιακή ψύξη αέρα σε προηγμένα διαλύματα υγρής ψύξης.

 

Η υγρή ψύξη προσφέρει πολλά πλεονεκτήματα έναντι της ψύξης με αέρα, συμπεριλαμβανομένης της βελτιωμένης θερμικής διαχείρισης, των μειωμένων επιπέδων θορύβου και της αυξημένης ενεργειακής απόδοσης. Καθώς η ζήτηση για δυνατότητες τεχνητής νοημοσύνης αυξάνεται, ιδιαίτερα σε εφαρμογές έντασης δεδομένων, η μετάβαση σε συστήματα υγρής ψύξης γίνεται όλο και πιο κρίσιμη για τη διατήρηση της βέλτιστης απόδοσης διακομιστή.

 

A liquid cooling system installed in an AI server environment, showcasing the advanced cooling technology

▲ Σύστημα υγρής ψύξης που χρησιμοποιείται σε περιβάλλοντα διακομιστή AI

 

 

Ⅱ Κυριαρχία της NVIDIA στην αγορά διακομιστών AI

 

Στην παγκόσμια αγορά διακομιστών AI, η NVIDIA συνεχίζει να κυριαρχεί, κατέχοντας μερίδιο αγοράς κοντά στο 90% στο τμήμα διακομιστών GPU AI από το 2024. Η AMD ακολουθεί σημαντικά με περίπου 8% μερίδιο αγοράς. Αυτή η κυριαρχία οφείλεται σε μεγάλο βαθμό στην τεχνολογία αιχμής της NVIDIA και στο ισχυρό οικοσύστημά της, το οποίο υποστηρίζει ένα ευρύ φάσμα εφαρμογών στην τεχνητή νοημοσύνη, τη μηχανική μάθηση και την ανάλυση δεδομένων.

 

Η TrendForce σημειώνει ότι η κλίμακα αποστολής της NVIDIA Blackwell φέτος είναι σχετικά μικρή. Αυτό οφείλεται κυρίως στο ότι η πλατφόρμα υποβάλλεται σε τελικές δοκιμές και διαδικασίες επικύρωσης εντός της εφοδιαστικής αλυσίδας, οι οποίες απαιτούν συνεχή βελτιστοποίηση σε τομείς όπως η μετάδοση δεδομένων υψηλής ταχύτητας και ο σχεδιασμός ψύξης. Η αυξημένη κατανάλωση ενέργειας της πλατφόρμας Blackwell, ιδιαίτερα στη λύση rack GB200, απαιτεί ανώτερη απόδοση ψύξης, επιταχύνοντας περαιτέρω την υιοθέτηση λύσεων υγρής ψύξης.

 

NVIDIA Blackwell platform designed for high-performance AI server applications

▲ Πλατφόρμα NVIDIA Blackwell για διακομιστές AI

 

Παρά τα πλεονεκτήματα της υγρής ψύξης, το τρέχον οικοσύστημα διακομιστή εξακολουθεί να παρουσιάζει χαμηλό ποσοστό υιοθέτησης αυτής της τεχνολογίας. Οι κατασκευαστές πρωτότυπου σχεδιασμού (ODM) πρέπει να περιηγηθούν σε μια καμπύλη εκμάθησης για να αντιμετωπίσουν προκλήσεις που σχετίζονται με τη διαρροή και την απόδοση ψύξης. Καθώς το ποσοστό των high-end GPUs στην πλατφόρμα Blackwell αναμένεται να ξεπεράσει το 80% έως το 2025, αυτό θα πυροδοτήσει τον ανταγωνισμό μεταξύ των κατασκευαστών τροφοδοτικών και της βιομηχανίας ψύξης στην αναδυόμενη αγορά υγρής ψύξης AI, οδηγώντας σε ένα νέο ανταγωνιστικό τοπίο.

 

 

 

Ⅲ Επιταχυνόμενη ανάπτυξη από μεγάλα CSP

 

Μεγάλοι πάροχοι υπηρεσιών cloud, συμπεριλαμβανομένων των Google, AWS και Microsoft, έχουν επιταχύνει γρήγορα τις αναπτύξεις διακομιστών AI τους τα τελευταία χρόνια, χρησιμοποιώντας κατά κύριο λόγο GPU NVIDIA και ASIC που έχουν αναπτυχθεί μόνοι τους. Η θερμική ισχύς σχεδιασμού (TDP) του ντουλαπιού GB200 NVL72 της NVIDIA είναι περίπου 140 kW, υπογραμμίζοντας την επείγουσα ανάγκη για λύσεις υγρής ψύξης για την αποτελεσματική διαχείριση της απαγωγής θερμότητας. Οι μέθοδοι ψύξης υγρού προς αέρα (L2A) αναμένεται να γίνουν η κύρια προσέγγιση σε αυτό το πλαίσιο.

 

AI server deployment in modern data centers, highlighting the use of advanced cooling solutions

▲ Ανάπτυξη διακομιστή AI σε κέντρα δεδομένων

 

Ενώ οι GPU της NVIDIA κυριαρχούν, η Google ήταν επίσης προληπτική στην εξερεύνηση λύσεων υγρής ψύξης για τις Μονάδες Επεξεργασίας Τενυστήρα (TPU). Η δέσμευση της Google σε αυτήν την τεχνολογία την τοποθετεί ως την πιο προνοητική εταιρεία των ΗΠΑ στην υιοθέτηση της υγρής ψύξης. Η BOYD και η Cooler Master είναι οι κύριοι προμηθευτές για τις ψυχρές πλάκες της Google, οι οποίες είναι κρίσιμες για τη διατήρηση των βέλτιστων θερμοκρασιών σε περιβάλλοντα υπολογιστών υψηλής απόδοσης.

 

Στην ηπειρωτική Κίνα, η Alibaba επεκτείνει επιθετικά τα κέντρα δεδομένων υγρής ψύξης, δίνοντας περαιτέρω έμφαση στην παγκόσμια στροφή προς αυτήν την προηγμένη τεχνολογία ψύξης. Άλλοι πάροχοι υπηρεσιών cloud εξακολουθούν κυρίως να βασίζονται σε λύσεις ψύξης αέρα για τα αυτοαναπτυγμένα AI ASIC τους, τα οποία ενδέχεται να εμποδίζουν την απόδοση σε σύγκριση με τα υγρόψυκτα συστήματα.

 

 

Ⅳ Βασικοί προμηθευτές και προσδιορισμός εξαρτημάτων

 

Καθώς η στροφή προς την υγρή ψύξη κερδίζει δυναμική, οι πάροχοι υπηρεσιών cloud ορίζουν βασικούς προμηθευτές εξαρτημάτων για τις λύσεις υγρής ψύξης του ντουλαπιού GB200. Επί του παρόντος, η Qihong και η Cooler Master είναι κορυφαίοι προμηθευτές για κρύες πλάκες, ενώ τα εξαρτήματα πολλαπλής προέρχονται από την Cooler Master και την Shuanghong. Οι μονάδες διανομής ψυκτικού υγρού (CDU) παρέχονται από κορυφαίους κλάδους όπως η Vertiv και η Delta.

 

Για κρίσιμα εξαρτήματα πρόληψης διαρροών, όπως οι γρήγορες αποσυνδέσεις (QD), κατασκευαστές όπως CPC, Parker Hannifin, Danfoss και Staubli συμμετέχουν σε μεγάλο βαθμό στις προμήθειες. Καθώς επιπλέον προμηθευτές όπως η Jiazhe και η Fushida εισέρχονται στο στάδιο επικύρωσης, θα έχουν ευκαιρίες να προμηθεύουν εξαρτήματα γρήγορης αποσύνδεσης το πρώτο εξάμηνο του 2025, συμβάλλοντας στον μετριασμό της τρέχουσας ανισορροπίας προσφοράς-ζήτησης.

 

Various suppliers involved in the liquid cooling component supply chain for AI servers.

▲ Βασικοί προμηθευτές για εξαρτήματα υγρής ψύξης

 

 

Ⅴ Τα πλεονεκτήματα της υγρής ψύξης

 

Βελτιωμένη απόδοση ψύξης

Τα συστήματα υγρής ψύξης έχουν σχεδιαστεί για να αφαιρούν τη θερμότητα πιο αποτελεσματικά από τα συστήματα ψύξης αέρα. Αυτό είναι ιδιαίτερα σημαντικό σε εφαρμογές τεχνητής νοημοσύνης όπου οι επεξεργαστές μπορούν να παράγουν σημαντική θερμότητα λόγω υψηλών υπολογιστικών απαιτήσεων. Χρησιμοποιώντας υγρό για την απορρόφηση και τη μεταφορά θερμότητας μακριά από εξαρτήματα, οι διακομιστές μπορούν να λειτουργούν σε χαμηλότερες θερμοκρασίες, μειώνοντας τον κίνδυνο θερμικού στραγγαλισμού και βελτιώνοντας την απόδοση.

 

Βελτιστοποίηση χώρου

Τα συστήματα υγρής ψύξης καταλαμβάνουν συχνά λιγότερο χώρο από τις παραδοσιακές λύσεις ψύξης αέρα, επιτρέποντας πιο αποτελεσματικό σχεδιασμό του κέντρου δεδομένων. Αυτό το χαρακτηριστικό εξοικονόμησης χώρου είναι ιδιαίτερα επωφελές για οργανισμούς που θέλουν να μεγιστοποιήσουν τη χωρητικότητα του διακομιστή τους χωρίς να επεκτείνουν το φυσικό τους αποτύπωμα.

 

Ενεργειακή Απόδοση

Με αυξανόμενη εστίαση στη βιωσιμότητα και την ενεργειακή απόδοση, οι λύσεις υγρής ψύξης μπορούν να συμβάλουν στη μείωση της συνολικής κατανάλωσης ενέργειας των κέντρων δεδομένων. Ελαχιστοποιώντας την εξάρτηση από ανεμιστήρες και μονάδες κλιματισμού, η υγρή ψύξη μπορεί να μειώσει το ενεργειακό κόστος και τα αποτυπώματα άνθρακα, ευθυγραμμίζοντας με τους στόχους ESG που πολλές εταιρείες προσπαθούν να επιτύχουν.

 

Μείωση Θορύβου

Τα συστήματα υγρής ψύξης λειτουργούν πιο αθόρυβα από τα παραδοσιακά αερόψυκτα συστήματα, οδηγώντας σε ένα πιο ευχάριστο περιβάλλον εργασίας στα κέντρα δεδομένων. Αυτή η μείωση του θορύβου αποτελεί σημαντικό παράγοντα για εγκαταστάσεις που βρίσκονται κοντά σε κατοικημένες περιοχές ή εντός κτιρίων γραφείων.

 

 

Ⅵ Αντιμετώπιση κοινών προκλήσεων

 

Παρά τα οφέλη, η μετάβαση στην υγρή ψύξη συνοδεύεται από προκλήσεις. Αυτά περιλαμβάνουν:

 

Αρχικές δαπάνες

Η αρχική επένδυση για συστήματα υγρής ψύξης μπορεί να είναι υψηλότερη από τις παραδοσιακές λύσεις ψύξης αέρα. Οι οργανισμοί πρέπει να σταθμίσουν αυτό το κόστος σε σχέση με τα μακροπρόθεσμα οφέλη και την εξοικονόμηση ενέργειας στην ενεργειακή απόδοση και συντήρηση.

 

Ανησυχίες διαρροής

Μία από τις πιο σημαντικές προκλήσεις που σχετίζονται με την υγρή ψύξη είναι ο κίνδυνος διαρροών. Ο σωστός σχεδιασμός, η επιλογή υλικών και τα πρωτόκολλα συντήρησης είναι απαραίτητα για τον μετριασμό αυτού του κινδύνου και τη διασφάλιση της αξιοπιστίας του συστήματος.

 

Πολυπλοκότητα συντήρησης

Τα συστήματα υγρής ψύξης απαιτούν πιο περίπλοκη συντήρηση σε σύγκριση με τα αερόψυκτα συστήματα. Οι οργανισμοί πρέπει να εκπαιδεύουν το προσωπικό τους ή να προσλαμβάνουν εξειδικευμένους παρόχους υπηρεσιών για να διασφαλίσουν ότι οι λύσεις υγρής ψύξης παραμένουν αποτελεσματικές και χωρίς προβλήματα.

 

 

Ⅶ Μελλοντικές τάσεις στην υγρή ψύξη

 

Καθώς η ζήτηση για υπολογιστές AI συνεχίζει να αυξάνεται, αρκετές μελλοντικές τάσεις αναμένεται να διαμορφώσουν το τοπίο της υγρής ψύξης:

 

Υιοθέτηση Υβριδικών Λύσεων

Τα υβριδικά συστήματα ψύξης που συνδυάζουν τεχνολογίες ψύξης αέρα και υγρού είναι πιθανό να κερδίσουν έλξη. Αυτά τα συστήματα μπορούν να παρέχουν ευελιξία και αποτελεσματικότητα, προσαρμοζόμενα σε διαφορετικούς φόρτους εργασίας και λειτουργικές ανάγκες.

 

Προηγμένα Υλικά

Η ανάπτυξη προηγμένων υλικών για εξαρτήματα υγρής ψύξης μπορεί να βελτιώσει την απόδοση και την αξιοπιστία. Οι καινοτομίες στην επιστήμη των υλικών μπορεί να οδηγήσουν σε ελαφρύτερες, πιο ανθεκτικές και πιο αποτελεσματικές λύσεις ψύξης.

 

Ενοποίηση με AI και IoT

Η ενσωμάτωση των τεχνολογιών AI και IoT στα συστήματα ψύξης μπορεί να βελτιστοποιήσει την απόδοση επιτρέποντας την παρακολούθηση σε πραγματικό χρόνο και τις αυτοματοποιημένες προσαρμογές με βάση τις περιβαλλοντικές συνθήκες και τον φόρτο εργασίας του διακομιστή.

 

Εστίαση στη βιωσιμότητα

Καθώς οι εταιρείες δίνουν ολοένα και μεγαλύτερη προτεραιότητα στη βιωσιμότητα, οι λύσεις υγρής ψύξης που χρησιμοποιούν ψυκτικά και φιλικά προς το περιβάλλον ψυκτικά και υλικά θα γίνουν πιο διαδεδομένες. Ο κλάδος μπορεί να δει μια στροφή προς συστήματα κλειστού βρόχου για την ελαχιστοποίηση των αποβλήτων και των περιβαλλοντικών επιπτώσεων.

 

 Future trends in liquid cooling technology

▲ Μελλοντικές τάσεις στην τεχνολογία υγρής ψύξης

 

 

 

Ⅷ Συμπέρασμα

 

Η μετάβαση από λύσεις ψύξης αέρα σε υγρές λύσεις σε διακομιστές τεχνητής νοημοσύνης αντιπροσωπεύει μια σημαντική εξέλιξη στον κλάδο, με γνώμονα τις εξελίξεις στην τεχνολογία και την αυξανόμενη ζήτηση για αποτελεσματική διαχείριση θερμότητας. Με τη NVIDIA να ηγείται της χρέωσης στην αγορά διακομιστών τεχνητής νοημοσύνης και τους μεγάλους παρόχους υπηρεσιών cloud όπως η Google να εξερευνούν ενεργά τις επιλογές υγρής ψύξης, το τοπίο αλλάζει γρήγορα.

 

Κατανοώντας τα οφέλη και τις προκλήσεις της υγρής ψύξης, καθώς και τους βασικούς παράγοντες που εμπλέκονται στην εφαρμογή της, οι οργανισμοί μπορούν να τοποθετηθούν καλύτερα ώστε να αξιοποιήσουν αυτήν την τεχνολογία για βελτιωμένη απόδοση, βιωσιμότητα και ανταγωνιστικότητα στο τοπίο της τεχνητής νοημοσύνης. Καθώς ο κλάδος προχωρά, οι λύσεις υγρής ψύξης θα διαδραματίσουν κρίσιμο ρόλο στη διαμόρφωση του μέλλοντος των κέντρων δεδομένων, διασφαλίζοντας ότι μπορούν να ανταποκριθούν στις απαιτήσεις των εφαρμογών τεχνητής νοημοσύνης επόμενης γενιάς.

 

 

 

 

Αποστολή ερώτησής